<div dir="auto">Hello friends —</div><div dir="auto"><br></div><div dir="auto">I was so happy when Liberationtech was resurrected, and of course a former head of NSA on AI is something that needs to covered and discussed. </div><div dir="auto"><br></div><div dir="auto">However, I hope we’re not quickly degenerating into Trump-this Trump-that (and sensationalizing the title, only to realize the guy “was asked to continue under Biden” buried deep down inside). (!)</div><div dir="auto"><br></div><div dir="auto">Journalists may need to do this kind of (… work..?) to keep their jobs — god knows for how long. Normal people, not so much. </div><div dir="auto"><br></div><div dir="auto">People are working very hard to restore a basic level of trust among family and friends, after the several political and civil abuses of the last few years. Let’s please keep good spirits and stay relevant on the things that we all care about, and not assume political leanings of others, and that magic words will evoke certain reactions à la Pavlov. </div><div dir="auto"><br></div><div dir="auto">Now, back to discussing OpenAI. :)</div><div dir="auto">(Sorry Kate if that’s too forward. All respect to you, thank you for sharing the article). </div><div dir="auto"><br></div><div dir="auto">Sawsan Gad</div><div dir="auto">PhD student - Geoinformatics</div><div dir="auto">George Mason University</div><div dir="auto"><br></div><div dir="auto"><br><div class="gmail_quote" dir="auto"><div dir="ltr" class="gmail_attr">On Fri, Jun 14, 2024 at 8:05 PM Kate Krauss <<a href="mailto:katiephr@gmail.com">katiephr@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="ltr"><div class="gmail_default" style="font-size:small">Sam Altman, one of AI's most important leaders--at least for now--is a man with incredible contacts, wonderful social skills, and apparently few scruples. Appointing the former head of the NSA to OpenAI's board demonstrates that this company is unaccountable. This company puts Americans--and everybody else in the world--at risk.</div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">How can OpenAI be made accountable? The stakes are so high. Its board has already failed to contain it. </div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">Not even the worst part of this, but new board member Nakasone's hobby horse is that the US must out-compete China in generative AI.<br></div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">-Kate</div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">ps: What happens at OpenAI if Trump is re-elected?<br><br><b>Washington Post:<br><br>OpenAI adds Trump-appointed former NSA director to its board<br></b><br>Paul M. Nakasone joins OpenAI’s board following a dramatic shakeup, as a tough regulatory environment pushes tech companies to board members with military expertise.<br><br>By Cat Zakrzewski and Gerrit De Vynck<br>Updated June 14, 2024 at 12:16 p.m. EDT|Published June 13, 2024 at 5:00 p.m. ED</div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">The board appointment of retired Army Gen. Paul M. Nakasone comes as OpenAI tries to quell criticism of its security practices. (Ricky Carioti/The Washington Po</div><div class="gmail_default" style="font-size:small">OpenAI has tapped former U.S. Army general and National Security Agency director Paul M. Nakasone to join its board of directors, the continuation of a reshuffling spurred by CEO Sam Altman’s temporary ousting in November.<br><br>Nakasone, a Trump appointee who took over the NSA in 2018 and was asked to continue in the role under Biden, will join the OpenAI board’s Safety and Security Committee, which the company stood up in late May to evaluate and improve its policies to test models and curb abuse.<br><br>The appointment of the career Army officer, who was the longest-serving leader of U.S. Cybercom, comes as OpenAI tries to quell criticism of its security practices — including from some of the company’s current and former employees who allege the ChatGPT-maker prioritizes profits over the safety of its products. The company is under increasing scrutiny following the exodus of several key employees and a public letter that called for sweeping changes to its practices.<br><br>“OpenAI occupies a unique role, facing cyber threats while pioneering transformative technology that could revolutionize how institutions combat them," Nakasone told the Post in a statement. "I am looking forward to supporting the company in safeguarding its innovations while leveraging them to benefit society at large.”<br><br>Amid the public backlash, OpenAI has said it is hiring more security engineers and increasing transparency about its approach to securing the systems that power its research. Last week, a former employee, Leopold Aschenbrenner, said on a podcast that he had written a memo to OpenAI’s board last year because he felt the company’s security was “egregiously insufficient” to stop a foreign government from taking control of its technology by hacking.<br><br>Security researchers have also pointed out that chatbots are vulnerable to “prompt injection” attacks, in which hackers can break in to a company’s computer system through a chatbot that is hooked up to its internal databases. Some companies also ban their employees from using ChatGPT out of concern that OpenAI may not be able to properly protect sensitive information fed into its chatbot.<br><br>Nakasone joins OpenAI’s board following a dramatic board shake-up. Amid a tougher regulatory environment and increased efforts to digitize government and military services, tech companies are increasingly seeking board members with military expertise. Amazon’s board includes Keith Alexander, who was previously the commander of U.S. Cyber Command and the director of the NSA. Google Public Sector, a division of the company that focuses on selling cloud services to governments, also has retired generals on its board. (Amazon founder Jeff Bezos owns The Washington Post.)</div><div class="gmail_default" style="font-size:small"><br>Until January, OpenAI had a ban on the use of its products for “military and warfare.” The company says the prohibition was removed to allow for military uses that align with its values, including disaster relief and support for veterans.<br>“Our policies have consistently prohibited the use of our tools including our API and ChatGPT to ‘develop or use weapons, injure others or destroy property,’” OpenAI spokesperson Liz Bourgeois said. “That has not changed.” Nakasone did not respond to a request for comment.<br><br>Nakasone brings deep Washington experience to the board, as the company tries to build a more sophisticated government relations strategy and push the message to policymakers that U.S. AI companies are a bulwark against China.<br>“We want to make sure that American companies ... have the lead in the innovation of this technology, I think the disruptive technology of this century,” Nakasone said when asked about AI during a recent Post Live interview.<br></div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">--</div></div>
-- <br>
Liberationtech is public & archives are searchable. List rules: <a href="https://lists.ghserv.net/mailman/listinfo/lt" rel="noreferrer" target="_blank">https://lists.ghserv.net/mailman/listinfo/lt</a>. Unsubscribe, change to digest mode, or change password by emailing <a href="mailto:lt-owner@lists.liberationtech.org" target="_blank">lt-owner@lists.liberationtech.org</a>.<br>
</blockquote></div></div>