<div dir="ltr"><div class="gmail_default" style="font-family:arial,sans-serif;font-size:small">Hi all,</div><div class="gmail_default" style="font-family:arial,sans-serif;font-size:small">Thanks for the discussion. A few months ago I <a href="https://ssir.org/articles/entry/ai-building-community-governance#" target="_blank">wrote a piece for SSIR</a> advocating for civil society funders and orgs to address tech co power consolidation through community-led governance. This speaks to accountability more broadly than to specifics of the technology/algorithms, so I'm not sure if this directly answers your questions, Kate, but sending it in case it is of interest.</div><div class="gmail_default" style="font-family:arial,sans-serif;font-size:small"><br></div><div class="gmail_default" style="font-family:arial,sans-serif;font-size:small">Lina</div><div class="gmail_default" style="font-family:arial,sans-serif;font-size:small"><br></div><div class="gmail_default" style="font-family:arial,sans-serif;font-size:small"><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jun 18, 2024 at 11:29 PM Paola Di Maio <<a href="mailto:paoladimaio10@gmail.com" target="_blank">paoladimaio10@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>Kate</div><div>thanks for bringing up the questions, which make sense</div><div>But technically, they may be <b><i>'ill posed' </i></b>(imho)</div><div>That is because there is a mixup and overlap in terminology/concepts/implementations adopting the same</div><div>terminology applied to different concepts etc</div><div><br></div><div>All algorithms are in principle auditable even when they are proprietary, and the only way companies can maintain their</div><div>competitive advantage is by keeping he algorithms proprietary, or de facto, a trade secret</div><div>You cannot make any laws against trade secrets afaik</div><div>Some of these algorithms are useful and amazing even, technically</div><div>but for example, I started to notice that when I leave a whatsapp message to someone</div><div>the content of my message is picked and turns up into the adveritisng on FB and in turn</div><div>via some agreement that I may not know about, it turns up in adverts on youtube, google search etc</div><div><br></div><div>To what extent are the search results that I obtain skewed based on my user profile, which is in turn based on my login credentials, which is in turn based on the apps/web services that i use?</div><div>I would say it's a lot skewed.  how so?  by a mixture of algorithms , commercial agreements, trade secrets which are all legal</div><div><br></div><div>I think one face of the blockchain may be to  disrupt this entanglement by encryptions and fragmentation</div><div>but the reality, is that the master key is only visible to some, and THEY are building the machine, in the name of democratization of the internet, go figure<br></div><div><br></div><div>My advice would be, start auditing individual functions (input-process-output) for each task/app</div><div>then build the map of the ecosystem entanglement from there, keeping in mind that by means of generative algorithm</div><div>the map is constantly reconfiguring itself, and not traceable (a property of the blockchain, auch)</div><div>and NOT REPLICABLE (a property of generative algos)</div><div><br></div><div>
Very very thorny entanglement, the best we can do is to stay on top of things <br></div><div>(scratching head)<br></div><div><br></div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Jun 19, 2024 at 4:52 AM Kate Krauss <<a href="mailto:katiephr@gmail.com" target="_blank">katiephr@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default">Hi,</div><div class="gmail_default"><br></div><div class="gmail_default">I'm trying to understand the lay of the land.</div><div class="gmail_default"><br></div><div class="gmail_default">So, generative AI company algorithms are proprietary, like Facebook's and Tiktok's have been all along. Companies still aren't sharing algorithms with researchers, even if they sign a non-disclosure agreement (still true?). If we can't see it, we can't analyze it, regulate it, amend it, or make it accountable. I've always been surprised that people don't leak them. </div><div class="gmail_default"><br></div><div class="gmail_default">Companies could be compelled to make their algorithms more transparent if there were a law that requires it, but so far there's no law. <br><br>Paola, if your field is algorithmic auditability, do you ever see proprietary algorithms? If so, how?</div><div class="gmail_default"><br></div><div class="gmail_default">Also:</div><div class="gmail_default"><br></div><div class="gmail_default">Earlier today Lina Khan, head of the US Federal Trade Commission, tweeted:<br><span style="background-color:rgba(0,0,0,0.03);color:rgb(15,20,25);font-family:TwitterChirp,-apple-system,"system-ui","Segoe UI",Roboto,Helvetica,Arial,sans-serif">---
Today </span><a dir="ltr" href="https://x.com/FTC" role="link" style="background-color:rgba(0,0,0,0);font-style:inherit;font-variant:inherit;font-weight:inherit;font-stretch:inherit;line-height:inherit;font-family:inherit;font-kerning:inherit;font-feature-settings:inherit;white-space:inherit;border:0px solid black;box-sizing:border-box;color:rgb(29,155,240);display:inline;list-style:none;margin:0px;padding:0px;text-align:inherit;text-decoration-line:none;min-width:0px;text-overflow:unset" target="_blank">@FTC</a> <span style="background-color:rgba(0,0,0,0.03);color:rgb(15,20,25);font-family:TwitterChirp,-apple-system,"system-ui","Segoe UI",Roboto,Helvetica,Arial,sans-serif">referred its case against TikTok to the Civil Division at </span></div><div style="background-color:rgba(0,0,0,0.03);border:0px solid black;box-sizing:border-box;display:inline-flex;list-style:none;margin:0px;min-height:0px;min-width:0px;padding:0px;color:rgb(15,20,25);font-family:TwitterChirp,-apple-system,"system-ui","Segoe UI",Roboto,Helvetica,Arial,sans-serif"><span><a dir="ltr" href="https://x.com/TheJusticeDept" role="link" style="background-color:rgba(0,0,0,0);border:0px solid black;box-sizing:border-box;color:rgb(29,155,240);display:inline;font-style:inherit;font-variant:inherit;font-weight:inherit;font-stretch:inherit;line-height:inherit;font-family:inherit;font-kerning:inherit;font-feature-settings:inherit;list-style:none;margin:0px;padding:0px;text-align:inherit;text-decoration-line:none;white-space:inherit;min-width:0px;text-overflow:unset" target="_blank">@TheJusticeDept</a></span></div><span style="background-color:rgba(0,0,0,0.03);border:0px solid black;box-sizing:border-box;color:rgb(15,20,25);display:inline;font-variant-numeric:inherit;font-variant-east-asian:inherit;font-variant-alternates:inherit;font-stretch:inherit;line-height:inherit;font-family:TwitterChirp,-apple-system,"system-ui","Segoe UI",Roboto,Helvetica,Arial,sans-serif;font-kerning:inherit;font-feature-settings:inherit;list-style:none;margin:0px;padding:0px;min-width:0px;text-overflow:unset">. 

Our investigation found reason to believe that TikTok is violating 
or about to violate the FTC Act and the Children’s Online Privacy Protection Act (COPPA).</span><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default">----</span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default">As a complete non-lawyer, I was interested to see that TikTok was getting in trouble partly because the FTC believes they are<i><b> about to violate these laws. </b></i> Users are about to get injured by Tiktok, predicts the FTC. I didn't know a company could be sued for something it hasn't done wrong yet. </span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default"><br></span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default">If so, could this apply to generative AI companies? </span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default"><br></span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default">Is there a lawyer who might answer that question?</span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default"><br></span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default" style="font-size:small">-Kate</span></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><br></span></font></div><div><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><span class="gmail_default" style="font-size:small">ps: Here's the link for such a lawyer to sign up for this list: </span></span></font><a href="https://lists.ghserv.net/mailman/listinfo/lt" target="_blank">https://lists.ghserv.net/mailman/listinfo/lt</a><span class="gmail_default" style="font-size:small"> and for us, here are short explanations of</span><span style="color:rgb(15,20,25);font-family:TwitterChirp,-apple-system,system-ui,"Segoe UI",Roboto,Helvetica,Arial,sans-serif"> </span><a href="https://www.ftc.gov/legal-library/browse/statutes/federal-trade-commission-act" style="font-family:TwitterChirp,-apple-system,system-ui,"Segoe UI",Roboto,Helvetica,Arial,sans-serif" target="_blank">the FTC Act</a><span style="color:rgb(15,20,25);font-family:TwitterChirp,-apple-system,system-ui,"Segoe UI",Roboto,Helvetica,Arial,sans-serif"> and </span><a href="https://www.ftc.gov/legal-library/browse/rules/childrens-online-privacy-protection-rule-coppa" style="font-family:TwitterChirp,-apple-system,system-ui,"Segoe UI",Roboto,Helvetica,Arial,sans-serif" target="_blank">COPPA</a><span class="gmail_default" style="font-size:small">. </span><font color="#0f1419" face="TwitterChirp, -apple-system, system-ui, Segoe UI, Roboto, Helvetica, Arial, sans-serif"><span><br></span></font><div class="gmail_default" style="font-size:small"><br></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jun 18, 2024 at 12:36 AM Kate Krauss <<a href="mailto:katiephr@gmail.com" target="_blank">katiephr@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_default" style="font-size:small">Yes, that's an interesting idea, Hans. </div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">Former NSA chief Keith Alexander, who has a history of lying about spying on Americans, is on Amazon's board. </div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small">-Kate</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jun 18, 2024 at 12:21 AM Klein, Hans K <<a href="mailto:hans@gatech.edu" target="_blank">hans@gatech.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div>





<div lang="EN-US">
<div>
<p class="MsoNormal">The case of OpenAI is one instance of a general trend in which national security agencies overlap with IT/media corporations. 
<u></u><u></u></p>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal">The same thing happened at Twitter, I believe: <a href="https://twitterfiles.substack.com/p/1-thread-the-twitter-files" target="_blank">
https://twitterfiles.substack.com/p/1-thread-the-twitter-files</a><u></u><u></u></p>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal">It would be quite useful and interesting for someone to perform some non-partisan research on such ties in general.<u></u><u></u></p>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal">Hans Klein<u></u><u></u></p>
<p class="MsoNormal">Georgia Tech<u></u><u></u></p>
<p class="MsoNormal"><u></u> <u></u></p>
<p class="MsoNormal"><u></u> <u></u></p>
<div style="border-width:1pt medium medium;border-style:solid none none;border-color:rgb(225,225,225) currentcolor currentcolor;padding:3pt 0in 0in">
<p class="MsoNormal"><b><span style="font-size:11pt;font-family:Calibri,sans-serif">From:</span></b><span style="font-size:11pt;font-family:Calibri,sans-serif"> LT <<a href="mailto:lt-bounces@lists.liberationtech.org" target="_blank">lt-bounces@lists.liberationtech.org</a>>
<b>On Behalf Of </b>Paola Di Maio<br>
<b>Sent:</b> Monday, June 17, 2024 10:46 PM<br>
<b>To:</b> Isaac M <<a href="mailto:isaac.mao@gmail.com" target="_blank">isaac.mao@gmail.com</a>><br>
<b>Cc:</b> <a href="mailto:cat.zakrzewski@washpost.com" target="_blank">cat.zakrzewski@washpost.com</a>; Kate Krauss <<a href="mailto:katiephr@gmail.com" target="_blank">katiephr@gmail.com</a>>; LT <<a href="mailto:lt@lists.liberationtech.org" target="_blank">lt@lists.liberationtech.org</a>>; <a href="mailto:gerrit.devynck@washpost.com" target="_blank">gerrit.devynck@washpost.com</a>; Andrés Leopoldo Pacheco Sanfuentes <<a href="mailto:alps6085@gmail.com" target="_blank">alps6085@gmail.com</a>><br>
<b>Subject:</b> Re: [liberationtech] OpenAI adds Trump-appointed former NSA director to its board<u></u><u></u></span></p>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<div>
<p class="MsoNormal">Thank you Kate for bringing up this issue here<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">How do you think this should be tackled? My work is in algorithmic auditablity, awareness and explainability<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">trying to develop more understanding and possibly standards<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">what do people suggest?<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal"><i>Note for Sawsan: I think the reference to the president here was purely related to the person being part of that administration at the time?</i><u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal"><i>Paola Di Maio W3C AI KR CG</i><u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<div>
<p class="MsoNormal">On Tue, Jun 18, 2024 at 4:41<span style="font-family:Arial,sans-serif"> </span>AM Isaac M <<a href="mailto:isaac.mao@gmail.com" target="_blank">isaac.mao@gmail.com</a>> wrote:<u></u><u></u></p>
</div>
<blockquote style="border-width:medium medium medium 1pt;border-style:none none none solid;border-color:currentcolor currentcolor currentcolor rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in">
<div>
<div>
<p class="MsoNormal">We should never place our hopes on company boards functioning in the public interest. The recent debacles at Boeing and Tesla demonstrate this. In Tesla's case, the board and shareholders with meme greed have only indulged Elon Musk, further
 bolstering his feudalistic tendencies.<u></u><u></u></p>
</div>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<div>
<p class="MsoNormal">On Tue, Jun 18, 2024 at 8:19<span style="font-family:Arial,sans-serif"> </span>AM Kate Krauss <<a href="mailto:katiephr@gmail.com" target="_blank">katiephr@gmail.com</a>> wrote:<u></u><u></u></p>
</div>
<blockquote style="border-width:medium medium medium 1pt;border-style:none none none solid;border-color:currentcolor currentcolor currentcolor rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in">
<div>
<div>
<div>
<p class="MsoNormal">So OpenAI has a conflicted mission, a weak board, an insanely risky goal, and no accountability (am I missing something?). Oh right, their product is evolving at a million miles an hour.
<br>
<br>
They've shed many of the staff and board members who cared most about safety. <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Microsoft, their funder, could reign them in but it is motivated instead to egg them on.  And now they've got a board member with very close ties to two US presidents and one of the world's most powerful spy agencies. The keys are on the
 table, as Juan Benet would say.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">I don't think OpenAI could be getting more press coverage--the coverage has been near-constant and pretty responsible. <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Are the NGOs working on this having any luck? <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">-Kate<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
</div>
<div>
<div>
<p class="MsoNormal">On Sun, Jun 16, 2024 at 12:27<span style="font-family:Arial,sans-serif"> </span>PM Andrés Leopoldo Pacheco Sanfuentes <<a href="mailto:alps6085@gmail.com" target="_blank">alps6085@gmail.com</a>> wrote:<u></u><u></u></p>
</div>
<blockquote style="border-width:medium medium medium 1pt;border-style:none none none solid;border-color:currentcolor currentcolor currentcolor rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in">
<div>
<p class="MsoNormal">Sorry but “accountability” runs afoul of profit so many times, and the  “mission” of OpenAI is DoubleSpeak:<u></u><u></u></p>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal"><span style="font-size:17pt;font-family:Arial,sans-serif;color:black;letter-spacing:-0.05pt;background:white">OpenAI is an AI research and deployment company. Our mission is to ensure that artificial general intelligence benefits all
 of humanity.</span><u></u><u></u></p>
</div>
<div>
<p class="MsoNormal" align="center" style="text-align:center"><u></u> <u></u></p>
<div>
<div>
<p class="MsoNormal">Regards / Saludos / Grato<u></u><u></u></p>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Andrés Leopoldo Pacheco Sanfuentes<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">Pronouns: He/Him/They/Them (equal preference)<u></u><u></u></p>
</div>
</div>
<div>
<p class="MsoNormal"><br>
<br>
<u></u><u></u></p>
<blockquote style="margin-top:5pt;margin-bottom:5pt">
<p class="MsoNormal" style="margin-bottom:12pt">On Jun 16, 2024, at 10:52<span style="font-family:Arial,sans-serif"> </span>AM, Kate Krauss <<a href="mailto:katiephr@gmail.com" target="_blank">katiephr@gmail.com</a>> wrote:<u></u><u></u></p>
</blockquote>
</div>
<blockquote style="margin-top:5pt;margin-bottom:5pt">
<div>
<p class="MsoNormal"><span style="font-family:Tahoma,sans-serif"></span><u></u><u></u></p>
<div>
<div>
<p class="MsoNormal">Hi,<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">There is currently no accountability for the decisions at OpenAI, to my knowledge. What has to happen for that to change? The board is not working. <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">How can the company be held accountable? I'm especially interested in the thoughts of policy people and lawyers on this list.  And yes, choosing a spy chief for the board is a big red flag.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Sincerely,<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Kate<u></u><u></u></p>
</div>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<div>
<p class="MsoNormal">On Sat, Jun 15, 2024 at 12:16<span style="font-family:Arial,sans-serif"> </span>AM Sawsan Gad <<a href="mailto:sawsangad@gmail.com" target="_blank">sawsangad@gmail.com</a>> wrote:<u></u><u></u></p>
</div>
<blockquote style="border-width:medium medium medium 1pt;border-style:none none none solid;border-color:currentcolor currentcolor currentcolor rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in">
<div>
<p class="MsoNormal">Hello friends —<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">I was so happy when Liberationtech was resurrected, and of course a former head of NSA on AI is something that needs to covered and discussed. <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">However, I hope we’re not quickly degenerating into Trump-this Trump-that (and sensationalizing the title, only to realize the guy “was asked to continue under Biden” buried deep down inside). (!)<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Journalists may need to do this kind of (… work..?) to keep their jobs — god knows for how long. Normal people, not so much. <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">People are working very hard to restore a basic level of trust among family and friends, after the several political and civil abuses of the last few years. Let’s please keep good spirits and stay relevant on the things that we all care
 about, and not assume political leanings of others, and that magic words will evoke certain reactions à la Pavlov. <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Now, back to discussing OpenAI. :)<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">(Sorry Kate if that’s too forward. All respect to you, thank you for sharing the article). <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Sawsan Gad<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">PhD student - Geoinformatics<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">George Mason University<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<div>
<p class="MsoNormal">On Fri, Jun 14, 2024 at 8:05<span style="font-family:Arial,sans-serif"> </span>PM Kate Krauss <<a href="mailto:katiephr@gmail.com" target="_blank">katiephr@gmail.com</a>> wrote:<u></u><u></u></p>
</div>
<blockquote style="border-width:medium medium medium 1pt;border-style:none none none solid;border-color:currentcolor currentcolor currentcolor rgb(204,204,204);padding:0in 0in 0in 6pt;margin-left:4.8pt;margin-right:0in">
<div>
<div>
<p class="MsoNormal">Sam Altman, one of AI's most important leaders--at least for now--is a man with incredible contacts, wonderful social skills, and apparently few scruples. Appointing the former head of the NSA to OpenAI's board demonstrates that this company
 is unaccountable. This company puts Americans--and everybody else in the world--at risk.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">How can OpenAI be made accountable? The stakes are so high. Its board has already failed to contain it. <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Not even the worst part of this, but new board member Nakasone's hobby horse is that the US must out-compete China in generative AI.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">-Kate<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">ps: What happens at OpenAI if Trump is re-elected?<br>
<br>
<b>Washington Post:<br>
<br>
OpenAI adds Trump-appointed former NSA director to its board<br>
</b><br>
Paul M. Nakasone joins OpenAI’s board following a dramatic shakeup, as a tough regulatory environment pushes tech companies to board members with military expertise.<br>
<br>
By Cat Zakrzewski and Gerrit De Vynck<br>
Updated June 14, 2024 at 12:16 p.m. EDT|Published June 13, 2024 at 5:00 p.m. ED<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">The board appointment of retired Army Gen. Paul M. Nakasone comes as OpenAI tries to quell criticism of its security practices. (Ricky Carioti/The Washington Po<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">OpenAI has tapped former U.S. Army general and National Security Agency director Paul M. Nakasone to join its board of directors, the continuation of a reshuffling spurred by CEO Sam Altman’s temporary ousting in November.<br>
<br>
Nakasone, a Trump appointee who took over the NSA in 2018 and was asked to continue in the role under Biden, will join the OpenAI board’s Safety and Security Committee, which the company stood up in late May to evaluate and improve its policies to test models
 and curb abuse.<br>
<br>
The appointment of the career Army officer, who was the longest-serving leader of U.S. Cybercom, comes as OpenAI tries to quell criticism of its security practices — including from some of the company’s current and former employees who allege the ChatGPT-maker
 prioritizes profits over the safety of its products. The company is under increasing scrutiny following the exodus of several key employees and a public letter that called for sweeping changes to its practices.<br>
<br>
“OpenAI occupies a unique role, facing cyber threats while pioneering transformative technology that could revolutionize how institutions combat them," Nakasone told the Post in a statement. "I am looking forward to supporting the company in safeguarding its
 innovations while leveraging them to benefit society at large.”<br>
<br>
Amid the public backlash, OpenAI has said it is hiring more security engineers and increasing transparency about its approach to securing the systems that power its research. Last week, a former employee, Leopold Aschenbrenner, said on a podcast that he had
 written a memo to OpenAI’s board last year because he felt the company’s security was “egregiously insufficient” to stop a foreign government from taking control of its technology by hacking.<br>
<br>
Security researchers have also pointed out that chatbots are vulnerable to “prompt injection” attacks, in which hackers can break in to a company’s computer system through a chatbot that is hooked up to its internal databases. Some companies also ban their
 employees from using ChatGPT out of concern that OpenAI may not be able to properly protect sensitive information fed into its chatbot.<br>
<br>
Nakasone joins OpenAI’s board following a dramatic board shake-up. Amid a tougher regulatory environment and increased efforts to digitize government and military services, tech companies are increasingly seeking board members with military expertise. Amazon’s
 board includes Keith Alexander, who was previously the commander of U.S. Cyber Command and the director of the NSA. Google Public Sector, a division of the company that focuses on selling cloud services to governments, also has retired generals on its board.
 (Amazon founder Jeff Bezos owns The Washington Post.)<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><br>
Until January, OpenAI had a ban on the use of its products for “military and warfare.” The company says the prohibition was removed to allow for military uses that align with its values, including disaster relief and support for veterans.<br>
“Our policies have consistently prohibited the use of our tools including our API and ChatGPT to ‘develop or use weapons, injure others or destroy property,’” OpenAI spokesperson Liz Bourgeois said. “That has not changed.” Nakasone did not respond to a request
 for comment.<br>
<br>
Nakasone brings deep Washington experience to the board, as the company tries to build a more sophisticated government relations strategy and push the message to policymakers that U.S. AI companies are a bulwark against China.<br>
“We want to make sure that American companies ... have the lead in the innovation of this technology, I think the disruptive technology of this century,” Nakasone said when asked about AI during a recent Post Live interview.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">--<u></u><u></u></p>
</div>
</div>
<p class="MsoNormal">-- <br>
Liberationtech is public & archives are searchable. List rules: <a href="https://lists.ghserv.net/mailman/listinfo/lt" target="_blank">
https://lists.ghserv.net/mailman/listinfo/lt</a>. Unsubscribe, change to digest mode, or change password by emailing
<a href="mailto:lt-owner@lists.liberationtech.org" target="_blank">lt-owner@lists.liberationtech.org</a>.<u></u><u></u></p>
</blockquote>
</div>
</div>
</blockquote>
</div>
<p class="MsoNormal">-- <br>
Liberationtech is public & archives are searchable. List rules: <a href="https://lists.ghserv.net/mailman/listinfo/lt" target="_blank">
https://lists.ghserv.net/mailman/listinfo/lt</a>. Unsubscribe, change to digest mode, or change password by emailing
<a href="mailto:lt-owner@lists.liberationtech.org" target="_blank">lt-owner@lists.liberationtech.org</a>.<u></u><u></u></p>
</div>
</blockquote>
</div>
</div>
</div>
</blockquote>
</div>
</div>
<p class="MsoNormal">-- <br>
Liberationtech is public & archives are searchable. List rules: <a href="https://lists.ghserv.net/mailman/listinfo/lt" target="_blank">
https://lists.ghserv.net/mailman/listinfo/lt</a>. Unsubscribe, change to digest mode, or change password by emailing
<a href="mailto:lt-owner@lists.liberationtech.org" target="_blank">lt-owner@lists.liberationtech.org</a>.<u></u><u></u></p>
</blockquote>
</div>
<p class="MsoNormal">-- <br>
Liberationtech is public & archives are searchable. List rules: <a href="https://lists.ghserv.net/mailman/listinfo/lt" target="_blank">
https://lists.ghserv.net/mailman/listinfo/lt</a>. Unsubscribe, change to digest mode, or change password by emailing
<a href="mailto:lt-owner@lists.liberationtech.org" target="_blank">lt-owner@lists.liberationtech.org</a>.<u></u><u></u></p>
</blockquote>
</div>
</div>
</div>

</div></blockquote></div>
</blockquote></div>
</blockquote></div>
-- <br>
Liberationtech is public & archives are searchable. List rules: <a href="https://lists.ghserv.net/mailman/listinfo/lt" rel="noreferrer" target="_blank">https://lists.ghserv.net/mailman/listinfo/lt</a>. Unsubscribe, change to digest mode, or change password by emailing <a href="mailto:lt-owner@lists.liberationtech.org" target="_blank">lt-owner@lists.liberationtech.org</a>.<br>
</blockquote></div>