<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:"Calibri Light";
        panose-1:2 15 3 2 2 2 4 3 2 4;}
@font-face
        {font-family:Garamond;
        panose-1:2 2 4 4 3 3 1 1 8 3;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;
        mso-fareast-language:EN-US;}
h1
        {mso-style-priority:9;
        mso-style-link:"Heading 1 Char";
        margin-top:12.0pt;
        margin-right:0cm;
        margin-bottom:0cm;
        margin-left:0cm;
        margin-bottom:.0001pt;
        line-height:106%;
        page-break-after:avoid;
        font-size:16.0pt;
        font-family:"Calibri Light",sans-serif;
        color:#2F5496;
        mso-fareast-language:EN-US;
        font-weight:normal;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:#954F72;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
span.Heading1Char
        {mso-style-name:"Heading 1 Char";
        mso-style-priority:9;
        mso-style-link:"Heading 1";
        font-family:"Calibri Light",sans-serif;
        color:#2F5496;}
span.syl
        {mso-style-name:syl;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-family:"Calibri",sans-serif;
        mso-fareast-language:EN-US;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-GB" link="#0563C1" vlink="#954F72">
<div class="WordSection1">
<h1>The Internet Needs J S Mill<o:p></o:p></h1>
<p class="MsoNormal" align="center" style="text-align:center">“It is hardly possible to overrate the value, in the present low state of human improvement, of placing human beings in contact with persons dissimilar to themselves, and with modes of thought and
 action unlike those with which they are familiar.” <a href="https://www.goodreads.com/quotes/99324-it-s-hardly-possible-to-overstate-the-value-in-the-present">
J S Mill</a><o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify">When <a href="https://en.wikipedia.org/wiki/Crocodile_Dundee">
Mick ‘Crocodile’ Dundee</a> arrives in New York he is told that it is home to seven million people. He replies: ‘<span style="mso-fareast-language:EN-GB">That's incredible. Imagine seven million people all wanting to live together. Yeah, New York must be the
</span><a href="https://getyarn.io/yarn-clip/a0987942-28b2-4191-9746-0cf53910620d"><span style="mso-fareast-language:EN-GB">friendliest place on earth</span></a><span style="mso-fareast-language:EN-GB">.’ Ironic in the extreme given the city’s reputation for
 widespread and gratuitous violence in the 1980s.<o:p></o:p></span></p>
<p class="MsoNormal" style="text-align:justify"><span style="mso-fareast-language:EN-GB">In similar fashion one can imagine Tim Berners-Lee anticipating his development of the WorldWideWeb heralding an era of universal friendship and knowledge-sharing, ushering
 in global cooperation and mutual regard. Yet thirty years on Berners-Lee </span>
launched ‘a global action plan to save the web from political manipulation, fake news, privacy violations and other malign forces that threaten to plunge the world into a “<a href="https://www.theguardian.com/technology/2019/nov/24/tim-berners-lee-unveils-global-plan-to-save-the-internet">digital
 dystopia</a>”.’<span style="mso-fareast-language:EN-GB"><o:p></o:p></span></p>
<p class="MsoNormal">What happened? <o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify">The principle of putting everyone in contact with one another, with access to a vast array of information, has gone drastically awry. The development of readily accessible digital media for communication and exchange
 on a massive scale in the context of an increasingly ‘individualized’ society has provided a context for proliferation and amplification of some of the most malign aspects of human behaviour.<o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify">Most acknowledge the malaise exists, but there is less agreement regarding cause, blame, and responsibility. Many have focused on the technology, more specifically the development of social media, particularly
 the <a href="https://www.wired.com/story/not-youtubes-algorithm-radicalizes-people/">
algorithms</a> that underlie various recommender systems, particularly those connected with Google and Facebook. This is largely a case of
<a href="https://en.wikipedia.org/wiki/Streetlight_effect"><i>the streetlight effect</i></a>, or the drunkard’s search for lost keys: people searching for the solution where it is easiest to look.<o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify">Algorithms are human artefacts, and it is now widely understood that they encompass
<span style="mso-fareast-language:EN-GB">and perpetuate the assumptions and biases and cultural backgrounds of their developers. ‘Computers learn how to be
</span><a href="https://www.vox.com/science-and-health/2017/4/17/15322378/how-artificial-intelligence-learns-how-to-be-racist"><span style="mso-fareast-language:EN-GB">racist</span></a><span style="mso-fareast-language:EN-GB">, sexist, and prejudiced in a similar
 way that a child does, … from their </span><a href="https://www.vox.com/2018/4/3/17168256/google-racism-algorithms-technology"><span style="mso-fareast-language:EN-GB">creators</span></a><span style="mso-fareast-language:EN-GB">.’<o:p></o:p></span></p>
<p class="MsoNormal" style="text-align:justify"><span style="mso-fareast-language:EN-GB">Rebecca Lewis has coined the term
</span><a href="https://datasociety.net/output/alternative-influence/"><i><span style="mso-fareast-language:EN-GB">Alternative Influence Networks</span></i></a><span style="mso-fareast-language:EN-GB"> to account for the ways in which the recommendation algorithms
 on <i>YouTube</i> and elsewhere lead users along a path taking them to sites exhibiting increasing forms and levels of extremism and malevolence; particularly racist, homophobic, and misogynist content. Yet this begs the question of how such networks develop
 in the first place; are they creations of the web or do they originate elsewhere?<o:p></o:p></span></p>
<p class="MsoNormal" style="text-align:justify"><a href="https://osf.io/73jys/"><span style="mso-fareast-language:EN-GB">Munger and Phillips</span></a><span style="mso-fareast-language:EN-GB"> have recently argued that these networks are dependent on supply
 of and demand for such content, both of which exist prior to and outside the confines of the web and any recommender systems. They see the focus on algorithms as misplaced and unlikely to prove effective in combatting online hatred and our downwards plunge
 into digital dystopia.<o:p></o:p></span></p>
<p class="MsoNormal" style="text-align:justify"><span style="mso-fareast-language:EN-GB">Google, Facebook and their ilk certainly need to develop greater awareness of the ways in which their seemingly neutral algorithms perpetuate and amplify existing biases
 and a wide range of forms of discrimination, prejudice, and hatred. Indeed</span>, each has made commitments to remedy the ways in which their recommender algorithms
<a href="https://www.washingtonpost.com/technology/2019/01/25/youtube-is-changing-its-algorithms-stop-recommending-conspiracies/">
operate</a>; albeit not always with the intended <a href="https://mashable.com/2018/05/07/facebook-news-feed-algorithm-fox-news/?europe=true">
results</a>.<o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify">Moreover, some of their efforts to combat online hate have been far more hands-on. Recent accounts by whistle-blowers attest to the ways in which Google employees have intervened to change the ways in which their
<a href="https://arstechnica.com/tech-policy/2019/11/google-search-results-have-more-human-help-than-you-think-report-finds/">
search algorithm</a> operates. This has included ensuring that <span style="mso-fareast-language:EN-GB">
queries relating to suicide no longer produce ‘how-to manuals’ on the first page; instead the top result is now a link to the
</span><a href="https://suicidepreventionlifeline.org/"><span style="mso-fareast-language:EN-GB">National Suicide Prevention Lifeline</span></a><span style="mso-fareast-language:EN-GB">.
<o:p></o:p></span></p>
<p class="MsoNormal" style="text-align:justify"><span style="mso-fareast-language:EN-GB">Similarly, Google
</span>employees made a conscious choice on <a href="https://www.wsj.com/articles/how-google-interferes-with-its-search-algorithms-and-changes-your-results-11573823753">
handling anti-vax messaging</a>, so <span style="mso-fareast-language:EN-GB">a search for ‘how do vaccines cause autism’ now gives priority to
</span><a href="https://www.google.com/search?client=firefox-b-d&q=howdovaccinescauseautism.com"><span style="mso-fareast-language:EN-GB">howdovaccinescauseautism.com</span></a><span style="mso-fareast-language:EN-GB">, which simply  states in large black letters,
 ‘They f—ing don’t.’</span><o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify"><span style="mso-fareast-language:EN-GB">These are laudable examples, but this covert trend for Google employees deciding how and whether information should appear in people’s searches might not be welcome as
 a universal strategy. Certainly, Google and Facebook need to respond to the shortcomings of their recommender systems, but this needs to be done in an open and participatory manner. Not surprisingly their efforts have been derided as censorship from both
</span><a href="https://www.washingtonpost.com/politics/2019/08/01/are-google-facebook-censoring-conservatives-problem-is-more-widespread-than-that/"><span style="mso-fareast-language:EN-GB">right</span></a><span style="mso-fareast-language:EN-GB"> and
</span><a href="https://www.mintpressnews.com/facebook-and-google-are-censoring-us-heres-how-you-can-help/237159/"><span style="mso-fareast-language:EN-GB">left</span></a><span style="mso-fareast-language:EN-GB">.</span><o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify"><span style="mso-fareast-language:EN-GB">So where does this leave Berners-Lee’s call for ‘</span><a href="https://contractfortheweb.org/">a contract for the web</a><span style="mso-fareast-language:EN-GB">’, an
</span>initiative specifically aimed at harnessing a wide variety of contending interests to work together for the common good and general benefit. Harnessing the goodwill and benevolent intentions of governments, companies, and citizens to work together for
 the common-good. Google and Facebook, owners of the major social media sites, have signed up to the contract; a supreme irony in many people’s eyes.<o:p></o:p></p>
<p class="MsoNormal" style="text-align:justify">Let’s for the moment accept that recommender systems can act as a conduit; channelling hatred, either as cause or supplementing factor. Let’s also accept that efforts by Google and Facebook, although probably
 well-intended, will and should prompt the question ‘<span class="syl"><a href="https://en.wikipedia.org/wiki/Quis_custodiet_ipsos_custodes%3F">quis custodiet ipsos custodes</a>?’ So, what could Google and Facebook do to indicate their commitment to Berners-Lee’s
 venture?<o:p></o:p></span></p>
<p class="MsoNormal" style="text-align:justify"><span class="syl">One possibility would be to build on their earlier hands-on efforts, but more transparently, incorporating representatives from the other constituent interests encompassed by the contract. But
 this will need to be undertaken with a different orientation, combatting ‘</span><a href="https://en.wikipedia.org/wiki/Filter_bubble">the filter bubble</a><span class="syl">’ – i.e. ‘</span><a href="https://www.techopedia.com/definition/28556/filter-bubble">the
 intellectual isolation that can occur when websites make use of algorithms to selectively assume the information a user would want to see.</a> This will involve trying to ensure that recommender algorithms offer links to contending and divergent ideas, allowing
 the possibility that users will have some ‘contact with people dissimilar to themselves’.  There will of course be contention regarding what this strategy involves, and how it is best enacted, but at least it might begin to lift us out of ‘the present low
 state of human improvement’ towards something more akin to Crocodile Dundee’s – and Berners-Lee’s – model of friendliness.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal" style="background:white"><i><span style="font-size:13.5pt;font-family:"Garamond",serif;color:navy;mso-fareast-language:EN-GB">Tony Bryant<o:p></o:p></span></i></p>
<p class="MsoNormal" style="background:white"><span style="color:black;mso-fareast-language:EN-GB"><o:p> </o:p></span></p>
<p class="MsoNormal" style="background:white"><i><span style="color:black;mso-fareast-language:EN-GB">Antony Bryant</span></i><span style="color:black;mso-fareast-language:EN-GB"><o:p></o:p></span></p>
<p class="MsoNormal" style="background:white"><i><span style="color:black;mso-fareast-language:EN-GB">Professor of Informatics, Leeds Beckett University</span></i><span style="color:black;mso-fareast-language:EN-GB"><o:p></o:p></span></p>
<p class="MsoNormal" style="background:white"><i><span style="color:black;mso-fareast-language:EN-GB">Headingley Campus, Leeds LS6 3QS, UK</span></i><span style="color:black;mso-fareast-language:EN-GB"><o:p></o:p></span></p>
<p class="MsoNormal" style="background:white"><span style="color:black;mso-fareast-language:EN-GB"> <o:p></o:p></span></p>
<p class="MsoNormal" style="background:white"><i><span style="color:black;mso-fareast-language:EN-GB">phone +44 (0) 113 812 7422</span></i><i><span style="mso-fareast-language:EN-GB"><o:p></o:p></span></i></p>
<p class="MsoNormal" style="background:white"><i><span style="color:black;mso-fareast-language:EN-GB">skype tonybryantleedsbeckett</span></i><span style="mso-fareast-language:EN-GB"><o:p></o:p></span></p>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
To view the terms under which this email is distributed, please go to:- <br>
<a href="http://leedsbeckett.ac.uk/disclaimer/email/" target="_blank">http://leedsbeckett.ac.uk/disclaimer/email/</a>
<p></p>
</body>
</html>