Nexus Yuval Noah Harari recensie – AI Apocalyps | Boeken over wetenschap en natuur

AZoals het een schrijver betaamt wiens baanbrekende werk Sapiens de geschiedenis van het hele menselijke ras was, is Yuval Noah Harari een meester in de sentimentele generalisatie. ‘Het menselijk leven’, schrijft hij hier, ‘is een evenwichtsoefening tussen het streven om onszelf te verbeteren en het accepteren van wie we zijn.’ Is het? Is dat alles? Elders zou je misschien verrast zijn om te lezen: “De oude Romeinen begrepen duidelijk wat democratie betekende.” Ongetwijfeld zouden de Romeinen blij zijn om te horen dat Yuval Noah Harari hen over 2000 jaar een gouden ster zou geven voor hun begrip. eeuwig stabiele politieke concepten.

In zijn boek 21 Lessons for the 21st Century uit 2018 schreef Harari: “Liberalen begrijpen niet hoe de geschiedenis is afgeweken van haar vooraf bepaalde koers en missen een alternatief prisma waarmee ze de werkelijkheid kunnen interpreteren. Desoriëntatie zorgt ervoor dat ze in apocalyptische termen denken.” In de tussenliggende jaren lijkt Harari zelf liberaal te zijn geworden, aangezien dit boek een apocalyptisch scenario poneert waarin het ‘computernetwerk’ – alles van het digitale surveillancekapitalisme tot sociale machtsalgoritmen en AI – de beschaving zou kunnen vernietigen en ‘het einde’ zou kunnen inluiden. menselijke geschiedenis”. Neem dat, Fukuyama.

Net als Malcolm Gladwell heeft Harari een hartstochtelijke behoefte om gezien te worden om de ontvangen wijsheid teniet te doen. Veel mensen denken bijvoorbeeld dat de drukpers een beslissende bijdrage heeft geleverd aan de geboorte van de moderne wetenschap. Dat is niet zo, benadrukt Harari: het drukken heeft immers net zo goed de verspreiding van nepnieuws mogelijk gemaakt, zoals boeken over heksen, en dus is Gutenberg gedeeltelijk verantwoordelijk voor de gruwelijke marteling en moord op degenen die beschuldigd worden van hekserij in heel Europa. Hoe dwaas dat ook klinkt, het gaat ook voorbij aan een fundamenteel punt: omdat de wetenschappelijke methode allesomvattend is, kon de moderne wetenschap alleen ontstaan ​​als de resultaten van eerdere onderzoekers algemeen beschikbaar waren voor degenen die hen volgden. Alleen via de ladder van de pers konden vroegmoderne wetenschappers op de schouders van reuzen staan.

Maar misschien ben ik ten prooi gevallen aan wat Harari een ‘naïeve kijk op informatie’ noemt, die op subtiele wijze door het boek heen verandert naarmate de retorische omstandigheden dit vereisen, totdat het zoiets als het monster van Frankenstein wordt. Een naïeve kijk op informatie omvat het idee dat “[it] is in wezen een goede zaak, en hoe meer we ervan hebben, hoe beter”, wat veel mensen geloven en dat moeilijk te betwisten is, maar hij zou ook geloven dat voldoende informatie onvermijdelijk tot politieke wijsheid leidt en dat de vrije stroom van informatie onvermijdelijk leidt tot de waarheid, beweringen waarin bijna niemand gelooft. “Wetende dat e=mc2 politieke meningsverschillen doorgaans niet oplost”, zegt Harari tegen niemand.

We weten dit al uit de geschiedenis van dictatoriale en totalitaire regeringen en hun pogingen om informatie te verzamelen en te controleren, een geschiedenis waaruit Harari tientallen levendig gruwelijke anekdotes haalt om de lezer te overtuigen van de onjuistheid van een ogenschijnlijk belachelijke visie.

Dus wat kunnen moderne computers doen waar we ons zo zorgen over maken? Harari is bijzonder goedgelovig over de mogelijkheden van wat nu op de markt wordt gebracht als ‘AI’. Niemand heeft nog gezien dat een chatbot nieuwe ideeën genereert zoals Harari denkt dat ze kunnen, laat staan ​​kunst genereren die niet slechts een probabilistische recombinatie is van patronen in de trainingsgegevens. (‘Computers kunnen culturele innovaties maken’, schrijft hij in een van de vele passages waar ik ‘citatie nodig’ naast krabbelde.) Ondertussen lijkt op een bepaald punt in de toekomst wat Harari ‘onze nieuwe meesters op het gebied van kunstmatige intelligentie’ noemt zeker te zullen veranderen. worden angstaanjagende goddelijke krachten. In zijn kristallen bol zou de AI-meester kunnen besluiten een nieuw pandemisch virus of een nieuw soort valuta uit te vinden, terwijl hij de informatienetwerken van de wereld overspoelt met nepnieuws of aanzetten tot oproer.

Het neerlaten van het ‘siliciumgordijn’ dat in dit document wordt beoogd, is intussen geen probleem van kunstmatige intelligentie, maar van geopolitiek: extrapolatie van de Grote Firewall van China, die de meeste Chinese burgers verhindert toegang te krijgen tot sites als Google en Wikipedia, Harari veronderstelt dat het in de loop van de tijd volledig onmogelijk zou kunnen worden dat de Chinese en Amerikaanse computersystemen met elkaar samenwerken of zelfs maar met elkaar communiceren, waardoor ‘het idee van één gedeelde menselijke realiteit wordt beëindigd’. Zorgwekkend als het waar is. Het gewelddadige irredentisme van Vladimir Poetin in Oekraïne, zo merkt Harari op, is deels geïnspireerd door zijn geloof in de partijversie van de Russische geschiedenis, die het gevaar aantoont van een gebrek aan gedeelde mythen. Dit is echter een kenmerk van bijna alle oorlogen sinds het begin der tijden, dus ik weet niet zeker of we computers hiervoor de schuld kunnen geven.

Dus wat kunnen we doen om de menselijke beschaving en onze gedeelde realiteit te redden? Simpel, concludeert Harari: onderwerp algoritmen en AI aan strenge officiële regelgeving en focus op ‘het opbouwen van instituties met sterke zelfcorrigerende mechanismen’. Dus blijven liberale democratieën? Het is een zwakke conclusie voor een boek dat zo’n einde-de-dag-toon heeft aangenomen.

Vervelend genoeg bevat Nexus ook veel te korte maar fascinerende discussies over onderwerpen variërend van het heiligverklaringproces van de boeken waaruit de moderne Bijbel bestaat, of de rol van de ‘nieuwsfeed’ van Facebook bij het aanwakkeren van de bloedbaden in Myanmar van 2016-2017, tot de erkenning systeemgezicht dat Iran gebruikt om blootgestelde vrouwen te onthullen.

Er zijn verschillende uitstekende pagina’s, vooral over de benarde situatie van de joden in het fascistische Roemenië, waaronder de grootvader van Harari, die in 1938 gedwongen werd papieren te overleggen waaruit hun recht op staatsburgerschap bleek, die in veel gevallen door de gemeentelijke autoriteiten werden vernietigd. Als Harari niet in zijn profetische pontificerende modus is, kan hij een voortreffelijke verhalenschrijver zijn. Maar we moeten aannemen dat zijn lezers profetische pontificatie willen.

sla de nieuwsbriefpromotie over

Nexus: A Brief History of Information Networks from the Stone Age to Artificial Intelligence door Yuval Noah Harari is uitgegeven door Fern (£ 28). Ter ondersteuning van The Guardian en Observer kunt u uw exemplaar bestellen op Guardianbookshop.com. Er kunnen verzendkosten van toepassing zijn.