Na een slopende eerste dag waarin werd gedebatteerd over de financiering van een langdurige oorlog tegen een autoritaire dictator, wendden de G7-leiders in Puglia zich vervolgens tot advies van iemand die volhoudt dat hij onfeilbaar is, en voor de goede orde vindt dat Oekraïne de moed moet hebben om met de witte vlag te zwaaien. .
Wanneer een 87-jarige die beweert onfeilbaar te zijn, aan je deur verschijnt, is het instinct meestal om hem een kopje thee te geven en stilletjes de sociale dienst te bellen. Maar wanneer 1,3 miljard andere mensen, inclusief jouw huisvrouw, geloven dat hij werkelijk onfeilbaar is, verandert de dynamiek enigszins.
Zo werd paus Franciscus, op uitnodiging van de vrome katholieke en Italiaanse premier Giorgio Meloni, hartelijk verwelkomd toen hij aankwam op de Mammon-top, de G7-club van rijke westerse landen.
Ook al is de G7 gewend aan het horen van de profetieën van economen, hij is de eerste religieuze leider die ooit deze gebeurtenis heeft bijgewoond en zijn voorspelling heeft gedaan over wat de toekomst in petto heeft. Volgens een interessant schema arriveerde hij na een ontmoeting met honderd wereldkomieken in het Vaticaan. Niet alleen sprak hij de G7 collectief toe, zijn angstaanjagende diplomatieke operatie onderhandelde ook over tien bilaterale overeenkomsten – tien meer dan de overeenkomsten die door Rishi Sunak waren georkestreerd.
Er moet een speciale band zijn geweest voor Joe Biden. Biden (81) is de tweede katholieke president van de VS en wordt net als de paus achtervolgd door onaardige roddels dat hij moet aftreden voordat het wonder van het hiernamaals hem inhaalt.
Maar alles is relatief – vaak wreed – en toen de paus de trappen van zijn helikopter afdaalde om zichzelf en zijn club in een wachtende golfkar naast de deur te laten vallen, was het alsof Biden in vergelijking daarmee het jeugdelixer had gekregen.
Maar paus Franciscus kwam niet in de eerste plaats om te prediken over hoe de NAVO op stomme wijze aan de deur van Rusland blaft, of zelfs waarom Israël meer terughoudendheid zou kunnen betrachten in Gaza, standpunten die hij onlangs heeft ingenomen. Hij was op de top om de toekomst te bespreken en – gezien de acute keuzes die het heden altijd vraagt – doen wereldleiders niets liever dan discussiëren over de toekomst.
Het vermogen om na te denken over een onbekende toekomst wordt vaak beschouwd als het ware kenmerk van wijs staatsmanschap, in tegenstelling tot een vuile politicus. Het ene jaar is het onderwerp bevolkingsexplosie, de volgende klimaatcrisis of mondiale pandemieën; op dit moment is het kunstmatige intelligentie.
De meeste zichzelf respecterende leiders besprenkelen hun toespraken met voorspellingen over de ethiek van AI en hoe het een testcase is voor mondiaal bestuur. Sunak hield in oktober 2023 de eerste wereldtop over AI-beveiliging die leidde tot de Bletchley-verklaring. De VN heeft een adviescommissie van deskundigen op het gebied van kunstmatige intelligentie die in december een tussentijds rapport uitbracht, en in mei 2023 onder Japans voorzitterschap ondertekenden de G7-leiders iets dat wordt het enigszins ontmoedigende proces van Hiroshima genoemd. (Dit is niet zo opruiend als het suggereert. Denk aan Schmidhuber, niet aan Oppenheimer.)
Dit leidde op zijn beurt tot de internationale Hiroshima Process Guiding Principles voor organisaties die geavanceerde AI-systemen ontwikkelen. Deze bevat elf beginselen op hoog niveau, die geen enkele juridische status hebben en soms geen specificiteit hebben.
Mondiaal bestuur is nu als een uitslag over AI heen. De EU, die nooit vies is van regulering op digitaal gebied, heeft wetgeving aangenomen die tot doel heeft kunstmatige intelligentie in de EU te reguleren om ervoor te zorgen dat deze “in overeenstemming is met de mensenrechten, de democratische integriteit en de rechtsstaat”. Canada volgt grotendeels dit voorbeeld. Groot-Brittannië en de VS zijn minder gereguleerd.
Hoe past de paus dan in dit lappendeken? Het is de verdienste van Melon dat hij probeert voort te bouwen op Japans werk, in plaats van een compleet nieuwe richting in te slaan. Ze beschreef AI zelfs als “de grootste uitdaging waarmee we worden geconfronteerd, antropologisch, economisch, productief en sociaal”.
Maar ze is gehecht geraakt aan de paus, deels omdat de paus zelf vertrouwt op het denken van de franciscaner monnik Paolo Benanti – die op zijn beurt centraal is geworden in haar denken en als haar adviseur optreedt in ontmoetingen met titanen als Bill Gates.
Benanti, gekleed in een bruin gewaad en joviaal, is bedreven in het uitleggen hoe technologie de wereld kan veranderen, “waarbij mensen de macht van keuze overdragen aan een algoritme dat ons maar al te goed kent. Sommige mensen behandelen AI als idolen, als orakels, als halfgoden. Het risico is dat ze kritisch denk- en beslissingsvermogen aan deze machines delegeren.”
AI gaat over verkiezingen. Hij wijst erop: “Al tienduizenden jaren geleden zou de club een zeer nuttig instrument of wapen kunnen zijn om anderen te vernietigen…”
Italianen, geen pioniers op het gebied van technologie, waarschuwen dat kunstmatige intelligentie een wereld vertegenwoordigt waarin vooruitgang de menselijke capaciteiten niet optimaliseert, maar vervangt.
In het verleden had deze vervanging vooral betrekking op fysiek werk, zodat men zich kon wijden aan conceptueel werk. Nu is het het intellect zelf dat het risico loopt vervangen te worden. “De wereld zou aan enorme risico’s worden blootgesteld als we deze gebieden zouden beschouwen als vrije zones zonder regels”, waarschuwde Meloni.
De monnik bedacht de term algo-ethiek die Meloni gebruikt, is de auteur van een luchtige theologische uiteenzetting van de techno-menselijke conditie, en is onvermoeibaar in het beweren dat elk afzonderlijk aspect van ons bestaan technologisch wordt gemedieerd of opgelegd.
Hij heeft ook een nevenactiviteit als spindoctor van de paus en legt uit: “Dit pontificaat begon met Lampedusa, de kwestie van de migranten, ging verder met de encycliek Laudato si’ over het milieu en de klimaatverandering, en gaat nu over kunstmatige intelligentie.
“Dit toont de gevoeligheid van de paus voor de grenskwesties, de uitdagingen waarmee de mensheid wordt geconfronteerd. Franciscus leest de tekenen des tijds.”
Als hij voldoende inzicht heeft, is het geen wonder dat wereldleiders naar hem kijken voor leiding.