In de vijf jaar sinds die bijeenkomst is kunstmatige intelligentie onvermijdelijk geworden – zoals de paus zelf vorig jaar ontdekte toen virale foto’s van hem in een Balenciaga-pufferjack een nieuw tijdperk van deepfakes inluidden. En naarmate de technologie zich uitbreidde, positioneerde het Vaticaan zichzelf als het geweten van bedrijven als Microsoft en kwam het naar voren als een verrassend invloedrijke stem in het debat over mondiaal AI-beheer.
Vrijdag zal Franciscus de eerste paus zijn die het forum van de Groep van Zeven wereldleiders toespreekt en deelneemt aan een topsessie in Zuid-Italië gewijd aan kunstmatige intelligentie.
“De aanwezigheid van Zijne Heiligheid zal een beslissende bijdrage leveren aan het definiëren van het regelgevende, ethische en culturele raamwerk voor kunstmatige intelligentie”, zei de Italiaanse premier Giorgio Meloni in een verklaring waarin hij de uitnodiging aankondigde.
WORD OPGESLAGEN
Verhalen ter informatie
Op dezelfde manier waarop de paus de urgentie van de klimaatverandering probeerde te vergroten, zoomt Franciscus nu in op AI – een technologie die volgens hem ‘een risico voor ons voortbestaan’ vormt en ‘ons gemeenschappelijk huis in gevaar kan brengen’.
Zijn zorg gaat minder over de voorspellingen in sciencefictionfilms over kwaadaardige machines of over de manier waarop de mogelijkheid van bewuste kunstmatige intelligentie de basisdefinitie van het leven in twijfel zou kunnen trekken. In plaats daarvan concentreerde hij zich op het apocalyptische potentieel van bewapende AI. Hij vreest dat de menselijke empathie zal verdwijnen nu algoritmen de uitkomst van alles gaan bepalen, van asielaanvragen tot bankleningen. Hij prees de ‘opwindende mogelijkheden’ van technologie, maar maakt zich zorgen over de macht ervan om de ongelijkheid binnen en tussen landen te vergroten. Hij benadrukt dat deze risico’s moeten worden beheerd via een mondiale overeenkomst om AI te reguleren.
‘Het unieke menselijke vermogen tot moreel oordeel en ethische besluitvorming is meer dan een complexe verzameling algoritmen, en dat vermogen kan niet worden gereduceerd tot het programmeren van een machine die, hoe ‘intelligent’ deze ook is, een machine blijft. zei de paus in december. “Om deze reden is het absoluut noodzakelijk om te zorgen voor adequaat, betekenisvol en consistent menselijk toezicht op wapensystemen.”
Vrijdag zullen wereldleiders – gesteund door het Vaticaan – een soort ereteken onthullen: een nieuwe benaming voor bedrijven die ermee instemmen om op een veilige en ethische manier AI-instrumenten te ontwikkelen, volgens een persoon die bekend is met de G-7-discussies en die sprak over voorwaarde van anonimiteit om het plan te beschrijven voordat het wordt gepubliceerd. Het label zal een “vrijwillige” verbintenis zijn, ondersteund door een monitoring- en rapportagesysteem.
De kwestie van de kunstmatige intelligentie heeft een kerk geopend die kleiner is geworden door haar aanpak van seksueel misbruik door priesters om het morele gezag te herbevestigen. Microsoft en in ieder geval enkele andere technologiebedrijven lijken te verlangen naar de goedkeuring van de Katholieke Kerk, nu de industrie worstelt met de public relations-uitdagingen van een technologie die banen zou kunnen automatiseren, desinformatie zou kunnen vergroten en nieuwe cyberveiligheidsrisico’s zou kunnen creëren.
De Rome Call for AI Ethics – een document dat het Vaticaan, Microsoft en IBM in 2020 tot de oorspronkelijke ondertekenaars rekent – komt naar voren als de gouden standaard voor best practices op het gebied van AI. Vorig jaar tekenden vertegenwoordigers van het jodendom en de islam. Volgende maand zullen verschillende oosterse religies zich aansluiten, wat bijdraagt aan een lijst die nu honderden bedrijven, universiteiten en VN-agentschappen omvat die op zoek zijn naar mondiale begeleiding.
Het Vaticaan heeft een plaats aan de Big Tech-tafel verdiend. Een eeuwenoud instituut met een gemengde staat van dienst op het gebied van de wetenschap – zie de proef tegen Galileo – stuurt nu vertegenwoordigers naar grote technologie-evenementen.
Eerwaarde Paolo Benanti – de belangrijkste deskundige van het Vaticaan op het gebied van kunstmatige intelligentie, een franciscaner priester en geschoold ingenieur die verantwoordelijk is voor het bedenken van de term ‘algoretisch’ – verzekerde zich vorig jaar van een zetel in de Adviesraad voor kunstmatige intelligentie van de Verenigde Naties en werd een belangrijke speler op het gebied van ambachtskunst. een nationaal kunstmatige-intelligentiebeleid voor Italië, de G-7-natie. Op verzoek van het Vaticaan organiseerde het IMB een mondiale top van universiteiten in de Notre Dame om de ethiek van kunstmatige intelligentie op de voorgrond van de curricula te brengen.
De standpunten van het Vaticaan beïnvloedden concrete zakelijke beslissingen. Smith vertelde The Post: “We hebben onze eigen technologie ontwikkeld waarmee iedereen met slechts een paar seconden iemands stem deze kan repliceren. En we hebben besloten het niet te publiceren.” Hij voegde eraan toe dat Rome Call “zeker deel uitmaakt van wat ons bij Microsoft heeft geholpen een brede benadering van AI-ontwikkeling te hanteren, ook binnen onze eigen vier muren. Ik denk gewoon dat het een breed humanistisch en intellectueel kader bood.”
De nadruk van de belofte op inclusiviteit heeft ook invloed gehad op de beslissing van het bedrijf om een fellowship op te richten dat onderzoekers en leiders van het maatschappelijk middenveld, vooral uit het zuiden van de wereld, samenbrengt om de impact van de technologie te beoordelen, zegt Natasha Crampton, Chief AI Officer van Microsoft. Fellows hielpen het bedrijf bij het ontwikkelen van meertalige evaluaties van AI-modellen en zorgden ervoor dat het bedrijf de lokale context en culturele normen begreep bij het ontwikkelen van nieuwe producten.
Niet alle bedrijven houden zich aan de Romeinse principes. Sommigen zijn doorgegaan met AI-gemanipuleerde audio waarvan onderzoekers waarschuwen dat deze kan worden misbruikt om kiezers te misleiden voorafgaand aan de verkiezingen.
Ook niet iedereen mag lid worden van de Club van Rome. “Huawei vroeg het”, zei aartsbisschop Vincenzo Paglia, voorzitter van de Pauselijke Academie voor het Leven. “En we zeiden nee, omdat we niet echt weten wat het is [people in charge there] denken.”
Ondertussen blijft het Vaticaan bezorgd over het misbruik van open source AI. De technologie zou grote voordelen kunnen opleveren voor de gezondheidszorg en het onderwijs, zei Benanti. “Maar het kan ook veel slechte elementen in de samenleving vermenigvuldigen, en we kunnen AI niet overal verspreiden zonder enige politieke besluitvorming, omdat we morgen misschien wakker worden met een ongelijkheidsvermenigvuldiger, een biologisch wapen”, zei hij.
Ambtenaren van het Vaticaan hebben al alarm geslagen over wat zij zien als potentieel onethisch gebruik, onder meer van gezichtsherkenningssystemen die zijn ingezet tijdens het harde optreden tegen demonstranten in Hongkong in de periode 2019-2020. Met behulp van tests werd vastgesteld of asielzoekers logen over hun plaats van herkomst.
De relatie tussen het Vaticaan en AI-vernieuwers ontstond in een toespraak die Benanti in 2018 hield over de ethiek van AI. Een senior vertegenwoordiger van Microsoft in Italië zat in het publiek en de twee begonnen elkaar regelmatig te ontmoeten. Ze schakelden Paglio in, die geïnteresseerd was in het uitbreiden van de reikwijdte van zijn academie buiten belangrijke kwesties zoals de ethiek van stamcelonderzoek.
Voorafgaand aan Smiths bezoek aan de paus leidde Paglia hem door Michelangelo’s ‘Laatste Oordeel’ in de Sixtijnse Kapel en liet hem Galileo’s afbeeldingen zien van de aarde die rond de zon draait – een theorie die hem na een kerkelijk proces onder huisarrest bracht. .
De houding van het Vaticaan tegenover de wetenschap was echter niet altijd luddiet. In de Middeleeuwen hebben katholieke geleerden Europa voorzien van wat enkele van de grootste universiteiten zouden worden. En hoewel sommige individuele geestelijken het doelwit waren, werd Darwins evolutietheorie nooit officieel betwist door het Vaticaan.
De Kerk verklaart officieel dat ‘geloof en rede’ niet met elkaar in conflict zijn.
‘De Bijbel vertelt ons niet hoe de hemel werkt, maar wel hoe we daar moeten komen’, zei Paglia, waarbij hij Galileo citeerde. De aartsbisschop bracht een officieel bezoek aan het hoofdkantoor van Microsoft in de buurt van Seattle en de kantoren van IBM in New York.
Door agressieve investeringen in kunstmatige intelligentie is Microsoft het meest waardevolle bedrijf ter wereld geworden, met een waarde van meer dan $3 biljoen. Maar het aanhoudende succes ervan hangt af van het tegengaan van de negatieve percepties van AI. Bezorgdheid dat de technologie banen zou kunnen verdringen, de ongelijkheid zou kunnen vergroten, het toezicht zou kunnen vergroten en nieuwe vormen van oorlogvoering zou kunnen inluiden, zet regeringen over de hele wereld ertoe aan strengere regelgeving te overwegen die de ambities van het bedrijf zou kunnen inperken.
De Europese Unie bereidt een baanbrekende antitrustwet voor die meer geavanceerde generatieve AI-modellen zou kunnen beperken. De Federal Trade Commission onderzoekt de deal van Microsoft met AI-startup Inflection en onderzoekt of de technologiegigant de investering opzettelijk heeft opgezet om een fusieonderzoek te voorkomen. De Amerikaanse autoriteiten hebben een deal bereikt die het bedrijf zal openen voor meer toezicht op de manier waarop het de macht uitoefent om kunstmatige intelligentie te domineren, inclusief de miljardeninvestering in ChatGPT-maker OpenAI. De relatie heeft Microsoft ook blootgesteld aan nieuwe reputatierisico’s, omdat Sam Altman, CEO van OpenAI, vaak voor controverse zorgt.
Onder leiding van Smith heeft Microsoft een van de meest geavanceerde mondiale lobbyorganisaties opgebouwd om de uitdagingen op regelgevingsgebied te verzachten en mensen ervan te overtuigen dat het een tech-titan is waar de wereld op kan vertrouwen om AI te bouwen. Smith ontmoet regelmatig staatshoofden en verscheen vorige maand samen met president Biden bij de opening van de fabriek. Om een effectief bedrijf te zijn, moet Microsoft manieren vinden om met overheden samen te werken en ervoor te zorgen dat de technologie deze kan overwinnen, aldus Smith.
“De oudste mondiale organisatie ter wereld” kan in die inspanning een unieke leraar en partner zijn, zei hij. Het katholicisme en andere religies zijn – net als apps – niet gebonden aan nationale grenzen Microsoft handelt wereldwijd.
“Op een bepaald niveau kun je naar ons tweeën kijken en denken dat we rare bedgenoten zijn”, zei Smith. “Maar aan de andere kant is het een perfecte combinatie.”
Zakrzewski berichtte vanuit Washington.