IIn de film WarGames uit 1983 exploiteert het Amerikaanse ministerie van Defensie een superintelligente centrale computer die door een tiener is gehackt, wat onbewust bijna een nucleair Armageddon veroorzaakt. Het einde van de wereld wordt afgewend wanneer een computer die bekend staat als Joshua, na boter-kaas-en-eieren met een tiener te hebben gespeeld, ontdekt dat een nucleaire oorlog geen winnaar kan hebben. Het inzicht bracht hem ertoe de raketlanceringsorders te annuleren en zei: ‘Vreemd spel. De enige winnende zet is niet spelen.”
Joshua belichaamde het idee dat superintelligente AI een antropomorfe manier van denken zou hebben. Dat jaar werd de wereld echter gered door de mens. Luitenant-kolonel Stanislav Petrov negeerde de bevelen voor een catastrofale nucleaire vergeldingsaanval toen het automatische waarschuwingssysteem van de Sovjet-Unie in september 1983 ten onrechte een Amerikaanse nucleaire aanval aangaf. Supersmart-machines kunnen niet aan hun lot worden overgelaten. Ze – en hun ontwikkeling – moeten op de juiste manier worden aangepakt.
Dit wordt nog verergerd door de bedrijfschaos bij OpenAI, de makers van de beroemdste elektronische menselijke imitator, ChatGPT. Het ontslaan en opnieuw aanwerven van Sam Altman, de CEO van het bedrijf, roept de vraag op of OpenAI niet zomaar een op winst gericht bedrijf aan het worden is. Dit zou zonde zijn. OpenAI was een innovatieve poging om grootschalige samenwerking mogelijk te maken om de risico’s van kunstmatige intelligentie te verminderen. Het bestuurshandvest, hoe onvolkomen ook nageleefd, verplichtte de firma om rivalen te helpen, en niet om met hen te concurreren.
De heer Altman richtte samen met Elon Musk in 2015 OpenAI op als een non-profit onderzoekslaboratorium gericht op het veilig bereiken van de heilige graal van de computer: kunstmatige algemene intelligentie (AGI) die het menselijk denken kan evenaren of overtreffen. Maar dit bleek een dure onderneming te zijn – en er werd een winstgevende dochteronderneming opgericht om de commercialisering van de ontdekkingen van OpenAI te financieren. Microsoft raakte geïnteresseerd in 2019. Twee jaar later investeerde het $ 13 miljard voor een belang van 49% in de winstgevende tak, wat OpenAI beschouwde als een “donatie” aan zijn nobele zaak, en niet als een “investering”.
Op papier runt OpenAI een bedrijf met winstoogmerk, waar de opbrengsten beperkt zijn, en wordt gecontroleerd door een non-profitorganisatie die belast is met de ontwikkeling van AI voor de ‘beste belangen van de mensheid’. De heer Altman werd ontslagen omdat “hij niet consequent eerlijk was in zijn communicatie met [nonprofit’s] bord”. Toen het personeel waarschuwde dat het vertrek van de heer Altman ervoor zou kunnen zorgen dat OpenAI instort, zei het bestuur naar verluidt dat dit “in overeenstemming zou zijn met de missie”.
Iedereen die heeft gestemd om de heer Altman af te zetten, is vervangen door een bedrijfsvriendelijker team – inclusief de vermeende Microsoft-zetel die de sleutel was tot de terugkeer van de heer Altman. Er is veel aandacht besteed aan de mogelijke doorbraak in de superintelligentie die zijn aanvankelijke achteruitgang heeft bespoedigd. Maar het ziet er fantastisch uit. De huidige AI-systemen lijken meer op digitale slaven, zij het dan op slaven met bovenmenselijke vermogens.
In de film WarGames vraagt Joshua: “Zullen we een spelletje spelen?” vóór het begin van een kernoorlog. De autonome macht om mensen pijn te doen, te vernietigen of te misleiden mag nooit aan AI worden gegeven. Regeringen moeten dit gebied zorgvuldiger reguleren. Wat als het nastreven van technologische suprematie gewetensbezwaren en wetsontduiking betekent? De achteruitgang van OpenAI kan een teken van volwassenheid zijn. Er zijn overhaaste keuzes gemaakt en niet gemaakt. Maar contant geld had het laatste woord. De geschiedenis van bedrijven suggereert dat velen de doelstellingen en de financiële macht hebben om de kritiek van de rest van de samenleving te vermijden. Het zou een stap achteruit zijn om dat ethos de leiding te geven over nog een ander AI-bedrijf.
Heeft u een mening over de kwesties die in dit artikel aan de orde komen? Als u een brief van maximaal 250 woorden wilt indienen die in aanmerking komt voor publicatie, kunt u deze naar ons e-mailen op observer.letters@observer.co.uk