ALCON-ENTERTAINMENT VIA ALAMY
Rond dezelfde tijd richtte Tegmark het Institute for the Future of Life op, met als taak de veiligheid van kunstmatige intelligentie te bestuderen en te bevorderen. Depps partner in de film, Morgan Freeman, zat in de raad van bestuur van het instituut, en Elon Musk, die een cameo in de film had, doneerde in het eerste jaar $ 10 miljoen. Voor Cave en Dihal, Transcendentie is een perfect voorbeeld van de vele verwevenheden tussen populaire cultuur, academisch onderzoek, industriële productie en de ‘door miljardairs gefinancierde strijd om de toekomst vorm te geven’.
Tijdens de Londense etappe van zijn wereldtournee vorig jaar werd Altman gevraagd wat hij bedoelde toen hij tweette: “AI is de technologie die de wereld altijd al heeft gewild. Toen ik die dag achter in de zaal stond, achter een publiek van honderden mensen, luisterde ik naar zijn verhaal over zijn oorsprong: ‘Ik was een heel nerveus kind. Ik lees veel sciencefiction. Ik bracht veel vrijdagavonden thuis door op de computer. Maar ik ben altijd erg geïnteresseerd geweest in kunstmatige intelligentie en dacht dat het cool zou zijn.” Hij ging naar de universiteit, werd rijk en zag hoe neurale netwerken steeds beter werden. “Dit kan heel goed zijn, maar het kan ook heel slecht zijn. Wat gaan we eraan doen?” hij herinnerde zich dat hij in 2015 dacht. “Uiteindelijk begon ik met OpenAI.”
Waarom zou het je iets kunnen schelen dat een stel nerds ruzie maken over AI?
Oké, je begrijpt het wel: niemand kan het eens worden over wat AI is. Maar waar iedereen het over eens lijkt te zijn, is dat het huidige debat rond AI veel verder reikt dan alleen academisch en wetenschappelijk. Er zijn politieke en morele componenten in het spel; het helpt niet dat iedereen denkt dat alle anderen ongelijk hebben.
Het is moeilijk om dit te ontwarren. Het kan moeilijk zijn om te zien wat er gebeurt als sommige van die morele opvattingen de hele toekomst van de mensheid overnemen en deze verankeren in een technologie die niemand helemaal kan definiëren.
Maar we kunnen niet zomaar onze handen in de lucht steken en weglopen. Want wat deze technologie ook is, hij komt eraan, en tenzij je onder een steen leeft, ga je hem in een of andere vorm gebruiken. En de vorm die technologie aanneemt – en de problemen die deze oplost en creëert – zal worden gevormd door het denken en de motivatie van mensen zoals degenen over wie je zojuist hebt gelezen. Vooral door de mensen met de meeste macht, het meeste geld en de grootste megafoons.
Dat brengt mij bij TESCREAlist. Wacht, kom terug! Ik besef dat het oneerlijk is om zo laat in het spel nog een nieuw concept te introduceren. Maar om te begrijpen hoe machthebbers vorm kunnen geven aan de technologieën die zij bouwen en hoe zij deze uitleggen aan de toezichthouders en wetgevers in de wereld, moet je hun denkwijze echt begrijpen.
WIKIMEDIA
Gebru, die het Distributed AI Research Institute oprichtte nadat hij Google had verlaten, en Émile Torres, een filosoof en historicus aan de Case Western Reserve University, traceerden de impact van verschillende techno-utopische geloofssystemen op Silicon Valley. De twee beweren dat om te begrijpen wat er momenteel gebeurt met kunstmatige intelligentie – en waarom bedrijven als Google DeepMind en OpenAI zich haasten om AGI op te bouwen, en waarom mislukkingen als Tegmark en Hinton waarschuwen voor een naderende ramp – het veld door een lens moet worden bekeken. Torres noemde het TESCRAL-framework.
Een onhandig acroniem (uitgesproken als tes-cree-alles) vervangt een nog loggere lijst labels: transhumanisme, extropianisme, singularisme, kosmisme, rationalisme, effectief altruïsme en een lang leven. Er is (en zal) veel geschreven worden over elk van deze wereldbeelden, dus dat zal ik je hier besparen. (Er zijn konijnenholen in konijnenholen voor iedereen die dieper wil duiken. Kies je forum en pak je speleologieuitrusting in.)