TTwee weken geleden werd stilletjes bekend gemaakt dat het Institute for the Future of Humanity, een gerenommeerd multidisciplinair onderzoekscentrum in Oxford, geen toekomst meer had. Het werd op 16 april zonder waarschuwing gesloten. Aanvankelijk stond er slechts een korte mededeling op zijn website dat hij gesloten was en dat zijn onderzoek elders binnen en buiten de universiteit voortgezet kon worden.
Het instituut, dat zich toelegde op de studie van existentiële risico’s voor de mensheid, werd in 2005 opgericht door de in Zweden geboren filosoof Nick Bostrom en maakte al snel naam buiten de academische wereld – vooral in Silicon Valley, waar het door talloze mensen werd geprezen. technische miljardairs. en financiële steun verleend.
Bostrom is misschien het meest bekend om zijn bestverkochte boek uit 2014 Superintelligentie, dat waarschuwde voor de existentiële gevaren van kunstmatige intelligentie, maar ook brede erkenning kreeg voor zijn academische paper uit 2003, “Are You Living in a Computer Simulation?”. Het artikel betoogde dat mensen in de loop van de tijd het vermogen zullen ontwikkelen om simulaties te maken die niet te onderscheiden zijn van de werkelijkheid, en als dat het geval was, is het mogelijk dat dit al is gebeurd en dat we simulaties zijn.
Ik heb Bostrom ruim tien jaar geleden geïnterviewd, en hij bezat een van die ongrijpbare, nogal abstracte persoonlijkheden die de simulatietheorie misschien geloofwaardigheid verlenen. Met zijn bleke huidskleur en zijn reputatie dat hij ‘s nachts werkte, leek hij iemand die niet veel uitging. Het instituut lijkt deze sociale tekortkoming te hebben erkend in zijn eindrapport, een lang grafschrift geschreven door FHI-onderzoeker Anders Sandberg, die zei:
“We hebben niet genoeg geïnvesteerd in universiteitspolitiek en socialiteit om een stabiele relatie op de lange termijn met onze faculteit op te bouwen… Wanneer epistemische en communicatieve praktijken te veel uiteenlopen, verspreiden misverstanden zich.”
Net als Sandberg pleitte Bostrom voor transhumanisme, een geloof in het gebruik van geavanceerde technologieën om de levensduur en cognitie te verbeteren, en zou hij zich naar verluidt hebben aangemeld voor cryogene bewaring. Hoewel hij op de pagina trots provocerend was, was hij persoonlijk voorzichtig en defensief, alsof hij op de hoogte was van een wereldschokkende waarheid die waakzame bescherming vereiste.
Zijn kantoor, gelegen in een middeleeuwse achterstraat, was een typisch krappe Oxford-aangelegenheid, en het instituut zou gemakkelijk kunnen worden afgedaan als een grillige onderneming, een excentriek, zij het lovenswaardig, studiegebied voor degenen, zoals Bostrom, die van sciencefiction houden. . Maar zelfs tien jaar geleden, toen ik er was, was FHI al goed op weg om de favoriete onderzoeksgroep van miljardairs te worden.
In 2018 ontving ze £ 13,3 miljoen van het Open Philanthropy Project, een non-profitorganisatie gesteund door Facebook-medeoprichter Dustin Moskovitz. En Elon Musk was ook een weldoener. Big tech nam de waarschuwingen van Bostrom over AI serieus. Maar toen de concurrentie in de race om algemene kunstmatige intelligentie steeds heftiger werd, kwam de ethiek vaak op de achtergrond te staan.
Tot de andere ideeën en bewegingen die uit FHI zijn voortgekomen behoren onder meer het langetermijnisme – het idee dat de mensheid prioriteit moet geven aan de behoeften van de verre toekomst, omdat deze theoretisch veel meer leven omvat dan het heden – en effectief altruïsme (EA), een utilitaire benadering om de behoeften van de toekomst te maximaliseren. het mondiale goed.
Deze samengevoegde filosofieën inspireerden iets van een sekte, die velen in de bredere filosofische gemeenschap in Oxford en zelfs onder universiteitsbestuurders wellicht van zich heeft vervreemd.
Volgens de FHI zelf was de sluiting het gevolg van toenemende administratieve spanningen met de Oxford Faculteit der Wijsbegeerte. “Vanaf 2020 heeft de faculteit een bevriezing van fondsenwerving en werving ingevoerd. Eind 2023 heeft de Faculteit Wijsbegeerte besloten dat de contracten van het overige FHI-personeel niet worden verlengd”, aldus het eindrapport.
Maar zowel Bostrom als het instituut, dat filosofen, computerwetenschappers, wiskundigen en economen samenbracht, zijn de afgelopen jaren het onderwerp geweest van talloze controverses. Vijftien maanden geleden moest Bostrom zich verontschuldigen voor opmerkingen die hij maakte in een groepsmail in 1996, toen hij een 23-jarige postdoctorale student was aan de London School of Economics. In het gedownloade bericht gebruikte Bostrom het N-woord en beweerde dat blanke mensen intelligenter zijn dan zwarte mensen.
De verontschuldiging deed weinig om de critici van Bostrom te sussen, niet in de laatste plaats omdat hij er opvallend niet in slaagde zijn centrale bewering over ras en intelligentie in te trekken, en de eugenetica gedeeltelijk leek te verdedigen. Hoewel de Universiteit van Oxford na onderzoek aanvaardde dat Bostrom geen racist was, heeft de hele episode een smet achtergelaten op de reputatie van het instituut in een tijd waarin kwesties als antiracisme en dekolonisatie voor veel universitaire afdelingen van cruciaal belang zijn geworden.
Foto: Dante Carrer/Reuters
Het was Émile Torres, een voormalig voorstander van een lang leven en de meest uitgesproken criticus ervan, die de e-mail uit 1996 ontdekte. Torres zegt dat ze begrepen dat “het de druppel was voor de filosofieafdeling van Oxford”.
na het promoten van de nieuwsbrief
Torres ging geloven dat het werk van de FHI en zijn uitlopers een ‘schadelijke ideologie’ en ‘eugenetica op steroïden’ vertegenwoordigden. Ze weigeren de opmerkingen van Bostrom uit 1996 te zien als slecht verwoorde jongeren, maar wijzen op een brutale, utilitaire kijk op de mensheid. Torres merkt op dat Bostrom zes jaar na de e-mail een artikel schreef over existentiële risico’s dat hielp een langlopende beweging op gang te brengen, waarin hij spreekt over ‘dysgene druk’ – dysgeniciteit is het tegenovergestelde van eugenetica. Bostrom schreef:
“Momenteel lijkt er op sommige plaatsen een negatieve correlatie te bestaan tussen intellectuele prestaties en vruchtbaarheid. Als een dergelijke selectie over een langere periode zou plaatsvinden, zouden we kunnen evolueren naar een minder intelligente maar vruchtbaardere soort. homo philoprogenitus (‘liefhebber van vele nakomelingen’).”
Bostrom zegt nu dat hij geen bijzondere interesse heeft in de kwestie van ras en dat hij dit graag overlaat aan anderen met ‘relevantere kennis’. Maar de 28 jaar oude e-mail is niet het enige probleem waar Oxford over moest nadenken. Zoals Torres zegt, heeft de effectieve beweging van altruïsme en langetermijndenken “sinds eind 2022 te kampen gehad met een reeks schandalen”.
Slechts een maand voordat de opruiende opmerkingen van Bostrom aan het licht kwamen, werd cryptocurrency-ondernemer Sam Bankman-Fried uitgeleverd door de Bahama’s om in de VS te worden aangeklaagd wegens fraude met miljarden dollars. Bankman-Fried was een vocale en financiële voorstander van effectief altruïsme en een goede vriend van William MacAskill, een academicus met sterke banden met FHI die het Center for Effective Altruism oprichtte, waar Bankman-Fried korte tijd werkte.
MacAskill zou Bankman-Fried tien jaar geleden ervan hebben overtuigd dat hij zoveel mogelijk geld wilde verdienen, zodat hij het kon weggeven. De ondernemer leek zich aan het eerste deel van dat verbod te houden, maar gaf vervolgens 300 miljoen dollar aan frauduleus verkregen geld uit aan onroerend goed in de Bahama’s. Zijn ondergang en de daaropvolgende gevangenisstraf van 25 jaar deden weinig af aan de morele argumenten van FHI en haar dochterondernemingen.
Alsof dat nog niet genoeg was, werd de staatsgreep van afgelopen november, waarbij Sam Altman kortstondig werd afgezet als CEO van Open AI, het bedrijf achter ChatGPT, toegeschreven aan bestuursleden van het bedrijf die EA steunden. De snelle terugkeer van Altman werd gezien als een tegenslag voor de EA-gemeenschap en, zegt Torres, “ondermijnde de invloed van EA/longevity binnen Silicon Valley ernstig.”
Dit alles lijkt natuurlijk ver verwijderd van de niet onbelangrijke kwestie van het behoud van de mensheid, en dat is de reden waarom de FHI ogenschijnlijk werd opgericht. Ongetwijfeld zal dit nobele streven andere academische wegen vinden om te verkennen, maar misschien zonder het iconische ideologische raamwerk dat het instituut een mooie toekomst achterliet.