I Over het algemeen keur ik bloedvergieten niet goed, maar ik maak graag een uitzondering voor het jagen op en uitdagen van leidinggevenden uit Silicon Valley in de commissiekamer van het Congres. Maar dan hou ik van dure, nutteloze brillen. En de CEO’s van waterboarding-technologie in het Congres zijn daar met het vuurwerk, een korte, opwindend onzinnige sensatie op het netvlies, en dan de duisternis.
De opnames van Mark Zuckerberg en zijn collega-Silicon Valley Übermenschen vorige week waren een klassieker van het genre: voorpagina’s, krantenkoppen en een werkelijk opvallend moment van onhandigheid waarin hij voor de eerste keer gedwongen werd zijn slachtoffers onder ogen te zien en zich te verontschuldigen: getroffen ouders die standhouden foto’s van hun dode kinderen die verloren zijn gegaan door cyberpesten en seksuele uitbuiting.
Nog geen zes uur later maakte zijn bedrijf zijn kwartaalresultaten bekend. Meta’s aandelenkoers steeg met 20,3%, wat het bedrijf een marktkapitalisatie van $200 miljard opleverde en, als je meetelt, waar hij als CEO van uitgaat, een zoetstof van 700 miljoen dollar voor Zuckerberg zelf. Degenen die naar de inkomstenoproepen hebben geluisterd, vertellen me dat er geen sprake was van dode kinderen.
Een dag later kondigde Biden aan: ‘Als je een Amerikaan kwaad doet, zullen we reageren’, en vuurde raketten af op meer dan tachtig doelen in Syrië en Irak. Tuurlijk, zolang Amerikanen geen tieners met smartphones zijn. Amerikaanse technologiebedrijven schaden Amerikanen routinematig, vooral Amerikaanse kinderen, hoewel ze eerlijk gezegd ook routinematig kinderen van alle andere nationaliteiten schaden: De Wall Street Journal toonde aan dat Meta’s algoritmen pedofielen in staat stellen elkaar te vinden. De procureur-generaal van New Mexico klaagt het bedrijf aan omdat het ‘wereldwijd de grootste markt voor roofdieren en pedofielen’ is. Een Britse lijkschouwer ontdekte dat de 14-jarige Molly Jane Russell “stierf aan een daad van zelfbeschadiging terwijl ze leed aan een depressie en de negatieve effecten van internetinhoud” – waaronder Instagram-video’s waarin zelfmoord werd afgebeeld.
En hoewel het sturen van slechts een team Navy Seals naar Menlo Park misschien te veel is om op te hopen, zijn er andere reacties die het Amerikaanse Congres had kunnen opleggen, zoals, hier is een idee, wetgeving. Elke wet. Een die bijvoorbeeld technologiebedrijven verbiedt dode kinderen te behandelen als louter een kostenpost voor het zakendoen.
Omdat eisen dat technologiebedrijven pedofielen niet toestaan kinderen te vinden en te verzorgen het laagste van al het laaghangende fruit is op het gebied van technologieregulering. En toch is dat ook nog niet gebeurd. Wat Amerika dringend nodig heeft, is het naleven van zijn antitrustwetten en het opsplitsen van deze bedrijven als eerste fundamentele stap. Het moet artikel 230 aanpakken, een wet die platforms immuniteit geeft tegen rechtszaken wegens het hosten van schadelijke of illegale inhoud.
Er is basiswetgeving op het gebied van productveiligheid nodig. Stel je voor dat GlaxoSmithKline vorig jaar een nieuw experimenteel wondermedicijn zou lanceren. Een medicijn dat ongelooflijke voordelen heeft laten zien, waaronder de behandeling van sommige vormen van kanker en het vertragen van veroudering. Het kan ook bloedingen in de hersenen veroorzaken en foetussen aborteren, maar gegevens hierover zijn nog niet beschikbaar, dus we zullen gewoon moeten afwachten. Er is een reden waarom het niet gebeurt. Ze worden wetten genoemd. Geneesmiddelenfabrikanten ondergaan jaren van testen. Omdat ze moeten. Omdat op een gegeven moment, lang geleden, het Congres en andere wetgevende machten over de hele wereld hun werk deden.
Toch werd de nieuwste enorm ontwrichtende technologie van Silicon Valley, generatieve AI, vorig jaar in het wild losgelaten zonder zelfs maar de meest elementaire, door de federale overheid verplichte producttesten. Vorige week overspoelden deep-fake-pornobeelden van de beroemdste vrouwelijke ster ter wereld, Taylor Swift, de sociale-mediaplatforms, die niet wettelijk verplicht waren ze te verwijderen – en daarom deden velen dat ook niet.
Maar wie maakt het uit? Het is gewoon geweld tegen vrouwen. Het is gewoon seksuele aanranding zonder wederzijds goedvinden, die algoritmisch wordt verspreid onder miljoenen mensen over de hele planeet. Het straffen van vrouwen is de eerste stap bij het introduceren van welke nieuwe technologie dan ook, dus wen er maar aan, en als je denkt dat deep fakes bij popsterren zullen stoppen: veel succes daarmee.
Dacht u dat de desinformatie tijdens de Amerikaanse verkiezingen van 2016 en de Brexit-stemming slecht was? Laten we afwachten wat 2024 te bieden heeft. Zou er enig nadeel kunnen zitten aan het vrijgeven van deze onbewezen nieuwe technologie – een technologie die het mogelijk maakt om kosteloos massale desinformatie te creëren – precies op het moment dat meer mensen naar de stembus gaan dan op enig ander moment in de geschiedenis?
Je hoeft je niet echt voor te stellen waar het toe kan leiden, want het is al gebeurd. Een diepgaande parodie gericht op een progressieve kandidaat verscheen enkele dagen vóór de Slowaakse parlementsverkiezingen in oktober. Het is onmogelijk om te weten welke invloed hij had en wie die invloed had gecreëerd, maar de kandidaat verloor en de pro-Poetin-kandidaat van de oppositie won. CNN meldt dat het deepfake-bericht werd herhaald door een Russische buitenlandse inlichtingendienst, slechts een uur voordat het werd gepubliceerd. En waar was Facebook in dit alles, vraagt u zich af? Waar we zoals gewoonlijk weigeren veel deep-fake-berichten te verwijderen.
Terug in het Congres is het op de proef stellen van tech-managers iets om de tijd te vullen tussen het harde werk van het niet aannemen van technologiewetgeving. Het is zes jaar geleden sinds het Cambridge Analytica-schandaal toen Zuckerberg de eerste grote technologie-CEO werd die voor het Congres moest verschijnen. Het was een openbaring omdat het erop leek dat Facebook eindelijk onder de loep zou worden genomen.
Maar het optreden van woensdag was de achtste van Zuckerberg. En noch Facebook, noch enig ander technologisch platform is hiervan gebruik gemaakt. De VS hebben geen enkele federale wetgeving aangenomen. Facebook heeft intussen zijn naam ontlastend gedaan om de stank van dataschandalen en infiltratie van het Kremlin weg te nemen en biedt zijn CEO af en toe aan voor een rituele slachting in de Senaat.
Om de afnemende dominantie van het Amerikaanse imperium in de wereld te begrijpen, de gebroken wetgevende macht en de verovering ervan door bedrijfsbelangen, de symboliek van een senator die Zuckerberg dwingt zijn excuses aan te bieden aan zijn rouwende ouders terwijl het Congres – dat grote witte gebouw bestormd door opstandelingen die zich op de sociale media bevonden mediaplatforms – absoluut niets doen om de unieke kracht van uw bedrijf te beteugelen is een goed beginpunt.
We hadden acht jaar de tijd om de lessen van 2016 te leren, en toch zijn we hier. Groot-Brittannië heeft gereageerd door het orgaan dat onze verkiezingen beschermt te verzwakken en onze wetten op gegevensbescherming te verlagen om “post-Brexit-kansen te ontsluiten”. Amerikaanse congrescommissies zijn nu een vrachtcultus die zich bezighoudt met rituele eisen voor verantwoording. Ondertussen is er een nieuw technologisch wondermiddel op de markt dat ongekende economische kansen of dodelijke biologische wapens zou kunnen creëren en wat er nog over is van de liberale democratie kan destabiliseren. Waarschijnlijk allebei.
Carole Cadwalladr is verslaggever en schrijver voor The Observer
In Groot-Brittannië en Ierland kunt u contact opnemen met Samaritanen op 116 123, of een e-mail sturen naar jo@samaritans.org of jo@samaritans.ie. In de VS is de National Suicide Prevention Lifeline 1-800-273-8255. In Australië is de Lifeline-crisisondersteuningsdienst 13 11 14. Andere internationale hulplijnen zijn te vinden op befrienders.org.
Heeft u een mening over de kwesties die in dit artikel aan de orde komen? Als u een brief van maximaal 250 woorden wilt indienen die in aanmerking komt voor publicatie, kunt u deze naar ons e-mailen op observer.letters@observer.co.uk