Kort nadat Joe Biden aankondigde dat hij zijn herverkiezingsbod zou beëindigen, begon zich verkeerde informatie te verspreiden over de vraag of een nieuwe kandidaat het presidentschap zou kunnen overnemen.
Schermafbeeldingen waarin werd beweerd dat de nieuwe kandidaat niet aan de stembiljetten in negen staten kon worden toegevoegd, circuleerden snel op Twitter, nu X, en werden miljoenen keren bekeken. Het kantoor van de minister van Buitenlandse Zaken van Minnesota begon verzoeken om factchecks voor deze posten te ontvangen, die volkomen onjuist waren: de stemdeadlines waren nog niet verstreken, waardoor Kamala Harris voldoende tijd had om haar naam op het stembiljet te krijgen.
Bron van desinformatie: Twitter’s chatbot, Grok. Toen gebruikers aan de AI-tool vroegen of er nog tijd was om een nieuwe kandidaat aan het stembiljet toe te voegen, gaf Grok een verkeerd antwoord.
Het vinden van de bron – en werken aan het oplossen ervan – heeft gediend als een test voor de manier waarop verkiezingsfunctionarissen en AI-bedrijven zullen communiceren tijdens de Amerikaanse presidentsverkiezingen van 2024, te midden van de vrees dat AI kiezers zou kunnen misleiden of afwijzen. En het liet zien welke rol Grok specifiek zou kunnen spelen bij verkiezingen, als een chatbot met minder waarborgen om de creatie van meer opruiende inhoud te voorkomen.
Een groep staatssecretarissen en hun representatieve organisatie, de Nationale Vereniging van Ministers van Buitenlandse Zaken, namen contact op met Grok en X om de verkeerde informatie aan het licht te brengen. Maar het bedrijf slaagde er niet in om het probleem meteen op te lossen en haalde de schouders op, zei Steve Simon, de minister van Buitenlandse Zaken van Minnesota. “En dat viel op, ik denk dat het eerlijk is om tegen ons allemaal te zeggen, als een heel verkeerd antwoord”, zei hij.
Gelukkig was dit foute antwoord relatief klein: het zou mensen er niet van hebben weerhouden te stemmen. Maar de secretarissen namen al snel een krachtig standpunt in voor wat er daarna zou komen.
“In ons achterhoofd dachten we: wat als de volgende keer dat Grok een fout maakt, de inzet hoger is?” “Wat als ik de volgende keer dat het antwoord fout is, kan stemmen, waar kan ik stemmen… op welke uren, of kan ik afwezig stemmen?” Dit was dus alarmerend voor ons.”
Van bijzonder belang was het feit dat het sociale-mediaplatform zelf valse informatie verspreidde, in plaats van dat gebruikers via het platform verkeerde informatie verspreidden.
De secretarissen presenteerden publiekelijk hun inspanningen. Vijf van de negen secretarissen van de groep ondertekenden een openbare brief aan het platform en zijn eigenaar Elon Musk. In de brief wordt er bij X op aangedrongen dat zijn chatbot een soortgelijke positie inneemt als andere chatbottools, zoals ChatGPT, en gebruikers die vragen stellen over de Grok-verkiezingen doorverwijst naar een vertrouwde, niet-partijgebonden steminformatiesite, CanIVote.org.
De inspanning werkte. Grok verwijst gebruikers nu naar een andere website, vote.gov, wanneer hem wordt gevraagd naar de verkiezingen.
“We kijken ernaar uit om de communicatielijnen dit verkiezingsseizoen open te houden en zijn klaar om eventuele aanvullende zorgen aan te pakken”, schreef Wifredo Fernandez, X’s hoofd van mondiale overheidszaken, aan de secretarissen, volgens een kopie van de ontvangen brief. door de Guardian.
Het was een overwinning voor de minister en het uitstellen van verkiezingsdesinformatie – en een les in hoe te reageren als op AI gebaseerde tools falen. Door vroegtijdig en vaak verkeerde informatie naar buiten te brengen, kan een boodschap worden versterkt, geloofwaardiger worden gemaakt en een reactie worden afgedwongen, zei Simon.
Hoewel hij “diep teleurgesteld” was door de eerste reactie van het bedrijf, zei Simon: “Ik wil mijn lof en complimenten uitspreken, en dat is hier nodig. Dit is een groot bedrijf, met een mondiaal bereik, en ze hebben besloten het juiste en verantwoordelijke te doen, en ik prijs ze daarvoor. Ik hoop maar dat ze dit volhouden. Wij zullen het blijven monitoren.”
Musk omschreef Grok als een ‘anti-wake’-chatbot die ‘pittige’ antwoorden geeft, vaak doorspekt met geklets. Musk is “tegen gecentraliseerde controle in welke mate hij die ook kan doen”, zegt Lucas Hansen, medeoprichter van CivAI, een non-profitorganisatie die waarschuwt voor de gevaren van kunstmatige intelligentie. Deze filosofische overtuiging zet Grok in het nadeel wat betreft het voorkomen van desinformatie, net als een ander kenmerk van de tool: Grok brengt top-tweets binnen om zijn antwoorden te informeren, wat de nauwkeurigheid ervan kan beïnvloeden, zei Hansen.
Grok vereist een betaald abonnement, maar heeft de potentie voor wijdverbreid gebruik omdat het is ingebouwd in een sociale-mediaplatform, zei Hansen. En hoewel hij in de chat misschien de verkeerde antwoorden geeft, kunnen de beelden die hij creëert de onderlinge verdeeldheid verder aanwakkeren.
De beelden kunnen ongewoon zijn: nazi Mickey Mouse, Trump die met een vliegtuig het World Trade Center binnenvliegt, Harris in communistisch uniform. Een onderzoek van het Digital Hate Counter Center beweert dat Grok ‘overtuigende’ beelden kan creëren die mensen voor de gek kunnen houden, waarbij beelden worden aangehaald die ertoe hebben geleid dat de bot ervoor zorgde dat Harris drugs gebruikte en Trump ziek in bed lag, zo meldde de Independent. Al Jazeera schreef in een recent onderzoek dat het ‘levenslange beelden’ kon maken van Harris met een mes in een supermarkt en Trump ‘die blanke nationalisten de hand schudt op het gazon van het Witte Huis’.
“Nu kan elke willekeurige persoon iets creëren dat aanzienlijk brandbaarder is dan voorheen”, zei Hansen.