Lea Feiger: Soms kun je het aan specifieke bedrijven koppelen-
Victoria Elliott: Ja.
Lea Feiger: Dit wordt gedaan door generatieve AI zelf.
Victoria Elliott: Ja, helemaal. Er werd bijvoorbeeld een diepe hoax gemaakt over de voormalige premier van Pakistan, Imran Khan, die in de gevangenis zat op beschuldiging van corruptie. Zijn partij werd gediskwalificeerd omdat ze eerder dit jaar meedeed aan de algemene verkiezingen. Hij was in staat campagnetoespraken te houden met behulp van generatieve kunstmatige intelligentie.
Lea Feiger: Wild.
Victoria Elliott: Hiervoor maakten ze gebruik van ElevenLabs, hetzelfde bedrijf dat eerder dit jaar werd gebruikt om de robocall van Joe Biden te vervalsen. Soms kennen we de betrokken bedrijven, vaak ook niet.
Lea Feiger: Hoe zeiden deze bedrijven dat ze de verkiezingen dit jaar zouden benaderen?
Victoria Elliott: Welnu, de meer legitieme bedrijven zoals Midjourney en ChatGPT, OpenAI, Google, enz. hebben gezegd: “We gaan hekken opwerpen. We gaan geen politieke beelden toestaan.” ChatGPT, dat op tekst is gebaseerd, zeiden ze: “Het is niet goed om onze tool te gebruiken om politieke dingen voor campagnes te genereren”, of wat dan ook. “Je kunt geen chatbot bovenop onze interface draaien”, eigenlijk. Maar ze doen er niet veel aan om het af te dwingen. Er was een rapport van het Center to Combat Digital Hate dat we in maart behandelden, waarin ze al deze beeldgeneratoren onderzochten en zeiden: “Geef ons een foto van Trump die dit doet, geef ons een foto van Biden die dat doet. En dat gebeurde vaak. Voor ChatGPT, Dean Phillips, een congreslid dat zich kortstondig kandidaat stelde voor het presidentschap.
Lea Feiger: Voormalig presidentskandidaat, congreslid Dean Phillips.
Victoria Elliott: Hij bouwde een chatbot genaamd Dean.bot bovenop de ChatGPT-interface van OpenAI, en deze werd pas verwijderd toen verslaggevers zeiden: “Hé, is dit niet in strijd met je beleid?”
Lea Feiger: Ik herinner het me heel goed. Iets wat ik me vanaf dat moment ook herinner, is dat Dean Phillips eigenlijk veel aanhangers uit Silicon Valley had. Het is een beetje mistig. Het is zoiets als: “Ja, je zou Dean.bot niet moeten gebruiken, maar we houden toch nog steeds van je en ondersteunen je.” Het is een raar heen en weer geloop daar. Sam Altman was geïnteresseerd in de dingen die Dean bijvoorbeeld zei over generatieve AI en de wetten daartegen.
Victoria Elliott: Ja. Het is alleen in de VS. Er was bijvoorbeeld een bedrijf in Indonesië dat een app maakte genaamd Pemilu voor Indonesische verkiezingen. De oprichter van die app beweerde dat ze iets bovenop ChatGPT hadden gebouwd waarmee ze campagnetoespraken in een aantal lokale talen konden schrijven.
Lea Feiger: Wauw.
Victoria Elliott: Het verzamelde informatie om hen in staat te stellen boodschappen af te stemmen op bepaalde demografische groepen, of het nu om jongeren, vrouwen of wat dan ook ging.
Lea Feiger: Nou, over efficiënt gesproken als je een land hebt met zoveel talen.
Victoria Elliott: Ja. Het is verspreid over de eilanden, verschillende behoeften.