Het baanbrekende bedrijf voor het genereren van kunstmatige intelligentie, Midjourney, overweegt mensen te verbieden zijn software te gebruiken om politieke beelden van Joe Biden en Donald Trump te creëren, als onderdeel van een poging om te voorkomen dat het wordt gebruikt om af te leiden of verkeerd te informeren over de Amerikaanse presidentsverkiezingen van 2024.
“Ik weet niet hoeveel ik geef om politieke toespraken voor het komende jaar voor ons platform”, zei David Holz, CEO van Midjourney, vorige week, eraan toevoegend dat het bedrijf op het punt staat politieke beelden te “doden” – of te verbieden –, inclusief die van leidende presidentskandidaten, “volgende twaalf maanden”.
In een gesprek met Midjourney-gebruikers in een Discord-chatroom zei Holz volgens Bloomberg: “Ik weet dat het leuk is om Trump-foto’s te maken – ik maak Trump-foto’s. Trump is esthetisch gezien heel interessant. Toch is het waarschijnlijk beter om dat niet te doen, maar om bij deze verkiezingen een stapje terug te doen. We zullen wel zien.”
Door AI gegenereerde beelden zijn de laatste tijd een probleem geworden. Twee weken geleden brachten pornografische afbeeldingen van het karakter van Taylor Swift wetgevers en zogenaamde Swifties, die de zanger steunen, ertoe aan sterkere bescherming te eisen tegen beelden gegenereerd door kunstmatige intelligentie.
Afbeeldingen van Swift zijn gekoppeld aan 4chan, een community message board dat vaak wordt geassocieerd met het delen van seksueel, racistisch, samenzweerderig, gewelddadig of anderszins asociaal materiaal, met of zonder gebruik van AI.
De opmerkingen van Holz komen als voorzorgsmaatregelen die zijn gecreëerd door operators van beeldgeneratoren die een kat-en-muisspel met gebruikers spelen om het creëren van twijfelachtige inhoud te voorkomen.
AI op politiek vlak is een groeiend probleem, hoewel de MIT Technology Review onlangs opmerkte dat de discussie over hoe AI de democratie zou kunnen bedreigen ‘aan verbeeldingskracht ontbreekt’.
“Mensen praten over de gevaren van campagnes die tegenstanders aanvallen met nepbeelden (of nepaudio of video), omdat we al tientallen jaren ervaring hebben met het werken met nepbeelden”, aldus de recensie. Het voegde eraan toe: “Het is onwaarschijnlijk dat we de verrassende verkiezingsuitslag zullen kunnen toeschrijven aan een specifieke interventie van kunstmatige intelligentie.”
Beeldgeneratiebedrijf Inflection AI zei echter in oktober dat de chatbot van het bedrijf, Pi, niet zou mogen pleiten voor welke politieke kandidaat dan ook. Medeoprichter Mustafa Suleyman zei op een conferentie in de Wall Street Journal dat chatbots “waarschijnlijk [have] blijven een menselijk onderdeel van het proces”, zelfs als ze perfect werken.
Meta’s Facebook maakte vorige week bekend dat het van plan is berichten te markeren die zijn gemaakt met behulp van AI-tools als onderdeel van een bredere inspanning om desinformatie in een verkiezingsjaar te bestrijden. Het aan Microsoft gelieerde OpenAI zei dat het watermerken zal toevoegen aan afbeeldingen die op zijn platforms zijn gemaakt om door AI geproduceerde politieke vervalsingen te bestrijden.
“Het beschermen van de integriteit van verkiezingen vereist medewerking van alle delen van het democratische proces, en we willen ervoor zorgen dat onze technologie niet wordt gebruikt op een manier die dit proces zou kunnen ondermijnen”, schreef het bedrijf vorige maand in een blogpost.
Sam Altman, CEO van OpenAI, zei onlangs tijdens een evenement: “Wat mij het meest zorgen baart, is dat er met de nieuwe mogelijkheden met AI… er betere deepfakes zullen zijn dan in 2020.”
In januari illustreerde een nep-audiogesprek waarin hij zich voordeed als Joe Biden en tegen de kiezers in New Hampshire zei dat ze thuis moesten blijven, het potentieel voor politieke manipulatie door kunstmatige intelligentie. De FCC kondigde later een verbod aan op door AI gegenereerde stemmen in robocalls.
“Wat we ons echt realiseren is dat de kloof tussen innovatie, die snel groter wordt, en ons overleg – ons vermogen als samenleving om samen te komen om de beste praktijken, gedragsnormen, wat we zouden moeten doen, wat nieuwe wetgeving zou moeten zijn, te begrijpen. be – dat is nog steeds pijnlijk traag”, vertelde David Ryan Polgar, voorzitter van de non-profitorganisatie All Tech Is Human, eerder aan The Guardian.
Midjourney-software was verantwoordelijk voor het nepbeeld van Trump die door agenten werd geboeid. Anderen die online zijn opgedoken zijn onder meer Biden en Trump als oudere mannen die truien aan elkaar breien, Biden grijnzend terwijl hij een machinegeweer afvuurt of Trump die paus Franciscus ontmoet in het Witte Huis.
De software beschikt al over een aantal beveiligingen. De Community Standards Guidelines van Midjourney verbieden afbeeldingen die “respectloos, schadelijk, misleidend of misleidende afbeeldingen van publieke figuren/gebeurtenissen” zijn.
Bloomberg merkte op dat wat wel of niet is toegestaan varieert afhankelijk van de versie van de software die wordt gebruikt. Een oudere versie van Midjourney produceerde een afbeelding van Trump bedekt met spaghetti, maar de nieuwere versie niet.
Maar als Midjourney het maken van politieke AI-beelden verbiedt, zullen consumenten – waaronder kiezers – zich daar waarschijnlijk niet van bewust zijn.
‘We zullen waarschijnlijk gewoon aankloppen en niets zeggen,’ zei Holz.