Katy Perry, Rihanna en Dua Lipper met Gala AI-foto’s Trick the Internet: NPR.

Enkele van de grootste namen op het gebied van muziek, entertainment en mode kwamen maandag samen in New York City voor het Met Gala met als thema ‘Garden of Time’, uitgedost in bloemen, glitters en extravagante uurwerken.

In tegenstelling tot de beelden die op sociale media circuleren, was Katy Perry niet een van hen.

“Kon MET niet halen, moest werken”, plaatste de zangeres op Instagram, naast een video waarin ze zong in de studio – naast twee foto’s waarop ze blijkbaar te zien was op het gala.

Ze zijn eigenlijk gemaakt met AI.

In de eerste film wordt Perry gezien terwijl hij op een met heggen omzoomde rode loper bij de Met staat, gekleed in een uitgebreide baljurk bedekt met bloemen en vlinders, en haar zwarte haar in lange golven gestyled. In de tweede, een close-up, draagt ​​Perry een metalen korsettopje met een grote sleutelhendel in het midden en een korte rok met bloemen en bladeren, haar haar steil en warrig.

De foto’s – waarvan de exacte herkomst onduidelijk is – maakten vroeg in de nacht veel indruk op X (voorheen bekend als Twitter), terwijl kijkers thuis hun feeds verversten en hun favoriete celebrity’s beoordeelden.

De One X-post van de baljurkfoto had dinsdagochtend meer dan 300.000 likes en bijna 70.000 reposts – en een opmerking onderaan maakt duidelijk dat deze met AI is gemaakt. Een ander bericht, over een korsetjurk, kreeg meer dan 100.000 likes en kreeg uiteindelijk het label ‘digitaal gemaakt’.

Perry is een regelmatige bezoeker van het Met Gala (en de laatste jaren beroemd om zijn thema-outfits, waaronder een kroonluchter en hamburgers), dus internetwaarnemers zouden vergeven zijn als ze vermoedden dat ze er maandag was.

Zelfs Perry’s moeder, Mary Hudson, dacht er zo over. Een bericht op de Instagram Carousel van de zanger was een screenshot van een tekstgesprek tussen de twee.

‘Ik wist niet dat je flauwviel’, schreef zijn moeder. “Wat een prachtige jurk, je lijkt op de Rozenparade, je bent je eigen praalwagen haha.”

Perry maakte de zaken snel duidelijk.

‘Hal Ma AI heeft jou ook,’ antwoordde ze. “Kijk uit!”

Door AI gegenereerde beelden zijn steeds gemakkelijker te maken, en deep fakes van beroemdheden worden steeds populairder – van de seksueel expliciete deep fake van Taylor Swift die eerder dit jaar werd uitgezonden tot de nagebootste robocall van president Biden vóór de voorverkiezingen in New Hampshire.

In feite was Perry niet de enige ster die zichzelf in feite op de rode loper van het Met Gala fotografeerde: een virale X-post beweerde dat Rihanna tijdens het evenement een uitgebreide jurk droeg, terwijl ze eigenlijk ziek was van de griep. Er wordt gezegd dat er nog een ander verschijnt Lady GagaWie is er sinds 2019 niet meer geweest.

En vóór het gala circuleerden foto’s van Dua Lipper met pony en korset, waarna ze met rood haar en een geheel zwarte outfit op het tapijt verscheen – en de eerste foto’s van een X-gebruiker dateren uit 2021. genieten van schieten

Terwijl sommige gebruikers van sociale media de vervalsingen van het Met Gala afwezen als onderdeel van het plezier, zien anderen ze als een zorgwekkend teken van wat ons te wachten staat.

Deskundigen waarschuwen dat door AI gegenereerde deep webs een bedreiging vormen voor alles, van verkiezingsveiligheid tot alledaagse oplichting. En vorige maand ondertekenden meer dan 200 artiesten – waaronder Perry zelf – een brief waarin ze technologieplatforms en digitale muziekdiensten opriepen om te stoppen met het gebruik van AI om ‘de rechten van menselijke artiesten te schenden en te ondermijnen’.

Hoe weet je of een foto nep is (of op zijn minst verdacht)

Dus op welke aanwijzingen moeten Mary Perry – en andere kritische kijkers – letten om mogelijke vervalsingen te ontdekken?

Sam Gregory van de non-profitorganisatie Witness, die mensen helpt video en technologie te gebruiken om de mensenrechten te verdedigen, moedigt kijkers aan om in situaties als deze op context en intuïtie te vertrouwen.

“Mijn uitgangspunt is zoals alle foto’s [Perry’s] Vertrouw online detectoren niet, omdat er te veel variabelen zijn die bepalen of ze een accuraat resultaat opleveren”, legde hij uit via e-mail.

Hij zei dat toen hij twee afbeeldingen van Perry door een veelgebruikte detector liet gaan, de gebloemde jurk terugkwam als ‘waarschijnlijk menselijk’ en het korset als ‘waarschijnlijk door AI gegenereerd’. Hij ontmoedigt mensen om in dit soort afbeeldingen naar visuele aanwijzingen te zoeken, omdat dit ‘in een konijnenhol van onproductief forensisch scepticisme kan leiden’.

Bij een spraakmakend evenement als het Met Gala kun je volgens Gregory het beste gebruik maken van ‘klassieke mediageletterdheid en verificatiemethoden’. In dit geval kan het betekenen dat je uit verschillende bronnen naar meer bewijs van Perry’s aanwezigheid moet zoeken.

“Hoewel sommige mediageletterdheidstechnieken, zoals het controleren van bronnen, ons op een dwaalspoor kunnen brengen – misschien vertrouwen we erop dat Katy Perry echte beelden van zichzelf deelt – als we andere technieken gebruiken en naar andere beelden van dezelfde gebeurtenis uit betrouwbare bronnen zoeken, zullen we snel zien dat het niet echt”, legde hij uit.

Hij voegde eraan toe dat het hem deed denken aan de door AI gegenereerde beelden van de brand in het Pentagon die vorig jaar viraal gingen. In beide gevallen, zegt hij, is de eerste vraag die mensen zichzelf moeten stellen niet of ze AI-fouten in de foto kunnen detecteren, maar “waarom zijn er geen andere foto’s en video’s van deze gebeurtenis in een dichtbevolkt gebied?”

Maar de grote vraag, zoals Gregory het ziet, is of het publiek het überhaupt zou moeten doen.

“Katy Perry zal niet aanwezig zijn op het Met Gala en waarom zouden we dat raden, vooral als ze deel uitmaakt van de hoax?” hij zei.

Te midden van de groeiende bezorgdheid over het potentieel van AI om gebruikers te misleiden, zou er meer hulp kunnen komen van sociale-mediaplatforms. Meta zei eerder dit jaar dat het vanaf mei zou beginnen met het labelen van door AI gegenereerde afbeeldingen op Facebook, Instagram en Threads.

Maar voor nu – en zoals altijd – is het de sleutel om op je hoede te blijven Als je nog meer tips nodig hebt, bekijk dan deze tips van experts over hoe je door AI gegenereerde afbeeldingen kunt herkennen en kunt voorkomen dat je online wordt opgelicht.