Een andere afbeelding op de site toont een groep jonge tieners die eruit zien alsof ze op de middelbare school zitten: een jongen die een selfie maakt in wat lijkt op een gymzaal met twee meisjes, die lachend poseren voor een foto. De gelaatstrekken van de jongen werden verduisterd door een Snapchat-lens die zijn ogen zo groot maakte dat ze zijn gezicht bedekten.
Uit de bijschriften bij de ogenschijnlijk geënsceneerde beelden blijkt dat het afbeeldingen van vrienden, klasgenoten en romantische partners betreft. ‘Mijn meisje’, zegt een onderschrift, waarin een jonge vrouw een selfie in de spiegel maakt.
Op veel van de foto’s zijn influencers te zien die populair zijn op TikTok, Instagram en andere sociale mediaplatforms. De rest van de foto’s leken Instagram-screenshots te zijn van mensen die afbeeldingen uit hun dagelijks leven deelden. Eén afbeelding toont een jonge vrouw die lacht met een dessert met daarop een feestelijke kaars.
Er zijn verschillende afbeeldingen opgedoken waarop mensen te zien zijn die volslagen vreemden waren voor de persoon die de foto maakte. Eén foto, van achteren genomen, toont een vrouw of meisje die niet poseert voor een foto, maar gewoon in de buurt van wat een toeristische attractie lijkt te staan.
Sommige afbeeldingen in de door WIRED beoordeelde feeds zijn bijgesneden om de gezichten van vrouwen en meisjes te verwijderen, waarbij alleen hun borsten of kruis zichtbaar zijn.
Enorm publiek
Tijdens de acht dagen durende monitoringperiode van de site zag WIRED vijf nieuwe afbeeldingen van vrouwen verschijnen op de Home-feed en drie op de Explore-pagina. Statistieken op de site toonden aan dat de meeste van deze afbeeldingen honderden “views” verzamelden. Het is onduidelijk of alle afbeeldingen die naar de site worden verzonden, in de Home- of Explore-feed terechtkomen, of hoe de weergaven in de tabel worden weergegeven. Elk bericht op de startpagina heeft minstens enkele tientallen views.
Foto’s van beroemdheden en mensen met een groot aantal volgers op Instagram staan bovenaan de lijst met “Meest bekeken” foto’s op de site. De meest bekeken mensen aller tijden op de site zijn actrice Jenna Ortega met ruim 66.000 views, zangeres en songwriter Taylor Swift met ruim 27.000 views en influencer en DJ uit Maleisië met ruim 26.000 views.
Swift en Ortega zijn al eerder het doelwit geweest van nepacts. De verspreiding van nepnaaktbeelden van Swift op X in januari leidde tot een moment van hernieuwd debat over de impact van deepfakes en de noodzaak van meer wettelijke bescherming voor slachtoffers. Deze maand meldde NBC dat Meta zeven maanden lang advertenties vertoonde voor de deep nude-app. De app pochte over de mogelijkheid om mensen te ‘uitkleden’, met behulp van een foto van Jenna Ortega toen ze 16 was.
In de VS is er geen federale wet die zich richt op de verspreiding van nep-naaktafbeeldingen zonder toestemming. Verschillende staten hebben hun eigen wetten aangenomen. Maar door AI gegenereerde naaktbeelden van minderjarigen vallen in dezelfde categorie als ander materiaal over seksueel misbruik van kinderen, oftewel CSAM, zegt Jennifer Newman, uitvoerend directeur van de Child Exploited Division van NCMEC.
“Als het niet te onderscheiden is van een foto van een levend slachtoffer, een echt kind, dan is dat materiaal voor seksueel kindermisbruik voor ons”, zegt Newman. “En we zullen het als zodanig behandelen, terwijl we onze rapporten verwerken terwijl we die rapporten indienen bij de wetshandhaving.”