Populaire zoekmachines als Google en Bing maken het gemakkelijker om neppornografie zonder wederzijds goedvinden te laten verschijnen door deze bovenaan de zoekresultaten te plaatsen, meldde NBC News donderdag.
Deze controversiële deepfakes plaatsen de gezichten van echte vrouwen, vaak beroemdheden, op de lichamen van volwassen entertainers, zodat het lijkt alsof ze echte seks hebben. Mede dankzij de vooruitgang op het gebied van generatieve kunstmatige intelligentie is er nu een groeiende zwarte markt voor deepfake-pornografie die ontdekt kan worden via een Google-zoekopdracht, meldde NBC News.
NBC News ontdekte het probleem door veilig zoeken uit te schakelen en vervolgens de namen van 36 beroemdheden te combineren met voor de hand liggende zoektermen zoals ‘deepfakes’, ‘deepfake porn’ en ‘fake acts’. Bing genereerde 35 keer links naar deepfake-video’s in de topresultaten, terwijl Google dit 34 keer deed. Bing heeft ook ‘nep-naaktfoto’s van voormalige tieneractrices van Disney Channel’ opgedoken met afbeeldingen die de indruk wekken dat de acteurs minderjarig zijn.
Een woordvoerder van Google vertelde NBC dat de technologiegigant begrijpt “hoe verontrustend deze inhoud kan zijn voor mensen die erdoor getroffen worden” en “actief werkt aan het bieden van meer bescherming voor zoeken.”
Volgens een woordvoerder van Google verschijnt deze controversiële inhoud soms omdat “Google inhoud indexeert die op internet bestaat”, net “zoals elke zoekmachine.” Maar terwijl zoekopdrachten met termen als ‘deepfake’ consequent resultaten kunnen opleveren, ontwerpt Google ‘actief’ rangschikkingssystemen om te voorkomen dat mensen worden geschokt met onverwachte schadelijke of expliciete inhoud waar ze niet naar op zoek zijn’, aldus een woordvoerder.
Momenteel is de enige manier om deepfake-pornografie zonder wederzijds goedvinden uit de zoekresultaten van Google te verwijderen, door het slachtoffer persoonlijk of via een ‘gemachtigde vertegenwoordiger’ een formulier in te dienen. Het formulier vereist dat de slachtoffers aan drie eisen voldoen, waaruit blijkt dat: ze “herkenbaar zijn afgebeeld” in de deepfake, “de afbeelding in kwestie nep is en hen ten onrechte afbeeldt” als “naakt of in een seksueel expliciete situatie”, en dat de afbeeldingen zijn verspreid. zonder hun toestemming.
Hoewel dit slachtoffers enige mogelijkheid biedt om inhoud te verwijderen, zijn experts bezorgd dat zoekmachines meer moeten doen om de prevalentie van deepfake-pornografie die online beschikbaar is, die momenteel in snel tempo groeit, effectief terug te dringen.
Deze nieuwe kwestie treft steeds meer gewone mensen en zelfs kinderen, en niet alleen beroemdheden. Afgelopen juni ontdekten experts op het gebied van kinderveiligheid duizenden realistische maar nep-AI-seksbeelden van kinderen die online werden verhandeld, rond dezelfde tijd waarschuwde de FBI dat het gebruik van door AI gegenereerde deep-fakes in sexting-programma’s in opkomst was.
En zonder toestemming wordt deepfake-pornografie niet alleen online op de zwarte markt verhandeld. In november startte de politie van New Jersey een onderzoek nadat middelbare scholieren AI-beeldgeneratoren gebruikten om nep-naaktfoto’s van vrouwelijke klasgenoten te maken en te delen.
Nu technologiebedrijven schijnbaar traag zijn in het tegengaan van de opkomst van deepfakes, hebben sommige staten wetten aangenomen die de verspreiding van deepfake-pornografie strafbaar stellen. Afgelopen juli wijzigde Virginia de bestaande wet die wraakporno strafbaar stelt, zodat ‘valselijk gemaakte videobeelden of foto’s er ook onder vallen’. In oktober heeft New York een wet aangenomen die specifiek gericht is op het verbieden van neppornografie, waarbij boetes van $1.000 en maximaal een jaar gevangenisstraf worden opgelegd aan overtreders. Het Congres introduceerde ook wetgeving die voorziet in strafrechtelijke sancties voor de distributie van deepfake-pornografie.
Hoewel Google aan NBC News vertelde dat de zoekfuncties “geen gemanipuleerde media of seksueel expliciete inhoud toestaan”, lijkt het onderzoek van deze outlet anders te suggereren. NBC News merkte ook op dat de Play Store van Google een app bevat waarvan eerder werd geadverteerd dat deze neppornografie zou maken, ondanks een verbod op “apps die vastbesloten zijn om zichtbaar misleidende of bedrieglijke afbeeldingen, video’s en/of tekst te promoten of te onderhouden.” Dit suggereert dat de herstelinspanningen van Google om misleidende afbeeldingen te blokkeren mogelijk inconsistent zijn.
Google vertelde Ars dat het binnenkort zijn beleid zal versterken tegen apps die beperkte, door AI gegenereerde inhoud in de Play Store bevatten. Het Generatieve AI-beleid, dat op 31 januari van kracht wordt, vereist dat alle apps zich houden aan de regels van ontwikkelaars die beperkte door AI gegenereerde inhoud verbieden, inclusief misleidende inhoud en inhoud die de uitbuiting of het misbruik van kinderen vergemakkelijkt.
Experts vertelden NBC News dat “Google’s gebrek aan proactief patrouilleren op misbruik Google en andere zoekmachines tot nuttige platforms heeft gemaakt voor mensen die zich willen bezighouden met deepfake-intimidatiecampagnes.”
Google is momenteel “bezig met het bouwen van uitgebreidere beveiligingen, met een bijzondere nadruk op het wegnemen van de noodzaak voor bekende slachtoffers om de verwijdering van inhoud één voor één aan te vragen”, vertelde een woordvoerder van Google aan NBC News.
Een Microsoft-woordvoerder vertelde Ars dat ze ons verzoek om commentaar beoordelen. We zullen dit rapport bijwerken met nieuwe informatie die Microsoft deelt.
In het verleden heeft Microsoft-president Brad Smith gezegd dat van alle gevaren die kunstmatige intelligentie met zich meebrengt, deepfakes hem het meest zorgen baren, maar deepfakes die ‘buitenlandse cyberinvloedsoperaties’ voeden, lijken hem meer zorgen te baren dan deepfakes-pornografie.
Dit verhaal is op 11 januari bijgewerkt met informatie over het door AI gegenereerde inhoudsbeleid van Google.