Google heeft al lang een verbod op seksueel expliciete advertenties, maar tot nu toe heeft het bedrijf adverteerders niet verboden reclame te maken Diensten waarmee mensen deepfake-pornografie kunnen maken en andere vormen van gegenereerde handelingen. Dat zal veranderen.
Google verbiedt momenteel adverteerders om ‘seksueel expliciete inhoud’ te promoten, die Google definieert als ‘tekst, afbeeldingen, audio of video van expliciete seksuele handelingen bedoeld om opwinding te veroorzaken’. Het nieuwe beleid verbiedt nu reclame voor diensten die gebruikers helpen ook dat soort inhoud te creëren, hetzij door iemands afbeelding te veranderen, hetzij door een nieuwe te genereren.
Het amendement, dat op 30 mei van kracht wordt, verbiedt “de promotie van synthetische inhoud die is gewijzigd of gegenereerd om seksueel expliciet te zijn of naaktheid te bevatten”, zoals websites en apps die mensen instrueren hoe ze deepfake-pornografie kunnen maken.
“Deze update is bedoeld om specifiek advertenties te verbieden voor diensten die de creatie van deep fake pornografie of synthetische naaktheid aanbieden”, aldus Google-woordvoerder Michael Aciman. De rand.
Aciman zegt dat alle advertenties die het beleid schenden, zullen worden verwijderd, en voegt eraan toe dat het bedrijf een combinatie van menselijke beoordelingen en geautomatiseerde systemen gebruikt om dat beleid af te dwingen. Volgens het jaarlijkse advertentieveiligheidsrapport van het bedrijf heeft Google in 2023 ruim 1,8 miljard advertenties verwijderd wegens schending van het beleid inzake seksuele inhoud.
De wijziging werd als eerste gerapporteerd 404 Media. Als 404 merkt op dat hoewel Google adverteerders al heeft verboden seksueel expliciete inhoud te promoten, sommige apps die de creatie van deepfake-pornografie mogelijk maken dit hebben omzeild door zichzelf als niet-seksueel te adverteren in Google-advertenties of in de Google Play Store. Eén app voor face-swapping adverteerde zichzelf bijvoorbeeld niet als seksueel expliciet in de Google Play Store, maar wel op pornosites.
Deepfake-pornografie zonder toestemming is de afgelopen jaren een voortdurend probleem geworden. Twee middelbare scholieren in Florida werden afgelopen december gearresteerd omdat ze naar verluidt naaktfoto’s van hun klasgenoten hadden gemaakt. Deze week nog werd een 57-jarige man uit Pittsburgh veroordeeld tot meer dan 14 jaar gevangenisstraf wegens het bezit van vals materiaal over seksueel kindermisbruik. Vorig jaar bracht de FBI een advies uit over het ‘opvoeren’ van afpersingsplannen waarbij mensen werden gechanteerd met door AI gegenereerde doelen. Hoewel veel AI-modellen het voor gebruikers moeilijk – zo niet onmogelijk – maken om door AI gegenereerde handelingen te creëren, bieden sommige diensten gebruikers de mogelijkheid seksuele inhoud te genereren.
Er zouden binnenkort wetgevende maatregelen tegen deepfake-pornografie kunnen komen. Vorige maand introduceerden het Huis en de Senaat de DEFIANCE Act, die een proces zou opzetten waarmee slachtoffers van ‘digitale namaak’ mensen zouden kunnen aanklagen die hun deepfakes zonder toestemming maken of verspreiden.