Kinderen op Britse scholen gebruiken kunstmatige intelligentie (AI) om onfatsoenlijke beelden van andere kinderen te maken, waarschuwde een groep experts op het gebied van kindermisbruik en technologie.
Ze zeiden dat een aantal scholen voor het eerst rapporteerden dat leerlingen technologie voor het genereren van kunstmatige intelligentie gebruikten om afbeeldingen van kinderen te maken die legaal materiaal voor seksueel misbruik van kinderen vormden.
Emma Hardy, directeur van het UK Safer Internet Centre (UKSIC), zei dat de beelden “angstaanjagend” realistisch waren.
“De kwaliteit van de beelden die we zien is vergelijkbaar met professionele foto’s van kinderen op scholen in het hele land”, zegt Hardy, tevens directeur communicatie van de Internet Watch Foundation.
“Het fotorealistische karakter van door AI gegenereerde beelden van kinderen betekent dat de kinderen die we zien soms herkenbaar zijn als slachtoffers van eerder seksueel misbruik.
‘Kinderen moeten gewaarschuwd worden dat ze zich via internet kunnen verspreiden en uiteindelijk gezien kunnen worden door vreemden en seksuele roofdieren. Het potentieel voor misbruik van deze technologie is angstaanjagend”, zei ze.
UKSIC, een kinderbeschermingsorganisatie, zegt dat scholen dringend actie moeten ondernemen om betere systemen op te zetten om materiaal over kindermisbruik te blokkeren.
“De berichten die we zien over kinderen die deze foto’s maken, mogen geen verrassing zijn. Dit soort schadelijk gedrag is te verwachten wanneer nieuwe technologieën, zoals AI-generatoren, beter beschikbaar komen voor het publiek”, aldus UKSIC-directeur David Wright.
“Kinderen verkennen mogelijk het potentieel van AI-beeldgeneratoren zonder de schade die ze kunnen veroorzaken ten volle te beseffen. Hoewel het aantal gevallen klein is, staan we op de bodem en moeten we zien dat er nu stappen worden gezet – voordat de scholen overvol raken en het probleem groeit”, zei hij.
Afbeeldingen van seksueel misbruik van kinderen zijn illegaal in Groot-Brittannië – of ze nu door AI zijn gegenereerd of fotografisch – en zelfs tekenfilms of andere, minder realistische afbeeldingen zijn nog steeds illegaal om te maken, te bezitten en te verspreiden.
Vorige maand waarschuwde de Internet Watch Foundation dat door AI gegenereerde beelden van seksueel kindermisbruik “het internet dreigen te overspoelen”, waarvan vele nu zo levensecht zijn dat ze niet meer te onderscheiden zijn van echte beelden – zelfs niet door getrainde analisten.