Kunstmatige intelligentie staat in het vizier van regeringen die zich zorgen maken over de manier waarop deze kan worden misbruikt voor fraude, desinformatie en andere kwaadaardige onlineactiviteiten; nu bereidt de toezichthouder zich in Groot-Brittannië voor om te onderzoeken hoe AI wordt gebruikt om een deel ervan te bestrijden, vooral als het gaat om inhoud die schadelijk is voor kinderen.
Ofcom, de toezichthouder die verantwoordelijk is voor de handhaving van de Britse Internet Safety Act, heeft plannen aangekondigd om een consultatie te starten over de manier waarop AI en andere geautomatiseerde tools vandaag de dag worden gebruikt en in de toekomst kunnen worden gebruikt om illegale online-inhoud proactief op te sporen en te verwijderen, met name om kinderen te beschermen tegen schadelijke inhoud en om materiaal van seksueel misbruik van kinderen te identificeren dat voorheen moeilijk te detecteren was.
De tools zouden deel uitmaken van een bredere reeks voorstellen die Ofcom opstelt om kinderen online veilig te houden. Een consultatie over de alomvattende voorstellen zal de komende weken beginnen, en later dit jaar zal een consultatie over kunstmatige intelligentie plaatsvinden, aldus Ofcom.
Mark Bunting, directeur van Ofcom’s online veiligheidsgroep, zegt dat haar interesse in AI begint met het zien hoe goed het tegenwoordig als screeningsinstrument wordt gebruikt.
“Sommige diensten gebruiken deze tools al om kinderen tegen deze inhoud te identificeren en te beschermen”, zei hij in een interview met TechCrunch. “Maar er is niet veel informatie over hoe nauwkeurig en effectief deze tools zijn. We willen kijken naar manieren waarop we ervoor kunnen zorgen dat de sector evalueert [that] bij het gebruik ervan, zorg ervoor dat de risico’s voor de vrije meningsuiting en de privacy worden beheerst.”
Een waarschijnlijke uitkomst zal zijn dat Ofcom aanbeveelt hoe en welke platforms moeten worden beoordeeld, wat er mogelijk niet alleen toe zou kunnen leiden dat platforms meer geavanceerde tools gaan gebruiken, maar ook mogelijke boetes als ze er niet in slagen om verbeteringen aan te brengen in het blokkeren van inhoud, of het creëren van betere manieren om jongere gebruikers behouden. van kijken.
“Net als bij veel online beveiligingsregels is het aan bedrijven om ervoor te zorgen dat ze de juiste stappen ondernemen en de juiste tools gebruiken om gebruikers te beschermen”, zei hij.
Er zullen critici en voorstanders van deze stappen zijn. Onderzoekers op het gebied van kunstmatige intelligentie vinden steeds geavanceerdere manieren om AI te gebruiken om bijvoorbeeld deepfakes te detecteren en om gebruikers online te verifiëren. Er zijn echter net zo veel sceptici die opmerken dat AI-detectie verre van betrouwbaar is.
Ofcom kondigde de consultatie over AI-tools aan op hetzelfde moment dat het zijn laatste onderzoek publiceerde naar de manier waarop kinderen online omgaan in Groot-Brittannië, waaruit bleek dat er over het algemeen meer jonge kinderen online zijn dan ooit tevoren, zo erg zelfs dat Ofcom nu faalt. activiteiten onder steeds jongere leeftijdsgroepen.
Bijna een kwart, 24%, van alle 5-7-jarigen heeft nu een eigen smartphone, en wanneer tablets erbij worden betrokken, stijgt dit aantal naar 76%, blijkt uit een onderzoek onder Amerikaanse ouders. Dezelfde leeftijdsgroep maakt ook veel vaker gebruik van media op deze apparaten: 65% voerde spraak- en video-oproepen (tegenover 59% slechts een jaar geleden), en de helft van de kinderen (tegenover 39% een jaar geleden) kijkt naar streaming media.
Leeftijdsbeperkingen voor sommige reguliere sociale media-apps worden steeds lager, maar ongeacht de beperkingen lijken ze in Groot-Brittannië toch te worden genegeerd. Ongeveer 38% van de kinderen van 5 tot 7 jaar gebruikt sociale media, ontdekte Ofcom. Metin WhatsApp is met 37% de meest populaire applicatie onder hen. En in wat waarschijnlijk de eerste keer is dat Meta’s vlaggenschip-beeldapp minder populair wordt dan de virale sensatie ByteDance, bleek dat TikTok door 30% van de 5- tot 7-jarigen werd gebruikt, terwijl Instagram “slechts” 22% bedroeg. Discord completeerde de lijst, maar was met slechts 4% aanzienlijk minder populair.
Ongeveer een derde, 32% van de kinderen van deze leeftijd, gaat zelfstandig online, en 30% van de ouders zegt dat het goed voor hen is dat hun minderjarige kinderen profielen hebben op sociale netwerken. YouTube Kids blijft met 48% het populairste netwerk voor jongere gebruikers.
Spellen, een eeuwige favoriet onder kinderen, worden inmiddels door 41% van de kinderen van 5 tot 7 jaar gebruikt, en 15% van de kinderen van deze leeftijd speelt schietspellen.
Terwijl 76% van de ondervraagde ouders zei dat ze met hun jonge kinderen hadden gesproken over veilig online blijven, zijn er volgens Ofcom vraagtekens tussen wat een kind ziet en wat dat kind zou kunnen melden. Bij het onderzoek naar oudere kinderen van 8 tot 17 jaar heeft Ofcom hen rechtstreeks geïnterviewd. Hieruit bleek dat 32% van de kinderen zei dat ze verontrustende inhoud online hadden gezien, maar slechts 20% van hun ouders zei dat ze iets hadden gemeld.
Zelfs als we rekening houden met enkele inconsistenties in de berichtgeving: “Uit onderzoek blijkt dat er een discrepantie bestaat tussen de blootstelling van oudere kinderen aan potentieel schadelijke online-inhoud en wat zij met hun ouders delen over hun online-ervaringen”, schrijft Ofcom. En verontrustende inhoud is slechts een van de uitdagingen: deepfakes zijn ook een probleem. Van de 16- tot 17-jarigen zei Ofcom dat 25% er niet zeker van was dat ze online het verschil konden zien tussen nep en echt.