De belangrijkste Amerikaanse communicatieregulator is van mening dat door AI gegenereerde robocalls, zoals degene die onlangs president Joe Biden in New Hampshire nabootste, volgens de bestaande wetgeving als illegaal moeten worden beschouwd. Deze wettelijke benaming zou het gemakkelijker maken om fraudeurs op het gebied van stemklonen van fraude te beschuldigen en zou een afschrikmiddel kunnen vormen tegen de toenemende golf van oplichting die wordt uitgevoerd met behulp van generatieve AI-tools.
In een voorstel dat deze week werd vrijgegeven, zei Jessica Rosenworcel, voorzitter van de Federal Communications Commission (FCC), dat de FCC door AI gegenereerde spraakoproepen moet erkennen onder de Telephone Consumer Protection Act (TCPA). De TCPA legt al beperkingen op aan geautomatiseerde marketingoproepen, ook wel robocalls genoemd, hoewel het nog steeds onduidelijk is of door AI gegenereerde inhoud netjes in die categorie valt. Een FCC-stemming ten gunste van het voorstel van Rosenworcel zou die dubbelzinnigheid ophelderen en door AI gegenereerde robocalls illegaal maken zonder dat er nieuwe wetten nodig zijn. Die stemming zal volgens een FCC-woordvoerder die met TechCrunch sprak, plaatsvinden naar goeddunken van de commissaris.
“Stemklonen en door AI gegenereerde beelden zaaien nu al verwarring door consumenten te laten denken dat oplichting en oplichting legitiem zijn”, aldus Rosenworcel in een verklaring. “Het maakt niet uit welke beroemdheid of politicus je voorkeur heeft, of wat je relatie is met je familieleden als ze om hulp roepen, het is mogelijk dat we allemaal het doelwit zijn van deze nepoproepen.”
Dat zei een FCC-woordvoerder PopSci dat het verduidelijken dat door AI gegenereerde oproepen geautomatiseerde oproepen zijn onder de bestaande wetgeving het voor staats- en federale onderzoekers gemakkelijker zou maken om handhavingsmaatregelen te nemen.
Waarom zijn door AI gegenereerde robocalls een probleem?
Steeds overtuigender en gebruiksvriendelijkere AI-tools voor het klonen van stemmen maken de toch al frustrerende robocalls gevaarlijker. Fraudeurs kunnen deze hulpmiddelen nu gebruiken om de indruk te wekken dat de persoon aan de andere kant van de lijn een beroemde beroemdheid, politicus of zelfs een direct familielid is. Die extra vertrouwdheidslaag kan bellers aan de andere kant van de lijn comfortabeler maken en meer vatbaar maken voor het overdragen van gevoelige informatie. Dergelijke oplichting komt steeds vaker voor. Eén op de tien respondenten die vorig jaar door beveiligingssoftwarebedrijf McAfee werd ondervraagd, zei dat ze persoonlijk het doelwit waren geweest van stemfraude. 77% van de beoogde slachtoffers gaf aan geld te hebben verloren.
Rosenworcel is ook niet de enige die deze praktijk wil verbieden. Eerder deze maand vormden procureurs-generaal uit 26 staten een coalitie en stuurden een brief naar de FCC waarin ze er bij de FCC op aandrongen het gebruik van door AI aangedreven telemarketeers te beperken. In de brief van de AG staat dat telemarketeers die zich willen voordoen als mensen onder de ‘kunstmatige’ benaming van de TCPA moeten vallen, wat inhoudt dat ze schriftelijke toestemming van consumenten moeten verkrijgen voordat ze hen kunnen bellen.
“De technologie vordert en breidt zich schijnbaar met de minuut uit, en we moeten ervoor zorgen dat deze nieuwe ontwikkelingen niet worden gebruikt om consumenten te bedriegen, te misleiden of te manipuleren”, zei procureur-generaal van Pennsylvania, Michelle Henry, in een verklaring.
De lange strijd van de FCC tegen robocallers
De FCC heeft zich jarenlang met wisselend succes verzet tegen meer traditionele, niet door AI gegenereerde robocalls. Vorig jaar vaardigde het bureau een recordboete van $300 miljoen uit tegen een grote robocall-operatie die verantwoordelijk zou zijn voor miljarden dollars aan autogarantiefraude. Eerder heeft het bureau een boete van $ 5 miljoen opgelegd aan een paar agenten die meer dan 1.100 illegale robocalls hebben gepleegd als onderdeel van een poging om de opkomst van zwarte kiezers bij de presidentsverkiezingen van 2020 te onderdrukken.
[ Related: FCC slaps voter suppression robocall scammers with a record-breaking fine. ]
Het uitroeien van alle robocalls blijft echter een uiterst moeilijke uitdaging. Veel robocall-operaties vinden hun oorsprong buiten de VS, waardoor ze moeilijk te vervolgen zijn. Ondertussen zijn Amerikaanse luchtvaartmaatschappijen beperkt in het aantal cellen dat ze redelijkerwijs kunnen blokkeren. De ontwikkeling van robocalling-technieken, zoals het ‘spoofen’ van telefoonnummers zodat het lijkt alsof ze in uw netnummer staan, maakt de handhaving ook moeilijker.
De groeiende bezorgdheid over mogelijke verkiezingsinmenging en geavanceerde fraude, verergerd door stemklonen, zou de FCC kunnen motiveren om deze keer snel te handelen. En in tegenstelling tot andere voorstellen die AI-deepfakes op internet proberen te bestraffen, zou deze beleidsverandering kunnen plaatsvinden zonder verdeeldheid zaaiende leden van het Congres die samenkomen om overeenstemming te bereiken over nieuwe wetgeving.