Het verbod van de FCC op AI in robocalls zal niet genoeg zijn

In de dagen voorafgaand aan de Democratische voorverkiezingen in New Hampshire op 23 januari begonnen potentiële kiezers telefoontjes te ontvangen met een door AI gegenereerde audio van een nep-president Biden die hen aanspoorde niet te stemmen tot de algemene verkiezingen van november. Kiezers in Slowakije plaatsten op Facebook een nep-audio-opname van een presidentskandidaat die van plan is de verkiezingen te stelen, gegenereerd door kunstmatige intelligentie, die de verkiezingen mogelijk in het voordeel van een andere kandidaat heeft doen doorslaan. Recente verkiezingen in Indonesië en Taiwan werden ook ontsierd door door AI gegenereerde desinformatie.

Als reactie op de nep-robocall van Biden in New Hampshire besloot de Amerikaanse Federal Communications Commission op 8 februari om door AI gegenereerde stemmen illegaal te verklaren. Maar deskundigen IEEE-spectrum degenen met wie we spraken zijn er niet van overtuigd dat deze stap voldoende zal zijn, zelfs nu generatieve AI nieuwe wendingen geeft aan oude robocall-zwendel en mogelijkheden biedt om de inspanningen om individuen te bedriegen op te voeren.

Het totale verlies als gevolg van fraude en spam in de Verenigde Staten wordt geschat op 39,5 miljard dollar in 2022, volgens TrueCaller, een app die nummerherkenning en spam blokkeert. Datzelfde jaar bedroeg het gemiddelde geldbedrag dat door opgelichte mensen in de Verenigde Staten werd verloren $ 431,26, volgens onderzoek van Hiya, een bedrijf dat oproep- en identiteitsbeschermingsdiensten levert. Hiya zegt dat dit bedrag zal toenemen naarmate het gebruik van generatieve AI populairder wordt.

“Over het geheel genomen is het onthutsend hoeveel er verloren gaat door robocall-oplichting”, zegt Eric Burger, onderzoeksdirecteur van het Commonwealth Cyber ​​Initiative bij Virginia Tech.

“Ik denk niet dat we kunnen begrijpen hoe snel de telefoonervaring hierdoor zal veranderen.” —Jonathan Nelson, Hallo

AI zal het voor fraudeurs gemakkelijker maken om zich op individuen te richten

“De grote angst bij generatieve AI is dat aangepaste fraude mainstream wordt”, zegt Jonathan Nelson, directeur productmanagement bij Hiya. Hij zegt dat generatieve AI het vooral gemakkelijker zal maken om spearphishing-aanvallen uit te voeren.

Over het algemeen zijn phishing-aanvallen bedoeld om mensen te misleiden om persoonlijke informatie, zoals wachtwoorden en financiële informatie, prijs te geven. Spearphishing is echter doelgerichter: de fraudeur weet precies op wie hij zich richt, en hij hoopt op een grotere opbrengst via een meer op maat gemaakte aanpak. Nu, met generatieve kunstmatige intelligentie, zegt Nelson, kan een fraudeur pagina’s van sociale media spiegelen, tekst tekenen en zelfs een vertrouwde stem klonen om nietsvermoedende individuen massaal van hun geld te bedriegen.

Nadat de FCC unaniem had gestemd om generatieve AI in robocalls illegaal te maken, komt de vraag uiteraard op de toepassing. Er zijn deskundigen die IEEE-spectrum met wie ze spraken zijn meestal achterdochtig, hoewel velen het als een noodzakelijke eerste stap zien. “Het is een nuttige stap”, zegt Daniel Weiner, directeur van het verkiezings- en regeringsprogramma van het Brennan Center, “maar het is geen volledige oplossing.” Weiner zegt dat het moeilijk is voor de FCC om een ​​bredere regelgevingsaanpak te hanteren in dezelfde geest als het algemene verbod op het in zakken doen van zakken dat door de Europese Unie wordt overwogen, gezien de reikwijdte van de bevoegdheden van de FCC.

Burger, die van 2017 tot 2019 Chief Technology Officer van de FCC was, zegt dat de stem van het agentschap uiteindelijk alleen impact zal hebben als het het robocall-verbod in het algemeen gaat toepassen. De meeste soorten robocalls zijn verboden sinds het agentschap in 1991 de Telephone Consumer Protection Act introduceerde. (Er zijn enkele uitzonderingen, zoals vooraf opgenomen berichten van het kantoor van uw tandarts, die u bijvoorbeeld herinneren aan een aanstaande afspraak.)

“Handhaving lijkt niet te gebeuren”, zegt Burger. “Politici zeggen graag: ‘we gaan achter de slechteriken aan’, en dat doen ze niet – niet met de kracht die we graag zouden zien.”

Robocall-handhavingsinstrumenten zijn mogelijk niet voldoende tegen AI

Een belangrijke methode om de bron van een geautomatiseerd gesprek te identificeren – en daarmee te voorkomen dat kwaadwillenden dit blijven doen – is het traceren van het gesprek via het complexe netwerk van de telecommunicatie-infrastructuur en het identificeren van de oorsprong van het gesprek. Traceback was vroeger een ingewikkelde zaak, omdat een gesprek doorgaans via de infrastructuur liep die werd onderhouden door meerdere netwerkoperatoren zoals AT&T en T-Mobile. In 2020 keurde de FCC echter een mandaat goed voor netwerkexploitanten om te beginnen met de implementatie van een protocol genaamd STIR/SHAKEN dat tracking in één stap mogelijk zou maken, naast andere maatregelen tegen robocalls.

“Traceback in één stap is bevestigd”, zegt Burger. Traceback identificeerde bijvoorbeeld de bron van de valse Biden-oproepen gericht op kiezers in New Hampshire als een in Texas gevestigd bedrijf genaamd Life Corporation. Het probleem, zegt Burger, is dat de FCC, het Amerikaanse Federal Bureau of Investigation en overheidsinstanties niet de middelen ter beschikking stellen om het grote aantal illegale robocall-operaties aan te pakken. Historisch gezien is de FCC alleen achter de grootste overtreders aangegaan.

“Deze oproepen zijn niet te stoppen”, zegt Nelson van Hija – althans niet helemaal. “Onze taak is niet om ze tegen te houden, maar om ze onrendabel te maken.” Hiya streeft ernaar, net als soortgelijke bedrijven, dat doel te bereiken door de hoeveelheid succesvolle fraude te verminderen via beveiligingsdiensten, waaronder het detecteren waar de oproep is gedaan en door wie, om de kans te verkleinen dat een individu de oproep überhaupt zal beantwoorden.

Nelson maakt zich echter zorgen dat generatieve AI de toetredingsdrempel zo laag zal maken dat deze preventieve acties minder effectief zullen zijn. Bij de hedendaagse oplichtingspraktijken is het bijvoorbeeld nog steeds bijna altijd nodig dat het slachtoffer wordt doorverbonden met een live agent in een callcenter om de oplichting succesvol af te ronden. Met door AI gegenereerde stemmen kunnen fraudeurs uiteindelijk het callcenter helemaal sluiten.

“Over het geheel genomen is het onthutsend hoeveel er verloren gaat door fraude die wordt bestendigd door robocalls.” —Eric Burger, Virginia Tech

Nelson is ook bezorgd dat naarmate generatieve AI verbetert, het voor mensen moeilijker zal zijn om te herkennen dat ze überhaupt niet met een echte persoon spraken. ‘Dat is waar we onze positie zullen verliezen’, zegt Nelson. “Misschien zien we een toename van het aantal ontvangers van oproepen die zich niet eens realiseren dat het oplichterij is.” Oplichters die zich voordoen als nep-liefdadigheidsinstellingen kunnen bijvoorbeeld met succes ‘donaties’ werven zonder dat de donoren zich realiseren wat er werkelijk is gebeurd.

“Ik denk niet dat we kunnen begrijpen hoe snel de telefoonervaring hierdoor zal veranderen”, zegt Nelson.

Een ander complicerend probleem voor de handhaving is dat de meeste illegale robocalls in de VS hun oorsprong vinden buiten de grenzen van het land. De Industry Traceback Group ontdekte dat in 2021 bijvoorbeeld 65 procent van al deze oproepen van internationale oorsprong was.

Burger wijst erop dat de FCC stappen heeft ondernomen om internationale robocalls te bestrijden. Het agentschap heeft andere vervoerders toegestaan ​​te weigeren verkeer te vervoeren van gateway-providers – de term voor netwerkexploitanten die binnenlandse infrastructuur verbinden met internationale infrastructuur – die frauduleuze oproepen aanmoedigen. In december 2023 gaf de FCC bijvoorbeeld twee bedrijven, Solid Double en CallWin, opdracht om te stoppen met het verzenden van illegale robocalls, anders liepen ze het risico dat hun verkeer door andere providers zou worden afgewezen.

“Het lijkt erop dat er geen handhaving plaatsvindt. Niet met de kracht die we graag zouden zien.” —Eric Burger, Virginia Tech

De recente actie van de FCC tegen generatieve AI in robocalls is de eerste in zijn soort, en het valt nog te bezien of toezichthouders in andere landen dit voorbeeld zullen volgen. “Ik denk zeker dat de FCC een goed voorbeeld geeft door snel en moedig te handelen binnen haar regelgevende autoriteit”, zegt Weiner. Hij merkt echter ook op dat de tegenhangers van de FCC in andere democratieën waarschijnlijk tot meer omvattende resultaten zullen komen.

Volgens Burger is het moeilijk te zeggen hoe de acties van de FCC zich zullen verhouden tot die van andere toezichthouders. Hoewel de FCC ver voorop loopt – zoals het delen van spectrum – blijft ze net zo vaak achter, zoals het gebruik van midband 5G.

Nelson zegt dat hij verwacht dat het besluit van de FCC binnen een paar jaar zal worden herzien, omdat het bedrijven er momenteel van weerhoudt generatieve AI te gebruiken voor legitieme bedrijfspraktijken

Het valt ook nog te bezien of de stem van de FCC enig reëel effect zal hebben. Burger wijst erop dat, in het geval van een nepoproep als die van Biden, aangezien het al illegaal was om die robocalls te doen en zich voor te doen als de president, het maken van een ander aspect van de illegale oproep waarschijnlijk geen game-changer is. .

“Als je het drie keer illegaal maakt, zal dat mensen dan echt afschrikken?” zegt Burger.