Een bedrijf dat misleidende telefoontjes naar kiezers in New Hampshire stuurde met behulp van kunstmatige intelligentie om de stem van Joe Biden te imiteren, stemde woensdag ermee in een boete van $ 1 miljoen te betalen en de identificatie- en authenticatiefuncties voor bellers te verbeteren, aldus Amerikaanse toezichthouders.
Lingo Telecom, een aanbieder van spraakdiensten die robocalls doorgeeft, heeft ingestemd met een schikking om een handhavingsactie van de Federal Communications Commission op te lossen, die aanvankelijk een boete van $ 2 miljoen eiste.
Ondertussen wordt Steve Kramer, de politieke adviseur die de telefoontjes orkestreerde, nog steeds geconfronteerd met een voorgestelde FCC-boete van $ 6 miljoen en strafrechtelijke vervolging. Velen zien de zaak als een verontrustend vroeg voorbeeld van hoe AI kan worden gebruikt om kiesdistricten en de democratie als geheel te beïnvloeden.
De telefoonberichten werden op 21 januari naar duizenden kiezers in New Hampshire gestuurd. Ze hadden een stem die leek op de valse suggestie van Biden dat stemmen tijdens de presidentiële voorverkiezingen van de staat hen ervan zou weerhouden om te stemmen bij de algemene verkiezingen in november.
De FCC zei dat Lingo Telecom instemde met strikte regels en vereisten voor authenticatie van nummerherkenning, naast het akkoord gaan met een civielrechtelijke boete, en dat het de juistheid van de informatie die door zijn klanten en upstream-providers wordt verstrekt grondiger heeft geverifieerd.
“Ieder van ons verdient het om te weten dat de stem aan de lijn is wie hij zegt dat hij is”, zegt Jessica Rosenworcel, voorzitter van de FCC, in een verklaring. “Als er gebruik wordt gemaakt van kunstmatige intelligentie, moet het voor iedere consument, burger en kiezer die ermee in aanraking komt, duidelijk zijn. De FCC zal optreden als het vertrouwen in onze communicatienetwerken wordt bedreigd.”
Lingo Telecom reageerde niet onmiddellijk op een verzoek om commentaar. Het bedrijf zei eerder dat het het absoluut niet eens was met de actie van de FCC en noemde het een poging om met terugwerkende kracht nieuwe regels op te leggen.
Kramer, die een goochelaar en zelfbenoemde ‘digitale nomade’ betaalde om de video te maken, zei eerder dit jaar dat hij niet probeerde de uitslag van de voorverkiezingen te beïnvloeden, maar de potentiële gevaren van kunstmatige intelligentie wilde benadrukken en wetgevers wilde aansporen om maatregelen te nemen. actie.
Als hij wordt veroordeeld, kan Kramer een gevangenisstraf van maximaal zeven jaar tegemoet zien op grond van de beschuldiging van onderdrukking van kiezers en maximaal één jaar op basis van de aanklacht wegens nabootsing van de identiteit van de kandidaat.
De non-profitorganisatie voor consumentenbelangen Public Citizen prees de FCC voor haar actie. Robert Weissman, de medevoorzitter van de groep, zei dat Rosenworcel het “absoluut gelijk had”, door te zeggen dat consumenten het recht hebben om te weten wanneer ze authentieke inhoud ontvangen en wanneer ze door AI gegenereerde deepfakes ontvangen. Weissman zei dat de zaak illustreert hoe dergelijke deepfakes een “existentiële bedreiging voor onze democratie” vormen.
Loyaan Egal, hoofd van het handhavingsbureau van de FCC, zei dat de combinatie van nummerherkenning en generatieve AI-technologie voor het klonen van stemmen een aanzienlijke bedreiging vormt “of het nu gaat om binnenlandse agenten die op zoek zijn naar politiek voordeel of om geavanceerde buitenlandse tegenstanders die kwaadwillige invloed uitoefenen of activiteiten die de verkiezingen verstoren. “.