De dreiging van deepfakes neemt toe naarmate AI-tools om deze te creëren op grote schaal beschikbaar komen. Volgens provider Sumsub was er tussen 2023 en 2024 een toename van 245% in het aantal deepfakes, deels aangewakkerd door de komende verkiezingscycli. Het heeft ook gevolgen voor het bedrijfsleven; Uit een recent onderzoek van Business.com is gebleken dat 10% van de bedrijven te maken heeft gehad met fraude door gebruik te maken van deep fakes, zoals gekloonde stemmen.
Het is niet verrassend dat deze trend een meevaller is geweest voor de marketinginstrumenten van bedrijven om zich te verdedigen tegen deepfakes en de technologieën die worden gebruikt om deze te produceren. Een van die bedrijven, Pindrop, maakte woensdag bekend dat het een vijfjarige lening van $100 miljoen heeft gekregen van Hercules Capital, die volgens CEO Vijay Balasubramaniyan bestemd is voor productontwikkeling en personeelswerving.
“Met de vooruitgang op het gebied van generatieve kunstmatige intelligentie is met name het klonen van stemmen een krachtig hulpmiddel geworden”, vertelde Balasubramanian aan TechCrunch. “Deepfake-detectie met behulp van AI-detectietechnologieën is nu vereist voor elk callcenter om fraudeurs een stap voor te blijven.”
Pindrop bouwt diepgaande producten tegen namaak en meervoudige authenticatie, gericht op bedrijven in de bank-, financiële en aanverwante sectoren. Het bedrijf beweert dat zijn tools bijvoorbeeld bellers van contactcentra kunnen identificeren – met grotere nauwkeurigheid dan concurrerende oplossingen.
“Pindrop gebruikt een dataset van meer dan 20 miljoen uitingen, zowel synthetisch als origineel, om AI-modellen te trainen om echte menselijke stemmen te onderscheiden van synthetisch gegenereerde stemmen”, zegt Balasubramaniyan. “We hebben ook meer dan 330 tekst-naar-spraak (TTS)-modellen getraind om TTS-modellen te helpen identificeren die worden gebruikt om deepfakes te creëren.”
Vooringenomenheid is een veelvoorkomend probleem in deep-fake-detectiemodellen. Veel audiomodellen hebben de neiging westerse, Amerikaanse stemmen te herkennen en presteren slecht met verschillende accenten en dialecten, wat ertoe zou kunnen leiden dat de detector een legitieme stem als deepfake classificeert.
Of synthetische trainingsgegevens – trainingsgegevens gegenereerd door de AI-modellen zelf – de vooringenomenheid verzachten of verergeren, is discutabel. Voor wat het waard is, denkt Balasubramaniyan het eerste en beweert dat de stemauthenticatieproducten van Pindrop zich richten op de “akoestische en spectro-temporele kenmerken” van stemmen, in tegenstelling tot uitspraak of taal.
“Op AI gebaseerde stemherkenningssystemen hebben de neiging om bevooroordeelde resultaten te laten zien op basis van verschillen in toon, accent, landstaal en dialect die raciale implicaties kunnen hebben,” zei Balasubramaniyan. “Deze vooroordelen komen voort uit de homogeniteit van de gegevens die worden gebruikt om systemen te trainen die mogelijk geen representatie bevatten van verschillende etnische, raciale, geslachts- of andere verschillen, waardoor de diversiteit van de gegevens waarop AI-systemen worden getraind wordt beperkt.”
Ongeacht de effectiviteit van zijn producten heeft Pindrop aanzienlijke vooruitgang geboekt sinds 2011, toen Balasubramaniyan, een voormalige Google-medewerker, het bedrijf oprichtte samen met voormalig Barracuda Networks-hoofdonderzoeker Paul Judge en Mustaque Ahamad. Tot nu toe heeft het in Atlanta gevestigde bedrijf, dat ongeveer 250 mensen in dienst heeft, $234,77 miljoen aan durfkapitaal opgehaald van investeerders, waaronder Vitruvian Partners, CapitalG, IVP en Andreessen Horowitz.
Op de vraag waarom Pindrop deze keer voor schulden boven eigen vermogen koos, zei Balasubramaniyan dat het een “aantrekkelijke optie” was om “het groeikapitaal effectief te vergroten” zonder het kapitaal van Pindrop te verwateren. (Dit is een veel voorkomende strategie.)
Met de opbrengst van de lening kan Pindrop zijn technologie naar nieuwe sectoren brengen, voegde Balasubramaniyan eraan toe, zoals de gezondheidszorg, de detailhandel, de media en de reisbranche.
“Met de komst van generatieve AI zien we wereldwijd een enorme vraag naar onze oplossingen en zijn we van plan om uit te breiden naar landen die aanzienlijke bedreigingen van deepfakes zien”, aldus Balasubramaniyan. “Pindrop is gepositioneerd om bedrijven te helpen zichzelf en hun consumenten te beschermen tegen toenemende fraude en frauduleuze bedreigingen met preventie-, authenticatie- en liveness-oplossingen.”