TikTok plaatste per abuis een link naar een interne versie van zijn nieuwe AI-tool voor hekvrije digitale avatars, waardoor gebruikers video’s kunnen maken die over alles praten. De storing werd voor het eerst opgemerkt door CNN en zorgde ervoor dat de zender video’s kon genereren met onder meer Hitler-citaten en een bericht waarin mensen werden verteld bleekmiddel te drinken. TikTok heeft deze versie van de tool inmiddels stopgezet, terwijl de versie die TikTok wilde lanceren beschikbaar blijft.
Eerder deze week gelanceerd, stellen TikTok Symphony Digital Avatars bedrijven in staat advertenties te genereren met de persona van betaalde acteurs. Het maakt ook gebruik van kunstmatige intelligentie-synchronisatie waarmee adverteerders de avatars kunnen scripten om te zeggen wat ze willen binnen de richtlijnen van TikTok. Hoewel alleen gebruikers met een TikTok Ads Manager-account toegang hebben tot de tool, kan de door CNN gevonden versie iedereen met een persoonlijk account proberen.
In een verklaring voor De randTikTok-woordvoerster Laura Perez zegt dat TikTok een “technische bug” heeft opgelost waardoor “een extreem klein aantal gebruikers gedurende meerdere dagen inhoud kon maken met behulp van een interne testversie van de tool.”
Toen CNN een interne tool openbaarde, kon het kanaal video’s maken waarin de ‘Brief aan Amerika’ van Osama bin Laden werd gereciteerd, een slogan over blanke suprematie, en een video waarin mensen werden verteld dat ze op de verkeerde dag moesten stemmen. Geen van de door CNN gemaakte video’s had een watermerk dat laat zien dat de video is gegenereerd door kunstmatige intelligentie, iets wat de echte versie van TikTok’s Symphony Digital Avatars doet.
CNN heeft de video’s die hij heeft gemaakt niet op TikTok gepubliceerd, maar Perez merkt op dat de inhoud “zou worden afgewezen wegens schending van ons beleid.” Hoewel TikTok deze versie van zijn tool inmiddels heeft stopgezet, roept het de vraag op of mensen andere manieren zullen vinden om de maker van de digitale avatar te misbruiken – en of TikTok daarop voorbereid is.