De voormalige premier van Pakistan, Imran Khan, zit sinds augustus in de gevangenis wegens het illegaal verkopen van overheidsgeschenken, maar dat weerhoudt hem er niet van om campagne te voeren. De politieke partij van de leider heeft zondagavond een video van vier minuten vrijgegeven waarin AI-stemkloneringstechnologie wordt gebruikt om zijn stem te repliceren. In de video, die werd uitgezonden tijdens een “virtuele bijeenkomst” in Pakistan, ging de nagesynchroniseerde audio vergezeld van een onderschrift met de tekst: “AI-stem van Imran Khan gebaseerd op zijn aantekeningen”.
Jibran Ilyas, de socialemedialeider van Khan’s partij (bekend als de Pakistan Tehreek-e-Insaf of PTI), plaatste een video op X.
De Bewaker meldde dat Khan PTI een stenoscript had gestuurd, dat later door het juridische team werd bewerkt om beter op de retorische stijl van de politicus te lijken. De resulterende tekst werd vervolgens gesynchroniseerd met audio met behulp van software van AI-bedrijf ElevenLabs, dat een tekst-naar-spraaktool en AI-stemgenerator maakt.
“Dit was voor ons onbeduidend, nu Imran Khan er niet meer is om elkaar daadwerkelijk te ontmoeten tijdens een politieke bijeenkomst”, zei Ilyas. De Bewaker. “Het was om de onderdrukking te overwinnen.”
Het is misschien niet verrassend dat aanhangers van Khan de video op sociale media met lof overlaadden. Voicebot.ai meldde dat Khan’s sociale mediateam archiefbeelden van Khan’s oudere bijeenkomsten en de synthetische audio-engine van ElevenLab gebruikte om de stem van de politicus te klonen. De video is een mix van historisch beeldmateriaal en beelden.
De vijf uur durende virtuele rally werd ruim 500.000 keer bekeken op YouTube en werd door duizenden mensen gestreamd op andere sociale netwerken. Om te voorkomen dat het publiek de virtuele bijeenkomst zou zien, heeft de Pakistaanse regering zondag de toegang tot Facebook, Instagram, X en YouTube afgesloten. Volgens een mail op X van internetmonitoringbureau NetBlocks waren er zondagavond storingen op die sociale platforms in heel Pakistan.