Vorige week onthulde OpenAI een nieuwe conversatie-interface voor ChatGPT met een expressieve, synthetische stem die treffende gelijkenis vertoont met die van de AI-assistent gespeeld door Scarlett Johansson in de sciencefictionfilm Zij– alleen om dit weekend plotseling een nieuwe stem uit te schakelen.
Maandag legde Johansson een verklaring af waarin ze beweerde dat ze de omkering had afgedwongen, nadat haar advocaten hadden geëist dat OpenAI uitlegde hoe de nieuwe stem werd gecreëerd.
De verklaring van Johansson, verstrekt aan WIRED door haar publicist, beweert dat Sam Altman, CEO van OpenAI, haar afgelopen september vroeg om de nieuwe stem van ChatGPT te geven, maar dat ze weigerde. Ze beschrijft dat ze ontsteld was toen ze vorige week zag hoe het bedrijf een nieuwe stem voor ChatGPT degradeerde die toch op haar leek.
“Toen ik de demo hoorde, was ik geschokt, boos en vol ongeloof dat meneer Altman achter een stem aan zou gaan die zo griezelig veel op de mijne klonk dat mijn beste vrienden en nieuwsmedia het verschil niet konden zien”, aldus de verklaring. Opgemerkt wordt dat Altman de wereld leek aan te moedigen om de demo te verbinden met het optreden van Johansson door op 13 mei ‘zij’ te tweeten, verwijzend naar de film.
In de verklaring van Johansson stond dat Altman twee dagen voor de demo van vorige week contact met haar agent had opgenomen met het verzoek haar beslissing om niet met OpenAI te werken te heroverwegen. Na het zien van de demo zegt ze dat ze een juridisch adviseur heeft ingehuurd om naar OpenAI te schrijven om details te vragen over hoe het de nieuwe stem heeft gecreëerd.
De verklaring beweert dat dit OpenAI ertoe bracht zondag in een post op X aan te kondigen dat het had besloten “het gebruik van Sky te pauzeren”, de naam van het bedrijf voor de synthetische stem. Het bedrijf publiceerde ook een blogpost waarin het proces werd beschreven dat werd gebruikt om de stem te creëren. “De stem van Sky is geen imitatie van Scarlett Johansson, maar is van een andere professionele actrice die haar natuurlijke stem gebruikt”, aldus de post.
Sky is een van de vele synthetische stemmen die OpenAI afgelopen september aan ChatGPT heeft geleverd, maar tijdens het evenement van vorige week toonde hij een veel levensechtere intonatie met emotionele signalen. Tijdens de demo zag een versie van ChatGPT, aangedreven door een nieuw AI-model genaamd GPT-4o, lijken te flirten met een OpenAI-ingenieur op een manier die volgens veel kijkers deed denken aan de prestaties van Johansson in Zij.
“Skye’s stem is niet die van Scarlett Johansson en het was nooit de bedoeling dat hij zo zou klinken als die van haar”, zei Sam Altman in een verklaring van OpenAI. Hij beweerde dat de acteur achter Sky’s stem was aangenomen voordat het bedrijf contact opnam met Johannsson. “Uit respect voor mevrouw Johansson zijn we gestopt met het gebruik van de stem van Sky in onze producten. Het spijt ons mevrouw Johansson dat we niet beter hebben gecommuniceerd.”
Het conflict met Johansson draagt bij aan de bestaande gevechten van OpenAI met kunstenaars, schrijvers en andere creatieven. Het bedrijf verdedigt al een aantal rechtszaken waarin het beweert dat het onrechtmatig auteursrechtelijk beschermde inhoud heeft gebruikt om zijn algoritmen te trainen, waaronder rechtszaken van The New York Times en auteurs, waaronder George RR Martin.
Generatieve AI heeft het veel gemakkelijker gemaakt om realistische synthetische stemmen te creëren, waardoor nieuwe kansen en bedreigingen ontstaan. In januari werden kiezers in New Hampshire gebombardeerd met robocalls met een nep-voicemail van Joe Biden. In maart zei OpenAI dat het technologie had ontwikkeld die de stem van een persoon uit een fragment van 15 seconden kon klonen, maar het bedrijf zei dat het de technologie niet zou vrijgeven vanwege de manier waarop deze zou kunnen worden misbruikt.
Bijgewerkt op 20-05-2024, 21:00 EDT: Dit artikel is bijgewerkt met een commentaar van Sam Altman, CEO van OpenAI.