OpenAI verwijdert een van de stemmen die door ChatGPT worden gebruikt. Gebruikers ontdekten dat ze op Scarlett Johansson leek, maakte het bedrijf maandag bekend, en Johansson bracht zelf een verklaring uit waarin ze zei dat ze een juridisch adviseur had ingeschakeld om te informeren naar de stem van Sky en de exacte details te krijgen van hoe deze werd ontwikkeld. Sky is nu gepauzeerd nadat OpenAI het gebruikte toen het vorige week zijn nieuwe GPT-4o-model demonstreerde.
“Wij zijn van mening dat AI-stemmen niet opzettelijk de herkenbare stem van beroemdheden mogen imiteren – de stem van Sky is geen imitatie van Scarlett Johansson, maar behoort toe aan een andere professionele actrice die haar natuurlijke stem gebruikt”, schreef het bedrijf in een blogpost. “Om hun privacy te beschermen, kunnen we de namen van ons stemtalent niet delen.”
Een video van de demo deed vorige week de ronde op sociale media toen gebruikers ontdekten dat de stem leek op die van Johansson. Sommigen bespotten de stem omdat deze overdreven flirterig was, terwijl anderen hem vergeleken met een mannelijke fantasie.
De kokette stem roept vergelijkingen op met de film Her uit 2013, waarin Johansson een zwoele virtuele assistent vertolkt. De hoofdpersoon van de film, gespeeld door Joaquin Phoenix, wordt verliefd op de virtuele assistent.
Hoewel het bedrijf de stem van Sky niet vergeleek met die van Johansson, tweette Sam Altman, CEO van OpenAI, het woord “She” na het evenement van het bedrijf.
TechCrunch bevestigde dat Johansson later maandag een verklaring uitbracht waarin hij zei dat OpenAI haar in september benaderde over de stem, die voor het eerst werd gerapporteerd door NPR-correspondent Bobby Allyn. In een verklaring zei ze dat ze “na lang nadenken en om persoonlijke redenen” weigerde en “geschokt” was toen ze hoorde dat de demo werd uitgebracht.
In de verklaring staat ook dat het “gedwongen was een juridisch adviseur in te huren” en dat het bedrijf “met tegenzin instemde” met het veranderen van Sky Voice.
De demo van OpenAI vorige week was bedoeld om te pronken met de verbeterde gespreksvaardigheden van de chatbot, maar hij ging viraal nadat hij hartelijk lachte om bijna alles wat een OpenAI-medewerker zei. Op een gegeven moment zei de chatbot tegen de medewerker: “Wauw, dat is een geweldige outfit die je draagt.” Op een ander moment zei de chatbot: “Stop ermee, je laat me blozen” nadat hij een compliment had gekregen.
In zijn blogpost zegt OpenAI dat het wil dat de stemmen van zijn chatbots ‘aanspreekbaar’ klinken en ‘vertrouwen wekken’. Hij wil ook dat ze een ‘warme, boeiende, charismatische stem hebben die vertrouwen wekt’.
OpenAI zegt dat het in de toekomst van plan is “extra stemmen in ChatGPT te introduceren om beter aan te sluiten bij de verschillende interesses en voorkeuren van gebruikers.”
De volledige verklaring van Johansson:
“Afgelopen september kreeg ik een aanbieding van Sam Altman, die mij wilde inhuren om het huidige ChatGPT 4.0-systeem op de markt te brengen. Hij vertelde me dat hij het gevoel had dat hij met zijn stem in het systeem de kloof tussen technologiebedrijven en creatieven kon overbruggen en consumenten kon helpen zich op hun gemak te voelen met de seismische verschuiving waarbij mensen en AI betrokken zijn. Hij zei dat hij voelde dat mijn stem troostend zou zijn voor mensen.
Na lang nadenken en om persoonlijke redenen heb ik het aanbod afgewezen. Negen maanden later merkten mijn vrienden, familie en het grote publiek hoeveel het nieuwste systeem genaamd “Sky” op mij leek.
Toen ik de uitgebrachte demo hoorde, was ik geschokt, boos en vol ongeloof dat meneer Altman achter een stem aan zou gaan die zo griezelig veel op de mijne klonk dat mijn beste vrienden en nieuwsmedia het verschil niet konden zien. De heer Altman insinueerde zelfs dat de gelijkenis opzettelijk was, door het enkele woord ‘zij’ te tweeten – een verwijzing naar de film waarin ik een chatsysteem uitte, Samantha, die een intieme relatie aangaat met een mens.
Twee dagen voordat de ChatGPT 4.0-demo werd uitgebracht, zei Mr. Altman nam contact op met mijn agent en vroeg me om het te heroverwegen. Voordat we verbinding konden maken, was het systeem er.
Als resultaat van hun acties werd ik gedwongen een juridisch adviseur in te huren, die twee brieven schreef aan de heer Altman en OpenAI, waarin hij uiteenzette wat ze hadden gedaan en hen vroeg om het exacte proces te beschrijven waarmee ze de ‘Sky’-stem creëerden. Bijgevolg stemde OpenAI er met tegenzin mee in om de “Sky” -stem te verwijderen.
In een tijd waarin we allemaal worstelen met deep fakes en de bescherming van ons eigen imago, ons eigen werk, onze eigen identiteit, geloof ik dat dit vragen zijn die absolute duidelijkheid verdienen. Ik kijk uit naar een resolutie in de vorm van transparantie en de goedkeuring van passende wetgeving die de bescherming van individuele rechten zal helpen waarborgen.”
OpenAI deelde de volgende verklaring van Altman: “Skye’s stem is niet Scarlett Johansson en het was nooit de bedoeling dat hij zou klinken als die van haar. We hebben de stemacteur achter de stem van Sky geplaatst vóór elk contact met mevrouw Johansson. Uit respect voor mevrouw Johansson zijn we gestopt met het gebruik van de stem van Sky in onze producten. Het spijt ons mevrouw Johansson dat we niet beter hebben gecommuniceerd.”
Update: dit verhaal werd oorspronkelijk maandag om 8.00 uur PT gepubliceerd en is bijgewerkt met verklaringen van Johansson en Altman.