OOp maandag 13 mei streamde OpenAI live een evenement om een fraai nieuw product te lanceren – een groot taalmodel (LLM) genaamd GPT-4o – waarvan de Chief Technology Officer van het bedrijf, Mira Murati, beweerde dat het gemakkelijker te gebruiken was en sneller dan saai. ‘ChatGPT. Het was ook veelzijdiger en multimodaal, wat verwijst naar de technologie vanwege het vermogen om te communiceren in stem, tekst en beeld. De belangrijkste kenmerken van het nieuwe model, zo wordt ons verteld, zijn dat je het midden in een zin kunt onderbreken, dat het een zeer lage latentie heeft (reactievertraging) en dat het gevoelig is voor de emoties van de gebruiker.
De kijkers werden vervolgens getrakteerd op het gebruikelijke spektakel van ‘Mark and Barrett’, technici rechtstreeks uit de centrale casting, die interactie hadden met de machine. Ten eerste gaf Mark toe dat hij nerveus was, dus hielp de machine hem met enkele ademhalingsoefeningen om zijn zenuwen te kalmeren. Vervolgens schreef Barret een eenvoudige vergelijking op een vel papier en de machine liet hem zien hoe hij de waarde van X kon vinden, waarna hij hem een stukje computercode liet zien en de machine kon dat ook aan.
Tot nu toe zo voorspelbaar. Maar er was iets vreemd bekends aan de stem van de machine, alsof het een zwoele vrouw was – genaamd ‘Sky’ – wier gespreksrepertoire empathie, optimisme, aanmoediging en misschien zelfs een flirterige ondertoon omvatte. Het deed me aan iemand denken. Maar wie?
Ze blijkt bij veel kijkers te denken aan Scarlett Johansson, de gevierde Hollywood-ster die de vrouwenstem verzorgde in de film van Spike Jonze uit 2013. Zij, over een man die verliefd wordt op het besturingssysteem van zijn computer. Dit is blijkbaar een favoriete film van OpenAI-CEO Sam Altman, die op een evenement in San Francisco in 2023 zei dat de film hem meer aansprak dan andere AI-sci-fi-films.
De persoon die het meest verrast was door de stem van GPT-4o was echter Johansson zelf. Het blijkt dat Altman haar afgelopen september heeft benaderd met de vraag haar in te huren als stem van de chatbot. ‘Hij vertelde me’, zei ze in een verklaring, ‘dat hij het gevoel had dat ik met zijn stem in het systeem de kloof tussen technologiebedrijven en creatieven kon overbruggen en consumenten kon helpen zich op hun gemak te voelen met de seismische veranderingen waarbij mensen en AI betrokken zijn. Hij zei dat mijn stem een troost zou zijn voor de mensen.”
Ze sloeg het aanbod af, maar nadat de demo live ging, werd ze belaagd door ‘vrienden, familie en het grote publiek’ die haar vertelden hoeveel de GPT-4o op haar leek. En ze was nog bozer toen ze ontdekte dat Altman het enkele woord ‘Her’ naar X had getweet, wat ze interpreteerde als een insinuatie dat de gelijkenis tussen de stem van de machine en die van haar opzettelijk was.
Het is onnodig te zeggen dat OpenAI alle harde praktijken krachtig heeft ontkend. “Sky’s stem is niet Scarlett Johansson, en het was nooit de bedoeling dat deze zou klinken als die van haar”, zei een woordvoerder van OpenAI in een verklaring die het bedrijf aan Altman toeschreef. “We hebben de acteur achter de stem van Sky geplaatst vóór enig contact met mevrouw Johansson.”
De verklaring vervolgde echter: “Uit respect voor mevrouw Johansson zijn we gestopt met het gebruik van de stem van Sky in onze producten. Het spijt ons mevrouw Johansson dat we niet beter hebben gecommuniceerd.” O, shit.
Op één niveau zou je natuurlijk kunnen zeggen dat dit een storm in een champagneglas is. Het is mogelijk dat het hernieuwde ‘respect’ van OpenAI voor Johansson niets te maken heeft met het feit dat ze beroemd is en dure advocaten heeft. Het is ook mogelijk dat Altman haar niet aan het trollen was door ‘Her’ te tweeten toen hij dat wel was. Op dezelfde manier kunnen varkens in dichte formatie vliegen.
Op een groter niveau echter deze kleine ophef, zoals technologieschrijver Charlie Warzel het uitdrukte Atlantische Oceaanwerpt een nuttig licht op het duistere hart van generatieve AI – een technologie die: gebouwd is op diefstal; rationaliseerde drie lagen van eersteklas legalistische houding ten aanzien van “redelijk gebruik”; en gerechtvaardigd door een wereldbeeld dat zegt dat de hypothetische ‘superintelligentie’ van het technologiebedrijf dat ze aan het opbouwen zijn, te groot is, te wereldveranderend, te belangrijk voor alledaagse problemen als auteursrecht en toeschrijving. Warzel heeft gelijk als hij zegt dat “het Johansson-schandaal slechts een herinnering is aan de manifeste lotsbestemmingsfilosofie van kunstmatige intelligentie: dit gebeurt, of je het nu leuk vindt of niet“. Waarop het echte antwoord is: ja, en de meesten van ons niet.
Wat ik lees
Het liberale ideaal
Een heerlijk Nieuwe staatsman een profiel van de formidabele politieke hervormer Roy Jenkins door Simon Jenkins (geen familie).
Opmerkingen voor opmerkingen
Technologie-expert Om Malik legt uit hoe hij schrijft in een interessant interview op de website People and Blogs.
Cyber-onveiligheid
Er staat een goed reflecterend stuk in het Register over hoe de communicatiestrategie van de British Library moest veranderen na de ransomware-aanval.