Twee jaar later zijn de meeste van deze productiviteitswinsten nog niet gerealiseerd. En we zagen iets ongewoons en enigszins onverwachts gebeuren: mensen begonnen relaties aan te gaan met AI-systemen. We praten met ze, we zeggen alsjeblieft en bedankt, en we zijn begonnen AI uit te nodigen in ons leven als vrienden, geliefden, mentoren, therapeuten en leraren.
We zien een enorm experiment zich ontvouwen in de echte wereld, en het is nog steeds onzeker welke impact deze AI-metgezellen zullen hebben op ons individueel of op de samenleving als geheel, zegt Robert Mahari, een gezamenlijke promovendus bij het MIT Media Lab. en Harvard Law School, en Pat Pataranutaporn, een onderzoeker bij het MIT Media Lab. Ze zeggen dat we ons moeten schrap zetten voor ‘verslavende intelligentie’, of AI-metgezellen waarin duistere patronen zijn ingebouwd om ons verslaafd te maken. Een deel ervan kun je hier lezen. Ze bekijken hoe slimme regelgeving ons kan helpen voorkomen dat sommige van de risico’s die gepaard gaan met AI-chatbots diep in ons hoofd doordringen.
Het idee dat we banden zullen aangaan met AI-metgezellen is niet langer alleen maar hypothetisch. Chatbots met nog meer emotionele stemmen, zoals OpenAI GPT-4o, zullen ons waarschijnlijk nog dieper erin trekken. Tijdens beveiligingstests merkte OpenAI dat gebruikers taal gebruikten die aangaf dat ze verbindingen hadden gelegd met de AI-modellen, zoals ‘Dit is onze laatste dag samen’. Het bedrijf geeft zelf toe dat emotionele afhankelijkheid een risico is dat kan worden verergerd door de nieuwe spraakgestuurde chatbot.
Er zijn al aanwijzingen dat we op een dieper niveau verbinding maken met AI, zelfs als dit beperkt is tot tekstuitwisseling. Mahari maakte deel uit van een groep onderzoekers die een miljoen ChatGPT-interactielogboeken analyseerde en ontdekte dat seksueel rollenspel het op een na populairste gebruik van AI is. Bovendien was het meest populaire gebruik van chatbots creatieve compositie. Mensen gebruikten het ook graag om na te denken en te plannen, om verklaringen en algemene informatie over dingen te zoeken.
Dit soort creatieve en leuke taken zijn een geweldige manier om AI-chatbots te gebruiken. AI-taalmodellen werken door het volgende waarschijnlijke woord in een zin te voorspellen. Het zijn zelfverzekerde leugenaars en presenteren leugens vaak als feit, verzinnen dingen of hallucineren. Dit is minder belangrijk als het verzinnen van dingen op de een of andere manier het belangrijkste is. In juni schreef mijn collega Rhiannon Williams over hoe cabaretiers AI-taalmodellen nuttig hebben gevonden voor het genereren van de eerste ‘uitgebraakte versie’ van hun materiaal; ze voegen vervolgens hun eigen menselijke vindingrijkheid toe om het grappig te maken.
Maar deze gebruiksscenario’s zijn niet noodzakelijkerwijs financieel productief. Ik ben er vrij zeker van dat smutbots niet waren wat investeerders in gedachten hadden toen ze miljarden dollars in AI-bedrijven stopten, en in combinatie met het feit dat we nog steeds geen geweldige AI-app hebben, is het geen wonder dat Wall Street zich zo voelt. downtime veel minder bulls over.
Gebruik gevallen die zou om “productief” te zijn en dus het meest gestrest te zijn, hadden minder succes bij de adoptie van AI. Hallucinaties beginnen een probleem te worden in sommige van deze gebruiksscenario’s, zoals het genereren van code, nieuws en online zoeken, waarbij het erg belangrijk is om de zaken goed te doen. Enkele van de meest gênante mislukkingen van chatbots hebben zich voorgedaan toen mensen AI-chatbots te veel begonnen te vertrouwen of ze als bronnen van feitelijke informatie gingen zien. Eerder dit jaar suggereerde de AI-beoordelingsfunctie van Google, die online zoekresultaten samenvat, dat mensen stenen eten en lijm aan pizza toevoegen.
En dat is het probleem met de AI-hype. Het stelt onze verwachtingen te hoog en laat ons gedesillusioneerd en gedesillusioneerd achter als letterlijk ongelooflijke beloften niet uitkomen. Het doet ons ook denken dat AI een technologie is die zelfs volwassen genoeg is om onmiddellijke verandering teweeg te brengen. In werkelijkheid kan het jaren duren voordat we het echte voordeel ervan zien.