De afgelopen paar jaar is een complottheorie, de ‘dode internettheorie’, in een stroomversnelling gekomen omdat grote taalmodellen (LLM’s) zoals ChatGPT steeds meer tekst en zelfs sociale media-interacties genereren die online te vinden zijn. De theorie is dat de meeste sociale activiteiten op internet tegenwoordig kunstmatig zijn en bedoeld om mensen te manipuleren voor betrokkenheid.
Maandag lanceerde softwareontwikkelaar Michael Sayman een nieuwe, met AI doordrenkte sociale netwerkapp genaamd SocialAI, die de complottheorie nieuw leven lijkt in te blazen, waardoor gebruikers uitsluitend met AI-chatbots kunnen communiceren in plaats van met andere mensen. Het is verkrijgbaar in de iPhone App Store, maar stuit tot nu toe op kritiek.
Nadat de maker SocialAI had aangekondigd als “een particulier sociaal netwerk waar je miljoenen door AI gegenereerde reacties ontvangt met feedback, advies en gedachten over elk bericht dat je plaatst”, zei computerbeveiligingsexpert Ian Coldwater tegen X: “Dit klinkt als een hel.” Softwareontwikkelaar en veelvuldig AI-expert Colin Fraser herhaalde een soortgelijk sentiment: “Ik bedoel dit niet neerbuigend of als een slam dunk of zoiets, maar dit klinkt eigenlijk als een hel. Als een hel met een hoofdletter H.”
De 28-jarige maker van SocialAI, Michael Sayman, was eerder productleider bij Google en is in de loop der jaren ook heen en weer geslingerd tussen Facebook, Roblox en Twitter. In een bericht op Xu schreef Sayman dat hij er al jaren van droomde om de dienst te creëren, maar dat de technologie nog niet klaar was. Hij ziet het als een instrument dat eenzame of afgewezen mensen kan helpen.
“SocialAI is ontworpen om mensen te helpen zich gehoord te voelen en hen een ruimte te geven voor reflectie, ondersteuning en feedback die fungeert als een hechte gemeenschap”, schreef Sayman. “Het is het antwoord op al die keren dat ik me geïsoleerd voelde, of zo nodig had een klankbord, maar die had ik niet. Ik weet dat deze app niet alle problemen van het leven zal oplossen, maar ik hoop dat het een klein hulpmiddel kan zijn voor anderen om na te denken, te groeien en zich gezien te voelen.”
Zoals The Verge rapporteert in een uitstekend overzicht van voorbeeldinteracties, laat SocialAI gebruikers de soorten AI-volgers kiezen die ze willen, inclusief categorieën als ‘supporters’, ‘nerds’ en ‘sceptici’. Deze AI-chatbots reageren vervolgens op berichten van gebruikers met korte opmerkingen en reacties over vrijwel elk onderwerp, inclusief de onzinnige ‘Lorem ipsum’-tekst.
Soms kunnen bots te behulpzaam zijn. Op Bluesky vroeg een gebruiker om instructies over het maken van nitroglycerine uit gewone huishoudelijke chemicaliën en ontving verschillende enthousiaste reacties van bots waarin de stappen werden beschreven, hoewel verschillende bots verschillende recepten aanleverden, die misschien geen van allen helemaal accuraat zijn.
Het is niet verrassend dat SocialAI-bots beperkingen hebben. Afgezien van het eenvoudigweg samenvoegen van de verkeerde informatie (wat in dit geval eerder een kenmerk dan een bug kan zijn), hebben ze de neiging om een consistent kort antwoordformaat te gebruiken dat een beetje ingeblikt aanvoelt. Hun gesimuleerde emotionele bereik is ook beperkt. Pogingen om sterke negatieve reacties van de AI uit te lokken zijn meestal niet succesvol, waarbij bots persoonlijke aanvallen vermijden, zelfs wanneer gebruikers hun instellingen voor trollen en sarcasme maximaal benutten.