MMeer dan tien jaar voordat een AI-chatbot je huiswerk kon maken, je kon helpen eten te bereiden of het bar-examen te halen, was er @Horse_ebooks. De primitieve voorloper van de huidige chatbot-renaissance begon in 2010 als een Twitter-account, waarbij geautomatiseerde fragmenten uit e-boeken werden getweet die, gedecontextualiseerd, onverwachte en vreemd poëtische betekenissen kregen.
Het account, dat naar verluidt een spambot was, bevatte citaten uit e-boeken die viraal gingen vanwege hun absurde fragmenten – zinnen als “Hallo saxofoon”, “ZOU DIT ZIJN” en “We hebben het geluk dat we vandaag kunnen praten”. Het verzamelde op zijn hoogtepunt meer dan 200.000 volgers en nu, ondanks dat het al tien jaar inactief is, heeft het account nog steeds 131.000 volgers. Zijn de meest memorabele grap – “alles gebeurt zo vaak” – vindt vandaag nog steeds weerklank.
In 2013 werd onthuld dat een echt mens, Jacob Bakkila, de afgelopen twee jaar verantwoordelijk was voor tweets van het account. De kunstenaar uit New York kocht @Horse_ebooks in 2012 van een echte spammer en simuleerde vervolgens zijn ‘toespraak’ door met willekeurige tussenpozen fragmenten uit de boeken te tweeten en 24/7 te ‘presteren’ als een bot.
“Mijn doel was om te reverse-engineeren hoe een bot toegang krijgt tot dingen op internet”, zei Bakkila. “Niets wat @Horse_ebooks tweette – of het nu een echte geautomatiseerde spambot was, of mij – was ooit oorspronkelijk geschreven. Het is altijd ontleend aan een eerder geschreven tekst.”
Door het bestaande script te hergebruiken en opnieuw te gebruiken, functioneerde het account op dezelfde manier als de meer geavanceerde chatbots van vandaag, zij het op kleinere schaal. Modellen voor het leren van talen, de technologie waarop apps als ChatGPT zijn gebouwd, werken door grote hoeveelheden menselijk schrift binnen te halen, patronen in menselijke spraak te analyseren en die spraak terug te geven aan de gebruiker op basis van contextuele aanwijzingen.
“Ik wilde gebruik maken van de spanning van het auteurschap, zowel tussen mij als het feit dat het oorspronkelijk een letterlijke spambot was. Wanneer houdt de bot op en wanneer begint de mens?” zei Bakkila.
Die vraag is nog nooit zo relevant geweest, omdat mensen steeds vaker AI-aangedreven chatbots gebruiken, niet alleen als alternatief voor Google, maar ook als therapeuten en vrienden. AI-bedrijven worden ook juridisch bedreigd vanwege het gebruik van bestaande teksten, waarbij auteurs hen beschuldigen van het oneerlijk en illegaal gebruiken van auteursrechtelijk beschermde werken.
The Guardian sprak met Bakkil over het auteurschap van mens-robot, de veronderstelde AI-apocalyps en wat de populariteit van zijn spamrobotkunstproject in onze moderne tijd betekent. Het interview is aangepast voor beknoptheid en duidelijkheid.
@Horse_ebooks is een van de eerste voorbeelden die ik kan bedenken van een taalgebaseerde bot waar het publiek zich op zo’n virale manier aanzienlijk mee bezig heeft gehouden. Wat vind jij van deze nieuwe, op bot gebaseerde AI-boom die we zien?
Ik denk dat je me te veel vleit als je zegt dat het de eerste was. @Horse_ebooks zelf is geïnspireerd door een verscheidenheid aan dingen – meestal vroege modellen, helemaal tot aan wat bijna elke oudere millennial zich zal herinneren – SmarterChild en andere vroege AOL Instant Messenger-bots. Dit idee van geautomatiseerde taal is zeker geen nieuw concept. Daarnaast is het duidelijk dat de verfijning enorm is toegenomen.
Het is belangrijk om te onthouden dat we feitelijk nog steeds alleen maar putten uit vooraf vastgestelde oeuvres. Het is nog steeds gewoon een taal nemen die mensen eerder schreven en die teruggeven aan de mensen. Dus in die zin, zelfs met de enorme verscheidenheid aan verfijning, begrijp ik dat mensen nog steeds met mensen praten, met een bot als tussenpersoon.
Ik ben benieuwd of je ideeën hebt over de evolutie van AI en chatbots. Vroeger hallucineerden ze veel meer, hun taalgebruik was iets eenvoudiger. Denk je dat dat de ervaring beïnvloedt naarmate ze beter worden?
We hebben machines altijd menselijke eigenschappen opgelegd – waarschijnlijk sinds we de eerste machines hebben uitgevonden. Mensen praten tegen Roombas alsof het huisdieren zijn. We hebben AI-luidsprekers of slimme luidsprekers waarmee we moeten praten alsof het een normaal menselijk gesprek is. Als er dingen kapot gaan, als er dingen misgaan, als er dingen misgaan, is er altijd een mooi moment waarop je achter het gordijn gluurt – van begrip en er aan herinnerd worden dat het maar een machine is. Met ChatGPT was er een eerste golf van mensen die zagen wat ze ChatGPT konden laten doen en wat het niet kon.
Er is altijd een sinusgolf van nieuwe technologie, waarbij mensen plezier hebben en deze exploiteren en gebruiken op manieren die de mensen die het hebben gebouwd niet hadden voorzien. Dan sluiten die gaten zich en worden de insecten verpletterd, en is een deel van het plezier verdwenen. Maar mensen vinden andere manieren om het te gebruiken, opnieuw op manieren die contra-intuïtief, grappig en artistiek betekenisvol zijn.
Wat denk je vanuit het perspectief van een kunstenaar over de integratie van AI in de kunstwereld? Het is een kwestie die duidelijk controversieel is geweest.
Ik ben het ermee eens dat het controversieel was, maar zoals veel dingen kan het een kleine storm in een glas water zijn. We leven in een tijd waarin hete claims zeer waardevol zijn voor mensen. En er zijn genoeg mensen die plezier hebben met AI op manieren die interessant en contra-intuïtief zijn.
Het valt nog te bezien hoe duurzaam de AI is. Als je over een jaar met me praat, zal veel ervan misschien vervagen. Mensen voorspellen nu al dat we het hoogste niveau van verfijning hebben bereikt of bijna hebben bereikt op het gebied van zaken als taalmodellen. Het probleem met elk nieuw type technologie is dat we als mensen de neiging hebben om asymptotische groei aan te nemen. We denken: “Dit is verbazingwekkend – ik wed dat het over 10 maanden 100 keer verbazingwekkender zal zijn.” Soms gebeurt het, soms niet.
Ik heb het gevoel dat er iets in mij is ontwaakt bij het noemen van het SlimmereKind – dat was ik helemaal vergeten.
Ja, ik wil niet raden hoe oud je bent, maar ik vermoed dat je jonger bent dan ik. Hoe heette je op AOL?
Die van mij is vernederend – hij was een PV – omdat mijn school Pleasant Valley heette – kikkerliefhebber, omdat ik van kikkers hield.
Dat is echt geweldig. Er schuilt onschuld en verwondering in de namen die we onszelf in die eerdere internettijdperken hebben gegeven. Ik geloof dat het nog steeds bestaat met kinderen en tweens en tweens die dingen doen als Roblox. Het nummer blijft hetzelfde, maar de trouw waarmee het wordt gespeeld is veranderd.
Het is interessant om het vanuit dat perspectief te bekijken. Er zit uiteraard zoveel gemeenheid aan het internet, maar er zit een onschuld in sommige delen ervan, en mensen hebben er plezier in. Denk je dat het nog steeds bestaat binnen AI of vind je het net zo eng als mensen zeggen?
Dat is een geweldige vraag en het hangt er echt van af aan wie je de vraag stelt. Er zijn zeker enkele dingen op het internet die nu verderfelijker en onstabieler zijn dan ooit tevoren – dat wil ik niet bagatelliseren. Maar als het gaat om mensen die gewoon plezier hebben, experimenteren en dingen maken met de middelen die ze krijgen, denk ik niet dat het veel anders is dan tien of twintig jaar geleden. Mensen die te veel onheil en somberheid voorspellen, hebben het vaak mis. Misschien is het gewoon mijn optimistische karakter.
Er zijn veel veranderingen geweest op online platforms sinds het bestaan van @Horse_ebooks – wat vind je van de wijzigingen in de tekenlimiet van Twitter?
Destijds was er een limiet van 140 tekens voor tweets, wat betekende dat de bot tekst zou posten die soms werd afgebroken. Ik hield me er religieus aan vast, en het betekende dat de verkorte tekst iets heel interessants was om mee te werken. Een van de meer onontdekte aspecten van de wereld zoals die nu bestaat, is dat we zoveel informatie hebben dat maar heel weinig mensen het tegenovergestelde doen. Er bestaan nog maar heel weinig vergelijkende mysteries, ook omdat informatie zo vrijelijk beschikbaar is. En beknoptheid is zeldzaam. Ik denk dat minder altijd meer is als het gaat om korte communicatie als deze.
Het is interessant dat je met jouw prestaties hebt geprobeerd een bot te repliceren, terwijl over het algemeen wordt gedacht dat AI-bots menselijk gedrag proberen te repliceren. Wat denk je daarvan?
Ik zou voorzichtig zijn met het woord repliceren, want dat is het moeilijkste deel: proberen we te repliceren? Proberen wij te imiteren? Proberen we eruit te komen? Ik zou het niet met je eens zijn als ik, kort gezegd, het botproces zou proberen te kopiëren. Maar ik geloof dat mijn bedoelingen anders waren. Ik heb geen smeergeld verdiend met de verkoop van e-boeken. Bovendien is er de spanning van de Turing-test: als een mens niet kan zeggen of hij met een bot of een mens praat, maakt het dan uit?
Over het algemeen denk ik dat de mensen die AI momenteel op interessante manieren gebruiken dit niet doen in een poging om de aandacht te trekken of om tegenstand of steun op te wekken. Ze proberen alleen maar na te denken: wat kan ik doen met kunstmatige intelligentie? Het is geweldig om na te denken over wat je nu zou kunnen doen. We worden iets dat veel groter is dan onszelf – en daar kun je een heel interessante spanning in ontdekken, omdat het de eeuwenoude vraag stelt: wat betekent het om mens te zijn? En natuurlijk zijn we niet dichter bij een antwoord – we zijn waarschijnlijk verder dan ooit tevoren. Maar we zouden het nooit zo interessant kunnen vragen.
Ik weet zeker dat je dit vaak wordt gevraagd, maar waarom denk je dat @Horse_ebooks zo veel weerklank vond bij mensen?
Ik kan niet zeggen waarom, maar ik voel me altijd gevleid als er naar gevraagd wordt. Een vriend wees er onlangs op dat er een aantal Spotify-afspeellijsten zijn die waarschijnlijk mijn bekendste woordcombinatie gebruiken: “alles gebeurt zo vaak.”
Kun jij je nog herinneren waar die zin vandaan komt?
Het kwam van een lokaal nieuwsproduct – maar ja, heb ik het geschreven? Nee. Dat kwam uit een pensioenboekje, zoiets als ‘alles gaat een stuk sneller als je met pensioen bent’. We zijn allemaal gefascineerd door dingen op internet die we niet begrijpen, en dat is de kern van waarom mensen zich aangetrokken voelen tot nieuwe technologie.
Ik vind het ook interessant dat mensen zich in de zaak @Horse_ebooks teleurgesteld of verraden voelden of iets dergelijks toen ze erachter kwamen dat er een mens betrokken was bij de tweets die ze zagen. Nu lijkt het erop dat het bij AI precies andersom is – mensen zijn teleurgesteld als ze ontdekken wanneer iets door een bot of AI is gemaakt – denk je dat dat veranderd is?
Ik denk eigenlijk dat, net als veel andere technologische veranderingen die plaatsvinden in de cultuur, de meeste mensen momenteel een redelijk goed oog hebben voor tekst en de afbeeldingen die worden gegenereerd. Je ziet het al van een kilometer afstand aankomen. Ik denk dat het ook zegt hoeveel we lezen. In de moderne tijd zitten velen van ons, zelfs als we het niet bewust als lezen beschouwen, bijna elk moment dat we wakker zijn voor een scherm. De gemiddelde mens beschikt over een grote mate van verfijning als het gaat om het scheiden van het kaf van het koren, om zo te zeggen.
Is er, met alle nieuwe technologie, ooit een wereld waarin @Horse_ebooks weer tot leven wordt gewekt als een nieuwe bot?
@Horse_ebooks was een stuk dat was ontworpen als een stuk uithoudingsvermogen en een stuk performance-poëzie. En in die zin: als een deel klaar is, is het deel ook klaar. Ik houd er niet van om oud terrein opnieuw te bespelen.