Uw e-mailinbox zit vol met spam. Uw mailbox zit vol met spam. Nu heeft uw webbrowser zijn eigen probleem: slop.
‘Bluga’ is wat u krijgt als u door AI gegenereerde inhoud naar het internet pusht zodat iedereen deze kan zien.
In tegenstelling tot een chatbot is een slop niet interactief en zelden bedoeld om daadwerkelijk de vragen van lezers te beantwoorden of in hun behoeften te voorzien.
Integendeel, het functioneert voornamelijk om de schijn van door mensen gemaakte inhoud te creëren, te profiteren van advertentie-inkomsten en de aandacht van zoekmachines naar andere pagina’s te leiden.
Net als spam wil bijna niemand naar slop kijken, maar de economie van het internet heeft toch tot de creatie ervan geleid. AI-modellen maken het triviaal om automatisch enorme hoeveelheden tekst of afbeeldingen te genereren, elke denkbare zoekopdracht te beantwoorden, eindeloze sharescapes en inspirerende verhalen te uploaden en een leger aan ondersteunende commentaren te genereren. Als slechts een handjevol gebruikers naar de site komt, de meme opnieuw deelt of op de gehoste advertenties klikt, zijn de kosten voor het maken ervan de moeite waard.
Maar net als spam is het algehele effect negatief: de verspilde tijd en moeite van gebruikers die nu moeten doorwaden om de inhoud te vinden waarnaar ze eigenlijk op zoek zijn, weegt ruimschoots op tegen de winsten van de makers van slop.
“Ik denk dat het erg belangrijk is om hier een naam voor te hebben, omdat het mensen een beknopte manier geeft om over het probleem te praten”, zegt ontwikkelaar Simon Willison, een van de eerste voorstanders van de term ‘slop’.
“Voordat de term ‘spam’ algemeen werd gebruikt, was het niet voor iedereen duidelijk dat ongevraagde marketingberichten slecht gedrag waren. Ik hoop dat ‘gebrabbel’ dezelfde impact zal hebben – het kan mensen laten weten dat het genereren en publiceren van niet-beoordeelde, door AI gegenereerde inhoud slecht gedrag is.”
Een laag is uiteraard schadelijk als deze gewoon verkeerd is. Willison wees op een door AI gegenereerd Microsoft Travel-artikel waarin de ‘Ottawa Food Bank’ werd vermeld als een must-see attractie in de Canadese hoofdstad als een perfect voorbeeld van het probleem. Af en toe is een stukje onzin zo nutteloos dat het op zichzelf viraal gaat, zoals een carrièreadviesartikel dat openhartig de clou uitlegt van een tientallen jaren oud krantenstripverhaal: “ze betalen me in woims.”
“Hoewel de precieze betekenis van ‘Ik word betaald bij Woims’ dubbelzinnig blijft, zijn er verschillende interpretaties naar voren gekomen, variërend van een speels commentaar op de balans tussen werk en privé tot een diepere verkenning van onze waargenomen realiteit”, begint de kers op de taart.
Door AI gegenereerde boeken zijn ook een probleem geworden. Een opvallend voorbeeld was toen amateur-paddenstoelenplukkers onlangs werden gewaarschuwd om niet te zoeken naar boeken die op Amazon werden verkocht en die door chatbots leken te zijn geschreven en gevaarlijk advies bevatten voor iedereen die hoopt een dodelijke paddenstoel van een eetbare te onderscheiden.
Beeldgenererende beelden zijn ook tot bloei gekomen op Facebook, terwijl afbeeldingen van Jezus Christus met garnalen als ledematen, kinderen in plastic flessenauto’s, nep-droomhuizen en ongelooflijke oude dames die beweren hun eigen taart te hebben gebakken voor hun 122e verjaardag, duizenden keren zijn gedeeld. .
Jason Koebler van tech news 404 Media gelooft dat de trend representeert wat hij een ‘zombie-internet’ noemt. De opkomst van slop, zegt hij, heeft het sociale netwerk veranderd in een ruimte waar “een mix van bots, mensen en accounts die vroeger mensen waren, maar niet langer aan elkaar zijn gehecht om een rampenwebsite te vormen met weinig sociale connecties. alles.”
na het promoten van de nieuwsbrief
Nick Clegg, president van mondiale zaken bij Facebook’s moederbedrijf Meta, schreef in februari dat het sociale netwerk zijn systemen traint om inhoud te identificeren die door kunstmatige intelligentie is gemaakt. “Nu het onderscheid tussen menselijke en synthetische inhoud vervaagt, willen mensen weten waar de grens ligt”, schreef hij.
Het probleem begint de belangrijkste inkomstenbron van de sociale media-industrie zorgen te baren: reclamebureaus die betalen om advertenties naast de inhoud te plaatsen. Farhad Divecha, directeur van het Britse digitale marketingbureau AccuraCast, zegt dat hij nu gevallen ziet waarin gebruikers advertenties ten onrechte bestempelen als door AI aangedreven amateurs, terwijl dat niet het geval is.
“We hebben gevallen gezien waarin mensen opmerkten dat de advertentie door AI gegenereerde onzin was, maar dat was niet het geval”, zegt hij, eraan toevoegend dat het een probleem zou kunnen worden voor de sociale media-industrie als consumenten “het gevoel krijgen dat ze afval geserveerd. tijd”.
Het bestrijden van spam in de inbox heeft in alle sectoren enorme inspanningen gevergd en heeft geleid tot een fundamentele verandering in de aard van e-mail. Grote webmailproviders zoals Gmail houden hun platforms agressief in de gaten om spammers aan te pakken en staan steeds wantrouwiger tegenover e-mails die afkomstig zijn van niet-vertrouwde e-mailservers. Ze zetten ook complexe, grotendeels ongedocumenteerde, AI-systemen in om spam rechtstreeks te detecteren, in een voortdurend kat-en-muisspel met de spammers zelf.
De toekomst is minder rooskleurig als het om slop gaat: de grootste bedrijven ter wereld zijn van jachtopzieners in stropers veranderd. Vorige week kondigde Google een ambitieus plan aan om door AI gegenereerde antwoorden bovenaan sommige zoekresultaten toe te voegen, waarbij Amerikaanse gebruikers de eersten waren die de volledige uitrol van de “AI Insights” -functie zouden ervaren. Het zal ook links bevatten, maar gebruikers die hun reactie willen beperken tot het selecteren van alleen links naar andere websites, kunnen deze vinden door in de zoekmachine op ‘web’ te klikken, naast ‘afbeeldingen’ en ‘kaarten’ in de lijst met opties.
“We hebben dit toegevoegd nadat we van sommigen hadden gehoord dat ze soms liever links naar websites in hun zoekresultaten zien”, schreef Danny Sullivan, de zoekpartner van het bedrijf.
Google zegt dat AI-reviews sterke veiligheidshekken hebben. Elders op internet verspreidt het uitschot zich echter.