X, het bedrijf dat voorheen bekend stond als Twitter, lijkt een probleem te hebben met de Verified-bot. Hoewel X-eigenaar Elon Musk heeft gesuggereerd dat het dwingen van gebruikers om voor verificatie te betalen zou helpen bots (ook wel geautomatiseerde accounts genoemd) op het platform te elimineren, lijkt dat niet het geval te zijn. Een video die bekeken wordt op rivaliserend platform Instagram Threads toont X-zoekresultaten waarin talloze bots, waaronder veel geverifieerd met een blauw vinkje, een variatie posten op de zinsnede “Sorry, ik kan niet antwoorden omdat dit in strijd is met het OpenAI-use-case-beleid.”
Een reactie is wat de chatbot van OpenAI zegt wanneer een gebruiker een vraag stelt of verzoekt om een taak uit te voeren die in strijd is met de servicevoorwaarden van OpenAI. In dit geval is het ook een indicatie dat het X-account in kwestie AI gebruikt om zijn berichten te maken.
Een momentopname van deze zoekresultaten werd op Threads geplaatst door de Chicago-schrijver en voormalig hoofdredacteur van Media Matters Parker Molloy, die opmerkte: “Twitter is een spookstad.”
Bericht van @parkermolloy
Bekijk onderwerpen
Musk klaagt ondertussen de non-profitorganisatie Media Matters aan wegens vermeende laster nadat de organisatie een artikel publiceerde met screenshots van advertenties die naast haatzaaiende uitlatingen op het platform verschijnen. De rechtszaak werd aangespannen te midden van een exodus van adverteerders die de potentiële inkomsten van X ondermijnde, wat Musk ertoe aanzette grapjes te maken dat vluchtende adverteerders zichzelf zouden moeten “naaien” in een interview over de kwestie op de New York Times DealBook Summit eind november.
Als je de video van Molloy op Threads niet kunt bekijken, kun je X zoekresultaten uit de eerste hand bekijken door naar het antwoord van de AI-chatbot tussen aanhalingstekens te zoeken, zoals in deze vraag hier.
Afbeeldingscredits: schermafdruk X
In de reacties op de video suggereerde één gebruiker dat de botactiviteit afkomstig zou kunnen zijn van X zelf. Ze verklaarden dat veel van deze blauw getagde accounts oudere, verlaten accounts lijken te zijn die opnieuw zijn ingenomen en vervolgens zijn omgezet in de blauwe vinkjes ze gebruiken AI voor accountautomatisering. Dit zou een poging kunnen zijn om statistieken zoals dagelijkse en maandelijkse actieve gebruikers te verbeteren, suggereren ze.
Ten minste enkele van de botaccounts lijken ouder, volgens de “aanmeldingsdatum” die op hun X-profiel wordt weergegeven. Je kunt er een bekijken voorbeeld hier bijvoorbeeld (zie hieronder). Deze accounts plaatsen ook inhoud die leest alsof deze het resultaat is van een AI-query, wat hoogstwaarschijnlijk het geval is.
Dit bewijst natuurlijk niet dat het account door X zelf wordt beheerd en niet door een spammer die op een verlaten Twitter zit.
Afbeeldingscredits: schermafdruk met X
Toch is het op zijn zachtst gezegd twijfelachtig, en het bewijst zeker dat betaalde verificatie alleen niet de oplossing is voor het botprobleem van X – een probleem dat Musk oploste toen hij het sociale netwerk ruim een jaar geleden overnam. Hij suggereerde onlangs dat iedereen voor X zou moeten betalen, omdat een “kleine maandelijkse betaling” zou helpen het “enorme leger bots” op het platform te bestrijden.
Ondanks de vele aankondigingen van deze bots zijn AI-accounts niet het enige probleem van X. Veel bots en botfarms draaien zonder de hulp van OpenAI en zijn moeilijker te detecteren. Volgens gegevens afkomstig van Fedica, een analyse- en publicatieplatform voor sociale media, hebben in de afgelopen 30 dagen slechts 202 accounts de autoresponder van OpenAI gepubliceerd, zoals te zien is in deze zoekopdracht hier. Hoewel een paar van echte mensen waren die grapjes maakten over het botprobleem, waren de meeste AI-reacties. X heeft mogelijk al meerdere bots verwijderd, maar die gegevens zijn niet beschikbaar.
Afbeeldingscredits: screenshot van Fedica
De geverifieerde bots lijken voornamelijk X-accounts te zijn die tussen 24 en 26 november 2023 zijn aangemaakt.
Dit is niet het enige gebied waar X worstelt met bots. Het bedrijf gaf afgelopen zomer toe dat het een probleem had met geverifieerde spammers toen het nieuwe DM-instellingen aankondigde. De nieuwe functies waren gericht op het verminderen van spam in de directe berichteninbox van een gebruiker door berichten van geverifieerde gebruikers die u niet volgt terug te verplaatsen naar de Message Request-inbox – nog een signaal dat het verificatiesysteem van X spammers niet zoals verwacht uitroeide.
X heeft niet gereageerd op verzoeken om commentaar over de kwestie.
Het bedrijf claimt 550 miljoen maandelijkse gebruikers, volgens Musk, en het bedrijf ziet 500 miljoen berichten per dag, inclusief berichten, antwoorden, citerende berichten en reposts, volgens Linda Yaccarino, CEO van X. Geen van beide managers zei echter of de bots rekening hielden met deze statistieken.