Het citaat van de gouverneur van Wyoming en de plaatselijke procureur-generaal waren de eerste dingen die Powell Tribune-verslaggever CJ Baker een beetje misplaatst vonden. Toen leken sommige zinnen in de verhalen hem bijna robotachtig.
Een beschuldiging dat een verslaggever van een rivaliserend nieuwskanaal generatieve kunstmatige intelligentie gebruikte om zijn verhalen te helpen schrijven, verscheen echter op 26 juni in een artikel over komiek Larry Cable Guy die werd gekozen tot grootmaarschalk van de Cody Stampede-parade.
“De Cody Stampede Parade 2024 belooft een onvergetelijke viering van de Amerikaanse onafhankelijkheid te worden, met als headliner een van de meest geliefde komedie-persoonlijkheden”, meldt de Cody Enterprise. “Deze structuur zorgt ervoor dat de meest kritische informatie als eerste wordt gepresenteerd, waardoor het voor lezers gemakkelijker wordt om de hoofdpunten snel te begrijpen.”
Na wat speurwerk ontmoette Baker, die al meer dan vijftien jaar verslaggever is, Aaron Pelczar, een veertigjarige nieuwkomer in de journalistiek, die volgens Baker toegaf AI in zijn verhalen te gebruiken.
Baker, die Enterprise regelmatig leest omdat het een concurrent is, zei dat de combinatie van zinnen en citaten in de verhalen van Pelcar zijn argwaan wekte.
Pelczars verhaal over de schietpartij in het Yellowstone National Park bevatte de zin: “Dit incident dient als een grimmige herinnering aan de onvoorspelbare aard van menselijk gedrag, zelfs in de rustigste omgevingen.”
Baker zei dat die zin klinkt als een samenvatting van zijn verhalen die door een bepaalde chatbot lijken te zijn gegenereerd, omdat het uiteindelijk een soort ‘levensles’ oplevert.
Het andere verhaal – over de stroperijveroordeling – bevatte citaten van natuurbeschermers en de aanklager die klonken alsof ze uit een persbericht kwamen, zei Baker. Er was echter geen persbericht en de betrokken instanties wisten niet waar de citaten vandaan kwamen, zei hij.
Twee van de onderzochte verhalen betroffen valse citaten van de gouverneur van Wyoming, Mark Gordon, waarvan zijn personeel pas hoorde toen Baker hen belde.
“In één geval [Pelczar] schreef een verhaal over een nieuwe OSHA-regel met een citaat van de gouverneur dat volledig fictief was”, zei Michael Pearlman, een woordvoerder van de gouverneur, in een e-mail. “In een ander geval leek hij een deel van een citaat te verzinnen en dit vervolgens te combineren met een deel van een citaat dat was opgenomen in een persbericht waarin de nieuwe directeur van onze wild- en visafdeling in Wyoming werd aangekondigd.”
De meest voor de hand liggende door AI gegenereerde kopie verscheen in een verhaal over Larry the Cable Guy, dat eindigde met een uitleg van de omgekeerde piramide, een basisbenadering van het laatste nieuws.
In zijn Powell Tribune-verhaal waarin het nieuws over Pelczars gebruik van AI in artikelen naar voren kwam, schreef Baker dat hij een lastige maar hartelijke ontmoeting had met Pelczar en Enterprise-redacteur Chris Bacon. Tijdens de bijeenkomst zei Pelczar: “Het is duidelijk dat ik nooit opzettelijk heb geprobeerd iemand verkeerd te citeren”, en beloofde hij “ze te corrigeren en een verontschuldiging aan te bieden en te zeggen dat het onjuiste verklaringen waren”, schreef Baker, waarbij hij opmerkte dat Pelczar volhield dat zijn fouten niet mochten weerspiegelen op zijn Cody. Enterprise-editors.
Na de bijeenkomst lanceerde Enterprise een volledige audit van alle verhalen die Pelczar voor de krant schreef in de twee maanden dat hij daar werkte. Ze ontdekten zeven verhalen met citaten van zes mensen, gegenereerd door kunstmatige intelligentie, zei Bacon dinsdag. Blader nog steeds door andere verhalen. Pelczar nam ontslag bij de krant.
“Dat zijn zeer geloofwaardige citaten,” zei Bacon, waarbij hij opmerkte dat mensen met wie hij sprak terwijl hij de artikelen van Pelczar bekeek, zeiden dat de citaten klonken als iets dat ze zouden zeggen, maar dat ze nooit echt met Pelczar hadden gesproken.
Baker meldde dat zeven mensen hem vertelden dat ze waren geciteerd in verhalen van Pelczar, maar dat ze niet met hem hadden gesproken.
De uitgever en redacteur van Enterprise, mede opgericht in 1899 door Buffalo Bill Cody, heeft sindsdien zijn excuses aangeboden en beloofd stappen te ondernemen om ervoor te zorgen dat dit nooit meer gebeurt. In een redactioneel artikel dat maandag werd gepubliceerd, zei Bacon dat hij de AI-kopie en het valse citaat “er niet in slaagde te vangen”.
“Het maakt niet uit dat de valse citaten de duidelijke fout waren van een haastige beginnende journalist die de AI vertrouwde. Dat was mijn taak”, schreef Bacon. Hij verontschuldigde zich dat “AI nooit gesproken woorden in verhalen mocht verwerken.”
Journalisten lieten hun carrière ontsporen door citaten of feiten in verhalen te verzinnen lang voordat kunstmatige intelligentie opdook. Maar dit laatste schandaal illustreert de potentiële valkuilen en gevaren die AI met zich meebrengt voor veel sectoren, waaronder de journalistiek, omdat chatbots met slechts een paar vragen valse maar enigszins geloofwaardige artikelen kunnen uitspugen.
AI heeft een rol gevonden in de journalistiek, waaronder het automatiseren van bepaalde taken. Sommige redactiekamers, waaronder de Associated Press, gebruiken AI om verslaggevers de ruimte te geven effectiever te werken, maar de meeste AP-medewerkers mogen geen generatieve kunstmatige intelligentie gebruiken om inhoud voor publicatie te creëren.
Het is belangrijk gebleken om open te zijn over hoe en wanneer AI wordt gebruikt. Sports Illustrated kreeg vorig jaar kritiek vanwege het publiceren van online productrecensies, gegenereerd door kunstmatige intelligentie, die werden gepresenteerd alsof ze waren geschreven door journalisten die niet echt bestonden. Nadat het verhaal naar buiten kwam, zei Sports Illustrated dat het het bedrijf ontsloeg dat de artikelen voor zijn website produceerde, maar het incident tastte de reputatie van de eens zo machtige publicatie aan.
Pelczar beantwoordde geen AP-telefoonbericht dat was achtergelaten op een nummer dat vermeld stond als zijn poging om te bespreken wat er was gebeurd. Bacon zei dat Pelczar weigerde de kwestie te bespreken met andere kranten uit Wyoming die contact opnamen.
Het is niet moeilijk om AI-verhalen te creëren. Gebruikers zouden een misdaadverklaring in het AI-programma kunnen plaatsen en het kunnen vragen een artikel over de zaak te schrijven, inclusief citaten van lokale functionarissen, zegt Alex Mahadevan, directeur van het Digital Media Literacy Project bij het Poynter Institute, een vooraanstaande journalistieke denktank.
“Deze generatieve AI-chatbots zijn geprogrammeerd om je een antwoord te geven, of dat antwoord nu complete onzin is of niet”, zei Mahadevan.
Megan Barton, uitgever van Cody Enterprise, schreef een redactioneel commentaar waarin ze AI “een nieuwe, geavanceerde vorm van plagiaat” noemde, en in de media en in de literatuur is plagiaat iets dat elk mediakanaal ooit heeft moeten corrigeren. Dat is het lelijke van het werk. Maar een bedrijf dat deze fouten wil corrigeren (of letterlijk schrijven) is respectabel.”
Barton schreef dat de krant haar les had geleerd, een systeem had ingevoerd om door AI gegenereerde verhalen te herkennen, en “langere gesprekken zou voeren over hoe door AI gegenereerde verhalen niet acceptabel zijn.”
Enterprise had geen AI-beleid, deels omdat het voor de hand lag dat verslaggevers het niet zouden moeten gebruiken om verhalen te schrijven, zei Bacon. Poynter heeft een sjabloon waarmee nieuwsmedia hun eigen AI-beleid kunnen opbouwen.
Bacon is van plan het tegen het einde van de week te installeren.
‘Dit zal een gesprek zijn voorafgaand aan het dienstverband’, zei hij.