OpenAI heeft een tool gebouwd die studenten mogelijk kan betrappen op spieken door ChatGPT te vragen hun opdrachten te schrijven – maar volgens The Wall Street Journal debatteert het bedrijf over de vraag of het daadwerkelijk zal worden vrijgegeven.
In een verklaring aan TechCrunch bevestigde een woordvoerder van OpenAI dat het bedrijf de tekstwatermerkmethode onderzoekt die in het verhaal van het tijdschrift wordt beschreven, maar zei dat het een “bewuste aanpak” hanteerde vanwege “de complexiteit die ermee gepaard gaat en de waarschijnlijke impact ervan op het bredere ecosysteem daarbuiten. OpenAI.”
“De methode voor het watermerken van tekst die we ontwikkelen is technisch veelbelovend, maar heeft belangrijke risico’s die we afwegen terwijl we alternatieven verkennen, waaronder de gevoeligheid voor omzeiling door slechte actoren en het potentieel om groepen zoals niet-Engelssprekenden onevenredig te beïnvloeden”, zei de woordvoerder. .
Dit zou een andere aanpak zijn dan de meeste eerdere pogingen om door AI gegenereerde tekst te detecteren, die grotendeels ineffectief zijn geweest. Zelfs OpenAI zelf heeft vorig jaar zijn vorige AI-tekstdetector afgesloten vanwege de “lage nauwkeurigheid”.
Met tekstwatermerken zou OpenAI zich uitsluitend richten op het detecteren van schrijven uit ChatGPT, niet uit de modellen van andere bedrijven. Het zou dit doen door kleine wijzigingen aan te brengen in de manier waarop ChatGPT woorden kiest, waardoor er in feite een onzichtbaar watermerk in het schrift ontstaat dat later door een speciaal hulpmiddel kan worden gedetecteerd.
Na de publicatie van het verhaal van het tijdschrift heeft OpenAI in mei ook een blogpost bijgewerkt over zijn onderzoek naar het ontdekken van door AI gegenereerde inhoud. De update zegt dat tekstwatermerken ‘zeer nauwkeurig en zelfs effectief zijn gebleken tegen gelokaliseerd geknoei, zoals parafraseren’, maar ‘minder robuust zijn gebleken tegen mondiaal geknoei; zoals het gebruik van een vertaalsysteem, het herformuleren met een ander generatief model, of het model vragen een speciaal teken tussen elk woord in te voegen en dat teken vervolgens te verwijderen.”
Als gevolg hiervan schrijft OpenAI dat deze methode “triviaal is voor slechte actoren om te omzeilen”. De update van OpenAI weerspiegelt ook het standpunt van de woordvoerder ten aanzien van niet-Engelssprekenden, waarbij hij schrijft dat tekstwatermerken “het gebruik van AI als een nuttig schrijfhulpmiddel voor niet-Engelstaligen zouden kunnen stigmatiseren.”