OpenAI heeft een tool ontwikkeld waarmee studenten kunnen identificeren die ChatGPT gebruiken om hun opdrachten af te ronden, maar het bedrijf weet nog niet zeker of ze deze tool moeten vrijgeven. De Wall Street Journal meldde dat het bedrijf experimenteert met een methode genaamd text watermarking. Deze techniek houdt in dat er kleine veranderingen worden aangebracht in de manier waarop ChatGPT woorden kiest, waardoor er een verborgen “watermerk” in de tekst ontstaat dat later kan worden gedetecteerd.
Een woordvoerder van OpenAI vertelde TechCrunch dat het bedrijf voorzichtig is met het uitbrengen van deze tool vanwege de complexiteit en mogelijke impact. Ze maken zich zorgen over problemen zoals mensen die manieren vinden om het watermerk te omzeilen en de mogelijkheid om niet-Engelstaligen oneerlijk te beïnvloeden.
Het is “zeer nauwkeurig”
Deze aanpak verschilt van eerdere pogingen om door AI gegenereerde tekst te herkennen, die grotendeels mislukten. GPTZero, een andere tool die is ontworpen om door AI geschreven tekst te detecteren, kampte bijvoorbeeld met uitdagingen op het gebied van nauwkeurigheid en effectiviteit. Zelfs OpenAI stopte vorig jaar met het gebruik van zijn eigen AI-tekstdetector omdat deze niet nauwkeurig genoeg was. De nieuwe watermerktool zou zich alleen richten op het detecteren van tekst die is geschreven door ChatGPT, niet door andere AI-modellen.
In een bijgewerkte blogpostOpenAI merkte op dat tekstwatermerken “zeer nauwkeurig” zijn gebleken tegen eenvoudige manipulatie, zoals het veranderen van een paar woorden. Het is echter minder effectief tegen complexere methoden, zoals het vertalen van de tekst naar een andere taal of het gebruiken van een ander AI-model om de tekst te herformuleren. Het bedrijf noemde ook zorgen dat deze tool het gebruik van AI oneerlijk zou kunnen stigmatiseren, met name voor niet-moedertaalsprekers van het Engels die AI zouden kunnen gebruiken om te helpen met schrijven.
OpenAI houdt rekening met deze factoren en neemt de tijd om te beslissen of ze deze tool wel of niet vrijgeven. Daarbij wegen ze de voor- en nadelen zorgvuldig af.
Alle afbeeldingen worden gegenereerd door Eray Eliaçık/Bing
Source: OpenAI weet hoe het werk van ChatGPT herkend kan worden, maar aarzelt om het te delen