Edward Tian, een 22-jarige senior aan Princeton University, creëerde de GPTZero-app tijdens zijn winterstop. De app is ontworpen om te evalueren of een tekst is gegenereerd door de populaire chatbot ChatGPT. Volgens Tian kan de GPTZero-app snel en efficiënt bepalen of een tekst is geschreven door een mens of door ChatGPT, en dat deze is gemaakt vanwege zorgen over onethisch gebruik van ChatGPT in de academische wereld.
Edward Tian, een hoofdvak informatica met een minor in journalistiek, ontwikkelde de app GPTZero om wat hij ziet als een toename van AI-plagiaat aan te pakken. Hij gelooft dat mensen het verdienen om te weten of AI of een mens de auteur van een tekst is, en deze wens bracht hem ertoe de app te maken. In een tweet die de GPTZero-app promootte, schreef hij: “Er is zoveel hype rond ChatGPT. Wordt dit en dat door AI geschreven? Wij mensen verdienen het te weten!”
Ik heb met oud en nieuw GPTZero gebouwd – een app die snel en efficiënt kan detecteren of een essay ChatGPT of door mensen geschreven is
— Edward Tian (@edward_the6) 3 januari 2023
Na de introductie van ChatGPT in november zijn er meldingen geweest van studenten die het taalmodel gebruikten om door AI gegenereerde opdrachten als hun eigen opdrachten in te dienen. Met de ontwikkeling van de GPTZero-app door Tian hebben docenten nu een nieuwe tool om te bepalen of de door studenten ingezonden essays zijn geschreven door ChatGPT. Op 2 januari, toen Tian de app beschikbaar maakte, namen andere docenten contact met hem op om positieve feedback te delen over de prestaties bij het detecteren van door AI geschreven essays.
GPTZero-app: hoe ChatGPT-schrijven te detecteren?
De GPTZero-app gebruikt “verbijstering” en “uitbarsting” als indicatoren om te bepalen of een tekst is geschreven door een mens of een bot. Verbijstering is een maatstaf voor de complexiteit van de tekst. Als de GPTZero-app vindt dat de tekst moeilijk te begrijpen is, betekent dit dat de tekst complexer is en daarom waarschijnlijk door een mens is geschreven. Als het gemakkelijk te begrijpen is, is het hoogstwaarschijnlijk gegenereerd door AI, omdat het is getraind op vergelijkbare teksten. “Burstiness” contrasteert de verschillende zinsversies en mensen hebben de neiging om sneller te schrijven, wat een mix van langere en kortere woorden kan bevatten, terwijl door AI gegenereerde zinnen doorgaans consistenter zijn.
Tian demonstreerde hoe de app onderscheid kan maken tussen door mensen geschreven teksten en AI door de analyse van een artikel in New Yorker en een ChatGPT-post op LinkedIn in een video te laten zien. De app bleek effectief te zijn in zijn analyse. Binnen een week na de lancering was de GPTZero-app door meer dan 30.000 gebruikers gebruikt en door zijn populariteit crashte de app. Streamlit, de open-source software die de GPTZero-app uitvoert, heeft sindsdien meer middelen geleverd om het hoge verkeer op de website aan te kunnen om Tian te helpen.
hier is een snelle demo met john mcphee’s "referentiekader" pic.twitter.com/WphxfxxFdr
— Edward Tian (@edward_the6) 3 januari 2023
Edward Tian is niet de enige die vecht tegen AI-plagiaat en fabricage. OpenAI, de maker van ChatGPT, heeft ook zijn toewijding getoond om dergelijk kwaadwillig gebruik van AI te stoppen. Volgens Scott Aaronson, een OpenAI-onderzoeker gespecialiseerd in AI-veiligheid, heeft de organisatie een manier ontwikkeld om “onmerkbaar geheim signaal” in GPT-gegenereerde tekst in te bedden om de oorsprong ervan te traceren, wat vergelijkbaar is met het concept van “watermerken”. Dit zal helpen bij het detecteren van AI-plagiaat of ander kwaadaardig gebruik.
De open-source AI-gemeenschap Hugging Face heeft een tool uitgebracht die kan bepalen of een tekst is gegenereerd door GPT-2, een oudere versie van het AI-model dat is gebruikt om ChatGPT te maken. Een filosofieprofessor in South Carolina, die op de hoogte was van deze techniek, meldde dat ze deze gebruikten om een student te detecteren die werk instuurde dat door AI was gemaakt.
Edward Tian is niet tegen het gebruik van ChatGPT en andere AI-technologieën. Hij is van mening dat de GPTZero-app niet bedoeld is om het gebruik van deze technologieën te voorkomen, maar om een manier te bieden om ze op verantwoorde wijze toe te passen en de nodige bescherming te bieden. Hij wil transparantie brengen in AI, die te lang een black box is geweest. Hij heeft de app gemaakt om mensen inzicht te geven in wat menselijk schrijven onderscheidt van door AI gegenereerd schrijven, hoewel hij begrijpt dat de GPTZero-app niet perfect is en nog steeds werkt aan het verbeteren van de precisie ervan. Hij benadrukte dat zijn primaire doel is om AI transparanter te maken.
Ook al zijn er rechtmatige projecten tegen plagiaat, sommige grote spelers, zoals Microsoft, integreren ChatGPT in hun software!
Source: AI-detectie: kan de GPTZero-app het schrijven van ChatGPT detecteren?