OpenAI maakte onlangs furore met de lancering van de GPT Store, een platform waarmee gebruikers verschillende door gebruikers gemaakte versies van ChatGPT kunnen verkennen.
Volgens een rapport van Quartz nam de opwinding echter een onverwachte wending toen gebruikers snel manieren vonden om de grenzen te verleggen en de regels van OpenAI te overtreden, vooral met de opkomst van zogenaamde “vriendin-bots.‘Hier is alles wat u moet weten.
GPT Store-gebruikers overtreden de regels
Het gebruiksbeleid van OpenAI werd bijgewerkt op de dag dat de GPT Store werd geïntroduceerd. Het bijgewerkte beleid maakt duidelijk dat GPT’s geen romantische oriëntatie mogen hebben.
Het beleid stelt:
“We staan geen GPT’s toe die zich richten op het promoten van romantische vriendschappen of gereguleerde activiteiten”.
Het beleid omvat ook een verbod op GPT’s met godslastering in de titel, of die expliciet geweld uitbeelden of promoten.
Ondanks deze duidelijke regels levert zoekopdrachten naar termen als ‘vriendin’ in de GPT Store nog steeds een reeks opties op, hoewel sommige die aanvankelijk door Quartz werden opgemerkt, sindsdien ondoorzoekbaar zijn geworden. Dit suggereert dat de makers van GPT’s zich aanpassen en creatiever worden met hun titels, waarbij termen als ‘schat’ relevantere opties bieden dan de nu beperkte term ‘vriendin.”
Met name zoekpogingen naar woorden als ‘seks’, ‘escort’ en ‘metgezel’ en schattige termen als ‘schat’ leveren minder relevante resultaten op. Zelfs zoekopdrachten naar expliciet verboden obscene taal leveren geen resultaten op, wat erop wijst dat OpenAI actief zijn regels handhaaft en overtredingen voorkomt.
Gezien de neiging van volwassen artiesten om gepersonaliseerde ‘virtuele vriendinnenVoor seksueel expliciete inhoud is de vraag naar dergelijke bots niet verrassend. Bedrijven als Bloom, gespecialiseerd in audio-erotiek, zijn ook het veld opgegaan met erotische ‘rollenspel’-chatbots. Bovendien hebben sommige mensen chatbots gebruikt om hun berichten in datingapplicaties te verbeteren, waardoor ze aantrekkelijker worden voor potentiële connecties in het echte leven. Als OpenAI-gebruikers beperkingen ondervinden bij het verkrijgen van vriendinbots uit de GPT Store, zullen ze waarschijnlijk alternatieve opties in andere hoeken van het internet verkennen.
Uitgelichte afbeeldingscredits: Jacob Mindak / Unsplash
Source: GPT Store-gebruikers verleggen de grenzen