OpenAI introduceerde een functie voor “leeftijdsvoorspelling” voor ChatGPT om minderjarigen te identificeren, waardoor passende inhoudsbeperkingen voor hun gesprekken mogelijk worden. De kritiek op de impact van AI op jongeren is toegenomen. OpenAI's ChatGPT is in verband gebracht met zelfmoorden onder tieners. De chatbot kreeg ook kritiek omdat hij seksuele onderwerpen met jonge gebruikers aansprak. Concreet erkende het bedrijf in april een bug waardoor de chatbot erotica kon genereren voor gebruikers onder de 18 jaar. OpenAI heeft het probleem van minderjarige gebruikers aangepakt. De nieuwe functie “leeftijdsvoorspelling” is een aanvulling op de bestaande beveiligingen. Deze functie maakt gebruik van een AI-algoritme om “signalen op gedrags- en accountniveau” van gebruikersaccounts te analyseren om jonge gebruikers te detecteren, zoals beschreven in een bedrijfsblogpost op dinsdag. Deze “signalen” omvatten de door de gebruiker opgegeven leeftijd, de levensduur van het account en de typische actieve uren. OpenAI maakt momenteel gebruik van inhoudsfilters om discussies over seksuele inhoud, geweld en andere onderwerpen die als problematisch worden beschouwd voor gebruikers onder de 18 jaar uit te sluiten. Als het leeftijdsvoorspellingsmechanisme identificeert dat een account toebehoort aan een minderjarige, worden deze filters automatisch toegepast. Gebruikers die ten onrechte als minderjarig zijn aangemerkt, kunnen hun accountstatus ongedaan maken. Ze kunnen een selfie indienen bij Persona, de ID-verificatiepartner van OpenAI, voor leeftijdsverificatie.
Source: OpenAI lanceert AI-leeftijdsvoorspellingstool om ChatGPT voor minderjarigen te beperken
