Character.AI, een toonaangevend AI-chatbotplatform, heeft plannen aangekondigd om tegen 25 november de toegang tot open chatbots voor gebruikers onder de 18 jaar te beëindigen. Het bedrijf zal beginnen met het beperken van tienergebruikers tot twee uur dagelijkse interactie, en die tijd vervolgens geleidelijk terugbrengen totdat de toegang volledig stopt.
Om de beperking te implementeren, zal Character.AI een interne tool voor leeftijdsverificatie inzetten naast diensten van derden, zoals Persona. In gevallen waarin deze methoden onvoldoende blijken, kan het platform zijn toevlucht nemen tot gezichtsherkenning en door de overheid uitgegeven identiteitscontroles om te bevestigen dat gebruikers ouder zijn dan 18 jaar.
Het besluit komt voort uit de inbreng van toezichthouders en ouders en sluit aan bij lopende initiatieven om de geestelijke gezondheidsrisico’s die gepaard gaan met AI-interacties onder tieners te verminderen. Character.AI heeft eerder beveiligingen geïntroduceerd, waaronder een tool voor ouderlijk inzicht om het gebruik te monitoren, gefilterde karakteropties, beperkingen op romantische gesprekken en meldingen over de tijd die op het platform wordt doorgebracht. Deze stappen hebben bijgedragen aan een afname van het aantal gebruikers onder de 18 jaar.
In de toekomst wil Character.AI een speciale ervaring voor tieners lanceren, waarmee ze video’s, verhalen en streams met personages kunnen produceren. Deze nieuwe functie sluit chatmogelijkheden met een open einde uit.
