Meta heeft een nieuwe functie geïntroduceerd waarmee ouders de onderwerpen die hun tieners bespreken met de AI-assistent van het bedrijf kunnen volgen via een tool voor ouderlijk toezicht voor Teen Accounts. De aankondiging werd donderdag gedaan via een blogpost.
De informatie is toegankelijk via een tabblad Inzichten in de toezichttool op Instagram, Facebook en Messenger. Deze functie categoriseert bredere onderwerpen, waaronder school, entertainment, schrijven, gezondheid en welzijn, waarbij aanvullende beperkte details beschikbaar zijn wanneer u op elke categorie klikt.
De categorie gezondheid en welzijn kan gebieden omvatten zoals fitness, lichamelijke gezondheid en geestelijke gezondheid. Inzichten zijn beschikbaar voor gesprekken van de afgelopen zeven dagen. Deze functie maakt deel uit van Meta’s reactie op het toegenomen juridische en media-onderzoek met betrekking tot de veiligheid van kinderen. Het bedrijf heeft onlangs twee baanbrekende rechtszaken met betrekking tot de bescherming van kinderen verloren en is van plan in beroep te gaan tegen beide vonnissen.
Uit een rechtszaak in New Mexico bleek dat het leiderschap van Meta zich bewust was van de risico’s die verbonden zijn aan het feit dat zijn AI-metgezellen mogelijk ongepaste interacties aangaan met minderjarigen. Na berichten vorig jaar over AI-personages die met tieners in discussies gingen, beperkte Meta de toegang tot deze personages.
Daarnaast bevestigde een Meta-woordvoerder dat AI-personages momenteel zijn gepauzeerd voor tieners, terwijl verder ouderlijk toezicht wordt ontwikkeld. Het bedrijf werkte ook samen met het Cyberbullying Research Center om gespreksstarters te maken over het gebruik van AI-chatbots.
Bovendien heeft Meta een AI Wellbeing Expert Council gevormd, waarin experts van instellingen als de National Council for Suicide Prevention en de University of Michigan zitting hebben, om voortdurende input te leveren over AI-ervaringen voor tieners.
Josh Golin, uitvoerend directeur van de non-profitorganisatie Fairplay, bekritiseerde de nieuwe toezichtfunctie en stelde dat deze de last van het monitoren van online activiteiten bij ouders legt in plaats van de productveiligheid te vergroten. Uit onafhankelijke tests van Fairplay op Meta’s Teen Accounts bleek dat veiligheidsmaatregelen niet effectief zijn.
Golin uitte zijn bezorgdheid dat de nieuwe functie niet ingaat op het kernprobleem van Meta’s chatbots die mogelijk ongezonde emotionele banden bij tieners bevorderen. De voortdurende aanpassingen van het bedrijf duiden op een poging om door het kritieke landschap van kinderveiligheid en online interacties te navigeren.
