Instagram heeft aangekondigd dat het ouders zal waarschuwen als hun tiener binnen korte tijd herhaaldelijk zoekt naar termen voor zelfmoord of zelfbeschadiging. De waarschuwingen worden de komende weken gelanceerd voor ouders die zijn ingeschreven voor de tools voor ouderlijk toezicht van het platform. Hoewel Instagram al zoekopdrachten naar inhoud met betrekking tot zelfmoord en zelfbeschadiging blokkeert, voegt de nieuwe functie een meldingslaag toe om ouders op de hoogte te stellen van herhaalde pogingen. Het bedrijf wil ouders helpen ondersteuning te bieden wanneer zij zich bewust worden van deze zoekopdrachten.
Zoekopdrachten die tot de triggers leiden, zijn onder meer zinsneden die zelfmoord of zelfbeschadiging aanmoedigen, termen die aangeven dat een tiener mogelijk gevaar loopt, en woorden als ‘zelfmoord’ of ‘zelfbeschadiging’. Ouders ontvangen waarschuwingen via e-mail, sms of WhatsApp, op basis van de verstrekte contactgegevens. Ze ontvangen ook een in-app-melding met hulpmiddelen waarmee ze gesprekken met hun tiener kunnen aangaan. Instagram verklaarde dat het zoekgedrag analyseerde en de Suicide and Self-Harm Advisory Group raadpleegde om de drempel vast te stellen. De drempel vereist een paar zoekopdrachten binnen een kort tijdsbestek, en het bedrijf koos ervoor om voorzichtig te zijn. Instagram merkte op dat het erop gericht is onnodige meldingen te vermijden om de effectiviteit ervan te behouden.
De aankondiging valt samen met lopende rechtszaken tegen Meta en andere technologiebedrijven met betrekking tot schade aan tieners. Tijdens een getuigenis voor de Amerikaanse rechtbank voor het noordelijke district van Californië deze week, werd Instagram-hoofd Adam Mosseri geconfronteerd met vragen over de vertraagde uitrol van veiligheidsvoorzieningen. Aanklagers in een lopende zaak over verslaving aan sociale media hebben specifiek de vertraging van een naaktfilter voor privéberichten aan tieners in twijfel getrokken. Mosseri getuigde als onderdeel van deze rechtszaak.
In een afzonderlijke rechtszaak voor het Los Angeles County Superior Court werd intern meta-onderzoek onthuld. Uit het onderzoek bleek dat toezicht en controle door ouders weinig invloed hadden op het dwangmatige gebruik van sociale media door kinderen. Uit hetzelfde onderzoek bleek dat kinderen die te maken kregen met stressvolle levensgebeurtenissen meer kans hadden om te worstelen met het reguleren van hun gebruik van sociale media. De timing van de nieuwe waarschuwingen volgt deze juridische ontwikkelingen en interne bevindingen.
De waarschuwingen worden volgende week uitgerold in de VS, het VK, Australië en Canada. Instagram is van plan de functie later dit jaar uit te breiden naar andere regio’s. Het bedrijf is ook van plan om uiteindelijk soortgelijke meldingen te lanceren wanneer tieners zelfmoord of zelfbeschadiging proberen te bespreken met de AI van de app.
