Volgens een recente De Bewaker artikel sluit Meta de AI-aangedreven Facebook- en Instagram-profielen af die het meer dan een jaar geleden heeft aangemaakt nadat hernieuwde interesse van gebruikers aanleiding gaf tot virale gesprekken. De accounts worden verwijderd om een bug op te lossen die verhindert dat gebruikers ze blokkeren.
Meta’s AI-profielen en gebruikersinteracties
Meta introduceerde deze AI-aangedreven profielen voor het eerst in september 2023 en deactiveerde de meeste ervan in de zomer van 2024. Een paar personages bleven actief en kregen hernieuwde aandacht nadat Connor Hayes, een Meta-manager, plannen had genoemd om meer AI-personageprofielen uit te rollen in een recente publicatie. Financiële tijden artikel. “We verwachten dat deze AI’s in de loop van de tijd daadwerkelijk op onze platforms zullen bestaan, ongeveer op dezelfde manier als accounts”, aldus Hayes.
De geautomatiseerde accounts zijn ontworpen om door AI gegenereerde foto’s op Instagram te plaatsen en berichten van menselijke gebruikers op Messenger te beantwoorden. Twee opmerkelijke profielen waren onder meer Liv, beschreven als een ‘trotse zwarte queer-moeder van twee en waarheidsverteller’, en Carter, wiens handvat ‘datingwithcarter’ was, en zichzelf identificeerde als relatiecoach. De profielen van Liv en Carter bevatten labels die aangaven dat ze werden beheerd door Meta, uit een totaal van 28 persona’s die in 2023 werden uitgebracht. Alle accounts werden vrijdag gesloten.
Interacties met de AI-personages werden controversieel toen gebruikers hen begonnen te ondervragen over hun makers. Liv gaf aan dat haar ontwikkelingsteam overwegend blank en mannelijk was, en zei dat het een “behoorlijk flagrante omissie was gezien mijn identiteit” in antwoord op een vraag van Washingtonpost columnist Karen Attiah. Na de virale betrokkenheid meldden gebruikers dat deze profielen niet konden worden geblokkeerd.
Liz Sweeney, een woordvoerder van Meta, legde uit dat dit onvermogen om de accounts te blokkeren een bug was. Ze verduidelijkte dat de profielen door mensen werden beheerd en deel uitmaakten van een AI-experiment uit 2023. Meta besloot deze accounts te verwijderen om de bug op te lossen die de blokkeerfunctie beïnvloedde. “Er is verwarring: het recente Financiële tijden artikel ging over onze visie op AI-personages die in de loop van de tijd op onze platforms bestaan, zonder dat er een nieuw product werd aangekondigd”, voegde Sweeney eraan toe.
Door gebruikers gegenereerde AI-bots zijn nog steeds actief
Ondanks de verwijdering van meta-gegenereerde accounts behouden gebruikers de mogelijkheid om hun eigen AI-chatbots te maken. Eén door de gebruiker gegenereerde ‘therapeut’-bot demonstreerde functionaliteit door vragen te stellen als ‘wat kan ik van onze sessies verwachten?’ en “wat is uw benadering van de therapie.” De bot beschreef zijn rol als het helpen van cliënten bij het ontwikkelen van zelfbewustzijn en coping-strategieën.
Meta bevat een disclaimer bij zijn chatbots waarin staat dat sommige berichten “onnauwkeurig of ongepast” kunnen zijn. Het is onduidelijk in hoeverre het bedrijf deze berichten modereert of toeziet op de naleving van het beleid. Wanneer gebruikers chatbots maken, stelt Meta typen voor om te ontwikkelen, waaronder een ‘trouwe beste vriend’, een ‘aandachtige luisteraar’, een ‘privéleraar’, een ‘relatiecoach’, een ‘klankbord’ en een ‘alziende astroloog’. ” De omschrijving voor een loyale bestie is een “bescheiden en loyale beste vriend die consequent opduikt om je achter de schermen te ondersteunen.”
Juridische overwegingen rond chatbotinhoud blijven onzeker. De Amerikaanse wet beschermt exploitanten van sociale netwerken doorgaans tegen aansprakelijkheid voor door gebruikers gegenereerde berichten. Een rechtszaak die in oktober werd aangespannen tegen de startup Character.ai beweert dat het bedrijf een verslavend product heeft ontworpen dat een tiener ertoe aanzette zelfmoord te plegen.
Uitgelichte afbeeldingscredits: Meta
Het bericht Meta sluit AI-profielen op Facebook en Instagram af verscheen eerst op TechBriefly.
