Twitch, het populaire live streamingplatform, introduceerde onlangs een AI-aangedreven functie die is ontworpen om schadelijke taal in chatrooms te verminderen. Dit nieuwe experiment, aangekondigd door het supportteam van Twitch op X (voorheen Twitter), is erop gericht om online interacties positiever te maken, maar het is nog maar de vraag hoe succesvol het zal zijn.
Het platform rolt een waarschuwing uit die is gebaseerd op machine learning en die gebruikers aanmoedigt om twee keer na te denken voordat ze berichten sturen die als beledigend of respectloos kunnen worden beschouwd. Er waren moderatorbots voor, maar die waren niet toereikend, dus Twitch wil nu een geïntegreerd systeem introduceren.
AI neemt het op tegen vloeken in Twitch-chat, maar bots lopen nog steeds vrij rond
Het basisidee achter deze nieuwe functie is om gebruikers die op het punt staan een bericht te versturen, een moment van pauze te geven. potentieel schadelijke berichtenWanneer de AI taal detecteert die als aanstootgevend kan worden beschouwd, verschijnt er een prompt met de vraag: “Weet u zeker dat u dit wilt verzenden?“De bedoeling van de prompt is om schadelijke communicatie te voorkomen door gebruikers de kans te geven hun woorden te heroverwegen voordat ze op verzenden klikken.
Maar het echte probleem het gaat hier niet zozeer om mensen die slechte woorden zeggen, maar om de vraag of bot-accounts spammen de omroepen chats of winnen een oneerlijk publiek. Met andere woorden, een botaccount zal deze waarschuwing al doorgeven en dat woord opnieuw eten, en het account is al geopend om verboden te wordenHet is interessant om maatregelen te nemen tegen de situaties die door het probleem zijn veroorzaakt, in plaats van het bronprobleem op te lossen.
Mensen, we hebben het voorbeeldbericht gebruikt omdat we, niet verrassend, geen vreselijke taal wilden tweeten.
Stop met dom te doen.
— Twitch-ondersteuning (@TwitchSupport) 12 augustus 2024
Het concept is simpel, maar het is nog maar de vraag hoe effectief het zal zijn. Twitch’s doel is om intimidatie te verminderen, een veelvoorkomend probleem in veel online communities. De vraag rijst echter: zullen gebruikers die respectloos willen zijn de waarschuwing negeren en doorgaan met hun berichten? Of hoe goed de waarschuwing zal werken voor bot-accounts. Twitch’s experiment zal helpen bepalen of deze AI-gestuurde aanpak negatief gedrag daadwerkelijk kan beteugelen, of dat het gewoon een ander filter is waar gebruikers zonder veel nadenken doorheen springen.
De uitdagingen en toekomst van AI-moderatie
Een van de meest intrigerende aspecten van dit experiment is hoe AI taal zal interpreteren. AI-systemen, met name die gebaseerd op machine learning, vertrouwen op patronen en data om beslissingen te nemen. Het succes van dit experiment hangt af van het vermogen van de AI om beledigende taal nauwkeurig te detecteren en te markeren zonder onbedoeld onschadelijke opmerkingen te censureren. Deze balans is cruciaal, omdat een overgevoelige moderatie de vrije stroom van conversatie kan belemmeren, terwijl een te milde aanpak er mogelijk niet in slaagt het gedrag dat het juist wil elimineren, in te dammen.
Of zal de AI in staat zijn om dingen te detecteren die illegaal zijn, zoals enkele weddenschapssiteszonder vloeken of slechte berichten, bijvoorbeeld?
Het ondersteuningsteam van Twitch heeft laten doorschemeren dat er in de komende weken meer updates over deze functie zullen worden gedeeld. Naarmate het experiment vordert, zullen zowel Twitch als zijn gebruikers nauwlettend in de gaten houden of dit AI-gestuurde initiatief een gastvrijere omgeving kan creëren. Of dit een stap is naar schonere chatrooms of een tijdelijke maatregel, valt nog te bezien. In de tussentijd hoop ik dat ze de botaccounts opschonen.
Dit experiment is een herinnering dat alles wat op Twitch wordt gedeeld, wordt opgenomen en gemonitord, zelfs privéberichten. Dus het gaat kijken naar goede woorden en slechte. Zal deze kunstmatige intelligentie worden ontwikkeld met behulp van deze data? Of, hoe moeten we zeggen, wordt er toestemming verkregen van de gebruikers?
Bron van de hoofdafbeelding: RDNE Stock-project / Pexels
