Slack, het veelgebruikte platform voor communicatie op de werkplek, maakt gebruik van gebruikersgegevens om de AI-mogelijkheden te verbeteren.
De informatie waartoe AI toegang heeft, omvat het gebruik van berichten, bestanden en andere door gebruikers gegenereerde inhoud om functies zoals kanaalaanbevelingen, zoekfunctionaliteit, automatisch aanvullen en emoji-suggesties te verbeteren.
Hoewel deze verbeteringen tot doel hebben de gebruikerservaring te stroomlijnen, heeft het gebruik van gebruikersgegevens geleid tot zorgen over privacy en toestemming.
Bij het decoderen van het AI-algoritme van Slack zijn gebruikersgegevens het geheime ingrediënt
De kern van de AI-training van Slack ligt in het gebruik van gebruikersinteracties binnen het platform. Door patronen in berichten, bestanden en andere vormen van communicatie te analyseren, verkrijgen de AI-modellen van Slack inzichten die vervolgens worden toegepast om verschillende functies te verbeteren. Hoewel deze aanpak gunstig lijkt voor het verbeteren van de gebruikerservaring, roept het vragen op over de mate waarin gebruikersgegevens worden benaderd en hoe deze worden gebruikt. Dit zijn natuurlijk de gedachten van het bedrijf. Gebruikers zijn zeer bezorgd over deze situatie.
Toegang tot deze inhoud, die privéberichten, bedrijfsinformatie of vertrouwelijke bestanden kan omvatten, met toestemming van de kunstmatige intelligentie van het bedrijf, begint ethische problemen op te roepen.
Standaardopname leidt tot discussie
Een van de meest controversiële aspecten van de AI-training van Slack is de standaardopname van alle gebruikers. Dit betekent dat tenzij een gebruiker of organisatie zich specifiek afmeldt, hun gegevens automatisch worden opgenomen in het trainingsproces. Deze praktijk heeft kritiek gekregen van degenen die vinden dat gebruikers geïnformeerd moeten worden en de keuze moeten krijgen om deel te nemen aan de gegevensverzameling voordat deze begint.
Controverse onthuld: Slack’s erkenning en reactie
De kwestie kreeg aandacht toen Corey Quinn, een leidinggevende bij DuckBill Group, publiekelijk kritiek uitte op het AI-beleid van Slack. Als reactie hierop bevestigde Slack dat gebruikersinhoud wordt gebruikt om enkele van zijn AI-tools te trainen, terwijl het verduidelijkt dat klantgegevens niet worden gebruikt om betaalde AI-tools te trainen. Het bedrijf verklaarde ook dat organisaties of werkruimtebeheerders kunnen verzoeken om de verwijdering van hun berichten en inhoud uit de trainingsdataset, wat vragen oproept over waarom een dergelijk verzoek nodig is op een platform waarvoor gebruikers betalen.
De zorgen van gebruikers verspreidden zich op sociale media
De controverse escaleerde verder sociale mediaplatform X, waar veel gebruikers betoogden dat Slack de AI-trainingsfunctie optioneel had moeten maken in plaats van de standaardinstelling. Er werd bezorgdheid geuit over het mogelijke misbruik van privéberichten, bedrijfsinformatie en vertrouwelijke bestanden, evenals over het ontbreken van een eenvoudig opt-outmechanisme voor individuele gebruikers.
In antwoord op vragen herhaalde een vertegenwoordiger van Slack dat de AI-modellen van het bedrijf niet zijn ontworpen om klantgegevens te leren, te onthouden of te reproduceren. Ze benadrukten dat klanten hun data kunnen uitsluiten van de training van deze (niet-generatieve) AI-modellen. Deze verduidelijking heeft echter weinig bijgedragen aan het wegnemen van de zorgen van gebruikers die vinden dat de initiële communicatie over datagebruik onduidelijk en mogelijk misleidend was.
Een verwarrend verhaal: niet-overeenkomende uitspraken over AI-beleid
De verklaring van Slack op zijn kunstmatige intelligentiepagina: “Uw gegevens zijn uw gegevens. We gebruiken het niet om Slack AI te trainen”, heeft de verwarring vergroot. Hoewel het bedrijf duidelijk maakt dat betaalde productieve AI-tools niet worden getraind met behulp van Slack-gebruikersgegevens, is de erkenning dat andere AI-modellen worden getraind met behulp van dergelijke gegevens in tegenspraak met het idee dat gebruikersgegevens uitsluitend in handen van de gebruikers blijven. Advocaat Elizabeth Wharton noemde de beslissing van Slack een “privacypuinhoop” en bekritiseerde het gebrek aan een gemakkelijke uitweg voor individuele gebruikers.
De praktijk van Slack om gebruikersgegevens te gebruiken voor AI-training, hoewel gericht op het verbeteren van de functies van het platform, heeft tot aanzienlijke controverses geleid. De standaardopname van gebruikers, het gebrek aan duidelijke communicatie en mogelijke implicaties voor de privacy hebben debatten aangewakkerd over toestemming, transparantie en ethisch gegevensgebruik in het digitale tijdperk. Nu AI een steeds prominentere rol blijft spelen in verschillende aspecten van ons leven, zal het gesprek rond gebruikersgegevens en het gebruik ervan waarschijnlijk een aandachtspunt blijven voor zowel consumenten als bedrijven.
Uitgelichte afbeeldingscredits: Stephen Phillips – Hostreviews.co.uk / Unsplash
Source: De AI van Slack wordt aangedreven door gebruikersgegevens