Het verbod op ChatGPT Italië heeft de aandacht gevestigd op de regels voor gegevensprivacy van de software, aangezien de Italiaanse privacytoezichthouder vrijdag vanwege vermeende privacyschendingen een verbod op ChatGPT heeft opgelegd.
De nationale gegevensbeschermingsautoriteiten hebben aangekondigd dat ze na het verbod op ChatGPT Italië onmiddellijk zullen stoppen met het verwerken van gegevens van Italiaanse gebruikers voor OpenAI, het Amerikaanse bedrijf dat het bekende platform voor kunstmatige intelligentie heeft gemaakt, en een onderzoek zullen starten. Het besluit is pas van kracht totdat het bedrijf voldoet aan de Algemene Verordening Gegevensbescherming, een historische EU-privacyverordening (AVG). De consumentenbelangenorganisatie BEUC verzocht op 30 maart ook dat ChatGPT zou worden onderzocht door nationale en EU-autoriteiten, evenals waakhonden voor gegevensbescherming.
Het BEUC is bezorgd dat, hoewel de EU momenteel de eerste AI-wet ter wereld aan het opstellen is, het jaren zou duren voordat deze van kracht zou kunnen worden, waardoor consumenten gevaar lopen door een technologie die niet naar behoren is gereguleerd.
Waarom vond het verbod op ChatGPT Italië precies plaats?
Naast het blokkeren van de chatbot van OpenAI, verklaarde de Italiaanse waakhond te zullen onderzoeken of deze voldoet aan de Algemene Verordening Gegevensbescherming.
Elke keer dat de persoonlijke gegevens van EU-gebruikers worden verwerkt, is de AVG van kracht, aangezien de AVG regelt hoe individuen persoonlijke gegevens kunnen gebruiken, verwerken en bewaren. En het is duidelijk dat het enorme taalmodel van OpenAI dit soort gegevens heeft verwerkt, omdat het bijvoorbeeld op verzoek biografieën kan genereren van specifieke mensen in het gebied.
De trainingsgegevens die zijn gebruikt voor de meest recente versie van de technologie, GPT-4, zijn niet bekendgemaakt door OpenAI. Er is echter onthuld dat eerdere modellen hun trainingsgegevens van internet hadden gehaald, inclusief Reddit-forums. Dus als je al een tijdje online bent, is de kans groot dat de bot je naam herkent.
Het datalek betrof gebruikerscommunicatie en betalingsgegevens, meldde de waakhond op 20 maart.
Aan beide zijden van de Atlantische Oceaan gaan er stemmen op voor de opschorting van aanvullende ChatGPT-releases en een onderzoek naar OpenAI, het bedrijf dat het heeft gemaakt, vanwege een aantal bedreigingen voor beveiliging, privacy en desinformatie. Deze week eisten Elon Musk en tal van AI-professionals een stopzetting van ChatGPT-verbeteringen.
De autoriteit beweerde dat er door het bedrijf geen wettelijke rechtvaardiging is voor “de massale verzameling en opslag van persoonlijke gegevens… om de algoritmen te ‘trainen'” van ChatGPT. Ook verwerkt de organisatie gegevens onjuist, zoals deze zijn toegevoegd.
De Italiaanse toezichthouder die het ChatGPT Italië-verbod oplegde, beweerde dat ChatGPT vorige week ook een datalek had meegemaakt, waarbij gebruikersgesprekken en betalingsgegevens werden onthuld, wat we hebben uitgelegd: OpenAI-lek onthult geheimen tussen u en ChatGPT. De verklaring ging verder, met de bewering dat OpenAI de leeftijd van de gebruiker niet verifieert en “minderjarigen blootstelt aan absoluut ongeschikte antwoorden in vergelijking met hun mate van ontwikkeling en zelfbewustzijn”.
Dit is niet het eerste verbod op chatbots in Italië
De Italiaanse datawaakhond heeft al soortgelijke maatregelen genomen tegen een AI-chatbot. In februari verbood de commissie eerder de chatbot-applicatie Replika.ai. Replika staat bekend om de hechte band die sommige gebruikers hebben met zijn chatbot, en veel klanten spraken hun teleurstelling uit toen het bedrijf onlangs de optie voor erotische rollenspellen verwijderde.
Gebruikers kunnen nog steeds ChatGPT gebruiken via VPN dat verkeer via Milaan, Italië, leidt vanaf het moment van schrijven. Toch kan het enige tijd duren voordat OpenAI zich houdt aan de richtlijn om te stoppen met het verwerken van de gegevens van Italiaanse gebruikers.
Hoewel OpenAI geen kantoor heeft in de EU, heeft zijn vertegenwoordiger daar 20 dagen de tijd om uit te leggen hoe hij van plan is ChatGPT in overeenstemming te brengen met de EU-privacywetgeving, anders riskeert hij een boete van maximaal 4% van zijn wereldwijde inkomsten.
Source: ChatGPT Italië-verbod vestigt de aandacht op gegevensprivacy