OpenAI, de kunstmatige intelligentiekrachtpatser die bekendstaat om zijn baanbrekende innovaties, is opnieuw in het nieuws gekomen, maar niet om redenen die het liever had gehad. Deze keer wordt het bedrijf onder de loep genomen vanwege een paar significante beveiligingsinbreuken die zorgen hebben gewekt over zijn gegevensbeschermingspraktijken en algehele cybersecurity-framework.
ChatGPT voor Mac is niet zo veilig als u dacht
Het eerste incident draait om de ChatGPT-app van OpenAI voor Mac-gebruikers, waarvan onlangs werd ontdekt dat deze gebruikersgesprekken in een niet-versleuteld formaat rechtstreeks op lokale apparaten opsloeg, aldus De rand‘s rapport.
Dit betekende dat gevoelige informatie die tijdens chats werd gedeeld, mogelijk werd blootgesteld en toegankelijk was voor andere applicaties of schadelijke software.
Swift-ontwikkelaar Pedro José Pereira Oud bracht deze kwetsbaarheid aan het licht, waardoor OpenAI snel een update uitbracht die encryptie implementeerde voor opgeslagen conversaties. Het incident heeft echter het belang van robuuste beveiligingsmaatregelen onderstreept, zelfs in ogenschijnlijk onschuldige toepassingen.
De OpenAI ChatGPT-app op macOS is niet sandboxed en slaat alle gesprekken op in **platte tekst** op een niet-beschermde locatie:
~/Bibliotheek/Application Support/com.openai.chat/conversations-{uuid}/
In principe kan elke andere app/malware al uw ChatGPT-gesprekken lezen: foto.twitter.com/IqtNUOSql7
— Pedro José Pereira Vieito (@pvieito) 2 juli 2024
Het incident van vorig jaar blijft de techgigant achtervolgen
Naast de beveiligingsproblemen is er ook een aparte inbreuk van afgelopen voorjaar die OpenAI parten speelt. Een hacker is erin geslaagd de interne berichtensystemen van het bedrijf te infiltreren en heeft toegang gekregen tot vertrouwelijke informatie over de activiteiten en AI-technologieën.
Hoewel de leidinggevenden van OpenAI er destijds voor kozen om het lek niet openbaar te maken, omdat ze ervan uitgingen dat er geen gegevens van klanten of partners in gevaar waren, heeft het incident intern voor onenigheid gezorgd.
Sommige werknemers, waaronder voormalig technisch programmamanager van OpenAI, Leopold Aschenbrenner, hebben hun bezorgdheid geuit dat de veiligheidsmaatregelen van het bedrijf onvoldoende bescherming bieden tegen potentiële bedreigingen, met name van buitenlandse tegenstanders die waardevolle AI-technologie willen stelen.
Veiligheid? Nee, dank u wel!
Deze twee incidenten hebben een breder debat over OpenAI’s toewijding aan veiligheid en transparantie naar voren gebracht. Hoewel het bedrijf stappen heeft ondernomen om de onmiddellijke kwetsbaarheden aan te pakken, blijven er vragen bestaan over de interne processen en de mate waarin het prioriteit geeft aan veiligheid bij de ontwikkeling en implementatie van AI-applicaties. De potentiële geopolitieke risico’s die gepaard gaan met geavanceerde AI-technologieën compliceren de kwestie nog verder, aangezien de angst voor diefstal van intellectueel eigendom door buitenlandse landen groot is.
OpenAI heeft op twee manieren op deze uitdagingen gereageerd.
In de eerste plaats heeft het een Veiligheids- en beveiligingscommissie om de risico’s die samenhangen met toekomstige technologieën te beoordelen en te beperken. Deze commissie kan bogen op prominente figuren zoals Paul Nakasone, een voormalig generaal van het leger en cybersecurity-expert. Ten tweede heeft het bedrijf zijn toewijding aan het investeren in de bescherming van zijn technologieën herbevestigd, waarbij benadrukt werd dat deze inspanningen voorafgingen aan de recente incidenten en voortdurend evolueren.
De reputatie van OpenAI en het vertrouwen van haar gebruikers hangen af van het vermogen om van deze ervaringen te leren en ervoor te zorgen dat veiligheid een topprioriteit blijft, aangezien het ons blijft verrassen met innovatie na innovatie in de ontwikkeling van AI-technologieën.
Credits voor de hoofdafbeelding: Jonathan Kemper/Niet meer spatten
Source: De reputatie van OpenAI en het vertrouwen van gebruikers zijn geschokt door beveiligingsincidenten
