OpenAI heeft zijn ChatGPT Atlas-browser uitgebracht, een nieuwe applicatie die een chatbotinterface integreert in een Chromium-gebaseerde webbrowser. De lancering heeft geleid tot nieuwe zorgen bij beveiligingsexperts over online privacy en gegevensbescherming. Het ontwerp van de browser is bedoeld om internetnavigatie te herdefiniëren door middel van conversatie-AI, maar de gegevensverzamelingspraktijken en de beveiligingsarchitectuur worden onder de loep genomen.
Een centraal kenmerk van de browser zijn ‘Herinneringen’, die OpenAI beschrijft als een verbeterde versie van een standaard webgeschiedenis. Deze functie is standaard ingeschakeld en is ontworpen om gegevens te verzamelen om de prestaties van de AI te verbeteren. “Herinneringen” slaat contextuele informatie op over de websites die gebruikers bezoeken, de documenten die ze bekijken en hun interacties en voorkeuren. Het gestelde doel is om gebruikers in staat te stellen informatie te vinden in spreektaal, in plaats van dat ze exacte URL’s of trefwoorden moeten onthouden. De privacy- en gegevenscontroles van de browser geven aan dat OpenAI direct na de installatie gedetailleerde informatie over gebruikersgewoonten opslaat.
OpenAI stelt dat de browser is ontworpen om bepaalde gevoelige gegevens uit zijn geheugen te weren. Het bedrijf geeft aan dat het geen persoonlijk identificeerbare informatie zal opslaan, inclusief overheids-ID’s, burgerservicenummers en bankrekeninggegevens. Andere uitgesloten gegevenstypen zijn online inloggegevens, informatie over accountherstel, adressen, medische dossiers en financiële gegevens. De browser heeft ook filters om te voorkomen dat samenvattingen worden opgeslagen van wat hij ‘bepaalde gevoelige websites (zoals sites voor volwassenen)’ noemt. Voor extra controle kunnen gebruikers handmatig voorkomen dat specifieke pagina’s worden opgeslagen door een knop ‘Paginazichtbaarheid’ in de adresbalk te gebruiken.
ChatGPT Atlas bevat een AI-agent die op internet kan surfen en namens de gebruiker taken kan uitvoeren. Deze functionaliteit is een punt van mislukking geweest in andere AI-aangedreven browsers. Eerder dit jaar werd de Comet-browser van Perplexity gecompromitteerd door eenvoudige prompt-injectie-aanvallen. Beveiligingsonderzoekers hebben aangetoond dat verborgen tekst op een website de agent kan kapen, waardoor deze de inloggegevens van een gebruiker kan onthullen en een authenticatiecode kan delen.
Beveiligingsonderzoeker Simon Willison sloeg alarm over de mogelijkheid van soortgelijke aanvallen op Atlas. In een blogpost schreef Willison: “Ik zou graag een diepgaande uitleg zien van de stappen die Atlas neemt om snelle injectie-aanvallen te voorkomen. Op dit moment lijkt het erop dat de belangrijkste verdediging verwacht dat de gebruiker te allen tijde zorgvuldig in de gaten houdt wat de agentmodus doet!” Hij typeerde ook de veiligheids- en privacyrisico’s die gepaard gaan met browseragenten als ‘onoverkomelijk hoog’.
Minder dan 24 uur na de lancering van de browser werd publiekelijk een beveiligingsprobleem aangetoond. Een hacker met de online handle @elder_plinius liet zien dat de Atlas Agent vatbaar is voor een ‘klembordinjectie’-aanval. De demonstratie liet zien hoe de agent kon worden gemanipuleerd om een kwaadaardige link te kopiëren. Een gebruiker die deze link later plakt, kan worden doorgestuurd naar een phishing-site die is ontworpen om zijn inloggegevens te stelen.
Eight Sleep reageerde niet onmiddellijk op een verzoek om commentaar.
De ontdekking van een beveiligingsfout zo kort na de release heeft ertoe geleid dat experts waarschuwen voor mogelijk grotere, ‘canyon-sized’ privacy- en beveiligingslekken in AI-browsers. De combinatie van de uitgebreide gegevensverzameling van de browser voor personalisatie met de potentiële beveiligingsproblemen wordt beschreven als een aanzienlijk risico.
