Advertentie
Een Google Drive-gebruiker, Kevin Bankston, kreeg opeens zomaar een opsomming van zijn belastingzaken van Gemini zonder dat hij daar expliciet toestemming voor had gegeven. Kevin, die toevallig ook senior advisor is op het gebied van AI-governance, was hier uiteraard niet blij mee. Hoe dit zomaar is gebeurd, weet zowel Google Support als hun Gemini-team ook niet.
X (Twitter) Privacymelding
Op deze positie willen we je een Twitter-feed tonen. We vinden het belangrijk om je gegevens te beschermen. X wil voor het afspelen van een feed cookies op je computer plaatsen, waarmee je eventueel gevolgd kan worden. Wanneer je de feed toch wil bekijken, kun je op de feed klikken. De feed wordt daarna geladen en getoond.Toon tweets vanaf nu direct
Kevin is zelf op onderzoek gegaan en heeft zijn bevindingen gedeeld in een lange Twitter-thread op X.com. In eerste instantie vermoedde hij dat het aan Google Docs lag, maar dat bleek toch niet helemaal te kloppen. Zou het dan komen door Google Drive en/of de integratie van verschillende diensten? Je zou namelijk zeggen dat er heel duidelijke instellingen voor zijn, wat Gemini eventueel mag inzien van je privé-informatie, maar die zijn er niet. Dus is het niet duidelijk of het probleem aan Gemini zelf lag, of aan Google’s eigen servers die niet naar behoren werkten.
Uiteindelijk heeft Kevin een goede theorie kunnen vormen over waar het probleem nou zat. Het rare was dat de instelling die mogelijk maakte voor Gemini om samenvattingen te maken van zijn Gmail, Drive en Docs, uit stond. Het probleem leek heel specifiek voor te komen in Google Drive, met alleen PDF-bestanden. Hij had blijkbaar ergens de Gemini-knop geactiveerd op een PDF-bestand, waardoor elk volgend PDF-bestand ook automatisch werd ingelezen. Ook schijnt hij ergens Google Workspace Labs te hebben aangezet in 2023, wat ervoor kan zorgen dat de Gemini AI-instellingen werden genegeerd. Zijn vermoeden was dan ook dat het euvel hier vandaan kwam.
Hoe dan ook, en waar het precies aan gelegen heeft, is niet zozeer belangrijk. Google Gemini had gewoon eerst toestemming moeten vragen voordat het AI door je privébestanden gaat snuffelen, al is het gewoon een bètaprogramma. Dat heeft het programma niet gedaan en dat is een grote fout aan de kant van Google. Zeker als je een betalende klant bent van Google-diensten. Uiteraard is een foutje snel gemaakt, maar steeds meer bedrijven die op een of andere manier AI-diensten willen integreren in hun platforms, moeten vooraf heel duidelijk zijn in wat de software kan, en of dat lokaal of in de cloud gebeurt. Dan blijft die keuze bij jou als gebruiker en niet andersom.