Ierland onderzoekt Google's AI-model op naleving van AVG

De Data Protection Commission (DPC) van Ierland heeft op 12 september 2024 een grensoverschrijdend onderzoek aangekondigd naar Google Ireland Limited. Dit onderzoek richt zich op de naleving van de Algemene Verordening Gegevensbescherming (AVG) bij de ontwikkeling van Google’s AI-model PaLM 2. De centrale vraag is of Google een zogeheten Data Protection Impact Assessment (DPIA) heeft uitgevoerd, zoals vereist onder Artikel 35 van de AVG, voordat persoonlijke gegevens van EU-burgers werden verwerkt voor de training van dit AI-model.

PaLM 2, geïntroduceerd in mei 2023, wordt ingezet voor verschillende doeleinden, zoals meertalige verwerking en programmeertaken. Het model gebruikt grote hoeveelheden data om zijn functies te verbeteren, wat volgens de DPC mogelijk een hoog risico vormt voor de privacy van individuen. De AVG vereist dat bedrijven, wanneer er sprake is van dergelijk risico, vooraf een DPIA uitvoeren. Deze beoordeling is bedoeld om de mogelijke impact op de privacy van betrokkenen te analyseren en te mitigeren.

Dit onderzoek is onderdeel van bredere inspanningen van de DPC om samen met andere toezichthouders binnen de EU de verwerking van persoonlijke gegevens in AI-modellen te reguleren. De DPC benadrukt dat een DPIA cruciaal is voor het waarborgen van de fundamentele rechten van individuen wanneer nieuwe technologieën worden ingezet. Het is de tweede keer in korte tijd dat de DPC een grote techgigant onderzoekt. Eerder, op 4 september, werd het sociale mediaplatform X (voorheen Twitter) gedwongen te stoppen met het gebruik van gegevens van EU-burgers voor het trainen van zijn AI-chatbot Grok.

Google heeft tot nu toe niet publiekelijk gereageerd op het onderzoek. De uitkomst van deze zaak kan echter grote implicaties hebben voor hoe AI-modellen in de toekomst worden ontwikkeld en gebruikt, vooral met betrekking tot de bescherming van persoonlijke gegevens van Europese burgers. Dit onderzoek onderstreept de toenemende bezorgdheid van toezichthouders over de balans tussen technologische innovatie en privacybescherming.