Europese Commissie richt pijlen op illegale AI-content met richtlijnen

De Europese Commissie heeft donderdag concept-richtlijnen gepubliceerd voor zogenoemde trusted flaggers onder de Digital Services Act (DSA). Deze gespecialiseerde organisaties helpen online platforms bij het sneller identificeren van illegale content. De maatregel kan ook grote gevolgen hebben voor AI-platforms die steeds vaker worden geconfronteerd met door AI gegenereerde fraude, auteursrechtenschendingen en andere illegale inhoud.

Volgens de Commissie moeten online platforms meldingen van trusted flaggers met prioriteit behandelen. Het gaat daarbij onder meer om kindermisbruikmateriaal, online fraude, intellectuele eigendomsrechten en andere vormen van verboden content. Platforms blijven zelf verantwoordelijk voor de uiteindelijke beoordeling of de gemelde inhoud daadwerkelijk illegaal is.

De nieuwe richtlijnen verschijnen op een moment waarop generatieve AI een steeds grotere rol speelt bij het creëren en verspreiden van online content. AI-modellen kunnen binnen enkele seconden grote hoeveelheden tekst, afbeeldingen, video's en audiobestanden produceren. Dat biedt kansen voor innovatie, maar vergroot tegelijkertijd de uitdaging om illegale content tijdig op te sporen.

Voor aanbieders van AI-chatbots, AI-zoekmachines en generatieve beeld- en videomodellen kan het trusted flagger-systeem daardoor een belangrijke rol gaan spelen. Meldingen van erkende organisaties kunnen leiden tot snellere beoordelingen van content die via AI-systemen wordt verspreid of ondersteund.

De Europese Commissie benadrukt dat trusted flaggers geen bevoegdheid krijgen om content zelfstandig te verwijderen. Hun meldingen krijgen wel voorrang binnen de moderatieprocessen van online platforms.

De ontwikkeling laat zien hoe verschillende Europese digitale wetten steeds nauwer met elkaar verbonden raken. Waar de AI Act zich richt op de ontwikkeling, inzet en risico's van AI-systemen, richt de DSA zich op de verspreiding van content via digitale diensten.

In de praktijk vervagen die grenzen steeds vaker. AI-systemen genereren content, terwijl platforms verantwoordelijk zijn voor de distributie ervan. Daardoor krijgen bedrijven die AI ontwikkelen niet alleen te maken met eisen rond modelveiligheid en transparantie, maar ook met verplichtingen rond contentmoderatie en risicobeheer.

Voor grote technologiebedrijven betekent dit dat de focus verschuift van uitsluitend technische prestaties naar bredere verantwoordelijkheden rondom veiligheid, toezicht en naleving van Europese regelgeving.

De concept-richtlijnen bevatten daarnaast aanvullende eisen voor organisaties die de status van trusted flagger krijgen. Zij moeten onafhankelijk opereren, objectief handelen en jaarlijks transparant rapporteren over hun activiteiten.

Ook introduceren de richtlijnen mechanismen om misbruik van het systeem tegen te gaan. Toezichthouders kunnen de status van trusted flagger tijdelijk opschorten of volledig intrekken wanneer organisaties niet langer voldoen aan de gestelde voorwaarden.

Volgens de Europese Commissie zijn inmiddels meer dan zeventig trusted flaggers aangewezen binnen de Europese Unie. Deze organisaties beschikken over uiteenlopende expertisegebieden, variërend van financiële fraude en online intimidatie tot de bestrijding van kindermisbruikmateriaal.

Voor AI-bedrijven vormt de ontwikkeling opnieuw een signaal dat Europa de controle op digitale content verder intensiveert. Naarmate generatieve AI een grotere rol speelt binnen online ecosystemen, neemt ook de druk toe om illegale content sneller te detecteren en te verwijderen.

De combinatie van de DSA en de AI Act creëert daarmee een regelgevend kader waarin zowel de productie als de verspreiding van AI-content steeds nadrukkelijker onder toezicht komt te staan. Voor aanbieders van AI-diensten wordt effectieve contentmoderatie daardoor steeds meer een strategische vereiste in plaats van een aanvullende functie.

Belanghebbenden kunnen tot 26 juni 2026 reageren op de concept-richtlijnen. De Europese Commissie verwacht de definitieve versie in de tweede helft van 2026 vast te stellen.