Toezichthouder waarschuwt: AI-emotiesystemen zijn 'dubieus'

De Autoriteit Persoonsgegevens (AP) heeft na onderzoek naar zogenaamde AI-emotiesystemen een waarschuwing naar buiten gebracht, laat Nu.nl vandaag weten. Dit zijn AI-systemen die claimen emoties zoals blijdschap, stress of boosheid te herkennen. Deze systemen gebruiken camera’s, hartslagmetingen of stemanalyse om te proberen te bepalen hoe iemand zich voelt. Hoewel ze in verschillende domeinen worden toegepast, zoals marketing, klantenservice, sollicitaties, onderwijs, veiligheid en zorg, zijn de resultaten volgens de AP vaak onbetrouwbaar en bovendien een inbreuk op de privacy van mensen.

Er zijn twee belangrijke redenen voor de waarschuwing van de AP. Ten eerste verschillen emoties sterk per persoon en cultuur. Dat maakt een universele interpretatie erg lastig. Wat bijvoorbeeld voor de ene persoon stressvol is, kan een ander juist energie geven. Ten tweede kunnen factoren zoals een verhoogde hartslag door fysieke inspanning verkeerd geïnterpreteerd worden als stress.

Bedrijven zetten emotieherkenning onder meer in voor gepersonaliseerde reclame of bij dienstverlening via chat en video. In sommige gevallen worden ze stilletjes gebruikt om personeel te monitoren of om in het onderwijs reacties van studenten te volgen. Ook worden ze ingezet in gezondheidszorg en veiligheid, bijvoorbeeld om stress op te sporen bij beroepen met een hoge werkdruk.

Volgens de AP is het gebruik van deze systemen op de werkvloer en in het onderwijs in strijd met Europese regelgeving. Al sinds februari 2025 is dat verboden. Emoties zijn privé en raken iemands autonomie, en mogen daarom niet zomaar op basis van algoritmes vastgesteld worden.

De AP roept de politiek en organisaties op om het ethische debat over emotieherkenning intensiever te voeren. Moet samenleving AI-toepassingen voor emotie-monitoring toestaan? En zo ja, onder welke voorwaarden en in welke context? De toezichthouder vindt dat dit snel duidelijk moet zijn.