Incassobureaus gebruiken AI om mensen sneller te laten betalen

Incassobureaus gebruiken algoritmes en AI om dossiers aan te vullen, onder meer met informatie van sociale media. De Autoriteit Persoonsgegevens waarschuwt voor verkeerde beslissingen en ongelijke behandeling. De toezichthouder onderzocht het gebruik bij 29 bureaus.

De waarschuwing van de AP gaat over systemen die medewerkers helpen bepalen wie ze benaderen en hoe.

Bureaus laten systemen zoeken naar contact-, bank- en bedrijfsgegevens en activiteiten op sociale media. Andere toepassingen berekenen met onder meer betaalgeschiedenis, locatie en kredietscore de kans op een succesvolle inning. Medewerkers kunnen daarmee dossiers voorrang geven.

Dat zulke gegevens online te vinden zijn, maakt het verzamelen en gebruiken ervan niet automatisch toegestaan. De AVG-regels voor algoritmes en AI vereisen onder meer een geldige juridische grondslag, een duidelijk doel en gegevens die aantoonbaar nodig zijn. Ook moeten de gegevens kloppen.

Neem bijvoorbeeld een dossier waarin nog een oud adres staat. Als een systeem dat als actuele woonplaats gebruikt, klopt de input van de beoordeling niet. Controle moet daarom ook gaan over de gegevens vóór de berekening, niet alleen over de score erna.

De zorgen sluiten aan bij de eerdere waarschuwing van de AP over gebrekkig zicht op AI-systemen. De vraag is steeds welke informatie een organisatie gebruikt en of iemand de uitkomst kan controleren.

Niet iedere automatische handeling valt onder het verbod op geautomatiseerde besluitvorming. Het automatisch opstellen van een herinnering is iets anders dan een uitsluitend automatisch genomen besluit dat juridische of vergelijkbaar ingrijpende gevolgen heeft. Voor zulke besluiten geldt op grond van artikel 22 van de Algemene verordening gegevensbescherming in beginsel een verbod, met specifieke uitzonderingen en waarborgen.

Een medewerker toevoegen aan het proces is bovendien niet genoeg wanneer die alleen bevestigt wat het systeem voorschrijft. De AP benadrukt bij betekenisvolle menselijke tussenkomst dat de controle daadwerkelijk moet bijdragen aan een zorgvuldig besluit. Tijdsdruk en een onduidelijk systeem kunnen dat belemmeren.

Voor de incassopraktijk betekent dit dat een bureau moet kijken naar de hele werkwijze: welke rol speelt de berekening, wat beoordeelt de medewerker zelf en kan aanvullende informatie de uitkomst veranderen? Alleen wijzen op een menselijke naam onder een brief geeft daarop geen antwoord.

Wie wil weten welke persoonsgegevens een bureau heeft, kan gebruikmaken van het recht op inzage. Dat omvat ook informatie over de herkomst en het gebruik van de gegevens. Het recht kan eveneens betrekking hebben op beoordelingen over jou; het gaat niet uitsluitend om naam en adres.

De AP adviseert een verzoek per brief of e-mail te sturen. Daarmee kun je later aantonen wat je hebt gevraagd. Een organisatie moet normaal gesproken binnen een maand reageren. Bij een ingewikkeld verzoek mag zij die termijn onder voorwaarden verlengen, maar dat moet zij tijdig uitleggen.

Inzage geeft niet automatisch recht op elk volledig document. Vaak volstaat een overzicht met je persoonsgegevens. Als dat onvoldoende context biedt om je privacyrechten uit te oefenen, kan een kopie van het hele document wel nodig zijn. Blijken gegevens onjuist of onvolledig, dan kun je op grond van de AVG om verbetering of aanvulling vragen.

Heeft een volledig automatisch besluit juridische of andere serieuze gevolgen, dan beschrijft de AP daarnaast het recht om een menselijke beoordeling te vragen. Dat verzoek richt je aan de organisatie die het besluit nam.

De AP ziet een reële kans op verboden automatische besluiten, maar stelt niet vast hoeveel bureaus de regels overtreden. Op 2 december bespreekt de toezichthouder de aanbevelingen met de branche.