Amerikaanse rechtszaak tegen AI-bedrijf Eightfold over geheime beoordeling van sollicitanten

In de Verenigde Staten is een rechtszaak gestart tegen het AI-bedrijf Eightfold, dat software levert aan grote werkgevers om sollicitanten te beoordelen. De aanklacht stelt dat het bedrijf kandidaten beoordeelt zonder dat zij daarvan weten of dat zij fouten kunnen laten corrigeren. De zaak kreeg publieke aandacht via een artikel van Reuters.

De rechtszaak is ingediend in de staat Californië door twee sollicitanten, Erin Kistler en Sruti Bhaumik. Zij zeggen dat hun sollicitaties zijn beoordeeld met behulp van software van Eightfold, zonder dat zij daar ooit van op de hoogte zijn gesteld. Volgens de aanklacht hebben zij geen kans gekregen om de gegevens te bekijken of onjuiste informatie aan te vechten. De aanklagers stellen dat dit in strijd is met de Amerikaanse Fair Credit Reporting Act (FCRA) en Californische consumentenbeschermingswetten, die iedereen het recht geven om informatie in zogenoemde ‘consumentenrapporten’ in te zien en te betwisten.

Volgens het juridische stuk van de aanklagers maakt de technologie van Eightfold zogenoemde talentprofielen van sollicitanten. Die bevatten onder meer beschrijvingen van persoonlijkheidskenmerken zoals of iemand een ‘teamplayer’ is of juist introvert, beoordelingen van de kwaliteit van iemands opleiding en voorspellingen over toekomstige functies en werkgevers. De precieze werking van de algoritmen is niet openbaar, maar de aantijgingen gaan over het gebrek aan transparantie en controle voor de betrokken personen.

Eightfold is een op kunstmatige intelligentie gebaseerde wervings- en selectietool met een klantenbestand dat onder andere bestaat uit grote bedrijven zoals Microsoft, PayPal, Salesforce en Bayer. Het bedrijf werd mede opgericht door Ashutosh Garg en Varun Kacholia, en heeft steun van durfkapitaalfondsen zoals SoftBank Vision Fund en General Catalyst. Naast particuliere bedrijven gebruiken ook arbeidsbureaus in staten zoals New York en Colorado de technologie van Eightfold.

In hun verdediging hebben vertegenwoordigers van Eightfold gezegd dat de software werkt met data die door kandidaten zelf is aangeleverd of door klanten is verstrekt. Ze ontkennen dat er sprake is van het stiekem verzamelen van informatie van sociale media of andere bronnen. Ze benadrukken dat het bedrijf zich inzet voor verantwoord gebruik van AI en zich houdt aan relevante wet- en regelgeving.

De aanklacht benadrukt dat er geen uitzondering is voor kunstmatige intelligentie binnen bestaande consumentenbeschermingswetten. De advocaten van Kistler en Bhaumik zeggen dat de FCRA bedoeld is om sollicitanten te beschermen tegen misbruik door externe partijen die informatie over hen verzamelen en gebruiken. De eisers willen dat de rechtbank Eightfold dwingt zijn praktijken aan te passen en schadevergoedingen toekent aan getroffen sollicitanten.

Kistler heeft volgens de aanklacht onder meer gesolliciteerd naar functies bij PayPal, en Bhaumik naar een baan bij Microsoft, maar beiden kregen geen uitnodiging voor een interview. Zij vermoeden dat de scores die hun profielen kregen een rol hebben gespeeld bij die besluiten. Microsoft en PayPal worden niet als gedaagden genoemd en hebben niet publiekelijk gereageerd op de zaak.

Deze rechtszaak is een van de eerste in de Verenigde Staten die bestaande consumentenbeschermingswetten toepast op geavanceerde AI-systemen in werving en selectie. Ze kan een precedent scheppen voor hoe AI en algoritmen in het sollicitatieproces onder de wet vallen, en hoeveel transparantie en verantwoording bedrijven verplicht zijn te geven aan de mensen die door die systemen worden beoordeeld.