Brussel wil een uitknop voor opdringerige functies van AI-chatbots

De Europese Commissie wil dat consumenten opdringerige functies van apps en chatbots kunnen uitzetten. Het voorstel voor de Digital Fairness Act noemt systemen die een persoonlijke band nabootsen om gebruikers langer vast te houden. Wie na een aankoop vastloopt bij de online klantenservice, zou daarnaast om een medewerker kunnen vragen.

Artikel 17 van het wetsvoorstel richt zich op digitale producten waarvan het ontwerp dwangmatig of buitensporig gebruik kan aanmoedigen. Aanbieders zouden gebruikers makkelijk vindbare instellingen moeten geven om de betrokken functies afzonderlijk of allemaal tegelijk uit te zetten.

Het voorstel noemt onder meer automatisch afspelende inhoud, meldingen die losstaan van wat je in een app doet en systemen die je belonen om steeds terug te komen. Bij chatbots kan het bijvoorbeeld gaan om een AI-gesprekspartner die blijft aandringen om het gesprek voort te zetten. De Commissie wil de lijst met functies later kunnen aanpassen op basis van nieuwe technologie en onderzoek naar consumentengedrag.

De transparantieregels uit de AI Act verplichten aanbieders in veel situaties al om duidelijk te maken dat een gebruiker met AI praat. De Digital Fairness Act gaat over de manier waarop bedrijven hun digitale producten aanbieden en inrichten. Zo kan ook een duidelijk herkenbare chatbot onder de voorgestelde ontwerpregels vallen.

Voor bepaalde praktijken bij minderjarigen verwijst de Commissie naar de voorgestelde EU Kids Act. Dat pakket bevat eigen verplichtingen voor onder meer algemene chatbots en AI-diensten die gezelschap bieden. Een aanbieder zou kinderen bijvoorbeeld moeten afschermen van functies die een persoonlijke relatie nabootsen en emotionele afhankelijkheid kunnen veroorzaken.

De Kids Act zou ook eisen stellen aan standaardinstellingen. Zo zouden chatbots standaard geen informatie uit eerdere gesprekken van een minderjarige mogen meenemen naar nieuwe gesprekken. De tekst maakt onder meer een uitzondering als dit nodig is voor de veiligheid van het kind. Sommige aanbieders stellen nu al eigen grenzen. OpenAI biedt bijvoorbeeld een aparte ChatGPT-ervaring voor tieners met aangepaste instellingen en ouderlijk toezicht.

De Digital Fairness Act raakt ook bedrijven die hun online klantenservice met een chatbot afhandelen. Volgens het voorstel moet een klant na het sluiten van een contract op verzoek met een mens kunnen praten als andere middelen geen oplossing bieden. Dat kan bijvoorbeeld relevant zijn als iemand met een retourverzoek steeds bij hetzelfde geautomatiseerde antwoord uitkomt.

Voor diensten die namens consumenten overeenkomsten kunnen sluiten, stelt de Commissie voor dat gebruikers bij het eerste gebruik zelf kiezen wanneer ze vooraf willen bevestigen. Ze zouden iedere overeenkomst kunnen laten voorleggen, grenzen kunnen instellen zoals een maximumbedrag en een tijdslimiet, of vooraf kunnen toestaan dat het systeem overeenkomsten zonder aparte bevestiging sluit. Bij bepaalde belangenconflicten of betalingen voor het voorstellen van een contract moet de dienst volgens de tekst alsnog om bevestiging vragen.

De Commissie presenteerde de Digital Fairness Act op 11 november als onderdeel van een pakket voor consumentenbescherming. Daarin staan ook voorstellen over misleidende interfaces, moeilijk opzegbare abonnementen en onduidelijke prijzen.

Het Europees Parlement en de Raad van de EU moeten zich nog over de tekst buigen. De Commissie stelt voor dat de regels twaalf maanden na inwerkingtreding van toepassing worden. De uiteindelijke tekst en het moment waarop aanbieders aan de regels moeten voldoen, hangen af van de verdere behandeling.