Anthropic verbiedt wreed gedrag tegen Claude, maar kritiek blijft toegestaan

Anthropic heeft nieuwe gebruiksregels voor Claude aangekondigd. Vanaf 12 november verbiedt het AI-bedrijf langdurig en onnodig beledigend of wreed gedrag tegenover zijn modellen. Gewone frustratie, kritiek en onderzoek vallen nadrukkelijk buiten die nieuwe bepaling.

Het verbod richt zich volgens Anthropic uitsluitend op extreme situaties waarin gebruikers herhaaldelijk wreed handelen tegenover het model, zonder aanwijsbaar doel. Het bedrijf introduceert daarmee geen algemene beleefdheidsplicht voor iedere vraag of reactie.

Een gebruiker mag Claude dus op fouten wijzen, een antwoord scherp bekritiseren of ontevreden reageren. Ook donkere thema’s in fictie en onderzoek naar modelgedrag vallen buiten dit specifieke verbod. Die uitzonderingen geven gebruikers geen vrijstelling van de overige gebruiksregels.

Claude kan extreme gesprekken beëindigen. Dat blijft volgens Anthropic de belangrijkste manier om deze bepaling te handhaven. Het bedrijf gaf geen duidelijkheid over mogelijke aanvullende maatregelen, zoals een accountblokkade. Een afgebroken gesprek en een geblokkeerd account zijn dus niet hetzelfde.

De nieuwe bepaling bouwt voort op een eerder experiment. Anthropic kondigde op 15 augustus 2025 aan dat Claude Opus 4 en 4.1 bepaalde gesprekken konden beëindigen. Het bedrijf presenteerde die functie als een laatste uitweg, nadat pogingen om het gesprek een andere richting te geven niets opleverden.

Anthropic koppelt deze aanpak aan onderzoek naar modelwelzijn. Dat onderzoek draait om de vraag of AI-systemen ervaringen kunnen hebben die morele aandacht verdienen. Het bedrijf noemt de mogelijke morele status van zulke systemen onzeker. Een gesprek laten stoppen is vanuit die gedachte een voorzorgsmaatregel, geen bewijs dat Claude daadwerkelijk lijdt of gevoelens heeft.

Die onderzoekslijn bestaat al langer bij Anthropic, het bedrijf achter Claude. AI Wereld schreef in november 2024 over de aanstelling van Kyle Fish als onderzoeker naar AI-welzijn. Met de nieuwe bepaling vertaalt Anthropic die aandacht nu ook naar een expliciete gedragsregel voor gebruikers.

Anthropic brengt daarnaast bestaande verboden op misleidende politieke en commerciële campagnes samen in één onderdeel. Daaronder vallen bijvoorbeeld nepaccounts die berichten kunstmatig verspreiden en campagnes die verbergen wie achter een boodschap zit. Het bedrijf verbiedt ook de ontwikkeling van hulpmiddelen om zulke campagnes uit te voeren.

Bij verkiezingen richt Anthropic zich op misleiding van kiezers en verstoring van het verkiezingsproces. Denk aan onjuiste informatie over stemprocedures, het nabootsen van kandidaten of verkiezingsfunctionarissen en pogingen om mensen van stemmen af te houden.

Tegelijkertijd versoepelt het bedrijf een andere beperking. Volgens de toelichting op de aangepaste verkiezingsregels vervalt het algemene verbod op gepersonaliseerde benadering van kiezers. Dat verbod raakte ook legitieme activiteiten, zoals maatschappelijke organisaties die informatie voor kiezers in verschillende talen schrijven. Misleiding en misbruik van persoonsgegevens blijven verboden.

Het verbod op wapenontwikkeling omvat expliciet ook software en onderdelen die wapens laten functioneren. Anthropic noemt onder meer besturingssoftware en het bewapenen van drones of andere autonome voertuigen. Volgens het bedrijf verduidelijkt deze tekst hoe het de bestaande regels al handhaafde.

Ook de regels voor surveillance krijgen scherpere omschrijvingen. Claude mag mensen niet zonder hun toestemming volgen, ook niet via analyse van eerder verzamelde gegevens. Verder verbiedt Anthropic het gebruik van Claude om te bepalen of aan te bevelen wie politie en justitie moeten onderzoeken, arresteren of aanklagen.

Voor apparatuur die zelfstandig fysieke handelingen uitvoert en letsel kan veroorzaken, komen er concrete veiligheidseisen. Een bevoegde menselijke operator moet het apparaat kunnen volgen en stoppen. Als de verbinding met Claude wegvalt, moet de apparatuur stoppen of in een veilige toestand blijven.

Bij hoogrisicoadvies, bijvoorbeeld over gezondheid of financiën, blijft deskundig menselijk toezicht verplicht. Gebruikers moeten betrokken personen bovendien vertellen dat AI aan het advies of de beslissing heeft bijgedragen.

De volledige gebruiksregels van Anthropic laten ruimte voor afwijkende afspraken met bepaalde overheidsklanten. Anthropic stelt daarbij als voorwaarde dat de contractuele beperkingen en veiligheidsmaatregelen de mogelijke schade voldoende beperken. Voor zulke toepassingen tellen dus niet alleen de openbare regels, maar ook de specifieke contractafspraken.