Claude weigert veel minder onschuldige vragen over biologie

Anthropic heeft de beveiligingssystemen van Claude Fable 5 aangepast, zodat het AI-model minder vaak onschuldige vragen over biologie tegenhoudt. Volgens het bedrijf daalt het aantal situaties waarin Claude onnodig terugvalt naar een minder krachtig model met ongeveer 85 procent.

De wijziging moet vooral onderzoekers, studenten, artsen en andere gebruikers helpen die legitieme biologische vragen stellen. Zij liepen geregeld tegen extra beperkingen aan omdat het systeem hun opdrachten ten onrechte als mogelijk gevaarlijk beoordeelde.

Anthropic verwijdert de biologische beveiligingsmaatregelen niet. Het bedrijf probeert de controle nauwkeuriger te maken, zodat normale wetenschappelijke werkzaamheden minder hinder ondervinden terwijl risicovolle verzoeken nog steeds worden tegengehouden.

Geavanceerde AI-modellen kunnen steeds beter helpen bij wetenschappelijk onderzoek. Ze kunnen vakliteratuur samenvatten, datasets analyseren, code schrijven en mogelijke verbanden tussen genen, eiwitten en ziekten onderzoeken.

Dezelfde kennis kan in theorie worden misbruikt. Een model zou bijvoorbeeld informatie kunnen geven die helpt bij het ontwikkelen, aanpassen of verspreiden van gevaarlijke biologische stoffen.

AI-bedrijven gebruiken daarom extra beveiligingslagen voor vragen over biologie en chemie. Een verzoek wordt niet alleen door het taalmodel zelf beoordeeld. Ook afzonderlijke systemen proberen te bepalen of de gebruiker om legitieme informatie vraagt of mogelijk schadelijke hulp zoekt.

Dat onderscheid is lastig. Veel termen die in gevaarlijk onderzoek voorkomen, worden ook dagelijks gebruikt door studenten, laboratoria, ziekenhuizen en farmaceutische bedrijven.

Een onderzoeker die een bestaand experiment wil controleren, kan daardoor dezelfde woorden gebruiken als iemand met schadelijke bedoelingen. Een te streng systeem houdt dan ook onschuldige werkzaamheden tegen.

Anthropic gebruikt voor gevoelige biologische opdrachten een systeem dat kan besluiten een verzoek niet door het krachtigste model te laten beantwoorden.

Wanneer een vraag als mogelijk risicovol wordt aangemerkt, kan Claude overschakelen naar een minder krachtig model met strengere beperkingen. Anthropic noemt dit een fallback.

De gebruiker krijgt daardoor niet altijd een volledige weigering. Het antwoord kan ook minder uitgebreid, minder precies of minder bruikbaar worden doordat een ander model de opdracht overneemt.

Voor een gewone consument is dat verschil mogelijk nauwelijks zichtbaar. Voor wetenschappers en andere deskundigen kan het wel belangrijk zijn. Complexe biologische analyses vereisen vaak een model dat lange documenten kan begrijpen, meerdere bronnen kan vergelijken en technisch nauwkeurig kan redeneren.

Volgens Anthropic bleek een aanzienlijk deel van de fallbacks onnodig. Het beveiligingssysteem herkende dus wel biologische inhoud, maar maakte onvoldoende onderscheid tussen normale en gevaarlijke toepassingen.

Na de aanpassing zag Anthropic tijdens interne tests ongeveer 85 procent minder biologische fallbacks binnen zijn verschillende producten.

Dat betekent niet dat Claude voortaan iedere biologische vraag beantwoordt. Verzoeken die volgens Anthropic kunnen bijdragen aan ernstige schade blijven onder aanvullende beperkingen vallen.

Het bedrijf heeft niet alle technische details van het detectiesysteem gepubliceerd. Dat is begrijpelijk vanuit beveiligingsoogpunt: een volledige beschrijving kan kwaadwillende gebruikers helpen de controle te omzeilen.

Hierdoor is de verbetering voorlopig wel vooral gebaseerd op cijfers van Anthropic zelf. Onafhankelijke onderzoekers zullen moeten beoordelen of het systeem in de praktijk inderdaad minder foutpositieve meldingen veroorzaakt zonder dat de bescherming tegen misbruik zwakker wordt.

AI-veiligheid wordt soms voorgesteld als een keuze tussen een volledig open model en een streng begrensd systeem. In werkelijkheid draait veel beveiligingswerk juist om nauwkeurigheid.

Een systeem dat iedere vraag over virussen, genetica of laboratoriumtechnieken blokkeert, is misschien moeilijk te misbruiken, maar ook nauwelijks bruikbaar voor wetenschappers. Een systeem dat alles beantwoordt, kan juist te weinig bescherming bieden.

De ideale beveiliging houdt een klein aantal werkelijk gevaarlijke opdrachten tegen, terwijl normale vragen gewoon worden verwerkt.

Dat vereist inzicht in de context. Een algemene uitleg over hoe een virus zich verspreidt is iets anders dan een gedetailleerd stappenplan om een ziekteverwekker schadelijker te maken. Ook het kennisniveau van de gebruiker, de beschikbare hulpmiddelen en het doel van de vraag kunnen verschil maken.

Taalmodellen kunnen die intentie niet altijd betrouwbaar vaststellen. Daarom combineren bedrijven verschillende controles, waaronder modeltraining, automatische classificatie, gebruiksmonitoring en menselijke evaluaties.

De aanpassing kan vooral relevant zijn voor organisaties die Claude gebruiken bij medisch en biologisch onderzoek.

AI wordt inmiddels ingezet voor het analyseren van wetenschappelijke publicaties, het ordenen van onderzoeksresultaten en het schrijven van code voor dataverwerking. Ook kunnen modellen onderzoekers helpen hypotheses te formuleren of ingewikkelde begrippen uit andere vakgebieden te begrijpen.

Wanneer een beveiligingssysteem te vaak ingrijpt, kunnen gebruikers niet op het gereedschap vertrouwen. Een onderzoeker weet dan vooraf niet of een normale opdracht door het krachtigste model wordt verwerkt.

Dat kan bedrijven en universiteiten ertoe brengen lokale of minder streng gecontroleerde modellen te gebruiken. Een nauwkeuriger beveiligingssysteem kan dus niet alleen de gebruikservaring verbeteren, maar ook voorkomen dat deskundigen overstappen op oplossingen met minder toezicht.

Claude mag overigens niet worden beschouwd als vervanger van een arts, bioloog of laboratoriumspecialist. Een AI-model kan fouten maken, bronnen verkeerd interpreteren of informatie verzinnen. Resultaten moeten daarom altijd door een deskundige worden gecontroleerd.

De update illustreert een bredere uitdaging voor de AI-sector. Naarmate modellen krachtiger worden, moeten aanbieders voorkomen dat gevaarlijke capaciteiten eenvoudig beschikbaar komen. Tegelijkertijd mogen beveiligingsmaatregelen legitieme toepassingen niet onmogelijk maken.

Die spanning speelt niet alleen bij biologie. Ook vragen over cybersecurity, wapens, financiële fraude en andere risicovolle onderwerpen krijgen extra controle.

Voor gebruikers is vooral transparantie belangrijk. Als een ander model wordt ingeschakeld of een antwoord door een veiligheidscontrole wordt beperkt, moet duidelijk zijn wat er gebeurt. Anders kan een gebruiker een minder goed resultaat ten onrechte aanzien voor de maximale capaciteit van het model.

Anthropic presenteert de daling van 85 procent als bewijs dat veiligheid en bruikbaarheid samen kunnen verbeteren. Of dat ook buiten de eigen tests standhoudt, moet blijken wanneer meer wetenschappers en bedrijven met het aangepaste systeem werken.