AI en macht: Anthropic-CEO Dario Amodei waarschuwt voor democratische grenzen

Kunstmatige intelligentie wordt vaak gepresenteerd als een neutraal hulpmiddel. Een slimme technologie die ons werk makkelijker maakt, veiligheid vergroot en economische groei versnelt. Maar achter die belofte schuilt een ongemakkelijke vraag: wie bepaalt hoe ver we mogen gaan? In een wereld waarin AI steeds vaker een rol speelt in geopolitiek, defensie en informatieoorlog, komt die vraag snel dichterbij dan veel mensen denken. Zeker wanneer dezelfde technologie zowel bescherming als controle kan betekenen.

Volgens Dario Amodei, CEO van Anthropic, staan democratieën voor een lastige keuze. Aan de ene kant moeten ze AI inzetten om zich te verdedigen tegen autoritaire staten die deze technologie zonder veel scrupules gebruiken. Aan de andere kant waarschuwt Amodei dat democratische samenlevingen duidelijke grenzen moeten trekken, juist om niet te veranderen in wat ze proberen te bestrijden.

Voor Amodei zijn sommige toepassingen simpelweg onacceptabel. AI-gedreven massasurveillance van de eigen bevolking en grootschalige binnenlandse propaganda noemt hij onverenigbaar met democratische waarden. Dat zijn, zoals hij het zelf ziet, harde rode lijnen. Opvallend genoeg ligt dat anders wanneer het gaat om buitenlandse regimes. Tegen autocratische staten acht hij het legitiem om dezelfde AI-middelen in te zetten, zelfs als dat betekent dat je probeert zulke systemen van binnenuit te ondermijnen via informatieoorlog of digitale beïnvloeding.

Volledig autonome wapens en strategische besluitvorming door AI ziet Amodei als een gevaarlijk tussengebied. AI kan defensief nuttig zijn, maar zodra cruciale beslissingen door een klein groepje mensen of zelfs door systemen zelf worden genomen, ontstaat er een machtsconcentratie die moeilijk te controleren is.

Die waarschuwingen klinken extra beladen omdat Anthropic zelf steeds nauwer samenwerkt met de Amerikaanse overheid. Het bedrijf heeft een contract ter waarde van tweehonderd miljoen dollar met het Pentagon voor de inzet van zogeheten frontier AI. De AI-assistent Claude draait inmiddels op beveiligde overheidsnetwerken, onder meer via partners als Palantir.

Dat roept vragen op, zeker omdat Palantir ook samenwerkt met Amerikaanse immigratiediensten. Critici vrezen dat geavanceerde AI op deze manier alsnog kan bijdragen aan binnenlandse machtsconcentratie, zelfs als de intenties officieel defensief zijn.

Onder die critici bevindt zich ook Yann LeCun. Hij verwijt Anthropic en soortgelijke bedrijven dat zij angst rond AI aanwakkeren om strengere regelgeving af te dwingen. Volgens hem zou dat vooral kleinere concurrenten schaden en de positie van grote spelers verstevigen.