AI industrie gevangen in snelheidsrace: experts slaan alarm

De strijd om de machtigste AI te bouwen loopt steeds verder uit de hand, zo oordelen onderzoekers van onder andere OpenAI. Onlangs haalde deze onderzoekers hard uit naar Elon Musk’s xAI. De reden? De lancering van hun AI chatbot Grok zou compleet onverantwoord zijn geweest. Volgens de onderzoeker ontbreekt het aan simpele basisregels, zoals een publiek toegankelijk veiligheidsrapport of een zogenaamde “systeemkaart”.

Maar het probleem gaat verder dan alleen xAI. Calvin French-Owen, een voormalig OpenAI ingenieur, deed een boekje open over zijn tijd bij het bedrijf. Hij stelt dat OpenAI wel degelijk bezig is met veiligheid, maar dat de buitenwereld daar nauwelijks iets van te zien krijgt. Er wordt vooral achter gesloten deuren gewerkt, met weinig transparantie.

Wat hier speelt, noemen experts de “Safety-Velocity Paradox”. Aan de ene kant willen bedrijven als OpenAI, Google en Anthropic zo snel mogelijk de eerste zijn met een krachtige AI. Aan de andere kant is die snelheid juist gevaarlijk, want veiligheid en verantwoord ontwikkelen blijven achter.

OpenAI zelf is in een jaar tijd enorm gegroeid, van zo’n 1.000 naar 3.000 medewerkers. Dat zorgt volgens French-Owen voor interne chaos en veel druk op korte termijn successen. Voorbeelden zoals Codex, dat binnen 7 weken werd gebouwd, krijgen alle lof. Maar langdurig veiligheidsonderzoek? Dat verdwijnt naar de achtergrond.

Het fundamentele probleem: snelheid is zichtbaar en makkelijk te meten, veiligheid niet. Je kunt een snelle lancering vieren, maar een ramp voorkomen levert geen directe beloning op. De oplossing? Volgens experts moet veiligheid standaard verplicht worden bij AI lanceringen. Ook pleiten ze voor gezamenlijke regels en afspraken binnen de hele industrie. Zodat niet de snelste, maar de meest verantwoorde AI de norm wordt.

Dat klinkt misschien makkelijker dan het is, veel bedrijven in de AI industrie zijn niet altijd blij met nieuwe wetgevingen dat volgens hun innovatie tegenwerkt.