OpenAI investeert in startup tegen AI-gedreven biologische wapens

OpenAI maakte bekend dat het leidend investeerder is in een nieuwe seedronde van 15 miljoen USD voor de startup Red Queen Bio. Deze startup richt zich op het tegengaan van het misbruik van kunstmatige intelligentie voor het ontwikkelen van biologische wapens, volgens Reuters.

Red Queen Bio is ontstaan als spin-out van het bedrijf Helix Nano, dat zich bezighoudt met mRNA-therapieën en AI-gestuurde geneesmiddelontwikkeling. Helix Nano had eerder al samengewerkt met OpenAI om tests te ontwikkelen voor bio-risico’s in AI-systemen. In de praktijk wil Red Queen Bio zowel AI-modellen als traditionele laboratoriumonderzoeken gebruiken om biologische dreigingen op te sporen en te bestrijden.

Volgens OpenAI’s Chief Strategy Officer Jason Kwon is deze investering onderdeel van een bredere aanpak om de veerkracht van het ecosysteem tegen risico’s te vergroten: “Een van de beste manieren om risico’s te mitigeren is meer technologie”, aldus Kwon. De achterliggende gedachte is dat de ontwikkelingen in biotechnologie en AI sneller gaan dan de mechanismen die beschermen tegen misbruik, waardoor proactieve investeringen nodig zijn.

Naast OpenAI nemen ook andere investeerders deel aan de ronde, zoals Cerberus Ventures, Fifty Years en Halcyon Futures. Binnen OpenAI zelf worden CEO Sam Altman en board-lid Nicole Seligman genoemd in verband met aandelen in Red Queen Bio vanwege eerdere investeringen in Helix Nano. Zij waren echter niet betrokken bij de goedkeuring van deze specifieke investering. Daarvoor werd door OpenAI’s compliance-afdeling en de onafhankelijke board gezorgd.

De combinatie van AI en biotechnologie roept grote zorgen op. Onderzoekers waarschuwen dat AI-modellen in toenemende mate in staat zijn om stappen in de biologische wapens­ontwikkeling te ondersteunen of versnellen. Met de investering in Red Queen Bio toont OpenAI aan dat het zichzelf wil positioneren als speler in het voorkomen van zulke scenario’s.

Er is nog onduidelijk hoe effectief de technologie van Red Queen Bio zal zijn in de praktijk: hoe goed AI-modellen biologische dreigingen kunnen ontdekken, wat de responscapaciteit is en hoe het toezicht op dergelijke systemen eruit zal zien. Ook is relevant hoe de samenwerking met overheden en reguliere biomedische instituten zal verlopen. Bovendien blijft het de vraag wanneer en in welke mate dergelijke systemen op grote schaal bruikbaar zullen worden.

Red Queen Bio zal de komende tijd werken aan het integreren van AI-gedreven analyses en laboratoriumonderzoek om biologische dreigingen te identificeren en te neutraliseren. Het is goed mogelijk dat OpenAI in de toekomst meer startups op dit snijvlak van AI en biosecurity zal ondersteunen. Voor het brede publiek en beleidsmakers blijft het van belang te zien hoe deze initiatieven zich ontwikkelen, welke resultaten ze opleveren en hoe transparant ze zijn in werking en toezicht.