Medeoprichter OpenAI begint een nieuw AI-bedrijf

Ilya Sutskever lanceert Safe Superintelligence Inc., een AI-startup die veiligheid boven 'commercie' gaat stellen.

Ilya Sutskever, medeoprichter en voormalig 'chief scientist' van OpenAI, begint een nieuw AI-bedrijf dat zich richt op veiligheid. In een bericht op woensdag onthulde Sutskever Safe Superintelligence Inc. (SSI), een start-up met "één doel en één product": het creëren van een veilig en krachtig AI-systeem.

De aankondiging beschrijft SSI als een start-up die "veiligheid en capaciteiten in tandem benadert", waardoor het bedrijf zijn AI-systeem snel kan ontwikkelen, terwijl de veiligheid voorop blijft staan.

Het noemt ook de externe druk waarmee AI-teams bij bedrijven zoals OpenAI, Google en Microsoft vaak te maken hebben, en zegt dat de "enkele focus" van het bedrijf het in staat stelt "afleiding door managementoverhead of productcycli" te vermijden.

“Ons bedrijfsmodel betekent dat veiligheid, beveiliging en vooruitgang allemaal geïsoleerd zijn van kortetermijn commerciële druk,” staat in de aankondiging. “Op deze manier kunnen we in alle rust opschalen.”

Naast Sutskever is SSI mede opgericht door Daniel Gross, een voormalig AI-leider bij Apple, en Daniel Levy, die eerder als technisch medewerker bij OpenAI werkte.

Vorig jaar leidde Sutskever de poging om OpenAI CEO Sam Altman te ontslaan. Sutskever verliet OpenAI in mei en hintte op de start van een nieuw project. Kort na het vertrek van Sutskever kondigde AI-onderzoeker Jan Leike zijn ontslag aan bij OpenAI, onder vermelding van veiligheidsprocessen die "naar de achtergrond zijn verschoven ten gunste van glanzende producten." Gretchen Krueger, een beleidsonderzoeker bij OpenAI, noemde ook veiligheidsproblemen toen ze haar vertrek aankondigde.

Terwijl OpenAI doorgaat met samenwerkingen met Apple en Microsoft, zullen we SSI dat waarschijnlijk niet snel zien doen. Tijdens een interview met Bloomberg zei Sutskever dat het eerste product van SSI veilige superintelligentie zal zijn, en dat het bedrijf “niets anders zal doen” tot dan.