Nederlandse bedrijven kijken naar Chinese AI voor lagere kosten en meer controle

Nederlandse bedrijven kijken met belangstelling naar Chinese AI-modellen die ze op eigen computers of Europese servers kunnen gebruiken. Kosten en controle over bedrijfsgegevens spelen daarbij een belangrijke rol, blijkt uit een reportage die de NOS op 25 oktober publiceerde. Een Amsterdams advocatenkantoor gebruikt bijvoorbeeld Qwen van Alibaba op servers in Duitsland om juridische documenten samen te vatten.

Bij geschikte, downloadbare modellen kunnen bedrijven zelf bepalen waar de verwerking plaatsvindt. Een Chinees model hoeft daardoor geen gegevens naar China te sturen. Lokale AI groeit, ook in het Westen.

Driven Lawyers werkt met een kleine versie van Qwen, vertelt oprichter Arvid van Oorschot aan de NOS. Het kantoor gebruikt die onder meer voor samenvattingen van contracten. Volgens Van Oorschot presteert het model minder goed dan de grootste Amerikaanse modellen, maar voldoet het voor bepaalde werkzaamheden.

Dat maakt de afweging concreet: een bedrijf hoeft niet voor iedere samenvatting het krachtigste beschikbare systeem te kiezen. Van Oorschot wijst bovendien op de kosten die bij veelvuldig gebruik van betaalde modellen kunnen oplopen. Zijn kantoor wil gevoelige dossiers ook niet naar servers in Amerika of China sturen.

Qwen bestaat uit verschillende modellen. De officiële documentatie voor lokaal gebruik beschrijft hoe gebruikers geschikte varianten kunnen downloaden en uitvoeren met LM Studio. Dat programma werkt op Windows, macOS en Linux. Gebruikers kiezen een uitvoering die bij de beschikbare computer past.

Een organisatie kan daarnaast een eigen serveromgeving inrichten. De ontwikkelaars van Qwen leggen uit hoe dat kan met serversoftware zoals vLLM. Andere programma’s kunnen vervolgens opdrachten naar die omgeving sturen. Het AI-model draait dan op de gekozen infrastructuur, terwijl medewerkers vanuit een eigen toepassing werken.

Ook andere downloadbare modellen bieden deze keuze. Onze handleiding voor DeepSeek op een eigen computer laat zien hoe lokaal gebruik verschilt van chatten via de website van een aanbieder.

Ook buiten het Nederlandse praktijkvoorbeeld is belangstelling zichtbaar. In de ranglijst van OpenRouter, met gebruiksgegevens tot en met 25 oktober, bezetten twee varianten van DeepSeek de bovenste plaatsen naar verwerkt tokenvolume. Modellen van MiniMax, Z.ai en Tencent vullen de rest van de top vijf.

Tokens zijn de stukjes tekst waarmee taalmodellen werken. OpenRouter telt ingevoerde en gegenereerde tokens, behandelt modelvarianten afzonderlijk en sluit afgeschermde verzoeken uit.

Die cijfers beschrijven uitsluitend verkeer via OpenRouter. Ze geven geen wereldwijd marktaandeel, aantal gebruikers of omzet weer. Een hoge positie bewijst evenmin dat een model beter antwoordt. Een goedkope toepassing die veel tekst verwerkt, kan juist veel tokens verbruiken.

De organisatie moet een passende computer of server kiezen en zorgen dat de toepassing goed werkt. Qwens serverhandleiding noemt bijvoorbeeld afhankelijkheden tussen de gebruikte software en de rekenhardware. Gratis toegang tot modelbestanden betekent dus niet dat de complete bedrijfsoplossing gratis draait.

Ook de verbindingen verdienen aandacht. Zoals onze uitleg over lokale AI die toch de cloud gebruikt laat zien, kunnen instellingen of gekoppelde diensten alsnog gegevens naar een andere omgeving sturen.

De vestigingsplaats van de modelmaker vertelt daarmee maar een deel van het verhaal. Voor een bedrijf zijn ook de gekozen hosting, toegangsrechten, verbindingen en controle van de antwoorden bepalend. Een Europese server biedt meer keuze over de verwerking, maar vormt op zichzelf geen garantie voor veilige of juridisch passende inzet.