Mistral Large 4 is nu te downloaden voor eigen AI-toepassingen

Mistral Large 4 is beschikbaar als download, zodat organisaties het AI-model op eigen infrastructuur kunnen draaien. De vrijgave volgt op de eerdere publieke preview. Voor gebruik gelden wel licentievoorwaarden en het volledige model vraagt veel rekenkracht en geheugen.

Hugging Face beschrijft in de releasepublicatie van 29 oktober welke uitvoeringen beschikbaar zijn. Het gaat om de modelgewichten: de waarden die het systeem tijdens de training heeft geleerd. Ontwikkelaars kunnen daarmee een eigen installatie opzetten, in plaats van uitsluitend Mistrals online dienst te gebruiken.

Bij de publieke preview van Mistral Large 4 waren de downloadbare bestanden nog aangekondigd. De feitelijke beschikbaarheid daarvan is de nieuwe stap.

Mistral Large 4 verwerkt tekst en afbeeldingen en geeft tekst terug. De officiële modelkaart noemt een contextvenster van één miljoen tokens. Tokens zijn de teksteenheden waarmee het model werkt; het contextvenster bepaalt hoeveel informatie het binnen een opdracht kan meenemen.

Het model telt ongeveer één biljoen parameters. Dankzij een Mixture-of-Experts-opzet gebruikt het per verwerkingsstap slechts een deel daarvan. De modelkaart noemt 49 miljard actieve parameters, of 52 miljard wanneer de inbeddings- en uitvoerlagen meetellen. Die twee aantallen beschrijven dus verschillende afbakeningen van hetzelfde systeem.

Een groot contextvenster kan ruimte bieden aan omvangrijke documenten of codebestanden. Het is geen garantie dat het model ieder detail correct terugvindt of een lange opdracht foutloos uitvoert. Organisaties moeten dat voor hun eigen materiaal beoordelen.

De Mistral Ecosystem Open-Weight License staat onder voorwaarden onder meer gebruik, aanpassing en verdere training toe. De licentie bevat echter een aanvullende regel voor partijen die een Model-as-a-Service-bedrijf voeren.

Daarmee bedoelt Mistral diensten die derden toegang geven tot het model voor het genereren van uitvoer of verdere training, waarbij die derden wezenlijke controle over bijvoorbeeld invoer of trainingsgegevens krijgen. Voor commerciële inzet schrijft de licentie zulke aanbieders een afzonderlijke overeenkomst met Mistral voor.

De tekst maakt uitzonderingen, onder meer voor intern gebruik waarbij het model niet aan derden beschikbaar wordt gesteld. Ook maakt de definitie onderscheid tussen een algemene modeldienst en een eindgebruikersproduct waarin AI alleen binnen specifieke functies is ingebouwd.

‘Downloadbaar’ betekent dus niet dat iedere commerciële exploitatie onder identieke voorwaarden valt. Een organisatie die het model intern gebruikt, zit in een andere positie dan een aanbieder die klanten algemene toegang tot het model verkoopt.

De omvang blijft een praktische drempel. Hugging Face beschrijft onder meer sterk verkleinde uitvoeringen die op een Apple Silicon Ultra-computer met 512 GB gedeeld geheugen kunnen draaien. Andere configuraties verdelen het rekenwerk over meerdere apparaten of grafische kaarten.

Bij zo’n verkleinde uitvoering, ook wel een gekwantiseerde versie genoemd, worden modelwaarden met minder precisie opgeslagen. Dat vermindert het geheugenbeslag. Welke combinatie van kwaliteit, snelheid en geheugengebruik geschikt is, hangt af van de uitvoering en de opdracht.

De standaardvoorbeelden in Mistrals modelkaart gebruiken een serverconfiguratie met acht grafische processors. Dat is een implementatievoorbeeld, geen universele minimumvereiste. Het laat wel zien waarom open gewichten niet automatisch betekenen dat een model eenvoudig op een consumentencomputer past.

Mistral positioneert Large 4 in zijn toelichting op het model nadrukkelijk voor programmeerwerk, AI-agenten en cybersecurity. Dat zijn toepassingen waarbij een organisatie ook eigen code, documenten en hulpmiddelen kan willen gebruiken.

Zelf draaien geeft meer invloed op de installatie en de gekoppelde systemen. Die keuze brengt tegelijk verantwoordelijkheid voor onderhoud, toegangsbeheer en controle van de uitvoer mee. Een lokaal model is niet alleen door zijn locatie veilig of betrouwbaar.

Bij de keuze tussen verschillende Mistral-modellen blijven de taak en beschikbare infrastructuur daarom belangrijker dan alleen het aantal parameters. De nieuwe download maakt zelfbeheer mogelijk; de licentie en de hardware bepalen onder welke voorwaarden dat praktisch uitvoerbaar is.