Mistral Large 4 start als publieke preview, modelgewichten volgen later

Mistral AI heeft een publieke preview van Mistral Large 4 geopend. Het nieuwe AI-model is via de programmeerinterface van Mistral Studio te testen en moet eind oktober ook als download beschikbaar komen, meldt het bedrijf in zijn aankondiging. Ontwikkelaars kunnen daarmee nu toepassingen uitproberen, terwijl gebruik op eigen servers nog moet wachten.

Mistral Large 4 combineert tekst- en beeldverwerking met redeneerfuncties. De modeldocumentatie vermeldt onder meer het beantwoorden van vragen over documenten, het aanroepen van functies en gestructureerde uitvoer. Met die laatste mogelijkheid kan een toepassing antwoorden in een vooraf bepaalde vorm verwerken, in plaats van alleen een los tekstbericht te ontvangen.

De architectuur telt volgens de documentatie 1,05 biljoen parameters, de waarden die een model tijdens de training leert. Mistral gebruikt een Mixture-of-Experts-opzet, waarbij per verwerkingsstap een deel van het netwerk actief is. De officiële releasepagina op Hugging Face noemt 49 miljard actieve parameters per token, of 52 miljard wanneer ook de inbeddings- en uitvoerlagen meetellen. Dat verklaart waarom beide aantallen in de aankondigingen voorkomen.

De modelgewichten zijn nog niet vrijgegeven. Hugging Face noemt 31 oktober als verwachte releasedatum; Mistral zelf houdt het op eind deze maand. Open gewichten maken het mogelijk een model buiten de oorspronkelijke aanbieder te draaien. Welke gebruiksvoorwaarden daarbij gelden, moet uit de uiteindelijke licentie blijken. Achtergrond over het bedrijf en zijn modellen staat in onze uitleg over Mistral AI.

De actuele prijstabel van Mistral toont een actietarief van 0,68 dollar per miljoen invoertokens en 2,09 dollar per miljoen uitvoertokens. Voor hergebruikte invoer uit de cache staat 0,07 dollar vermeld. Tokens zijn de tekstbrokjes waarmee taalmodellen werken; invoer en gegenereerde antwoorden worden afzonderlijk afgerekend.

De doorgestreepte tarieven liggen op respectievelijk 1,36 dollar, 4,18 dollar en 0,14 dollar. De tabel maakt daarmee duidelijk dat de lagere bedragen een korting zijn. Een einddatum staat er niet bij. Wie de kosten van een toepassing begroot, doet er dus goed aan ook met de hogere bedragen te rekenen.

Vercel biedt het model eveneens aan via AI Gateway, zonder dat gebruikers daarvoor een afzonderlijk Mistral-account hoeven aan te maken. Bestaande toepassingen kunnen het model via verschillende ondersteunde API-formaten aanspreken. Dat geeft ontwikkelaars een extra route om de preview in hun bestaande software te testen.

De contextlimiet is nog niet overal gelijk beschreven. Mistrals documentatie vermeldt één miljoen tokens, terwijl Vercels modelpagina 524.000 tokens voor de aangeboden verbinding noemt. Zo'n contextvenster begrenst hoeveel informatie een aanvraag tegelijk kan bevatten. Voor lange dossiers of grote codebases is daarom de limiet van de gebruikte dienst relevant, niet alleen het hoogste getal op de modelkaart.

Mistral legt in zijn presentatie de nadruk op programmeren, cybersecurity en professionele taken. Het bedrijf rapporteert onder meer een score van 93 procent op Cybench, een verzameling van veertig beveiligingsopgaven uit competities. Tot de gewichten verschijnen, laat Mistral het model daarnaast door beveiligingsspecialisten, geselecteerde partners en overheidsinstanties testen.

Een afzonderlijk beeld komt van Artificial Analysis. Die evaluator geeft de preview 38 punten op zijn Intelligence Index, een samengestelde meting met tien evaluaties. De tests bestrijken verschillende soorten werk, waaronder programmeren, wetenschappelijke taken en documentverwerking. Zo'n totaalscore beantwoordt een bredere vraag dan één gespecialiseerde beveiligingsbenchmark.

De kosten per afgeronde taak verdienen eveneens aandacht. Artificial Analysis signaleert dat Large 4 bij zijn evaluatie relatief veel uitvoertokens produceert: 200 miljoen tegenover een mediaan van 81 miljoen in de vergelijkingsgroep. Een laag tarief per token vertaalt zich daardoor niet automatisch in de laagste rekening. Voor een bedrijf is een test met eigen documenten, gewenste antwoordlengte en controleerbare resultaten informatiever dan alleen een ranglijstpositie.

Mistral heeft Large 4 naar eigen zeggen vanaf nul getraind op 3.800 NVIDIA Grace Blackwell-GPU's in eigen Europese datacenters. De publieke preview draait op dezelfde infrastructuur. Daarmee verbindt het bedrijf de ontwikkeling van modellen rechtstreeks aan de capaciteit waarmee klanten die modellen gebruiken.

Die infrastructuurstrategie loopt al langer. AI Wereld schreef eerder over Mistrals datacenterplannen in Zweden. Partner EcoDataCenter bevestigde in februari een investering van 1,2 miljard euro en een geplande opening in 2027. Die toekomstige locatie moet dus worden onderscheiden van de infrastructuur waarop de huidige preview draait.

Voor organisaties ontstaat daarmee een concrete keuze over het beheer van hun AI. Een API laat de uitvoering bij een aanbieder; eigen hosting verplaatst die verantwoordelijkheid naar de organisatie zelf. Bij Large 4 kan de technische proef vandaag beginnen. Een besluit over zelfstandige uitrol vraagt vervolgens om de daadwerkelijke gewichten, de licentie en een toets van de benodigde hardware.