Naar inhoud springen

Mistral lokaal draaien met Ollama: zo begin je

Tutorials
Mistral lokaal draaien met Ollama zo begin je
Je kunt een geschikt Mistral-model lokaal op je eigen computer gebruiken met Ollama. Voor een eerste experiment is Ministral 3 in een compacte uitvoering een praktischer startpunt dan het grootste model uit Mistrals catalogus. Je installeert daarmee een model, niet de complete Vibe-dienst.
De officiële Ollama-bibliotheek bevat onder meer Ministral 3 3B en Ministral 3 8B. Die modelvermeldingen geven ook aan welke mogelijkheden en bestanden bij de gekozen uitvoering horen.

Wat heb je nodig?

Je hebt Ollama, voldoende vrije opslag en genoeg beschikbaar werkgeheugen nodig. De 3B-uitvoering in de genoemde bibliotheek is ongeveer 3 GB groot; de 8B-uitvoering ongeveer 6 GB. Dat zijn bestandsgroottes, geen volledige RAM-eisen.
Tijdens gebruik is ook geheugen nodig voor de uitvoering en de gesprekstekst. Andere programma’s gebruiken eveneens geheugen. Trek daarom niet de conclusie dat een modelbestand van 3 GB probleemloos op iedere computer met 4 GB RAM draait.
Begin met de kleinste uitvoering, korte opdrachten en weinig achtergrondprogramma’s. Zo ontdek je wat jouw computer aankan zonder eerst nieuwe hardware te kopen.

Installeer Ollama en download het model

Download Ollama via de officiële website. Installeer een actuele versie die Ministral 3 ondersteunt en open daarna een terminal of PowerShell-venster.
Controleer eerst of Ollama bereikbaar is:
ollama --version
Download vervolgens de compacte uitvoering:
ollama pull ministral-3:3b
Start het gesprek:
ollama run ministral-3:3b
Gebruik de modelnaam volledig. De namen Mistral, Ministral en Mistral Small verwijzen niet automatisch naar hetzelfde model. Onze Mistral-modelgids legt het onderscheid uit.

Test eerst een kleine Nederlandse opdracht

Begin bijvoorbeeld met:
Herschrijf deze tekst in duidelijk Nederlands. Behoud alle feiten en voeg niets toe: ‘Onze winkel is op dinsdag en woensdag geopend van 10.00 tot 17.00 uur. Bestellingen kunnen uitsluitend in de winkel worden afgehaald.’
Controleer of de dagen, tijden en afhaalvoorwaarde behouden blijven. Probeer daarna een samenvatting van een korte tekst die je zelf kent.
Dit is een functionele test, geen prestatieranglijst. Je wilt vaststellen dat het model werkt, dat je de uitkomst begrijpt en dat de wachttijd voor jouw gebruik aanvaardbaar is.
Je verlaat een Ollama-gesprek met /bye. Om later meer geheugen vrij te maken, kun je het geladen model stoppen met:
ollama stop ministral-3:3b

Controleer waar het model draait

Ollama ondersteunt naast lokale modellen ook cloudmogelijkheden. Het feit dat je een programma op je laptop hebt geïnstalleerd, bewijst daarom niet dat iedere taak lokaal wordt verwerkt.
De Ollama-FAQ beschrijft een lokale modus waarin cloudfuncties worden uitgeschakeld. Daarvoor kun je volgens de documentatie OLLAMA_NO_CLOUD=1 instellen en Ollama opnieuw starten. Volg voor het instellen van omgevingsvariabelen de uitleg voor jouw besturingssysteem.
Na het downloaden kun je een lokaal gesprek ook zonder internetverbinding testen. Daarmee controleer je de basistaak. Houd eventuele extra interfaces, webzoekfuncties en gekoppelde tools apart in de gaten: die kunnen eigen netwerkverkeer veroorzaken.

Wat kun je doen wanneer het traag is?

Bekijk met de volgende opdracht welke modellen geladen zijn:
ollama ps
De processorinformatie laat zien of het model op de CPU, GPU of een combinatie daarvan draait. De officiële FAQ beschrijft hoe je die uitvoer leest.
Probeer daarna een kortere opdracht en een korter gesprek. Sluit ongebruikte programma’s en laad niet meerdere grote modellen tegelijk. Een maximaal contextvenster uit de modelkaart is geen verplichting om dat maximum te gebruiken.
Werkt de 3B-uitvoering naar tevredenheid en heeft je computer ruimte over, dan kun je de 8B-uitvoering proberen:
ollama run ministral-3:8b
Vergelijk exact dezelfde opdrachten. Alleen dan kun je beoordelen of eventuele extra kwaliteit de langere wachttijd en het grotere geheugengebruik waard is.

Lokaal is geen synoniem voor automatisch veilig

Lokale verwerking kan voorkomen dat de modelaanvraag naar een externe AI-dienst gaat. Je blijft wel verantwoordelijk voor je computer, opgeslagen gesprekken, gedeelde mappen en eventuele externe koppelingen.
Maak de lokale modelserver niet zomaar bereikbaar vanaf internet. Begin op de eigen computer en voeg netwerktoegang alleen toe wanneer je begrijpt hoe je toegang en authenticatie regelt.
De privacygids voor Mistral behandelt het verschil tussen lokale verwerking en clouddiensten. Lees ook de uitleg over modellicenties voordat je een model in een zakelijke toepassing opneemt.

Wat heb je na deze installatie?

Je hebt een lokale modelomgeving waarmee je kunt experimenteren. Je hebt niet automatisch Vibe, actuele webkennis, een documentarchief of een betrouwbare autonome assistent.
Dat onderscheid komt ook terug in onze handleiding voor DeepSeek met Ollama en LM Studio. In het dossier lokale AI vind je meer achtergronden. Het Mistral-overzicht helpt je bepalen wanneer een lokale opstelling beter past dan de chatomgeving of API.
loading

Populair nieuws

Laatste reacties

Loading