Liquid maakt kleine AI-modellen voor je laptop en telefoon

Liquid AI heeft nieuwe modellen uitgebracht die tekst, beelden en spraak op eigen apparaten kunnen verwerken. De LFM3-familie bestaat uit compacte modellen voor verschillende taken. Daarmee richt het bedrijf zich op ontwikkelaars die AI in een toepassing willen inbouwen en de verwerking zelf willen beheren.

De modellen zijn beschikbaar met open gewichten: de bestanden die bepalen hoe een model rekent, zijn te downloaden en aan te passen. Liquid biedt daarnaast gebruik via zijn online dienst aan. Lokaal draaien is dus een keuze, geen verplichte werkwijze.

Liquid beschrijft in zijn technische toelichting varianten voor tekst, beeld en audio, plus een model dat deze soorten invoer combineert. De modellen delen dezelfde basis, maar hebben verschillende mogelijkheden.

Het beeldmodel kan afbeeldingen en video verwerken. De audioversie ondersteunt onder meer spraakherkenning, gesproken antwoorden en vertaling. Met de gecombineerde versie moeten ontwikkelaars bijvoorbeeld een toepassing kunnen bouwen die een gesproken vraag over een foto beantwoordt.

Daarnaast zijn er modellen die gestructureerde beslissingen teruggeven. Liquid noemt onder meer het indelen van klantvragen en het uitlezen van documenten. Ontwikkelaars kunnen de modellen volgens het bedrijf met één grafische kaart verder trainen voor een specifieke taak, bijvoorbeeld om velden uit kassabonnen te halen.

Het tekstmodel LFM3-1.7B telt ongeveer 1,73 miljard parameters, de rekenwaarden die tijdens de training worden geleerd. Een compacte 4-bitversie neemt volgens Liquid ongeveer 1 GB in. Dat cijfer beschrijft het model; het betekent niet dat een complete AI-toepassing met 1 GB werkgeheugen genoeg heeft.

Tijdens het gebruik ontstaat extra geheugenverbruik, onder meer voor de tekst die een model moet meenemen. Ollama legt uit dat een grotere context meer geheugen vraagt. De context is de hoeveelheid invoer en uitvoer die binnen één sessie past.

LFM3-1.7B ondersteunt maximaal 256.000 tokens, kleine teksteenheden zoals woorden en woorddelen. Zo'n maximum is geen advies om iedere laptop met de grootste instelling te laten werken. Onze uitleg over geheugengebruik bij lange chats in LM Studio laat zien hoe je de benodigde ruimte vooraf kunt vergelijken.

De officiële modelkaart noemt uitvoeringen voor onder meer llama.cpp, Ollama, LM Studio en Apples MLX. Daarmee kunnen ontwikkelaars een passende versie kiezen voor hun processor, grafische kaart of Mac.

Liquid waarschuwt zelf dat het kleine tekstmodel minder geschikt is voor complexe redeneertaken met meerdere stappen en zelfstandig programmerende AI-agents. Voor vragen die veel feitenkennis vereisen, adviseert het bedrijf aanvullende zoek- of documentbronnen te gebruiken.

Ook de taalkeuze verdient aandacht. Nederlands staat niet tussen de zestien talen die Liquid voor het tekstmodel vermeldt. De modelkaart biedt daarmee geen bevestiging van goede Nederlandse prestaties.

Liquid publiceert prestatiemetingen op onder meer een iPhone 17 Pro en computers met chips van Apple en AMD. Dat zijn tests van de maker. De gebruikte instellingen en apparaten bepalen mede welke snelheid gebruikers mogen verwachten.

Een lokaal model garandeert bovendien niet dat een gekoppelde toepassing alles op het apparaat houdt. Een zoekfunctie of externe dienst kan alsnog informatie versturen. In onze gids over cloudinstellingen bij lokale AI staan de controles voor de uitvoerende computer en aangesloten hulpmiddelen.

Volgens Liquids licentievoorwaarden kunnen ontwikkelaars en bedrijven met minder dan 10 miljoen dollar jaaromzet de modellen gratis gebruiken, aanpassen en in eigen toepassingen inzetten. Voor grotere commerciële bedrijven vraagt Liquid een betaalde licentie.

Onderzoek, onderwijs en non-profitgebruik blijven volgens het bedrijf gratis, zonder omzetgrens. Gebruikers hoeven hun eigen aangepaste modelversies niet openbaar te maken. Toegang tot de modelbestanden betekent daarmee wel ruimte voor eigen toepassingen, maar geen onbeperkte gratis commerciële licentie voor iedere organisatie.