Voor ChatGPT, Gemini en de meeste andere AI-diensten gaat een opdracht normaal naar een datacenter. Google AI Edge Gallery laat zien dat generatieve AI ook volledig op een telefoon kan draaien.
Je downloadt eerst een geschikt model. Daarna kan de telefoon tekst genereren, afbeeldingen begrijpen of prompts testen zonder dat voor iedere opdracht een internetverbinding nodig is. Dat is interessant voor privacy en voor situaties waarin bereik ontbreekt.
Er staat wel een prijs tegenover. Lokale modellen gebruiken opslag, werkgeheugen en accuvermogen. Bovendien is een compact telefoonmodel niet automatisch zo capabel als het grootste model in de cloud.
Wat is Google AI Edge Gallery?
Google AI Edge Gallery is een open-source toepassing waarmee gebruikers en ontwikkelaars modellen rechtstreeks op mobiele apparaten kunnen proberen. De app laat verschillende toepassingen van on-device AI zien en toont informatie over prestaties.
Het is geen nieuwe naam voor de gewone Gemini-app. Gemini is een complete consumentendienst met cloudmodellen, accountfuncties en koppelingen. AI Edge Gallery is vooral een experimenteeromgeving voor modellen die op je eigen hardware worden uitgevoerd.
De
broncode van AI Edge Gallery is openbaar. Daardoor kunnen ontwikkelaars bekijken hoe modellen, prompts en lokale verwerking technisch zijn opgebouwd.
AI Wereld zag eerder dat juist lokale AI veel interesse krijgt. De handleiding om
DeepSeek lokaal te installeren met Ollama en LM Studio kreeg in korte tijd honderden Discover-klikken. AI Edge Gallery brengt hetzelfde uitgangspunt naar een telefoon.
Wat betekent lokaal draaien?
Bij lokale inference staan de modelbestanden op het apparaat en voert de processor, GPU of NPU de berekeningen uit. De tekst of afbeelding hoeft voor die specifieke modelopdracht niet eerst naar een externe AI-server.
Dat geeft drie voordelen:
- opdrachten kunnen na de modeldownload zonder internet werken;
- gevoelige invoer hoeft voor de inference niet naar de cloud;
- je bent minder afhankelijk van een storing of gebruikslimiet van een online dienst.
Lokaal betekent niet dat de volledige telefoon onzichtbaar wordt. Je gebruikt nog steeds een besturingssysteem en een app. Downloads, app-updates, crashrapporten en andere telemetrie kunnen eigen instellingen hebben. Het precieze privacyvoordeel is dat de inhoud van de lokale modelopdracht niet naar een cloudmodel hoeft.
Zo begin je op Android
De interface kan veranderen, maar de basisstappen blijven gelijk.
1. Installeer de officiële app
Gebruik de downloadroute op de officiële Google AI Edge Gallery-pagina of de officiële appwinkelvermelding. Controleer de ontwikkelaar en installeer geen apk van een willekeurige kopieersite.
2. Kies een toepassing
De galerij bevat onderdelen voor taken als chatten, prompts testen en vragen stellen over afbeeldingen. Kies eerst een eenvoudige teksttaak. Die vraagt meestal minder van een telefoon dan een groot multimodaal model.
3. Download een model
Een lokaal model moet eerst volledig op je toestel staan. De download kan honderden megabytes of meerdere gigabytes groot zijn. Gebruik wifi en controleer vooraf hoeveel vrije opslag beschikbaar is.
4. Wacht tot het model geladen is
De eerste start duurt vaak langer. Het model wordt in het geheugen geladen en de app controleert welke versnelling op jouw toestel beschikbaar is.
5. Test zonder netwerk
Voer een onschuldige testvraag uit, schakel daarna vliegtuigmodus in en stel een nieuwe vraag. Werkt het model nog steeds, dan wordt die inference lokaal uitgevoerd.
Zet vliegtuigmodus na de test weer uit. Sommige apponderdelen, nieuwe modellen en bronlinks hebben uiteraard wel internet nodig.
Welke taken werken goed op een telefoon?
Lokale mobiele modellen zijn vooral geschikt voor korte, afgebakende taken:
- een tekst herschrijven;
- een korte samenvatting maken;
- informatie uit een afbeelding beschrijven;
- ideeën of trefwoorden genereren;
- eenvoudige vragen beantwoorden;
- een offline concept maken.
Verwacht minder van:
- diep onderzoek met actuele internetbronnen;
- zeer lange documenten;
- complexe programmeerprojecten;
- opdrachten die veel stappen en hulpmiddelen vereisen;
- feiten die na de trainingsdatum zijn veranderd.
Een lokaal model heeft niet automatisch toegang tot het web. Dat is juist een privacyvoordeel, maar betekent ook dat actuele informatie ontbreekt. Controleer belangrijke feiten daarom alsnog.
Werkt dit op iedere Android-telefoon?
Niet iedere telefoon levert dezelfde ervaring. Prestaties hangen af van:
- de hoeveelheid werkgeheugen;
- de snelheid en beschikbare ruimte van de opslag;
- de processor, GPU en NPU;
- de gekozen modelgrootte;
- de lengte van je prompt en gesprek;
- warmte en accustatus.
Een modern toptoestel kan een compact model soepel uitvoeren. Op een ouder of goedkoper toestel kan laden lang duren, generatie traag zijn of de app sluiten wegens geheugentekort.
Begin daarom met het kleinste bruikbare model. Een groter parametergetal is niet automatisch beter wanneer de telefoon daardoor heet wordt of nauwelijks antwoordt.
In de bredere uitleg over
AI-pc's, NPU's en lokale AI staat waarom gespecialiseerde chips energiezuiniger kunnen zijn dan een gewone processor. Hetzelfde principe speelt in smartphones.
Hoeveel opslag gebruikt lokale AI?
De app zelf is meestal niet het grootste onderdeel. De modelbestanden nemen de meeste ruimte in.
Verwijder modellen die je niet gebruikt en controleer of een update een tweede kopie downloadt voordat de oude versie wordt gewist. Houd daarnaast voldoende vrije ruimte over voor
Android, foto's en normale app-updates.
Een telefoon met bijna volle opslag kan langzamer worden. Download daarom niet vijf modellen omdat ze beschikbaar zijn. Kies één tekstmodel en eventueel één beeldmodel dat een duidelijke taak oplost.
Is lokale AI automatisch veiliger?
Lokale verwerking verkleint een belangrijk risico: de inhoud hoeft voor de modelberekening niet naar een externe AI-aanbieder. Dat is aantrekkelijk voor persoonlijke notities, offline gebruik en interne concepten.
Er blijven andere risico's:
- een gestolen, ontgrendelde telefoon;
- onbetrouwbare modelbestanden of apps;
- lokale chatgeschiedenis die niet is versleuteld;
- screenshots en toetsenborddata;
- onjuiste antwoorden zonder online broncontrole.
Gebruik schermvergrendeling, installeer updates en controleer of de app gesprekken bewaart. Deel ook lokaal geen wachtwoord of volledige identiteitskopie wanneer de taak met minder gegevens kan.
De privacy-afweging is vergelijkbaar met
DeepSeek lokaal gebruiken in plaats van de Chinese clouddienst: waar het model draait, verandert de datastroom, maar niet iedere veiligheidsvraag verdwijnt.
Wanneer kies je AI Edge Gallery in plaats van Gemini?
Kies AI Edge Gallery wanneer:
- je wilt leren wat een telefoon lokaal aankan;
- offline gebruik belangrijk is;
- je een kleine taak zonder cloud wilt uitvoeren;
- je ontwikkelaar bent en on-device modellen wilt testen.
Kies de gewone Gemini-app wanneer:
- je actuele webinformatie nodig hebt;
- je Google-diensten wilt koppelen;
- je een groter cloudmodel nodig hebt;
- gemak belangrijker is dan volledige lokale inference.
Voor veel mensen is een combinatie logisch. Gebruik een lokaal model voor korte, privégevoelige concepten en een clouddienst voor actuele informatie en zware taken.
Conclusie
Google AI Edge Gallery maakt lokale generatieve AI op Android verrassend toegankelijk. Na het downloaden van een model kunnen geschikte taken zonder internet en zonder cloudinference worden uitgevoerd.
De app verandert een telefoon niet in een volledig datacenter. Compacte modellen zijn beperkter, gebruiken veel opslag en kunnen op oudere hardware traag zijn.
Begin klein, test in vliegtuigmodus en controleer wat de app lokaal bewaart. Het interessantste aan AI Edge Gallery is niet dat het Gemini vervangt. Het laat zien hoeveel AI inmiddels al in je broekzak kan blijven.