Nieuwe Google-app laat AI offline draaien op Android

Google heeft onlangs de experimentele app AI Edge Gallery uitgebracht, waarmee Android-gebruikers AI-modellen lokaal op hun smartphones kunnen draaien, zonder internetverbinding. Deze ontwikkeling markeert een belangrijke stap in het toegankelijk maken van AI-technologieën, met voordelen op het gebied van privacy, snelheid en offline beschikbaarheid.

De AI Edge Gallery stelt gebruikers in staat om open-source AI-modellen van platforms zoals Hugging Face te zoeken, downloaden en uitvoeren op hun apparaten. De app ondersteunt diverse toepassingen, waaronder beeldgeneratie, vraagbeantwoording en codebewerking. Een opvallende functie is de "Prompt Lab", waarin gebruikers met één invoer opdrachten kunnen uitvoeren, zoals het samenvatten of herschrijven van teksten. Gebruikers kunnen modellen selecteren via integratie met Hugging Face of eigen modellen inzetten via LiteRT.

Het lokaal draaien van AI-modellen biedt verschillende voordelen. Gebruikers hoeven geen persoonlijke of gevoelige gegevens naar externe servers te sturen, wat de privacy ten goede komt. Daarnaast kunnen AI-functies worden gebruikt op locaties zonder internetverbinding, en is de verwerking vaak sneller doordat er geen netwerkvertraging is. Hoewel cloudgebaseerde AI-modellen doorgaans krachtiger zijn, biedt lokale verwerking meer controle en veiligheid voor de gebruiker.

De AI Edge Gallery is momenteel beschikbaar voor Android en kan worden gedownload via GitHub. Een iOS-versie is in ontwikkeling. Google benadrukt dat de prestaties kunnen variëren afhankelijk van de hardware van het apparaat; nieuwere telefoons met krachtigere processors zullen AI-modellen efficiënter uitvoeren dan oudere modellen. De app wordt uitgebracht onder de Apache 2.0-licentie, waardoor deze vrij te gebruiken is, ook voor commerciële toepassingen.

De introductie van AI Edge Gallery past binnen een bredere trend waarbij AI-functionaliteiten steeds meer naar de rand van het netwerk (edge computing) worden verplaatst.

Dit stelt gebruikers in staat om AI-toepassingen te benutten zonder afhankelijk te zijn van constante internetverbindingen, wat vooral waardevol is in situaties met beperkte connectiviteit of verhoogde privacybehoeften. De ontwikkeling van efficiënte AI-modellen, zoals MobileBERT, ondersteunt deze verschuiving door krachtige AI-verwerking mogelijk te maken op apparaten met beperkte middelen.

Met de AI Edge Gallery biedt Google gebruikers de mogelijkheid om AI-modellen lokaal op hun smartphones te draaien, wat voordelen biedt op het gebied van privacy, snelheid en offline beschikbaarheid. Deze ontwikkeling onderstreept de groeiende trend van edge computing en de toenemende toegankelijkheid van AI-technologieën voor een breder publiek.