Naar inhoud springen

Microsoft Edge laat websites AI op je eigen computer draaien

Nieuws
Een gesloten zilverkleurige laptop naast een losse groene geheugenmodule in een streep zonlicht.
Websites kunnen in Microsoft Edge een taalmodel gebruiken dat op je eigen computer draait. Microsoft begint een proef waarmee webmakers die functie op hun eigen site kunnen testen. Een site kan zo bijvoorbeeld tekst samenvatten met het ingebouwde model Aion Instruct.

Een site vraagt het model op via de browser

De proef draait om de Prompt API. Een site kan zo een opdracht aan het model geven. Wie een site beheert, kan zich bij Microsoft aanmelden. De proef is tijdelijk. Tot nu toe konden makers vooral zelf aan de slag in testversies van Edge.
Denk aan een pagina met een lang verslag. De maker kan een knop toevoegen waarmee de browser de tekst inkort. Edge voert die opdracht uit met Aion Instruct. Het model telt 2,3 miljard parameters. Dat zijn de getallen waarmee het tekst verwerkt. Microsoft richt het model op taken als samenvatten, herschrijven en antwoorden in een vaste opmaak.
Edge haalt het model pas op als een site het nodig heeft. Ook een functie van Edge zelf kan om de eerste download vragen. De browser kan die download daarna delen met andere sites die dezelfde functie gebruiken. Zodra het model op het apparaat staat, kan het ook zonder netwerk een opdracht verwerken. De site zelf moet dan natuurlijk wel bereikbaar zijn of al zijn geladen.

Edge stelt eisen aan je computer

De ontwikkelaarsdocumentatie noemt Windows 10 en 11, macOS vanaf 13.3 en bepaalde 64-bits Linux-systemen. Voor Linux vermeldt Microsoft ook Vulkan-stuurprogramma’s en Edge 159 of hoger. De browser kijkt ook naar de videokaart en de schijf. Bij een verbinding met een datalimiet downloadt Edge het model niet.
Microsoft noemt minimaal 3 GB videogeheugen. Op de schijf met het Edge-profiel moet minstens 20 GB vrij zijn. Die 20 GB is een drempel voor vrije opslag. Het is geen opgave van de grootte van de download. Als er minder dan 5 GB vrij overblijft, kan Edge het model wissen om ruimte voor de browser vrij te houden.
Je kunt lokale AI ook uitzetten. De schakelaar staat bij Copilot en AI in Edge. Volgens Microsoft verwijdert de browser dan het model en stopt hij nieuwe downloads. Ook een beheerder kan op werkcomputers voorkomen dat Edge het model ophaalt.

Wat lokaal draaien betekent voor je gegevens

Volgens Microsoft blijven de gegevens die deze API aan het model doorgeeft op het toestel. Dat zegt iets over de route van de AI-opdracht. Een website kan daarnaast eigen diensten gebruiken. Zo kan een notitie-app al een kopie van je tekst op zijn server hebben staan voordat je om een samenvatting vraagt.
Bij Signal zagen we eerder hoe toegang tot informatie op een apparaat een eigen vraag is. Voor sites in de Edge-proef blijft die vraag van belang. Bij een knop voor een samenvatting kan de site uitleggen welke tekst de browser leest. De bezoeker weet dan ook waar de site zelf een rol heeft.
Microsoft deelt ook de modelbestanden van Aion Instruct onder de MIT-licentie. Daardoor kunnen ontwikkelaars het model buiten Edge bekijken en gebruiken. Voor gewone bezoekers bepaalt voorlopig de deelname van de website aan de proef of ze de functie tegenkomen.
loading

Populair nieuws

Laatste reacties

Loading