Signal-oprichter lanceert privacyvriendelijke AI-bot met end-to-end-encryptie

De oprichter van de versleutelde chatapp Signal, Moxie Marlinspike, introduceert een nieuwe opensource AI-assistent onder de naam Confer. Net als Signal is Confer vanaf de basis ontworpen met privacy als uitgangspunt. Volgens Marlinspike biedt de AI-bot ‘echt privé AI’, waarbij gebruikersdata niet inzichtelijk is voor de aanbieder zelf en ook niet voor externe partijen zoals overheden.

Confer werkt met end-to-end-encryptie, wat betekent dat alleen de gebruiker toegang heeft tot de inhoud van gesprekken. De encryptiesleutels worden lokaal op het apparaat van de gebruiker opgeslagen. Daardoor kan de aanbieder de data niet ontsleutelen, ook niet bij juridische verzoeken van derden. Dit model sluit nauw aan bij de architectuur die Signal groot heeft gemaakt in privacybewuste communicatie.

Volgens Marlinspike creëert Confer daarmee een persoonlijke, afgeschermde ruimte waarin gebruikers kunnen ‘denken’ met behulp van AI, zonder dat hun prompts of gesprekken worden ingezien of hergebruikt.

Een belangrijk onderscheid met veel bestaande AI-diensten is de belofte dat Confer gebruikersdata nooit gebruikt voor training van het onderliggende taalmodel. Ook stelt de ontwikkelaar expliciet dat gegevens niet worden verkocht of gedeeld. “Niemand behalve jij heeft er toegang toe,” aldus de verklaring op de website van Confer.

Gebruikers die eerder intensief gebruikmaakten van andere AI-chatbots, krijgen de mogelijkheid om bestaande gesprekken te importeren. Zo kunnen chatgeschiedenissen uit ChatGPT worden geëxporteerd en vervolgens geüpload naar Confer. Dat maakt overstappen eenvoudiger voor wie privacy belangrijker vindt dan cloudgebaseerde AI-diensten.

De volledige infrastructuur van Confer, van het taalmodel tot de backend, draait op opensourcesoftware. Dat betekent dat ontwikkelaars en securityonderzoekers de code kunnen inzien en verifiëren via cryptografische controles. Volgens techsite Ars Technica is dit een bewuste keuze om vertrouwen af te dwingen in een tijd waarin AI-systemen vaak als ‘black box’ functioneren.

Tegelijkertijd is Marlinspike realistisch over de beperkingen van AI. Op de website van Confer staat een duidelijke waarschuwing dat de AI fouten kan maken en dat gebruikers belangrijke informatie altijd zelf moeten controleren. Daarmee positioneert Confer zich niet als onfeilbare kennisbron, maar als hulpmiddel binnen een strikt afgebakende, private omgeving.

Met Confer zet Marlinspike een duidelijke tegenbeweging neer tegenover commerciële AI-platforms van partijen als OpenAI, waar schaal, dataverzameling en modeltraining centraal staan. Of ‘echt privé AI’ op grote schaal haalbaar is, moet nog blijken. Maar Confer laat zien dat privacy, opensource en AI niet per definitie elkaars tegenpolen hoeven te zijn.