Dit AI model beschermt je tegen gezichtsherkennings technologie

maandag, 02 december 2024 om 12:00

31 aiwerldnl ai beveiliging computersystemen

Terwijl kunstmatige intelligentie (AI) aan de ene kant steeds vaker wordt ingezet om surveillance te verbeteren, zien we tegelijkertijd dat AI ook wordt gebruikt om hier bescherming tegen te bieden. Met de groeiende aanwezigheid van gezichtsherkenningstechnologie, van politiecamera’s tot smartphones, neemt het risico op privacyinbreuken sterk toe. Cybercriminelen kunnen als nooit tevoren foto's ongemerkt verzamelen en misbruiken voor fraude. Het innovatieve AI model Chameleon probeert hier een stokje voor te steken en biedt een veelbelovende oplossing.

Chameleon is ontwikkeld door onderzoekers van Georgia Tech en creëert een digitaal masker genaamd de P3 Mask dat persoonlijke foto's beschermt tegen ongewenste gezichtsherkenning. Het model verbergt gezichten zonder de kwaliteit van de afbeelding te verslechteren. Hierdoor blijft het beeld intact en worden de foto’s herkend als die van een andere persoon door gezichtsherkenningssoftware.

Onderscheiding

Wat Chameleon onderscheidt van bestaande technologieën, zijn drie innovatieve kenmerken. Ten eerste maakt het gebruik van "cross-image optimalisatie," waarmee het slechts één masker per gebruiker nodig heeft. Dit zorgt voor snelle bescherming en efficiënter gebruik van computerbronnen.

Daarnaast behoudt het model de beeldkwaliteit dankzij "perceptibiliteitsoptimalisatie," een automatische aanpassing zonder handmatige instellingen. Het derde belangrijke kenmerk is de robuustheid van de maskers. Door geavanceerde machine learning-technieken te gebruiken, zoals ensemble learning, kan het model zelfs nieuwe gezichtsherkenningssystemen misleiden.

Privacy

De onderzoekers zien meer toepassingen voor Chameleon. Zo kan deze technologie helpen om foto’s te beschermen tegen gebruik zonder toestemming, zoals bij het trainen van generatieve AI modellen. Dit sluit aan bij de bredere missie om privacy en ethiek binnen AI technologie te waarborgen.

Strengere AI veiligheidsnormen in Amerika

Op nationaal niveau wordt AI veiligheid een steeds belangrijker onderwerp. Max Tegmark, professor aan MIT, hoopt dat Elon Musk een sleutelrol kan spelen in het aanscherpen van AI veiligheidsstandaarden onder de aankomende Trump administratie. Hoewel eerdere pogingen van Musk, zoals de mislukte SB 1047-wet in Californië, weinig succes boekten, ziet Tegmark kansen nu Trump president elect is.