AI-chaos overspoelt beveiligingsteams: waarom steeds meer meldingen van 'bugs' nep zijn

Bug bounty-platforms zoals HackerOne en Bugcrowd worden geconfronteerd met een golf aan valse voorstellen, volgens TechCrunch. Er komen steeds meer rapporten binnen die technisch kloppen maar uiteindelijk geen echte problemen bevatten.

Bedrijven laten vaak hun websites en apps vrijwillig testen op zwakke plekken, zoals fouten in de beveiliging. Ze doen dit via zogeheten bug bounty-programma’s. Hierbij kunnen ethische hackers – hackers die proberen te helpen in plaats van schade aan te richten – meldingen insturen als ze een kwetsbaarheid vinden. Als zo’n melding serieus is, krijgen ze een beloning. Voor bedrijven is het een slimme manier om fouten op te sporen voordat echte criminelen ze vinden.

Maar er is een nieuw probleem: kunstmatige intelligentie. Steeds meer mensen gebruiken AI om automatisch foutmeldingen te laten schrijven. Helaas klopt veel van die informatie niet. De AI verzint bugs die er professioneel uitzien, maar in werkelijkheid nergens op slaan. Dit soort vervuiling wordt ook wel AI slop genoemd.

Volgens TechCrunch raken bedrijven overspoeld met zulke nep-rapporten. Beveiligingsteams besteden veel tijd aan het onderzoeken van problemen die helemaal niet bestaan. Dat leidt tot frustratie en vertraging bij het vinden van échte fouten.

Sommige open source-projecten softwareprojecten waaraan mensen wereldwijd vrijwillig werken, zijn zelfs tijdelijk gestopt met het uitloven van beloningen. Ze kregen zó veel valse meldingen binnen, dat het simpelweg niet meer te doen was om ze allemaal te controleren.

Gelukkig werken bedrijven aan oplossingen. Zo ontwikkelt het platform HackerOne een systeem dat slimme software gebruikt om onzinmeldingen automatisch te herkennen. Toch blijft menselijke controle belangrijk.

Online veiligheid is voor iedereen van belang, of je nu een bedrijf runt of gewoon een app gebruikt. Maar als nep-meldingen de boel vertragen, kunnen echte beveiligingsproblemen over het hoofd worden gezien. Daarom is het cruciaal dat we leren omgaan met AI, zodat het ons helpt in plaats van ons in de war te brengen.