AI systemen zijn een onderdeel van ons dagelijks leven. Dit maakt dagelijkse routinetaken een stuk eenvoudiger. Maar, zoals elke nieuwe digitale ontwikkeling, brengt ook de AI revolutie gevaren met zich mee. Hackers ontdekken steeds meer mogelijkheden om AI systemen te manipuleren. In deze blog leggen we je uit wat de verschillende manieren zijn waarop AI systemen gehackt kunnen worden en wat de gevolgen van zo’n hack zijn.
Manipulatie van AI-modellen
Bij manipulatie van AI-modellen verandert een hacker de input van AI-modellen op een subtiele manier. Hierdoor gelooft het AI systeem dat de input iets anders is dan het eigenlijk hoort te zijn. bijvoorbeeld aan een zelfrijdende auto. Wanneer het systeem van zo’n auto gehackt wordt, kan het systeem denken dat een rood stoplicht, een groen stoplicht is. Hierdoor zal de auto doorrijden bij een rood stoplicht. Ook kunnen bijvoorbeeld de remmen overgenomen worden door de hacker. Dit kan hele nare gevolgen hebben.
Privacy van Gebruikers
Tegenwoordig maakt elk bedrijf gebruik van een AI-systeem voor de verwerking van persoonsgegevens. Wanneer zo’n systeem wordt gehackt, liggen al deze persoonsgegevens op straat. Dit is aantrekkelijk voor hackers omdat ze in een klap toegang hebben tot de gegevens van duizenden gebruikers. Deze gegevens kunnen ze verkopen aan criminelen of zelf gebruiken om fraude mee te plegen. Het is daarom van groot belang dat AI-systemen goed beveiligd worden. Gelukkig houdt de Autoriteit Persoonsgegevens (AP) toezicht op AI-systemen waarin persoonsgegevens verwerkt worden.
Automatisering van Phishing-aanvallen
AI kan worden getraind om te leren welke e-mailberichten het meest effectief zijn bij het misleiden van ontvangers. Dit maakt phishing e-mails overtuigender. Ook kan AI informatie van social media en andere openbare bronnen analyseren om specifieke slachtoffers te targeten. Hierdoor zijn de phishing e-mails persoonlijker en lijken ze een stuk realistischer. Bovendien zijn deze e-mails moeilijker te detecteren als spam e-mails waardoor ze niet als een gevaar gezien worden.
Wil je weten hoe je door AI geschreven phishing e-mails herkent? Lees dan deze blog.
Toegang tot Trainingsdata
Hoewel de originele trainingsdata van AI-systemen goed beveiligd zijn, is een hack niet ondenkbaar. Wanneer een hacker toegang krijgt tot deze data, begrijpen ze hoe het systeem beslissingen neemt. Met deze kennis kan het AI-systeem gemanipuleerd worden. Dit zorgt ervoor dat de hacker het systeem kan inzetten om bijvoorbeeld fake nieuws te verspreiden, mensen te chanteren of in het ergste geval: mensen in gevaar brengen.
Ransomware en AI
Ransomware is kwaadaardige software (malware) die een computer of netwerk ‘gijzelt’. Een hacker verspreidt deze malware vaak via e-mail of advertenties. Door zo’n hack zijn bestanden of het systeem van een gebruiker ontoegankelijk. Vervolgens vraagt de hacker om losgeld (vaak in de vorm van cryptocurrency zoals Bitcoin). AI wordt hierbij ingezet om een beveiligingsmechanisme te analyseren en te omzeilen zodat de aanval niet tegen wordt gehouden. Bovendien kan AI helpen bij het verspreiden van ransomware,bijvoorbeeld via geautomatiseerde phishing e-mails.
AI biedt nieuwe kansen voor hackers. Zo kunnen ze AI modellen manipuleren. Dit is een gevaar voor onze privacy en veiligheid. Meestal is het doel van een hack om persoonlijke gegevens te stelen of (digitaal) geld te verdienen. Het is daarom belangrijk dat zowel organisaties als gebruikers zoals jij zich bewust zijn van deze gevaren. Zo minimaliseer je de kans dat je gehackt wordt.
