Kunstmatige intelligentie (AI) wordt steeds vaker ontwikkeld om neurale signalen te analyseren, gedrag te modelleren en besluitvormingspatronen te voorspellen. Dit markeert een paradigmaverschuiving van eenvoudige gegevensverwerking naar systemen die menselijke cognitie kunnen interpreteren en ermee kunnen interageren. Tijdens Kaspersky HORIZONS, Kaspersky’s jaarlijkse Europese vlaggenschipconferentie over de toekomst van cybersecurity, die dit jaar op 19 mei in Rome plaatsvond, onderzocht Kaspersky wat de evolutie van AI betekent voor mentale privacy en cognitieve autonomie.
Hoewel huidige AI-systemen menselijke gedachten niet direct kunnen lezen of nauwkeurig kunnen decoderen, bieden ze mogelijkheden die gedrag kunnen beïnvloeden en beslissingen kunnen sturen via aanbevelingssystemen, personalisatie en grootschalige informatiecontrole. In dit opzicht vormt het een reëel en groeiend cybersecurity- en sociaal-technologisch risico, ook al blijven extremere scenario’s speculatief.
Kaspersky GReAT voorspelt dat de volgende vier opkomende beveiligingsrisico’s sterker zullen worden naarmate cognitieve AI-systemen zich verder ontwikkelen:
#1 Social engineering wordt complexer en misleidender
Large Language Models (LLM’s) transformeren social engineering nu al tot een veel geavanceerdere en overtuigendere dreiging. Aanvallers kunnen nu overtuigendere e-mails en phishingpagina’s genereren. Met cognitieve AI kunnen ze mogelijk sociale platforms en grote datasets gebruiken om zeer gerichte oplichtingspraktijken te ontwikkelen, waarbij ze gedragsinzichten en psychologische profilering inzetten om de slagingskans te vergroten. Phishingpogingen kunnen ook dynamisch worden gegenereerd, contextbewust zijn en emotioneel overtuigend, waardoor ze aanzienlijk overtuigender worden.
Dit kan zowel individuen als organisaties treffen, via datadiefstal en financiële oplichting. Het meest recente Global Report by Kaspersky Security Services laat zien dat phishing ongeveer 15% (één op de zeven) van de meest populaire aanvalstechnieken uitmaakt. In deze context kan phishing dienen als een effectief eerste toegangspunt voor APT’s en andere geavanceerde vormen van crimeware die gericht zijn op bedrijven en overheidsinstanties.
#2 Cognitieve manipulatie vormt de publieke opinie
Naast individuele aanvallen maakt AI grootschalige beïnvloedingsoperaties mogelijk die de publieke opinie kunnen beïnvloeden. Actoren zoals hacktivisten of geavanceerde persistente dreigingsgroepen kunnen cognitieve vooroordelen en emotionele triggers bij hele bevolkingsgroepen exploiteren.
Sociale mediaplatformen laten al zien hoe algoritmesystemen echokamers kunnen versterken en polarisatie kunnen vergroten, terwijl politieke campagnes en bedrijven microtargeting en gedragstechnieken kunnen gebruiken om gebruikers te bereiken. Naarmate deze mogelijkheden zich ontwikkelen, wordt het onderscheid tussen het voorspellen van gedrag en het actief beïnvloeden ervan steeds vager. Dit creëert systemische risico’s, niet alleen voor de individuele autonomie, maar ook voor het publieke vertrouwen.
#3 Profilering maakt voorspellend misbruik mogelijk
AI-gestuurde profilering wordt een krachtig instrument voor misbruik. Door gegevens van sociale media, digitaal gedrag en andere bronnen te aggregeren, kan AI zeer gedetailleerde psychologische en identiteitsprofielen van individuen opbouwen.
Dit versterkt doxxing en door technologie mogelijk gemaakt misbruik aanzienlijk. Informatie die voorheen gefragmenteerd was, kan nu automatisch worden gecorreleerd, waardoor gevoelige details worden blootgelegd, identiteiten worden gekoppeld en gerichte intimidatie op grote schaal mogelijk wordt. Aanvallen kunnen ook worden afgestemd op persoonlijke kwetsbaarheden, waardoor ze effectiever en moeilijker te bestrijden zijn.
Tegelijkertijd introduceren voorspellende modellen het risico dat individuen worden beoordeeld of aangevallen op basis van afgeleid gedrag in plaats van daadwerkelijke acties. Dit verschuift de dreiging van een verlies van privacy naar een verlies van controle over iemands identiteit en hoe deze wordt geconstrueerd en tegen hen wordt gebruikt.
#4 Hersenen-computerinterfaces convergeren met IoT
Hoewel nog grotendeels experimenteel, worden hersenen-computerinterfaces (BCI’s) al gebruikt om communicatie voor patiënten mogelijk te maken door neurale signalen te interpreteren. Lopende onderzoeken breiden hun mogelijkheden uit tot voorbij basisinteractie, inclusief de mogelijkheid om externe apparaten te besturen. Dit is waar BCI’s beginnen te convergeren met het Internet of Things (IoT). In de praktijk kunnen neurale signalen worden gebruikt om commando’s te verzenden naar verbonden systemen zoals slimme apparaten voor thuisgebruik, ondersteunende technologieën of medische apparatuur.
Hoewel deze integratie aanzienlijke voordelen biedt, met name in de gezondheidszorg en op het gebied van toegankelijkheid, brengt ze ook cyberbeveiligingsrisico’s met zich mee naar nieuwe domeinen. Gecompromitteerde systemen kunnen immers ongeautoriseerde acties mogelijk maken via de neurale interface van de gebruiker, zoals het onderscheppen van signalen, het manipuleren van apparaatreacties of het misbruiken van het verband tussen intentie en uitvoering. Hierdoor strekken de beveiligingsrisico’s zich uit van digitale infrastructuur tot fysieke systemen en menselijk handelen.
“Hoewel cognitieve AI zich nog in een vroeg stadium bevindt en nog lang niet op grote schaal wordt toegepast, ontwikkelt het zich snel”, aldus Noushin Shabab, hoofdbeveiligingsonderzoeker bij het Kaspersky Global Research and Analysis Team. “Naar verwachting zullen geavanceerde modellen voor mens-AI-interactie de komende decennia aanzienlijk gangbaarder worden. Naarmate de toepassing toeneemt, nemen ook de bijbehorende risico’s toe – en wanneer dat gebeurt, moeten we voorbereid zijn.”
Het aanpakken van deze uitdagingen vereist proactieve samenwerking tussen de cybersecuritygemeenschap, AI-ontwikkelaars, wetenschappers en beleidsmakers. Zoals Teresa Potenza, journalist en docent verantwoordelijke AI die het onderwerp op de conferentie behandelde, uitlegt: “Het echte risico van cognitieve AI is dat het onze geest vormt, stilletjes en op grote schaal. We hebben geleerd dat systemen die geoptimaliseerd zijn voor interactie het beoordelingsvermogen ondermijnen. Daarom is regelgeving nu een verdediging van de menselijke autonomie – maar het kan de cognitieve AI niet bijbenen als het zich alleen richt op wat deze systemen vandaag de dag doen. We hebben één afdwingbaar principe nodig: technologie moet de mens dienen, niet andersom. Autonomie is niet alleen een privacykwestie. Het is een democratiekwestie.”
