Ondanks dat 52% van de consumenten uit het onderzoek denkt dat ze een deepfake-video kunnen detecteren, is er een sterke kans dat dit vertrouwen misplaatst is. Igor: “De impact van dergelijke technologie op de samenleving en het bedrijfsleven is diepgaand, en naarmate het spreekwoordelijke vliegwiel van innovatie sneller draait, moeten bedrijven wendbaarder worden in het identificeren en begrijpen van deze bedreigingen. Ze moeten ook proactief technologie inzetten tegen dergelijke aanvallen, aangezien menselijke vindingrijkheid alleen onvoldoende is om het geavanceerde niveau van aanvallen dat we nu onder ogen zien te voorkomen. Bedrijven moeten wendbaar en slim zijn in het detecteren en begrijpen van deze bedreigingen, en technologie proactief gebruiken om ze tegen te gaan. We hebben technologie nodig die overeenkomt met de schaal van deze aanvallen.”
Kritisch beoordelen
Het lijkt een complex probleem, vooral omdat we een toename zien in geavanceerde fraude. Igor: “Met het huidige klimaat van misinformatie kan dit ook leiden tot vertrouwensproblemen. Als individu ben ik zeer geïnteresseerd in dit probleem. De enorme hoeveelheid data en informatie die wordt gegenereerd, vervaagt de grens tussen waarheid en onwaarheid. We zien meerdere versies van de waarheid, sommige gebaseerd op wat mensen daadwerkelijk hebben gezegd, sommige gegenereerd door AI, en allemaal onderhevig aan emotioneel geladen interpretaties. Dit leidt tot verschillende versies van de waarheid, afhankelijk van wie je het vraagt. Als bedrijfsleiders moeten we onze belanghebbenden opleiden over hoe ze informatie kritisch kunnen beoordelen. We moeten ook ons begrip van waarheid herdefiniëren in de context van deze informatie-overload.
Naarmate AI blijft evolueren en daarmee samenhangende fraude geavanceerder wordt, moeten we waakzaam en adaptief blijven. Het is essentieel om te investeren in onderwijs, geavanceerde detectietechnologieën en robuuste beleidsmaatregelen om deze risico's te beperken. We zijn in een constante race om cybercriminelen te slim af te zijn, en hoewel onze detectiemethoden vooruitgaan, houden ze geen gelijke tred met de snelle vooruitgang van door AI aangedreven bedreigingen. Terwijl we de onbekende wateren van AI bevaren, moeten we bereid zijn om de uitdagingen recht in de ogen te kijken, terwijl we de kansen die het biedt omarmen. De toekomst van AI is een canvas van onbeperkte mogelijkheden, maar het vereist een zorgvuldige en duurzame aanpak om ervoor te zorgen dat het ten goede komt aan de hele mensheid.”
Menselijke factor
Om de impact van AI op individuen te begrijpen, moeten we de mens beschermen en focussen op het benutten van AI voor kansen en het anticiperen op frauderisico's. Belangrijk is dat we mensen voorbereiden en kritisch denken stimuleren. Bernadette Wesdorp: “Het onderzoek wijst uit dat 35% van de organisaties nog geen AI inzet, terwijl anderen dit al doen voor bijvoorbeeld chatbots. Je zou verwachten dat het percentage dat AI niet gebruikt, inmiddels is gedaald, aangezien het soms onbekend is dat AI al in sommige toepassingen wordt gebruikt. Met de snelle adoptie van GenAI zal dit percentage waarschijnlijk snel dalen naar nul. Je kunt er niet meer omheen om AI te gebruiken.”
Navigeren door AI-Wetgeving
Met de komst van de AI Act uit Europa, is het tijd voor organisaties om te begrijpen wat de impact van deze wetgeving is en om een inventarisatie te maken van waar AI wordt in een organisatie wordt gebruikt. Bernadette: “Voor Europa is de tekst gepubliceerd en tegen het einde van het jaar zal de wet van toepassing zijn op systemen die echt verboden zijn. Dit betekent dat organisaties nu moeten nadenken over hun aanpak en de impact van de wetgeving.”
