EY verwijst naar de wereldwijde organisatie en kan verwijzen naar een of meer van de lidfirma's van Ernst & Young Global Limited, die elk een afzonderlijke juridische entiteit zijn. Ernst & Young Global Limited, een Britse vennootschap met beperkte aansprakelijkheid, verleent geen diensten aan cliënten.
Hoe EY kan helpen
-
Wij adviseren mensgericht, pragmatisch, resultaatgericht en ethisch over de toepassing van kunstmatige of of artificiële intelligentie (KI/AI).
Lees meer
Hoewel de wetgeving niet direct zal helpen bij het bestrijden van AI-gerelateerde fraude, is het belangrijk om te weten wat je organisatie doet. Bernadette: “Frauderisicomodellen worden niet beschouwd als hoogrisicosysteem, wat betekent dat de impact op van AI Act op deze modellen beperkt is. Responsible AI bekijk ik vanuit de drie R's: Regulation, Reputation en Realisation. Regulation gaat over de AI Act in Europa, Reputation over ethiek en de risico's voor individuen, en Realisation over de waarde die AI kan toevoegen aan een organisatie.
Als we kijken naar de enquêtevragen aan het publiek over de toename van fraude door AI binnen organisaties, lijkt het risico onderschat te worden. Met de komst van GenAI wordt het makkelijker om fraude te plegen, zoals het genereren van gepersonaliseerde phishingmails. Dit verhoogt de kans op succes en dus de return on investment voor criminelen. Accountants zijn continu bezig met het uitbreiden van hun controle met AI om AI-risico's te bestrijden en patronen te analyseren. Bij EY is er aandacht voor AI en het belang van de menselijke factor. Kennisvergroting en het helpen genereren van de beste output zijn cruciaal. De mens moet de laatste controle uitvoeren.
Het belang van het bijscholen van medewerkers, in combinatie met de inzichten uit onze wereldwijde controles, biedt onze organisatie de mogelijkheid om de kwaliteit van onze audits aanzienlijk te verbeteren. Door de toevoeging van sector- en industrie-expertise en de ervaring van mensen die bekend zijn met de branche, zijn we nu in staat om veel effectievere controles uit te voeren dan tien jaar geleden. Dit vertegenwoordigt een enorme kans voor ons en stelt ons in staat om diepgaandere vragen aan onze klanten te stellen.”
Inzicht in AI-activiteiten
Identiteits- en toegangsbeheer, ofwel wie toegang heeft tot welke systemen, is geen nieuw vraagstuk, maar door AI komen zowel nieuwe als bestaande risico's aan het licht. Organisaties moeten zich bewust zijn van hun huidige maatregelen en wat er mogelijk extra nodig is. Eenvoudige oplossingen zoals tweefactorauthenticatie kunnen veel problemen en fraude voorkomen, ondanks de wens voor gebruiksgemak en snelle toegang. Bernadette: “AI is een multidisciplinair thema dat alle facetten van een organisatie raakt, van data en IT tot wetgeving, compliance en juridische aspecten. Het is cruciaal om AI-gerelateerde fraude vanuit verschillende invalshoeken aan te pakken, bijvoorbeeld via een multidisciplinaire AI board of ethics board die AI-initiatieven beoordeelt. Organisaties moeten goed begrijpen hoe ze AI inzetten en dit continu monitoren, gezien de snelle ontwikkelingen en de verschillende rollen binnen de AI-wetgeving, zoals ontwikkelaar of gebruiker. Inzicht in de eigen AI-activiteiten is ontzettend belangrijk.
Bij de komst van de AI-act is het tijd om actie te ondernemen en de impact op je organisatie te beoordelen. Vaak is er al een goede governancestructuur aanwezig. Het is belangrijk om te identificeren waar de tekortkomingen liggen en wat er nog moet gebeuren. Inventariseer wat je organisatie al doet en bouw hierop voort om zowel nieuwe risico's als kansen te integreren. Je hoeft niet vanaf nul te beginnen, maar het is essentieel om nu te onderzoeken welke stappen je moet zetten. Het is cruciaal dat de verantwoordelijkheid voor AI vanuit de top van de organisatie, zoals de raad van commissarissen, wordt genomen. Het belangrijkste is hoe je reageert op onvoorziene gebeurtenissen; een volledige voorbereiding is niet mogelijk. Focus op de toekomst, leer van ervaringen en zorg voor een snelle reactie.
Het is essentieel om onze 'AI-antenne' te verfijnen, wat inhoudt dat we kritisch moeten beoordelen of we de informatie die we ontvangen kunnen vertrouwen. Als bestuurders, die constant beslissingen nemen, moeten we waakzaam zijn voor de betrouwbaarheid van de aangereikte data: is het waar of niet? Deze kritische houding is niet alleen belangrijk voor onszelf, maar ook iets om te delen en te benadrukken binnen onze organisaties. Het menselijke element is onmisbaar naast AI, dat zowel fraude kan bestrijden als waarde kan toevoegen. Het is een tijdperk van kansen, maar ook van waakzaamheid en verantwoordelijkheid.”