Het ethisch evenwicht tussen innovatie en de AI-verordening

Tekst: Marc Engel, Partner Digital Transformation & IT Consulting bij Mazars

Technologieën zoals AI worden binnen organisaties ingezet om bedrijfsprocessen efficiënter in te richten. Het gebruik van deze technologieën brengt veel voordelen met zich mee, maar kent ook uitdagingen. Het oplossen van AI-gerelateerde uitdagingen is een gezamenlijke inspanning van CFO’s, CTO’s, technische experts, juridische teams en innovatie-aanjagers. Samen ontwikkelen zij beleid, beoordelen zij risico’s en vinden zij de juiste balans tussen technologische vooruitgang en ethisch verantwoordelijk gebruik van AI. Het is essentieel om een holistische benadering te hanteren om de kansen en risico’s van AI te begrijpen en te beheren.

Datakwaliteit is belangrijk voor de implementatie van AI

Bij het implementeren van AI staat de CFO voor een tal aan overwegingen. Een cruciale factor is bijvoorbeeld de datakwaliteit. AI is sterk afhankelijk van de beschikbare data om AI-modellen te trainen. De CFO moet er daarom voor zorgen dat de data die wordt gebruikt – dus ook de historische data – nauwkeurig, betrouwbaar en relevant is. Slechte data kan leiden tot onnauwkeurige resultaten en beslissingen. Hier geldt het principe van ‘garbage in, garbage out’.
Daarnaast moet ook de privacy van gevoelige (financiële) informatie worden gewaarborgd. De overweging die de CFO hier moet maken is of er gebruik wordt gemaakt van open source platformen zoals Falcon of Llama, of kiest voor proprietary AI, wat inhoudt dat deze wordt ontwikkeld en eigendom is van het bedrijf. Aan beide keuzes zitten diverse voor- en nadelen op het gebied van transparantie, veiligheid, support en kosten. Kies wat het beste bij uw organisatie past of laat u adviseren.

Ethische en verantwoordelijkheidskwesties

CFO’s moeten zich ook bewust zijn van ethische en verantwoordelijkheidskwesties. AI kan implicaties hebben voor eerlijkheid en bias, waardoor het essentieel is om transparantie en eerlijkheid in het proces te waarborgen. Het is de verantwoordelijkheid van de CFO om ervoor te zorgen dat de AI-systemen geen biases bevatten die kunnen leiden tot oneerlijke resultaten. Het is dus erg belangrijk om een beleid op te stellen rondom het gebruik van AI waarbij er rekening wordt gehouden met eerlijkheid, non-discriminatie en andere ethische aspecten.
Bij het inrichten van een proces moet ook voldoende menselijke controle worden ingebouwd. Dit is cruciaal voor het waarborgen van ethische AI. Op deze manier wordt er niet volledig vertrouwd op de output vanuit AI, maar gaat er altijd een menselijk oordeel overheen. Met een juist AI-beleid zal de organisatie ook voldoen aan relevante regelgevingen zoals de AI-verordening van de EU.

Om toepassingen van AI goed te implementeren in de organisatie, moeten de gebruikte algoritmen en modellen zorgvuldig worden gemonitord en continu worden verbeterd. Dit geeft ook garantie op eerlijke en ethische resultaten. Voor extra garantie en waarborging zijn AI-experts van belang. Neem hiervoor AI-experts aan of school interne werknemers bij.
Daarnaast moet het menselijk oordeel een onderdeel blijven van de financiële processen. AI moet beschouwd worden als een nieuwe collega met wie u samenwerkt en ervoor zorgt dat het werk verbetert. Deze nieuwe collega moet ook ingewerkt worden. De juiste toepassing van AI stelt medewerkers in staat om bijvoorbeeld betere beslissingen te nemen en risico’s te beheersen naar aanleiding van een voorspelling over de toekomstige financiële resultaten door AI. Tenslotte dient de juiste persoon te worden geselecteerd om de implementatie van AI te leiden. Deze leider moet een sterke basis hebben in zowel financiële analyse als datakennis.

AI use cases

Om het gebruik van AI binnen financiële processen te introduceren dienen CFO’s samen te werken met de Chief Technology Officer (CTO’s), innovatie-aanjagers en de werknemers op de vloer, om zo een duidelijke AI-strategie te ontwikkelen en de juiste tools te selecteren, een zogenoemde ‘center of excellence’. Gezamenlijk kunnen zij de richtlijnen definiëren voor het gebruik van AI en is het mogelijk om te experimenteren met de toepassingen van AI, de AI use cases.
Hiervoor zijn de randvoorwaarden dat de werknemers de juiste skills hebben, dat de data van de organisatie op orde is – en dat er een bestaande applicatie is die het experimenteren met en toepassen van AI toestaat in de dagelijkse werkzaamheden. Binnen de center of excellence kunnen de AI use cases met een multidisciplinair team worden beoordeeld om de impact en de vervolgstappen vast te stellen.

Het implementeren van AI komt met uitdagingen voor de CFO. Door vroegtijdig te starten met kleine projecten waarbij AI kan worden gebruikt, is het voor de CFO makkelijker om oplossingen te vinden voor deze uitdagingen. Tegelijkertijd is het belangrijk om ervoor te zorgen dat de correcte data wordt gebruikt voor het trainen van de AI-modellen. Als organisaties dit niet doen, kunnen zij achterblijven op concurrenten, reputatieschade oplopen, of zelfs juridische problemen krijgen.
Organisaties die AI inzetten, behalen een technisch concurrentievoordeel doordat taken tussen werknemers en AI worden verdeeld en elke taak wordt uitgevoerd door diegene die daar het meest geschikt voor is. Daarnaast is het uiteraard van belang om aandacht te besteden aan de naleving van de regelgeving zoals de AI-verordening. Zo zorgt u ervoor dat uw organisatie voorbereid is op toekomstige wettelijke vereisten en bent u een stap verder dan uw concurrenten.

Meer weten over betrouwbare en kwalitatieve ESG-data? Neem dan contact op met Marc Engel, Partner Digital Transformation & IT Consulting bij Mazars via e-mail of per telefoon: +31 (0)88 277 18 43.