Wetgeving rondom gebruik A.I. is hot topic

Alex van Groningen · Nut en noodzaak van wetgeving rondom A.I., slimme algoritmes en Data Analytics.

In de CFO Podcast van Alex van Groningen een tweede gesprek tussen Anna-Bo Bouwens en Antje Kuilboer-Noorman over artificiële intelligentie, slimme algoritmes of ook wel data-analyse. Antje bekleed vele functies, onder andere die van meervoudig commissaris, econoom, jurist, innovator, trusted advisor voor familiebedrijven, docent, interim-bestuurder en dan is nog niet alles opgenoemd. Als jurist en innovator vertelt Antje over dit onderwerp.

Lees/luister hier de eerste podcast: Toezichthouden en de rol van de commissaris

Antje: “Het is een hot topic. In februari dit jaar is een witboek uitgegeven door de Europese Commissie met betrekking tot richtlijnen en regelgeving omtrent het gebruik van kunstmatige intelligentie. Het nieuws is een beetje ondergesneeuwd door de pandemie, maar gek genoeg valt het daar ook mee samen. Deze week, bijvoorbeeld, werd in het nieuws de vraag gesteld of de wiskundige modellen en de datasets van het RIVM wel geschikt, transparant en auditeerbaar genoeg zijn om tot de uitkomsten te komen waar onze regering vervolgens haar beslissingen op baseert. Wetgeving en waarborging rondom het gebruik van A.I. is een hot topic. Voor mij als jurist, betrokken bij innovatie en betrekken bij de controle van de toekomst, is dat enorm interessant. De wetgeving rondom A.I. is nog in ontwikkeling.”

Wat kan je zeggen over datasets?
“De herkomst van de data moet betrouwbaar zijn, moet ook niet met een bias verzameld zijn, want op het moment dat je data verzameld met een bias, dus met een vooringenomenheid of een vooroordeel, dan heb je eigenlijk, voordat de formule erop losgelaten is, een niet objectief iets ingebracht in je dataset. Daar begint de ingewikkeldheid al.

Worden datasets onder toezicht gesteld? Zijn daar al regels voor?
“Er zijn inmiddels regels en richtlijnen in de maak. Op Europees niveau wordt er inmiddels wel redelijk duidelijk gemaakt wat er nodig is om kunstmatige intelligentie veilig toe te passen en dat is natuurlijk ook nodig, want anders wordt er ‘gecowboyd’ met schade tot gevolg voor mensen en voor onze samenleving. Een aantal van die regels zijn transparantie, toetsbaarheid, uitlegbaarheid, verantwoording afleggen, validatie, auditeerbaarheid, rechtsbescherming. Dat is een hele waslijst en daar is heel uitgebreid, door heel veel mensen, aan gewerkt.

Je kan het een beetje vergelijken met de situatie omtrent privacy. Daar werd ook heel veel vanuit de verschillende maatschappijen en samenlevingen om geroepen: “Onze privacy moet beschermd worden.” Daar was ook een behoefte aan. Er werd ook privacy geschonden en dat heeft zich inmiddels ontwikkeld tot onze AVG en dat is ook eerst op hoog niveau, vanuit zo’n samenwerking als wij in Europa hebben, voorgesteld. Het is natuurlijk een enorm hoofdstuk dat in onze technologische, social media en online wereld, is ontstaan.”

Moeten er op een gegeven moment rechters komen die toch meer verstand gaan hebben van IT?
“Zeker. Inmiddels heb je natuurlijk ook, zoals je specialisten hebt in privacywetgeving en specialisten in intellectuele eigendommen, ook rechters met een dergelijke specialisatie. We hebben natuurlijk de gewone verdeling van het bestuursrecht, het arbeidsrecht, het strafrecht, het verbintenissenrecht en het bedrijfsleven, we hebben nu al een specialisatie onder ons gilde aan rechters. Met de vlucht die AI gaat nemen en het stuk additionele wetgeving wat hieromheen gaat komen de komende jaren, denk ik: dat kan niet uitblijven. Het is zo’n complex veld. Dat moet wel.”

En vind je de manier hoe de overheid er nu mee omgaat, dus het bezig zijn met die wetgeving en de vorming van de wetgeving, ook toereikend?
“Het is zoekende. Europa wil echt voorloper in de wereld zijn op gebied van veilig toegepaste AI. Daar denken ze in Azië en China natuurlijk heel anders over en in Amerika, in ieder geval onder Trump, ook. Dus wat dat betreft, voor veilig AI-gebruik is er veel aan de hand. Het uitwerken van die wetgeving, wat er dan additioneel moet worden gemaakt aan wetgeving, bijvoorbeeld voor ons in Nederland, daar is de overheid zeker wel mee bezig. Als je de kabinetsreacties en de stukken leest die daarover beschikbaar zijn, dan zie je dat daar al heel diep over nagedacht wordt. Er zijn prachtige papers over te vinden, waarbij je echt heel veel kennis opdoet, om iets beter te begrijpen hoe dit in elkaar steekt. De overheid heeft het zelf ook echt nodig, dat zij dit voldoende kunnen waarborgen. Want zij heeft zelf ook behoefte aan het kunnen gebruiken van geautomatiseerde data-analyse, bij de Belastingdienst, bij Defensie, in de zorg, in het onderwijs. Er is echt behoefte aan. Er gaat ook een heleboel mee mis, hè? Denk maar even aan de kinderopvangtoeslagen…”

Heb je nog woorden voor de financials, over hoe zij er nu, nu die wetgeving er toch nog niet is, mee om kunnen gaan?
“Ik zou zeker het witboek van de Europese Commissie lezen, zodat je ook in het gesprek met je technologische cliënten, die met dit soort dingen bezig zijn, op hetzelfde niveau het gesprek aan kunt gaan. Het zijn voor financials, voor accountants, voor controllers heel herkenbare termen. Heel veel van deze woorden zijn ook de fundamentele beginselen die hun beroepssector borgt, dus het zal hen niet ontbreken aan begrip over wat de bedoeling is, dus ik zou het zeker gaan volgen.

Ik denk dat daar ook wel kansen liggen, in het zekerheid geven over datasets, over de herkomst van de data, over de zuiverheid van de data, over de objectiviteit, schone data. Ik denk dat daar, in die pre-AI fase, dus nog voor de toepassing, ook gewoon al heel veel assurance gegeven zou kunnen worden door accountants. Daar ligt een kans, maar goed, daar wordt al zo veel over gesproken, daar zeg ik niets nieuws mee. Wellicht dat de accountant zich bezig kan houden met de datasets die in een algoritme worden gebruikt.”

Luister hier de volledige podcast.