Aaron Mirck: “CFO’s moeten gaan nadenken over hun digitale CO2-uitstoot en de rol van AI daarin.”

Aaron Mirck werkte in een vorig leven bij tech-bedrijven als AMS-IX en Inner Circle. Ook was hij founder/CEO van de tech-startup Presscloud. Steeds vaker verbaasde hij zich over de impact van technologie op de maatschappij. Hij gooide het roer om en sindsdien is hij schrijver en spreker over de impact van technologie. CFO.nl interviewde hem over zijn nieuwe boek: ‘AI, voorbij de hype. Ontdek hoe het echt zit met kunstmatige intelligentie.’

In je boek bespreek je verschillende soorten impact die AI kan hebben op bedrijven. Maar wat is volgens jou de grootste impact die AI heeft op CFO’s?

Eén van de zaken die door CFO’s vaak over het hoofd gezien wordt is dat AI voor ontzettend veel CO2 uitstoot zorgt. AI is afhankelijk van data en het verwerven, opslaan en verwerken van data kost stroom. Véél stroom. Ons digitale leven is nu al goed is voor zo’n vier procent van alle CO2-uitstoot en daarmee even vervuilend als de luchtvaart. Onderzoekers becijferen dat digitale technologie uiteindelijk verantwoordelijk gaat zijn voor veertien procent van alle CO2-uitstoot. We zijn allemaal bekend met de term ‘vliegschaamte’, het schuldgevoel dat we moeten hebben als we het klimaat vervuilen met een vliegreis. Zouden we daar data- en AI-schaamte aan toe moeten voegen? Daar heeft het in elk geval alle schijn van.

Het trainen en gebruiken van generatieve AI-tools zorgt voor gigantische hoeveelheden CO2-uitstoot. Om ChatGPT-3 te trainen werd zo’n 700.000 liter schoon drinkwater gebruikt en 1287 MWh aan energie, evenveel als 5500 Nederlandse huishoudens in één maand verbruiken. Het trainen van deze (inmiddels verouderde) AI zorgde ook nog eens voor zo’n 500 ton CO2-uitstoot, evenveel als duizend auto’s die duizend kilometer rijden.

Ook lid worden van het CFO.nl Panel?

Als betrokken CFO kun je samen met vakgenoten invloed uitoefenen op de toekomst binnen jouw sector. Bespreek belangrijke trends, ontwikkelingen en strategieën tijdens onze online CFO.nl Panels. Geïnteresseerd in kosteloze deelname? Bezoek CFO.nl/panel voor meer informatie en sluit je aan.

Ja, ik meld me aan

Tegen 2027 zou alleen al ChatGPT evenveel stroom gebruiken als heel Nederland. Zelfs als de stroom die AI-tools nodig zouden hebben helemaal groen zou zijn, dan zou dat nog steeds problematisch zijn. Dat beschrijft Benedetta Brevini in het door Nature geprezen boek ‘Is AI Good for the Planet?’. Ze plaatst het gebruik van AI lijnrecht tegenover het laten slagen van de klimaatambities. Zelfs als de stroom die AI gebruikt groen zou zijn, dan gaat dat ten koste van andere zaken waar groene stroom voor nodig is. AI gaat bovendien gebruikt worden om ons nog meer spullen te laten kopen die we eigenlijk niet nodig hebben, wat ook niet bepaald goed is voor het milieu.

De vraag is hoe dit straks gaat terugkomen in de jaarrekening die de CFO moet gaan maken? Grote bedrijven moeten in hun jaarverslag steeds nauwkeuriger rapporteren wat hun uitstoot is. Daarom is het tijd dat CFO’s gaan nadenken over hun digitale CO2-uitstoot en de rol van AI daarin. Dat betekent wel dat AI-bedrijven als Microsoft en OpenAI transparanter moeten zijn over hun energieverbruik. Alleen als ze laten weten wat elke opdracht aan CoPilot of ChatGPT voor klimaatimpact heeft, valt dit goed te rapporteren.

Kun je hier wat cijfers over geven? Om hoeveel CO2-uitstoot gaat het, als je het hebt over een eenvoudige opdracht om AI een opzet te laten schrijven voor een samenvatting van een dik rapport?

Geschat wordt dat elke opdracht aan ChatGPT voor 4 gram CO2-uitstoot zorgt, evenveel als de productie van een plastic tas. Wie tussen de 20 en 50 vragen aan ChatGPT stelt, zorgt dat er een halve liter water verloren gaat. Maar het hangt dus af van de hoeveelheid opdrachten en de rekenkracht die er nodig is om het rapport samen te vatten – en hoeveel extra opdrachten – prompts – er nodig zijn. De vraag is of het problematisch is dat er een enkel rapport wordt samengevat met AI. Zorgwekkend is dat generatieve AI in bijna elke vorm van kantoor-software zit en het gebruik ervan door het dak schiet. Dat heeft serieuze gevolgen voor het klimaat. De vraag is dus hoe intelligent het massaal inzetten van generatieve AI is.

Leadership in Finance Summit 2024: AI makes you do it!

Bepaal jij wat AI voor je doet, of bepaalt AI straks wat jij zult doen? Kom hierover in gesprek op 7 november met 300 vakgenoten en experts tijdens Leadership in Finance Summit 2024 in Amersfoort. Meld je nu gratis aan en ontdek hoe AI jouw rol van finance leader herdefinieert.

Ja, ik meld me aan

En hoe verhoudt zich dit tot de CO2-uitstoot die de afgelopen jaren is veroorzaakt door allerlei digitaliseringsprocessen in de cloud? Wordt dat inmiddels al teruggezien in jaarrekeningen?  

Nu ben ik geen CFO die jaarrekeningen maakt, dus voel ik me niet comfortabel om hier antwoord op te geven. Ik heb verstand van AI, niet van jaarrekeningen. Wat ik wel kan zeggen: het ingewikkelde is dat we de cloud niet associëren met CO2-uitstoot, omdat het woord ‘cloud’ verhullend werkt: het wekt de indruk van een gewichtloosheid. Maar data wordt opgeslagen in datacenters, die in de fysieke wereld bestaan – en allesbehalve licht zijn. Een betere term voor ‘cloud’ zou dan ook zijn: een datahotel. En net zoals een normaal hotel, gebruikt een datahotel stroom en zorgt het voor uitstoot. Het zou ook een aanmoediging kunnen zijn om terughoudend te zijn met het verzamelen en verwerken van data, waar wetgeving steeds meer op aanstuurt. Hoe minder kamers je in dit datahotel nodig hebt, hoe minder kostbaar het is.

Maar AI levert natuurlijk niet alleen uitstoot op, maar ook tijdwinst. Als je kijkt naar specifiek de mogelijkheden die AI biedt aan het Finance team van de CFO, waar zie je dan kansen?

Praten met je spreadsheets is een aardig voorbeeld van hoe AI informatie ontsluit op een toegankelijke manier. AI-tools zijn goed in het analyseren van data en dankzij de LLM – large language models – is de technologie in staat om ook via tekst te communiceren. Formula Bot is zo’n tool.

De vraag die je als CFO moet stellen is dan wel: hoe zorg je ervoor dat je collega’s in staat zijn om zelf inzichten uit data te vergaren? Accountants maken bijvoorbeeld al veel langer gebruik van software die ze ondersteunt. Maar hoe meer software kan, hoe minder vaardigheden de mens hoeft over te houden. Het risico bestaat dat professionals afhankelijk worden van technologie. Zo kunnen we steeds minder goed zelf de weg vinden en holt ons taalgevoel achteruit, omdat we gebruikmaken van tools als Google Maps en autocorrect die ons daarbij helpen. Zie professionele vaardigheden dus als een spier die je moet blijven trainen.

Daarbij zou je je moeten afvragen of je AI alleen maar gebruikt om kosten te besparen, of ook om nieuwe dingen te doen. Dat noemen ze in de vakliteratuur het verschil tussen automation en augmentation.

Stel je voor dat Jeff Bezos boekwinkels had ‘geautomatiseerd’ door medewerkers te vervangen door robots. Dat had kosten bespaard, maar het had niet zoveel impact gemaakt als het huidige Amazon dat de boekenmarkt, helaas, voorgoed veranderde. Amazon bood de lezer onder meer automatisch persoonlijke aanbevelingen, iets wat offline boekwinkels niet lukte. Amazon koos voor augmentation in plaats van automation.

Ook is het belangrijk om ervoor te zorgen dat collega’s op de hoogte zijn wat betreft de risico’s van het werken met AI. Als CFO wil je niet dat AI per ongeluk allerlei gevoelige informatie online zet.

Lees ook op CFO.nl: Jurriaan Pouw (CFO van HEMA): “Altijd een leuk gesprek als je op een feestje vertelt dat je voor HEMA werkt.”

Is dat wel eens gebeurd?

Een lek van belangrijke gegevens ligt altijd op de loer. Een afdeling van Samsung in Zuid-Korea deelde gevoelige informatie met de openbare tool van ChatGPT. Niet heel handig voor een technologiebedrijf dat met patenten werkt en code geheim probeert te houden.

Waar je misschien niet bij stilstaat als CFO, is dat ChatGPT bijhoudt wat je in de chat typt, waar je je bevindt en welke websites je nog meer bezoekt. Die informatie kan het verkopen aan andere partijen, zoals bedrijven die je willen bestoken met advertenties. Het is onduidelijk of de informatie die ChatGPT over je verzamelt verdwijnt als je je account opheft. Europese landen nemen deze privacy-zorgen serieus. In Italië is ChatGPT om deze redenen verboden geweest en de Franse toezichthouder doet onderzoek naar ChatGPT, omdat de tool niet in overeenstemming zou zijn met privacywet General Data Protection Regulation (GDPR). Spanje heeft de Europese Raad voor Gegevensbescherming gevraagd om onderzoek te doen naar de privacy-problemen van ChatGPT. Nederlandse ambtenaren mogen in de toekomst mogelijk geen gebruik meer maken van generatieve AI-tools als ChatGPT en Midjourney, omdat deze generatieve AI-tools vermoedelijk niet voldoen aan de privacyregels die gelden voor overheidssoftware.

Zoals bij alle techniek bestaat er ook bij AI het risico dat je er als bedrijf te afhankelijk van wordt.

Precies. Als CFO moet je bij alle diensten die je afneemt oppassen voor een zogenoemde vendor lock-in. Je primaire of strategische processen wil je idealiter niet beleggen bij externe partijen. En dat wil je al helemaal niet als die partijen op termijn een monopolie kunnen krijgen. Dat geeft ze ongebreidelde macht over proposities en prijzen. Het doet denken aan de manier waarop veel bedrijven afhankelijk zijn geworden van social media om hun fans of klanten te bereiken. Nu veel marketingafdelingen aan Google- en Facebook-advertenties verslaafd zijn geraakt, stijgen de prijzen. Dat is geen toeval. Laten we ervoor waken dat we niet nog eens dezelfde fout maken.

Ook lid worden van het CFO.nl Panel?

Als betrokken CFO kun je samen met vakgenoten invloed uitoefenen op de toekomst binnen jouw sector. Bespreek belangrijke trends, ontwikkelingen en strategieën tijdens onze online CFO.nl Panels. Geïnteresseerd in kosteloze deelname? Bezoek CFO.nl/panel voor meer informatie en sluit je aan.

Ja, ik meld me aan