Masterclass GenAI: Van onwetendheid naar optimale inzet – het bewust gebruik van een LLM

𝘓𝘢𝘳𝘨𝘦 𝘓𝘢𝘯𝘨𝘶𝘢𝘨𝘦 𝘔𝘰𝘥𝘦𝘭𝘴 hebben beperkingen rondom cijfers en berekeningen. Wanneer is het écht zinvol om ze in te zetten? En hoe voorkom je misinterpretaties? Sjors Lockhorst, AI Engineer en master in Artificial Intelligence, onthult tijdens 𝐅𝐌 𝐃𝐚𝐠 𝟐𝟎𝟐𝟓 ‘𝐓𝐡𝐞 𝐓𝐢𝐩𝐩𝐢𝐧𝐠 𝐏𝐨𝐢𝐧𝐭’ op een toegankelijke manier waarin LLM´s uitblinken en waar je juist voorzichtig moet zijn. Schrijf je nu in voor de Masterclass: Van onwetendheid naar optimale inzet – het bewust gebruik van een LLM.
Is het heel dom om te vragen wat LLM’s nu eigenlijk zijn?
“Nee, het is een goede vraag om te stellen. Want er wordt veel gesproken en geschreven over AI, maar je merkt dat er desondanks nogal wat misverstanden en onduidelijkheden bestaan.
Een LLM is een Large Language Model – letterlijk: een groot taalmodel – een gigantisch taalmodel dat getraind is om een volgend woord te voorspellen. Wat het gigantisch maakt, is de hoeveelheid data, en de grootte van het model. We hebben het dan over bijna alle data die online beschikbaar is. Het model zelf bestaat uit miljarden/triljarden parameters, kommagetallen die het gedrag van het model bepalen. Clusters van zulke parameters worden ook wel ‘neuronen’ genoemd, vernoemd naar neuronen uit ons brein, waar ze hun originele inspiratie aan te danken hebben.
In mijn masterclass leg ik uit hoe LLM’s woorden omzetten naar getallen – en die getallen weer terug omzetten naar woorden. Computers kunnen in principe geen berekeningen maken met woorden, dus alles moet vertaald naar getallen. Nieuwere modellen kunnen steeds dieper doordringen in taalpatronen. LLM’s kunnen ook steeds creatiever omgaan met taal.
Vaak horen wij van CFO’s dat alles tegenwoordig wordt verkocht als AI, terwijl sommige tools gewoon neerkomen op ouderwetse automation en robotics
“Daar hebben ze gelijk in. Het woord AI is een inherent relatieve term. In feite is AI niet meer en niet minder dan: computerprogramma’s die slimme dingen kunnen doen. Maar de definitie verandert continu omdat het steeds verandert wat wij als mens ‘slim’ vinden.
Veel mensen gebruiken het woord AI nu en bedoelen dan LLM’s en chatbots. Maar AI bestaat al sinds de jaren ‘50. Wat vroeger ‘AI’ was, wordt nu gewoon geen AI meer genoemd. In de jaren ’90 waren ‘expert systems’ de rage. Systemen waar de logische gevolgtrekking van experts in computers gevangen werden. Dat werd toen AI genoemd. Toen hebben we een ‘AI winter’ doorgemaakt, een periode waarin de aandacht voor AI verslapte omdat deze ´expert systems´ toch niet zo goed werkten als iedereen hoopte.
Nu is de GenAI hype heet. Waardoor veel methodes die nu voelen als ‘old school statistiek’, of als ‘een klassiekes methodes uit de robotica’, worden gemarket als AI.
Veel CFO’s vinden het ook lastig om AI toe te passen in Finance. Terecht?
“Ook dat snap ik. Men doet vaak alsof AI overal goed voor is. LLM’s zijn niet direct goed in het maken van complexe berekeningen. Net als wij mensen, hebben ze hier een externe tool voor nodig, bijvoorbeeld een rekenmachine. Ik heb vrienden in de bankenwereld en consultancy en hoor weleens verhalen over hoe allerlei gehallucineerde getallen zomaar terechtkomen in directiepresentaties. Dan blijkt dat iemand een Excel bestand in een GenAI tool heeft gestopt die toen allerlei getallen is gaan bedenken. Het is belangrijk om te begrijpen dat LLM’s een tekst genereren die het meest waarschijnlijk is, maar niet per definitie correct of waar.”
Waarom zijn LLM’s zo onhandig met cijfers?
“Een LLM is een taalmodel, dat rekent om het volgende woord te voorspellen. Maar het is geen rekenmachine die sommen of formules kan oplossen. Als je een sequentie van woorden hebt, voorspelt hij telkens het volgende woord. Maar heb je een rekensom die lang genoeg is, dan is de kans groot dat hij nooit eerder op het internet heeft gestaan. Het is niet het juiste model voor berekeningen omdat het internet simpelweg een database is met taal, niet met rekensommen.
Wat je sommige LLMs wel kan laten doen, is een tool laten gebruiken, zoals een stukje code schrijven en uitvoeren, of een rekenmachine gebruiken. De LLM laat de berekeningen dan doen door een extern systeem – en vertelt jou simpelweg alleen de output.
Wat kun je als CFO of Financial doen in voorbereiding op je Masterclass?
“Ik ga er vanuit dat veel CFO’s het gevoel hebben dat ze van hun omgeving ‘iets moeten doen met AI’ – maar niet altijd goed overzien wat precies kan en niet kan. Dus ik zou ze willen oproepen om hun vraag vooraf door te sturen – zo concreet mogelijk – zodat ik hem mee kan nemen in mijn presentie en op FM Dag kan zeggen of AI hen ermee kan helpen – of niet. Mijn missie is om zo goed mogelijk uit te leggen wat AI modellen kunnen, dat Financials zelf gaan snappen wat ze kunnen met LLM’s en wat niet.”