Personeel OpenAI bezorgd over risico’s kunstmatige intelligentie

Werknemers van OpenAI hebben een open brief gepubliceerd waarin ze hun zorgen uiten over de snelle ontwikkeling van kunstmatige intelligentie. Ook willen zij dat er een wet komt die klokkenluiders in de AI-industrie beter beschermt.

• Werknemers van OpenAI uiten zorgen over snelle AI-ontwikkeling en pleiten voor betere klokkenluidersbescherming door ernstige, onderbelichte risico’s en zwakke informatieverplichtingen.
• De brief bekritiseert geheimhoudingsovereenkomsten en onvoldoende klokkenluidersbescherming voor niet-gereguleerde AI-risico’s.
• Tijdens CFO Day 2024 waarschuwde Otto Barten voor existentiële risico’s van superintelligente AI, die onvoorspelbaar gedrag kan vertonen met catastrofale gevolgen.

De brief is ondertekend door zowel huidige als voormalige werknemers van OpenAI. Aan de AI-technologieën kleven volgens hen “ernstige risico’s” die onderbelicht blijven, omdat bedrijven “momenteel slechts zwakke verplichtingen hebben om deze informatie te delen”. AI-bedrijven hebben volgens de ondertekenaars van de open brief “sterke financiële prikkels om effectief toezicht te vermijden”. [Het artikel gaat verder na de volgende alinea]

Werknemers zijn nu gebonden aan geheimhoudingsovereenkomsten. De huidige klokkenluidersbescherming is volgens de schrijvers van de brief ontoereikend “omdat die gericht is op illegale activiteiten, terwijl veel van de risico’s waarover we ons zorgen maken nog niet gereguleerd zijn”.

Sessie op CFO Day over existentiële risico’s van AI

Tijdens CFO Day 2024 vond een bijzondere sessie plaats over deze risico’s. Otto Barten (Existential Risk Observatory) stelde dat, de AI van vandaag, zoals chatbots en geavanceerde data-analyse tools, slechts een voorproefje zijn van toekomstige superintelligente systemen die mogelijk onze eigen intelligentie zullen overtreffen. De potentie van AI om menselijke intelligentie te evenaren en zelfs te overtreffen, is niet namelijk niet langer science fiction.

Een van de grootste gevaren van AI en deze ‘superintelligentie’ is het risico dat het op termijn niet meer goed afgestemd kan worden op onze menselijke bedoelingen. AI kan gedrag gaan vertonen dat buiten onze verwachte – en voor mensen zichtbare en begrijpelijke – parameters valt, onze doelen verkeerd interpreteren of zelfs veranderen. Dit kan leiden tot catastrofale situaties waarin AI zichzelf kopieert, hackt, wapens gebruikt, of financiële instellingen infiltreert om zijn eigen gecreëerde doelen te bereiken.

Lees het hele verslag over de sessie van Otto Barten en hoe het existentiële risico van AI beperkt kan worden: CFO Day 2024: hoe voorkomen we dat AI een existentiële bedreiging wordt voor de mens?