Column & Opinie Paul Petersen

Over Paul Petersen

Sinds 2000 is Paul werkzaam voor FHI, federatie van technologiebranches.

De combinatie van maatschappelijke uitdagingen met samenwerking in bedrijfsketens en het toepassen van technologie ziet hij als een voortdurende inspiratiebron.

AI-gekte. Houd je hoofd erbij

Nederland doet volop mee in de AI-race en ziet kansen in deze technologie. Volgens Minister van Economische Zaken & Klimaat, Micky Adriaansens, zijn talent, rekencapaciteit, samenwerking én goede wet- en regelgeving noodzakelijk om deze kansen daadwerkelijk te benutten. Tegelijkertijd wordt er in de tech gemeenschap ook gewaarschuwd voor de gevaren van AI. Kunstmatige intelligentie die uitlegt waarom het bepaalde keuzes maakt pakt dit probleem aan.

Met gevoel voor understatement zegt de CEO van OpenAI, de maker van ChatGPT, ‘een klein beetje bang te zijn’ voor zijn creatie. Wetenschappers en politici zijn het met hem eens en waarschuwen dat algoritmes bol staan van shortcuts en vooroordelen. En dat is niet voor niets. Chatbots schotelen ons regelmatig onbedoelde beledigende en onjuiste informatie voor.

Google’s chatbot en afbeeldingsgenerator Gemini beloofde beterschap, maar lijkt juist té ver zijn doorgeschoten naar een inclusieve werkelijkheid. De AI-technologie is Google’s antwoord op het succes van OpenAI, maar werd al 24 uur na de lancering stilgelegd na berichten op social media over historisch onjuiste informatie. Daar werden voorbeelden gedeeld van een vrouwelijke Paus, Nazi-soldaten van kleur of Aziatische Vikingen. De bekende uitspraak ‘een AI-model is zo goed als de data die je erin stopt’ is hier van toepassing. Steeds meer wetenschappers pleiten daarom voor kleinere datasets of modellen die explainable-by-design zijn.

Tijdens FHI presents TechStories begin februari sprak Meike Nauta, senior data scientist bij Datacation, over uitlegbare AI. Zij pleit voor AI-modellen die inzicht geven in de genomen beslissingen en redeneringsstructuur van een model. Inzicht in de redenering helpt om shortcuts te vinden en het model bij te sturen indien nodig. Zonder dit inzicht verandert AI in een blackbox, waarbij niet valt te controleren welke patronen het heeft aangeleerd.

Natuurlijk biedt AI ontzettend veel kansen en Minister Adriaansens heeft groot gelijk om deze te benutten. Maar laten we vooral het hoofd erbij houden in de AI-gekte. En dan het liefst de hoofden van slimme datawetenschappers die weten wat er nodig is om verantwoorde modellen te ontwikkelen.