Binnenkort kunnen studenten weer inschrijven voor de volgende editie van de IFFC-scriptieprijs. Een mooi moment om met de winnaar van de eerste editie van de prijs, Wessel van Zetten, terug te blikken op het afgelopen jaar.
Wessel studeerde cum laude af op zijn prijswinnende scriptie over de inzet van machine learning bij het opsporen van hypotheekaanvraag-fraude en werkt inmiddels als data scientist bij Nationale-Nederlanden. Direct na het afronden van zijn studie ging hij fulltime bij NN aan de slag en het feit dat hij zijn academische kennis nu kan toepassen in de praktijk spreekt hem erg aan: “Het bedrijfsleven loopt vaak achter op de wetenschap, en de wetgeving loopt weer achter op het bedrijfsleven. Vandaar mijn motivatie om nu al een aantal zaken recht te trekken, want je bent zomaar weer een paar jaar verder. De aanleiding voor mijn onderzoek was ook het gegeven dat er zowel bij de overheid als in de private sector veel dingen misgaan bij het gebruik van kunstmatige intelligentie. Vaak begrijpen de mensen die dagelijks met AI-gedreven modellen werken niet goed hoe die modellen precies werken en op basis waarvan een risico-inschatting wordt gemaakt.”
Meer inzicht in die processen draagt ertoe bij dat mensen risico-inschattingen ook serieuzer gaan nemen, voorspelt Wessel: “Daarom had mijn onderzoek ook twee elementen: Het ging in de eerste plaats om het interpreteerbaar maken van individuele risico-inschattingen, zodat een behandelaar kan begrijpen welke eigenschappen tot een bepaalde risico-inschatting leiden. En in de tweede plaats ging het om het ontwikkelen van een methode waarmee organisaties hun risicomodellen kunnen toetsen op eerlijkheid.”
Dat laatste is een hot issue, denk maar aan de grote maatschappelijke impact van de toeslagenaffaire. Meer inzicht leidt ertoe dat risico’s van misinterpretaties op basis van AI sneller worden onderkend. Wessel: “Het concept dat ik heb neergezet kan op allerlei criteria worden ingezet, dat gaat van regio’s met een relatief groot aantal inwoners met een niet-westerse achtergrond tot de invloed van leeftijdsgroepen of het detecteren van genderdiscriminatie.
Door de koppeling van openbare en geaggregeerde gegevens in een testset kunnen we bijvoorbeeld kijken of een model onterecht vaak een fraudeinschatting geeft voor wijken waar veel mensen met een niet-westerse achtergrond wonen.”
Uiteindelijk draait het bij het gebruik van kunstmatige intelligentie om het optimaliseren van de relatie tussen ‘mens en machine’, zegt Wessel: “De risico-inschatting van een model gaat altijd langs een behandelaar die aan de hand van de uitleg die we geven moet verifiëren of het model logische keuzes maakt. In de regels van het Verbond van Verzekeraars is ook vastgelegd dat een persoon altijd het laatste woord heeft. Er zit dus altijd een mens tussen, maar we kunnen met de juiste inzet van een AI-tool wel zaken aan het licht brengen die een schadebehandelaar normaal gemist zou hebben.”
De uitreiking van de IFFC-scriptieprijs is inmiddels ruim een half jaar geleden. Heeft Wessel nog profijt gehad van die onderscheiding? “Binnen mijn afdeling is het wel groots gedeeld”, zegt hij: “En de prijs heeft me zeker geholpen om het onderwerp ‘fairness in AI’ binnen de organisatie onder de aandacht te brengen. Daar ben ik blij mee, want dat was ook een van mijn persoonlijke doelen van het onderzoek.”
Het eerlijker maken van AI-processen blijft Wessels missie: “Ik hoop de komende jaren af te stappen van veel programmeren en een actieve bijdrage te leveren aan de ontwikkeling van dit soort tests waarmee we als organisaties en branche objectiviteit gaan toetsen. AI-tools zijn heel goed en objectief mits ze zijn ingericht op basis van objectieve waardes. Als we daar verder in professionaliseren hebben we met z’n allen ook een duidelijker beeld als er nieuwe wetgeving komt. Ik hoop dat ik daar met mijn technische en conceptuele kennis een rol in kan spelen.”