iForum-onderzoek naar uitlegbaarheid bij gebruik van AI bij banken

Dit is de belangrijkste conclusie uit het DNB-rapport “Perspectives on Explainable AI in The Financial Sector: An exploratory study between banks and supervisory authorities”. Het rapport bevat de belangrijkste observaties uit een verkennend onderzoek naar uitlegbaarheid bij AI (ook wel ‘explainable AI’ of ‘xAI’) dat DNB met de AFM, Hogeschool Utrecht, de Nederlandse Vereniging van Banken en drie Nederlandse grootbanken heeft uitgevoerd.

U kunt het rapport hieronder downloaden

Uitlegbaarheid wordt steeds belangrijker

Financiële ondernemingen maken in toenemende mate gebruik van AI om hun bedrijfsprocessen, producten en diensten te verbeteren. Denk aan controle van de identiteit van klanten, analyse van transactiegegevens, opsporing van fraude bij schadeafhandeling, prijsstelling in de obligatiehandel, automatische analyse van juridische documentatie, klantrelatiebeheer en risicomanagement. Deze toepassingen kunnen een grote impact hebben op financiële ondernemingen en hun klanten. Om die reden heeft DNB in 2019 algemene principes voor het gebruik van AI in de financiële sector opgesteld. Een van deze principes betreft uitlegbaarheid van (uitkomsten van) AI toepassingen.

Geen one-size-fits-all

Maar wat betekent uitlegbaarheid precies? Wanneer kun je van een AI systeem zeggen dat het uitlegbaar is? En wat is eigenlijk een goede uitleg? Om deze vragen te beantwoorden is in dit verkennend onderzoek gekeken naar uitlegbaarheid bij drie toepassingsgebieden: consumentenkredietverlening, witwasbestrijding en kredietrisicomanagement.

Samenwerking essentieel voor beter begrip uitlegbaarheid

Om beter te begrijpen hoe uitlegbaarheid dient te worden begrepen én toegepast in de financiële sector is samenwerking essentieel: niet alleen tussen financiële ondernemingen en toezichthouders, maar ook tussen toezichthouders onderling, en tussen toezichthouders en de wetgever (zowel nationaal als Europees). Onder de vlag van het iForum zal DNB samen met de financiële ondernemingen en andere toezichthouders verder onderzoek verrichten naar uitlegbaarheid. Op die manier blijven we samen werken aan een verantwoord gebruik van AI in de financiële sector.