Ooit was het een gespreksonderwerp dat alleen de meest technisch onderlegde IT-ers kon interesseren: kunstmatige intelligentie (AI). Die tijd is inmiddels lang voorbij. AI was in 2023 het op twee na meest populaire woord in Nederland volgens het genootschap van taalliefhebbers Onze Taal. Hoewel de technologie nog nieuw is, is AI nauwelijks meer weg te denken uit het maatschappelijke debat. In een nieuw rapport (onderaan dit bericht te downloaden) onderzoekt DNB samen met de AFM de impact van AI op de financiële sector.
© iStock
AI is de verzamelterm voor software die in staat is om zelfstandig oplossingen voor problemen te bedenken. Eén stapje verder gaat zogeheten ‘generatieve’, of creërende AI. Een meer geavanceerde vorm van kunstmatige intelligentie die in staat is om op basis van de informatie die het heeft iets nieuws te maken. Dat bedenken gebeurt tegenwoordig vooral op basis van algoritmes die dankzij van grote bibliotheken met tekst zelfstandig kunnen communiceren. ‘Large language models’ (LLM), heten die in jargon.
Eind 2022 leerde het grote publiek AI kennen toen ChatGPT door het Amerikaanse softwarecollectief OpenAI werd gelanceerd. Het programma kan allerlei klusjes doen, uiteenlopend van het schrijven van werkstukken tot complete filmscenario's tot het uittekenen van antihackersoftware. Verder beantwoordt ChatGPT huis-tuin-en-keukenvragen, bedenkt het Sinterklaasgedichten en nog veel meer.
Ondertussen wordt er in de financiële sector al langer gewerkt met kunstmatige intelligentie. Menig vermogensbeheerder adverteert met AI die geheel automatisch een beleggingsportfolio kan samenstellen die is toegespitst op de behoeften van de klant. Denk aan diens bereidheid om risico's te nemen, geografische voorkeuren en levensstadium.
Maar AI kan ook meer alledaagse klusjes binnen de financiële sector overnemen. Zoals het bemannen van de klantenservice. De meeste bankklanten of verzekerden zullen inmiddels bekend zijn met de online chatbot die vragen beantwoordt, of herkennen het stemmetje dat aan het eind van een telefoongesprek met het bedrijf vraagt of het gesprek mag worden bewaard voor 'trainingsdoeleinden'.
Hoewel dat niet steevast gebeurt, wordt menig gesprek opgeslagen om daarmee de chatbots die nu lang niet altijd even soepel werken, te kunnen verbeteren zodat die dat in de toekomst wel gaan doen. Onderzoek van de Europese Centrale Bank leert dat van elke tien grote Nederlandse banken er zes in hun dagelijks werk gebruikmaken van AI-modellen. En ten minste de helft van alle schadeverzekeraars en bijna een kwart van alle levensverzekeraars in Europa maakte in 2023 gebruik van AI, aldus de Europese toezichtautoriteit EIOPA.
AI krijgt in de financiële sector dus steeds meer voet aan de grond. Als banken, verzekeraars, vermogensbeheerders en pensioenuitvoerders de technologie niet al toepassen, hebben de meeste daarvan concrete plannen om dit in de toekomst te gaan doen, zo blijkt uit interviews die de AFM en DNB de afgelopen tijd afnamen binnen de financiële sector.
Dat zal niet alleen het werk voor de instellingen zelf ingrijpend veranderen, ook de toezichthouders zullen hun takenpakket moeten herzien. Wat die herziening precies behelst, is nog niet helemaal duidelijk. De mogelijkheden van AI lijken immers onbegrensd en zolang niemand weet wat AI níet kan, weet niemand precies welke regels er überhaupt nodig zijn.
Bovendien bestaat er een risico dat toezichthouders de ontwikkeling van AI onnodig remmen door zich in een vroeg stadium te streng op te stellen en daarmee innovatie ontmoedigen.
Dit is een carrousel met één grote afbeelding met thumbnails eronder. Selecteer een van de knoppen om de afbeelding hierboven te wijzigen.
Wat de impact van AI op de financiële sector gaat zijn, hangt onder meer af van de balans tussen regelgeving en innovatie.
Dat willen de AFM en DNB voorkomen. AI biedt namelijk veel kansen. Kunstmatige intelligentie kan de dienstverlening van instellingen via bots sneller, goedkoper en effectiever maken. Denk aan een klantenservice die 24 uur per dag bereikbaar is en die klanten zonder dat ze hoeven te wachten een goed antwoord kan geven.
Wat de noodzaak van de inzet van AI alleen maar vergroot, is dat de mensenhanden schaars zijn op een krappe arbeidsmarkt. Al te ferm handhaven kan bovendien betekenen dat financiële instellingen in één regio last krijgen van oneerlijke concurrentie van instellingen uit regio's waar de regels minder streng zijn.
Tegelijkertijd kunnen de AFM en DNB als toezichthouders niet achteroverleunen. AI kan ook een grote maatschappelijke bedreiging vormen waar mensen de dupe van worden. Bots kunnen discrimineren door op basis van oude informatie een vooroordeel te vormen. Denk hierbij aan bepaalde bevolkingsgroepen of mensen met een lager inkomen. Die hadden traditioneel toch al slechtere toegang tot producten zoals een hypotheek of autoverzekering en enkel omdat dat altijd al zo was bestaat de kans dat ze nu opnieuw slecht bediend worden.
Wat zulke discriminatie des te pijnlijker maakt, is als AI op basis van een zelfontwikkelde logica handelt waarbij het niet helemaal duidelijk is waar die logica op is gebaseerd. Er is dan sprake van een zogeheten ‘black box'. Voor AI-programma's die risicoklanten zoals financiers van terrorisme en potentiële witwassers moeten weren, maar waarbij het evenmin duidelijk is waarom de ene klant wél zo'n stempel krijgt en een ander niet, ligt dat net zo gevoelig.
Wat ook kan gebeuren is dat vertrouwelijke informatie van klanten in de openbaarheid komt via AI, bijvoorbeeld als die wordt gebruikt om een LLM te voeden waar andere instellingen of bedrijven gebruik van maken voor hun AI-toepassingen. Dit zou een forse schending zijn van het recht op privacy van klanten.
Voor de toezichthouders is het dus zaak om een verantwoorde balans te vinden tussen verstikkend reguleren en de teugels volledig laten vieren. Specifieke regels die daarbij enige houvast kunnen bieden, zijn dun gezaaid. De dit najaar opgefriste Europese richtlijn die consumenten moet beschermen tegen oplichting en uitsluiting bij het afsluiten van krediet, gaat in op AI-gebruik en ook voor beleggers die AI inzetten voor de beurshandel gelden specifieke voorschriften.
Maar de Europese Commissie heeft met haar zogenoemde ‘AI-verordening’ het meest krachtige aanknopingspunt in de aanbieding. Dat is een modelwet die onder meer verbiedt dat AI discrimineert en die regelt dat bedrijven altijd een persoon moeten kunnen aanwijzen die verantwoordelijk is voor de gevolgen die AI al dan niet veroorzaakt.
De verordening maakt daarnaast onderscheid tussen de verschillende maten van risico die AI oplevert voor mensen. Verder schrijft deze verordening voor dat de logica die aan AI ten grondslag ligt voor mensen te begrijpen moet zijn. De ‘black box’ wordt taboe als mensen hierdoor risico lopen.
Wordt, want zover is het nog niet. Het zal nog zo’n 2 jaar duren voordat de wet waarmee de AFM en DNB kunnen handhaven daadwerkelijk van toepassing is. Dat geeft financiële instellingen en Europese lidstaten de tijd om zich bekend te maken met de nieuwe wet voordat die daadwerkelijk ingaat. Maar ook in de tussentijd controleren de toezichthouders of instellingen geen rechten van klanten schenden.
Meedenken met de financiële sector om zo discriminatie, schending van privacy en oneerlijke concurrentie voor te zijn, zal voor de AFM en DNB de komende tijd dus prioriteit hebben. De toezichthouders gaan er van uit dat instellingen AI verantwoord zullen toepassen, al kan het met de permanente evolutie van AI in het achterhoofd nodig zijn om meer specifieke spelregels op te stellen. Dat is iets voor de toekomst.
Verder zullen de AFM en DNB contact houden met hun tegenhangers in andere landen en waar mogelijk werken aan regels die grensoverschrijdend worden toegepast. Dat past bij het internationale karakter van de financiële sector.
Meer weten over de impact van AI op de financiële sector en het toezicht hierop? Download dan hieronder het volledige rapport.
De impact van AI op de financiële sector en het toezicht
Het inkomen uit buitenlandse directe investeringen in Nederland dat doorstroomt naar landen met een laag belastingtarief ligt sinds 2020 structureel lager dan voorheen, blijkt uit nieuwe cijfers van DNB. De inkomensstromen met andere landen bleven in dezelfde periode stabieler.
Lees meer Doorstroom naar belastingparadijzen structureel gedaald
Nederlandse hypotheekfondsen ontvingen over de eerste drie kwartalen van 2024 € 2 miljard aan nieuwe inleg van institutionele beleggers, zoals pensioenfondsen en verzekeraars, blijkt uit cijfers van DNB.
Lees meer Interesse beleggers in Nederlandse hypotheekfondsen neemt verder af
De toegenomen internationale spanningen kunnen een impact hebben op financiële instellingen. Dat zegt De Nederlandsche Bank vandaag bij de presentatie van haar toezichtvisie voor 2025-2028 en een studie naar de effecten van geopolitieke risico’s op financiële instellingen.
Lees meer Groeiende geopolitieke risico’s hebben impact op de financiële sector
Vandaag publiceert De Nederlandsche Bank ‘Weerbaar in een gure wereld’, een onderzoek naar de mogelijke impact van geopolitieke risico’s op financiële instellingen. DNB-econoom Maurice Doll schreef mee aan de studie en vertelt over de belangrijkste bevindingen.
Lees meer ‘Europese samenwerking cruciaal om geopolitieke risico’s het hoofd te bieden’
