AI-risico's in de financiële sector: score tot zorgplicht

Een afwijzing in drie milliseconden

De EU AI Act verschuift de verantwoordelijkheid voor AI-beslissingen in de financiële sector van de IT-afdeling naar de business zelf. Systemen die de toegang tot basisbankieren, leningen of verzekeringen bepalen, zoals kredietscoring en fraudedetectie, zijn automatisch high-risk en vragen om modeldocumentatie, data-governance, doorlopende risico-analyses, menselijk toezicht en aantoonbare AI-geletterdheid. Voor banken, verzekeraars en fintechs betekent dit dat een medewerker moet kunnen uitleggen waarom een klant wel of geen krediet krijgt, inclusief de rol van variabelen als postcode of device-type.

Fatima, compliance-manager bij NovaBank, ontvangt een boze e-mail van een klant: "Mijn lening is geweigerd, maar niemand kan me vertellen waarom." De ondertekening – IT-system decision – klinkt kil. Eigenlijk weet Fatima wel waarom: een machine-learning­model schat krediet­waardigheid op basis van betaal­gedrag, woonwijk en kliksporen uit de mobiele app. Tot gisteren was dat vooral een IT-verhaal. Sinds de EU AI Act dit jaar in werking trad, verschuift de verantwoordelijkheid naar de business zelf – en dus naar teams als dat van Fatima.

Wat de wet écht zegt

De AI Act gooit financiële use-cases in drie bakken. Algoritmen voor terroristische financiering of social scoring? Verboden. Systemen die de toegang tot basis­bankieren, leningen of verzekeringen bepalen? Automatisch high-risk. Chatbots die alleen algemene vragen afhandelen? Lage reguleringsdruk, mits transparant.

In de praktijk vallen de meest gebruikte AI-oplossingen bij banken, verzekeraars en fintechs in die middelste categorie. Dat betekent: model­documentatie, data-governance, doorlopende risico-analyses, menselijk toezicht én aantoonbare AI-geletterdheid van iedereen die ermee werkt.

High-risk in de dagelijkse gang van zaken

De definities lijken abstract, maar Fatima herkent ze overal op de vloer:

• Credit scoring: De engine die een hypotheek binnen seconden goed- of afkeurt
• Fraudedetectie: De realtime transactie­monitor die AML-alerts uitspuugt
• Robo-advisors: Systemen die spaar­portefeuilles aanbeveelt
• Claims processing: De bot bij verzekeraars die foto's analyseert en uitkeringen voorstelt
• Dynamische prijsmodellen: Autoverzekeringen gebaseerd op telematica uit de zwarte doos

Zelfs dat laatste valt onder de AI Act, omdat het direct invloed heeft op premies en dus op toegang tot diensten.

Menselijke maat hervinden

"Human in the loop" klonk bij NovaBank jarenlang als tick-the-box. Een medewerker klikte op approve nadat het model "groen" knipperde. Onder de AI Act moet diezelfde medewerker kunnen uitleggen waarom klant A wél een limiet krijgt en klant B niet, inclusief de rol van postcode, device-type of tijdstip.

Dat vergt nieuwe vaardigheden: variabelen herkennen, bias-mogelijkheden zien en weten wanneer je een model mag overrulen.

Fatima begint met een simpel experiment. Ze laat het team twintig afgewezen dossiers doorzoeken op overeen­komsten. Binnen een uur zien ze patronen die voorheen onopgemerkt bleven – hoger afwijzings­percentage in één specifieke regio, opvallend lage score voor zzp'ers in de cultuur­sector. Het kwartje valt: AI-geletterdheid is geen luxe; het is nodig om zorgplicht en reputatie te beschermen.

Vijf stappen naar actie – zonder toverformules

1. Breng de AI-kaart in beeld

Welke modellen beslissen direct over leningen, premies of transacties? Zet naam, doel en data­bronnen in één overzicht.

2. Check de data-keten

Herkomst, representativiteit en recente updates. Bij elke nieuwe bron: opnieuw valideren.

3. Leg beslisregels bloot

Geen black box in board-presentaties. In klare taal: waarom telt mobiel besturingssysteem mee? Waarom krijgt winkelgebied X een risico-uplift?

4. Bouw overruling-procedures

Medewerkers loggen niet alleen dat ze handmatig ingrepen, maar ook waarom. Die feedback voedt het retrain-proces.

5. Investeer in AI-literacy

Basiskennis voor klantadviseurs, verdiepende sessies voor risk & compliance. Niet als eenmalige workshop, maar als doorlopende leerlijn.

Fatima's eerste resultaat

Drie maanden later zijn de snelle winstpunten zichtbaar. Het percentage "onverklaarde" afwijzingen daalt, klachten­afhandeling kost minder tijd en de marketingafdeling zet de nieuwe transparantie trots in campagne­materiaal: We leggen u uit hoe onze digitale beoordeling werkt.

Waarom het niet bij compliance blijft

De CFO ziet iets anders gebeuren: beter inzicht in de modellen levert scherpere vragen op voor leveranciers. NovaBank snoeit in overbodige features, verlaagt licentie­kosten en haalt intern meer expertise op. Het risico-budget verschuift van brandjes blussen naar innovatie.

Vooruitblik op de serie

Dit openingsblog is de wake-up-call. In de komende delen duiken we in:

• hoe realtime fraudedetectie onder de AI Act valt,
• wat fairness betekent voor dynamische verzekerings­premies,
• en hoe asset-managers menselijk toezicht organiseren bij algoritmische beleggings­strategieën.

Altijd met het doel dat Fatima nu scherp heeft: verantwoord AI-gebruik als concurrentie­voordeel, niet als hinderlijke kosten­post.

Benieuwd hoe een AI-geletterdheids­programma eruit ziet voor financiële teams? We bouwen modulair: van basis­sessies voor klantadviseurs tot deep-dives voor modelvalidators. Stuur gerust een bericht om ideeën uit te wisselen.