Banken moeten aandacht besteden aan de beheersing en verantwoording van Artificial Intelligence- en machine learningtoepassingen in de kredietverlening.

DNB heeft een eerste verkennend onderzoek gedaan naar Artificial Intelligence (AI) en machine learningtoepassingen in de kredietverlening bij Nederlandse banken. Met deze toepassingen beogen banken onderdelen van het kredietverleningsproces te automatiseren en de werking van de bestaande modellen in de kredietverlening te verbeteren. Dergelijke toepassingen vragen om blijvende aandacht van de sector en het toezicht.

Pril stadium
Uit gesprekken met een aantal Nederlandse banken blijkt dat AI- en machine learning-toepassingen zich nog in een relatief pril stadium bevinden. Banken hebben vooral early warningmodellen in gebruik op basis van AI en machine learning. In credit scoring spelen dergelijke toepassingen (nog) geen dominante rol.

Beheersing
DNB vindt het belangrijk dat banken aandacht besteden aan de beheersing en uitlegbaarheid van AI- en machine learningtoepassingen. Vanuit een integere en beheerste bedrijfsvoering moeten banken in staat zijn om (krediet)risico’s te overzien en te beheersen, ongeacht of (toekomstige) AI-toepassingen in-house of door derden zijn gebouwd. De aandachtspunten voor de bankensector, die daaruit voorvloeien, zijn in het eerder gepubliceerde DNB rapport “Ontketend - toezicht op een open bankensector” aan bod gekomen.

Verantwoording
Daarnaast moeten AI- en machine learningtoepassingen niet onnodig complex zijn en passen binnen de wettelijke en ethische kaders. Banken moeten de uitkomsten, gebaseerd op dergelijke toepassingen, duidelijk kunnen uitleggen en verantwoorden. DNB publiceert op korte termijn meer over haar visie op AI- en machine learningtoepassingen in de financiële sector.