Data in geautomatiseerde besluitvorming

Banken nemen dagelijks talloze complexe besluiten. Komt deze klant in aanmerking voor dit product? Welk advies past bij hem? Nieuwe technologieën maken het mogelijk dat computers steeds complexere besluiten kunnen nemen. Dat maakt snelle dienstverlening-op-maat mogelijk. Banken zijn zich echter bewust van de risico’s van automatisering en gaan daarom uiterst zorgvuldig om met geautomatiseerde besluitvorming. De wet geeft heldere richtlijnen. En geeft consumenten ook recht op ‘mensenwerk’.

Highlights

  • De voortschrijdende technologie maakt dat computersystemen steeds slimmer worden en zelfs kunnen leren (‘machine learning’). Ook de hoeveelheid klantdata groeit. Dat betekent dat geautomatiseerde besluitvorming een steeds grotere rol gaat spelen. Ook bij banken.
  • Banken maken al langer gebruik van (gedeeltelijk) geautomatiseerde besluitvorming, bijvoorbeeld bij de transactiemonitoring waartoe ze wettelijk verplicht zijn. Systemen beoordelen daarbij transacties op legitimiteit en integriteitsrisico’s. Wordt er een ongebruikelijke transactie gevonden? Dan wordt gecontroleerd of deze transactie inderdaad de kwalificatie 'ongebruikelijk' krijgt en als dat zo is, dan wordt de transactie gemeld aan de Financial Intelligence Unit -Nederland (FIU). 
  • Banken maken ook gebruik van systemen die kunnen helpen om een besluit te nemen over dienstverlening aan u. Bijvoorbeeld of u in aanmerking komt voor een krediet of hypotheek. Ook genereren systemen adviezen voor klanten, bijvoorbeeld beleggingsadvies.
  • De Wet op het financieel toezicht (Wft) geeft een helder uitgangspunt: geautomatiseerde dienstverlening moet aan dezelfde kwaliteitseisen voldoen als fysieke dienstverlening. De toezichthouder Autoriteit Financiële Markten (AFM) geeft banken een leidraad met aandachtspunten voor geautomatiseerde dienstverlening.
  • Wat verder belangrijk is voor u als consument: banken houden zich ook op dit thema aan de Europese privacywet AVG. Daarin staat onder meer dat organisaties verantwoordelijk, transparant en eerlijk te werk moeten gaan bij het verwerken van persoonsgegevens. Dat geldt ook voor de inzet van die gegevens in (nieuwe) technologieën.
  • Daarnaast kent de AVG het recht op een menselijke blik bij geautomatiseerde besluiten die over de klant gaan en die juridische of andere  negatieve gevolgen voor de klant hebben. Alleen in uitzonderingsgevallen geldt dit recht niet. 

Discussie over ethiek

Maatschappelijk speelt terecht de discussie rond ethiek over het gebruik van kunstmatige intelligentie in diverse sectoren, waaronder ook de financiële sector. Nederlandse banken nemen actief deel aan deze discussie en spreken daarover met toezichthouders, zowel nationaal als internationaal. Dit omdat deze vraagstukken in Europees verband moeten worden bezien en opgepakt. Zo deed de Europese Commissie recent een voorstel voor ethische richtlijnen voor het gebruik van kunstmatige intelligentie. De gezamenlijke Europese banken, verenigd in de EBF, zijn vertegenwoordigd in de expertisegroep KI van de Europese Commissie.