Hoe houd je de balans tussen AI, data en ethiek?

28 juni 2021

Creating the future

Tim Hunter is Artificial Intelligence (AI) Specialist binnen Group Innovation van ABN AMRO. Hij studeerde Artificial Intelligence and Machine Learning aan de Universiteit van Californië, Berkeley. Hij startte zijn loopbaan in Sillicon Valley als software engineer bij Databricks, een open source platform waarop data uit verschillende bronnen wordt samengebracht en bewerkt. ‘Ik werd gevraagd mee te helpen aan het opzetten van een vestiging in Amsterdam. Zo ben ik in contact gekomen met ABN AMRO en maakte ik de overstap, omdat ik hier de kans krijg met AI het bedrijf ingrijpend te veranderen. Vanuit Group Innovation begeleiden mijn collega’s en ik de zoektocht naar toepassingsmogelijkheden van AI. We zitten dicht op de business en zijn met een enorme drive en enthousiasme bezig de bank van de toekomst te creëren.’

Ethiek

‘Eén van mijn grootste uitdagingen is om de implementatie van AI op een verantwoorde, transparante en uitlegbare manier te doen. Komt een klant in aanmerking voor een lening, is er sprake van frauduleus handelen, is dit nieuwe product interessant voor deze klant; dit zijn allemaal vragen waar AI een antwoord op heeft. Maar is het wel het juiste antwoord en mogen we de data die hieraan ten grondslag ligt wel gebruiken? Lastige vraagstukken waar we als bank een antwoord voor moeten zien te vinden. Bepaalde patronen in betaalgedrag zijn een goede voorspeller voor financiële nood, maar mag je daarop voorsorteren? Hoewel wet- en regelgeving richting geeft, hanteren we binnen de bank het uitgangspunt dat het gebruik van AI alleen toepasbaar mag zijn als uitkomsten herleidbaar en uitlegbaar zijn en passen binnen onze eigen waarden en normen. Daarom wordt ieder project ook altijd ethisch getoetst binnen een brede groep van collega’s.’

Financial Crime

‘Veel algoritmes die we gebruiken zijn overigens open source beschikbaar. Belangrijker is hoe je deze algoritmes vervolgens traint. Cruciaal daarbij is dan de beschikbaarheid van de data. Daarom is fraudebestrijding bij uitstek een vakgebied waarbij AI goed kan worden ingezet en dat heeft op dit moment dan ook mijn volle aandacht. Historische data leert ons patronen en signalen ontdekken die ons helpen verdachte zaken op te sporen. Zo kunnen we met behulp van AI groepen transacties identificeren die afwijken van de normale patronen. De gevonden afwijkende groepen transacties moeten vervolgens worden gecontroleerd door een fraude-expert. Wat ‘afwijkend’ gedrag precies inhoudt en of dit gedrag ook fraude betreft, is immers subjectief en alleen door een expert in de juiste context te plaatsen. AI levert vooral een efficiëntieslag op, het helpt de expert te focussen op die zaken die zijn of haar persoonlijke aandacht behoeven. En daar draag ik graag mijn steentje aan bij. ’