TMNL heeft beleid en voert processen uit om risico’s bij het gebruik van data analyse modellen te beheersen. Zo wordt bij elk model bijvoorbeeld door TMNL gekeken naar minimalisatie van de gebruikte data en eventuele risico’s op discriminatie. En de banken beslissen in hun rol als verantwoordelijke over de wenselijkheid van het model. Bij de uitvoering van deze analyses en besluitvorming worden TMNL en banken bijgestaan door de ‘model ethics commissie’.
Wat doet de model ethics commissie?
De model ethics commissie is in het leven geroepen om TMNL onafhankelijk en objectief te adviseren over ethische vraagstukken bij het gebruik van modellen. Met deze commissie kan TMNL grondig reflecteren op het gebruik van modellen. Bijvoorbeeld bij vraagstukken over de inzet van analytische technieken, maar ook wanneer er in de uitvoering dilemma’s ontstaan.
De model ethics commissie bestaat momenteel uit vier academici, die elk vanuit hun eigen expertisegebied bijdragen aan de discussies. Vanuit deze expertises en discussie kunnen ethische vraagstukken geïdentificeerd worden, meerdere perspectieven en argumenten op deze vraagstukken in kaart gebracht worden, en een gewogen en objectief advies aan TMNL en banken gegeven worden.
Het doel is te komen tot verantwoord gebruik van modellen (‘Responsible AI’). Dit betekent dat het naast het detecteren van mogelijk ongebruikelijke transacties ook rekening gehouden moet worden met andere belangen. Bijvoorbeeld belangen van specifieke maatschappelijke groepen of privacy belangen. Hierin moet balans gevonden worden door de verschillende belangen grondig te wegen. Het geeft extra vertrouwen dat wij hierin bijgestaan wordt door vier gerenommeerde experts.
Jeroen van den Hoven
Voorzitter
Jeroen is universiteitshoogleraar en hoogleraar Ethiek en Technologie aan de Technische Universiteit Delft. Tevens is hij editor-in-chief van ‘Ethics and Information Technology’, scientific director van het Delft Design for Values Institute, founding scientific director van het 4TU.Centre for Ethics and Technology, en permanent lid van de European Group on Ethics (EGE) voor de Europese Commissie.
Hinda Haned
Hinda Haned is bijzonder hoogleraar Data Science bij de Universiteit van Amsterdam, en scientific co-director van het Civic AI Lab. Haar onderzoek focust op de ontwikkeling van oplossingen en best practices op het gebied van veilig en verantwoorde data science. Hinda is tevens oprichter van Owls & Arrows, een adviesorganisatie gespecialiseerd in data science en audit van modellen en algoritmes.
Mara Wesseling
Mara is expert op het gebied van anti-witwassen en het tegengaan van terrorismefinanciering (AML/CTF). Haar promotieonderzoek focuste op beleid tegen terrorismefinanciering, publiek-private samenwerking en de risico gebaseerde aanpak tegen terrorismefinanciering in Europa (2008-2013). De laatste jaren heeft zij diverse onderzoeken en adviestrajecten verzorgd voor Europese en Nederlandse autoriteiten. Momenteel is zij werkzaam als Senior Intelligence Analyst bij de Zweedse FinTech Acuminor, en is zij lid van de begeleidingscommissie bij het Nederlandse Nationaal Risk Assessment (NRA).
Joris Ferwerda
Joras Ferwarda is Assistant Professor bij de Utrecht University School of Economics. Hij is tevens lid van de academic board van het internationale PhD programma Criminologie voor de Catholic University of Milan. Recent was hij Visiting Professor bij de University of Maryland, College Park bij het department Criminology and Criminal Justice, en Senior Researcher bij de sectie Criminologie van de Vrije Universiteit in Amsterdam. Hij is gecertificeerd witwasexpert voor de Nederlandse Nationale Politie.