Kernprincipe III: Autonomie | Menselijke besliskracht om AI-beslissingen aan te passen

Ethische kaders Artificial Intelligence in creditmanagement

In eerdere artikelen in deze reeks, te vinden op www.syncasso.nl/aiethiek, bespraken we twee van de vijf ethische kernprincipes voor Artificial Intelligence in relatie tot creditmanagement: Kernprincipe 1. Goed doen en Kernprincipe 2. Geen kwaad doen met A.I.  Dit is het derde artikel in een serie van vijf over ethische kaders die nodig zijn voor de ontwikkeling en toepassingen van AI in creditmanagement.

Kernprincipe III:

Autonomie | Menselijke besliskracht om AI-beslissingen aan te passen

Voorspelmodellen die gebruikmaken van AI en Machine learning gebruiken daarvoor veel verschillende variabelen en databronnen. Waarbij afhankelijk van de toepassing, die verschillende soorten data elk een eigen gewicht krijgen in de berekening. Kenmerk van de hiervoor gebruikte data is, dat die (hoofdzakelijk) eerder verzameld werd. Een goed presterend algoritme zorgt voor statistisch kloppende resultaten. Voorspelling en werkelijke uitkomst liggen gemiddeld dicht bij elkaar. Maar gemiddeld goed, kan met zich meebrengen dat een voorspelling onbedoeld negatieve gevolgen heeft voor een individu. Daarbij kan de uitkomst op basis van historische data achterhaald worden door een actuele gebeurtenis. Denk bijvoorbeeld aan de Corona-crisis. Wat eerder met machine learning geleerd is, werkt in de actualiteit totaal anders.

Menselijke besliskracht is daarom noodzakelijk om de uitkomst van het voorspelmodel te kunnen corrigeren, liefst voor dat het consequenties heeft voor de betrokkenen. Bij het ontwerp en bij elke iteratie van het voorspelmodel moet daar rekening mee worden gehouden.

Autonomie, specifiek voor creditmanagement AI

Algoritmes, AI en Machine Learning worden ook ingezet om creditmanagementprocessen aan te sturen. Het voorspellen van de betaalcapaciteit voor een vordering is een belangrijke toepassing om Niet-Willers, Regelaars en Niet-Kunners te onderscheiden en passend te behandelen. Dat voorkomt onnodige en onverhaalbare kosten. Het zorgt er bovendien voor dat we de debiteuren een oplossing aanbieden die past bij zijn of haar mogelijkheden. Dat ondervangt een heleboel stress bij de debiteur.

De voorspelkracht van ons eigen algoritme is erg groot, maar houdt geen rekening met een levensgebeurtenis die kortgeleden plaats vond. Terwijl bijvoorbeeld werkeloosheid of een echtscheiding een enorme impact hebben op de actuele betaalcapaciteit.

Debiteurklanten kenmerken als Persona is om diezelfde reden risicovol. Labeling van debiteurklanten houdt onvoldoende rekening met de wisselende betaalcapaciteit van de debiteurklant door de tijd. Terwijl die juist essentieel is voor een passende incassobenadering. Betaalmentaliteit verliest het immers van betaalcapaciteit.

We voorkomen ongewenste effecten van onze benadering door de uitkomst van ons datamodel te verrijken met actuele data over de huidige schuldpositie (bijvoorbeeld uit het Digitaal Beslag Register), te onderzoeken of schuldhulp of bewindvoering betrokken zijn. Wellicht op termijn hierover actief gesignaleerd worden via Schuldenknooppunt of de Nederlandse Schuldhulproute.

Maar op de heel korte termijn is persoonlijk contact het meest effectief om een AI-voorspelling te valideren en zo nodig aan te passen. Menselijke besliskracht overschrijft dan de AI-voorspelling. De validatie kan op verschillende manieren plaatsvinden. Door een persoonlijk contact met ons contactcenter, door een minnelijk huisbezoek of een deurwaardersbezoek. Door informatie die achtergelaten wordt op onze website en uit contacten met bewindvoerders en schuldhulpverleners.

Kent u andere voorwaarden voor AI in creditmanagement om menselijke besliskracht toe te passen bij creditmanagement AI?  Deel ze met ons op www.syncasso.nl/aiethiek.

Vijf kernprincipes voor ethische AI

In het volgende artikel bespreken we het 4^e kernprincipe voor ethische AI: Gerechtigheid: eerlijkheid, solidariteit en non-discriminatie.

Wilt u reageren op dit artikel? Ga naar www.syncasso.nl/aiethiek.