Nieuws
Kernprincipe IV: Gerechtigheid
06 augustus 2020Kernprincipe IV: Gerechtigheid | eerlijkheid, solidariteit, non-discriminatie
Ethische kaders Artificial Intelligence in creditmanagement
In eerdere artikelen in deze reeks, te vinden op www.syncasso.nl/aiethiek, bespraken we drie van de vijf ethische kernprincipes voor Artificial Intelligence in relatie tot creditmanagement: Goed doen, Geen kwaad doen en Autonomie. Dit is het vierde artikel over AI en gerechtigheid in een serie van vijf kernprincipes voor Ethics by Design en de ontwikkeling en toepassing van AI in creditmanagement.
Kernprincipe IV: Gerechtigheid | eerlijkheid, solidariteit, non-discriminatie
De overvloedige beschikbaarheid van data in combinatie met de exponentieel toegenomen rekenkracht van computersystemen ontsluiten nieuwe, krachtige AI-toepassingen die van grote waarde zijn voor onze maatschappij. Maar het risico op onvoorziene fouten, voorkeursbehandeling, oneerlijke uitkomsten en discriminatie neemt daardoor evenredig toe. Een actueel voorbeeld[1] is het algoritme van Facebook dat rekening houdt met etniciteit bij het gesegmenteerd aanbieden van nieuwsberichten, advertenties en vacatures. Grote adverteerders eisen terecht waarborgen om dat te voorkomen, alvorens ze weer advertentiebudgetten bij Facebook alloceren.
Het ontwikkelen en onderhouden van AI-systemen is mensenwerk. Vooringenomenheid en de context van de datascientists kunnen een rol spelen. Onvoldoende representativiteit van de databestanden vormt een ander risico. In elke fase van het AI-project, van de probleemdefinitie tot de implementatie, moeten de eerlijke uitkomsten van het AI-systeem geborgd worden. Daarvoor kunnen de volgende uitgangspunten gebruikt worden.
Kwaliteit van de data
Uitgebreide documentatie over de herkomst van de gebruikte data, hoe die is verkregen en beoordeeld op representativiteit, volledigheid, integriteit en actualiteit. Naast een protocol voor het trainen, testen en valideren van het algoritme. Beiden zijn voorwaardelijk om de data in te kunnen zetten voor AI en belanghebbenden te beschermen tegen oneerlijkheid en discriminatie.
Onafhankelijke beoordeling
Eerlijkheid en rechtvaardigheid moeten bij de ontwikkeling (en bij elke iteratie) van het AI-ontwerp het uitgangspunt vormen en beoordeeld worden door gekwalificeerde derden. Bijvoorbeeld door kwaliteit- of compliance verantwoordelijken. Daarbij hoort een doordachte definiëring hoe de eerlijkheid en betrouwbaarheid van de uitkomsten van het AI-systeem wordt gemeten, hoe (vaak) dat gerapporteerd wordt en wie daar op C-niveau verantwoordelijk voor is. Ook de duurzaamheid van de uitkomsten van het AI-systeem, veroorzaakt het geen onbedoelde sociale impact, moet onderdeel uitmaken van de rapportage.
Uitlegbaar algoritme
Rechtvaardigheid en eerlijkheid vraagt ook dat de uitkomst van een AI-voorspelling transparant en begrijpelijk kan worden uitgelegd aan belanghebbenden. Hoe is de score tot stand gekomen, op basis van welke data, in welke context en langs welke beslissingen? In het volgende artikel in deze reeks zullen we hier uitgebreider op ingaan.
Gerechtigheid, specifiek voor creditmanagement AI
Het gebruik en de toepassingen van AI in creditmanagement nemen eveneens sterk toe. Maatschappelijk verantwoord incasseren vraagt om een benadering die persoonlijk en begrijpelijk is. Die rekening houdt met de omstandigheden van de debiteurklant. AI is daarvoor bij de behandeling van grote volumes vorderingen onmisbaar. Het voorkomen van betalingsachterstanden met AI-ondersteuning is een andere belangrijke creditmanagementtoepassing. Voor alle AI-oplossingen in het creditmanagementdomein geldt dat het met grote zorgvuldigheid moet worden ingezet, omdat de uitkomsten direct van invloed zijn op de financiële situatie van de betrokkenen.
Handelsinformatie
Eerlijkheid schrijft voor dat de afnemer de leverancier volgens afspraak betaalt. Maar die afspraak hoeft niet voor iedereen hetzelfde te zijn. Sommige klanten betalen voorafgaand aan de levering. Andere klanten mogen op krediet kopen. Ondersteund door AI voorspelt kredietinformatie wat een passende kredietlimiet is. Dat zorgt voor eerlijke handelstransacties en meer (gerealiseerde) omzet voor de leverancier. Het beschermt zowel de leverancier, de afnemer als de overige klanten. Afboekingen voor onbetaalde leveranties worden uiteindelijk immers doorberekend in de prijs. Kredietinformatie gebaseerd op AI draagt daarmee ook bij aan de solidariteit tussen afnemers.
Credit Checks en achteraf betalen
Uit een oogpunt van consumentenbescherming beperken credit checks naast wanbetaling ook het risico van overkreditering. In het verlengde daarvan voorkomt het schulden, kosten en stress. Het gebruik van credit checks moet op een eerlijke, transparante manier gebeuren en mag niet leiden tot discriminatie of uitsluiting. Daar zijn overigens in Nederland geen aanwijzingen voor. Op jaarbasis vinden ca. 40 miljoen checks in Nederland plaats en slechts in 1 op de 100.000 (0,001%) checks wordt een rectificatieverzoek gedaan door een consument.
Betaalcapaciteit voorspellen
AI wordt gebruikt om de betaalcapaciteit van een debiteurklant voor een vordering te voorspellen. Die voorspelling verandert op zichzelf niets aan de betalingsverplichting. AI ondersteunt om een oplossing voor het betalingsprobleem te vinden die zowel voor de schuldeiser als de schuldenaar acceptabel is. Met een haalbare betalingsregeling die is aangepast aan de betaalcapaciteit van de debiteur.
Zo’n betalingsregeling duurt over het algemeen langer, maar zorgt voor meer en betere oplossingen. Daarmee draagt het tevens bij aan de solidariteit met de andere klanten en is het eerlijk naar de leverancier. Het respecteert andere (lopende) betalingsverplichtingen van de debiteur en draagt op die manier bij aan het voorkomen van problematische schulden. Gesegmenteerde incassocommunicatie op basis van betaalcapaciteit werkt logischerwijs ook beter. Door selectief een betalingsregeling aan te bieden in plaats van aan te dringen op betaling ineens, waaraan (toch) niet kan worden voldaan, komen meer en betere oplossing tot stand.
Kent u andere voorbeelden van Gerechtigheid voor AI in creditmanagement? Deel ze met ons op www.syncasso.nl/aiethiek.
Vijf kernprincipes voor ethische AI
In het volgende artikel bespreken we het 5e kernprincipe voor ethische AI: Uitlegbaarheid | Hoe werkt het en wie is daar verantwoordelijk voor?
Wilt u reageren op dit artikel? Ga naar www.syncasso.nl/aiethiek.