Naar de hoofd content Naar navigatie
Syncasso Syncasso
HomeOpdrachtgevers Ik wil betalen Mijn Dossier
nl Dutch
ar Arabicnl Dutchen Englishfr Frenchde Germanpl Polishes Spanishtr Turkish
Zoeken
  • Home
  • Over ons
  • Veelgestelde vragen
  • Opdrachtgevers
      • Inloggen
      • Implementatie
      • Rapportage en verantwoording
      • Kwaliteit en certificeringen
      • Maatschappelijk Verantwoord Incasseren
      • Innovatie
      • SyncassoLab
  • Ik wil betalen
  • Inloggen
  • Mijn Dossier
  • Ik wil betalen
  • Nieuws
  • Contact
  • Zoeken

Nieuws

Kernprincipe V: Uitlegbaarheid

28 augustus 2020
Corporates

Kernprincipe V: Uitlegbaarheid | Hoe werkt het en wie is verantwoordelijk?

Ethische kaders Artificial Intelligence in creditmanagement

In eerdere artikelen in deze reeks, te vinden op www.syncasso.nl/aiethiek, bespraken we vier van de vijf ethische kernprincipes voor Artificial Intelligence in relatie tot creditmanagement: Goed doen, Geen kwaad doen, Autonomie en Gerechtigheid.  Dit is het vijfde en laatste artikel over AI en uitlegbaarheid in een serie van vijf kernprincipes voor Ethics by Design en de ontwikkeling en toepassing van AI in creditmanagement.

Kernprincipe V: Uitlegbaarheid | Hoe werkt het en wie is daar verantwoordelijk voor?

Uitlegbaarheid is de achilleshiel van AI. Hoe accurater de voorspelling, hoe moeilijker die uit te leggen is [1]. Door het gebruik van neurale netwerken en deep learning neemt de betrouwbaarheid en voorspelkracht toe. Maar de complexiteit eveneens, waardoor het bijna onmogelijk is om uit te leggen waarom de voorspelling zo is. En hoe groter de mogelijke impact van de voorspelling is, hoe dwingender de noodzaak om zicht te hebben op de overwegingen achter de voorspelling.

Verantwoordelijkheid en aansprakelijkheid

Wie is aansprakelijk als er schade ontstaat als gevolg van technologie die zelfstandig beslissingen neemt? Expliciete wetgeving ontbreekt vooralsnog. Vanuit juridisch perspectief kun je denken aan aansprakelijkheid  zoals die geldt voor de bezitter van een dier dat schade aanricht. Of een zelfstandige rechtspersoonlijkheid voor dienstverlening die gebruik maakt van AI. Een ander idee is een verplichte verzekering voor schade die door AI ontstaat. Vanuit een ethisch perspectief moet een organisatie verantwoordelijkheid nemen voor een AI-voorspelling die schade tot gevolg heeft en zich inzetten om herhaling te voorkomen.

Europese commissie

In het whitepaper ‘On Artificial Intelligence – A European approach to excellence and trust’ van de Europese Commissie [2] wordt (ook) aangeven dat door de ondoorzichtigheid van AI-modellen niet te controleren is of de Europese wet- en regelgeving op het gebied van privacy, grondrechten en aansprakelijkheden gerespecteerd worden door een AI-toepassing. De EC adviseert, bij gebrek aan beter, om de ontwikkeling van het model en de data die gebruikt wordt om het model te trainen, goed te documenteren en de geautomatiseerde beslissingen op een ‘voor mensen begrijpelijke manier’ uit te leggen. De EC verwijst daarbij naar DARPA in de USA, die daarvoor aan een oplossing werken.

DARPA uitlegmodellen en -interfaces

Het Defense Advanced Research Projects Agency (DARPA) ontwikkelde in de jaren ’60 en ’70 ARPANET – de voorloper van internet. In 2003 de eerste stem-gestuurde assistenten (zoals SIRI) en in 2004 het eerste platform voor zelfrijdende auto’s. Vanaf 2016 werkt DARPA aan een project Explainable Artificial Intelligence (XAI). Hiervoor worden nieuwe machine learning systemen – Uitleg modellen – ontwikkeld die hun eigen rationale kunnen uitleggen, inzicht geven in de sterktes en zwaktes van het model en een beeld geven hoe die zich in de toekomst zullen gaan gedragen. Daaraan worden vervolgens Uitleg-interfaces gekoppeld die dat op een menselijke, begrijpelijke manier vertalen voor de eindgebruiker.

Google Explainable AI voor ontwikkelaars en data-wetenschappers is een al beschikbaar pakket tools en frameworks waarmee begrijpelijke en inclusieve machinelearning-modellen kunnen worden ontwikkeld en geimplementeerd. Een score toont aan in hoeverre elke factor heeft bijgedragen aan het eindresultaat van de voorspellingen uit een model. Er zijn overigens meer ontwikkelingen die zich op ontwikkelaars en data-wetenschappers richten, waaronder een samenwerking tussen Harvard en IBM. Maar een geautomatiseerde oplossing die AI-modellen begrijpelijk aan consumenten uitlegt is nog niet beschikbaar.

Uitlegbaarheid en verantwoordelijkheid, specifiek voor creditmanagement AI

In een vorig artikel over AI en Gerechtigheid bespraken we drie toepassing van creditmanagement AI: voor handelsinformatie, credit checks/achteraf betalen en het voorspellen van betaalcapaciteit. In alle gevallen is het risico dat de voorspelling impact heeft gemiddeld tot groot. Niet tot zaken komen op basis van negatieve handelsinformatie heeft economische impact. Een afwijzing door een credit check voor achteraf betalen heeft minder impact, maar roept zeker vragen op. In het voorspellen van betaalcapaciteit is het risico besloten dat het voorspelmodel een niet-kunner niet als zodanig herkent, bijvoorbeeld vanwege een actuele levensgebeurtenis.

Informeren

In alle gevallen moet het doel van de AI-toepassing en de data-elementen [3] die hierbij gebruikt worden in relatie tot de voorspelling beschikbaar zijn voor de vrager. Daarbij moet de betrouwbaarheid van het algoritme en de toegestane afwijking worden overlegd. De berekende voorspelling moet begrijpelijk uitgelegd en logische onderbouwd worden met de gebruikte data. Voor het voorspellen van betaalcapaciteit worden Random Forest en Decision Tree technieken gebruikt die daaraan voldoen.

Aanpassen

Als een voorspelling onterecht negatieve gevolgen heeft voor een betrokkene, moet de mogelijkheid bestaan om op verzoek de data te actualiseren of corrigeren. Het moet voor de eindgebruiker duidelijk zijn waar hij/zij terecht kan als dat niet naar tevredenheid (kunnen) wordt opgelost.

Evalueren en certificeren

Een regelmatige en deskundige evaluatie van de (resultaten van de) AI-toepassing, met transparante, toegankelijke verslaglegging daarvan, die inzicht geeft in de aanpassingen die naar aanleiding van de evaluatie zijn aangebracht. Syncasso pleit ervoor om AI-toepassingen voor  creditmanagement te betrekken in de audits voor de ISO 27000 certificeringen.

Kent u andere voorbeelden van Uitlegbaarheid voor AI in creditmanagement? Deel ze met ons op www.syncasso.nl/aiethiek.

Wilt u reageren op dit artikel? Ga naar www.syncasso.nl/aiethiek


[1] DARPA Explainable Artificial Intelligence (XAI)
[2] EC Policy AI
[3] Ook ingevolgde de AVG

Artikel delen?
Delen via LinkedIn Delen via Twitter Delen via Email

Gerelateerde nieuwsberichten

28 september 2023

Rapporteren over het verleden is ingehaald door grip op toekomstige ontwikkelingen

Martijn Andriessen, financieel directeur - verantwoordelijk voor ons Finance Team, de financiële afwikkeling en rapportage van onze incasso-activiteiten, onze bewaarpositie, forecast en budgetbewaking.

Lees meer
Read more about Rapporteren over het verleden is ingehaald door grip op toekomstige ontwikkelingen
21 september 2023

Deurwaarders hebben zicht op burgers in kwetsbare situaties

In het rapport “Zicht op zorgen” van het Sociaal Cultureel Planbureau (SCP, 2023) worden er cijfers over de problemen, hulpbronnen, leefsituatie en ondersteuning van mensen in het sociaal domein gedeeld. 1,3 miljoen mensen in Nederland hebben een stapeling van problemen en bevinden zich in een kwetsbare situatie. Tijdens mijn huisbezoeken als gerechtsdeurwaarder kom ik regelmatig bij mensen aan de deur die in een kwetsbare situatie zitten.

Lees meer
Read more about Deurwaarders hebben zicht op burgers in kwetsbare situaties
21 september 2023

Prinsjesdag 2023: investeren in bestaanszekerheid en forse bezuinigingen

Op Prinsjesdag presenteerde het demissionaire kabinet de Rijksbegroting voor 2024. Ook komend jaar investeert het kabinet fors in het garanderen van bestaanszekerheid met 2 miljard euro. Er wordt een koopkrachtgroei van 1,8 % voorspeld.

Lees meer
Read more about Prinsjesdag 2023: investeren in bestaanszekerheid en forse bezuinigingen
08 september 2023

Femmie Schoemaker

Onze geliefde collega is op veel te jonge leeftijd plotseling overleden. Het is moeilijk om de juiste woorden te vinden om de pijn en het verdriet te beschrijven die we voelen bij dit verlies. Femmie laat een enorme leegte achter in ons team. Haar warmte, toewijding en enthousiasme waren aanstekelijk. Ze blijft voor altijd in onze gedachten. We zullen haar missen.

Lees meer
Read more about Femmie Schoemaker
05 september 2023

Syncasso op de Credit Expo 7 november 2023

Vandaag is het duurzame dinsdag. Een mooie dag om het thema van de volgende Credit Expo te delen, want dinsdag 7 november aanstaande staat ‘Duurzaamheid’ centraal. Voor Syncasso altijd een belangrijk thema. Zo doen we continu wetenschappelijk onderzoek naar Duurzaam betaalgedrag.

Lees meer
Read more about Syncasso op de Credit Expo 7 november 2023
30 augustus 2023

VNG Gert-Jan Bakker brengt én haalt waardevolle inzichten

Eind juni van dit jaar vond het Jaarcongres Schuldenketen plaats dat Syncasso samen met Studiecentrum Kerckebosch organiseerde. Daar spraken diverse experts, elk vanuit hun eigen invalshoek en expertise. Deze week kijken we terug op de lezing van Gert-Jan Bakker MT-lid Bestaanszekerheid VNG.

Lees meer
Read more about VNG Gert-Jan Bakker brengt én haalt waardevolle inzichten
24 augustus 2023

Kleine schulden klein houden met mr. André Moerman

Eind juni van dit jaar vond het Jaarcongres Schuldenketen plaats dat Syncasso samen met Studiecentrum Kerckebosch organiseerde. Daar spraken diverse experts, elk vanuit hun eigen invalshoek en expertise. Deze week kijken we terug op de lezing van mr. André Moerman, Manager hulp bij geldzaken 1.0, Bindkracht 10 en Voorzitter van de signaleringscommissie LOSR Bindkracht 10.

Lees meer
Read more about Kleine schulden klein houden met mr. André Moerman
16 augustus 2023

Syncasso Care Facts – Klantgerichte incassocommunicatie

Het is erg belangrijk om klantgericht over incasso te communiceren. Voor maatschappelijk verantwoorde incassocommunicatie is de betaalcapaciteit van de debiteurklant leidend. Met onze AI-voorspelmodellen voorspellen we betrouwbaar of de debiteurklant de vordering ineens, met een betalingsregeling of niet kan betalen.

Lees meer
Read more about Syncasso Care Facts – Klantgerichte incassocommunicatie
10 augustus 2023

Van ‘Nee’ naar ‘Ja’ met Prof. Dr. Bob Fennis

Eind juni van dit jaar vond het Jaarcongres Schuldenketen plaats dat Syncasso samen met Studiecentrum Kerckebosch organiseerde. Daar spraken diverse experts, elk vanuit hun eigen invalshoek en expertise. Deze week kijken we terug op de lezing van Prof. Dr. Bob Fennis, hoogleraar Consumentengedrag bij de vakgroep Marketing van de Faculteit Economie en Bedrijfskunde van de Rijksuniversiteit Groningen.

Lees meer
Read more about Van ‘Nee’ naar ‘Ja’ met Prof. Dr. Bob Fennis
Feedback
Fijn dat u ons wilt helpen!

Bedankt voor uw bezoek aan www.syncasso.nl. We willen u graag zo goed mogelijk helpen. Daarom willen we graag weten wat we goed doen en wat beter kan.

U helpt ons en onze andere klanten als u deze korte vragenlijst invult. Bedankt voor uw medewerking!

Klik op het antwoord dat u het beste vindt passen.

Vragenlijst

Hoe zou u Syncasso beoordelen?

Footer logo

Contact

post@syncasso.nlWhatsAppNaar de contactpagina

Rekeningnummer Syncasso: NL 48 RABO 0300 1039 99

Direct betalen via iDeal

Rekeningnummer Syncasso:
NL 48 RABO 0300 1039 99

Direct betalen via iDeal

Pagina’s

  • Home
  • Opdrachtgevers
  • Mijn Dossier
  • Veelgestelde vragen
  • Over ons

Overige linkjes

  • Contact
  • Gebruik website (privacy & cookies)
  • Algemene Voorwaarden en Tarieven
Volg ons op Ga naar TwitterGa naar TwitterGa naar Twitter