16 jul 2020

Kernprincipe II: Privacy respecteren, misbruik voorkomen en geen kwaad doen

Ethische kaders Artificial Intelligence in creditmanagement

In een eerder artikel in deze reeks, te vinden op www.syncasso.nl/aiethiek, bespraken we het eerste en belangrijkste ethische kernprincipe voor Artificial Intelligence: Goed doen in relatie tot creditmanagement. Dit is het tweede artikel met als onderwerp Niet Kwaad Doen met AI in een serie van vijf over ethische kaders die nodig zijn voor de ontwikkeling en toepassingen van AI in creditmanagement.

Kernprincipe II:

Privacy respecteren, misbruik voorkomen en geen kwaad doen

Het gebruik van artificial intelligence brengt niet alleen voordelen, maar ook risico’s met zich mee. De informatie kan in verkeerde handen terechtkomen en gebruikt worden om burgers te benadelen of te beperken. Wie controleert eigenlijk het algoritme? Kan het uitgezet worden? Hoe objectief is de voorspelling? Wat blijft erover van onze privacy? Als er misbruik van gemaakt wordt, hoe stop je dat dan?

Bij de ontwikkeling en toepassing van artificial intelligence moet vanaf het ontwerp rekening gehouden worden met het uitsluiten van risico’s. Privacy by design. Dat begint bij de verzameling van de data. We hanteren hierbij de volgende uitgangspunten:

• Minimaliseer de hoeveelheid data en abstraheer en/of pseudonimiseer de datasets waarin persoonsgegevens verwerkt zijn;
• Zorg voor transparantie en toegankelijkheid om de eigen data in te zien en te verbeteren;
• Informeer de betrokkenen duidelijk dat hun persoonsgegevens verwerkt worden;
• Garandeer dat persoonlijke gegevens op een privacy vriendelijke manier verwerkt worden en dat erop toegezien wordt dat dat zo blijft;
• Beperk de toegankelijkheid van de data op een need to know basis.

Een veilige, beschermende ICT-infrastructuur is een voorwaarde voor de verwerking van persoonsgegevens en het gebruik van AI. Security by Design bestaat o.a. uit decentrale opslag van de data. Hiervoor hebben we de volgende uitgangspunten geformuleerd:

• Gescheiden opslag en verwerking van de data, waardoor die afzonderlijk van elkaar geen betekenis hebben;
• Registreer en controleer het gebruik en de gebruikers;
• Maak gebruik van een frequent automatisch proces om continu en proactief te testen of er kwetsbaarheden in de infrastructuur zijn geslopen;
• Gebruik een gecertificeerd beveiligingsprotocol dat objectief vaststelt dat de beveiliging van de infrastructuur voldoet aan de eisen die daaraan gesteld worden.

Geen kwaad doen, specifiek voor creditmanagement AI

De hiervoor geschetste uitgangspunten zijn onverkort van toepassing op de ontwikkeling en toepassing van AI voor creditmanagement. Specifiek voor creditmanagement is AI gebruik voor black listing een No Go. Maar juist wel om overcreditering te voorkomen, klanten beschermen tegen overbesteding of te hoge leningen. Door de toepassing van creditmanagement AI te beperken tot persoonlijke, sociaal verantwoorde incasso activiteiten is het risico dat daar kwaad mee gedaan wordt minimaal.

Met AI effectief bescherming bieden tegen (incasso)kosten die de debiteurklant niet kan dragen levert ook een bijdrage aan het beperken van de ontwikkeling van problematische schulden. Transparantie en controle bieden aan de debiteurklant van wie persoonsgegevens gebruikt worden met AI voor creditmanagement is al in de AVG geregeld. De debiteurklant daarbij helpen is een logische volgende stap. Tenslotte levert de borging van ethische AI voor creditmanagement door middel van certificering en externe audits extra betrouwbaarheid op dat er zorgvuldig met de data wordt omgegaan. Die betrouwbaarheid draagt bij aan het gevoel dat er geen kwaad gedaan wordt met AI.

Kent u andere voorwaarden voor AI in creditmanagement om Geen kwaad te doen? Deel ze met ons via www.syncasso.nl/aiethiek.

Vijf kernprincipes voor ethische AI

In het volgende artikel bespreken we het 3e kernprincipe voor ethische AI: Autonomie.