Beschrijf waarom een algoritme het probleem moet oplossen
pba-03ProbleemanalyseProjectleiderGovernanceMenselijke controle
Maatregel
Bepaal en documenteer waarom het gewenst of nodig is om een algoritme in te zetten om het probleem te kunnen aanpakken.
Toelichting
-
Bepaal waarom het gewenst of nodig is om een algoritme in te zetten, en of er ook alternatieven zijn om het probleem op te lossen. Documenteer de onderbouwing waarom een algoritme een betere oplossing zou bieden dan een niet-geautomatiseerd of niet-digitaal proces.
-
Maak een bewuste afweging of een algoritme het juiste middel is om het probleem op doelmatige en doeltreffende wijze op te lossen, en documenteer deze afweging.
-
Beoordeel of de gewenste oplossing is toegestaan op grond van de AI-Verordening.
Risico
Het algoritme is niet het juiste middel om het probleem op te lossen. Het risico daarbij bestaat dat het probleem niet wordt opgelost.
Bijbehorende vereiste(n)
Bronnen
- Impact Assessment Mensenrechten en Algoritmes, 1.01
- Onderzoekskader Algoritmes Auditdienst Rijk, SV.2
- Handreiking identificatie verboden AI-systemen (Powerpoint-bestand)
Voorbeelden
Politie - HAVANK
De politie maakt voor het identificeren van personen gebruik van vingerafdrukken. In Het Automatisch Vingerafdrukkensysteem Nederlandse Kollektie (HAVANK) worden vinger- en handpalmafdrukken verwerkt. Het algoritme controleert of de gegeven vingerafdruk met een andere afdruk overeenkomt op basis van een score. Volgens de politie is het onderzoeken en vergelijken van een vingerafdruk met grote aantallen andere afdrukken onmogelijk en onuitvoerbaar. Zij geven aan dat daarom een algoritme hierbij noodzakelijk is om zo de kans op herkenning te vergroten en de kans op fouten te verkleinen.
Bron: HAVANK - Politie
Heb je een ander voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl