Controleer en verbeter regelmatig de kwaliteit van het algoritme
org-12OrganisatieverantwoordelijkhedenMonitoring en beheerProjectleiderBeleid en adviesGovernanceMenselijke controle
Maatregel
Richt een proces in voor een periodieke evaluatie van de kwaliteit van het algoritme of AI-systeem.
Toelichting
- Het is van belang dat een proces wordt ingericht waarmee periodiek de kwaliteit van algoritmes of AI-systemen wordt geëvalueerd.
- Bij kwaliteit van een algoritme of AI-systeem kan worden gedacht aan doeltreffenheid, doelmatigheid, betrouwbaarheid en accuraatheid (geschiktheid), non-discriminatie en menselijke controle.
- Hieronder vallen het analyseren en evalueren van ingediende klachten en incidenten.
- Hieronder vallen ook het analyseren evalueren van besluiten door of aan de hand van het algoritmen.
- Na verloop van tijd kan de accuraatheid van machine learning modellen bijvoorbeeld wijzigen of kan het gebeuren dat bepaalde groepen (indien van toepassing) anders worden behandeld.
- Het is van belang dat monitoringsactiviteiten worden ingericht om deze kwaliteitsaspecten tijdig te beoordelen.
- Als er ongewenste wijzigingen plaatsvinden met betrekking tot de kwaliteit, moeten die worden geëvalueerd en zullen maatregelen moeten worden getroffen om deze te herstellen.
- Het proces moet er voor zorgen dat de juiste experts of stakeholders worden betrokken bij het proces van evaluatie en het treffen van passende maatregelen.
Let op! Sommige maatregelen in het Algoritmekader gaan dieper in op het uitvoeren van risicoanalyses.
Risico
Zonder evaluatie van de kwaliteit van het algoritme is er geen goede sturing, beheersing en verantwoording mogelijk als er ongewenste wijzigingen plaatsvinden in het algoritme of AI-systeem.
Bijbehorende vereiste(n)
| Vereiste |
|---|
| aia-11 - Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem |
| aia-29 - Hoog-risico-AI-systemen voor publieke taken worden beoordeeld op gevolgen voor grondrechten |
Bronnen
- Onderzoekskader Algoritmes Auditdienst Rijk, SV.15, SV.16, SV.17
- Toetsingskader Algoritmes Algemene Rekenkamer, 1.08
Voorbeeld
Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl