Richt een proces in voor een periodieke evaluatie van de kwaliteit van het algoritme of AI-systeem.
OrganisatieverantwoordelijkhedenProceseigenaarBeleidsmedewerkerData engineerData scientistInformatiebeheerderPrivacy officerSecurity officerEthicusInkoopadviseurContractbeheerderGovernance
Maatregel¶
Richt een proces in voor een periodieke evaluatie van de kwaliteit van het algoritme of AI-systeem.
Toelichting¶
- Het is van belang dat een proces wordt ingericht waarmee periodiek de kwaliteit van algoritmes of AI-systemen wordt geëvalueerd.
- Bij kwaliteit van een algoritme of AI-systeem kan worden gedacht aan doeltreffenheid, doelmatigheid, betrouwbaarheid en accuraatheid (geschiktheid) en non-discriminatie.
- Hieronder vallen het analyseren en evalueren van ingediende klachten en incidenten.
- Na verloop van tijd kan de accuraatheid van machine learning modellen bijvoorbeeld wijzigen of kan het gebeuren dat bepaalde groepen (indien van toepassing) anders worden behandeld.
- Het is van belang dat monitoringsactiviteiten worden ingericht om deze kwaliteitsaspecten tijdig te beoordelen.
- Als er ongewenste wijzigingen plaatsvinden met betrekking tot de kwaliteit, moeten die worden geëvalueerd en zullen maatregelen moeten worden getroffen om deze te herstellen.
- Het proces moet er voor zorgen dat de juiste experts of stakeholders worden betrokken bij het proces van evaluatie en het treffen van passende maatregelen.
Let op! Sommige maatregelen in het Algoritmekader gaan dieper in op het uitvoeren van risicoanalyses.
Risico¶
Zonder evaluatie van de kwaliteit van het algoritme is er geen goede sturing, beheersing en verantwoording mogelijk als er ongewenste wijzigingen plaatsvinden in het algoritme of AI-systeem.
Bijbehorende vereiste(n)¶
Bronnen¶
| Bron |
|---|
| Onderzoekskader Algoritmes Auditdienst Rijk, SV.16, SV.17 |
| Toetsingskader Algoritmes Algemene Rekenkamer, 1.08 |
| Algoritmekader |
Voorbeeld¶
Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl