Publiceer impactvolle algoritmes en hoog-risico-AI-systemen in het Algoritmeregister
imp-04ImplementatieMonitoring en beheerProjectleiderBeleid en adviesTransparantie
Maatregel
Publiceer het algoritme in het Nederlandse Algoritmeregister.
Toelichting
- De regering wil dat de overheid algoritmes verantwoord gebruikt. Mensen moeten erop kunnen vertrouwen dat algoritmes voldoen aan de waarden en normen van de samenleving.
- Wanneer de overheid open is over algoritmes en hun toepassing, kunnen burgers, organisaties en media haar kritisch volgen.
- Impactvolle algoritmes en hoog risico AI-systemen moeten daarom worden gepubliceerd in het Algoritmeregister.
- In het Algoritmeregister moet uitleg zijn over hoe algoritmes, of het proces wat hiermee wordt ondersteund werkt.
- Er is een Handreiking Algoritmeregister opgesteld met informatie over het publiceren van algoritmes in het Algoritmeregister.
- De Algoritmeregister Publicatiestandaard kan overheidsorganisaties ondersteunen bij het helpen invullen van het Algoritmeregister.
- Sommige overheidsorganisaties publiceren hun algoritmes ook in een eigen Algoritmeregister, zodat burgers dit makkelijker kunnen vinden. Bijvoorbeeld het Algoritmeregister van de Gemeente Rotterdam, het Algoritmeregister van de Gemeente Amsterdam of het Algoritmeregister van het UWV.
- Zorg na publicatie dat de informatie in het Algoritmeregister up-to-date blijft en indien nodig regelmatig wordt aangepast.
Bijbehorende vereiste(n)
Risico
Betrokkenen zijn niet op de hoogte dat hun persoonsgegevens worden verwerkt met een algoritme, waardoor zij hier geen controle over hebben.
Bronnen
- Handreiking Algoritmeregister
- Algoritmeregister Publicatiestandaard
- Toetsingskader Algoritmes Algemene Rekenkamer, 3.12, 3.14, 3.16
- Onderzoekskader Algoritmes Auditdienst Rijk, SV.14, PRI.8