Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister

imp-04ImplementatieMonitoring en beheerProjectleiderBeleid en adviesTransparantie

Maatregel

Publiceer het algoritme in het Nederlandse Algoritmeregister.

Toelichting

De regering wil dat de overheid algoritmes verantwoord gebruikt. Mensen moeten erop kunnen vertrouwen dat algoritmes voldoen aan de waarden en normen van de samenleving.
Wanneer de overheid open is over algoritmes en hun toepassing kunnen burgers, organisaties en media haar kritisch volgen.
Impactvolle algoritmes en hoog-risico AI-systemen moeten daarom worden gepubliceerd in het Algoritmeregister.
In het Algoritmeregister moet uitleg zijn over hoe algoritmes of het proces wat hiermee wordt ondersteund werkt.
Er is een Handreiking Algoritmeregister opgesteld met informatie over het publiceren van algoritmes in het Algoritmeregister.
De Algoritmeregister Publicatiestandaard kan overheidsorganisaties ondersteunen bij het helpen invullen van het Algoritmeregister.
Sommige overheidsorganisaties publiceren hun algoritmes ook in een eigen Algoritmeregister, zodat burgers dit makkelijker kunnen vinden. Bijvoorbeeld het Algoritmeregister van de Gemeente Rotterdam, het Algoritmeregister van de Gemeente Amsterdam of het Algoritmeregister van het UWV.
Zorg na publicatie dat de informatie in het Algoritmeregister up-to-date blijft en indien nodig regelmatig wordt aangepast.
Eventueel kan je meer informatie over het algoritme openbaar beschikbaar stellen. Bijvoorbeeld door het publiceren van de modelcode op een site zoals GitHub of GitLab.

Risico

Betrokkenen zijn niet op de hoogte dat hun persoonsgegevens worden verwerkt met een algoritme, waardoor zij hier geen controle over hebben.

Bijbehorende vereiste(n)

Bekijk alle vereisten

Vereiste
bzk-01 - Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse Algoritmeregister
aia-08 - Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen
avg-07 - Organisaties zijn transparant over het verwerken van persoonsgegevens
awb-01 - Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig

Bronnen

Voorbeelden

Best Beschreven Algoritme Award

Het algoritme 'Eerste Hulp bij Geldzaken' van de gemeente Groningen is het best beschreven algoritme van 2023 in het Algoritmeregister. Volgens de jury zijn de technische en ethische aspecten helder beschreven. En burgers krijgen een volledig beeld over de manier waarop de gemeente het algoritme inzet en gebruikt. Hierbij verwijst de gemeente naar externe pagina’s voor meer uitleg.

Heb je een ander voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl