Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister

imp-04ImplementatieMonitoring en beheerProjectleiderBeleid en adviesTransparantie

Maatregel

Publiceer het algoritme in het Nederlandse Algoritmeregister.

Toelichting

De regering wil dat de overheid algoritmes verantwoord gebruikt. Mensen moeten erop kunnen vertrouwen dat algoritmes voldoen aan de waarden en normen van de samenleving.
Wanneer de overheid open is over algoritmes en hun toepassing kunnen burgers, organisaties en media haar kritisch volgen.
Impactvolle algoritmes en hoog-risico AI-systemen moeten daarom worden gepubliceerd in het Algoritmeregister.
In het Algoritmeregister moet uitleg zijn over hoe algoritmes of het proces wat hiermee wordt ondersteund werkt.
Er is een Handreiking Algoritmeregister opgesteld met informatie over het publiceren van algoritmes in het Algoritmeregister.
De Algoritmeregister Publicatiestandaard kan overheidsorganisaties ondersteunen bij het helpen invullen van het Algoritmeregister.
Sommige overheidsorganisaties publiceren hun algoritmes ook in een eigen Algoritmeregister, zodat burgers dit makkelijker kunnen vinden. Bijvoorbeeld het Algoritmeregister van de Gemeente Rotterdam, het Algoritmeregister van de Gemeente Amsterdam of het Algoritmeregister van het UWV.
Zorg na publicatie dat de informatie in het Algoritmeregister up-to-date blijft en indien nodig regelmatig wordt aangepast.
Eventueel kan je meer informatie over het algoritme openbaar beschikbaar stellen. Bijvoorbeeld door het publiceren van de modelcode op een site zoals GitHub of GitLab.

Risico

Betrokkenen zijn niet op de hoogte dat hun persoonsgegevens worden verwerkt met een algoritme, waardoor zij hier geen controle over hebben.

Bijbehorende vereiste(n)

Bekijk alle vereisten

Vereiste
bzk-01 - Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse Algoritmeregister
aia-08 - Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen
avg-07 - Organisaties zijn transparant over het verwerken van persoonsgegevens
awb-01 - Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig

Bronnen

Voorbeelden

Jury Rapport: Best Beschreven Algoritme

In december 2023 is het juryrapport van Best Beschreven Algoritme binnen het Algoritmeregister bekendgemaakt. Van de 13 genomineerde algoritmes is een top 4 opgesteld waar uiteindelijk een winnaar uitgekomen is; Gemeente Groningen: Eerste Hulp bij Geldzaken.

Het algoritme heeft een heldere omschrijving rondom de technische en ethische aspecten. Daarnaast geeft het een volledig beeld voor burgers over de inzet en het gebruik van het algoritme. Dit wordt gedaan aan de hand van verwijzingen naar externe pagina’s voor meer uitleg.

Bron: Jury Rapport Best Beschreven Algoritme

Heb je een ander voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl