Ga naar inhoud

Publiceer de ontwikkeling en gebruik van algoritme of AI-systeem in het Algoritmeregister.

OntwerpOntwikkelenVerificatie en validatieImplementatieMonitoring en beheerUitfaserenProceseigenaarBeleidsmedewerkerPrivacy officerAanbiederTransparantie

Maatregel

Publiceer de ontwikkeling en gebruik van een algoritme of AI-systeem in het Algoritmeregister.

Toelichting

  • De regering wil dat de overheid algoritmes en AI-systemen verantwoord gebruikt. Mensen moeten erop kunnen vertrouwen dat algoritmes voldoen aan de waarden en normen van de samenleving.
  • Wanneer de overheid open is over algoritmes en hun toepassing, kunnen burgers, organisaties en media haar kritisch volgen.
  • Impactvolle algoritmes en hoog risico AI-systemen moeten daarom worden gepubliceerd in het Algoritmeregister.
  • In het Algoritmeregister moet uitleg zijn over hoe algoritmes en AI-systemen, of het proces wat hiermee wordt ondersteund werkt.
  • Er is een Handreiking Algoritmeregister opgesteld met informatie over het publiceren van algoritmes en AI-systemen in het Algoritmeregister.
  • De Algoritmeregister Publicatiestandaard kan overheidsorganisaties ondersteunen bij het helpen invullen van het Algoritmeregister.
  • Er zijn gevallen waarin het publiceren van algoritmes of AI-systemen in het Algoritmeregister achterwege moet blijven. Deze gevallen zijn beschreven in de Handreiking van het Algoritmeregister.
  • Impactvolle algoritmes en hoog risico AI-systemen moet al tijdens de ontwikkeling ervan worden gepubliceerd in het Algoritmeregister.

Bijbehorende vereiste(n)

Vereiste
bzk-01 - Impactvolle algoritmes worden gepubliceerd in het Nederlandse algoritmeregister
aia-08 - Transparantie in ontwerp voor hoog-risico AI
avg-07 - Transparantie bij verwerking persoonsgegevens
awb-01 - Relevante feiten en belangen zijn bekend

Risico

Betrokkenen zijn niet op de hoogte dat hun persoonsgegevens worden verwerkt met een algoritme of AI-systeem, waardoor zij hier geen controle over hebben.

Bronnen

Bron
Handreiking Algoritmeregister
Algoritmeregister Publicatiestandaard
Toetsingskader Algoritmes Algemene Rekenkamer, 3.12
Onderzoekskader Algoritmes Auditdienst Rijk, PRI.8
Toetsingskader Algoritmes Algemene Rekenkamer, 3.14, 3.16

Voorbeeld