Impactvolle algoritmes en AI-systemen worden gepubliceerd in het Nederlandse algoritmeregister
OntwikkelenVerificatie en validatieImplementatieMonitoring en beheerTransparantie
Vereiste¶
Bestuursorganen publiceren algoritmes met impact en hoog-risico AI-systemen in het Nederlandse Algoritmeregister.
Toelichting¶
Het publiceren van impactvolle algoritmes en AI-systemen draagt bij aan transparantie voor belanghebbenden en derden over welke algoritmes en AI worden gebruikt door de overheid. Het is vastgesteld beleid dat overheidsinstellingen, tenzij er uitsluitingsgronden zijn, de door hen gebruikte impactvolle algoritmes en hoogrisico AI-systemen publiceren in het algoritmeregister. Er wordt gewerkt aan wetgeving om het bij wet verplicht te stellen.
Bronnen¶
Bron |
---|
Handreiking Algoritmeregister |
Geactualiseerde Werkagenda Waardengedreven Digitaliseren 2024 |
Kamerbrieven |
Wanneer van toepassing?¶
niet-impactvol | impactvol |
---|---|
niet-impactvol | impactvol | hoog-risico-ai |
---|---|---|
niet-impactvol | impactvol | hoog-risico-ai |
---|---|---|
Risico¶
Door het niet publiceren van impactvolle of hoog risico AI -systemen in het Algoritmeregister, is het voor betrokkenen of belanghebbenden minder goed mogelijk om de overheid kritisch te volgen, te bevragen en te controleren op de inzet van deze technologieën die hen kunnen raken. Bij het onjuist of onvolledig publiceren in het Algortimeregister ontstaat er een risico dat betrokkenen en belanghebbenden onjuiste inschattingen maken over het gebruik van het algoritme of het AI-systeem en daardoor in hun rechten worden beperkt.
Maatregelen¶
Maatregel | Uitleg |
---|---|
Bespreek de vereiste met aanbieder of opdrachtnemer | Ga met aanbieder of opdrachtnemer in gesprek over in hoeverre invulling is gegeven of kan worden gegeven aan de vereiste. |
Maak de vereiste onderdeel van het programma van eisen | Door de vereiste onderdeel te maken van het programma van eisen bij de aanbesteding, is het voor aanbieders duidelijk aan welke specifieke eisen hun oplossing moet voldoen. |
Neem technische documentatie op in het algoritmeregister | Neem geschikte informatie uit technische documentatie op in het algoritmeregister |
Publiceer de ontwikkeling en gebruik van algoritme of AI-systeem in het Algoritmeregister. | Door informatie over het algoritme of AI-systeem te vermelden in het Algoritmeregister, kunnen belanghebbenden en geïnteresseerden informatie vinden over het algoritme en AI-systemen en kunnen zij de overheid controleren. |
Maatregel | Uitleg |
---|
Maatregel | Uitleg |
---|---|
Bespreek de vereiste met aanbieder of opdrachtnemer | Ga met aanbieder of opdrachtnemer in gesprek over in hoeverre invulling is gegeven of kan worden gegeven aan de vereiste. |
Maak de vereiste onderdeel van het programma van eisen | Door de vereiste onderdeel te maken van het programma van eisen bij de aanbesteding, is het voor aanbieders duidelijk aan welke specifieke eisen hun oplossing moet voldoen. |
Instrumenten¶
Instrument | Uitleg |
---|---|
Algoritmeregister | Het Algoritmeregister is de plek waar overheden informatie over hun algoritmes kunnen publiceren. |