Maak een openbaar besluit over de inzet van het algoritme
imp-01OrganisatieverantwoordelijkhedenImplementatieProjectleiderGovernanceTransparantie
Maatregel
Een politieke-bestuurlijk besluit wordt genomen over de inzet van een impactvol algoritme en hoog risico AI-systemen.
Toelichting
- Door een politiek-bestuurlijk besluit te nemen over de inzet of beëindiging van een impactvol algoritme of hoog risico AI-systeem, wordt een afweging en keuze gemaakt over de wenselijkheid, haalbaarheid, transparantie, invulling van menselijke controle en eventueel de mate van onbewuste vooringenomenheid van het betreffende algoritme of AI-systeem.
- Impactvolle algoritmes en hoog risico AI-systemen bevatten aspecten die vragen om politieke afwegingen, en niet enkel door de ambtelijke organistie mogen worden beoordeeld.
- Een voorbeeld van een politiek afweging is wanneer er wel of geen sprake is van een gerechtvaardigd onderscheid wat wordt gemaakt door een algoritme of AI-systeem.
- Het is van belang dat overheidsorganisaties een politiek-bestuurlijk kader opstellen waarin wordt beschreven hoe wordt omgegaan met dergelijke gevallen.
- Een openbaar besluit draagt bij aan de legitimiteit van de inzet van het algoritme of AI-systeem en de controleerbaarheid van de overheidsorganisatie.
Bijbehorende vereiste(n)
Risico
De ambtelijke organisatie maakt politieke-bestuurlijke afwegingen en beslissingen bij de inzet of beëindiging van het gebruik van impactvolle algoritmes en AI-systemen, terwijl deze daar niet toe bevoegd is.
Bronnen
Voorbeeld
Besluit College van Burgemeester en Wethouders Gemeente Amsterdam