Maak een openbaar besluit over de inzet van het algoritme
imp-08OrganisatieverantwoordelijkhedenImplementatieProjectleiderGovernanceTransparantie
Maatregel
Een politieke-bestuurlijk besluit wordt genomen over de inzet van een impactvol algoritme.
Toelichting
- Door een politiek-bestuurlijk besluit te nemen over de inzet of beëindiging van een impactvol algoritme wordt een afweging en keuze gemaakt over de wenselijkheid, haalbaarheid, transparantie, invulling van menselijke controle en eventueel de mate van onbewuste vooringenomenheid van het betreffende algoritme.
- Impactvolle algoritmes bevatten aspecten die vragen om politieke afwegingen en niet enkel door de ambtelijke organistie mogen worden beoordeeld.
- Een voorbeeld van een politiek afweging is wanneer er wel of geen sprake is van een gerechtvaardigd onderscheid wat wordt gemaakt door een algoritme.
- Het is van belang dat overheidsorganisaties een politiek-bestuurlijk kader opstellen waarin wordt beschreven hoe wordt omgegaan met dergelijke gevallen.
- Een openbaar besluit draagt bij aan de legitimiteit van de inzet van het algoritme en de controleerbaarheid van de overheidsorganisatie.
Risico
De ambtelijke organisatie maakt politieke-bestuurlijke afwegingen en beslissingen bij de inzet of beëindiging van het gebruik van impactvolle algoritmes, terwijl deze daar niet toe bevoegd is.
Bijbehorende vereiste(n)
Bronnen
Kleur bekennen, Algemene Rekenkamer Rotterdam
Voorbeelden
Gemeente Amsterdam: College van burgemeester en wethouders
Het college van burgemeester en wethouders (CBW) van Gemeente Amsterdam heeft in januari 2024 een openbaar besluit genomen rondom het algoritme Slimme Check. Dit algoritme was bedoeld om de afdeling Handhaving te ondersteunen bij het inschatten van de onderzoekswaardigheid van aanvragen levensonderhoud. Het algoritme maakt een voorselectie van inkomende aanvragen en of deze eerst onderzocht moeten worden of in behandeling genomen kunnen worden. Bij een analyse van de pilot is de conclusie getrokken dat het model niet geïmplementeerd kon worden vanwege verschillende redenen. Er zouden meerdere veranderingen gedaan moeten worden om Slimme Check verder door te ontwikkelen.
Het CBW heeft aan de hand van deze eindevaluatie bepaald dat Slimme Check niet verder ontwikkeld wordt. Dit is gepubliceerd op de website van Gemeente Amsterdam naast besluiten en nieuws rondom andere zaken.
Bron: Nieuws uit B en W 24 januari 2024 - Gemeente Amsterdam
Heb je een ander voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl