Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit
awb-02OntwerpImplementatieMonitoring en beheerJuristBeleid en adviesTransparantie
Vereiste
Een besluit berust op een deugdelijke motivering
Toelichting
Een bestuursorgaan moet inzichtelijk maken:
- dat een besluit tot stand is gekomen met behulp van een algoritme;
- van welke feiten het is uitgegaan en welke gegevens van de burger gebruikt c.q. verwerkt zijn;
- welke relevante belangen tegen elkaar zijn afgewogen en hoe die afweging is verlopen (bijvoorbeeld het gewicht dat wordt toegekend aan elk afgewogen kenmerk; welke analytische technieken gebruikt zijn; welke specifieke voorspellende data; wat de belangrijkste policy-keuzes waren; een uitleg van het voorspellende algoritme);
- hoe het algoritme werkt (niet de techniek, maar hoe de uitkomsten van het algoritme tot stand komen).
De keuzes en aannames die zijn gemaakt en gedaan moeten worden beschreven en toegelicht.
Bronnen
- Afdeling 3.7 Algemene wet bestuursrecht
- Jurisprudentie over AERIUS (ABRvS 18 juli 2018, ECLI:NL:RVS:2018:2454), Hof van Justitie C-274/18
Wanneer van toepassing?
Risico
Het is onduidelijk op wat voor manier het algoritmes of AI-systeem heeft bijgedragen aan de totstandkoming van een besluit.