Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit
awb-02OntwerpImplementatieMonitoring en beheerProjectleiderOntwikkelaarTransparantie
Vereiste
Een besluit berust op een deugdelijke en kenbare motivering.
Toelichting
De Awb eist dat een besluit een deugdelijke en kenbare motivering heeft. Dit geldt ook als algoritmes worden ingezet. Een betrokkene moet in staat zijn om te controleren of de overheid een besluit correct heeft genomen. Het motiveringsbeginsel draagt bij aan doelen als verantwoording kunnen afleggen en het bieden van rechtsbescherming. Het kan in samenhang worden gezien met transparantieverplichtingen die voortkomen uit de AVG.
Het is van belang dat inzichtelijk wordt gemaakt in het besluit welke gegevens zijn verwerkt en welke 'aannames' een algoritme bevat. Dit speelt in het bijzonder als gebruik wordt gemaakt van geautomatiseerde besluitvormingsprocessen. Hierbij kan worden gedacht aan:
-
Dat een besluit tot stand is gekomen met behulp van een algoritme.
-
Van welke feiten het bestuursorgaan is uitgegaan.
-
Welke gegevens zijn verwerkt.
-
Welke relevante belangen tegen elkaar zijn afgewogen en hoe die afweging is verlopen.
-
Welke regels zijn gebruikt.
-
Wat de hierachter is (kenbaarheid).
-
Welke analytische technieken zijn gebruikt.
-
Waarom deze regels en logica relevant zijn (uitleg)?
-
Op welke wijze de regels en logica tot stand zijn gekomen en hoe deze regels worden gevalideerd.
Een besluit moet informatie hierover bevatten om als om als voldoende draagkrachtig gemotiveerd te gelden. Het motiveringsbeginsel op grond van de Awb is beperkt tot besluiten in de zin van de Awb.
Bronnen
- Artikel 3:46 en 3:47 Awb
- Jurisprudentie over AERIUS (ABRvS 18 juli 2018, ECLI:NL:RVS:2018:2454), Hof van Justitie C-274/18
- Advies artikel 22 AVG en geautomatiseerde selectie-instrumenten
Wanneer van toepassing?
Risico
Het is onduidelijk op wat voor manier het algoritmes heeft bijgedragen aan de totstandkoming van een besluit.