Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit

awb-02OntwerpImplementatieMonitoring en beheerProjectleiderOntwikkelaarTransparantie

Vereiste

Een besluit berust op een deugdelijke en kenbare motivering.

Toelichting

De Awb eist dat een besluit een deugdelijke en kenbare motivering heeft. Dit geldt ook als algoritmes worden ingezet. Een betrokkene moet in staat zijn om te controleren of de overheid een besluit correct heeft genomen. Het motiveringsbeginsel draagt bij aan doelen als verantwoording kunnen afleggen en het bieden van rechtsbescherming. Het kan in samenhang worden gezien met transparantieverplichtingen die voortkomen uit de AVG.

Het is van belang dat inzichtelijk wordt gemaakt in het besluit welke gegevens zijn verwerkt en welke 'aannames' een algoritme bevat. Dit speelt in het bijzonder als gebruik wordt gemaakt van geautomatiseerde besluitvormingsprocessen. Hierbij kan worden gedacht aan:

• Dat een besluit tot stand is gekomen met behulp van een algoritme.

• Van welke feiten het bestuursorgaan is uitgegaan.

• Welke gegevens zijn verwerkt.

• Welke relevante belangen tegen elkaar zijn afgewogen en hoe die afweging is verlopen.

• Welke regels zijn gebruikt.

• Wat de hierachter is (kenbaarheid).

• Welke analytische technieken zijn gebruikt.

• Waarom deze regels en logica relevant zijn (uitleg)?

• Op welke wijze de regels en logica tot stand zijn gekomen en hoe deze regels worden gevalideerd.

Een besluit moet informatie hierover bevatten om als om als voldoende draagkrachtig gemotiveerd te gelden. Het motiveringsbeginsel op grond van de Awb is beperkt tot besluiten in de zin van de Awb.

Bronnen

• Artikel 3:46 en 3:47 Awb
• Jurisprudentie over AERIUS (ABRvS 18 juli 2018, ECLI:NL:RVS:2018:2454), Hof van Justitie C-274/18
• Advies artikel 22 AVG en geautomatiseerde selectie-instrumenten

Wanneer van toepassing?

Risico

Het is onduidelijk op wat voor manier het algoritmes heeft bijgedragen aan de totstandkoming van een besluit.

Maatregelen

id	Maatregelen
owp-15	Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders.
owp-16	Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst.
owp-21	Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding.
owp-22	Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren
owp-23	Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke.
owp-24	Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
owp-25	Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
owp-28	Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-33	Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze.
owp-37	Maak gebruik van een algoritme dat bronvermelding kan genereren bij de output.
ver-05	Controleer regelmatig of het algoritme voldoet aan alle wetten en regels en het eigen beleid
imp-09	Maak een openbaar besluit over de inzet van het algoritme