Ga naar inhoud

Relevante feiten en belangen zijn bekend

ProbleemanalyseOntwerpDataverkenning en datapreparatieOntwikkelenVerificatie en validatieImplementatieMonitoring en beheerUitfaserenGovernance

Vereiste

De ontwikkeling en het gebruik van algoritmes en AI-systemen komt zorgvuldig tot stand.

Toelichting

Dit beginsel vereist dat een besluit met de nodige zorgvuldigheid wordt voorbereid en genomen. Dit vraagt onder meer om een zorgvuldig onderzoek naar feiten, een zorgvuldige beslissingsprocedure en een deugdelijke besluitvorming. Dit betekent dat algoritmes en AI zodanig moet worden ontwikkeld en gebruikt, dat dit passend is ter ondersteuning van de wettelijke taak en de bijbehorende beslissing of besluitvorming.

Het doel en eventuele subdoelen van het algoritme of AI-systeem moet helder zijn gedefinieerd, ook in relatie tot het maatschappelijke resultaat (outcome), en wordt gedeeld door de eigenaar, ontwikkelaar en gebruiker van het algoritme. Een bewuste afweging of het algoritme het juiste middel is om het probleem op doelmatige en doeltreffende wijze op te lossen is gemaakt en vastgelegd.

Bronnen

Bron
Afdeling 3.2 Algemene wet bestuursrecht
Afdeling 3.4 Algemene wet bestuursrecht

Wanneer van toepassing?

niet-impactvol impactvol
niet-impactvol impactvol hoog-risico-ai
niet-impactvol impactvol hoog-risico-ai

Risico

De werking van het algoritmes of AI sluit niet of onvoldoende aan bij de juridische en ethische grenzen van de te ondersteunen wettelijke taak. Hierdoor kunnen ongewenste gevolgen ontstaan zoals een onjuist of onzorgvuldig genomen besluit op een aanvraag.

Maatregelen

MaatregelUitleg
Formuleren doelstellingHet doel en de eventuele subdoelen van het algoritme moeten zo specifiek mogelijk zijn geformuleerd, en waar mogelijk gekwantificeerd.
Formuleren aanleiding en probleemdefinitieFormuleer en documenteer wat de aanleiding is om een algoritme of AI-systeem in te willen zetten.
Formuleren aanleiding en probleemdefinitieBepaal en documenteer waarom het gewenst of nodig is om een algoritme in te zetten om het probleem te kunnen aanpakken.
MaatregelUitleg
MaatregelUitleg