Ga naar inhoud

Recht op niet geautomatiseerde besluitvorming

OntwerpOntwikkelenMonitoring en beheerPrivacy en gegevensbescherming

Vereiste

Betrokkenen hebben het recht om niet onderworpen te worden aan een enkel op geautomatiseerde verwerking, waaronder proflering, gebaseerd besluit, wanneer dit rechtsgevolgen heeft voor hen of het hen anderszins in aanzienlijke mate treft.

Toelichting

Mensen hebben het recht om niet onderworpen te worden aan beslissingen die uitsluitend gebaseerd zijn op geautomatiseerde verwerking, zoals profilering, als dit aanzienlijke gevolgen voor hen heeft of hen op een andere manier aanzienlijk beïnvloedt. Dit recht biedt bescherming tegen mogelijke negatieve effecten van volledig geautomatiseerde besluitvormingssystemen, en waarborgt dat individuen kunnen rekenen op menselijke tussenkomst en beoordeling bij belangrijke beslissingen die hen kunnen treffen. Uitgangspunt is dat voor elk individueel geval een zorgvuldige beoordeling van de kenmerken en omstandigheden plaatsvindt voordat een besluit wordt genomen.

Bronnen

Bron
Artikel 22 Algemene Verordening Gegevensbescherming
Artikel 1:3 Algemene wet bestuursrecht

Wanneer van toepassing?

niet-impactvol impactvol
niet-impactvol impactvol hoog-risico-ai
niet-impactvol impactvol hoog-risico-ai

Risico

Bij geautomatiseerde besluitvorming kan het risico ontstaan dat kenmerken van een bepaalde groep ten onrechte worden tegengeworpen aan een individu die deze kenmerken niet hoeft te bezitten.

Maatregelen

MaatregelUitleg
Bepaal of de output bepalende invloed heeft in een besluit richting personenVergewis of het algoritme of AI-systeem overwegend bepalende invloed heeft in een besluit richting personen en laat aanbieder onderbouwen in hoeverre dit wel of niet het geval is. Maak de mate van menselijke tussenkomst onderdeel van de wedstrijd/inkoop/beoordeelingsmatrix als ook de vaste beoordeling hiervan
Controle mechanisme voor betekenisvolle menselijke tussenkomst bij gebruiken outputZorg voor een controle mechanisme waarmee kan worden voorkomen dat gebruikers belangrijke output van algoritmen en AI-systemen, zonder betekenisvolle menselijke tussenkomst, bv. enkel met doorklikken, kunnen overnemen.
Menselijke tussenkomst is een vast onderdeel van het Programma van Eisen bij aanbestedingenNeem menselijke tussenkomst op als standaard eis in het Programma van Eisen.
Menselijke tussenkomst is een vast onderdeel in een projecptlan of een déchargedocumentNeem het element van menselijke tussenkomst op in het projectplan en dchargedocument.
MaatregelUitleg
MaatregelUitleg
Bepaal of de output bepalende invloed heeft in een besluit richting personenVergewis of het algoritme of AI-systeem overwegend bepalende invloed heeft in een besluit richting personen en laat aanbieder onderbouwen in hoeverre dit wel of niet het geval is. Maak de mate van menselijke tussenkomst onderdeel van de wedstrijd/inkoop/beoordeelingsmatrix als ook de vaste beoordeling hiervan
Menselijke tussenkomst is een vast onderdeel van het Programma van Eisen bij aanbestedingenNeem menselijke tussenkomst op als standaard eis in het Programma van Eisen.
Menselijke tussenkomst is een vast onderdeel in een projecptlan of een déchargedocumentNeem het element van menselijke tussenkomst op in het projectplan en dchargedocument.