Algoritmes schenden geen grondrechten of mensenrechten

grw-01ProbleemanalyseOntwerpVerificatie en validatieMonitoring en beheerProjectleiderJuristFundamentele rechten

Vereiste

Fundamentele vrijheden, mensenrechten en grondrechten worden beschermd bij de inzet van algoritmes en AI.

Toelichting

Mensenrechten gelden voor alle mensen op de wereld. De mensenrechten in Nederland zijn beschermd door nationale wetten en internationale verdragen. In Nederland staan veel mensenrechten in hoofdstuk 1 van de Grondwet. Deze rechten heten ook wel ’grondrechten’. Een bekend voorbeeld is artikel 1 van de Grondwet. Om mensenrechten te beschermen zijn ze op Europees en internationaal niveau in verschillende verklaringen en verdragen vastgelegd.

Mensenrechten kunnen soms onder druk komen te staan. De inzet van algoritmes en AI-systemen kan bijvoorbeeld een bedreiging vormen voor de privacy van burgers, voor het recht op gelijke behandeling en voor het recht op behoorlijk bestuur. Het is daarom belangrijk om tijdig te onderzoeken of er sprake is of kan zijn van een eventuele inbreuk op fundamentele rechten en vrijheden van burgers. Het is van belang dat maatregelen worden getroffen om een eventuele inbreuk te voorkomen.

Bronnen

• Grondwet
• Europees Verdragvoor de Rechten van de Mens (EVRM)
• Handvest van de grondrechten van de Europese Unie
• Universele Verklaring van de Rechten van de Mens (UVRM)
• Internationaal Statuut van de Rechten van de Mens
• Internationale Verdrag inzake burgerrechten en politieke rechten (IVBPR)
• Internationale Verdrag inzake economische, sociale en culturele rechten (IVESCR)
• Internationaal Verdrag inzake de uitbanning van alle vormen van rassendiscriminatie (CERD)
• Internationaal Verdrag voor de rechten van het kind (CRC)
• Internationaal Verdrag voor de Rechten van Mensen met een Handicap (VN-verdrag Handicap)
• Artikel 27 Verordening Artificiële Intelligentie

Wanneer van toepassing?

Risico

Grondrechten kunnen worden geraakt door de inzet van algoritmes met eventuele schadelijke gevolgen voor betrokkenen.

Maatregelen

id	Maatregelen
owp-06	Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
owp-07	Maak een lijst van de meest kwetsbare groepen en bescherm hen extra
owp-12	Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders.
owp-13	Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst.
owp-18	Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding.
owp-19	Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren
owp-21	Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
owp-25	Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-28	Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes.
owk-02	Maak een noodplan voor het stoppen van het algoritme
ver-01	Toets het algoritme op bias
imp-03	Organiseer menselijke controle van het algoritme

hulpmiddelen

Hulpmiddelen
Impact Assessment Mensenrechten en Algoritmes
The Fairness Handbook
Handreiking non-discriminatie by design
Discriminatie door risicoprofielen - Een mensenrechtelijk toetsingskader