Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
owp-07ProbleemanalyseOntwerpVerificatie en validatieMonitoring en beheerProjectleiderBeleid en adviesFundamentele rechten
Maatregel
Identificeer welke grondrechten geraakt worden door het in te zetten algoritme en maak een afweging of dit aanvaardbaar is.
Toelichting
Een algoritme kan invloed hebben op grondrechten. Op een aantal grondrechten kan een algoritme sneller invloed hebben, zoals recht op persoonsgegevensbescherming, recht op behoorlijk bestuur en recht op gelijke behandeling. Deze veelvoorkomende grondrechten krijgen op andere plekken in het Algoritmekader specifieke aandacht. Er zijn echter ook grondrechten die bij minder algoritmes relevant zijn, maar desalniettemin in die gevallen zeer invloedrijk kunnen zijn. Het is van belang uiteindelijk een totale afweging te maken van alle grondrechten die (mogelijk) geraakt worden ten opzichte van de voordelen van het in te zetten algoritme. Een voorbeeld van een grondrecht dat minder snel geraakt wordt is bijvoorbeeld een algoritme om hate speech te kunnen detecteren. Zo'n algoritme zal van invloed kunnen zijn op de vrijheid van meningsuiting en het recht op informatie.
Doorloop in lijn met deel 4 van het Impact Assessment Mensenrechten en Algoritmes de volgende stappen:
- Breng in kaart welke grondrechten geraakt kunnen worden door de inzet van het algoritme. Hiervoor kan bijlage 1 uit het Impact Assessment Mensenrechten en Algoritmes gebruikt worden.
- Als dat het geval is, is het allereerst van belang om te controleren of hiervoor specifieke wetgeving is waar de inzet van het algoritme aan moet voldoen.
- Bepaal hoe zwaar de geindentificeerde grondrechten worden geraakt door het beoogde algoritme.
- Bepaal hoe doeltreffend/effectief het algoritme in de praktijk is.
- Bepaal of de inzet van het algoritme noodzakelijk is om het beoogde doel te bereiken. Zijn er alternatieven? Of zijn er mitigerende maatregelen die genomen kunnen worden waardoor grondrechten niet of minder worden geraakt en eventuele nadelige gevolgen verzacht kunnen worden?
- Gegeven alle voorgaande stappen, bepaal of de inzet van het algoritme proportioneel is om het beoogde doel te bereiken. Wegen de voordelen op tegen de nadelen?
Het is van belang voldoende belanghebbenden te betrekken bij het doorlopen van deze stappen om te zorgen dat alle eventueel nadelige aspecten van het in te zetten algoritme worden meegenomen. Documenteer de te doorlopen stappen en leg de keuzes en afwegingen goed vast.
Opmerking
Zoals vermeld in de vereiste voor beoordeling van gevolgen voor grondrechten uit de AI-verordening moeten sommige hoog-risico AI-systemen een beoordeling doen van de gevolgen voor grondrechten. Het is nog niet bekend welke vorm dit precies moet hebben.
Risico
Het risico is dat er grondrechten, anders dan die expliciet beschermd zijn in andere maatregelen en vereisten, aangetast worden.
Bijbehorende vereiste(n)
Bronnen
- Impact Assessment Mensenrechten en Algoritmes, deel 4
- Onderzoekskader Algoritmes Auditdienst Rijk, SV.4
Voorbeelden
Gemeente Rotterdam – Evaluatierapport governance algoritmetoepassingen
De gemeente Rotterdam maakt gebruik van het Impact Assessment Mensenrechten en Algoritmes (IAMA) na controle op hoog-risico aan de hand van de Algorithm Risk Assesment (ARA). Rotterdam gebruikt hiermee de ARA als een ‘pre-IAMA’ om daarna (waar nodig) het IAMA verder uit te werken. Zij geven aan dat het IAMA veel toegevoegde waarde heeft, zo helpt het onder andere ontwikkelaars met het onderbouwen van problemen binnen een algoritme.
Diverse organisaties - IAMA in Actie
In 2023 en 2024 zijn door Universiteit Utrecht (UU) en het Rijks ICT Gilde (RIG) een aantal IAMA-trajecten begeleid bij overheidsorganisaties. Hierbij zijn verschillende sessies geweest per organisatie om alle gedeelten van het IAMA te beantwoorden met behulp van de expertise van de UU- of RIG-begeleiders. In het rapport IAMA in Actie worden de bevindingen van deze IAMA-pilots uitgebreid toegelicht.
Bron: IAMA in Actie
Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl