Grondrechten beschermen in algoritmes

Als overheid moet je de grondrechten van burgers beschermen. Dit geldt ook als je algoritmes of AI-systemen gebruikt voor publieke taken.

Wat is het beschermen van grondrechten in algoritmes?

Dit betekent dat je tijdens het ontwikkelen en gebruiken van algoritmes rekening houdt met de fundamentele rechten van de mens:

• grondrechten uit de Grondwet
• mensenrechtenverdragen zoals het Europees Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden (EVRM).

Belang van grondrechten beschermen

Algoritmes en AI-systemen kunnen grondrechten schenden. Een bekend probleem is bias in algoritmes. Hierdoor worden resultaten onbetrouwbaar en kun je mensen ongelijk behandelen.

Belangrijke grondrechten die vaak worden geraakt door algoritmen en AI zijn bijvoorbeeld:

• recht op persoonsgegevensbescherming
• verbod op ongelijke behandeling
• recht op eerbiediging van de persoonlijke levenssfeer

Als overheid moet je hier goed op letten. Doe dit zo vroeg mogelijk in de levenscyclus. De maatregelen die we adviseren, beginnen al bij het ontwerpen en trainen van algoritmes.

Vereisten

id	Vereisten
aia-04	Hoog-risico-AI-systemen vormen geen risico voor kwetsbare groepen zoals kinderen
aia-28	Mensen over wie besluiten worden genomen door een hoog-risico-AI-systemen, krijgen op verzoek informatie over deze besluiten
aia-29	Hoog-risico-AI-systemen voor publieke taken worden beoordeeld op gevolgen voor grondrechten
aia-37	Klachtrecht aanbieders verder in AI-waardeketen
avg-04	Persoonsgegevens en andere data verwerken gebeurt proportioneel en subsidiair
awb-01	Organisaties die algoritmes gebruiken voor publieke taken gaan zorgvuldig te werk
grw-01	Algoritmes schenden geen grondrechten of mensenrechten

Aanbevolen maatregelen

id	Maatregelen
pba-04	Overleg regelmatig met belanghebbenden
owp-06	Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
owp-07	Maak een lijst van de meest kwetsbare groepen en bescherm hen extra

Hulpmiddelen

Hulpmiddelen
Assessment List for Trustworthy Artificial Intelligence (ALTAI)
De Ethische Data Assistent
Impact Assessment Mensenrechten en Algoritmes
The Fairness Handbook
Framework for Meaningful Engagement
Handreiking non-discriminatie by design
Discriminatie door risicoprofielen - Een mensenrechtelijk toetsingskader

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.