Transparant zijn over algoritmes
Overheden moeten transparant zijn over hun algoritmes. Dit betekent dat je duidelijke informatie geeft over de algoritmes die je ontwikkelt of gebruikt.
Wanneer ben je transparant?
Je draagt bij aan transparantie over algoritmes als je duidelijk uitlegt:
- dat je algoritmes ontwikkelt of gebruikt
- voor welk doel je deze algoritmes ontwikkelt of gebruikt
- wat voor soort algoritmes dit zijn
- welke code of programmeertaal je hiervoor gebruikt
- welke data je hiervoor gebruikt
- hoe uitkomsten tot stand komen
- hoe belanghebbenden bezwaar kunnen maken tegen gevolgen van het algoritme
Belang van transparantie
Als je open bent over de algoritmes die je ontwikkelt of gebruikt, kunnen burgers en bedrijven zich beter verdedigen tegen mogelijke nadelige gevolgen. Verkeerd gebruik van algoritmes kan iemands leven namelijk ernstig beïnvloeden. Bijvoorbeeld door discriminatie of een besluit dat niet klopt.
Door uit te leggen hoe het algoritme werkt, kun je de beslissingen van het algoritme makkelijker controleren. Je leert sneller waarom het bepaalde keuzes maakt en waar de zwakke plekken zitten.
Ook je organisatie is makkelijker te controleren. Omdat je transparant bent over algoritmes, kunnen burgers feedback geven. Journalisten zien wat je doet. En andere overheden kunnen hiervan leren.
Aanpak transparant werken
Hoe je transparantie organiseert, hangt af van:
- het doel van je algoritme
- het soort algoritme waarmee je werkt
- wie de gebruikers zijn van het algoritme, bijvoorbeeld medewerkers of burgers
- de vereisten waar je aan moet voldoen
- de maatregelen die je neemt
- de doelgroep die je wil bereiken
- de levenscyclus-fase van je algoritme
Onderzoek goed welk soort algoritme je gebruikt of wil gebruiken. Hoe groter de impact en het risico, hoe strenger de vereisten.
De keuze voor het soort algoritme bepaalt ook hoe transparant je kunt zijn. Van rekenregels kun je namelijk precies uitleggen hoe deze tot een beslissing komen. Maar complexe AI-systemen zijn vaak een black box: niemand weet precies hoe deze systemen beslissingen maken. Volledige transparantie is dan niet mogelijk. In dat geval moet je de werking zo goed mogelijk onderzoeken. Probeer bijvoorbeeld in elk geval ernstige gevolgen zoals discriminatie te voorkomen.
Tip
Rekenregels zijn makkelijker uit te leggen dan AI-systemen. Als een rekenregel voldoende is voor het bereiken van je doel, dan is het ook makkelijker om transparant te zijn.
Betrokken partijen
Stem je informatie af op de betrokken partij. Zo moeten gebruikers de uitkomst van het algoritme voldoende begrijpen voor het nemen van onderbouwde beslissingen. En belanghebbenden zoals burgers moeten weten dat zij te maken hebben met een algoritme. Zij moeten snel en makkelijk kunnen vinden wat hun rechten zijn en hoe zij in beroep kunnen gaan.
| Doelgroep | Informeer bijvoorbeeld over | Geef de informatie bijvoorbeeld via: |
|---|---|---|
| Ontwikkelaar | de werking, keuzes van het ontwikkelteam | technische documentatie |
| Gebruiker | hoe uitkomsten tot stand komen, gebruikte data, wat het algoritme wel en niet kan | gebruiksinstructies, trainingen |
| Medewerker | contactpersonen, algoritmegebruik binnen de organisatie, afspraken over algoritmemanagement (ook wel: algoritmegovernance) | intern algoritmeregister, trainingen |
| Belanghebbende (iemand voor wie het algoritme gevolgen heeft) | hoe een besluit tot stand kwam, mogelijkheden om bezwaar te maken, contactmogelijkheden | brief over het besluit, webpagina over het algoritme |
| Geïnteresseerde burger | algoritmegebruik binnen de organisatie | webpagina over het algoritme, algoritmeregister |
| Auditor | werking, ontwikkelproces, keuzes van het ontwikkelteam, hoe uitkomsten tot stand komen | algoritmeregister, technische documentatie, programmeercode |
| Onderzoeker of journalist | algoritmegebruik binnen de organisatie | algoritmeregister, technische documentatie, code |
Vereisten
Aanbevolen maatregelen
Hulpmiddelen
| Hulpmiddelen |
|---|
| Assessment List for Trustworthy Artificial Intelligence (ALTAI) |
| Impact Assessment Mensenrechten en Algoritmes |
| Algoritmeregister |
| Framework for Meaningful Engagement |
Help ons deze pagina te verbeteren
Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.