Overleg regelmatig met belanghebbenden
pba-04ProbleemanalyseOntwerpImplementatieProjectleiderGovernanceFundamentele rechten
Maatregel
Breng in kaart welke belanghebbenden er zijn en betrek hen op verschillende momenten in de levenscyclus.
Toelichting
Het betrekken van belanghebbenden is van belang in bijna alle fasen van de levenscyclus. Belanghebbenden zijn onder meer eindgebruikers, mensen en rechtspersonen die door het algoritme geraakt kunnen worden en vertegenwoordigende organisaties.
In de fase van de probleemanalyse is het allereerst van belang in kaart te brengen welke stakeholders er zijn. Wie gaan bijvoorbeeld werken met het algoritme (eindgebruikers)? En welke demografieën worden geraakt door een algoritme? Bij wie liggen de voordelen en bij wie liggen de nadelen? Ga in gesprek met deze belanghebbenden - al dan niet vertegenwoordigd door belangenorganisaties zoals burgerrechtenorganisaties - over het te ontwerpen algoritme en de context waarin het gebruikt wordt. Zij kunnen waardevolle inzichten en wensen delen, wat kan bijdragen aan een betere werking van het algoritme.
Enkele voorbeelden hierbij zijn:
- Het betrekken van burgers bij het ontwerpen van een algoritme in de ontwerpfase.
- Het bespreken welke definitie en metriek van fairness past bij de context met de proceseigenaar en een ethicus.
- Het betrekken van domeinexperts in de fase van dataverkenning en datapreparatie, om zo in kaart te brengen wat de data features betekenen en waar zij vandaan komen.
- Het betrekken van eindgebruikers bij het ontwikkelen en het implementeren van het algoritme.
- Het betrekken van belanghebbenden bij het monitoren en evalueren van het algoritme.
Risico
Het niet betrekken van belanghebbenden bij de ontwikkeling en het gebruik van algoritmes kan ertoe leiden dat belangrijke inzichten of perspectieven niet worden verwerkt en het algoritme onjuist gaat functioneren.
Bijbehorende vereiste(n)
Bronnen
- Toetsingskader Algemene Rekenkamer 2.12
- Ethics Guidelines for Trustworthy AI
- Onderzoekskader Algoritmes Auditdienst Rijk, SV.10
- Framework for Meaningful Engagement
Voorbeelden
Sociale verzekeringsbank - Stakeholder analyse instrument
De Sociale Verzekeringsbank (SVB) heeft een Ethisch Matrix ontwikkelt waarin gezocht kan worden naar de directe en indirecte stakeholders. Hierbij word gekeken naar de directe en indirecte belangen die geraakt kunnen worden en mogelijke effecten hiervan. Er zijn sessies georganiseerd om te bespreken wat de effecten zijn en welke afwegingen hierin gemaakt dienen te worden om op die manier de behoeften van een project samen te stellen.
Bron: Algoritmes afwegen Matrix methode: Ethische matrix
Gemeente Amsterdam - Amsterdamse Visie op AI
Gemeente Amsterdam heeft een visie op AI ontwikkelt in samenspraak met inwoners. Hierbij hebben ze het belang van de mens centraal gesteld om zo de maatschappelijke toegevoegde waarde te waarborgen. Dit is in samenspraak met onder andere inwoners, bedrijven en kennisinstellingen gedaan om zo het menselijke aspect op een verantwoordelijke manier te implementeren. Bron: Amsterdamse Visie op AI - Innovatie
Algemene methoden
Er zijn veel verschillende methoden om belanghebbenden te betrekken. Zo kan je bijvoorbeeld werken met persona’s of ‘empathy maps’ maken. Ook kan je focusgroepen houden. Denk dan bijvoorbeeld aan een burgerpanel.
Andere methoden zijn: Methodologie van Waag, Civic AI lab, Stakeholder escalation ladder.
Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl