Stel een werkinstructie op voor gebruikers.
imp-01ImplementatieProjectleiderOntwikkelaarMenselijke controleTransparantie
Maatregel
Stel een werkinstructie op voor gebruikers.
Toelichting
Het is belangrijk dat gebruikers een werkinstructie ontvangen met informatie over hoe zij met het algoritme kunnen en moeten werken. Hierin worden zaken beschreven als:
- Op wat voor manier het algoritme ondersteunt bij het uitvoeren van (wettelijke) taken.
- Wat de mogelijkheden en beperkingen zijn bij het gebruik van het algoritme.
- Wat de impact is van het gebruik van het algoritme op de samenleving en individuen (denk aan energieverbruik of dat een besluit met rechtsgevolgen wordt genomen).
- Wat de risico's zijn die aan het gebruik verbonden zijn (bijv. (automation) bias, false positives/negatives).
- Welke maatregelen zijn getroffen om deze risico's te beperken (bijv. bias analyse, 'stopknop' ingebouwd, transparantie over de output).
- Hoe de output van het algoritme moet worden geïnterpreteerd.
- Hoe het werkproces kan worden uitgevoerd, zonder ondersteuning van het algoritme.
- Welke protocollen er zijn als incidenten zich voordoen.
Denk hierbij na over het eventueel bijscholen van medewerkers als het kennisniveau nog onvoldoende is om de werkinstructies goed te begrijpen.
Bijbehorende vereiste(n)
Bronnen
Risico
Het algoritme wordt onjuist gebruikt of verkeerd geïnterpreteerd door gebruikers, waardoor onjuiste belissingen of besluiten worden genomen.
Voorbeeld
Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl