Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI

org-16OrganisatieverantwoordelijkhedenBeleid en adviesGovernance

Maatregel

Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI.

Let op!

Volgens de AI-verordening moet AI-geletterdheid per 2 februari 2025 gewaarborgd worden door aanbieders en gebruiksverantwoordelijken van AI-systemen.

Toelichting

Om algoritmes op een verantwoorde manier te gebruiken, is het noodzakelijk dat medewerkers hier voldoende kennis over hebben. Dat draagt bij om de kansen die AI biedt zo goed mogelijk te benutten, en tegelijkertijd bewust om te gaan met de risico's. Dit geldt niet alleen voor direct betrokken medewerkers en ontwikkelaars, maar ook voor bestuurders en bijvoorbeeld beleidsmakers. Om te komen tot een volwassen niveau van AI-geletterdheid is een structurele, langdurige en op maat gemaakte aanpak nodig, die rekening houdt met de context en rollen waarin mensen met AI-systemen te maken hebben.

Denk bijvoorbeeld aan het borgen voldoende kennis en bewustzijn over:

• risico's op bias en eventuele discriminerende effecten
• de werking van een algoritme zodat betekenisvolle menselijke tussenkomst kan plaatsvinden

Maak een meerjarig actieplan om toe te werken naar een volwassen niveau van AI-geletterdheid die past bij jouw organisatie. Stel dit bestuurlijk vast en zorg voor bestuurlijke verantwoordelijkheid en betrokkenheid. De Autoriteit Persoonsgegevens heeft een aanzet gedaan voor een passend meerjarenplan om AI-geletterdheid in jouw organsatie te bevorderen:

Relevante opleidingen

• E-learning Non-discriminatie in algoritmes en data

Bijbehorende vereiste(n)

Bekijk alle vereisten

Vereiste
aia-01 - Personeel en gebruikers zijn voldoende AI-geletterd
awb-01 - Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig
aia-21 - Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkheden

Bronnen

• Aan de slag met AI-geletterdheid, Autoriteit Persoonsgegevens
• Onderzoekskader Algoritmes Auditdienst Rijk, SV.12
• Toetsingskader Algoritmes Algemene Rekenkamer, 1.04

Voorbeeld

Best practices verzameld door het AI-bureau

Het AI-bureau van de EU heeft een aantal van de lopende best practices verzameld met als doel een levend archief aan te leggen met voorbeelden van lopende praktijken op het gebied van AI-geletterdheid.

Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl