Bepaal of er genoeg experts beschikbaar zijn

org-01OrganisatieverantwoordelijkhedenProjectleiderBeleid en adviesGovernance

Maatregel

Bepaal welke expertise en capaciteit noodzakelijk is voor het ontwikkelen, inkopen en gebruiken van algoritmes en stel vast of er voldoende expertise en capaciteit beschikbaar is.

Toelichting

• Bepaal welke expertise en capaciteit binnen de organisatie noodzakelijk is voor het ontwikkelen, inkopen en gebruiken van algoritmes.
• Dit is sterk afhankelijk van de specifieke toepassing en de inzichten die voortkomen uit risicoanalyses. Hoe complexer en risicovoller de toepassing, des te meer expertise en capaciteit noodzakelijk is.
• Indien is vastgesteld dat er onvoldoende expertise aanwezig is, investeer dan in bewustwording en voldoende opleidingen over de kansen en risico's van algoritmes en AI.
• Interne en externe actoren die betrokken zijn bij het ontwikkelen, inkopen en gebruik moeten over voldoende expertise en capaciteit beschikken om hun taken naar behoren uit te voeren.
• Stel vast of er afhankelijkheden van externe aanbieders ontstaan.
• Bepaal voorafgaand aan het (laten) ontwikkelen of inkopen van algoritmes of voldoende expertise en capaciteit beschikbaar is om tot een verantwoorde inzet ervan te komen.
• Leg vast of er voldoende expertise en capaciteit beschikbaar is en onderbouw dit in projectdocumentatie.
• Om menselijke controle te kunnen uitoefenen in verschillende fases van de ontwikkeling (of inkoop) van algortimes moet de mens bepaalde kennis, tijd en vaardigheden hebben. Alleen met de juiste kennis, tijd en vaardigheden kunnen risico’s op tijd geïdentificeerd en afgedekt worden. Deze kennis en expertise kan ook buiten de organisatie liggen, maar dan is het belangrijk om verantwoordelijkheden goed vast te leggen.

Risico

Zonder voldoende expertise en capaciteit kan het zijn dat het ontwikkelen, inkopen, en gebruiken van algoritmes niet goed verloopt binnen de organisatie doordat de middelen hiervoor ontbreken.

Bijbehorende vereiste(n)

Bekijk alle vereisten

Vereiste
awb-01 - Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig
aia-21 - Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkheden
aia-01 - Personeel en gebruikers zijn voldoende AI-geletterd

Bronnen

• Onderzoekskader Algoritmes Auditdienst Rijk, SV.12
• Toetsingskader Algoritmes Algemene Rekenkamer, 1.04
• Competencies and governance practices for AI in the public sector. Zie hoofdstuk 4

Voorbeelden

Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl