Personeel en gebruikers zijn voldoende AI-geletterd
aia-01OrganisatieverantwoordelijkhedenProjectleiderMenselijke controleGovernance
Vereiste
Personeel en gebruikers zijn voldoende AI-geletterd.
Toelichting
Aanbieders en gebruiksverantwoordelijken van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken.
Zij houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.
De AI-kennisplicht betekent bijvoorbeeld dat een HR-medewerker moet begrijpen dat een AI-systeem vooroordelen kan bevatten of essentiële informatie kan negeren, waardoor een sollicitant onterecht wel of juist niet wordt voorgedragen. En een baliemedewerker bij een gemeente die een AI-systemen gebruikt om de burgers te helpen, moet beseffen dat deze systemen vaak niet even goed werken voor iedereen. En dat diegene de uitkomsten van dit soort AI-systemen niet blindelings kan volgen.
Het doel is om een adequaat niveau van begrip en vaardigheden te waarborgen, wat bijdraagt aan een verantwoord gebruik van AI en het minimaliseren van risico's.
Vanaf februari 2025 treedt deze vereiste in werking.
Tip
De Autoriteit Persoonsgegevens schreef een document over hoe je aan de slag kan gaan met AI-geletterheid bij jouw organisatie.
Tip
Het AI-bureau van de EU heeft een aantal van de lopende best practices verzameld met als doel een levend archief aan te leggen met voorbeelden van lopende praktijken op het gebied van AI-geletterdheid.
Bronnen
- Artikel 4 Verordening Artificiële Intelligentie
- Aan de slag met AI-geletterdheid, Autoriteit Persoonsgegevens
Van toepassing op
Deze vereiste is van toepassing voor onderstaande (combinatie van) labels. Gebruik de beslishulp voor hulp bij wat er in jouw situatie van toepassing is.
AI-systeemAI-systeem voor algemene doeleindenAI-model voor algemene doeleindenHoog risico AI-systeemVerboden AIGeen hoog risico AI-systeemAanbiederGebruiksverantwoordelijkeImporteurDistributeurSysteemrisicoGeen systeemrisicoGeen transparantieverplichtingTransparantieverplichting
Risico
Onvoldoende AI-geletterdheid kan leiden tot misbruik of onjuist gebruik van AI-systemen en tot situaties waarin AI-systemen verkeerd worden ingezet, onbedoeld gebruikt worden voor taken waar ze niet geschikt voor zijn, of dat de veiligheid en effectiviteit van de systemen in het gedrang komt.
Dit kan leiden tot inefficiëntie, fouten, en mogelijk schade aan organisaties, gebruikers of betrokkenen.