Ga naar inhoud

Bevorder AI-geletterdheid van personeel en gebruikers

ProbleemanalyseOntwerpImplementatieMonitoring en beheerMenselijke controleGovernance

Vereiste

Aanbieders en exploitanten van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.

Toelichting

Aanbieders en exploitanten van AI-systemen nemen maatregelen om ervoor te zorgen dat hun personeel en andere betrokkenen voldoende kennis hebben van AI. Dit omvat het bevorderen van kennis over de techniek, evenals kennis over de context waarin de AI-systemen worden gebruikt en de gebruikers van deze systemen. Daarnaast moet er worden ingezet op het delen van ervaringen, passend onderwijs en opleiding van inidividuen. Het doel is om een adequaat niveau van begrip en vaardigheden te waarborgen, wat bijdraagt aan een verantwoord gebruik van AI en het minimaliseren van risico's.

Bronnen

Bron
Artikel 4 Verordening Artificiële Intelligentie

Wanneer van toepassing?

niet-impactvol impactvol
niet-impactvol impactvol hoog-risico-ai
niet-impactvol impactvol hoog-risico-ai

Risico

Onvoldoende AI-geletterdheid kan leiden tot misbruik of onjuist gebruik van AI-systemen en tot situaties waarin AI-systemen verkeerd worden ingezet, onbedoeld gebruikt worden voor taken waar ze niet geschikt voor zijn, of dat de veiligheid en effectiviteit van de systemen in het gedrang komt. Dit kan leiden tot inefficiëntie, fouten, en mogelijk schade aan organisaties, gebruikers of betrokkenen.

Maatregelen

MaatregelUitleg
De mate waarin onderhoud aan algoritmes en AI-systemen wordt uitgevoerd door aanbieder is onderdeel van de aanbestedingLaat de aanbieder aangeven welke vormen van onderhoud aan het algoritme of AI-systeem onderdeel zijn van de aanbesteding, met name het oppakken van signalen vanuit het gebruik, ongeacht de bron waar het signaal vandaan komt, en de snelheid en mate van reactie (CtR/CtF) en verwerking in het betreffende systeem.
De mate waarin aanbieder kennisoverdracht en ondersteuning bij implementatie biedt is onderdeel van de aanbestedingLaat de aanbieder aangeven welke mate van kennisoverdracht en ondersteuning bij de organisatorische implementatie onderdeel is van de aanbesteding en in hoeverre deze als opleiding of training zelfstandig herhaald gebruikt kan worden na implementatie als het systeem in productie c.q. in gebruik is.
Vastellen niveau van benodigde training voor gebruik algoritmen en AI-systemenLaat de aanbieder aangeven op welk niveau de noodzakelijkerwijs te leveren training passend is voor het beoogde doel, waarbij de opdrachtgever vooraf inzicht geeft in het bestaande niveau, zodat een aanbieder concreet kan zijn over eventuele verschillen tussen beiden.
MaatregelUitleg
MaatregelUitleg
De mate waarin onderhoud aan algoritmes en AI-systemen wordt uitgevoerd door aanbieder is onderdeel van de aanbestedingLaat de aanbieder aangeven welke vormen van onderhoud aan het algoritme of AI-systeem onderdeel zijn van de aanbesteding, met name het oppakken van signalen vanuit het gebruik, ongeacht de bron waar het signaal vandaan komt, en de snelheid en mate van reactie (CtR/CtF) en verwerking in het betreffende systeem.
De mate waarin aanbieder kennisoverdracht en ondersteuning bij implementatie biedt is onderdeel van de aanbestedingLaat de aanbieder aangeven welke mate van kennisoverdracht en ondersteuning bij de organisatorische implementatie onderdeel is van de aanbesteding en in hoeverre deze als opleiding of training zelfstandig herhaald gebruikt kan worden na implementatie als het systeem in productie c.q. in gebruik is.
Vastellen niveau van benodigde training voor gebruik algoritmen en AI-systemenLaat de aanbieder aangeven op welk niveau de noodzakelijkerwijs te leveren training passend is voor het beoogde doel, waarbij de opdrachtgever vooraf inzicht geeft in het bestaande niveau, zodat een aanbieder concreet kan zijn over eventuele verschillen tussen beiden.