Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkheden.
aia-21OrganisatieverantwoordelijkhedenProjectleiderGovernanceMenselijke controle
Vereiste
Gebruiksverantwoordelijken dragen het menselijk toezicht over een hoog risico AI-systeem op aan natuurlijke personen die over de nodige bekwaamheid, opleiding en autoriteit beschikken en de nodige ondersteuning krijgen.
Toelichting
Het is van belang dat natuurlijke personen die het menselijk toezicht moeten uitvoeren over het AI-systeem met een hoog risico, daarvoor over de nodige bekwaamheid, opleiding en autoriteit beschikt. Daarbij kan het van belang zijn dat deze natuurlijke personen ondersteuning krijgen bij het uitvoeren van deze taak.
De gebruiksaanwijzing bij een hoog risico AI-systeem hoort informatie te bevatten over kenmerken, mogelijkheden en beperkingen van de prestaties van het AI-systeem bevatten. Deze informatie is relevant om te bepalen welke taken onder het bereik van menselijk toezicht kunnen worden gebracht.
Deze informatie bestaat onder andere uit een beschrijving: - welke handelingen van de gebruiksverantwoordelijke van invloed kunnen zijn op het gedrag en de prestaties van het systeem, - op grond waarvan het AI-systeem risico’s kan veroorzaken voor de gezondheid - veiligheid en grondrechten - over de wijzigingen die vooraf zijn bepaald en beoordeeld met het oog op conformiteit door de aanbieder - en over de relevante maatregelen voor menselijk toezicht, waaronder de maatregelen om de interpretatie van de output van het AI-systeem door de gebruiksverantwoordelijken te vergemakkelijken.
Bronnen
- Artikel 26(2) Verordening Artificiële Intelligentie
- Artikel 27(1 sub e) Verordening Artificiële Intelligentie
- Bijlage IV (2 sub e en 3) Verordening Artificiële Intelligentie
Wanneer van toepassing?
AI-systeemAI-systeem voor algemene doeleindenGebruiksverantwoordelijke
Risico
Als de natuurlijke toezichthouder geen effectief toezicht kan houden op het hoog risico AI-systeem, kunnen ongewenste, negatieve effecten onstaan voor betrokkenen en de organisatie.