Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie.
aia-06Dataverkenning en datapreparatieOntwikkelenVerificatie en validatieProjectleiderOntwikkelaarTransparantie
Vereiste
Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie.
Toelichting
De technische documentatie van een AI-systeem met een hoog risico wordt voorafgaand aan het in de handel brengen of in gebruik nemen opgesteld en regelmatig bijgewerkt.
Deze documentatie moet duidelijk aantonen dat het systeem voldoet aan de vereisten van AI-Verordening (afdeling 2), zodat nationale autoriteiten en aangemelde instanties de naleving kunnen beoordelen. Daarvoor moet de informatie op een heldere en begrijpelijke wijze zijn opgesteld.
De documentatie bevat ten minste de elementen zoals uiteengezet in bijlage IV AI-Verordening:
- Een algemene beschrijving van het AI-syseem.
- Een gedetailleerde beschrijving van de elementen van het AI-systeem en het proces voor de ontwikkeling ervan.
- Gedetailleerde informatie over de monitoring, werking en controle van het AI-systeem.
- Een beschrijving van de geschiktheid van de prestatiestatistieken.
- Een gedetailleerde beschrijving van het systeem voor risicobeheer overeenkomstig artikel 9 van de AI verordening.
- Een beschrijving van de wijzigingen die tijdens de levensduur worden aangebracht.
- Een lijst van normen die worden toegepast.
- Een exemplaar van de EU-conformiteitsverklaring.
- Een gedetailleerde beschrijving voor evaluatie van prestaties nadat het systeem in handel is gebracht, in overeenstemming met artikel 72 van de AI-verordening.
De documentatie kan opgevraagd worden door een bevoegde autoriteit met een met redenen omkleed verzoek, zoals toegelicht in artikel 21 van de AI-verordening.
Bronnen
Wanneer van toepassing?
AI-systeemAI-systeem voor algemene doeleindenAanbieder
Risico
Het ontbreken van de benodigde informatie over de algoritmische toepassing of AI-systeem kan ertoe leiden dat de technische functionering onduidelijk is. Dat kan tot problemen leiden bij de verantwoording, controle, beheer en conformiteit met regelgeving.
Voorbeeld
- Gemeente Amsterdam - Onderzoekswaardigheid Algoritme ‘Slimme check’. (Een tool die de medewerkers helpt om te bepalen of een aanvraag levensonderhoud onderzoekswaardig is, niet meer in gebruik!): Technische documentatie.