Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens.
aia-07OntwikkelenMonitoring en beheerOntwikkelaarProjectleiderTechnische robuustheid en veiligheid
Vereiste
Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens.
Toelichting
AI-systemen met een hoog risico zijn ontworpen met functionaliteiten die gebeurtenissen gedurende hun levenscyclus automatisch registreren. Dit wordt vaak aangeduid als "logs".
Deze logs bieden een traceerbaarheidsmechanisme waarmee gebruiksverantwoordelijken en autoriteiten incidenten en fouten kunnen analyseren, naleving kunnen controleren en mogelijke risico's kunnen identificeren en aanpakken.
Het doel van deze registratie is om de transparantie en verantwoordingsplicht van AI-systemen te vergroten, waardoor het beheer van risico's en incidenten verbetert. Voor AI-systemen met een hoog-risico voorziet de loggingcapaciteit ten minste in:
- de registratie van de duur van elk gebruik van het systeem;
- de referentiedatabank aan de hand waarvan de inputdata zijn gecontroleerd door het systeem;
- de inputdata ten aanzien waarvan de zoekopdracht een match heeft opgeleverd;
- de identificatie van natuurlijke personen die betrokken zijn bij de verificatie van de resultaten. Specifiek voor gebruiksverantwoordelijken
Voor AI-systemen die door bestuursorganen worden gebruikt of AI-systmen die persoonsgegevens verwerken leveren de BIO en AVG vergelijkbare verplichingen op die ook van toepassing zijn op AI-systemen die niet gezien worden als een AI-systeem met hoog risico. Daarbij komen nog verplichtingen om de logs doorlopend of periodiek te monitoren op incidenten.
Bronnen
- Artikel 12 Verordening Artificiële Intelligentie
- Artikel 26(6) Verordening Artificiële Intelligentie, zie ook deze vereiste over logging door gebruiksverantwoordelijke.
- Hoofdstuk 12.4 Baseline Informatiebeveiliging Overheid
- Artikel 5 en 32 Algemene Verordening Gegevensbescherming
Wanneer van toepassing?
AI-systeemAI-systeem voor algemene doeleindenhoog risico AI-systeemAanbieder
Risico
Ontbreken van automatische logregistratie kan leiden tot een gebrek aan transparantie en traceerbaarheid van het AI-systeem, wat het vermogen om verantwoordelijkheid te nemen en eventuele problemen aan te pakken belemmert.