Ga naar inhoud

AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden

aia-33OrganisatieverantwoordelijkhedenOntwikkelenDataverkenning en datapreparatieJuristOntwikkelaarProjectleiderPrivacy en gegevensbeschermingData

Vereiste

AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden.

Toelichting

De rechtmatige verwerking van persoonsgegevens voor andere doeleinden voor het ontwikkelen, trainen en testen van AI-modellen is mogelijk, maar het moet voldoen aan strikte voorwaarden die zijn opgenomen in artikel 57 AI-Verordening. Hiervoor is een AI-testomgeving noodzakelijk, waarin maatregelen of kunnen worden getroffen om de data veilig te verwerken.

Persoonsgegevens die in de testomgeving worden aangemaakt mogen niet buiten de testomgeving worden gedeeld en logbestanden worden bijgehouden voor de duur van de deelname aan de testomgeving.

Voor toepassingen voor het verder verwerken van gegevens kan worden gedacht aan het ontwikkelen van een AI-systeem zodat een overheidsinstantie of een andere natuurlijke of rechtspersoon een aanzienlijk openbaar belang kan waarborgen, bijvoorbeeld op het gebied van kwaliteit van milieu, duurzaamheid, openbare veiligheid en gezondheid.

Bronnen

Van toepassing op

Deze vereiste is van toepassing voor onderstaande (combinatie van) labels. Gebruik de beslishulp voor hulp bij wat er in jouw situatie van toepassing is.

AI-model voor algemene doeleindenAI-systeemAI-systeem voor algemene doeleindenHoog risico AI-systeemGeen hoog risico AI-systeemAanbiederGebruiksverantwoordelijkeSysteemrisicoGeen systeemrisicoGeen transparantieverplichtingTransparantieverplichting

Risico

Verdere verwerking van persoonsgegevens buiten een AI-testomgeving vergroot de kans op bijvoorbeeld het lekken van de persoonsgegevens, wat kan leiden tot een inbreuk op de privacyrechten van betrokken.

Maatregelen

idMaatregelen
owp-15Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders
owp-16Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst
owp-20Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding
owp-21Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren
owp-23Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
owp-27Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
ver-04Zorg voor een representatieve testomgeving