Ga naar inhoud

AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallen

aia-32OntwikkelenMonitoring en beheerOntwikkelaarTechnische robuustheid en veiligheid

Vereiste

AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallen.

Toelichting

Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico zorgen voor een passend niveau van cyberbeveiligingsbescherming voor het AI-model voor algemene doeleinden met een systeemrisico en de fysieke infrastructuur van het model.

Aanbieders van AI-modellen met systeemrisico moeten zorgen voor passende cyberbeveiligingsmaatregelen. Dit omvat het beschermen van zowel het AI-model als de fysieke infrastructuur tegen potentiële cyberdreigingen.

Het doel is om de integriteit en veiligheid van het model en de infrastructuur te waarborgen. Dit vereiste is een aanvulling op de in artikel 53 AI-verordening genoemde verplichtingen.

Bronnen

Artikel 55(1d) Verordening Artificiële Intelligentie

Van toepassing op

Deze vereiste is van toepassing voor onderstaande (combinatie van) labels. Gebruik de beslishulp voor hulp bij wat er in jouw situatie van toepassing is.

AI-model voor algemene doeleindenAanbiederSysteemrisico

Risico

Niet voldoen aan deze verplichtingen kan leiden tot risico's op veiligheidsincidenten, datalekken en schade aan de betrokken partijen en het publiek.

Maatregelen

idMaatregelen
owp-15Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders
owp-16Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst
owp-21Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren
owp-23Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
owp-27Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-34Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme
dat-10Controleer de data op manipulatie en ongewenste afhankelijkheden
dat-11Controleer de input van gebruikers op misleiding
owk-09Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen
owk-10Zorg dat (gevoelige) informatie niet kan lekken op basis van de output van het algoritme
mon-08Controleer regelmatig of een algoritme voldoende weerbaar is tegen bekende aanvallen