Ga naar inhoud

Vereisten voor de overheid

Overzicht van de belangrijkste vereisten voor overheden die algoritmes of AI-systemen ontwikkelen of gebruiken.

Er zijn 63 resultaten gevonden
VereistenWetgevingRollenLevenscyclusOnderwerpen
Verboden AI mag niet worden gebruiktAI-verordening projectleider organisatieverantwoordelijkheden probleemanalyse governance
Personeel en gebruikers zijn voldoende AI-geletterdAI-verordening projectleider organisatieverantwoordelijkheden menselijke-controle governance
Beoordeling als niet 'hoog-risico-AI-systeem' is gedocumenteerdAI-verordening projectleider ontwerp governance transparantie
Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteemAI-verordening projectleider organisatieverantwoordelijkheden governance
Hoog-risico-AI-systemen vormen geen risico voor kwetsbare groepen zoals kinderenAI-verordening projectleider beleid-en-advies ontwerp monitoring-en-beheer fundamentele-rechten bias-en-non-discriminatie
Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteriaAI-verordening projectleider ontwikkelaar dataverkenning-en-datapreparatie verificatie-en-validatie data
Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatieAI-verordening projectleider ontwikkelaar dataverkenning-en-datapreparatie ontwikkelen verificatie-en-validatie transparantie
Hoog-risico-AI-systemen loggen automatisch bepaalde gegevensAI-verordening ontwikkelaar projectleider ontwikkelen monitoring-en-beheer technische-robuustheid-en-veiligheid
Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpenAI-verordening projectleider ontwikkelaar beleid-en-advies ontwerp ontwikkelen monitoring-en-beheer transparantie
Hoog-risico-AI-systemen staan onder menselijk toezichtAI-verordening projectleider ontwerp ontwikkelen monitoring-en-beheer menselijke-controle
Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveiligAI-verordening projectleider beleid-en-advies ontwikkelaar ontwerp ontwikkelen monitoring-en-beheer technische-robuustheid-en-veiligheid
Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteemAI-verordening projectleider beleid-en-advies organisatieverantwoordelijkheden governance
Documentatie over hoog-risico-AI-systemen wordt 10 jaar bewaard door de aanbiederAI-verordening projectleider ontwerp monitoring-en-beheer uitfaseren transparantie technische-robuustheid-en-veiligheid
Logs van hoog-risico-AI-systemen worden zes maanden bewaard door de aanbiederAI-verordening projectleider ontwerp monitoring-en-beheer uitfaseren technische-robuustheid-en-veiligheid
Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedureAI-verordening jurist projectleider verificatie-en-validatie implementatie governance
Hoog-risico-AI-systemen zijn voorzien van een EU-conformiteitsverklaringAI-verordening jurist projectleider verificatie-en-validatie implementatie governance
Hoog-risico-AI-systemen zijn voorzien van een CE-markeringAI-verordening projectleider implementatie transparantie
Hoog-risico-AI-systemen zijn geregistreerd in de EU-databankAI-verordening projectleider implementatie transparantie
Als een hoog-risico-AI-systeem niet voldoet aan de AI-verordening, grijpt de aanbieder inAI-verordening projectleider organisatieverantwoordelijkheden monitoring-en-beheer menselijke-controle technische-robuustheid-en-veiligheid
Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisenAI-verordening projectleider ontwikkelaar ontwerp menselijke-controle technische-robuustheid-en-veiligheid
Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzingAI-verordening projectleider beleid-en-advies implementatie governance
Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkhedenAI-verordening projectleider organisatieverantwoordelijkheden governance menselijke-controle
De werking van hoog-risico-AI-systemen wordt gemonitordAI-verordening projectleider monitoring-en-beheer menselijke-controle
Logs voor hoog-risico-AI-systemen worden bewaard door de gebruiksverantwoordelijkeAI-verordening projectleider ontwikkelen monitoring-en-beheer technische-robuustheid-en-veiligheid
Werknemers weten dat hun organisatie een hoog-risico AI-systeem gebruiktAI-verordening projectleider implementatie transparantie
Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databankAI-verordening projectleider organisatieverantwoordelijkheden implementatie monitoring-en-beheer transparantie governance
Mensen over wie besluiten worden genomen door een hoog-risico-AI-systemen, krijgen op verzoek informatie over deze besluitenAI-verordening projectleider organisatieverantwoordelijkheden ontwerp monitoring-en-beheer governance fundamentele-rechten transparantie
Hoog-risico-AI-systemen voor publieke taken worden beoordeeld op gevolgen voor grondrechtenAI-verordening projectleider beleid-en-advies ontwerp verificatie-en-validatie fundamentele-rechten
AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeemAI-verordening projectleider ontwikkelaar ontwikkelen implementatie transparantie
AI-modellen voor algemene doeleinden zijn voorzien van voldoende technische documentatie en informatieAI-verordening projectleider ontwerp ontwikkelen monitoring-en-beheer transparantie
Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelenAI-verordening projectleider ontwikkelaar ontwerp verificatie-en-validatie monitoring-en-beheer technische-robuustheid-en-veiligheid
Als AI-modellen voor algemene doeleinden met systeemrisico’s ernstige incidenten veroorzaken, wordt dit gedocumenteerd en gerapporteerdAI-verordening projectleider monitoring-en-beheer governance transparantie
AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallenAI-verordening ontwikkelaar ontwikkelen monitoring-en-beheer technische-robuustheid-en-veiligheid
AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaardenAI-verordening jurist ontwikkelaar projectleider organisatieverantwoordelijkheden ontwikkelen dataverkenning-en-datapreparatie privacy-en-gegevensbescherming data
Hoog-risico-AI-systemen zijn voorzien van een monitoringsysteemAI-verordening projectleider monitoring-en-beheer technische-robuustheid-en-veiligheid
Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouderAI-verordening projectleider organisatieverantwoordelijkheden monitoring-en-beheer governance
Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordeningAI-verordening projectleider organisatieverantwoordelijkheden monitoring-en-beheer governance menselijke-controle
Aanbieders van AI-systemen kunnen een klacht indienen over de aanbieder van hun AI-modelAI-verordening projectleider organisatieverantwoordelijkheden fundamentele-rechten
Hoog-risico-AI-systemen zijn getestAI-verordening projectleider ontwikkelaar ontwerp ontwikkelen monitoring-en-beheer verificatie-en-validatie technische-robuustheid-en-veiligheid
Er is beleid opgesteld ter naleving van auteursrechten en naburige rechten door aanbieders van AI-modellen voor algemene doeleindenAI-verordening projectleider ontwerp ontwikkelen monitoring-en-beheer transparantie
Informatie over algoritmes wordt in goede, geordende en toegankelijke staat gebracht, bewaard en vernietigd wanneer nodigArchiefwet projectleider ontwikkelaar uitfaseren monitoring-en-beheer ontwikkelen transparantie data
Auteursrechten zijn beschermdAuteursrecht jurist ontwerp dataverkenning-en-datapreparatie data
Persoonsgegevens worden op een rechtmatige manier verwerktAVG projectleider jurist ontwerp dataverkenning-en-datapreparatie privacy-en-gegevensbescherming
Persoonsgegevens worden zo kort mogelijk bewaardAVG ontwikkelaar beleid-en-advies ontwerp dataverkenning-en-datapreparatie uitfaseren privacy-en-gegevensbescherming
Persoonsgegevens worden zo min mogelijk verwerktAVG jurist ontwikkelaar ontwerp dataverkenning-en-datapreparatie ontwikkelen privacy-en-gegevensbescherming
Persoonsgegevens en andere data verwerken gebeurt proportioneel en subsidiairAVG jurist ontwikkelaar ontwerp dataverkenning-en-datapreparatie fundamentele-rechten privacy-en-gegevensbescherming
Persoonsgegevens zijn juist en actueelAVG ontwikkelaar projectleider dataverkenning-en-datapreparatie privacy-en-gegevensbescherming
Organisaties kunnen bewijzen dat zij persoonsgegevens op de juiste manier verwerkenAVG jurist ontwerp dataverkenning-en-datapreparatie governance privacy-en-gegevensbescherming
Organisaties zijn transparant over het verwerken van persoonsgegevensAVG ontwikkelaar projectleider implementatie monitoring-en-beheer privacy-en-gegevensbescherming transparantie
Gevoelige persoonsgegevens worden alleen gebruikt als hiervoor een wettelijke uitzondering geldtAVG projectleider jurist beleid-en-advies ontwerp dataverkenning-en-datapreparatie privacy-en-gegevensbescherming bias-en-non-discriminatie
Betrokkenen kunnen een beroep doen op hun privacyrechtenAVG ontwikkelaar organisatieverantwoordelijkheden ontwikkelen privacy-en-gegevensbescherming data
Besluiten met rechtsgevolgen of aanmerkelijke effecten zijn niet volledig geautomatiseerdAVG projectleider beleid-en-advies ontwerp implementatie privacy-en-gegevensbescherming
Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenenAVG beleid-en-advies projectleider jurist ontwikkelaar ontwerp dataverkenning-en-datapreparatie privacy-en-gegevensbescherming
Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallenAVG jurist ontwikkelaar organisatieverantwoordelijkheden privacy-en-gegevensbescherming technische-robuustheid-en-veiligheid
Een gegevensbeschermingseffectbeoordeling (DPIA) is verplicht, indien een verwerking van persoonsgegevens waarschijnlijk een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personenAVG jurist projectleider ontwerp dataverkenning-en-datapreparatie verificatie-en-validatie privacy-en-gegevensbescherming
Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldigAWB projectleider beleid-en-advies ontwerp ontwikkelen verificatie-en-validatie fundamentele-rechten
Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluitAWB projectleider ontwikkelaar ontwerp implementatie monitoring-en-beheer transparantie
Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallenBIO beleid-en-advies ontwikkelaar organisatieverantwoordelijkheden technische-robuustheid-en-veiligheid
Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse AlgoritmeregisterBZK projectleider implementatie monitoring-en-beheer transparantie
Databanken worden alleen gebruikt met toestemming van de databank-producentDatabankenwet jurist dataverkenning-en-datapreparatie data
Algoritmes schenden geen grondrechten of mensenrechtenGrondwet projectleider jurist probleemanalyse ontwerp verificatie-en-validatie monitoring-en-beheer fundamentele-rechten
Algoritmes discrimineren nietGrondwet projectleider ontwerp ontwikkelen verificatie-en-validatie monitoring-en-beheer bias-en-non-discriminatie
Iedereen kan openbare informatie over algoritmes vinden of aanvragenWOO jurist projectleider organisatieverantwoordelijkheden transparantie

Wetten en regels

De vereisten zijn gebaseerd op de wetten en regels voor het uitvoeren van wettelijke taken, zoals de:

  • AI-verordening
  • Algemene verordening gegevensbescherming (AVG)
  • Algemene wet bestuursrecht (Awb)
  • Algemene wet gelijke behandeling (Awgb)
  • Auteurswet
  • Baseline Informatiebeveiliging Overheid (BIO)
  • Grondwet

Bij elke vereiste staat de bron er duidelijk bij.

Let op!

Het Algoritmekader biedt een overzicht van de belangrijkste vereisten. Dit is niet volledig. Sectorspecifieke wetgeving is bijvoorbeeld niet meegenomen. Hierdoor kan het zijn dat er meer regelgeving van geldt voor jouw toepassing.

Aantal vereisten verschilt per situatie

Welke vereisten gelden voor jouw organisatie, hangt af van:

  • de technologie die je gebruikt: rekenregels, machinelearning of generatieve AI
  • de risicoclassificatie van het algoritme dat je gebruikt
  • je rol: ben je ontwikkelaar of alleen gebruiker van het algoritme?

Voorbeeld

Impactvolle algoritmes en AI-systemen worden gepubliceerd in het Nederlandse algoritmeregister.

Deze vereiste geldt alleen voor impactvolle algoritmes en hoog-risico-AI-systemen. Een niet-impactvolle rekenregel hoef je niet te registreren.

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.