Ga naar inhoud

Beleid en advies

Professionals op het gebied van beleid en advies zorgen ervoor dat de organisatie algoritmes verantwoord en in lijn met beleidsdoelen ontwikkelt en inzet.

Zij dragen bij aan impact-assessments, risicobeoordelingen en beleidsplannen over algoritmes. En zij helpen bij het signaleren en mitigeren van potentiële risico’s, zoals onbedoelde bias of risico's op het gebied van privacy.

Door hun brede blik en specialistische kennis ondersteunen zij adviseurs bij het opstellen en vertalen van beleidskaders naar concrete maatregelen en adviezen. Zij vormen zo een verbindende factor tussen de technische, organisatorische en bestuurlijke aspecten van algoritmeontwikkeling.

Belangrijke taken van een beleidsprofessional of adviseur:

  • zorgt ervoor dat de organisatie beleidskaders en richtlijnen correct interpreteert en effectief toepast
  • schakelt met ontwikkelaars, projectleiders en eindverantwoordelijken
  • ontsluit de juiste expertise op het juiste moment
  • adviseert bij belangrijke beslissingen

Beleids- en adviesprofessionals zijn bijvoorbeeld:

  • CIO-adviseur
  • Beleidsmedewerker
  • Ethicus
  • Architect of enterprise-architect
  • Security-officer
  • Inkoopadviseur
  • Domeinspecialist

Vereisten

idVereisten
aia-04Hoog-risico-AI-systemen vormen geen risico voor kwetsbare groepen zoals kinderen
aia-08Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen
aia-10Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig
aia-11Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem
aia-20Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing
aia-27Hoog-risico-AI-systemen voor publieke taken worden beoordeeld op gevolgen voor grondrechten
avg-02Persoonsgegevens worden zo kort mogelijk bewaard
avg-08Gevoelige persoonsgegevens worden alleen gebruikt als hiervoor een wettelijke uitzondering geldt
avg-10Besluiten die levens kunnen beïnvloeden, zijn niet volledig geautomatiseerd
avg-11Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenen
awb-01Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig
bio-01Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen

Maatregelen

idMaatregelen
org-00Inventariseer de algoritmes die binnen jouw organisatie worden gebruikt en houd dit overzicht actueel
org-01Bepaal of er genoeg experts beschikbaar zijn
org-02Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie
org-03Maak een plan voor het omgaan met risico’s
org-04Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid
org-05Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
org-06Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
org-07Richt een algoritmegovernance in met three lines of defence
org-08Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
org-09Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
org-10Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
org-11Maak afspraken over het beheer van gebruikers
org-12Controleer en verbeter regelmatig de kwaliteit van het algoritme
org-15Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe
org-16Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI
pba-06Stel een multidisciplinair team samen bij het ontwikkelen of inkopen van algoritmes
owp-02Voer voorafgaand aan een project een data beschikbaarheid, kwaliteit- en toegankelijkheidsanalayse uit
owp-05Stel vast in welke risicogroep het algoritme valt en bepaal vervolgens welke vereisten van toepassing zijn.
owp-07Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
owp-08Maak een lijst van de meest kwetsbare groepen en bescherm hen extra
owp-10Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
owp-11Beschrijf welke data gebruikt wordt voor de beoogde toepassing
owp-12Koop duurzaam algoritmes in
owp-14Maak het opstellen van een verwerkersovereenkomst onderdeel van de aanbesteding als persoonsgegevens worden verwerkt
owp-16Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst
owp-17Maak het leveren van bewijs voor het voldoen aan de vereisten voor algoritmes onderdeel van de beoordeling van een inschrijving
owp-18Laat aanbieder(s) bewijs leveren dat de door hen ontwikkelde algoritmes geen inbreuk maken op de auteursrechten van derden met de trainingsdata en de output
owp-19Aansprakelijkheidsvoorwaarden van een aanbieder worden beoordeeld in de aanbesteding
owp-22Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke
owp-23Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
owp-24Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
owp-25Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken
owp-26Voer een risico-analyse met de aanbieder uit op het gebied van informatiebeveiliging bij een uitbestedingstraject
owp-27Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-28Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
owp-30Stel vast welke betrokkenen geïnformeerd moeten worden en welke informatie zij nodig hebben
owp-31Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
owp-32Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze
owp-34Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme
owp-35Maak gebruik van een algoritme dat bronvermelding kan genereren bij de output
dat-02Toets en analyseer of de inputvariabelen of risicoindicatoren geschikt zijn voor het beoogde algoritme
dat-06Gebruik duurzame datacenters
dat-10Controleer de data op manipulatie en ongewenste afhankelijkheden
owk-09Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen
ver-03Toets het algoritme op bias en voer een rechtvaardigingstoets uit
imp-01Stel een werkinstructie op voor gebruikers
imp-03Richt de juiste menselijke controle in van het algoritme
imp-04Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister
imp-09Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
imp-10Spreek af hoe de organisatie omgaat met privacy-verzoeken
mon-01Maak back-ups van algoritmes
mon-02Beveilig de software
mon-03Maak een noodplan voor beveiligingsincidenten
mon-06Meten, monitoren en rapporteren van milieu-impact van algoritmes

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.