Beleid en advies

Professionals op het gebied van beleid en advies zorgen ervoor dat de organisatie algoritmes verantwoord en in lijn met beleidsdoelen ontwikkelt en inzet.

Zij dragen bij aan impact-assessments, risicobeoordelingen en beleidsplannen over algoritmes. En zij helpen bij het signaleren en mitigeren van potentiële risico’s, zoals onbedoelde bias of risico's op het gebied van privacy.

Door hun brede blik en specialistische kennis ondersteunen zij adviseurs bij het opstellen en vertalen van beleidskaders naar concrete maatregelen en adviezen. Zij vormen zo een verbindende factor tussen de technische, organisatorische en bestuurlijke aspecten van algoritmeontwikkeling.

Belangrijke taken van een beleidsprofessional of adviseur:

• zorgt ervoor dat de organisatie beleidskaders en richtlijnen correct interpreteert en effectief toepast
• schakelt met ontwikkelaars, projectleiders en eindverantwoordelijken
• ontsluit de juiste expertise op het juiste moment
• adviseert bij belangrijke beslissingen

Beleids- en adviesprofessionals zijn bijvoorbeeld:

• CIO-adviseur
• Beleidsmedewerker
• Ethicus
• Architect of enterprise-architect
• Security-officer
• Inkoopadviseur
• Domeinspecialist

Vereisten

id	Vereisten
aia-04	Hoog-risico-AI-systemen vormen geen risico voor kwetsbare groepen zoals kinderen.
aia-08	Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen.
aia-10	Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig.
aia-11	Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem.
aia-20	Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing.
aia-27	Hoog-risico-AI-systemen voor publieke taken worden beoordeeld op gevolgen voor grondrechten
avg-02	Persoonsgegevens worden zo kort mogelijk bewaard.
avg-08	Gevoelige persoonsgegevens worden alleen gebruikt als hiervoor een wettelijke uitzondering geldt.
avg-10	Besluiten die levens kunnen beïnvloeden, zijn niet volledig geautomatiseerd.
avg-11	Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenen.
awb-01	Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig.
bio-01	Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen

Maatregelen

id	Maatregelen
org-01	Bepaal of er genoeg experts beschikbaar zijn
org-02	Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie.
org-03	Maak een plan voor het omgaan met risico’s
org-04	Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid.
org-05	Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie.
org-06	Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
org-07	Richt een algoritmegovernance in met three lines of defence
org-08	Maak gebruik van beslismomenten in de algoritmelevenscyclus
org-09	Richt algoritmegovernance op basis van de risicoclassificatie van algoritmes.
org-10	Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
org-11	Maak afspraken over het beheer van gebruikers
org-12	Controleer en verbeter regelmatig de kwaliteit van het algoritme
org-15	Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe.
pba-06	Stel een multidisciplinair team samen bij het ontwikkelen of inkopen van algoritmes.
owp-11	Voer voorafgaand aan een project een data beschikbaarheid, kwaliteit- en toegankelijkheidsanalayse uit.
owp-05	Bepaal het soort algoritme en de risicogroep en vereisten die hierbij horen
owp-07	Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
owp-08	Maak een lijst van de meest kwetsbare groepen en bescherm hen extra
owp-10	Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
owp-11	Beschrijf welke data gebruikt wordt voor de beoogde toepassing
owp-12	Koop duurzaam algoritmes in
owp-14	Een model-verwerkersovereenkomst is onderdeel van de aanbesteding als persoonsgegevens worden verwerkt
owp-16	Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst.
owp-17	Maak het opstellen van een verwerkersovereenkomst onderdeel van de aanbesteding als persoonsgegevens worden verwerkt.
owp-18	Maak het leveren van bewijs voor het voldoen aan de vereisten voor algoritmes onderdeel van de beoordeling van een inschrijving.
owp-19	Laat aanbieder(s) bewijs leveren dat de door hen ontwikkelde algoritmes geen inbreuk maken op de auteursrechten van derden met de trainingsdata en de output.
owp-20	Aansprakelijkheidsvoorwaarden van een aanbieder worden beoordeeld in de aanbesteding
owp-23	Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke.
owp-24	Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
owp-25	Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
owp-26	Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken.
owp-27	Voer een risico-analyse met de aanbieder uit op het gebied van informatiebeveiliging bij een uitbestedingstraject
owp-28	Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-29	Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
owp-31	Stel vast welke betrokkenen geïnformeerd moeten worden en welke informatie zij nodig hebben.
owp-32	Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes.
owp-33	Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze.
owp-35	Pas vastgestelde beleidskaders toe
owp-36	Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme.
owp-37	Maak gebruik van een algoritme dat bronvermelding kan genereren bij de output.
dat-06	Gebruik duurzame datacenters
dat-11	Controleer de data op manipulatie en ongewenste afhankelijkheden
owk-09	Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen
ver-03	Toets het algoritme op bias
imp-03	Richt de juiste menselijke controle in van het algoritme
imp-04	Publiceer impactvolle algoritmes en hoog-risico-AI-systemen in het Algoritmeregister
imp-05	Spreek af hoe medewerkers omgaan met het algoritme.
imp-10	Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
imp-11	Spreek af hoe de organisatie omgaat met privacy-verzoeken
mon-01	Maak back-ups van algoritmes
mon-02	Beveilig de software
mon-03	Maak een noodplan voor beveiligingsincidenten
mon-06	Meten, monitoren en rapporteren van milieu-impact van algoritmes

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.