Ga naar inhoud

Beleids- en adviesprofessional

Professionals op het gebied van beleid en advies zorgen ervoor dat de organisatie algoritmes verantwoord en in lijn met beleidsdoelen ontwikkelt en inzet.

Zij dragen bij aan impact-assessments, risicobeoordelingen en beleidsplannen over algoritmes. En zij helpen bij het signaleren en mitigeren van potentiële risico’s, zoals onbedoelde bias of risico's op het gebied van privacy.

Door hun brede blik en specialistische kennis ondersteunen zij adviseurs bij het opstellen en vertalen van beleidskaders naar concrete maatregelen en adviezen. Zij vormen zo een verbindende factor tussen de technische, organisatorische en bestuurlijke aspecten van algoritmeontwikkeling.

Belangrijke taken van een beleidsprofessional of adviseur:

  • zorgt ervoor dat de organisatie beleidskaders en richtlijnen correct interpreteert en effectief toepast
  • schakelt met ontwikkelaars, projectleiders en eindverantwoordelijken
  • ontsluit de juiste expertise op het juiste moment
  • adviseert bij belangrijke beslissingen

Beleids- en adviesprofessionals zijn bijvoorbeeld:

  • CIO-adviseur
  • Beleidsmedewerker
  • Ethicus
  • Architect of enterprise-architect
  • Security-officer
  • Inkoopadviseur
  • Domeinspecialist

Vereisten

Maatregelen

Maatregelen
Inventariseer de algoritmes die binnen jouw organisatie worden gebruikt en houd dit overzicht actueel
Bepaal of er genoeg experts beschikbaar zijn
Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie
Maak een plan voor het omgaan met risico’s
Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid
Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
Richt een algoritmegovernance in op basis van het Three Lines-model
Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
Maak afspraken over het beheer van gebruikers
Controleer en verbeter regelmatig de kwaliteit van het algoritme
Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe
Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI
Stel een multidisciplinair team samen bij het ontwikkelen of inkopen van algoritmes
Voer voorafgaand aan een project een data beschikbaarheid, kwaliteit- en toegankelijkheidsanalayse uit
Stel vast in welke risicogroep het algoritme valt en bepaal vervolgens welke vereisten van toepassing zijn.
Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
Maak een lijst van de meest kwetsbare groepen en bescherm hen extra
Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
Beschrijf welke data gebruikt wordt voor de beoogde toepassing
Koop duurzaam algoritmes in
Maak het opstellen van een verwerkersovereenkomst onderdeel van de aanbesteding als persoonsgegevens worden verwerkt
Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst
Maak het leveren van bewijs voor het voldoen aan de vereisten voor algoritmes onderdeel van de beoordeling van een inschrijving
Laat aanbieder(s) bewijs leveren dat de door hen ontwikkelde algoritmes geen inbreuk maken op de auteursrechten van derden met de trainingsdata en de output
Aansprakelijkheidsvoorwaarden van een aanbieder worden beoordeeld in de aanbesteding
Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke
Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken
Voer een risico-analyse met de aanbieder uit op het gebied van informatiebeveiliging bij een uitbestedingstraject
Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
Stel vast welke betrokkenen geïnformeerd moeten worden en welke informatie zij nodig hebben
Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze
Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme
Maak gebruik van een algoritme dat bronvermelding kan genereren bij de output
Toets en analyseer of de inputvariabelen of risicoindicatoren geschikt zijn voor het beoogde algoritme
Gebruik duurzame datacenters
Controleer de data op manipulatie en ongewenste afhankelijkheden
Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen
Toets het algoritme op bias en voer een rechtvaardigingstoets uit
Stel een werkinstructie op voor gebruikers
Richt bij besluitvorming betekenisvolle menselijke tussenkomst in
Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister
Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
Spreek af hoe de organisatie omgaat met privacy-verzoeken
Maak back-ups van algoritmes
Beveilig de software
Maak een noodplan voor beveiligingsincidenten
Meten, monitoren en rapporteren van milieu-impact van algoritmes

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.