Ga naar inhoud

Governance van algoritmes binnen je organisatie

Zorg voor effectieve governance van je algoritmes. Dit is het beleid van je organisatie voor het verantwoordelijk omgaan met algoritmes en AI-systemen. Leg bijvoorbeeld vast wie waarvoor verantwoordelijk is.

Wat is governance van algoritmes binnen je organisatie?

Algoritme-governance is de manier waarop je organisatie omgaat met algoritmes en AI-systemen. Algoritme-governance beschrijft een systeem van regels, werkwijzen, processen en technologische hulpmiddelen die worden gebruikt om ervoor te zorgen dat het gebruik van algoritmes door een organisatie in overeenstemming is met de strategieën, doelstellingen en waarden van de organisatie1. En dat je voldoet aan wettelijke vereisten en ethische principes.

Belangrijke aandachtspunten zijn:

  • algoritme-governance is geen doel op zich, maar gebruik je om andere doelen te bereiken.
  • algoritme-governance sluit aan bij de strategie, doelstellingen en publieke waarden van de organisatie.

Deze afspraken maak je op 2 niveaus:

Organisatieniveau

Hoe de organisatie met algoritmes in het algemeen omgaat, bijvoorbeeld:

  • richtlijnen en gedragscode voor medewerkers
  • strategie en visie
  • werkwijze
  • teamleden en hun verantwoordelijkheden, zoals chief data officers en algoritmefunctionarissen

Toepassingsniveau

Dit zijn afspraken over het beheer en de totstandkoming van de algoritmes zelf, bijvoorbeeld:

  • multidisciplinair ontwikkelen
  • verantwoordelijkheden per toepassing
  • procedures voor klachten of vragen

Belang van algoritme-governance

Zonder governance verlies je grip op het inkopen, ontwikkelen, gebruiken en uitfaseren van algoritmes en AI. Dit vergroot het risico op overtredingen van wetten en regels zoals de AI-verordening, Grondwet, Algemene Verordening Gegevensbescherming (AVG) en Auteurswet.

Goede governance van algoritmes helpt bij het:

  • correct uitvoeren van wetten en regels
  • toepassen van je eigen strategie, doelstellingen en publieke waarden
  • ontwikkelen en implementeren van algoritmetoepassingen

Aanpak algoritme-governance

Algoritme-governance bepaal je zelf als organisatie.

Houd in elk geval rekening met:

Tip

Zorg dat iemand verantwoordelijk is voor algoritme-governance. En betrek stakeholders.

Governancekader VNG

Werk je bij een gemeente? Je kunt het VNG-Governancekader alvast raadplegen. Hierop vind je diverse hulpmiddelen die te maken hebben met AI-governance. Dit Governancekader is nog in ontwikkeling.

Vereisten

Aanbevolen maatregelen

Maatregelen
Inventariseer de algoritmes die binnen jouw organisatie worden gebruikt en houd dit overzicht actueel
Bepaal of er genoeg experts beschikbaar zijn
Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie
Maak een plan voor het omgaan met risico’s
Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid
Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
Richt een algoritmegovernance in met three lines of defence
Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
Maak afspraken over het beheer van gebruikers
Controleer en verbeter regelmatig de kwaliteit van het algoritme
Maak afspraken over het beheer van wachtwoorden
Maak afspraken over het wijzigen van de code
Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI
Beschrijf het probleem dat het algoritme moet oplossen
Beschrijf het doel van het algoritme
Beschrijf waarom een algoritme het probleem moet oplossen
Overleg regelmatig met belanghebbenden
Beschrijf de wettelijke grondslag voor de inzet van het algoritme
Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
Stel vast in welke risicogroep het algoritme valt en bepaal vervolgens welke vereisten van toepassing zijn.
Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
Maak een noodplan voor het stoppen van het algoritme
Controleer regelmatig of het algoritme voldoet aan alle wetten en regels en het eigen beleid
Stel een werkinstructie op voor gebruikers
Richt de juiste menselijke controle in van het algoritme
Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
Maak een openbaar besluit over de inzet van het algoritme
Spreek af hoe de organisatie omgaat met privacy-verzoeken
Maak een noodplan voor beveiligingsincidenten

Aanbevolen hulpmiddelen

  1. Vrij vertaald van de definitie van AI-governance gedefinieerd door Mäntymäki, M., Minkkinen, M., Birkstedt, T. et al. Defining organizational AI governance. AI Ethics 2, 603–609 (2022). ↩