Governance van algoritmes binnen je organisatie

Zorg voor effectieve governance van je algoritmes. Dit is het beleid van je organisatie voor het verantwoordelijk omgaan met algoritmes en AI-systemen. Leg bijvoorbeeld vast wie waarvoor verantwoordelijk is.

Wat is governance van algoritmes binnen je organisatie?

Algoritme-governance is de manier waarop je organisatie omgaat met algoritmes en AI-systemen. Algoritme-governance beschrijft een systeem van regels, werkwijzen, processen en technologische hulpmiddelen die worden gebruikt om ervoor te zorgen dat het gebruik van algoritmes door een organisatie in overeenstemming is met de strategieën, doelstellingen en waarden van de organisatie¹. En dat je voldoet aan wettelijke vereisten en ethische principes.

Belangrijke aandachtspunten zijn:

algoritme-governance is geen doel op zich, maar gebruik je om andere doelen te bereiken.
algoritme-governance sluit aan bij de strategie, doelstellingen en publieke waarden van de organisatie.

Deze afspraken maak je op 2 niveaus:

Organisatieniveau

Hoe de organisatie met algoritmes in het algemeen omgaat, bijvoorbeeld:

richtlijnen en gedragscode voor medewerkers
strategie en visie
werkwijze
teamleden en hun verantwoordelijkheden, zoals chief data officers en algoritmefunctionarissen

Toepassingsniveau

Dit zijn afspraken over het beheer en de totstandkoming van de algoritmes zelf, bijvoorbeeld:

multidisciplinair ontwikkelen
verantwoordelijkheden per toepassing
procedures voor klachten of vragen

Belang van algoritme-governance

Zonder governance verlies je grip op het inkopen, ontwikkelen, gebruiken en uitfaseren van algoritmes en AI. Dit vergroot het risico op overtredingen van wetten en regels zoals de AI-verordening, Grondwet, Algemene Verordening Gegevensbescherming (AVG) en Auteurswet.

Goede governance van algoritmes helpt bij het:

correct uitvoeren van wetten en regels
toepassen van je eigen strategie, doelstellingen en publieke waarden
ontwikkelen en implementeren van algoritmetoepassingen

Aanpak algoritme-governance

Algoritme-governance bepaal je zelf als organisatie.

Houd in elk geval rekening met:

organisatieverantwoordelijkheden: de minimale voorwaarden om te starten met algoritmes
levenscyclus van algoritmes: waar je per fase op moet letten
zoek aansluiting met bestaande governancestructuren

Tip

Zorg dat iemand verantwoordelijk is voor algoritme-governance. En betrek stakeholders.

Vereisten

id	Vereisten
aia-00	Verboden AI mag niet worden gebruikt
aia-01	Personeel en gebruikers zijn voldoende AI-geletterd
aia-02	Beoordeling als niet 'hoog-risico-AI-systeem' is gedocumenteerd
aia-03	Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteem
aia-11	Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem
aia-14	Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedure
aia-15	Hoog-risico-AI-systemen zijn voorzien van een EU-conformiteitsverklaring
aia-20	Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing
aia-21	Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkheden
aia-25	Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databank
aia-26	Mensen over wie besluiten worden genomen door een hoog-risico-AI-systemen, krijgen op verzoek informatie over deze besluiten
aia-31	Als AI-modellen voor algemene doeleinden met systeemrisico’s ernstige incidenten veroorzaken, wordt dit gedocumenteerd en gerapporteerd
aia-35	Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder
aia-36	Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordening
avg-06	Organisaties kunnen bewijzen dat zij persoonsgegevens op de juiste manier verwerken

Aanbevolen maatregelen

id	Maatregelen
org-00	Inventariseer de algoritmes die binnen jouw organisatie worden gebruikt en houd dit overzicht actueel
org-01	Bepaal of er genoeg experts beschikbaar zijn
org-02	Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie
org-03	Maak een plan voor het omgaan met risico’s
org-04	Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid
org-05	Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
org-06	Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
org-07	Richt een algoritmegovernance in met three lines of defence
org-08	Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
org-09	Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
org-10	Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
org-11	Maak afspraken over het beheer van gebruikers
org-12	Controleer en verbeter regelmatig de kwaliteit van het algoritme
org-13	Maak afspraken over het beheer van wachtwoorden
org-14	Maak afspraken over het wijzigen van de code
org-16	Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI
pba-01	Beschrijf het probleem dat het algoritme moet oplossen
pba-02	Beschrijf het doel van het algoritme
pba-03	Beschrijf waarom een algoritme het probleem moet oplossen
pba-04	Overleg regelmatig met belanghebbenden
pba-05	Beschrijf de wettelijke grondslag voor de inzet van het algoritme
owp-01	Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
owp-05	Stel vast in welke risicogroep het algoritme valt en bepaal vervolgens welke vereisten van toepassing zijn.
owp-31	Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
owk-02	Maak een noodplan voor het stoppen van het algoritme
ver-05	Controleer regelmatig of het algoritme voldoet aan alle wetten en regels en het eigen beleid
imp-01	Stel een werkinstructie op voor gebruikers
imp-03	Richt de juiste menselijke controle in van het algoritme
imp-06	Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
imp-08	Maak een openbaar besluit over de inzet van het algoritme
imp-10	Spreek af hoe de organisatie omgaat met privacy-verzoeken
mon-03	Maak een noodplan voor beveiligingsincidenten

Aanbevolen hulpmiddelen

Hulpmiddelen
Onderzoekskader algoritmes Auditdienst Rijk 2023
Standaarden
Toetsingskader Algoritmes Algemene Rekenkamer

Vrij vertaald van de definitie van AI-governance gedefinieerd door Mäntymäki, M., Minkkinen, M., Birkstedt, T. et al. Defining organizational AI governance. AI Ethics 2, 603–609 (2022). ↩