Governance
Wat is governance¶
Governance gaat over de inrichting van een organisatie en de daarbij horende processen, regels, gebruiken en bijbehorende verantwoordelijkheden. Dit onderdeel van het Algoritmekader gaat over de governance van AI en algoritmes en systemen waarin deze verwerkt zijn.
Let op!
Governance wordt in verschillende contexten anders gebruikt. In dit deel hebben we het over governance over algoritmes en AI. Omdat het Algoritmekdader uitgaat van de brede definitie van een algoritme, hanteren we voor het gemak de term “algoritmegovernance” als we het hebben over governance over algoritmes en AI.
De noodzaak van algoritme governance is om grip te hebben (of krijgen) op algoritmes en AI binnen een organisatie en zaken als (onbedoelde) discriminatie te voorkomen. Mede gezien de AI-verordening, die 1 augustus 2024 gefaseerd in werking is getreden, is het van belang dat organisaties zich organiseren om deze wet correct te kunnen uitvoeren. Bewustzijn bij bestuur en organisatie is daarvoor een belangrijk vertrekpunt.
Verschillende niveau's van governance¶
Algoritmegovernance bestaat op verschillende niveaus: van (inter)nationaal niveau, naar organisatieniveau naar het niveau van het AI-systeem (zie figuur hieronder).
Het Algoritmekader focust op de twee niveaus:
- Organisatie
- Systeem/toepassing (lifecycle).
Binnen een organisatie kan algoritme governance niet los worden gezien van de algemene governance, data-governance en IT-governance. Per organisatie zal verschillen in hoeverre dit is ontwikkeld. De omvang van een organisatie is ook een belangrijk aspect. Algoritmegovernance moet aansluiten bij de strategie, doelstellingen en publieke waarden van een organisatie, waarbij moet worden voldaan aan wettelijke vereisten en ethische principes (Mäntymäki et al., 2022). Deze aspecten en meer worden in de volgende hoofdstukken behandeld.
Leeswijzer: Governance in het Algoritmekader¶
Als je deze sectie over governance leest, ben je waarschijnlijk geïnteresseerd in het opzetten of verbeteren van algoritmegovernance bij jou organisatie.
Een algoritmegovernance ingericht hebben is een randvoorwaarde om de vereisten die het Algoritmekader noemt verantwoord en gestructureerd aan te pakken. In dit onderdeel geven we informatie en voorbeelden om hierheen te werken. We hebben hierin twee fases in onderscheiden, die weer uit verschillende hoofdstukken bestaan:
- Huidige situatie en randvoorwaarden algoritmegovernance.
- Algoritme governance realiseren met best practices en voorbeelden.
Aan het einde van ieder hoofdstuk binnen het onderwerp governance geven we aandachts- en actiepunten om zelf hiermee aan de slag te gaan.
Fase 1: Huidige situatie algoritmegovernance¶
Om een goede algoritmegovernance te realiseren is het van belang eerst de organisatie te kennen. Wat er al is aan governance (processen, rollen, etc.), beïnvloedt hoe algoritmegovernance daaraan opgehangen kan worden. De eerste fase van het in kaart brengen van de huidige situatie algoritmegovernance is ingedeeld in:
- Volwassenheid en ontwikkelstappen: Het niveau van volwassenheid verschilt per organisatie. Daarnaast is de grootte van een organisatie van grote invloed.
- Samenhang verschillende governance structuren: algoritmegovernance kan niet los worden gezien van de algemene governance, datagovernance en IT-governance.
- Belang bestuurlijke/politiek verantwoordelijkheid: De waarden die de organisatie vanuit (politieke) bestuurlijke top uitzet geven daarbij ook belangrijke kleur aan de inrichting van de algoritmegovernance.
Fase 2: Best practices en voorbeelden van algoritme governance¶
De tweede fase gaat over het realiseren van een algoritmegovernance met best practices en voorbeelden van algoritme governance. De volgende onderwerpen komen hier aan de orde:
- Governance structuur: basis in 3 lines of defense
- Governance per risicogroep
- Algoritmelevenscyclus(beslis-“gates”)
- Rollen en verantwoordelijkheden
- Interactie met burgers en omgeving
Voorbeelden bieden in hoofdlijnen een ‘blauwdruk’ voor hoe algoritmegovernance kan worden ingericht. Belangrijk om te realiseren dat altijd moet worden gekeken hoe dit in de eigen organisatie is in te passen. Het is afhankelijk van onder andere de grootte en inrichting van de organisatie. Waar mogelijk geven we daarom voorbeelden uit een divers scala aan organisaties. De best practices geven handvatten en lessen om ook zelf aan de slag te gaan.
Wat algemene best practices¶
- Maak iemand verantwoordelijk voor het opstellen van de algoritmegovernance
- Zorg voor overlegstructuren met keuzemandaat met belangrijke partijen/stakeholders