Volwassenheidsniveau

Om tot een passende algoritmegovernance voor een organisatie te komen, moet eerst worden vastgesteld wat op dit moment al is ingericht op het gebied van AI en algoritmes. Dit wordt het bepalen van het zogenaamde 'volwassenheidsniveau' genoemd. Op basis hiervan kunnen vervolgstappen worden gedefinieerd waar een organisatie aan kan gaan werken om zich naar de volgende niveaus voor algoritmegovernance door te ontwikkelen.

Er zijn verschillende volwassenheidsmodellen hiervoor te gebruiken. Enkele voorbeelden zijn hieronder beschreven. Deze modellen richten zich niet altijd expliciet op algoritmegovernance, maar kijken naar algoritmes in de organisatie in brede zin of naar “AI-ethics”. Governance is echter altijd een onderdeel van deze volwassenheidsmodellen.

Voorbeelden van volwassenheidsmodellen

AI ethics maturity model van Krijger, Thuis, de Ruiter, Ligthart & Broekman (2023)

Het AI ethics maturity model van Krijger, Thuis, de Ruiter, Ligthart & Broekman (2023) is op basis van zes categorieën (awareness & culture, Policy, Governance, Communication & Training, Development Proces, en Tooling) op verschillende niveau’s.

Het Datavolwassenheidsmodel van de IBDS

Richt zich op datavolwassenheid, maar heeft daarin veel raakvlakken met AI waarvoor data een belangrijk component is. Heeft een eigen beslishulp datavolwassenheid maar ook een meetgids met verschillende methoden.

Flexible Maturity Model for AI Governance Based on the NIST AI Risk Management Framework van de IEEE-USA

De NIST is een veelgebruikte standaard voor cybersecurity (onlangs geüpdatet en nu soms NIS2 of NIST2 genoemd). Het NIST-model bekijkt AI-governance volwassenheid aan de hand van categorieën uit de NIST.

Responsible AI Maturity Model van Microsoft Research

Het Responsible AI Maturity Model van Microsoft Research is onderverdeeld in drie onderdelen (organisational foundation, team approach, en RAI practice) waarvan organisational foundation ingaat op AI Governance.

Innovatie en volwassenheid

Inzet van AI kan vaak worden gezien als innovatie. Hoe kunnen innovatieve ideeën worden ondersteund door AI en hoe kan AI worden gebruikt om nieuwe innovatieve toepassingen te vinden? Ook voor innovatie bestaan er volwassenheidsmodellen. Een voorbeeld van een volwassenheidsmodel voor innovatie is de Innovatie Maturity Scan van Innoveren met Impact.

Om zowel op AI als op innovatie te verbeteren, kunnen volwassenheidsmodellen voor AI en voor innovatie worden geïntegreerd. Om dat te doen is het goed om te kijken naar de overlap en de verschillen tussen de twee modellen. Vul het ene model aan met de nog ontbrekende elementen uit het andere model. Bepaal het huidige niveau van de organisatie op beide modellen. Vergelijk voor beide modellen het huidige niveau met het gewenste niveau en ontwikkel een roadmap om de doelen te bereiken.

Verdere stappen

Nadat een volwassenheidsniveau van de algoritmegovernance is vastgesteld kunnen hier concrete taken aan worden verbonden. Het realiseren van algoritmegovernance vraagt zeer waarschijnlijk om een organisatieverandering. Het is aan te raden om verantwoordelijkheid te beleggen voor het realiseren van AI-governance. Dit is mogelijk te koppelen aan de implementatie van de AI-verordening binnen de organisatie. Bewustzijn over de noodzaak voor algoritmegovernance moet op bestuurlijk niveau helder zijn. Een analyse van volwassenheidsniveau kan helpen input te geven waar eerst op te richten.

Aandachts- en actiepunten:

• Breng in kaart wat er al is aan IT-governance met één van de volwassenheidsmodellen.
• Is de organisatie volwassen? Vallen AI en algoritmes al ergens onder?
• Breng deze informatie naar je bestuur met het verzoek duidelijkheid te krijgen hoe AI-governance belegd zou moeten worden. De AI-verordening vraagt om belegde verantwoordelijkheden met betrekking tot AI en algoritmes.
• Er is verschil in datageletterdheid van ambtenaren. Benodigde skills en expertise (die mogelijk ontbreken) zijn van belang bij het invullen van rollen en verantwoordelijkheden.