Politiek-bestuurlijke verantwoordelijkheid

org-04OrganisatieverantwoordelijkhedenProjectleiderBeleid en adviesGovernance

Maatregel

Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid. Zorg dat bestuurders bewust zijn van de voor- en nadelen van de inzet van algoritmes en daarnaar kunnen handelen.

Toelichting

• Voor een passende algoritmegovernance is politiek-bestuurlijk bewustzijn, betrokkenheid en verantwoordelijkheid essentieel.
• De kernvraag voor publieke organisaties bij de inzet van algoritmen is altijd: Hoe wegen we (als publieke organisatie of samenleving) de voordelen en nadelen van de inzet van algoritmen?
• Dit is per definitie een kwalitatieve en politieke vraag.

• Dit gaat niet alleen over direct opbrengsten maar ook over lange termijn en indirecte effecten, de mate waarin de inzet van technologie bijdraagt aan de legitimiteit van publieke organisatie en hoe burgers met deze technologie worden bejegend.

• Om te zorgen voor politiek-bestuurlijke betrokkenheid kan het helpen om een meerjarige visie en/of strategie rondom verantwoorde inzet te formulueren.

• Dit ondersteunt teams bij het maken van de juiste overwegingen bij de ontwikkeling en gebruik van algoritmes. Het geeft ook inzicht wanneer de politiek of bestuurlijk verantwoordelijke(n) moeten worden betrokken bij het project om beslissingen te nemen, bijvoorbeeld of de mate van onbewuste vooringenomenheid (bias) binnen acceptabele grenzen ligt.
• Het doorlopen van een concrete casus voor de ontwikkeling en gebruik van een algoritme, inclusief het uitvoeren van een IAMA, kan waardevolle informatiegeven om een meerjarige visie of strategie op te stellen.

Bronnen

Kleur bekennen - vervolgonderzoek algoritmes

Bijbehorende vereiste(n)

Geen vereisten beschikbaar voor deze maatregel.

Risico

Voorbeelden

Voorbeeld gemeente Rotterdam

Één van de belangrijkste hoofdconclusies van het rapport Kleur Bekennen van de gemeente Rotterdam, opgesteld door de Algemene Rekenkamer, onderstreept het belang van actief bestuur binnen algoritme- en AI-governance:

"Het ontbreekt aan een politiek-bestuurlijk kader dat duidelijk maakt welke normen en principes leidend zijn bij de ontwikkeling en het gebruik van algoritmes. Dit heeft als effect dat belangrijke besluit over bijvoorbeeld wenselijkheid, haalbaarheid, transparantie en bias bij de ambtelijke organisatie komen te liggen. Deze besluiten vragen om een politieke afweging".

De algoritmegovernance van de Gemeente Rotterdam bestaat uit de volgende onderdelen:

1. een visie op de inzet van algoritmes;
2. instrumentarium voor risicobeheersing dat onder andere bestaat uit een risico-assessment en een mensenrechtenassessment;
3. een uiteenzetting van rollen en verantwoordelijkheden en;
4. een omschrijving van de verantwoordelijkheden voor controle en advies.

Deze stappen volgen kan helpen bij het inrichten van een algoritmegovernance.

Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl