Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie

org-02OrganisatieverantwoordelijkhedenBeleid en adviesGovernanceTransparantie

Maatregel

Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie.

Toelichting

Een duidelijk beleid over de inzet van algoritmes helpt organisaties te voldoen aan de vereisten voor het verantwoord gebruik ervan. Hierin worden zaken beschreven als:

• Hoe de inzet van algoritmes gaat bijdragen aan het realiseren van de organisatiedoelstellingen.
• Het beschrijven van de stappen die moeten worden gezet om algoritmes op een verantwoorde wijze in te gaan zetten. Dit is afhankelijk en verschilt per type algoritme en de bijbehorende risicoclassificatie.

• Het beschrijven van welke hulpmiddelen in welke gevallen moeten worden ingezet om te voldoen aan de vereisten die gelden voor algoritmes. Hierbij kan worden gedacht aan:

  • Een Impact Assessment Mensenrechten en Algoritmes.
  • Een Data Protection Impact Assessment.
  • Het hanteren van inkoopvoorwaarden.
  • Het uitvoeren van een biasanalyse.

• Hoe burgers worden geïnformeerd over de inzet van algoritmes door de organisatie (communicatiestrategie) en welke kanalen hiervoor kunnen worden gebruikt. Hierbij kan worden gedacht aan:

  • Het Algoritmeregister voor het publiceren van hoog risico AI-systemen of impactvolle algoritmes.
  • Een algemene pagina op de website met informatie over de inzet van algoritmes.
  • Het verwerkingsregister.
  • Een intern registratiesysteem, bijvoorbeeld voor het registreren van laag risico of niet-impactvolle algoritmes zodat deze informatie voor medewerkers beschikbaar is.
  • In welke gevallen een (openbaar) besluit wordt genomen door het bestuur over de inzet van een algoritme.

• Of algoritmes zelf worden ontwikkeld, of dat algoritmes of systemen worden ingekocht. Dit vraagt om een andere governacnestructuur en aanpak.

• Er is beschreven welke informatie over welke typen algoritmes wordt gecommuniceerd met betrokkenen bij de ontwikkeling of gebruik ervan door de organisatie.

• Stel dit beleid op voor zowel:

  • nieuw te ontwikkelen algoritmes
  • gedurende de ontwikkeling van algoritmes
  • bestaande algoritmes

• Bepaal in welke gevallen het nodig is om een externe audit of validatie uit te voeren op het algoritme.

• Bepaal of het wenselijk is om gebruik te maken van een (externe) ethische commissie en hoe dit onderdeel kan zijn van je processen.
• Er is beschreven welke stappen worden gezetten in het geval dat er incidenten ontstaan rondom de inzet van algoritmes, denk hierbij aan een discriminatieprotocol.
• Betrek een brede groep met verschillende disciplines bij de ontwikkeling van governance.
• Dit beleidsdocument is beschikbaar en toegankelijk voor geïnteresseerden.

Risico

Zonder duidelijk beleid over de inzet van algoritmes kan het gebeuren dat algoritmes worden ontwikkeld of gebruikt die niet passend zijn binnen de organisatie.

Bijbehorende vereiste(n)

Bekijk alle vereisten

Vereiste
awb-01 - Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig

Bronnen

Geen beschikbare bron voor deze maatregel.

Bronnen

• Onderzoekskader Auditdienst Rijk, SV.8

Voorbeelden

Handreiking Algoritmen - Gemeente Amsterdam

Gemeente Amsterdam heeft een Handreiking Algoritmen ontwikkeld waarin de aanpak van en instrumenten voor verantwoord algoritme­­gebruik in Amsterdam worden toegelicht. Denk aan governance voor verantwoorde toepassing van algoritmes, en contractvoorwaarden voor algoritmische toepassingen.

Bron: Handreiking Algoritmen (Er zijn hier ook handreikingen te vinden over Dataverzameling en Digitale ongelijkheid.)

Ethische commissie Gemeente Groningen

Gemeente Groningen maakt gebruik van een ethische commissie Data en Technologie. De commissie adviseert het college gevraagd en ongevraagd over het gebruiken van (nieuwe) digitale technologieën in de gemeente Groningen. Denk aan kunstmatige intelligentie (AI), algoritmen en sensoren.

Ervaring uit de praktijk

Werk samen. Betrek iedereen die je nodig hebt. De directie moet willen. En die moet het begrijpen. Laat juristen niet pas achteraf stukken lezen. Neem iedereen mee. Dan wordt iedereen verantwoordelijk. En ontstaat wederzijds vertrouwen."

Ervaring uit de praktijk

"Je moet een hele duidelijke visie hebben. Wat zijn dan de dingen die we op ons af zien komen? Wat betekent dit voor ons? Wat willen we daarmee? En hoe gaan we dat wegzetten in de tijd dat we daarmee omgaan? Want we kunnen niet alles tegelijk gaan doen. Je moet daar een soort volgordelijkheid in gaan bouwen van wat gaan we dan eerst doen? En waar gaan we dan mee aan de slag?"

Ervaring uit de praktijk

"Als je wilt starten, start klein aan de hand van een casus. Langs die casus kan je ontdekken welke stappen je moet zetten om ervoor te zorgen dat je de ethische waarde goed inricht, dat je vanuit privacy en security goed hebt ingericht en dat je ook daadwerkelijk die toegevoegde waarde voor de organisatie realiseert."

Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl