Ga naar inhoud

Fase 6: Implementatie

In deze fase wordt het algoritme in de praktijk gebracht en duurzaam geïntegreerd in het bedrijfsproces. In de praktijk wordt veelal eerst een pilot uitgevoerd voor een afgebakende periode of over een beperkt aantal zaken. In deze situatie, een pilot, wordt tijdelijk productiedata verwerkt. Dit vraagt om een goede samenwerking tussen het ontwikkelteam en de gebruikers van het algoritme. Niet alleen de prestaties van het algoritme worden nogmaals gevalideerd, maar bijvoorbeeld ook of de output zodanig wordt gepresenteerd dat gebruikers hiermee kunnen werken. Na deze pilot wordt onderzocht in hoeverre het algoritme presteert conform wens en verwachting. Er kan worden gekozen om het algoritme eerst nog door te ontwikkelen op basis van de bevindingen, uit te faseren of om de oplossing structureel onderdeel te maken van de bedrijfsvoering door het te implementeren.

Als een besluit wordt genomen om de oplossing te implementeren, dan is het van belang dat gebruikers goed begrijpen hoe de resultaten van het algoritme moeten worden geïnterpreteerd, dat de rest-risico's bekend zijn, de verantwoordelijkheden belegd zijn en dat er duidelijke werkinstructies zijn over het gebruik van het algoritme. Service- en incidentmanagement moet volledig worden geoperationaliseerd, zodat gebruikers kunnen worden geholpen bij vragen of incidenten. Een kenmerkend element van deze fase is dat vanaf nu betrokkenen onderhevig zijn aan de werking van het algoritme. Beslissingen en besluiten komen nu bijvoorbeeld mede of geheel door de werking van het algoritme tot stand. Waar passend, bijvoorbeeld bij impactvolle of hoog risico AI-systemen wordt dit duidelijk gecommuniceerd naar betrokkenen, voordat de oplossing volledig is geïmplementeerd.

Vereisten

Aanbevolen maatregelen

Maatregelen
Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe
Overleg regelmatig met belanghebbenden
Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
Beschrijf voor welk doel het algoritme persoonsgegevens gebruikt en waarom dit mag
Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
Aansprakelijkheidsvoorwaarden van een aanbieder worden beoordeeld in de aanbesteding
Maak (contractuele) afspraken over data en artefacten met een aanbieder
Gebruik duurzame datacenters
Maak een noodplan voor het stoppen van het algoritme
Zorg dat (gevoelige) informatie niet kan lekken op basis van de output van het algoritme
Documenteer en beargumenteer de keuze voor gebruikte modellen en parameters
Stel een werkinstructie op voor gebruikers
Doe aselecte steekproeven om algoritmes met 'risicogestuurde selectie’ te controleren
Richt de juiste menselijke controle in van het algoritme
Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister
Vermeld het gebruik van persoonsgegevens in een privacyverklaring
Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
Vermeld het gebruik van persoonsgegevens in het verwerkingsregister
Maak een openbaar besluit over de inzet van het algoritme
Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.