Fase 6: Implementatie

In deze fase implementeer je het algoritme of AI-systeem in de organisatie. Vanaf dan kunnen medewerkers ermee werken. Meestal begin je met een pilot of test, voordat je het echt implementeert.

Pilot uitvoeren

Als je het algoritme of AI-systeem nog test voor implementatie, verwerk je tijdelijk data. Hiervoor moeten je ontwikkelteam en de groep gebruikers die testen goede afspraken maken, over het gebruik van het algoritme of AI-systeem tijdens de pilot.

Tijdens de pilot test je de:

• prestaties van het algoritme of AI-systeem, door deze opnieuw te valideren
• output (resultaten): kunnen gebruikers hier bijvoorbeeld mee werken?

Na de pilot concludeer je of het algoritme of AI-systeem presteert volgens de wensen en verwachtingen. En je besluit of het nodig is om terug te gaan naar het ontwikkelen, om te stoppen en uit te faseren of om verder te implementeren.

Implementeren

Vóór implementatie regel je in elk geval het volgende:

• Gebruikers begrijpen hoe zij de output (resultaten) moeten interpreteren.
• Gebruikers hebben toegang tot duidelijke werkinstructies.
• Voor het oplossen van vragen en incidenten heeft de organisatie een goede werkwijze.
• Het is duidelijk wie waarvoor verantwoordelijk is.
• De organisatie kent de restrisico’s: risico’s die overblijven nadat je maatregelen neemt.
• Betrokkenen zijn geïnformeerd. Dit is verplicht bij het in gebruik nemen van een impactvol algoritme of hoog-risico-AI-systeem.

Vereisten implementatiefase

WetgevingAI-verordeningAVGAWBBZK

Vereisten	Wetgeving
Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedure	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van een EU-conformiteitsverklaring	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van een CE-markering	AI-verordening
Hoog-risico-AI-systemen zijn geregistreerd in de EU-databank	AI-verordening
Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing	AI-verordening
Werknemers weten dat hun organisatie een hoog-risico AI-systeem gebruikt	AI-verordening
Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databank	AI-verordening
AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem	AI-verordening
Organisaties zijn transparant over het verwerken van persoonsgegevens	AVG
Besluiten met rechtsgevolgen of aanmerkelijke effecten zijn niet volledig geautomatiseerd	AVG
Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit	AWB
Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse Algoritmeregister	BZK

Aanbevolen maatregelen implementatiefase

Maatregelen
Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe
Overleg regelmatig met belanghebbenden
Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
Beschrijf voor welk doel het algoritme persoonsgegevens gebruikt en waarom dit mag
Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
Aansprakelijkheidsvoorwaarden van een aanbieder worden beoordeeld in de aanbesteding
Maak (contractuele) afspraken over data en artefacten met een aanbieder
Gebruik duurzame datacenters
Maak een noodplan voor het stoppen van het algoritme
Zorg dat (gevoelige) informatie niet kan lekken op basis van de output van het algoritme
Documenteer en beargumenteer de keuze voor gebruikte modellen en parameters
Stel een werkinstructie op voor gebruikers
Doe aselecte steekproeven om algoritmes met 'risicogestuurde selectie’ te controleren
Richt bij besluitvorming betekenisvolle menselijke tussenkomst in
Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister
Vermeld het gebruik van persoonsgegevens in een privacyverklaring
Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
Vermeld het gebruik van persoonsgegevens in het verwerkingsregister
Maak een openbaar besluit over de inzet van het algoritme
Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.