Fase 6: Implementatie

In deze fase wordt het algoritme in de praktijk gebracht en duurzaam geïntegreerd in het bedrijfsproces. In de praktijk worden veelal eerst een pilot uitgevoerd voor een afgebakende periode of over een beperkt aan zaken. In deze situatie, een pilot, wordt tijdelijk productiedata verwerkt. Dit vraagt om een goede samenwerking tussen het ontwikkelteam en de gebruikers van het algoritme. Niet alleen de prestaties van het algoritme worden nogmaals gevalideerd, maar bijvoorbeeld ook of de output zodanig wordt gepresenteerd dat gebruikers hiermee kunnen werken. Na deze pilot wordt onderzocht in hoeverre het algoritme presteert conform wens en verwachting. Er kan worden gekozen om het algoritme eerst nog door te ontwikkelen op basis van de bevindingen, uit te faseren of om de oplossing structureel onderdeel te maken van de bedrijfsvoering door het te implementeren.

Als een besluit wordt genomen om de oplossing te implementeren, dan is het van belang dat gebruikers goed begrijpen hoe de resultaten van het algoritme moeten worden geïnterpreteerd, dat de rest-risico's bekend zijn, de verantwoordelijkheden belegd zijn en dat er duidelijke werkinstructies zijn over het gebruik van het algoritme. Service- en incidentmanagement moet volledig worden geoperationaliseerd, zodat gebruikers kunnen worden geholpen bij vragen of incidenten. Een kenmerkend element van deze fase is dat vanaf nu betrokkenen onderhevig zijn aan de werking van het algoritme. Beslissingen en besluiten komen nu bijvoorbeeld mede of geheel door de werking van het algoritme tot stand. Waar passend, bijvoorbeeld bij impactvolle of hoog risico AI-systemen wordt dit duidelijk gecommuniceerd naar betrokken, voordat de oplossing volledig is geïmplementeerd.

Vereisten

id	Vereisten
aia-14	Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedure.
aia-15	Hoog-risico-AI-systemen zijn voorzien van een EU-conformiteitsverklaring.
aia-16	Hoog-risico-AI-systemen zijn voorzien van een CE-markering.
aia-17	Hoog-risico-AI-systemen zijn geregistreerd in de EU-databank.
aia-20	Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing.
aia-24	Werknemers weten dat hun organisatie een hoog-risico AI-systeem gebruikt.
aia-25	Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databank.
aia-28	AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem.
avg-07	Organisaties zijn transparant over het verwerken van persoonsgegevens
avg-10	Besluiten die levens kunnen beïnvloeden, zijn niet volledig geautomatiseerd.
awb-02	Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit
bzk-01	Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse Algoritmeregister

Aanbevolen maatregelen

id	Maatregelen
org-15	Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe.
pba-04	Overleg regelmatig met belanghebbenden
owp-01	Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
owp-03	Beschrijf voor welk doel het algoritme persoonsgegevens gebruikt en waarom dit mag
owp-10	Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
owp-20	Aansprakelijkheidsvoorwaarden van een aanbieder worden beoordeeld in de aanbesteding
owp-30	Maak (contractuele) afspraken over data en artefacten met een aanbieder
dat-06	Gebruik duurzame datacenters
owk-02	Maak een noodplan voor het stoppen van het algoritme
owk-09	Zorg dat er (gevoelige) informatie niet kan lekken op basis van de output van het algoritme.
imp-01	Stel een werkinstructie op voor gebruikers.
imp-02	Doe aselecte steekproeven om algoritmes met 'risicogestuurde selectie’ te controleren
imp-03	Richt de juiste menselijke controle in van het algoritme
imp-04	Publiceer impactvolle algoritmes en hoog-risico-AI-systemen in het Algoritmeregister
imp-05	Spreek af hoe medewerkers omgaan met het algoritme.
imp-06	Vermeld het gebruik van persoonsgegevens in een privacyverklaring
imp-07	Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces.
imp-08	Vermeld het gebruik van persoonsgegevens in het verwerkingsregister
imp-09	Maak een openbaar besluit over de inzet van het algoritme
imp-10	Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.