Fase 4: Ontwikkelen

Dit is de fase waarin het algoritme wordt ontwikkeld door het ontwikkelteam. Als het gaat om AI-systemen, omvat deze fase het trainen van modellen met behulp van de voorbereide gegevens. Als het gaat om algoritmes op basis van rekenregels, betreft dit het implementeren van deze rekenregels in de (ontwikkelomgeving van de) systemen.

Het algoritme technisch correct ontwikkelen, inclusief het kunnen begrijpen van de beperkingen ervan, vraagt om een samenspel van expertise vanuit verschillende disciplines. Denk hierbij aan de proceseigenaar, domeinexperts van het te ondersteunen werkproces, data scientists, data engineer, (privacy)juristen, beleidsmedewerkers en een ethicus. Een voorbeeld hiervan is het beoordelen van de zogenaamde inputvariabelen of rekenregels (die voor een groot deel bepalen hoe een algoritme functioneert) van een machine learning model of algoritme. Deze rollen zijn bijzonder waardevol bij het beoordelen of deze variabelen of rekenregels juridisch zijn toegestaan, ethisch wenselijk zijn, technisch gezien- voldoende significant zijn en of deze van toegevoegde waarde zijn voor gebruikers. Dit multidisciplinaire team kan tijdens de ontwikkeling continu bijsturen, zodat het algoritme op een verantwoorde wijze functioneert en aansluit bij de beoogde doelstellingen.

In deze fase is niet alleen het ontwikkelen van een algoritme, maar ook het documenteren van belangrijke afwegingen en het opstellen van technische documentatie van groot belang. Daarnaast zullen tal van (technische) maatregelen moeten worden getroffen zoals de verdere beveiliging van het informatiesysteem of bij de ontsluiting van de output naar gebruikers, het automatische genereren van logs en het inrichten van service en incidentmanagementprocedures.

Vereisten

id	Vereisten
aia-06	Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie
aia-07	Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens
aia-08	Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen
aia-09	Hoog-risico-AI-systemen staan onder menselijk toezicht
aia-10	Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig
aia-23	Logs voor hoog-risico-AI-systemen worden bewaard door de gebruiksverantwoordelijke
aia-28	AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem
aia-29	AI-modellen voor algemene doeleinden zijn voorzien van voldoende technische documentatie en informatie
aia-30	Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelen
aia-32	AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallen
aia-33	AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden
aia-39	Hoog-risico-AI-systemen zijn getest.
arc-01	Informatie over algoritmes wordt gedocumenteerd volgens de Archiefwet
avg-02	Persoonsgegevens worden zo kort mogelijk bewaard
avg-03	Persoonsgegevens worden zo min mogelijk verwerkt
avg-09	Betrokkenen kunnen een beroep doen op hun privacyrechten
awb-01	Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig.

Maatregelen

id	Maatregelen
owp-03	Beschrijf voor welk doel het algoritme persoonsgegevens gebruikt en waarom dit mag
owp-05	Bepaal het soort algoritme en de risicogroep en vereisten die hierbij horen
owp-08	Bepaal welke documenten voor hoe lang gearchiveerd moeten worden
owp-10	Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
owp-12	Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders.
owp-12	Ontwerp algoritmes zo eenvoudig mogelijk
owp-19	Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren
pba-04	Stel vast welke betrokkenen geïnformeerd moeten worden en welke informatie zij nodig hebben.
dat-04	Geef data zoals persoonsgegevens een bewaartermijn met een vernietigingsprocedure
dat-05	Bescherm persoonsgegevens door data te anonimiseren, pseudonimiseren of te aggregeren
dat-07	Gebruik duurzame datacenters
dat-07	Gebruik bij machine learning technieken gescheiden train-, test- en validatiedata en houdt rekening met underfitting en overfitting.
dat-09	Beperk de omvang van datasets voor energie-efficiëntie
owk-01	Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’
owk-02	Maak een noodplan voor het stoppen van het algoritme
owk-03	Analyseer de privacy-risico’s en neem maatregelen om deze risico’s laag te houden
owk-04	Maak logbestanden waarin staat wie wanneer toegang had tot de data en de code
owk-05	Kies energiezuinige programmeermethoden
owk-06	Optimaliseer AI-trainingsprocessen voor energie-efficiëntie
ver-01	Controleer regelmatig of het algoritme werkt zoals het bedoeld is
imp-06	Spreek af hoe de organisatie omgaat met privacy-verzoeken
mon-01	Maak back-ups van algoritmes
mon-02	Beveilig de software

Disclaimer

Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via GitHub.