Ontwikkelaar

Ontwikkelaars zijn de technische experts die ervoor zorgen dat algoritmes voldoen aan technische en ethische standaarden. Zij passen methodes toe om te waarborgen dat ai-modellen duurzaam, eerlijk en transparant zijn. Vaak zijn zij verantwoordelijk voor het testen en optimaliseren van algoritmes en voor het implementeren van maatregelen om privacy en persoonsgegevens te beschermen.

Belangrijke taken van een ontwikkelaar

• analyseert, ontwikkelt en implementeert algoritmes en ai-modellen
• verzorgt de technische kant van de algoritmeontwikkeling, inclusief programmeren, opschonen van data, data-analyse en het ontwerpen van informatieprocessen

Ontwikkelaars zijn bijvoorbeeld

• Data-analist
• Data-scientist
• Data-engineer
• Developer
• Informatieanalist
• Softwareontwikkelaar

Vereisten

id	Vereisten
aia-05	Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteria
aia-06	Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie
aia-07	Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens
aia-08	Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen
aia-10	Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig
aia-19	Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisen
aia-28	AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem
aia-30	Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelen
aia-32	AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallen
aia-33	AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden
aia-38	Hoog-risico-AI-systemen zijn getest
arc-01	Informatie over algoritmes wordt in goede, geordende en toegankelijke staat gebracht, bewaard en vernietigd wanneer nodig
avg-02	Persoonsgegevens worden zo kort mogelijk bewaard
avg-03	Persoonsgegevens worden zo min mogelijk verwerkt
avg-04	Persoonsgegevens en andere data verwerken gebeurt proportioneel en subsidiair
avg-05	Persoonsgegevens zijn juist en actueel
avg-07	Organisaties zijn transparant over het verwerken van persoonsgegevens
avg-09	Betrokkenen kunnen een beroep doen op hun privacyrechten
avg-11	Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenen
avg-12	Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallen
awb-02	Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit
bio-01	Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen

Maatregelen

id	Maatregelen
org-13	Maak afspraken over het beheer van wachtwoorden
org-14	Maak afspraken over het wijzigen van de code
owp-04	Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing
owp-06	Leg vast wat de impact van het algoritme is als het niet werkt zoals beoogd
owp-09	Bepaal welke documenten voor hoe lang gearchiveerd moeten worden
owp-11	Beschrijf welke data gebruikt wordt voor de beoogde toepassing
owp-13	Ontwerp algoritmes zo eenvoudig mogelijk
owp-20	Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding
owp-22	Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke
owp-24	Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
owp-25	Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken
owp-27	Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-28	Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
owp-32	Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze
owp-33	Identificeer en implementeer technische interventies die robuustheid vergroten
owp-34	Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme
dat-01	Controleer de datakwaliteit
dat-02	Toets en analyseer of de inputvariabelen of risicoindicatoren geschikt zijn voor het beoogde algoritme
dat-04	Bescherm persoonsgegevens door data te anonimiseren, pseudonimiseren of te aggregeren
dat-06	Gebruik duurzame datacenters
dat-07	Gebruik bij machine learning technieken gescheiden train-, test- en validatiedata en houd rekening met underfitting en overfitting
dat-09	Beperk de omvang van datasets voor energie-efficiëntie
dat-10	Controleer de data op manipulatie en ongewenste afhankelijkheden
dat-11	Controleer de input van gebruikers op misleiding
dat-12	Maak waardevolle data vindbaar, toegankelijk, interoperabel en herbruikbaar (FAIR) binnen en buiten de eigen organisatie
owk-01	Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’
owk-02	Maak een noodplan voor het stoppen van het algoritme
owk-04	Maak logbestanden waarin staat wie wanneer toegang had tot de data en de code
owk-05	Kies energiezuinige programmeermethoden
owk-06	Optimaliseer AI-trainingsprocessen voor energie-efficiëntie
owk-07	Zorg voor reproduceerbaarheid van de uitkomsten
owk-08	Bepaal welke feedbackloops van invloed zijn op het algoritme
owk-09	Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen
owk-10	Zorg dat (gevoelige) informatie niet kan lekken op basis van de output van het algoritme
owk-11	Documenteer en beargumenteer de keuze voor gebruikte modellen en parameters
owk-12	Gebruik een passende licentie bij publicatie of gebruik van (open) data
ver-01	Controleer regelmatig of het algoritme werkt zoals het bedoeld is
ver-02	Evalueer de nauwkeurigheid van het algoritme
ver-03	Toets het algoritme op bias en voer een rechtvaardigingstoets uit
ver-04	Zorg voor een representatieve testomgeving
ver-06	Evalueer de betrouwbaarheid van het algoritme
imp-02	Doe aselecte steekproeven om algoritmes met 'risicogestuurde selectie’ te controleren
imp-06	Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
imp-09	Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
mon-01	Maak back-ups van algoritmes
mon-02	Beveilig de software
mon-05	Monitor regelmatig op veranderingen in de data. Bij veranderingen evalueer je de prestaties en output van het algoritme.
mon-06	Meten, monitoren en rapporteren van milieu-impact van algoritmes
mon-08	Controleer regelmatig of een algoritme voldoende weerbaar is tegen bekende aanvallen
uit-01	Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.