Ontwikkelaar

Ontwikkelaars zijn de technische experts die ervoor zorgen dat algoritmes voldoen aan technische en ethische standaarden. Zij passen methodes toe om te waarborgen dat ai-modellen duurzaam, eerlijk en transparant zijn. Vaak zijn zij verantwoordelijk voor het testen en optimaliseren van algoritmes en voor het implementeren van maatregelen om privacy en persoonsgegevens te beschermen.

Belangrijke taken van een ontwikkelaar

• analyseert, ontwikkelt en implementeert algoritmes en ai-modellen
• verzorgt de technische kant van de algoritmeontwikkeling, inclusief programmeren, opschonen van data, data-analyse en het ontwerpen van informatieprocessen

Ontwikkelaars zijn bijvoorbeeld

• Data-analist
• Data-scientist
• Data-engineer
• Developer
• Informatieanalist
• Softwareontwikkelaar

Vereisten

id	Vereisten
aia-05	Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteria
aia-06	Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie.
aia-07	Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens.
aia-08	Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen.
aia-10	Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig.
aia-19	Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisen.
aia-28	AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem.
aia-30	Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelen.
aia-32	AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallen.
aia-33	AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden.
aia-38	Hoog-risico-AI-systemen zijn getest.
arc-01	Informatie over algoritmes wordt in goede, geordende en toegankelijke staat gebracht, bewaard en vernietigd wanneer nodig.
avg-02	Persoonsgegevens worden zo kort mogelijk bewaard.
avg-03	Persoonsgegevens worden zo min mogelijk verwerkt.
avg-04	Persoonsgegevens en andere data verwerken gebeurt proportioneel en subsidiair.
avg-05	Persoonsgegevens zijn juist en actueel.
avg-07	Organisaties zijn transparant over het verwerken van persoonsgegevens
avg-09	Betrokkenen kunnen een beroep doen op hun privacyrechten.
avg-11	Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenen.
avg-12	Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallen.
awb-02	Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit
bio-01	Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen

Maatregelen

id	Maatregelen
org-13	Maak afspraken over het beheer van wachtwoorden
org-14	Maak afspraken over het wijzigen van de code
owp-04	Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing
owp-06	Leg vast wat de impact van het algoritme is als het niet werkt zoals beoogd
owp-09	Bepaal welke documenten voor hoe lang gearchiveerd moeten worden
owp-11	Beschrijf welke data gebruikt wordt voor de beoogde toepassing
owp-13	Ontwerp algoritmes zo eenvoudig mogelijk
owp-21	Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding.
owp-23	Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke.
owp-25	Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
owp-26	Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken.
owp-28	Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-29	Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
owp-33	Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze.
owp-34	Identificeer en implementeer technische interventies die robuustheid vergroten
owp-36	Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme.
dat-01	Controleer de datakwaliteit
dat-02	Maak waardevolle data vindbaar, toegankelijk, interoperabel en herbruikbaar (FAIR) binnen en buiten de eigen organisatie.
dat-04	Bescherm persoonsgegevens door data te anonimiseren, pseudonimiseren of te aggregeren
dat-06	Gebruik duurzame datacenters
dat-07	Gebruik bij machine learning technieken gescheiden train-, test- en validatiedata en houdt rekening met underfitting en overfitting.
dat-09	Beperk de omvang van datasets voor energie-efficiëntie
dat-11	Controleer de data op manipulatie en ongewenste afhankelijkheden
dat-12	Controleer de input van gebruikers op misleiding
owk-01	Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’
owk-02	Maak een noodplan voor het stoppen van het algoritme
owk-04	Maak logbestanden waarin staat wie wanneer toegang had tot de data en de code
owk-05	Kies energiezuinige programmeermethoden
owk-06	Optimaliseer AI-trainingsprocessen voor energie-efficiëntie
owk-07	Zorg voor reproduceerbaarheid van de uitkomsten
owk-08	Bepaal welke feedbackloops van invloed zijn op het algoritme
owk-09	Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen
owk-09	Zorg dat er (gevoelige) informatie niet kan lekken op basis van de output van het algoritme.
ver-01	Controleer regelmatig of het algoritme werkt zoals het bedoeld is
ver-02	Evalueer de nauwkeurigheid van het algoritme
ver-03	Toets het algoritme op bias
ver-04	Zorg voor een representatieve testomgeving
ver-06	Evalueer de betrouwbaarheid van het algoritme
imp-01	Stel een werkinstructie op voor gebruikers.
imp-02	Doe aselecte steekproeven om algoritmes met 'risicogestuurde selectie’ te controleren
imp-07	Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces.
imp-10	Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
mon-01	Maak back-ups van algoritmes
mon-02	Beveilig de software
mon-05	Monitor regelmatig op veranderingen in de data. Bij veranderingen evalueer je de prestaties en output van het algoritme.
mon-06	Meten, monitoren en rapporteren van milieu-impact van algoritmes
mon-08	Controleer regelmatig of een algoritme voldoende weerbaar is tegen bekende aanvallen.
uit-01	Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie.

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.