Ontwikkelaar

Ontwikkelaars zijn de technische experts die ervoor zorgen dat algoritmes voldoen aan technische en ethische standaarden. Zij passen methodes toe om te waarborgen dat AI-modellen duurzaam, eerlijk en transparant zijn. Vaak zijn zij verantwoordelijk voor het testen en optimaliseren van algoritmes en voor het implementeren van maatregelen om privacy en persoonsgegevens te beschermen.

Belangrijke taken van een ontwikkelaar

• analyseert, ontwikkelt en implementeert algoritmes en AI-modellen
• verzorgt de technische kant van de algoritmeontwikkeling, inclusief programmeren, opschonen van data, data-analyse en het ontwerpen van informatieprocessen

Ontwikkelaars zijn bijvoorbeeld

• Data-analist
• Data-scientist
• Data-engineer
• Developer
• Informatieanalist
• Softwareontwikkelaar

Vereisten

WetgevingAI-verordeningAVGAWBArchiefwetBIO

Vereisten	Wetgeving
Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteria	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie	AI-verordening
Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens	AI-verordening
Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen	AI-verordening
Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig	AI-verordening
Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisen	AI-verordening
AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem	AI-verordening
Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelen	AI-verordening
AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallen	AI-verordening
AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden	AI-verordening
Hoog-risico-AI-systemen zijn getest	AI-verordening
Informatie over algoritmes wordt in goede, geordende en toegankelijke staat gebracht, bewaard en vernietigd wanneer nodig	Archiefwet
Persoonsgegevens worden zo kort mogelijk bewaard	AVG
Persoonsgegevens worden zo min mogelijk verwerkt	AVG
Persoonsgegevens en andere data verwerken gebeurt proportioneel en subsidiair	AVG
Persoonsgegevens zijn juist en actueel	AVG
Organisaties zijn transparant over het verwerken van persoonsgegevens	AVG
Betrokkenen kunnen een beroep doen op hun privacyrechten	AVG
Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenen	AVG
Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallen	AVG
Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit	AWB
Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen	BIO

Maatregelen

Maatregelen
Maak afspraken over het beheer van wachtwoorden
Maak afspraken over het wijzigen van de code
Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing
Leg vast wat de impact van het algoritme is als het niet werkt zoals beoogd
Bepaal welke documenten voor hoe lang gearchiveerd moeten worden
Beschrijf welke data gebruikt wordt voor de beoogde toepassing
Ontwerp algoritmes zo eenvoudig mogelijk
Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding
Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke
Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken
Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze
Identificeer en implementeer technische interventies die robuustheid vergroten
Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme
Controleer de datakwaliteit
Toets en analyseer of de inputvariabelen of risicoindicatoren geschikt zijn voor het beoogde algoritme
Bescherm persoonsgegevens door data te anonimiseren, pseudonimiseren of te aggregeren
Gebruik duurzame datacenters
Gebruik bij machine learning technieken gescheiden train-, test- en validatiedata en houd rekening met underfitting en overfitting
Beperk de omvang van datasets voor energie-efficiëntie
Controleer de data op manipulatie en ongewenste afhankelijkheden
Controleer de input van gebruikers op misleiding
Maak waardevolle data vindbaar, toegankelijk, interoperabel en herbruikbaar (FAIR) binnen en buiten de eigen organisatie
Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’
Maak een noodplan voor het stoppen van het algoritme
Maak logbestanden waarin staat wie wanneer toegang had tot de data en de code
Kies energiezuinige programmeermethoden
Optimaliseer AI-trainingsprocessen voor energie-efficiëntie
Zorg voor reproduceerbaarheid van de uitkomsten
Bepaal welke feedbackloops van invloed zijn op het algoritme
Ontwerp en train het algoritme om bestand te zijn tegen (cyber)aanvallen
Zorg dat (gevoelige) informatie niet kan lekken op basis van de output van het algoritme
Documenteer en beargumenteer de keuze voor gebruikte modellen en parameters
Gebruik een passende licentie bij publicatie of gebruik van (open) data
Controleer regelmatig of het algoritme werkt zoals het bedoeld is
Evalueer de nauwkeurigheid van het algoritme
Toets het algoritme op bias en voer een rechtvaardigingstoets uit
Zorg voor een representatieve testomgeving
Evalueer de betrouwbaarheid van het algoritme
Doe aselecte steekproeven om algoritmes met 'risicogestuurde selectie’ te controleren
Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
Maak back-ups van algoritmes
Beveilig de software
Monitor regelmatig op veranderingen in de data. Bij veranderingen evalueer je de prestaties en output van het algoritme.
Meten, monitoren en rapporteren van milieu-impact van algoritmes
Controleer regelmatig of een algoritme voldoende weerbaar is tegen bekende aanvallen
Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.