Ontwikkelaar

De Ontwikkelaar omvat alle technische expertise. Dit zijn professionals die zich bezighouden met het analyseren, ontwikkelen, en implementeren van algoritmes en modellen. Dit zijn de specialisten die zorgen voor de technische kant van de algoritmeontwikkeling, inclusief programmeren, opschonen van data, data-analyse en het ontwerpen van informatieprocessen.

Relevantie

Mensen met technische expertise spelen een cruciale rol bij het verantwoord ontwerpen en ontwikkelen van algoritmes. Zij zorgen ervoor dat algoritmes voldoen aan technische en ethische standaarden, en passen methodes toe om de duurzaamheid, eerlijkheid en transparantie van modellen te waarborgen. Technische experts zijn vaak ook verantwoordelijk voor het testen en optimaliseren van de algoritmes, en voor het implementeren van maatregelen om privacy en gegevensbescherming te waarborgen. In het Algoritmekader zijn er tal van vereisten, maatregelen en hulpmiddelen die specifiek relevant zijn voor technische experts.

Bijbehorende functies

• Data-analist
• Data-scientist
• Data-engineer
• Developer
• Informatieanalist
• Softwareontwikkelaar

Vereisten

id	Vereisten
aia-05	Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteria
aia-06	Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie.
aia-07	Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens.
aia-08	Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen.
aia-10	Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig.
aia-19	Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisen.
aia-20	Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing.
aia-28	AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem.
aia-30	Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelen.
aia-32	AI-modellen voor algemene doeleinden met systeemrisico’s zijn voldoende beveiligd tegen cyberaanvallen.
aia-33	AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden.
aia-39	Hoog-risico-AI-systemen zijn getest.
arc-01	Informatie over algoritmes wordt in goede, geordende en toegankelijke staat gebracht, bewaard en vernietigd wanneer nodig.
avg-02	Persoonsgegevens worden zo kort mogelijk bewaard.
avg-03	Persoonsgegevens worden zo min mogelijk verwerkt.
avg-04	Persoonsgegevens en andere data verwerken gebeurt proportioneel en subsidiair.
avg-05	Persoonsgegevens zijn juist en actueel.
avg-07	Organisaties zijn transparant over het verwerken van persoonsgegevens
avg-09	Betrokkenen kunnen een beroep doen op hun privacyrechten.
avg-11	Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenen.
avg-12	Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallen.
awb-02	Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit
bio-01	Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen

Maatregelen

id	Maatregelen
org-13	Maak afspraken over het beheer van wachtwoorden
org-14	Maak afspraken over het wijzigen van de code
owp-04	Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing
owp-08	Bepaal welke documenten voor hoe lang gearchiveerd moeten worden
owp-02	Beschrijf welke data gebruikt wordt voor de beoogde toepassing
owp-12	Ontwerp algoritmes zo eenvoudig mogelijk
owp-18	Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding.
owp-20	Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke.
owp-22	Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
owp-23	Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken.
owp-25	Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-26	Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
owp-07	Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze.
dat-01	Controleer de datakwaliteit
dat-02	Maak waardevolle data vindbaar, toegankelijk, interoperabel en herbruikbaar (FAIR) binnen en buiten de eigen organisatie.
dat-05	Bescherm persoonsgegevens door data te anonimiseren, pseudonimiseren of te aggregeren
dat-07	Gebruik duurzame datacenters
dat-07	Gebruik bij machine learning technieken gescheiden train-, test- en validatiedata en houdt rekening met underfitting en overfitting.
dat-09	Beperk de omvang van datasets voor energie-efficiëntie
owk-01	Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’
owk-02	Maak een noodplan voor het stoppen van het algoritme
owk-04	Maak logbestanden waarin staat wie wanneer toegang had tot de data en de code
owk-05	Kies energiezuinige programmeermethoden
owk-06	Optimaliseer AI-trainingsprocessen voor energie-efficiëntie
ver-01	Controleer regelmatig of het algoritme werkt zoals het bedoeld is
ver-01	Toets het algoritme op bias
imp-01	Stel een werkinstructie op voor gebruikers.
imp-02	Doe aselecte steekproeven om algoritmes met 'risicogestuurde selectie’ te controleren
imp-09	Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces.
mon-01	Maak back-ups van algoritmes
mon-02	Beveilig de software
mon-04	Monitor regelmatig op veranderingen in de data. Bij veranderingen evalueer je de prestaties en output van het algoritme.
mon-05	Meten, monitoren en rapporteren van milieu-impact van algoritmes