Projectleider

Projectleiders spelen de hoofdrol in het realiseren van een verantwoorde en effectieve inzet van algoritmes binnen de organisatie. Zij verbinden de benodigde expertises en waarborgen alle stappen van het ontwikkelproces. Zo zorgen zij ervoor dat de organisatie het ontwikkelproces verantwoord en volgens de gestelde kaders uitvoert.

Projectmanagers maken afspraken over de vereisten waar de organisatie aan moet voldoen. En zij prioriteren maatregelen die hiervoor nodig zijn. Zij houden contact met opdrachtgevers en verantwoordelijken over de projectdoelen en risico’s.

Belangrijke taken van een projectleider

• coördineert processen en stuurt alle betrokken partijen aan bij de ontwikkeling van algoritmes
• leidt projecten door de verschillende fasen van de levenscyclus van algoritmes, van probleemanalyse tot monitoring en beheer, of uitfaseren.

Projectleiders zijn bijvoorbeeld

• Projectleider
• Product-owner
• Proceseigenaar
• IT-projectmanager

Vereisten

id	Vereisten
aia-00	Verboden AI mag niet worden gebruikt
aia-01	Personeel en gebruikers zijn voldoende AI-geletterd
aia-02	Beoordeling als niet 'hoog-risico-AI-systeem' is gedocumenteerd
aia-03	Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteem
aia-04	Hoog-risico-AI-systemen vormen geen risico voor kwetsbare groepen zoals kinderen
aia-05	Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteria
aia-06	Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatie
aia-07	Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens
aia-08	Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpen
aia-09	Hoog-risico-AI-systemen staan onder menselijk toezicht
aia-10	Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveilig
aia-11	Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem
aia-12	Documentatie over hoog-risico-AI-systemen wordt 10 jaar bewaard door de aanbieder
aia-13	Logs van hoog-risico-AI-systemen worden zes maanden bewaard door de aanbieder
aia-14	Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedure
aia-15	Hoog-risico-AI-systemen zijn voorzien van een EU-conformiteitsverklaring
aia-16	Hoog-risico-AI-systemen zijn voorzien van een CE-markering
aia-17	Hoog-risico-AI-systemen zijn geregistreerd in de EU-databank
aia-18	Als een hoog-risico-AI-systeem niet voldoet aan de AI-verordening, grijpt de aanbieder in
aia-19	Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisen
aia-20	Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzing
aia-21	Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkheden
aia-22	De werking van hoog-risico-AI-systemen wordt gemonitord
aia-23	Logs voor hoog-risico-AI-systemen worden bewaard door de gebruiksverantwoordelijke
aia-24	Werknemers weten dat hun organisatie een hoog-risico AI-systeem gebruikt
aia-25	Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databank
aia-26	Mensen over wie besluiten worden genomen door een hoog-risico-AI-systemen, krijgen op verzoek informatie over deze besluiten
aia-27	Hoog-risico-AI-systemen voor publieke taken worden beoordeeld op gevolgen voor grondrechten
aia-28	AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem
aia-29	AI-modellen voor algemene doeleinden zijn voorzien van voldoende technische documentatie en informatie
aia-30	Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelen
aia-31	Als AI-modellen voor algemene doeleinden met systeemrisico’s ernstige incidenten veroorzaken, wordt dit gedocumenteerd en gerapporteerd
aia-33	AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden
aia-34	Hoog-risico-AI-systemen zijn voorzien van een monitoringsysteem
aia-35	Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder
aia-36	Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordening
aia-37	Klachtrecht voor aanbieders verder in AI-waardeketen
aia-38	Hoog-risico-AI-systemen zijn getest
aia-39	Er is beleid opgesteld ter naleving van auteursrechten en naburige rechten door aanbieders van AI-modellen voor algemene doeleinden
arc-01	Informatie over algoritmes wordt in goede, geordende en toegankelijke staat gebracht, bewaard en vernietigd wanneer nodig
avg-01	Persoonsgegevens worden op een rechtmatige manier verwerkt
avg-05	Persoonsgegevens zijn juist en actueel
avg-07	Organisaties zijn transparant over het verwerken van persoonsgegevens
avg-08	Gevoelige persoonsgegevens worden alleen gebruikt als hiervoor een wettelijke uitzondering geldt
avg-10	Besluiten die levens kunnen beïnvloeden, zijn niet volledig geautomatiseerd
avg-11	Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenen
avg-13	Een gegevensbeschermingseffectbeoordeling (DPIA) is verplicht, indien een verwerking van persoonsgegevens waarschijnlijk een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personen
awb-01	Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig
awb-02	Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluit
bzk-01	Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse Algoritmeregister
grw-01	Algoritmes schenden geen grondrechten of mensenrechten
grw-02	Algoritmes discrimineren niet
woo-01	Iedereen kan openbare informatie over algoritmes vinden of aanvragen

Maatregelen

id	Maatregelen
org-01	Bepaal of er genoeg experts beschikbaar zijn
org-03	Maak een plan voor het omgaan met risico’s
org-04	Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid
org-05	Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
org-06	Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
org-07	Richt een algoritmegovernance in met three lines of defence
org-08	Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
org-09	Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
org-10	Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
org-11	Maak afspraken over het beheer van gebruikers
org-12	Controleer en verbeter regelmatig de kwaliteit van het algoritme
org-13	Maak afspraken over het beheer van wachtwoorden
org-14	Maak afspraken over het wijzigen van de code
org-15	Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe
pba-01	Beschrijf het probleem dat het algoritme moet oplossen
pba-02	Beschrijf het doel van het algoritme
pba-03	Beschrijf waarom een algoritme het probleem moet oplossen
pba-04	Overleg regelmatig met belanghebbenden
pba-06	Stel een multidisciplinair team samen bij het ontwikkelen of inkopen van algoritmes
owp-01	Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
owp-02	Voer voorafgaand aan een project een data beschikbaarheid, kwaliteit- en toegankelijkheidsanalayse uit
owp-03	Beschrijf voor welk doel het algoritme persoonsgegevens gebruikt en waarom dit mag
owp-05	Stel vast in welke risicogroep het algoritme valt en bepaal vervolgens welke vereisten van toepassing zijn.
owp-06	Leg vast wat de impact van het algoritme is als het niet werkt zoals beoogd
owp-07	Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
owp-09	Bepaal welke documenten voor hoe lang gearchiveerd moeten worden
owp-10	Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
owp-12	Koop duurzaam algoritmes in
owp-14	Maak het opstellen van een verwerkersovereenkomst onderdeel van de aanbesteding als persoonsgegevens worden verwerkt
owp-15	Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders
owp-16	Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst
owp-17	Maak het leveren van bewijs voor het voldoen aan de vereisten voor algoritmes onderdeel van de beoordeling van een inschrijving
owp-18	Laat aanbieder(s) bewijs leveren dat de door hen ontwikkelde algoritmes geen inbreuk maken op de auteursrechten van derden met de trainingsdata en de output
owp-21	Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren
owp-22	Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke
owp-23	Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
owp-24	Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
owp-25	Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken
owp-26	Voer een risico-analyse met de aanbieder uit op het gebied van informatiebeveiliging bij een uitbestedingstraject
owp-27	Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
owp-28	Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
owp-30	Stel vast welke betrokkenen geïnformeerd moeten worden en welke informatie zij nodig hebben
owp-31	Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
owp-32	Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze
owp-35	Maak gebruik van een algoritme dat bronvermelding kan genereren bij de output
owp-36	Bepaal of een algoritme moet worden ontwikkeld of ingekocht
dat-03	Geef data zoals persoonsgegevens een bewaartermijn met een vernietigingsprocedure
dat-06	Gebruik duurzame datacenters
dat-08	Zorg dat je controle of eigenaarschap hebt over de data
dat-09	Beperk de omvang van datasets voor energie-efficiëntie
owk-01	Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’
owk-02	Maak een noodplan voor het stoppen van het algoritme
owk-03	Analyseer de privacy-risico’s en neem maatregelen om deze risico’s laag te houden
owk-08	Bepaal welke feedbackloops van invloed zijn op het algoritme
ver-01	Controleer regelmatig of het algoritme werkt zoals het bedoeld is
ver-02	Evalueer de nauwkeurigheid van het algoritme
ver-03	Toets het algoritme op bias en voer een rechtvaardigingstoets uit
ver-04	Zorg voor een representatieve testomgeving
imp-01	Stel een werkinstructie op voor gebruikers
imp-03	Richt de juiste menselijke controle in van het algoritme
imp-04	Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister
imp-05	Vermeld het gebruik van persoonsgegevens in een privacyverklaring
imp-06	Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
imp-07	Vermeld het gebruik van persoonsgegevens in het verwerkingsregister
imp-08	Maak een openbaar besluit over de inzet van het algoritme
imp-09	Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
imp-10	Spreek af hoe de organisatie omgaat met privacy-verzoeken
mon-02	Beveilig de software
mon-03	Maak een noodplan voor beveiligingsincidenten
mon-04	Maak een evaluatieplan voor tijdens het gebruik van het algoritme
mon-06	Meten, monitoren en rapporteren van milieu-impact van algoritmes
mon-07	Stel een plan op voor continue monitoring

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.