Ga naar inhoud

Projectleider

Projectleiders spelen de hoofdrol in het realiseren van een verantwoorde en effectieve inzet van algoritmes binnen de organisatie. Zij verbinden de benodigde expertises en waarborgen alle stappen van het ontwikkelproces. Zo zorgen zij ervoor dat de organisatie het ontwikkelproces verantwoord en volgens de gestelde kaders uitvoert.

Projectmanagers maken afspraken over de vereisten waar de organisatie aan moet voldoen. En zij prioriteren maatregelen die hiervoor nodig zijn. Zij houden contact met opdrachtgevers en verantwoordelijken over de projectdoelen en risico’s.

Belangrijke taken van een projectleider

  • coördineert processen en stuurt alle betrokken partijen aan bij de ontwikkeling van algoritmes
  • leidt projecten door de verschillende fasen van de levenscyclus van algoritmes, van probleemanalyse tot monitoring en beheer, of uitfaseren.

Projectleiders zijn bijvoorbeeld

  • Projectleider
  • Product-owner
  • Proceseigenaar
  • IT-projectmanager

Vereisten

VereistenWetgeving
Verboden AI mag niet worden gebruiktAI-verordening
Personeel en gebruikers zijn voldoende AI-geletterdAI-verordening
Beoordeling als niet 'hoog-risico-AI-systeem' is gedocumenteerdAI-verordening
Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteemAI-verordening
Hoog-risico-AI-systemen vormen geen risico voor kwetsbare groepen zoals kinderenAI-verordening
Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteriaAI-verordening
Hoog-risico-AI-systemen zijn voorzien van voldoende technische documentatieAI-verordening
Hoog-risico-AI-systemen loggen automatisch bepaalde gegevensAI-verordening
Hoog-risico-AI-systemen zijn op een transparante manier ontwikkeld en ontworpenAI-verordening
Hoog-risico-AI-systemen staan onder menselijk toezichtAI-verordening
Hoog-risico-AI-systemen zijn voldoende nauwkeurig, robuust en cyberveiligAI-verordening
Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteemAI-verordening
Documentatie over hoog-risico-AI-systemen wordt 10 jaar bewaard door de aanbiederAI-verordening
Logs van hoog-risico-AI-systemen worden zes maanden bewaard door de aanbiederAI-verordening
Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedureAI-verordening
Hoog-risico-AI-systemen zijn voorzien van een EU-conformiteitsverklaringAI-verordening
Hoog-risico-AI-systemen zijn voorzien van een CE-markeringAI-verordening
Hoog-risico-AI-systemen zijn geregistreerd in de EU-databankAI-verordening
Als een hoog-risico-AI-systeem niet voldoet aan de AI-verordening, grijpt de aanbieder inAI-verordening
Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisenAI-verordening
Hoog-risico-AI-systemen worden gebruikt volgens de gebruiksaanwijzingAI-verordening
Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkhedenAI-verordening
De werking van hoog-risico-AI-systemen wordt gemonitordAI-verordening
Logs voor hoog-risico-AI-systemen worden bewaard door de gebruiksverantwoordelijkeAI-verordening
Werknemers weten dat hun organisatie een hoog-risico AI-systeem gebruiktAI-verordening
Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databankAI-verordening
Mensen over wie besluiten worden genomen door een hoog-risico-AI-systemen, krijgen op verzoek informatie over deze besluitenAI-verordening
Hoog-risico-AI-systemen voor publieke taken worden beoordeeld op gevolgen voor grondrechtenAI-verordening
AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeemAI-verordening
AI-modellen voor algemene doeleinden zijn voorzien van voldoende technische documentatie en informatieAI-verordening
Aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico treffen extra maatregelenAI-verordening
Als AI-modellen voor algemene doeleinden met systeemrisico’s ernstige incidenten veroorzaken, wordt dit gedocumenteerd en gerapporteerdAI-verordening
AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaardenAI-verordening
Hoog-risico-AI-systemen zijn voorzien van een monitoringsysteemAI-verordening
Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouderAI-verordening
Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordeningAI-verordening
Aanbieders van AI-systemen kunnen een klacht indienen over de aanbieder van hun AI-modelAI-verordening
Hoog-risico-AI-systemen zijn getestAI-verordening
Er is beleid opgesteld ter naleving van auteursrechten en naburige rechten door aanbieders van AI-modellen voor algemene doeleindenAI-verordening
Informatie over algoritmes wordt in goede, geordende en toegankelijke staat gebracht, bewaard en vernietigd wanneer nodigArchiefwet
Persoonsgegevens worden op een rechtmatige manier verwerktAVG
Persoonsgegevens zijn juist en actueelAVG
Organisaties zijn transparant over het verwerken van persoonsgegevensAVG
Gevoelige persoonsgegevens worden alleen gebruikt als hiervoor een wettelijke uitzondering geldtAVG
Besluiten met rechtsgevolgen of aanmerkelijke effecten zijn niet volledig geautomatiseerdAVG
Ontwerp en standaardinstellingen (defaults) zijn zo gunstig mogelijk voor de privacy van betrokkenenAVG
Een gegevensbeschermingseffectbeoordeling (DPIA) is verplicht, indien een verwerking van persoonsgegevens waarschijnlijk een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personenAVG
Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldigAWB
Organisaties kunnen duidelijk uitleggen waarom en hoe algoritmes leiden tot een besluitAWB
Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse AlgoritmeregisterBZK
Algoritmes schenden geen grondrechten of mensenrechtenGrondwet
Algoritmes discrimineren nietGrondwet
Iedereen kan openbare informatie over algoritmes vinden of aanvragenWOO

Maatregelen

Maatregelen
Bepaal of er genoeg experts beschikbaar zijn
Maak een plan voor het omgaan met risico’s
Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid
Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
Richt een algoritmegovernance in met three lines of defence
Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
Maak afspraken over het beheer van gebruikers
Controleer en verbeter regelmatig de kwaliteit van het algoritme
Maak afspraken over het beheer van wachtwoorden
Maak afspraken over het wijzigen van de code
Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe
Beschrijf het probleem dat het algoritme moet oplossen
Beschrijf het doel van het algoritme
Beschrijf waarom een algoritme het probleem moet oplossen
Overleg regelmatig met belanghebbenden
Stel een multidisciplinair team samen bij het ontwikkelen of inkopen van algoritmes
Beschrijf de rollen en verantwoordelijkheden voor het ontwikkelen en gebruiken van algoritmes
Voer voorafgaand aan een project een data beschikbaarheid, kwaliteit- en toegankelijkheidsanalayse uit
Beschrijf voor welk doel het algoritme persoonsgegevens gebruikt en waarom dit mag
Stel vast in welke risicogroep het algoritme valt en bepaal vervolgens welke vereisten van toepassing zijn.
Leg vast wat de impact van het algoritme is als het niet werkt zoals beoogd
Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
Bepaal welke documenten voor hoe lang gearchiveerd moeten worden
Maak een Project Startarchitectuur (PSA) voor de ontwikkeling of inkoop van algoritmes
Koop duurzaam algoritmes in
Maak het opstellen van een verwerkersovereenkomst onderdeel van de aanbesteding als persoonsgegevens worden verwerkt
Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders
Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst
Maak het leveren van bewijs voor het voldoen aan de vereisten voor algoritmes onderdeel van de beoordeling van een inschrijving
Laat aanbieder(s) bewijs leveren dat de door hen ontwikkelde algoritmes geen inbreuk maken op de auteursrechten van derden met de trainingsdata en de output
Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren
Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke
Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst
Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen
Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken
Voer een risico-analyse met de aanbieder uit op het gebied van informatiebeveiliging bij een uitbestedingstraject
Maak vereisten onderdeel van het programma van eisen bij een aanbesteding
Maak vereisten voor algoritmes onderdeel van de Service Level Agreement
Stel vast welke betrokkenen geïnformeerd moeten worden en welke informatie zij nodig hebben
Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze
Maak gebruik van een algoritme dat bronvermelding kan genereren bij de output
Bepaal of een algoritme moet worden ontwikkeld of ingekocht
Geef data zoals persoonsgegevens een bewaartermijn met een vernietigingsprocedure
Gebruik duurzame datacenters
Zorg dat je controle of eigenaarschap hebt over de data
Beperk de omvang van datasets voor energie-efficiëntie
Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’
Maak een noodplan voor het stoppen van het algoritme
Analyseer de privacy-risico’s en neem maatregelen om deze risico’s laag te houden
Bepaal welke feedbackloops van invloed zijn op het algoritme
Controleer regelmatig of het algoritme werkt zoals het bedoeld is
Evalueer de nauwkeurigheid van het algoritme
Toets het algoritme op bias en voer een rechtvaardigingstoets uit
Zorg voor een representatieve testomgeving
Stel een werkinstructie op voor gebruikers
Richt de juiste menselijke controle in van het algoritme
Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister
Vermeld het gebruik van persoonsgegevens in een privacyverklaring
Richt een proces in zodat burgers of andere belanghebbenden een klacht, bezwaar of beroep kunnen indienen over het gebruik van het algoritme en monitor dit proces
Vermeld het gebruik van persoonsgegevens in het verwerkingsregister
Maak een openbaar besluit over de inzet van het algoritme
Neem technische interventies op in de gebruikersinterface om verkeerd gebruik te voorkomen
Spreek af hoe de organisatie omgaat met privacy-verzoeken
Beveilig de software
Maak een noodplan voor beveiligingsincidenten
Maak een evaluatieplan voor tijdens het gebruik van het algoritme
Meten, monitoren en rapporteren van milieu-impact van algoritmes
Stel een plan op voor continue monitoring

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.