Fase 0: Organisatieverantwoordelijkheden

In deze fase bereid je de organisatie voor op het verantwoord ontwikkelen en gebruiken van algoritmen en AI. Een deel van deze verantwoordelijkheden regel je liefst voordat je van start gaat.

Belangrijkste taken fase 0

Als organisatie die algoritmes ontwikkelt of gebruikt, heb je veel verantwoordelijkheden. Je moet voldoen aan allerlei vereisten. En hiervoor moet je passende maatregelen nemen. Een deel van deze verantwoordelijkheden regel je het beste vooraf. Dit zijn de vereisten en maatregelen die gelden voor alle algoritmes, op elk moment van de levenscyclus:

zaken die je liefst regelt voordat je begint met het gebruik van algoritmes
dagelijkse taken die je vooraf in 1 keer organiseert voor alle algoritmes

Vereisten die je vooraf regelt

Vereisten	Wetgeving
Verboden AI mag niet worden gebruikt	AI-verordening
Personeel en gebruikers zijn voldoende AI-geletterd	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteem	AI-verordening
Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem	AI-verordening
Als een hoog-risico-AI-systeem niet voldoet aan de AI-verordening, grijpt de aanbieder in	AI-verordening
Menselijk toezicht van hoog-risico-AI-systemen wordt uitgevoerd door mensen met voldoende kennis en mogelijkheden	AI-verordening
Gebruiksverantwoordelijken controleren de registratie van het hoog-risico AI-systeem in de EU-databank	AI-verordening
Mensen over wie besluiten worden genomen door een hoog-risico-AI-systemen, krijgen op verzoek informatie over deze besluiten	AI-verordening
AI-testomgevingen die persoonsgegevens verwerken, voldoen aan strenge voorwaarden	AI-verordening
Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder	AI-verordening
Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordening	AI-verordening
Aanbieders van AI-systemen kunnen een klacht indienen over de aanbieder van hun AI-model	AI-verordening
Betrokkenen kunnen een beroep doen op hun privacyrechten	AVG
Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallen	AVG
Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen	BIO
Iedereen kan openbare informatie over algoritmes vinden of aanvragen	WOO

Aanbevolen maatregelen die je vooraf regelt

Maatregelen
Inventariseer de algoritmes die binnen jouw organisatie worden gebruikt en houd dit overzicht actueel
Bepaal of er genoeg experts beschikbaar zijn
Stel beleid op voor een verantwoorde inzet van algoritmes binnen de organisatie
Maak een plan voor het omgaan met risico’s
Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkheid
Sluit algoritmegovernance aan op bestaande governancestructuren binnen de organisatie
Gebruik een algoritme volwassenheidsmodel om te weten waar de organisatie staat
Richt een algoritmegovernance in op basis van het Three Lines-model
Richt vaste beslismomenten en controlepunten in in de algoritmelevenscyclus
Richt algoritmegovernance in op basis van de risicoclassificatie van algoritmes
Taken en verantwoordelijkheden zijn toebedeeld in de algoritmegovernance
Maak afspraken over het beheer van gebruikers
Controleer en verbeter regelmatig de kwaliteit van het algoritme
Maak afspraken over het beheer van wachtwoorden
Maak afspraken over het wijzigen van de code
Stel een protocol vast voor de situatie dat er (een vermoeden van) discriminatie door een algoritme is geconstateerd en pas dit wanneer nodig toe
Zorg voor bewustwording en voldoende opleidingen over de risico's en kansen van algoritmes en AI
Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes
Maak een openbaar besluit over de inzet van het algoritme
Spreek af hoe de organisatie omgaat met privacy-verzoeken
Maak een noodplan voor beveiligingsincidenten

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.