Beoordeling van grondrechten

aia-29OntwerpDataverkenning en datapreparatieOntwikkelenVerificatie en validatieMonitoring en beheerFundamentele rechten

Vereiste

Voordat een AI-systeem met een hoog risico als bedoeld in artikel 6, lid 2 AI-verordening, in gebruik wordt genomen, met uitzondering van AI-systemen met een hoog risico die bedoeld zijn om te worden gebruikt op het in punt 2 van bijlage III vermelde gebied, voeren operatoren die publiekrechtelijke instellingen zijn of particuliere entiteiten zijn die openbare diensten verlenen, en operatoren van AI-systemen met een hoog risico als bedoeld in bijlage III, punt 5, onder b) en c), een beoordeling uit van de gevolgen voor de grondrechten die het gebruik van een dergelijk systeem kan opleveren.

Toelichting

Voordat een AI-systeem met een hoog risico in gebruik wordt genomen, moeten publieke instellingen of particuliere entiteiten die openbare diensten leveren, en operators van bepaalde AI-systemen, een beoordeling uitvoeren van de impact op de grondrechten die het gebruik ervan kan hebben. Deze evaluatie is bedoeld om potentiële risico's te identificeren die kunnen voortvloeien uit het gebruik van dergelijke systemen en om passende maatregelen te nemen om deze risico's te beheersen. Het doel is om de bescherming van grondrechten te waarborgen bij het gebruik van AI-systemen met een hoog risico, met name in sectoren waar deze systemen cruciale diensten leveren aan het publiek.

Bronnen

• Artikel 27(1) Verordening Artificiële Intelligentie
• Artikel 6.2 Verordening Artificiële Intelligentie
• Bijlage III.2 en III.5 Verordening Artificiële Intelligentie

Wanneer van toepassing?

Risico

Het niet uitvoeren van deze beoordeling kan leiden tot schendingen van de grondrechten, juridische complicaties en verlies van vertrouwen van het publiek in het gebruik van AI-systemen door overheids- en openbare dienstverlenende entiteiten.

Maatregelen

Zoeken

Rollenaanbestedingsjuristaanbiederbehoeftestellerbeleidsmedewerkercontractbeheerderdata-engineerdata-scientistdomeinspecialistethicusinformatiebeheerderinkoopadviseurjuristopdrachtgeveropdrachtnemerprivacy-officerproceseigenaarprojectleidersecurity-officer

Levenscyclusdataverkenning-en-datapreparatieimplementatiemonitoring-en-beheerontwerpontwikkelenorganisatieverantwoordelijkhedenprobleemanalyseuitfaserenverificatie-en-validatie

Onderwerpenbias-en-non-discriminatiefundamentele-rechtengovernancepublieke-inkooptechnische-robuustheid-en-veiligheid

id	Maatregelen	Rollen	Levenscyclus	Onderwerpen
	Afwegen grondrechten		probleemanalyse ontwerp verificatie-en-validatie monitoring-en-beheer	fundamentele-rechten
	Gebruik aselecte steekproeven als er gebruik gemaakt wordt van risicogestuurde selectie		implementatie monitoring-en-beheer	bias-en-non-discriminatie technische-robuustheid-en-veiligheid
	Bespreek de vereiste met aanbieder of opdrachtnemer	proceseigenaar behoeftesteller inkoopadviseur contractbeheerder aanbestedingsjurist aanbieder opdrachtnemer	ontwerp ontwikkelen	publieke-inkoop
	Creëer ruimte in het contract om opdrachtgever en aanbieder/opdrachtnemer te laten samenwerken om deze vereiste te realiseren.	proceseigenaar behoeftesteller inkoopadviseur aanbestedingsjurist	ontwerp ontwikkelen	publieke-inkoop
	Maak het leveren van bewijs voor het voldoen aan de vereiste onderdeel van de beoordeling van een inschrijving	proceseigenaar behoeftesteller data-scientist ethicus privacy-officer security-officer inkoopadviseur contractbeheerder aanbestedingsjurist	ontwerp ontwikkelen	publieke-inkoop
	Maak de vereiste onderdeel van het programma van eisen	proceseigenaar behoeftesteller data-scientist inkoopadviseur contractbeheerder aanbestedingsjurist	ontwerp ontwikkelen	publieke-inkoop
	Maak de vereiste onderdeel van de contractovereenkomst	behoeftesteller data-scientist privacy-officer security-officer inkoopadviseur contractbeheerder aanbestedingsjurist	ontwerp ontwikkelen	publieke-inkoop
	Maak vereisten voor algoritmes en AI-systemen onderdeel van contractvoorwaarden	proceseigenaar behoeftesteller inkoopadviseur contractbeheerder aanbestedingsjurist	ontwerp ontwikkelen	publieke-inkoop
	Neem de vereiste op als een subgunningscriteria bij gunningscriteria beste prijs-kwaliteitverhouding.	proceseigenaar behoeftesteller data-scientist ethicus privacy-officer security-officer inkoopadviseur contractbeheerder aanbestedingsjurist	ontwerp ontwikkelen	publieke-inkoop
	Richt een proces in voor een periodieke evaluatie van de kwaliteit van het algoritme of AI-systeem.	proceseigenaar beleidsmedewerker data-engineer data-scientist informatiebeheerder privacy-officer security-officer ethicus inkoopadviseur contractbeheerder	organisatieverantwoordelijkheden	governance
	Tref (technische) maatregelen waarmee het gebruik van het algoritme of AI-systeem kan worden stopgezet.	proceseigenaar beleidsmedewerker data-engineer data-scientist informatiebeheerder privacy-officer security-officer ethicus inkoopadviseur contractbeheerder	ontwerp dataverkenning-en-datapreparatie ontwikkelen verificatie-en-validatie implementatie monitoring-en-beheer uitfaseren	governance
	Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst	proceseigenaar behoeftesteller data-scientist privacy-officer security-officer inkoopadviseur contractbeheerder aanbestedingsjurist	ontwerp ontwikkelen	publieke-inkoop
	Voer een biasanalyse uit	ethicus data-scientist opdrachtgever projectleider jurist domeinspecialist	ontwerp verificatie-en-validatie monitoring-en-beheer	bias-en-non-discriminatie

Instrumenten

Zoeken

Rollenaanbiederdata-engineerdata-scientistethicusgemandateerd-verantwoordelijkejuristprivacy-officerproceseigenaarprojectleidersecurity-officer

Levenscyclusimplementatieontwerpprobleemanalyseverificatie-en-validatie

Onderwerpenfundamentele-rechtentransparantie

id	Instrumenten	Rollen	Levenscyclus	Onderwerpen
	Impact Assessment Mensenrechten en Algoritmes	projectleider aanbieder data-engineer data-scientist ethicus gemandateerd-verantwoordelijke jurist privacy-officer proceseigenaar security-officer	probleemanalyse ontwerp verificatie-en-validatie implementatie	fundamentele-rechten transparantie