Ga naar inhoud

Controle mechanisme voor betekenisvolle menselijke tussenkomst bij gebruiken output

OntwikkelenMonitoring en beheerProceseigenaarGebruikerAanbiederMenselijke controle

Maatregel

Zorg voor een controle mechanisme waarmee kan worden voorkomen dat gebruikers belangrijke output van algoritmen en AI-systemen, zonder betekenisvolle menselijke tussenkomst, bv. enkel met doorklikken, kunnen overnemen.

Toelichting

Dit punt is onderdeel van een procesinrichting bij de gebruiksverantwoordelijke en gebruiker van het algoritme of AI-systeem en zou technisch gefaciliteerd moeten kunnen worden. Dit ligt dan deels bij de aanbieder als het door de opdrachtgever wordt voorgeschreven dat doorklikken niet hetzelfde is als menselijke tussenkomst en in dat kader de technische mogelijkheid moet worden voorkomen.

Bijbehorende vereiste(n)

VereisteUitleg
Recht op niet geautomatiseerde besluitvormingMensen hebben het recht om niet onderworpen te worden aan beslissingen die uitsluitend gebaseerd zijn op geautomatiseerde verwerking, zoals profilering, als dit aanzienlijke gevolgen voor hen heeft of hen op een andere manier aanzienlijk beïnvloedt. Dit recht biedt bescherming tegen mogelijke negatieve effecten van volledig geautomatiseerde besluitvormingssystemen, en waarborgt dat individuen kunnen rekenen op menselijke tussenkomst en beoordeling bij belangrijke beslissingen die hen kunnen treffen. Uitgangspunt is dat voor elk individueel geval een zorgvuldige beoordeling van de kenmerken en omstandigheden plaatsvindt voordat een besluit wordt genomen.

Bronnen

Bron
Algoritmekader

Voorbeeld

Heb jij een goed voorbeeld? Laat het ons weten!