Ga naar inhoud

Assessment List for Trustworthy Artificial Intelligence (ALTAI)

OntwerpOntwikkelenJuristOntwikkelaarProjectleiderBeleid en adviesPrivacy en gegevensbeschermingDuurzaamheidFundamentele rechtenTechnische robuustheid en veiligheidTransparantieMenselijke controleData

Direct naar de ALTAI

Hulpmiddel

In 2019 publiceerde de High-Level Expert Group on Artificial Intelligence (AI HLEG), opgericht door de Europese Commissie, de Ethics Guidelines for Trustworthy Artificial Intelligence. De ALTAI is een hulpmiddel dat ontwikkelaars en organisaties helpt hun AI-systemen te beoordelen, gebaseerd op deze Ethics Guidelines for Trustworthy Artificial Intelligence. Het helpt te bepalen of het AI-systeem dat wordt ontwikkeld, ingezet, aangeschaft of gebruikt, voldoet aan zeven vereisten van betrouwbare AI:

  • Menselijke tussenkomst en toezicht;
  • Technische robuustheid en veiligheid;
  • Privacy en gegevensbeheer;
  • Transparantie;
  • Diversiteit, non-discriminatie en eerlijkheid;
  • Maatschappelijk en ecologisch welzijn;
  • Verantwoordelijkheid

De ALTAI is bedoeld voor zelfevaluatie. Het hulpmiddel is verankerd in de bescherming van de fundamentele rechten van mensen, de term die in de Europese Unie wordt gebruikt om te verwijzen naar de mensenrechten die zijn vastgelegd in de EU-verdragen, het Handvest van de Grondrechten, en het internationale mensenrechtenrecht.

De ALTAI is bedoeld voor flexibele inzet: organisaties kunnen gebruikmaken van de relevante onderdelen van dit hulpmiddel voor een specifiek AI-systeem of er elementen aan toevoegen die zij passend achten, rekening houdend met de sector waarin zij opereren. Het helpt organisaties te begrijpen wat betrouwbare AI inhoudt, in het bijzonder welke risico's een AI-systeem zou kunnen meebrengen en hoe deze risico's kunnen worden geminimaliseerd terwijl de kansen van AI worden gemaximaliseerd. Organisaties halen het meeste waarde uit de ALTAI door de gestelde vragen uitgebreid te beantwoorden, die zijn bedoeld om zorgvuldige reflectie te stimuleren en passende vervolgacties aan te formuleren, en een organisatiecultuur te bevorderen die zich inzet voor de ontwikkeling van betrouwbare AI-systemen. Het vergroot het bewustzijn van de mogelijke impact van AI op de samenleving, het milieu, consumenten, werknemers en burgers (in het bijzonder kinderen en mensen die tot gemarginaliseerde groepen behoren).

Relevantie

De ALTAI biedt houvast bij het evalueren van in hoeverre een betreffend AI-systeem voldoet aan de zeven vereisten van betrouwbare AI, zoals geformuleerd door de EU. Deze zeven vereisten en de ALTAI hebben samen de basis gevormd voor de AI-verordening.

Auteur

De ALTAI is ontwikkeld door de High-Level Expert Group on Artificial Intelligence van de Europese Commissie.

Bijbehorende vereisten

IDVereiste
aia-14Hoog-risico-AI-systemen worden pas geleverd of gebruikt na een conformiteitsbeoordelingsprocedure
awb-01Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig

Bijbehorende maatregelen

IDMaatregel
pba-03Beschrijf waarom een algoritme het probleem moet oplossen
owp-07Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging
imp-03Richt de juiste menselijke controle in van het algoritme
imp-10Spreek af hoe de organisatie omgaat met privacy-verzoeken
mon-02Beveilig de software
pba-05Beschrijf de wettelijke grondslag voor de inzet van het algoritme
owp-03Beschrijf voor welk doel het algoritme persoonsgegevens gebruikt en waarom dit mag
dat-03Geef data zoals persoonsgegevens een bewaartermijn met een vernietigingsprocedure
owp-08Maak een lijst van de meest kwetsbare groepen en bescherm hen extra
imp-04Publiceer impactvolle algoritmes en hoog-risico AI-systemen in het Algoritmeregister
ver-03Toets het algoritme op bias en voer een rechtvaardigingstoets uit
ver-01Controleer regelmatig of het algoritme werkt zoals het bedoeld is
owk-03Analyseer de privacy-risico’s en neem maatregelen om deze risico’s laag te houden
owk-01Ontwerp en ontwikkel het algoritme volgens de principes van ‘security by design’