Maak vereisten voor algoritmes onderdeel van de Service Level Agreement

owp-29OntwerpProjectleiderBeleid en adviesOntwikkelaarPublieke inkoop

Maatregel

Maak de vereiste onderdeel van Service Level Agreement

Toelichting

• Met een SLA kunnen specifieke afspraken worden gemaakt over de kwaliteit van de dienstverlening van aanbieder.
• Hierbij kan worden gedacht aan onderwerpen als incidentmanagement, servicemanagement, verantwoordelijkheden matrix, hersteltijd, prestatiecriteria, reproduceerbaarheid, versiebeheer van de gebruikte algoritmes en informatiebeveiliging.
• Onderzoek met het inkoopteam welke vereiste voor een verantwoorde inzet van algoritmes onderdeel moeten worden gemaakt van de Service Level Agreement.
• Laat de aanbieder aangeven welke vormen van onderhoud aan de betreffende algoritmes nodig zijn en de snelheid waarmee signalen vanuit gebruik, ongeacht de bron, kunnen worden verwerkt in het systeem en welke expertise hiervoor beschikbaar is.

Bijbehorende vereiste(n)

Bekijk alle vereisten

Vereiste
aia-03 - Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteem
aia-05 - Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteria
aia-07 - Hoog-risico-AI-systemen loggen automatisch bepaalde gegevens.
aia-09 - Hoog-risico-AI-systemen staan onder menselijk toezicht.
aia-11 - Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem.
aia-18 - Als een hoog-risico-AI-systeem niet voldoet aan de AI-verordening, grijpt de aanbieder in.
aia-19 - Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisen.
aia-28 - AI-systemen worden zo ontworpen en gebruikt, dat mensen begrijpen wanneer zij met een AI-systeem communiceren en welke content gemaakt is door een AI-systeem.
aia-34 - Hoog-risico-AI-systemen zijn voorzien van een monitoringsysteem.
aia-35 - Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder.
aia-34 - Hoog-risico-AI-systemen zijn voorzien van een monitoringsysteem.
bio-01 - Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen
avg-07 - Organisaties zijn transparant over het verwerken van persoonsgegevens
avg-12 - Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallen.
woo-01 - Iedereen kan openbare informatie over algoritmes vinden of aanvragen

Risico

Zonder concrete afspraken te maken in de SLA, ontstaat het risico dat aloritmes (tijdelijk) of te langdurig niet kunnen worden gebruikt, onjuist fuctioneren of dat er geen verantwoording over de output kan worden afgelegd.

Bronnen

• Onderzoekskader Algoritmes Auditdienst Rijk, SV.11
• Toetsingskader Algoritmes Algemene Rekenkamer, 1.05

Voorbeeld

Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl