Maak vereisten voor algoritmes onderdeel van de Service Level Agreement

owp-26OntwerpProjectleiderBeleid en adviesOntwikkelaarPublieke inkoop

Maatregel

Maak de vereiste onderdeel van Service Level Agreement

Toelichting

• Onderzoek met het inkoopteam het relevant is om vereiste voor een verantwoorde inzet van algoritmes onderdeel te maken van de Service Level Agreement.
• Met een SLA kunnen specifieke afspraken worden gemaakt over de kwaliteit van de dienstverlening van aanbieder.
• Hierbij kan worden gedacht aan onderwerpen als incidentmanagement, servicemanagement, verantwoordelijkheden matrix, hersteltijd, prestatiecriteria, reproduceerbaarheid, versiebeheer van de gebruikte algoritmes en informatiebeveiliging.
• Laat de aanbieder aangeven welke vormen van onderhoud aan de betreffende algoritmes nodig zijn en de snelheid waarmee signalen vanuit gebruik, ongeacht de bron, kunnen worden verwerkt in het systeem en welke expertise hiervoor beschikbaar is.

Bijbehorende vereiste(n)

Vereiste
bio-01 - Computersystemen zijn voldoende beveiligd tegen ongelukken en cyberaanvallen
avg-12 - Data zoals persoonsgegevens zijn voldoende beveiligd tegen ongelukken en cyberaanvallen
aia-37-melding-ernstige-incidenten
aia-07 - Hoog-risico AI-systemen loggen automatisch bepaalde gegevens
aia-01 - Personeel en gebruikers zijn voldoende AI-geletterd
aia-18 - Als een hoog-risico AI-systeem niet voldoet aan de AI-verordening, grijpt de aanbieder in
aia-11 - Hoog-risico-AI-systemen zijn voorzien van een kwaliteitsbeheersysteem
aia-05 - Datasets voor hoog-risico-AI-systemen voldoen aan kwaliteitscriteria
aia-36-monitoring-na-het-in-de-handel-brengen
aia-03 - Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteem
aia-09 - Hoog-risico-AI-systemen staan onder menselijk toezicht
avg-07 - Organisaties zijn transparant over het verwerken van persoonsgegevens
aia-03 - Hoog-risico-AI-systemen zijn voorzien van een risicobeheersysteem
aia-19 - Hoog-risico-AI-systemen voldoen aan de toegankelijkheidseisen
aia-20-verstrekken-van-informatie-op-verzoek
woo-01 - Iedereen kan openbare informatie over algoritmes vinden of aanvragen

Risico

Zonder concrete afspraken te maken in de SLA, ontstaat het risico dat aloritmes (tijdelijk) of te langdurig niet kunnen worden gebruikt, onjuist fuctioneren of dat er geen verantwoording over de output kan worden afgelegd.

Bronnen

• Onderzoekskader Algoritmes Auditdienst Rijk, SV.11
• Toetsingskader Algoritmes Algemene Rekenkamer, 1.05

Voorbeeld

Heb je een voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl