Inkoop van verantwoorde algoritmes
Algoritmes die de overheid inkoopt bij leveranciers, moeten voldoen aan strenge eisen. Het inkoopproces speelt een belangrijke rol bij het in goede banen leiden van alle belangen. Begin met een uitgebreide behoeftestelling. En werk goed samen met de leverancier.
Wat is inkoop van verantwoorde algoritmes?
Overheidsorganisaties kunnen een behoefte hebben om hun taken beter uit te gaan voeren en om daar algoritmes voor in te zetten. Het ontwikkelen van algoritmes wordt soms door de overheid zelf gedaan waar dat nodig is. In veel gevallen wordt ervoor gekozen om algoritmes te gaan gebruiken die worden ontwikkelt door leveranciers die hierin gespecialiseerd zijn.
Het inkoopproces moet eraan bijdragen dat uiteindelijk een contract wordt gesloten met een leverancier die het best in staat is om invulling te geven aan deze ‘overheidsopdracht’. Het is van belang dat in het inkoopproces duidelijk wordt gemaakt aan welke voorwaarden moet worden voldaan door leveranciers. Net als voor privacy en informatiebeveiliging, zullen de vereisten specifiek voor algoritmes ook een plek moeten krijgen in het inkoopproces.
Belang van het inkoopproces
Het inkoopproces neemt een bijzondere positie in om tot een verantwoorde inzet van algoritmes te komen door overheidsorganisaties. Met een gedegen inkoopproces kunnen mogelijke negatieve effecten van algoritmes voor een belangrijk deel al op voorhand worden voorkomen. Dit wordt gedaan door een leverancier te selecteren die voldoet aan de wensen en bijzondere vereisten die aan deze algoritmes moeten worden gesteld en door hier nadere afspraken mee te maken.
Het is daarom van belang dat de wensen en vereisten goed in beeld worden gebracht. En dat bijvoorbeeld een inkoopadviseur deze wensen en vereisten een plek geeft in een aanbesteding, zodat je bij de meest geschikte leverancier uitkomt. Dit geldt ook voor onderhandse gunningen.
Het publiek inkopen van algoritmes biedt naast het voldoen aan vereisten, een waardevolle kans om nadere invulling te geven aan publieke waarden die worden nagestreefd door overheidsorganisaties.
Maak een uitgebreide behoeftestelling
Afhankelijk van de behoeftestelling, moet worden beoordeeld aan welke vereiste de benodigde algoritmes van leveranciers moet voldoen en hoe deze betekenisvol kunnen worden geadresseerd. Omdat algoritmes bijzondere kenmerken en effecten kunnen hebben, zoals een niet-transparante of onbedoelde discriminerende werking, moet hier aandacht voor zijn. Het is raadzaam om deze beoordeling met een multidisciplinair team te doen.
Beantwoord in elk geval de volgende vragen:
- Wat is het op te lossen probleem, de bijbehorende doelstelling en waarom de inzet van een algoritme een geschikte oplossing?
- Welke beleid rondom AI voert een overheidsorganisatie? Worden er bijvoorbeeld standaard inkoopvoorwaarden gehanteerd?
- Om wat voor type algoritme gaat het?
- Hoe risicovol is de inzet van het beoogde type algoritme?
- Welke verantwoordelijkheden zijn er wie is hiervoor verantwoordelijk? Een leverancier of een de opdrachtgever zelf?
- Welke publiek waarden worden geraakt met het inzet van het algoritme?
- Welke expertise moet de opdrachtgever zelf organiseren om algoritmes verantwoord te kunnen gebruiken? De levenscyclus kan hier waardevolle inzichten voor geven.
- Zijn er specifieke standaarden voor algoritmes die moeten worden gehanteerd? Denk hierbij aan de ISO27001.
Een inkoper heeft een belangrijke rol om antwoorden op deze vragen te verzamelen en om dit te vertalen naar sleutelmomenten binnen het inkoopproces.
Verken de markt en specificeer de inkoopbehoefte
Nadat de behoefstelling is beeld is gebracht, is het van belang om te verkennen welke oplossingen in de markt beschikbaar zijn. Dat kan worden gedaan met bijvoorbeeld een marktconsultatie en door met leveranciers in gesprek te gaan. Dit kan waardevolle inzichten opleveren om het inkoopproces verder mee vorm te gaan geven.
Het multidisciplinaire inkoopteam zal vervolgens de behoeftestelling moeten gaan specificeren. Daar kan op verschillende manieren. Hier kan worden gedacht aan:
- Als voldoende specifiek is waar een algoritme aan moet voldoen, bv. welke output het moet kunnen genereren, kan dit worden ondergebracht in een Programma van Eisen;
- Bepaalde vereisten gebruiken als gunningscriteria;
- Ruimte creëren voor samenwerking met een leverancier na het sluiten van een contract.
- Bewijsstukken uitvragen waaruit blijkt dat wordt voldaan aan bepaalde vereisten, zoals het niet schenden van auteursrechten.
- Zaken die specifiek gelden voor algoritmes opnemen in een SLA.
Beoordeel de inschrijvingen en stel het contract op
Als leveranciers, bijvoorbeeld bij een aanbesteding, hun inschrijving hebben ingediend, moet worden beoordeeld welke leverancier het best aansluit bij de opdracht.
Stel een beoordelingsteam samen waarin voldoende kennis over algoritmes aanwezig is.
Er wordt vervolgens een leverancier geselecteerd waarmee een contract wordt opgesteld. Het is van belang dat goed wordt nagedacht hoe het contractbeheer wordt vormgegeven en welke verantwoordelijkheden er blijven bestaan voor de opdrachtnemen.
Vereisten
Afhankelijk van de behoeftestelling en het benodigde algoritme, moet worden bepaald welke vereisten hierop van toepassing zijn. Voor zover het gaat om de AI-systemen waarop de AI-Verordening van toepassing is, kan de beslishulp AI-verordening worden geraadpleegd.
Aanbevolen maatregelen
Aanbevolen hulpmiddelen
| Hulpmiddelen |
|---|
| Inkoopvoorwaarden |
| Standaarden |
Bronnen
- Inkoopproces PIANOo, expertisecentrum aanbesteden van het ministerie van Economische Zaken
- Community of Practice Digitale Innovaties, PIANOo
Help ons deze pagina te verbeteren
Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.