Inkoopvoorwaarden
ProbleemanalyseOntwerpJuristProjectleiderBeleid en adviesPublieke inkoop
Hulpmiddel
Voorbeelden of templates van inkoopvoorwaarden (ook wel modelcontractbepalingen genoemd) helpen om een contract op te stellen dat een organisatie in staat stelt veilige en verantwoorde algoritmen of AI-systemen in te kopen. Organisaties kunnen deze voorwaarden of bepalingen opnemen wanneer zij een contract afsluiten met een leverancier van een algoritme of algoritmisch systeem. Zij kunnen dan bijvoorbeeld beperkingen opnemen om onaanvaardbare risico's van AI te vermijden, of bepaalde voorwaarden waaraan een algoritme juist moet voldoen. Ook kunnen zij bepaalde voorwaarden op basis van de vereisten in het Algoritmekader opnemen.
Europese Commissie
De Europese Commissie biedt Europese modelcontractbepalingen voor laag- en hoog-risico-AI. Hiermee kunnen aanbestedende organisaties specifieke clausules opnemen in hun overeenkomst. Op deze manier maken zij afspraken die in lijn zijn met de Europese AI-verordening.
Gemeente Amsterdam
De Europese modelcontractbepalingen voor AI zijn gebaseerd op onder andere de modelbepalingen die de Gemeente Amsterdam eerder opstelde. Deze dienen als voorbeeld voor andere gemeenten die algoritmische toepassingen willen inkopen.
AI-module bij ARBIT-2022
De AI-module bij de ARBIT (Algemene Rijksinkoopvoorwaarden bij IT‑overeenkomsten) is gebaseerd op de Europese modelcontractbepalingen voor AI. Via een verwijzing in de gebruikte modelovereenkomst kan de AI-module onderdeel uitmaken van een onder de ARBIT te sluiten overeenkomst.
De ARBIT zijn bedoeld voor kleine en middelgrote IT-inkopen door de overheid.
Relevantie
Steeds meer organisaties kopen algoritmische toepassingen in die veel impact hebben op gebruikers of beslissingen. Het is daarom van belang dat aanbestedende overheidsorganisaties afspraken maken met leveranciers, zodat zij transparant zijn over de werking van de algoritmische toepassing en dit op een veilige en verantwoorde manier gebruiken. Verschillende organisaties stellen daarom (voorbeeld)contractvoorwaarden voor het inkopen van AI-systemen beschikbaar. Denk aan de Europese Commissie en de Gemeente Amsterdam.
Generatieve AI
Let bij het inkopen van generatieve AI specifiek op de volgende zaken.
- Verken mogelijkheden van lokale of Europese dienstverleners van generatieve AI. Deze voldoen vaak eerder aan onze (Europese) veiligheidsstandaarden dan niet-Europese dienstverleners. Dit voorkomt ook vendor lock-in, i.e. dat je vastzit aan een aanbieder omdat de kosten van wisselen te hoog zijn.
- Niet alle taalmodellen kunnen even goed omgaan met de Nederlandse taal. Europese initiatieven, zoals EuroLLM en OpenGPT-X Teuken-modellen, besteden extra aandacht aan Europese talen.
- Maak afspraken over de toegang tot en het gebruik, de opslag en logging van gegevens. Doe dit vanuit de datastrategie van je organisatie. Zorg ervoor dat de leverancier de dienst actief monitort op dit gebied en zorg voor controle over eigen data.
- Maak waar mogelijk gebruik van een open-sourceapplicatie of -model. Let wel op dat deze transparantie niet ten koste mag gaan van de veiligheid van deze modellen.
- Verken de mogelijkheden van offline en on-premise generatieve AI-modellen. Deze zijn in principe niet met het internet verbonden. Hierdoor blijft de inzet en data binnen de organisatie. Let wel op dat hiervoor aanzienlijke investeringen nodig zijn, onder meer vanwege de benodigde hardware.
- Zet datadeling voor externe optimalisatie van het model uit. Hiermee voorkom je onder andere dat persoonsgegevens worden gedeeld om het model te trainen.
- Houd rekening met de capaciteiten van verschillende Foundation Models. De Holistic Foundation of Language Models van het Stanford Center for Research on Foundation and Media (CRFM) biedt een goede vergelijking van modellen op verschillende criteria.
Bijbehorende vereisten
Geen vereisten beschikbaar voor deze maatregel.
Bijbehorende maatregelen
Bronnen
- Modelbepalingen voor gemeenten voor verantwoord gebruik van Algoritmische toepassingen
- Contractvoorwaarden voor het inkopen van artificiële intelligentie (AI)
- AI-module bij de modelovereenkomst ARBIT-2022
- EuroLLM
- OpenGPT-X Teuken-modellen
- Holistic Foundation of Language Models
Voorbeeld
Heb jij een goed voorbeeld van het gebruik van modelbepalingen of contractvoorwaarden op het gebied van algoritmen? Laat het ons weten!