Generatieve AI

Generatieve AI biedt veel kansen, maar ook valkuilen. Overheden mogen werken met generatieve AI, zolang zij deze op een verantwoorde manier ontwikkelen, inkopen en gebruiken. Om dit te doen, zijn er een aantal dingen om rekening mee te houden.

Wat is generatieve AI?

Generatieve AI is een vorm van kunstmatige intelligentie. Je gebruikt prompts, opdrachten in natuurlijke taal aan de applicatie, om content te genereren. De output hiervan is dan bijvoorbeeld tekst, beeld of computercode. Generatieve AI valt onder de AI-modellen voor algemene doeleinden (general purpose AI, oftewel GPAI). Dat wil zeggen dat ze voor meerdere toepassingen gebruikt kunnen worden.

Meestal draaien generatieve AI-toepassingen op large language models (LLMs). Dit houdt in dat de applicatie getraind is op grote hoeveelheden data, waaruit het heeft ‘geleerd’ om patronen en structuren te herkennen. Op basis van die patronen voorspelt het getrainde model het meest logische volgende element in bijvoorbeeld een zin. AI-chatbots, zoals ChatGPT, Gemini en Microsoft CoPilot, genereren hierdoor lopende zinnen en alinea’s. Deze antwoorden zijn niet altijd betrouwbaar. Geeft een chatbot onjuiste informatie, dan heet dit ‘hallucineren.’

Verantwoord gebruik door de overheid

De overheid heeft één standpunt voor het gebruik van generatieve AI opgesteld. Dit standpunt geldt voor alle overheidsorganisaties.

Generatieve AI biedt veel kansen. De overheid stimuleert overheidsorganisaties om deze technologie te gebruiken bij het zoeken naar nieuwe oplossingen voor problemen. Bijvoorbeeld als hulpmiddel voor brainstormen, softwareontwikkeling en tekstbewerking.

Het is van belang dat generatieve AI op een juiste en verantwoorde manier wordt ingezet. De burger moet betrouwbare informatie krijgen en mag niet onrechtmatig worden behandeld wanneer de overheid generatieve AI inzet. Wees je bewust van de beperkingen en valkuilen van generatieve AI. Anders kan het vertrouwen van de burger worden geschaad.

Belangrijkste plichten voor overheden die generatieve AI gebruiken

Bestaande wetgeving wordt gevolgd (zoals de AI-verordening, de AVG en de Grondwet).
Het doel om generatieve AI in te zetten is duidelijk geformuleerd.
De generatieve AI-toepassing is verantwoord en veilig bevonden door middel van een risico-analyse (bijvoorbeeld een DPIA of IAMA). Dit geldt in het bijzonder wanneer er persoonsgegevens verwerkt worden.
De inzet van generatieve AI is ingebed in het beleid.
De juiste rollen zijn betrokken bij de besluitvorming over generatieve AI-inzet.
De data die wordt gebruikt in de generatieve AI-toepassing is volledig, recent en kwalitatief goed.
Er zijn specifieke afspraken gemaakt bij het inkopen van generatieve AI-modellen en/of -toepassingen over onder andere datadeling, dataretentie en het hertrainen van modellen.
Er is altijd een menselijke tussenkomst bij de inzet van generatieve AI ('human-in-the-loop'). Besluiten worden niet puur en alleen op basis van de output van generatieve AI genomen.
In het kader van AI-geletterdheid zijn medewerkers voldoende geïnformeerd over en opgeleid in het verantwoord gebruiken van generatieve AI.
Er worden géén generatieve AI-toepassingen gebruikt die online voor iedereen toegankelijk zijn, zoals ChatGPT.
Wanneer externe partijen diensten leveren aan de overheid en daarbij overheidsgegevens verwerken in generatieve AI, gelden deze vereisten en richtlijnen ook voor hen. Voorbeeld: adviesbureau Bereschot neemt interviews af met overheidsmedewerkers en gebruikt generatieve AI om deze te transcriberen en samen te vatten.

Verdere tips

Het inkopen van generatieve AI-toepassingen heeft wat meer haken en ogen dan 'gewone' AI. Stel hiervoor goede inkoopvoorwaarden op.
Werk bij voorkeur met een open toepassing of model, waar mogelijk ook met een open source-toepassing of model. Meer informatie hierover vind je op de website van het Open Source Initiative.
Gebruik bij voorkeur een generatieve AI-toepassing die binnen Europa is ontwikkeld en wordt beheerd. Deze zijn vaak beter ingesteld op de Nederlandse taal en maken ons minder afhankelijk van niet-EU-landen.
Onderzoek van tevoren welk model de beste resultaten oplevert. Voor specialistische of complexe onderwerpen kan dat bijvoorbeeld een kleiner model zijn.
Gebruik generatieve AI niet om foto's, video's en voice-overs te genereren, zeker niet wanneer deze publiekelijk gedeeld worden.
Houd er rekening mee dat je organisatie, wanneer je een AI-model voor algemene doeleinden gebruikt, te maken krijgt met vereisten uit de AI-verordening. Bekijk de tijdlijn met vereisten.

Bronnen

Help ons deze pagina te verbeteren

Deel je idee, suggestie of opmerking via GitHub of mail ons via algoritmes@minbzk.nl.