Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie.
uit-01UitfaserenOntwerpOntwikkelaarTechnische robuustheid en veiligheidPrivacy en gegevensbeschermingTransparantie
Maatregel
Verwijder bij uitfasering van je algoritme gevoelige gegevens in het kader van privacy en gegevensbescherming, maar behoud essentiële modelinformatie.
Toelichting
Als het doel van het algoritme niet langer bestaat, kan een algoritme (zowel data als model) uitgeschakeld of verwijderd worden. Tegelijkertijd kan dit voor door het algoritme gemaakte beslissingen betekenen dat niet meer te achterhalen is welke data is gebruikt, en waarom het model deze zo beoordeeld heeft. In de ontwerpfase van het algoritme wordt daarom vastgelegd welke elementen bewaard dienen te worden en waarom.
Door op een juiste manier om te gaan met uitfaseren, kan worden voorkomen dat de potentiële latere effecten van algoritme worden geadresseerd. De werking van een algoritme, en de manier waarop beslissingen in het verleden zijn genomen, blijven behouden. Dit zorgt voor transparantie en controleerbaarheid of auditeerbaarheid. Zo kan worden vastgesteld of de uitkomsten zijn aangepast, waardoor bijvoorbeeld fraude onzichtbaar zou worden in geval van verwijdering. Ook in geval een organisatie later juridisch aansprakelijk wordt gesteld, is inzicht in hoe beslissingen tot stand zijn gekomen belangrijk. Tegelijkertijd kan data die niet essentieel is worden verwijderd, om zo de kans op misbruik en lekken van data te voorkomen.
Bijbehorende vereiste(n)
Risico
Het niet correct uitfaseren van een algoritme, heeft mogelijk negatieve effecten op het gebied van uitlegbaarheid, transparantie en verantwoording.