Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing
owp-04OntwerpOntwikkelaarTechnische robuustheid en veiligheid
Maatregel
Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing.
Toelichting
- Beschrijf wat voor soort algoritme er gebruikt gaat worden voor de beoogde toepassing.
-
Bepaal of je gebruik wilt maken van een:
- zelflerend algoritme
- niet-zelflerend algoritme zoals een algoritme gebaseerd op rekenregels
-
Beschrijf vervolgens ook:
- waarom er voor dit type algoritme wordt gekozen
- wat de alternatieven zijn en waarom die minder passend zijn
- waarom dit algoritme het meest geschikt is om het beoogde doel van het algoritme te bereiken.
-
De precieze details kunnen in dit stadium van de levenscyclus waarschijnlijk nog niet ingevuld worden. Maak een goede eerste inschatting van de gebruikte techniek. Eventueel kan je er ook voor kiezen om verschillende technieken verder te onderzoeken. Dat betekent dat er meerdere algoritmes ontwikkeld worden (op basis van verschillende technieken), en je later een definitieve keuze maakt.
-
Het is belangrijk om uiteindelijk een passend uitlegbaar algoritme te selecteren voor de context waarin het wordt toegepast. Daarin moet de afweging gemaakt worden of de technische uitlegbaarheid voldoende is in de context die de inzet van het algoritme vereist. Hierbij kan ook de conclusie worden getrokken dat een simpeler, inzichtelijker algoritme de voorkeur krijgt.
-
Maak hierbij een bewuste afweging tussen uitlegbaarheid en prestaties van het algoritme. Over het algemeen geldt dat complexere maar minder uitlegbare algoritmes nauwkeuriger zijn.
-
Veel (statistische) modellen zijn gebaseerd op (statistische) aannames over bijvoorbeeld eigenschappen van de data. Ga na of er aan deze aannames wordt voldaan.
Risico
Wanneer je geen zorgvuldige afweging maakt over de techniek die je gebruikt om het doel te bereiken, dan is het niet duidelijk of de meest geschikte techniek wordt gebruikt. Mogelijk zijn er passendere oplossingen om het doel te bereiken.
Bijbehorende vereiste(n)
Bronnen
- Impact Assessment Mensenrechten en Algoritmes, 2A.1, 2B.1
- Onderzoekskader Auditdienst Rijk, DM.2
- Toetsingskader Algemene Rekenkamer, 2.04, 2.17
Voorbeelden
Douane: Risico detectie aangiften
De douane maakt gebruik van een algoritme om te selecteren welke goederen een (extra) controle krijgen. Dit wordt gedaan op basis van aangiftegegevens van bedrijven waarmee mogelijk verhoogde risico’s worden aangegeven. In het algoritmeregister geven zij aan dat dit algoritme gebruik maakt van beslisregels gebaseerd op “if-then-else” combinaties. Zij geven aan dat gedaan wordt om zo aangiften efficiënter te kunnen behandelen en dus mogelijk sneller vrijgegeven kunnen worden.
Bron: Detecteren risico’s in douaneaangiften voor naleving opiumwetontheffing - Douane
Provincie Zuid-Holland: Webapplicatie Impactmonitor Brugopening
De Provincie Zuid-Holland (PZH) maakt gebruik van een webapplicatie om brugbedieners te ondersteunen bij het optimale moment kiezen voor het openen van de brug. De applicatie voorspelt tot 21 minuten in de toekomst en houd rekening met verkeersdoorstroom en uitstoot. In het algoritmeregister hebben zij in detail uitgelegd welke technieken gebruikt worden. Zij maken gebruik van Recurring Neural Networks (RNNs), een specifieke vorm van Artificiële Neurale Netwerken. Deze worden getraind op tijdserie data wat in dit geval belangrijk is vanwege de afhankelijkheid van drukte op en rondom de brug.
Bron: Webapplicatie Impactmonitor Brugopening - Provincie Zuid-Holland
Heb je een ander voorbeeld of best practice, laat het ons weten via algoritmes@minbzk.nl