We leven in een vrijwel volledig gedigitaliseerde samenleving. Over vrijwel alles wat we doen in ons professionele en privéleven is data in overvloed aanwezig. Hoe verleidelijk is het om deze data in risicomodellen te benutten, om zo risico’s beter te voorspellen? Daar is de samenleving toch mee gebaat? Niet altijd.
Een van de onthutsende voorbeelden van een volledig uit de bocht gevlogen risicomodel is van de Belastingdienst. Met een zogenoemd lerend algoritmisch besluitvormingssysteem werden vanaf 2013 risicoprofielen opgesteld van de personen die een toeslag voor kinderopvang ontvingen. Zo kon de Belastingdienst toetsen wie de grootste kans maakte om onnauwkeurige aanvragen in te dienen of fraude te plegen. Het risico-identificatiemodel was dus goed bedoeld, voor de opsporing van onjuiste aanvragen en fraude. Iets waar de samenleving mee is gebaat, zou je zeggen.
Echter, de data waarmee dit model werden gevoed en de wijze waarop de risicoclassificatie tot stand kwam was niet zichtbaar voor de gebruikers van het model. Een ambtenaar kon zo niet weten welke informatie leidde tot een hoge risicoscore voor een aanvrager van de toeslag. Het trieste resultaat is ons intussen allemaal bekend als de Toeslagenaffaire. Tienduizenden ouders en verzorgers werden jarenlang ten onrechte beschuldigd van fraude met kinderopvangtoeslag. Het kabinet Rutte-III diende zijn ontslag in en zelfs de rechterlijke macht trok het boetekleed aan.
Een ander recent voorbeeld is het rekenmodel van het RIVM, waarmee voorspellingen worden gedaan voor de bezetting van de IC-bedden door coronapatiënten. Het zwartste scenario uit dit risicomodel was voor het demissionaire kabinet reden om vlak voor de afgelopen kerst Nederland in een nieuwe lockdown te laten gaan. Als snel groeiden de aanwijzingen dat dit scenario veel te somber was. Intussen ontstaat er maatschappelijke discussie over (alweer) gebrek aan transparantie van het model, en over het ontbreken van inzage in de aannames die leiden tot de uitkomsten van het model.
Wat is hieruit te leren, vanuit een risicogestuurd perspectief? Dat door enorme hoeveelheden data gevoede risicomodellen een enorme kracht bezitten.Die kracht kan evenwel twee tegenovergestelde richtingen inslaan. We kunnen als samenleving profiteren van de voorspellingen en ons zo beter voorbereiden op risico’s. Risicomodellen kunnen echter ook danig ontsporen, wat dus leidt tot enorme negatieve krachten en daarmee leed in de samenleving.
Wat is hieraan te doen, wederom vanuit een risicogestuurd perspectief? Dit begint met het erkennen van de enorme krachten van gecompliceerde risicomodellen. Krachten die dus twee totaal verschillende richtingen kunnen inslaan. Om die krachten te beteugelen is het nodig om risicomodellen, hun ontwikkelaars én hun gebruikers continue met een gezonde portie argwaan te beschouwen. Hierbij helpt het stellen van vragen:
- Wat is het doel van het model?
- Wat zijn de (risico)parameters in het model?
- Wat zijn daarvan feiten en wat zijn aannames, van wie en op basis van welke expertise?
- Hoe gevoelig is het model voor variaties in feiten en aannames?
- Op welke theorieën is het model gebaseerd en is het model gevalideerd?
Alleen door het continu blijven stellen van dergelijke vragen is de samenleving gebaat met risicomodellen én kunnen we hun enorme krachten de goede kant op laten werken.
Dr. ir. Martin van Staveren MBA doceert, adviseert en schrijft over omgaan risico’s binnen organisaties. Hij is onder andere kerndocent risicomanagement, Universiteit Twente en doceert in diverse collegereeksen van Nyenrode Business Universiteit. Hij promoveerde op het proefschrift Risk, Innovation & Change (2009) en is auteur van de boeken Risicogestuurd werken (2015), Risicoleiderschap (2018) en Iedereen Risicoleider: Waardevolle doelen realiseren én behouden in een onzekere wereld (2020).