#51 Dansen leer je niet uit een boekje
5 oktober 2019
Nadat ik de tekst voor mijn boek de Digitale Kooi naar de uitgever had gestuurd, twitterde ik mijn blijdschap. Zo leerde ik Marlies van Eck kennen. Zij had juist haar proefschrift over geautomatiseerde besluitvorming en rechtsbescherming afgerond. Later citeerde de Raad van State uit onze beider boeken in een ongevraagd advies. En dat was voor de Kamerleden Middendorp en Drost weer aanleiding om te vragen om “onafhankelijk toezicht op algoritmen”. Het kabinet werkt dit nu uit. Hoe zou zulk toezicht eruit kunnen zien? Met die vraag belde ik gisteren Marlies.
Effectief toezicht vraagt om een professioneel discours. Om een gemeenschap die belang heeft te investeren in kennis.Zelf gebruik ik het woord algoritme nooit. Ook niet toen ik nog een open source softwarebedrijf runde. De formulering van de motie leek me iets als toezicht op gedrag. Zo algemeen, dat ik me afvroeg of ik wel snap waar het over gaat. En tegelijk te beperkt om te kunnen beoordelen of automatische besluiten wel conform de wet zijn. Daarvoor is kijken naar software onvoldoende. Registraties en alle afspraken die nodig zijn om die gegevens uit te wisselen – de informatie-architectuur van Nederland – bepaalt mede hoe de software van organisaties kan en moet werken.
Tegelijk is het simpelweg zo dat je niet kunt weten hoe een besluit tot stand komt, zonder te weten hoe de software werkt. Een punt uit Marlies’ dissertatie. En dus is toezicht op algoritmen relevant. Vanzelfsprekend moet de wet openbaar zijn. Om dezelfde redenen moet software openbaar zijn.
Maar openbaarheid is niet genoeg. Marlies wees me daarop. In een rechtszaak is niet alleen relevant of de code beschikbaar is. De omvang van software kan zo groot zijn, dat toegankelijkheid theoretisch wordt en dus niet door een rechter (alleen) kan worden getoetst.
Maar hoe dan? Toen België recent besloot om software te laten vallen onder de Europese richtlijn voor hergebruik van overheidsinformatie, schreven velen dat het daarmee ‘open source’ software was geworden. Naar de letter verschilt open source software slechts van andere software in de juridische regels voor gebruik. Maar er is natuurlijk nog een ander verschil. Rond open source software is een gemeenschap van mensen die een belang hebben om te investeren in kennis van die code.
Dat is ook wat nodig is bij overheidssoftware. Effectief toezicht vraagt om een professioneel discours. Om een gemeenschap die belang heeft te investeren in die kennis. En net zoals je dansen niet kunt leren uit een boekje, moet zo’n brede gemeenschap ook werken met die code. Daarmee vraagt toezicht ook om een andere manier van software ontwikkelen en aanbesteden. Een manier die niet één bedrijf, of de eigen organisatie betrekt, maar een professionele gemeenschap.
Toezicht op algoritmen zou daarmee naast betere rechtsbescherming ook kunnen leiden tot een beter werkende markt met minder kosten en minder debacles.