De Kafkabrigade

Het beeld dat de Rekenkamer neerzet slaat de plank echter mis, zowel qua feiten, qua theorie als qua aanbevelingen.

Vorige week publiceerde de Algemene Rekenkamer het onderzoeksrapport “Aandacht voor algoritmes”. Daarin zegt zij een overzicht te schetsen van waar het rijk algoritmes inzet, welke soorten en effecten er zijn en hoe de sturing daarop is vormgegeven. Het beeld dat de Rekenkamer neerzet slaat de plank echter mis, zowel qua feiten, qua theorie als qua aanbevelingen.

Laat ik voorop stellen dat ik groot respect heb voor het werk van de Algemene Rekenkamer als instituut. Vaak zijn haar rapporten tijdig en regelmatig inspirerend. De Rekenkamer vraagt ook terecht aandacht voor algoritmes. En ik heb begrip voor het feit dat een Rekenkamer op zoek is naar specifieke punten waarop je kunt toetsen, zij is tenslotte een rekenkamer. Maar kijkend naar de bevindingen is het jaartal op het rapport een halve eeuw te hoog.

De Rekenkamer zegt te constateren dat er relatief eenvoudige algoritmes ingezet worden, de effecten op burgers beperkt zijn, de geïnventariseerde algoritmes niet zelf besluiten nemen en uitvoerende functionarissen nadrukkelijk betrokken zijn bij het gebruik. Elk van deze constateringen is onjuist. Het idee dat algoritmes eenvoudig zijn, wanneer het concept waarop ze zijn gebaseerd eenvoudig te begrijpen is, is een denkfout. Daarnaast neemt de overheid in werkelijkheid al lang de meerderheid van de individuele besluiten volautomatisch. En het lijkt alsof de twee parlementaire onderzoekscommissies aan de aandacht van de Rekenkamer zijn ontsnapt, want de effecten voor burgers zijn enorm.

Een aanbeveling uit het rapport als “geef aan waar burgers met vragen terecht kunnen” is zo weinig passend en inspirerend, omdat de verbinding tussen theorie en praktijk is verloren.Het gaat voor het eerst mis in het rapport als de Rekenkamer de focus legt op een subgroep van meer experimentele algoritmen in de hoek van data-analyse, bestandsvergelijkingen en kunstmatige intelligentie. Zij geeft dit niet expliciet aan. Een veel groter deel van de algoritmen zijn al lang niet experimenteel meer. Automatische besluitvorming is de kern van het openbaar bestuur. Algoritmen zijn óók automatisering van processen en gegevensuitwisseling, niet alleen patroonherkenning in gegevens met software.

De tweede keer gaat het mis wanneer zij impliciet aanneemt dat de effecten voor burgers kunnen worden afgeleid uit het algoritme zelf. Dit is te begrijpen vanuit de ambities van de Rekenkamer. Zij is op zoek naar criteria om algoritmen te kunnen toetsten. Het is echter onjuist. Een organisatie die met software patronen in data zoekt – want daar gaat het rapport eigenlijk over – heeft niet alleen een handig hulpmiddel ingezet. Er verandert veel meer, het werk van de ambtenaren bijvoorbeeld. Waar zij eerst zelf en bewust een selectie maakten, worden ze nu ofwel controleur van de software ofwel zij beperken zich in hun controletaak blind tot de selectie die de software maakt. Het eerste vraagt geheel andere kennis en competenties. Het tweede kan een keuze zijn, mits het eerste goed is geregeld.

De derde keer gaat het mis wanneer zij menen dat een ethisch normenkader een impliciet onderdeel kan zijn van vier bestaande kaders die kijken naar individuele algoritmen. Wat de digitalisering van de overheid juist kenmerkt is de verwevenheid op het niveau van gegevensuitwisseling en algoritmisering, terwijl de verkokering op de hogere niveaus is blijven bestaan. De meeste effecten voor burgers blijken juist op een systeemniveau waarvoor niemand zich verantwoordelijk voelt.

Hoewel de impliciete nauwe focus die de Rekenkamer aanlegt in het rapport te begrijpen is vanuit haar belang als organisatie, is dat precies waar het mis gaat ook in de digitalisering van de overheid. Wanneer je de impact van algoritmen wilt begrijpen moet je niet met een nauw juridisch-technisch kader kijken, dat handig is voor de individuele organisatie, maar naar de impact op de burger. Anders worden je conclusies al snel absurd, zoals het idee dat er geen probleem is met transparantie, want de Rekenkamer kon deze algoritmen inzien. Vinkje.

Dat betekent niet dat de ambitie van de Rekenkamer onmogelijk is, maar daarvoor is een andere aanpak nodig. Een voorbeeld van zo’n aanpak heb ik beschreven in De Digitale Kooi, waarin ik tien toetsbare criteria afleidt uit de reële gevolgen die burgers ondervinden. Zo’n concreet probleem voor burgers is dat een fout zich als een olievlek verspreidt, maar burgers dat bij vele overheden moeten corrigeren. De technische oorzaak daarvan ligt in de wijze waarop gegevens worden opgeslagen en uitgewisseld. Daar kun je op toetsten. Maar je vindt zo’n probleem, noch de oplossing, wanneer je kijkt naar één algoritme.

Een aanbeveling uit het rapport als “geef aan waar burgers met vragen terecht kunnen” is zo weinig passend en inspirerend, omdat de verbinding tussen theorie en praktijk is verloren. Van de Rekenkamer verwacht ik meer. En eigenlijk verwacht ik een samenwerking van de Nationale Ombudsman, die signalen uit de praktijk ontvangt, de Algemene Rekenkamer, die deze signalen kan onderzoeken naar hun oorzaken en vertalen in normenkaders en de Auditdienst Rijk, die zo’n toets rijksbreed tot een nieuw normaal kan maken. Ik ben daarin hoopvol, omdat ik de Rekenkamer heb leren kennen als een responsieve organisatie.

Arjan Widlak is directeur van Stichting Kafkabrigade en auteur van het boek De Digitale Kooi.

Gepubliceerd op 22 februari 2021 in Binnenlands Bestuur en op 23 februari 2021 op iBestuur