Column: Doe zelf normaal

John Lousberg, docent aan de Juridische Hogeschool, werd eind vorig jaar verkozen tot Docent van het Jaar. In zijn columns voor Punt schrijft hij over wat hem bezighoudt.

Meestal moet ik me er extra toe zetten om de beschouwingen van auteur, jurist en filosoof Maxim Februari te lezen. Hij doet nogal een beroep op mijn ‘slow thinking’ en als ik zijn redenering niet helemaal kan volgen, voel ik me ook nog eens dom. Nu las ik in de Volkskrant dat ik zijn nieuwste essay ‘Doe zelf normaal’ zeker moest lezen. En als de Volkskrant dat zegt…

In de boekwinkel wilde ik echter proefondervindelijk zeker weten dat ik het boek zou kunnen begrijpen. Stiekem las ik al een willekeurige pagina in het boek. Zowaar, ik kon zijn verhaal en argumentatie volgen en dus besloot ik tot de aanschaf van het boek: voor in de meivakantie als mijn hoofd leeg zou zijn. Het zou geen miskoop blijken te zijn. Zelfs te gebruiken in het onderwijs voor het onderdeel ethiek.

Discussie
De titel verwijst naar een discussie in de Tweede Kamer tussen Geert Wilders en Mark Rutte. Wilders spreekt over de Turkse premier Erdogan als de aap uit de mouw. Rutte laat daarop zijn afkeur blijken over deze vergelijking. Waarop Wilders reageert met de opmerking: “Doe normaal, man”. Rutte laat zich niet onbetuigd: ”Doe zelf normaal”.

Februari vindt dat niet (alleen) een ordinaire ruzie, maar meer een filosofische vraag: wat is eigenlijk normaal? Wie of wat bepaalt wat normaal is? Zijn angst is nu dat data en statistieken en niet onze onderlinge menselijke discussies (lees: democratisch proces) gaan bepalen wat normaal is.

Gevaren
Februari ziet twee gevaren: crises, zoals de coronapandemie, klimaatverandering en internationaal terrorisme en de digitale technologieën, waaronder Artificial Intelligence (AI). Zo heeft de pandemie ons geleerd dat we makkelijk, vanwege de haast, zomaar grondrechten opzij zetten. Denk daarbij aan de ingestelde avondklok, de corona-app en de contactonderzoeken van de GGD. Dezelfde neiging bestaat bij het bestrijden van de klimaatverandering. Daarnaast bestaat de neiging om daarbij te grijpen naar techniek. Burgers hebben dan echter juist behoefte aan inspraak en invloed. En dat vraagt om versterking van het democratisch proces. Als in een zogenaamde nood-breekt-wetaanpak bestuurders inbreuk maken op grondrechten, als de democratische legitimatie ontbreekt, dan eisen die bestuurders te veel macht op en leggen ze te weinig verantwoording af. Dan geef je veel weg van de democratische rechtsstaat.

Techniek en de rechtsstaat
Twee voorbeelden geeft Februari. Ten eerste het voorbeeld van het magisch schild. Techniek kan ervoor zorgen dat alle auto’s in de bebouwde kom 30 km per uur rijden. Prachtig toch? Maar wat als je een ernstig zieke patiënt naar het ziekenhuis wilt brengen? Dan rijdt je auto ook maar 30 km per uur. Hetzelfde kun je zeggen over de qr-code op de corona-app. De regel is meteen de handhaving. Het is niet meer mogelijk de wet te overtreden. Er is ook geen discussie mogelijk of de techniek wel goed werkt. “Computer says no.” De rechter controleert de handhaving niet meer. Dat doet het systeem.

Het tweede voorbeeld is het SyRI-systeem (Systeem Risico Indicatie). Dat systeem was bedoeld om fraude te bestrijden bij uitkeringen, toeslagen en belastingen. Partijen voor privacybescherming procedeerden tegen het gebruik van het systeem. De rechtbank kwam tot de conclusie dat het SyRI-systeem niet voorzag in informatie over de werking van het risicomodel, niet in informatie over de werking, niet over het type algoritme en niet over de methode van risicoanalyse. Of kortom: de rechter kon niet controleren hoe het systeem werkte. De overheid kon het ook niet uitleggen.

Handhaving
Met deze twee voorbeelden betoogt Februari dat de handhaving of niet meer bij de controlerende instantie ligt of dat de techniek zo ingewikkeld is dat die controlerende instantie niet meer kan controleren. Bij het gebruik van de techniek maakt de overheid ook nog eens gebruik van private organisaties die daardoor ook nog macht krijgen. Want die overheid begrijpt het systeem uiteindelijk ook niet meer.

Kortom: de macht bij de trias politica verschuift naar de uitvoerende macht. Maar die uitvoerende macht verzwakt ook, omdat er een verwevenheid met de private sector zal ontstaan. Onze democratische rechtsstaat is aan verandering onderhevig waar wij burgers niets over te zeggen hebben.

Tot slot
Het geloof en enthousiasme in techniek is te groot, aldus Februari, en een gevaar voor onze democratische rechtsstaat. Techniek is niet creatief, niet empathisch, heeft geen bewustzijn en heeft niet altijd het beste met ons voor. Bij een democratie hoort onenigheid, kritiek, conflict, tegenspreken, overtreden. Dat is bij techniek niet meer mogelijk. Daarbij is het gek dat we wel dat geloof in de techniek hebben, maar niet in de mens die we met die techniek willen controleren. Maar die mens heeft de techniek wel gemaakt.

Dus zijn waarschuwing is dat je data niet voor lief kunt nemen, je moet je steeds afvragen hoe ze tot stand zijn gekomen. Wie heeft ze gemaakt? Met welk doel? Met welk belang? Wat is mogelijk in het proces ongezien gebleven? Bij de productie van data verdwijnen vooral de waaroms van het menselijk handelen: er is binnen deze aanpak geen taal voor morele intenties waarmee je handelt.

Februari heeft twee jaar aan zijn essay geschreven. Hij heeft twee jaar “opgeofferd” om ons te waarschuwen. Alleen daarom zou het essay het verdienen om gelezen te worden. Maar het boek is ook prima te gebruiken voor een ethisch begrip van het recht en van het gebruik van techniek. Doe er in het onderwijs dus je voordeel mee.