Doe zelf normaal

Maxim Februari publiceerde begin dit jaar een essay met als titel ‘Doe zelf normaal’, over menselijk recht in tijden van datasturing en natuurgeweld.

Door de snelle opkomst van intelligente technologieën en snelle klimaatverandering  komt er veel op ons af. Daarom schreef Maxim Februari dit filosofisch essay over wat dit betekent voor ons rechtssysteem. In onze veranderende samenleving vragen recht en democratie afzonderlijk om specifieke aandacht. Nee, hij heeft niet dé antwoorden, maar stelt wel veel goede vragen.

De wereld, zo schrijf Februari zit vol met technieken die mensen dwingen zich te gedragen zoals gewenst. Een paar voorbeelden die hij beschrijft:

• auto’s met een intelligente snelheidsassistent die gemeentes in staat stelt via GPS virtuele zones in te stellen waarbinnen je auto niet harder kan rijden;
• de Europese ID-wallet (bedoeld als paspoort) die door overheden gekoppeld kan worden met bank en medische gegevens, diploma’s waardoor het paspoort ook inzage geeft in voorkeuren en gedrag;
• het gebruiken van risico-indicatiesystemen door overheden hebben al veel kwaad aangericht, denk maar aan de toeslagenaffaire.
• de wet die via een QR-code in je telefoon belandt en onmiddellijk kan worden aangepast, denk aan het coronatoegangsbewijs.

Het is een complex betoog dat Februari heeft geschreven. Zijn watermetafoor vond ik verhelderend:

“Je zou de democratie en rechtstaat kunnen zien als kanalen, waterwegen, die we in voorgaande eeuwen hebben gegraven om de samenleving ordelijk doorheen het leiden. Het bevaren van die kanalen heeft lange tijd men of meer goed gewerkt, maar in deze nieuwe eeuw worden we geregeerd door informatiestromen die ver buiten de kanalen treden en wild door onbekend gebied kolken. Er ontstaan besluitvormingsnetwerken die de loop van de oude procedures verleggen en in deze hyperverbonden wereld zijn nieuwe verbindingsstromen ontstaan die we nog niet overzien. Veel informatie is buiten ons bereik.”

Het idee dat machtige bedrijven (vanuit commerciële beweegredenen) de regels en codes schrijven waar wij als mensen aan getoetst worden, beangstigd me. Zo ook overheden die niet begrijpen hoe de risico-indicatiesystemen die ze inzetten, werken. We hebben inmiddels al zoveel digitale sporen achtergelaten, wie weet welke data in de toekomst nog gekoppeld wordt in/aan allerlei systemen. Een controlesamenleving ligt in het verschiet.

In het laatste hoofdstuk stelt hij twee verschillende vormen van besturen en normeren tegenover elkaar: constitutionaliseren en computeriseren.

“Wie constitutionaliseert ziet de mensheid als een rechtsgemeenschap. Wie computeriseert ziet haar als bron van data.”

Technologie is niet waardevrij. Wie ontwerpt AI? Wie is eigenaar? Wie controleert? Wie bepaalt de norm? Is mijn ‘normaal’ hetzelfde als jouw ‘normaal’? Het is nodig daarover na te denken en het gesprek te voeren.  Met polariseren komen we niet verder. Wat is waarheid? Hoe bepaal je wie je kunt vertrouwen? Ik hoop dat we ons nu en in de toekomst niet laten normeren door dwingende datamodellen.

Februari, M. (2023). Doe zelf normaal: menselijk recht in tijden van datasturing en natuurgeweld. Uitgeverij Prometheus
Of luister de podcast: Het Uur met filosoof Maxim Februari [5 mei 2023 – 58 min]

“Leven in de wereld van AI betekent leven in een wereld van statistische middelmatigheid. Willen wij in die wereld leven? En wat en wie zal dat gaan bepalen?”

Citaat uit de VPRO Tegenlicht aflevering ‘De prijs van AI’ [8 juni 2023].
Ook de moeite van het bekijken is de  korte serie over kunstmatige intelligentie (AI) van EenVandaag [augustus 2023].