Het gevaar van robotisering

Michiel Willekens

Het gevaar van robotisering is niet dat er slimme robots komen die ons werk afpakken en ons overbodig maken, maar het gevaar is dat mensen zelf veranderen in robots.

Deze probleemstelling is van de thema’s van de schrijver Philip K Dick, hij schreef hier meerdere boeken over en het essay The Android and the Human (1972) (link). En 50 jaar na zijn observaties zijn ze niet minder relevant geworden. Hij start zijn essay met de observatie dat onze omgeving steeds meer tot leven komt.

Our environment, and I mean our man-made world of machines, artificial constructs, computers, electronic systems, interlinking homeostatic components, all of this is in fact beginning more and more to possess what the earnest psychologists fear the primitive sees in his environment: animation. In a very real sense our environment is becoming alive, or at least quasi-alive, and in ways specifically and fundamentally analogous to ourselves.

Philip K Dick, The Anroid and the Human

Wat is onze verhouding met de techniek om ons heen? Gaan we mee met de techniek of komen we in verzet? De vraag die Dick stelt is: Wat betekent het om in deze omgeving mens te zijn? Hij start zijn onderzoek naar de relatie tussen de mens en zijn technische evenbeeld: de robot.

Wat is het verschil tussen de mens en de robot?

Een robot is een machine en een mens is een levend organisme, maar volgens Dick is dat onderscheid niet belangrijk. Mensen kunnen robots worden en robots kunnen menselijk worden. Wat is dan wel het belangrijkste onderscheid?

Het kenmerkende verschil tussen een robot en een mens is dat een robot zich bewust of onbewust onderwerpt aan een systeem. Een robot is gereduceerd tot een functie binnen een groter geheel. Een robot mist bezieling. Als een mens tot robot gemaakt wordt dan wordt een mens alleen nog maar een instrument om een bepaald doel te behalen. Een human resource. De vraag die opkomt is hoe mensen tot robots gemaakt kunnen worden? Of in Dicks termen: hoe verloopt de massaproductie van de robot.

In Bladerunner (een verhaal van Dick) wordt een “empathy-test” gedaan om robots te identificeren

De massaproductie van de robot

Wat zijn de vereiste eigenschappen van een robot? Allereerst moet een robot betrouwbaar en gehoorzaam zijn. Een robot moet reageren op commando’s, en niet alleen als een robot daar zelf zin in heeft. Het gedrag van een robot moet voorspelbaar zijn, want als je het gedrag niet precies kan voorspellen, dan kan je een robot niet besturen. Een robot mag ook geen uitzonderingen maken. Geprogrammeerde routines moeten gevolgd worden. Ook als de uitkomst verkeerd is, dan doet de goede robot de volgende keer precies hetzelfde. Een verkeerde uitkomst is ook niet de verantwoordelijk van de robot, dat is het probleem van de bestuurder van de robot.

Het is inmiddels meer dan 50 jaar geleden dat Dick zijn essay publiceerde. En er zijn nog steeds geen robots die ook maar in de verte op mensen lijken. Behalve in fabrieken hebben robots ook nog niet het werk van mensen overgenomen. De technologie om mensen tot robots te maken heeft daarentegen wel een grote vlucht genomen. Massa-surveillance is gemeengoed geworden. Er zijn algoritmes die ons gedrag bestuderen, voorspellen en daarmee ook beïnvloeden.

We bevinden ons als mens steeds meer in een complex web van relaties die door technologie gedetermineerd zijn. Uitzonderingen zijn onmogelijk (Computer says no). Relaties met met bedrijven en de overheid worden steeds onpersoonlijker. En zelfs in werksituaties is er meer nadruk op het nauwgezet opvolgen van routines, dan de werkelijke uitkomst. Alles moet zo efficiënt mogelijk worden georganiseerd, maar we verliezen onze belangrijkste waarden uit oog. De robotisering is in volle gang, maar niet zoals je in eerste instantie denkt. We worden allemaal tot robots gemaakt.