‘Databases manipuleren onze identiteit’

Toen in de zeventiende eeuw de moderne natuurwetenschap opkwam, ontwikkelden we de stoommachine. Plots ging de geneeskunde het lichaam op mechanische wijze zien: ons hart is een pomp, die kapot kan en vervangen kan worden. Destijds was het een radicaal nieuwe manier van naar onszelf kijken. Tegenwoordig is de computermetafoor populair. We zien het brein als harddisk waar informatie ligt opgeslagen of als processor die berekeningen uitvoert.

We hebben altijd technologie gebruikt om onszelf uit te drukken, volgens Jos de Mul, hoogleraar wijsgerige antropologie aan de Erasmus Universiteit in Rotterdam. Hij onderzoekt wat de impact is van technologieën op ons zelfbegrip, met nu als focus databases en slimme algoritmes. Je medische gegevens, wie je vrienden zijn, welke spullen je koopt, je vakantiebestemmingen; het ligt allemaal in digitale stukjes opgeslagen in databases. Algoritmes wroeten in die berg data van jou en je medemens, op zoek naar patronen en nieuwe kennis.

In een cultuur waarin de computer het belangrijkste instrument is, wordt de gehele wereld getransformeerd tot een database, zoals De Mul schrijft in zijn nieuwste boek Database Delirium. Of we ons zorgen moeten maken? “Laten we eerst proberen te begrijpen wat er gebeurt, dan kunnen we daarna de gevaarlijke en prettige kanten bekijken.”

Wat gebeurt er met ons zelfbegrip als ons leven een database wordt?

“Je kan denken in termen van media die we gebruiken. Een medium heeft een bepaalde structuur die zich in onze zelfbeleving inschrijft. Een verhaal over jezelf in een dagboek heeft een begin, midden en eind, wat ons een narratieve identiteit geeft. Wie jij bent, krijgt het karakter van een verhaal. Op nieuwe media als Facebook is de structuur niet chronologisch. Je kunt de database langs allerlei lijnen doorzoeken en stukjes verhalen recombineren. In een database heb je voortdurende veranderlijkheid, ‘digitale recombineerbaarheid’ zoals ik het noem. Foto’s en berichten kun je ordenen hoe en wanneer jij wilt. De manipuleerbaarheid is heel groot. Die nieuwe structuur is typisch voor hoe onze identiteit nu ervaren wordt. Denk aan de selfie-cultuur. Je manipuleert en recombineert beeld om er zo mooi mogelijk op te staan en het leven te presenteren als een doorlopend feest.”

Is dit een voorspelling voor de toekomst of zie je nu al tekenen van zo’n zwermgeest?

“Dit is al gaande. Als je via Amazon een boek koopt, gaat je aankoop in de database en wordt die vergeleken met wat anderen kochten. Je krijgt dan een aanbeveling: ‘anderen die dit boek kochten, vonden deze boeken ook mooi’. Dit is een nieuw kennisniveau dat niemand individueel bezit. Het is een kennis die ontstaan is door samengevoegde data. In 2012 kreeg Amazon patent op een nieuw algoritme, zogenaamde ‘anticipatory shipping’, om te voorspellen welk boek je gaat kopen en het alvast op te sturen. Zo ver is het nog niet, maar inmiddels verkoopt Amazon circa veertig procent van zijn goederen op basis van dit soort aanbevelingen. Amazon weet nog niet op individueel niveau wat je volgende aankoop wordt, maar we bewegen wel die richting op.”

Wat zijn de nachtmerries van een toekomst waarin algoritmes ons leven sturen?

“Stel dat we op basis van data over koopgedrag en kroegbezoek kunnen voorspellen dat er een grote kans is dat iemand zijn kinderen verwaarloost. Op basis van die informatie kun je preventief ingrijpen. In zekere zin gebeurt dat al bij consultatiebureaus. Als je een probleemgezin bent, krijg je al extra monitoring. Er zit wat griezeligs aan. Tot nu toe was ons strafsysteem gebaseerd op ons verleden: je misdraagt je en krijgt straf. Wat als je straks gestraft wordt voor iets wat je nog niet gedaan hebt, maar mogelijk gaat doen? Het doet denken aan de film Minority Report, waarin drie orakels moorden voorspellen. Zij doen wat computers tegenwoordig doen.”

Waar gaat het heen met de macht van algoritmes?

“Algoritmes hebben macht over ons en dat zal toenemen. De precieze werking van algoritmes gaat vaak – bijvoorbeeld bij het gebruik van neurale netwerken die al doende hun eigen regels creëren – het petje van de programmeurs te boven. Nu wordt de vraag hoeveel autonomie we moeten toekennen aan algoritmes, en of we ze überhaupt nog kunnen controleren. In het debat heb je aan de ene kant de technologisch deterministen, die zeggen dat de techniek zijn eigen gang gaat en we er niks aan kunnen veranderen. Aan de andere kant staan de sociaal constructivisten die zeggen dat mensen altijd kunnen ingrijpen. Ik denk dat mensen invloed hebben, maar dat we de toekomst niet altijd kunnen voorspellen.”