De belangrijkste technologische revolutie van de eenentwintigste eeuw is het vermogen om mensen te hacken. Mensen hacken betekent hen beter begrijpen dan zij zichzelf begrijpen. Als een overheid of een bedrijf ons beter begrijpt dan wij onszelf begrijpen, kan het vervolgens onze gevoelens en onze beslissingen voorspellen, onze gevoelens en onze beslissingen manipuleren, en uiteindelijk namens ons alle cruciale beslissingen nemen.
Om mensen te hacken heb je drie dingen nodig: een heleboel biologische kennis, een heleboel data, en een heleboel computerkracht. Tot op heden bezat niemand dat nog allemaal. Zelfs de meest totalitaire regimes beschikten niet over voldoende biologische kennis, voldoende data en voldoende computerkracht om miljoenen mensen systematisch te hacken. Daardoor kon zelfs in nazi-Duitsland of in de Sovjet-Unie de overheid niet precies weten of bepalen wat ieder individu dacht of voelde.
Maar binnen afzienbare tijd zullen bepaalde overheden en bedrijven wel over de benodigde biologische kennis, data en computerkracht beschikken om iedereen constant in de gaten te houden en voortdurend te weten wat wij op een bepaald moment denken en voelen. Ze zullen ons beter kennen dan wij onszelf kennen. En wat gaat er dan gebeuren?
Mocht het vermogen om mensen te hacken in handen vallen van een eenentwintigste- eeuwse Stalin, dan zal dat tot het slechtst denkbare totalitaire regime in de geschiedenis leiden. Het zal nog vele malen erger zijn dan alles wat we in de twintigste eeuw al hebben gezien. En er zijn al verschillende potentiële Stalins aan het warmlopen. Maar ook al weten we zo'n digitale dictatuur te verhoeden, dan zou het vermogen om mensen te hacken nog op allerlei manieren de menselijke vrijheid kunnen ondermijnen.
Naarmate mensen steeds meer op algoritmes vertrouwen voor het nemen van individuele en collectieve beslissingen, zal het gezag geleidelijk aan van mensen naar die algoritmes verschuiven. Die verschuiving vindt nu al plaats; miljarden mensen varen blind op het Facebook-algoritme om ons te vertellen wat er gaande is, op het Google-algoritme om ons te vertellen wat waar is, op Google Maps om ons te vertellen waar we naartoe moeten, op Netflix om ons te vertellen waar we naar moeten kijken en op het Amazon-algoritme om ons te vertellen wat we moeten kopen.
Mensen zijn gewend het leven te zien als een dramatische aaneenschakeling van beslissingen. De open democratie en het vrijemarktkapitalisme zien de mens als een autonoom wezen dat voortdurend keuzes maakt aangaande zijn bestaan. In kunstwerken - of het nu stukken van Shakespeare, romans van Tolstoj of smakeloze Hollywood-kluchten zijn - staat meestal de held centraal die zich voor een cruciale beslissing geplaatst ziet: zijn of niet zijn? Bij Karenin blijven of er met de joyeuze graaf Vronski vandoor gaan? Zowel de christelijke als de islamitische theologie richt zich op een vergelijkbare manier op de dramatiek van de allesbepalende beslissing door te benadrukken dat eeuwige verlossing of verdoemenis bepaald worden door het maken van de juiste keuzes. Wat gaat er gebeuren als de algoritmes ons straks dicteren wat we moeten doen, zelfs ons lichaam en ons brein een nieuwe vorm gaan geven?
Als dat gebeurt zal het menselijk leven niet meer een dramatische aaneenschakeling van beslissingen zijn. Democratische verkiezingen en de vrije markt zullen hun zin verliezen. Net als de meeste religies en kunstwerken. Stelt u zich eens uw favoriete Shakespeare-stuk voor waarin alle cruciale beslissingen worden bepaald door het Google-algoritme. Hamlet zal een heel wat prettiger bestaan leiden, maar wat voor bestaan zal dat zijn? Beschikken wij over de filosofische en spirituele modellen om zin te geven aan een dergelijk bestaan?
We leven in een tijd van ongekende technologische overdaad, maar staan tegelijkertijd voor een filosofisch bankroet. Het gebruikelijke handjeklap tussen filosofen en politici houdt in dat filosofen tal van fantastische ideeën hebben en politici uitleggen dat die wegens een gebrek aan middelen niet uitvoerbaar zijn. We bevinden ons nu in de tegenovergestelde situatie. De nieuwe technologieën verschaffen politici de middelen om hemel en hel mogelijk te maken, maar de filosofen hebben moeite om zich voor te stellen hoe die hemel en hel eruit gaan zien.
De geschiedenis gruwt van een vacuüm. En de geschiedenis wacht niet op ons. Als we ons niet snel genoeg een beeld weten te vormen van de nieuwe hemel, zouden we zomaar door naïeve utopieën kunnen worden verleid. En als we ons niet snel genoeg een beeld weten te vormen van de nieuwe hel, dan zouden we er wel eens voor eeuwig in kunnen branden. Dus moeten we die nieuwe hemel en hel in kaart brengen, en wel snel. We hebben behoefte aan een leidraad voor de toekomst.
Misschien is de beste leidraad die ik ken wel een oude bekende: Heerlijke nieuwe wereld van Aldous Huxley. Het boek verkent wat er gebeurt als de overheid mensen kan hacken en de maatschappij kan controleren door de innerlijke realiteit van ons lichaam te manipuleren in plaats van de uiterlijke realiteit van ons bestaan.
Huxley schreef zijn meesterwerk in 1931, en hij had nog geen weet van genetica, kunstmatige intelligentie of het internet. Zijn technologisch toekomstbeeld is dan ook verouderd. Dat zullen zijn lezers voor lief moeten nemen. Toch is Heerlijke nieuwe wereld, ook al is het in technologisch opzicht achterhaald, het meest profetische boek van de twintigste eeuw, en een van de diepzinnigste beschouwingen over de technologie van de moderne filosofie. Sterker nog, Heerlijke nieuwe wereld wordt met het jaar relevanter.
Toen Huxley Heerlijke nieuwe wereld schreef, bereikte het sovjetcommunisme nieuwe hoogten op het terrein van wreedheid, had het fascisme vorm gekregen in Italië, maakte het nazisme zich op om Duitsland over te nemen, begon het militaristische Japan zijn veroveringsoorlog in China, en verkeerde de wereld in de ban van de Grote Depressie. Toch wist Huxley door al die donkere wolken heen te kijken en zich een toekomstige maatschappij voor te stellen zonder oorlogen, hongersnoden en plagen, die permanent in het teken stond van vrede, overvloed en gezondheid. Het is een op consumptie gerichte wereld, die de vrije teugel biedt aan seks, drugs en rock-'n-roll en geluk als hoogste goed ziet. De onderliggende gedachte van het boek is dat mensen biochemische algoritmes zijn, dat de wetenschap het menselijk algoritme kan hacken, en dat de technologie vervolgens kan worden ingezet om niet alleen het individu, maar zelfs een hele samenleving te manipuleren.
In Huxleys Heerlijke nieuwe wereld maken de Wereldchefs gebruik van geavanceerde biotechnologie en manipulatietechnieken om iedereen overal en altijd tevreden te houden en niemand reden te geven tot verzet. Er is dan ook geen noodzaak voor een geheime politie, concentratiekampen, of een orwelliaans Ministerie van Liefde. Sterker nog, het genie van Huxley toont zich in het bewijs dat mensen veel beter met liefde, genot en consumptie in het gareel zijn te houden dan met geweld, angst en soberheid.
In 1984 beschrijft Orwell een angstaanjagende, nachtmerrieachtige wereld, en is de vraag alleen nog: hoe voorkomen we dat we in zo'n afschuwelijke staat terechtkomen? Het lezen van Heerlijke nieuwe wereld is een aanzienlijk verontrustender en uitdagender ervaring, omdat het je confronteert met de vraag wat het nu precies tot een dystopie maakt. De wereld is vredig en welvarend, en iedereen is de hele tijd volkomen tevreden. Wat kan daar in hemelsnaam mee mis zijn?
Toen Heerlijke nieuwe wereld in 1932 verscheen, wisten zowel Huxley als zijn lezers heel goed dat hij een gevaarlijke dystopie beschreef. Toch zouden veel hedendaagse lezers Heerlijke nieuwe wereld abusievelijk voor een utopie kunnen verslijten, en onze op consumptie gerichte maatschappij is ook druk doende Huxleys visie werkelijkheid te doen worden. Geluk is tegenwoordig het allerhoogste goed en we misbruiken de biotechnologie en de sociale media steeds vaker om alle burgers/consumenten maximaal tevreden te houden. U vraagt wat daar mis mee kan zijn? Lees Heerlijke nieuwe wereld. De samenspraak over het klimaat tussen Mustapha Mond en John de Wilde behoort tot de diepzinnigste gesprekken over technologie, geluk en de zin van het leven in de moderne westerse filosofie.
Meulenhoff, 272 p., 20 euro. Vertaling Pauline Moody.
Hide text
