U leest het goed! U wordt gehackt. Hier en nu, terwijl u dit leest.

Niet via een scammy email of door het downloaden van een illegale film met een Trojaans paard. Nee, dit keer is het uw eigen brein dat wordt gehackt.

De grootste technologische revolutie van deze eeuw is ons vermogen om mensen te “hacken”. Daarmee bedoel ik dat we op een punt gekomen zijn dat de algoritmes mensen beter begrijpen dan ze zichzelf kunnen begrijpen, en dat is niet zonder gevaar. Als overheden of bedrijven onze gevoelens en keuzes begrijpen, kunnen ze die ook voorspellen en manipuleren.

Tot voor kort had niemand alledrie de ingrediënten voorhanden - zelfs niet in de meest gecontroleerde regimes of dictatorschappen. Biologische kennis over hoe mensen beslissingen maken ~ hoe het brein werkt, is snel geëvolueerd met een explosie aan onderzoek en ontspruiting van ‘nieuwe domeinen’ zoals behavioral economics, computationele psychologie,...

Er was tot nu vooral onvoldoende data en rekenkracht om menselijke denkpatronen, gevoelens en keuzearchitectuur te begrijpen en te voorspellen. Ondertussen is het tijdperk van AI aangebroken en zullen we binnenkort op nog geen 50 dagen tijd meer data genereren dan alle data die er ooit al gegenereerd was (IDC, 2022).

Op vlak van rekenkracht maakten we ook reeds de nodige sprongen. In 1969 zette we voor het eerst mensen op de maan, een buitengewone prestatie die best wel wat computerkracht vergde.

Terugkijkend, kostte de Apollo-computers elk 3,5 miljoen dollar en waren ze zo groot als auto's, maar voor die tijd waren ze baanbrekend.

In de geschiedenis van de mensheid is evolutie nog nooit zo snel gegaan. Op een zeer korte tijd, hebben we ongelooflijke rekenkracht binnen handbereik, beschikken we over immens veel data en begrijpen we het menselijk brein goed genoeg om gedrag te kunnen voorspellen, waardoor de algoritmes ons beter beginnen te kennen dan we onszelf kennen.

Vandaag basseren we ons al voor veel van onze keuzes op wat de algoritmes ons voorschotelen. Als individuen vertrouwen we op de twitter en facebook algoritmen om het nieuws te kiezen dat we lezen, Amazon voor de producten die we kopen en Netflix voor het entertainment dat we consumeren. Als samenleving zijn we afhankelijk geworden van algoritmes om beslissingen te nemen die onze levens beïnvloeden, van strafrecht tot gezondheidszorg.

Maar hoe meer we op algoritmen vertrouwen, hoe meer we onze privacy, autonomie en democratie op het spel zetten. Algoritmes zijn niet neutraal of objectief; ze worden ontworpen en gebruikt door mensen met hun eigen biases, belangen en waarden. Algoritmen kunnen bestaande ongelijkheden en discriminatie versterken en nieuwe creëren. Algoritmen kunnen ook onze emoties en kwetsbaarheden manipuleren en uitbuiten, zonder dat we het weten of er toestemming voor geven.

Hoewel op het eerste zicht onschuldig, kan deze deze ‘macht’ om mensen in grote massas te ‘hacken’ in de verkeerde handen wel eens voor desastreuze consequenties zorgen die vele malen erger zijn dan eender wat we ooit in de geschiedenis moesten doorstaan. Er staan verschillende kandidaten in de rij voor de job van 21ste eeuwse Stalin. De vraag is niet of het zal gebeuren, maar wanneer.

We moeten mensen bewust maken van de gevaren van algoritmen en het belang van privacy en gegevensbescherming. We moeten onszelf onderwijzen in hoe die algoritmes werken, welke gegevens ze verzamelen, hoe ze die gebruiken en waarom. We moeten transparantie en verantwoording eisen van de bedrijven en overheden die algoritmes gebruiken en we moeten inspraak hebben in de manier waarop onze gegevens worden verzameld en gebruikt.

Hoewel we in een technologisch utopia leven, heb ik al te meer het gevoel dat de fundamentele filosofische vragen niet gesteld worden. Willen we wel dat al die keuzes voor ons gemaakt worden? Is het niet net dat wat onze levens tekent, speciaal maakt en betekenis geeft? Door zo gefixeerd te zijn op een continue staat van geluk en contentheid missen we misschien net wel het punt - Life is messy. Misschien wordt het tijd om na te denken over wat gelukkig zijn nu juist wil zeggen, want met onze huidige maatschappelijke definitie kunnen we wel eens bedrogen uitkomen als we niet opletten.

Indien we niet tijdig in staat zijn om helder te conceptualiseren hoe de utopie eruit ziet, lopen we het risico ons te laten misleiden door naïeve naïeve scenario’s. Evenzo, als we niet snel genoeg de contouren van de nieuwe dystopie kunnen kristaliseren, bestaat de kans dat we er gevangen in raken zonder we er aan kunnen ontsnappen. Daarom hebben we dringend een concreet plan nodig voor zowel de nieuwe hemel als de hel: Een leidraad voor de toekomst.