⚠️ Opgepast! U wordt gehackt! 🚨

U leest het goed! U wordt gehackt. Hier en nu, terwijl u dit leest.

Niet via een scammy email of door het downloaden van een illegale film met een Trojaans paard. Nee, dit keer is het uw eigen brein dat wordt gehackt.

De grootste technologische revolutie van deze eeuw is ons vermogen om mensen te “hacken”. Daarmee bedoel ik dat we op een punt gekomen zijn dat de algoritmes mensen beter begrijpen dan ze zichzelf kunnen begrijpen, en dat is niet zonder gevaar. Als overheden of bedrijven onze gevoelens en keuzes begrijpen, kunnen ze die ook voorspellen en manipuleren.

Nooit eerder in de geschiedenis waren we hiertoe in staat, want om mensen te "hacken" heb je drie ingrediënten nodig.

1. Diepe kennis over het brein & gedrag;
2. Immense hoeveelheid data;
3. Ongeziene rekenkracht

Tot voor kort had niemand alledrie de ingrediënten voorhanden - zelfs niet in de meest gecontroleerde regimes of dictatorschappen. Biologische kennis over hoe mensen beslissingen maken ~ hoe het brein werkt, is snel geëvolueerd met een explosie aan onderzoek en ontspruiting van ‘nieuwe domeinen’ zoals behavioral economics, computationele psychologie,...

Er was tot nu vooral onvoldoende data en rekenkracht om menselijke denkpatronen, gevoelens en keuzearchitectuur te begrijpen en te voorspellen. Ondertussen is het tijdperk van AI aangebroken en zullen we binnenkort op nog geen 50 dagen tijd meer data genereren dan alle data die er ooit al gegenereerd was (IDC, 2022).

Op vlak van rekenkracht maakten we ook reeds de nodige sprongen. In 1969 zette we voor het eerst mensen op de maan, een buitengewone prestatie die best wel wat computerkracht vergde.

Vandaag, amper 54 jaar later, is een TI-84 rekenmachine 350 keer sneller dan de Appollo computer die gebruikt werd in ‘69, met 32 keer meer RAM en maar liefst 14.500 keer meer ROM. Om dit in perspectief te plaatsen: stel je voor dat de iPhone 14 Pro een ruimtevaart computer zou zijn, dan zou dat betekenen dat je meer dan 90 miljoen Apollo-raketten tegelijk naar de maan zou kunnen sturen, allemaal vanop een toestel dat in uw broekzak past.

Terugkijkend, kostte de Apollo-computers elk 3,5 miljoen dollar en waren ze zo groot als auto's, maar voor die tijd waren ze baanbrekend.

In de geschiedenis van de mensheid is evolutie nog nooit zo snel gegaan. Op een zeer korte tijd, hebben we ongelooflijke rekenkracht binnen handbereik, beschikken we over immens veel data en begrijpen we het menselijk brein goed genoeg om gedrag te kunnen voorspellen, waardoor de algoritmes ons beter beginnen te kennen dan we onszelf kennen.

Vandaag basseren we ons al voor veel van onze keuzes op wat de algoritmes ons voorschotelen. Als individuen vertrouwen we op de twitter en facebook algoritmen om het nieuws te kiezen dat we lezen, Amazon voor de producten die we kopen en Netflix voor het entertainment dat we consumeren. Als samenleving zijn we afhankelijk geworden van algoritmes om beslissingen te nemen die onze levens beïnvloeden, van strafrecht tot gezondheidszorg.

Maar hoe meer we op algoritmen vertrouwen, hoe meer we onze privacy, autonomie en democratie op het spel zetten. Algoritmes zijn niet neutraal of objectief; ze worden ontworpen en gebruikt door mensen met hun eigen biases, belangen en waarden. Algoritmen kunnen bestaande ongelijkheden en discriminatie versterken en nieuwe creëren. Algoritmen kunnen ook onze emoties en kwetsbaarheden manipuleren en uitbuiten, zonder dat we het weten of er toestemming voor geven.

Hoewel op het eerste zicht onschuldig, kan deze deze ‘macht’ om mensen in grote massas te ‘hacken’ in de verkeerde handen wel eens voor desastreuze consequenties zorgen die vele malen erger zijn dan eender wat we ooit in de geschiedenis moesten doorstaan. Er staan verschillende kandidaten in de rij voor de job van 21ste eeuwse Stalin. De vraag is niet of het zal gebeuren, maar wanneer.

Het is een race tegen de klok, waarbij we als maatschappij nu nog de kans hebben om in te grijpen. We moeten duidelijke regels en richtlijnen opstellen voor de ontwikkeling, toepassing en evaluatie van AI en we moeten die strikt afdwingen. We moeten onafhankelijke toezichthouders en auditors in staat stellen om de impact van AI op de samenleving te monitoren en te beoordelen en degenen die de regels overtreden op het matje te roepen.

We moeten mensen bewust maken van de gevaren van algoritmen en het belang van privacy en gegevensbescherming. We moeten onszelf onderwijzen in hoe die algoritmes werken, welke gegevens ze verzamelen, hoe ze die gebruiken en waarom. We moeten transparantie en verantwoording eisen van de bedrijven en overheden die algoritmes gebruiken en we moeten inspraak hebben in de manier waarop onze gegevens worden verzameld en gebruikt.

Hoewel we in een technologisch utopia leven, heb ik al te meer het gevoel dat de fundamentele filosofische vragen niet gesteld worden. Willen we wel dat al die keuzes voor ons gemaakt worden? Is het niet net dat wat onze levens tekent, speciaal maakt en betekenis geeft? Door zo gefixeerd te zijn op een continue staat van geluk en contentheid missen we misschien net wel het punt - Life is messy. Misschien wordt het tijd om na te denken over wat gelukkig zijn nu juist wil zeggen, want met onze huidige maatschappelijke definitie kunnen we wel eens bedrogen uitkomen als we niet opletten.

In de tijd van Plato en Aristoteles werd de koers van de maatschappij stevig aan de tand gevoeld en gechallenged met fantasierijke ideeën die praktisch onmogelijk waren door gebrek aan innovatie of middelen. Echter, de huidige situatie is precies het tegenovergestelde. Vandaag hebben we technologie en de middelen om een utopische of dystopische realiteit te vormen, terwijl filosofen zich geconfronteerd zien met de uitdaging om deze nieuwe mogelijkheden in te beelden. Het gaat misschien wel té snel.

Indien we niet tijdig in staat zijn om helder te conceptualiseren hoe de utopie eruit ziet, lopen we het risico ons te laten misleiden door naïeve naïeve scenario’s. Evenzo, als we niet snel genoeg de contouren van de nieuwe dystopie kunnen kristaliseren, bestaat de kans dat we er gevangen in raken zonder we er aan kunnen ontsnappen. Daarom hebben we dringend een concreet plan nodig voor zowel de nieuwe hemel als de hel: Een leidraad voor de toekomst.