Welkom bij algocratie: de kracht van algoritmische vertekening

Algocratie verwijst naar het valse gevoel van controle dat mensen hebben over een deel van de beslissingen die we nemen. Kom meer te weten in dit artikel.

Geschreven en geverifieerd door de psycholoog Valeria Sabater.

Laatste update: 09 oktober, 2023

Een vacature zoeken. Een klacht indienen bij de klantenservice. Informeren over een lening of ander bankproduct. Een vliegtuig- of hotelticket boeken. Het nieuws, de informatie en de advertenties die je ziet wanneer je je sociale media… Algoritmen zitten achter oneindig veel dagelijkse taken en in meer sectoren dan we ons kunnen voorstellen. Dat leidt tot een fenomeen dat bekend staat als algoritmische bias of algocratie.

Het zijn die stille mechanismen die de wereld steeds meer in beweging zetten zonder dat we het eigenlijk merken. En het meest opvallende is dat ze leren om steeds effectiever te zijn met de gegevens die we ze verstrekken.

Ze passen zich voortdurend aan de mens aan – aan degenen die gecodeerd zijn als “gebruikers” – en proberen een steeds persoonlijkere, snellere en bevredigendere ervaring te bieden zodat de inspanning minimaal is.

De tentakels reiken tot datingtoepassingen, waar ze zelfs onze partnerkeuze kunnen bemiddelen door ons een reeks zeer specifieke kandidaten voor te stellen die zogenaamd gebaseerd zijn op onze voorkeuren. Deze inval in de digitale wereld is zo groot dat men zelfs gelooft dat algoritmische vooroordelen onze politieke beslissingen beïnvloeden…

Wat is algoritmische bias of algocratie?

Algoritmen kunnen ons leven gemakkelijker maken. Als je bijvoorbeeld een natuurliefhebber en verdediger van het milieu bent, is de kans groot dat je steeds meer informatie over dit onderwerp op je sociale media vindt. Dit is natuurlijk niet per se een slechte zaak. De dingen veranderen echter als je zorgen niet bepaald gezond zijn.

Laten we het vreselijke geval van Molly Russell niet vergeten. Deze tiener zocht naar onderwerpen die te maken hadden met zelfmoord en er kwam een moment dat alles wat haar sociale netwerken haar lieten zien, inhoud was die te maken had met dat thema. Bijna zonder het te beseffen, kunnen we gevangen blijven in een informatiezeepbel waarin andere trends en gevarieerde inhoud niet meer binnenkomen.

Algoritmische bias of algocratie verwijst naar ons valse gevoel van controle over de informatie die we ontvangen en de beslissingen die we nemen. Dit omdat er een verontrustende code is die ons dagelijks leven binnensijpelt en ons voortdurend gegevens biedt die bijna nooit onpartijdig zijn. Maar laten we niet vergeten dat er bijna altijd verborgen belangen zijn.

Jij beslist niet; het algoritme beslist voor jou

Er is een fenomeen dat we steeds vaker zien bij de normalisering van kunstmatige intelligentie. AI geeft ons een vals gevoel van controle en zelfredzaamheid. Dat gevoel zal nog veel meer toenemen wanneer het gebruik van ChatGPT wordt genormaliseerd om ons te helpen bij onze scripties, academische werkstukken en eindeloze dagelijkse taken.

We zullen ons efficiënter voelen, maar in werkelijkheid zal het die chatbot zijn die de taken uitvoert die op ons betrekking hebben. Dit is niet altijd negatief, maar het vergroot wel de eerder genoemde algoritmische bias. Dat wil zeggen, de perceptie dat we ongestoord beslissen en handelen, terwijl dit niet het geval is.

Algoritmes zijn niet eerlijk

Cathy O’Neil is een wiskundige die een zeer populair boek heeft geschreven met de titel Weapons of Mathematical Destruction (2016). Hierin beschreef ze algoritmen als “massavernietigingswapens”. Om te beginnen zijn deze computationele waarden niet vrij van morele en culturele vooroordelen, om nog maar te zwijgen over de belangen die erachter zitten.

In het boek vertelt ze over het geval van een lerares die werd ontslagen als gevolg van een negatieve beoordeling van haar door een algoritme. Gegevens uit persoonlijke berichten, medische rapporten en meer werden geanalyseerd in deze evaluatie. Hetzelfde gebeurt bij de beoordeling van de toewijzing van hypotheken of hulp. Bepaalde etnische groepen zullen bijvoorbeeld altijd in het nadeel zijn.

De meeste bedrijven en organisaties valideren deze snelle analyses echter. Algoritmevooringenomenheid leidt ertoe dat ze concluderen dat wat een algoritme analyseert altijd geldig zal zijn, zelfs als het niet eerlijk is. Vaak worden deze gegevens niet eens persoonlijk verzameld.

Algocratie: algoritmen in dienst van de politiek

We zeggen vaak dat politici ver afstaan van de echte problemen van het volk. We trekken hun ideeën in twijfel omdat ze niet voldoen aan de behoeften van hun medeburgers. Een ander punt van kritiek zijn hun buitensporige uitgaven aan adviseurs, wanbeheer en zelfs hun fouten bij het nemen van beslissingen en het maken van wetten.

Onlangs vertelde een onderzoek (Engelse link) van adviesbureau Deloitte ons over iets heel opvallends. Er zou een toekomst kunnen zijn waarin algoritmen en kunstmatige intelligentie een groot deel van de taken van politici overnemen.

Ze kunnen simpelweg de gegevens analyseren die grote technologiebedrijven over ons verzamelen met onze mobiele telefoons. Op die manier kennen ze onze behoeften en kunnen ze adequatere sociale antwoorden geven.

Op dezelfde manier kan kunstmatige intelligentie worden getraind zodat politiek management niet frauduleus is. Haar analytische capaciteit zou een veelheid aan adviseurs vervangen en een oneindigheid aan werk voor overheidsinstanties besparen. Algocratie, opgevat als de kracht van algoritmen om het werk van politici te vervangen, lijkt misschien het meest dystopisch voor ons, maar het is een reële mogelijkheid.

De Universiteit van Utrecht voerde een onderzoek (Engelse link) uit. Daaruit bleek dat het laten vervangen van alle bureaucratische aspecten van overheidsorganisaties door algoritmen voordelig zou kunnen zijn.

De reden? Burgers hebben de neiging om meer vertrouwen te hebben in het beheer dat een machine kan uitvoeren dan in het beheer dat door een politicus wordt uitgevoerd. Dat is nog zo’n voor de hand liggende vooringenomenheid.

Conclusie

Algocratie is een blijvertje en wordt alleen maar sterker. We zullen blijven denken dat veel van de aankopen die we doen, de mensen die we aandacht geven op sociale netwerken of de ideeën die we voor waar houden het product zijn van onze wil.

Ook zullen we onszelf blijven zien als mensen met een vrije geest, terwijl we in werkelijkheid steeds geconditioneerder worden.

We zien dit vooral bij jonge mensen die steeds ongelukkiger worden omdat ze in een digitaal universum leven dat gebaseerd is op sociale vergelijking. We moeten begrijpen dat algoritmes geen entiteiten zijn die uit zichzelf ontstaan. Er zitten grote bedrijven achter die ze programmeren. En zo’n programmering heeft altijd een doel.

Als we op weg zijn naar een toekomst waarin mensen en kunstmatige intelligentie samenwerken, moeten degenen die AI trainen en programmeren transparant zijn. Ze moeten uitgaan van meer ethische, eerlijke, morele en gezonde waarden. We moeten deze mechanismen, die het gedrag van gebruikers steeds meer veranderen, reguleren. Dat wil zeggen, ieder van ons.