Hoe kapitalistische technologie onze alledaagse handelingsdemocratie sloopt
“Toen Brian Thompson CEO van UnitedHealthcare was, begon het bedrijf een AI te gebruiken om het weigeren van diensten te automatiseren. De AI bleek een foutenpercentage van 90 procent te hebben, maar het bedrijf bleef het gebruiken, met als gevolg dat mensen medisch noodzakelijke en volledig gedekte behandelingen werden ontzegd”, aldus de Socialist Party of America op Twitter. AI brengt grote problemen: het steelt kunst van kunstenaars, doet een enorm beroep op stroom, en verrijkt vooral de allerrijksten. Maar AI bedreigt ook de zogenaamde handelingsdemocratie, en dat bedreigt direct onze fundamentele rechten.
Om te weten waarom AI een gevaar is voor de “handelingsdemocratie” moeten we eerst die term verklaren. Handelingsdemocratie ontstaat wanneer meerdere mensen moeten samenwerken, bijvoorbeeld aan een project. De ‘samenwerkers’ moeten dan tot een bepaalde consensus komen.
Wie in een kantoor werkt, heeft vaak te maken met een ‘formele’ handelingsdemocratie. Bij elk project moeten een aantal afdelingen (inhoudelijk, communicatie, juridisch) hun plasje doen, en die stellen daarbij eisen zodat het project hun goedkeuring kan dragen.
Maar je hebt ook meer ‘informele’ of ‘praktische’ handelingsdemocratieën. Wie een grote bank moet verhuizen, heeft daar fysiek hulp bij nodig. Vrienden schieten dan te hulp, maar er moeten afspraken gemaakt worden over tijd, plaats, en wat voor pizza als vergoeding dient.
Die handelingsdemocratie kan lastig voelen, maar het is belangrijk om tot een gedragen besluit te komen. Door tot consensus te komen, wordt ieders expertise en persoonlijke ervaring meegewogen. Dat leidt tot een beter resultaat, én tot gelukkigere deelgenoten.
Maar het speelt ook een rol in het voorkomen van gigantische rampen. Eén voorbeeld is dat van Stanislav Petrov, die wist te voorkomen dat de Sowjet-Unie in 1983 haar nucleaire arsenaal gebruikte. Dit, doordat hij correct een computerfout herkende.
Eenzelfde soort verhaal is dat van Vasili Archipov, die in 1962 de inzet van een nucleaire torpedo wist te voorkomen, ondanks dat de kapitein van zijn onderzeeër dacht dat de Derde Wereldoorlog was uitgebroken.
In dit soort gevallen is handelingsdemocratie zelfs fysiek ingebouwd: de “two person rule” zorgt ervoor dat er altijd twee personen nodig zijn om bijvoorbeeld een kernwapen te lanceren. Over kernwapens later meer.
Maar niet alleen de wereld hangt af van handelingsdemocratie. Ook allerlei fundamentele rechten. In 2011 stelde de Amsterdamse korpschef Welten dat hij het zogenaamde “boerkaverbod” niet zou uitvoeren, omdat het in strijd is met de vrijheid van religie.
Het toeval wil dat het juist de pseudo-coalitiepartij PVV was die daarover viel, en eiste dat Welten zijn “biezen zou pakken”.
Het klassieke voorbeeld van handelingsdemocratie is wel de staking: het collectief stoppen met werken totdat aan de eisen is voldaan. Of: niet langer bijdragen aan werk waar je het om wat voor reden dan ook niet mee eens bent.
En natuurlijk worden er elke dag honderdduizenden beslissingen genomen die afhangen van de medewerking van mensen. Hoeveel bizarre ideeën en concepten zijn niet gedumpt, simpelweg omdat niemand eraan mee wilde werken? Waarschijnlijk een ontelbaar aantal.
Maar de geschiedenis van handelingsdemocratie in de afgelopen tweehonderd jaar is een geschiedenis van inperking. Je keuze wordt al flink ingeperkt door kapitalisme zelf. Voor werkweigering kun je ontslagen worden, dus als je je huur wilt blijven betalen, moet je soms bezwaren inslikken.
Dus binnen je werk heb je maar een bepaalde handelingsvrijheid. Je baas of manager kan je instemming afdwingen, of je in het ergste geval vervangen door iemand met minder (morele of praktische) bezwaren. Zo krijg je zogenaamde “yes men”, jaknikkers.
Ook de manier waarop ons werk is ingericht, verzet zich tegen handelingsdemocratie. Technologische ontwikkeling in de afgelopen tweehonderd jaar is erop gericht geweest om werk te versimpelen, zodat eigenaren niet van individuele arbeiders afhankelijk worden.
Die “deskilling” maakt stakingen minder effectief, maar het maakt ook dat individuele mensen minder invloed hebben op het eindproduct. Iemand die een kleed weeft, maakt keuzes over kleur, patroon, stof en grootte. Maar in een kledenfabriek is dat allemaal gecentraliseerd.
Dit centraliseren van arbeid zorgt dat een fabriekseigenaar veel meer invloed heeft op wat er precies geproduceerd wordt. Sterker nog, centralisatie van arbeid maakt het überhaupt mogelijk dat machtige fabriekseigenaren bestaan.
Ook in de wapentechnologie zien we een dergelijke ontwikkeling, en al heel vroeg. Vroege vuurwapens waren niet veel beter dan de pijl-en-boog, maar waren wel makkelijker in gebruik, waardoor legers minder afhankelijk werden van wapenspecialisten.
In de afgelopen tweehonderd jaar is steeds meer vuurkracht in steeds minder handen komen te liggen, met als hoogtepunt de ontwikkeling van kernwapens: de mogelijkheid om met twee personen en een druk op de knop tienduizenden mensen te vermoorden.
De atoombom is een perfect voorbeeld van hoe beslismacht kan worden weggenomen van mensen die daadwerkelijk de consequenties ondervinden. Er waren tienduizenden mensen nodig om de bom te maken, maar voor hen was de ontwikkeling een abstract werk.
Het is belangrijk om ons te realiseren dat deze ontwikkeling niet wordt veroorzaakt door technologie. Technologie volgt en versterkt alleen bestaande machtsstructuren. We kunnen technieken ontwikkelen die de macht van het individu vergroten. Alleen: wie betaalt voor die ontwikkeling?
In die zin is AI slechts een volgende stap in de “deskilling” van werk. De kapitalisten worden al lang gehinderd door het “denkwerk” dat ze niet kunnen automatiseren, zoals creatief werk of communicatief werk. AI maakt die automatisering mogelijk.
En dit heeft ernstige consequenties voor de handelingsdemocratie. Vroeger moest je een schilder of een fotobewerker inhuren om dit soort shit te maken, die wellicht nog morele grenzen hadden. Maar nu kun je het met een druk op de knop genereren.
En dat gaat verder dan alleen stomme propagandaplaatjes. Bij UnitedHealthcare leidt het tot mensen die geen toegang krijgen tot gezondheidszorg, omdat een algoritme die ‘keuze’ heeft gemaakt. Geen mens die morele bezwaren kan hebben.
Dit zien we ook in Nederland, waar inzet van algoritmen leidt tot een discriminatoire aanpak in “fraudecontrole”. Ook hier worden belangrijke keuzes uit de handen van mensen genomen, waardoor die morele bezwaren nooit op kunnen komen.
In Gaza gaat het zo ver dat moord letterlijk wordt geautomatiseerd. Israël ontwikkelt wapensystemen die autonoom mensen kunnen vermoorden, wat nog meer macht in de handen plaatst van mensen voor wie genocide bestaat uit getallen in een spreadsheet.
In al deze voorbeelden werken er niet daadwerkelijk minder mensen. Het bouwen en in stand houden van datacentra, en het opwekken van genoeg stroom, vereist enorme menskracht. Maar die zijn mentaal verwijderd van de gevolgen die hun werk heeft.
Deze problemen worden niet alleen veroorzaakt door “technologische vooruitgang”. Technologie gaat niet neutraal vooruit, maar versterkt bestaande machtsstructuren. In dit geval versterkt technologie de macht van kapitalisten, landen en legerleiders.
Maar die technologie is niet vereist. Het maakt het alleen veel makkelijker. De genocide in Gaza heeft geen moordrobots nodig, die wordt gewoon door mensen voltrokken. Toch speelt die abstractie door technologie een grote rol.
En ook in Nederland is technologie maar één kant van de munt. Algoritmen kunnen alleen kwaad doen in een systeem waarbij mensen afhankelijk gemaakt worden van algoritmen. Ons draconische toeslagenstelsel, met de keiharde fraudeaanpak, is evenzeer schuldig als de algoritmen.
Dit laat zich illustreren door de nazi-misdaden in Oost-Europa tijdens de Holocaust. De genocide van Joden werd eerst gepleegd door soldaten, met vuurwapens. Duitse generaals klaagden over het “psychologische effect” op de daders.
Daarom werden de gaskamers ontwikkeld: om het doden onpersoonlijker te maken. In Auschwitz werden de gaskamers bemenst door gevangenen van het concentratiekamp, die later ook vermoord werden. Alles om maar afstand te creëren tussen de moordenaars en de slachtoffers.
Dit om te zeggen dat de nazi’s in staat waren tot genocide, ook vóór de ontwikkeling van de gaskamers. De gaskamers maakten de genocide alleen ‘makkelijker’ voor de plegers. Mede daardoor zijn de gaskamers een symbool van ultiem kwaad.
De gaskamers waren een technologische uiting van fascisme: de almacht van de staat, het racisme waarop die staat was gebaseerd, de haat en het militarisme van die staat, en de jaren aan indoctrinatie stonden aan de basis van de genocide.
En ook hier, net als bij de atoombom, stonden de gaskamers niet op zich. De hele samenleving was betrokken bij de genocide, van gemeenteambtenaren tot collaborateurs tot kampbewakers tot treinmachinisten tot IG Farben tot soldaten. Miljoenen die van de dood waren geabstraheerd.
Dus ja, AI en algoritmen zijn een gevaar, zowel indirect voor de gezondheid van mensen als direct voor de Palestijnen. Maar vergeet niet dat het slechts symptomen zijn van een grotere anti-democratische beweging, die nu een halt moet worden toegeroepen.
Waarbij kapitalisme, en de afhankelijkheid van mensen richting hun werk, een van de belangrijkste factoren is die het mogelijk maakt voor een paar superrijken om de hele wereld naar hun autocratische inzicht in te vullen.
Bo Salomons
(Dit artikel verscheen eerder als draadje op Twitter.)