Kapitalistische Intelligentie? Wat zit er achter de AI-hype? (deel 1)

Een vertaling in vijf delen van een artikel van het Duitse Wildcat over Artificial Intelligence (AI), oftewel Kunstmatige Intelligentie (KI) in het Nederlands. Het werd eerder al in het Engels vertaald door onze vrienden van de Angry Workers uit het Verenigd Koninkrijk. We beginnen onze vertaling met hun introductie.

We hebben dit inzichtelijke artikel over AI van kameraden van Wildcat in Duitsland vertaald, omdat we het gevoel hebben dat het algemene debat wordt gedomineerd door zowel angstige demonisering als kritiekloze verering, als het gaat om automatiseringstechnologieën.

We kunnen dit verklaren door het feit dat binnen het linkse milieu, net als in de maatschappij in het algemeen, de scheiding tussen sociale en politieke commentatoren aan de ene kant en technische ‘experts’ aan de andere kant steeds dieper wordt. We hadden te maken met een soortgelijke, en zelfs fatale, scheiding tijdens de coronapandemie. Toen was links grotendeels verdeeld tussen mensen die de medische en wetenschappelijke aspecten verwaarloosden en zich vooral richtten op de pogingen van de staat om de lockdown te gebruiken als een manier om elke vorm van onvrede de kop in te drukken, en mensen die de overheidsmaatregelen kritiekloos steunden vanwege de afhankelijkheid van medische ‘experts’ en ons vertrouwen daarin. Die afhankelijkheid is logisch. Maar wat we nodig hebben tijdens een pandemie is een samenwerking van arbeidersklasse communities met patiënten die verslag kunnen doen van de onmiddellijke gevolgen van de pandemie, met de verpleegkundigen en gezondheidswerkers die de uitkomst van “medische beslissingen” binnen de ziekenhuizen kunnen beoordelen, en met de wetenschappelijke medewerkers binnen de wereldwijde medische industrieën en onderzoeksafdelingen die kritisch staan tegenover de onsamenhangende reactie van de staat die buigt voor uiteenlopende nationale en bedrijfsbelangen.

Zo’n samenwerking kan zich alleen vestigen als een strijdbare internationale beweging die het directe belang van de arbeidersklasse verdedigt, die de hiërarchieën tussen fysieke en intellectuele arbeid binnen de klasse in twijfel trekt, en die de verantwoordelijkheid op zich neemt om een plan vanuit de arbeidersklasse te ontwikkelen als een sociaal alternatief. Tot we zover zijn, is er een collectieve inspanning van georganiseerde kameraden nodig om de scheiding tussen maatschappijkritiek en wetenschappelijke kennis te ondermijnen. We kunnen ons noch een primitivistische buitenstaanders-afwijzing van kapitalistische technologie veroorloven, noch een instrumentalistische bevestiging van het type “volledig geautomatiseerd communisme“. Voor een tegentechniek vanuit de arbeidersklasse!

Angry Workers

Hier deel 1 van de vertaling van het artikel van Wildcat

Kapitalistische Intelligentie?

“Toekomstige generaties zouden dan de mogelijkheid hebben om met verbazing te zien hoe één kaste, door het mogelijk te maken om tegen de hele wereld te zeggen wat ze te zeggen had, het tegelijkertijd voor de wereld mogelijk maakte om te zien dat ze eigenlijk niets te zeggen had.”
(Bertolt Brecht in “Radio Theorie”)

Op 30 november 2022 werd ChatGPT vrijgegeven, een conversatie-AI, of zoals het in het jargon heet: een “groot taalmodel’. Voor het eerst was een generatieve AI, die onafhankelijke teksten kan maken en kan doen alsof hij de vragen begrijpt die hem worden gesteld, gratis publiekelijk beschikbaar. Binnen vijf dagen hadden een miljoen mensen zich geregistreerd op de website chat.openai.com. In januari 2023 was dit aantal gestegen tot honderd miljoen. Het was een geniale zet van OpenAI (Microsoft) om zijn chatbot publiek toegankelijk te maken. Geen marketingafdeling had er beter reclame voor kunnen maken dan het hysterische debat dat volgde. Alle concurrenten moesten wel volgen en ook chatbots lanceren.

De open brief van 22 maart 2023, waarin werd opgeroepen tot een moratorium van zes maanden op de ontwikkeling van AI, was een grote publiciteitsstunt voor de hele industrie. De ondertekenaars waren een who’s who van Silicon Valley (oproepen tot regulering is trouwens ook de gebruikelijke manier om kleinere concurrenten buiten de deur te houden). Ze formuleerden hun eisen als vragen. De eerste vraag: moeten we toestaan dat de machines onze informatiekanalen overspoelen met propaganda en onwaarheden? Deze vraag werd gesteld door Musk, die net een week voor deze open brief alle moderatoren op Twitter had ontslagen en de vrijwillige gedragscode van de EU tegen desinformatie had opgezegd. Op 17 april kondigde Musk aan dat hij begin maart zijn eigen AI-bedrijf, X.AI, had opgericht en met TruthGPT een groot taalmodel wilde maken dat niet zo “politiek correct” was als ChatGPT.

Eind mei waarschuwde de chatbot-elite, samen met een paar kunstenaars en de Taiwanese minister van Digitale Zaken Audrey Tang, zelfs voor “het uitsterven van de mensheid door AI”. Ze plaatsten AI op één lijn met pandemieën en een kernoorlog (let wel: niet met de klimaatcrisis, die achten ze ongevaarlijk). Onder de ondertekenaars bevonden zich Sam Altman (hoofd van OpenAI), Demis Hassabis (hoofd van Google DeepMind), het hoofd technologie van Microsoft en talloze AI-experts uit de onderzoeks- en zakenwereld. Een meer obscene vorm van reclame voor je eigen product is nauwelijks denkbaar.

Wat zit er achter de hype rond AI?

Waarom zien we nu zo’n hausse in AI? En waarom hebben juist chatbots deze hype veroorzaakt? Ten eerste: technologiebedrijven hadden dringend een nieuw bedrijfsmodel nodig. Ten tweede wordt taal gezien als een teken van intelligentie en er is duidelijk een grote maatschappelijke behoefte aan gesprekspartners. Ten derde, terwijl er steeds minder fundamentele innovaties zijn, stijgen de verwachtingen ervan.

1. Tech crisis

Tekst-, spraak- en beeldgeneratoren – “generatieve AI” – zijn de reddingsboeien waarmee de vijf grote techbedrijven Apple, Amazon, Facebook, Google en Microsoft zichzelf uit de ‘big tech’-crisis van 2021 en 2022 proberen te trekken, toen ze samen 200.000 werkers ontsloegen. De grote vijf domineren meer dan negentig procent van de AI-markt. Een zesde bedrijf, Nvidia, neemt het grootste deel van de taart voor zijn rekening door de hardware te leveren. Nvidia produceerde vroeger grafische kaarten, en doet dat nog steeds, maar iets meer dan tien jaar geleden werd ontdekt dat grafische verwerkingseenheden (GPU’s) enorme parallelle rekenkracht hebben. De eerste hausse was in computerspellen, de tweede in het creëren van cryptocurrency, en nu is het generatieve AI. GPU’s staan erom bekend dat ze grote hoeveelheden elektriciteit verbruiken.

Na jaren van verliezen hangt de stijging van de Amerikaanse aandelenmarkten in 2023 af van slechts zeven bedrijven (naast de hierboven genoemde bedrijven is Tesla het zevende). Medio juli 2023 waren deze zeven bedrijven goed voor zestig procent van de Nasdaq 100, een belangrijke index voor technologieaandelen. De hausse is gebaseerd op één verwachting: dat “AI alles zal veranderen”. Economisch gezien is de hausse nog niet voldoende om de recessie in de chipindustrie te compenseren. Investeringen in chipfabricage worden uitgesteld omdat omzet en winst instorten. De fabrikanten van geheugenchips rapporteren allemaal verliezen. Ondanks productieverlagingen daalde de operationele winst van Samsung met 95 procent in het tweede kwartaal en met 80 procent in het derde. Qualcomm kondigde een omzetdaling van bijna 23 procent en ontslagen aan.

2. Er is een sociale behoefte aan chatbots

Joseph Weizenbaum bouwde de eerste chatbot in 1966. Zijn ELIZA kon zich in korte, schriftelijke gesprekken al voordoen als een mens. Weizenbaum was verbaasd dat veel mensen aan dit relatief eenvoudige programma hun intiemste geheimen toevertrouwden. Ze waren ervan overtuigd dat de ‘dialoogpartner’ hun problemen echt begreep, omdat de antwoorden op hun vragen ‘menselijk’ leken. Dit zogenaamde “Eliza-effect” wordt tegenwoordig door veel chatbots uitgebuit. Een ongewenste bijwerking is een bestseller en een businessmodel geworden.

Sinds 2017 brengt het bedrijf Luka Inc. zijn chatbot Replika op de markt als een “metgezel”, een vervanging voor een romantische vriend. Je moet echter nog steeds een upgrade kopen voor “romantische interacties”. Er zijn vrouwen die geen kinderen kunnen krijgen en AI-kinderen creëren. Er zijn mannen die een soort AI-harem creëren, terwijl eenzame en verlaten mensen zich met chatbots inlaten om troost te vinden, en mensen die zich onbegrepen voelen, vinden geruststelling in de communicatie met AI. In de VS ging het verhaal van een vrouw die met haar chatbot trouwde viraal in de zomer van 2023. In het voorjaar kwam een Belgische man in het nieuws die zelfmoord pleegde nadat hij daartoe was geadviseerd door zijn chatbot.

Chatbots zijn getraind met enorme hoeveelheden menselijke dialooggegevens en kunnen daarom ook de uitdrukking van emoties nadoen. Niet alleen Replika, maar ook ChatGPT en andere bots lijken te zijn ontworpen als een soort oplichters van romantiek. Om begrip te veinzen of omwille van een goed verhaal, vinden deze modellen het leuk om spontaan bronnen en vermeende feiten te verzinnen. Deze “sociale hallucinaties” (Emily Bender) zijn wenselijk en worden gebruikt om klanten aan zich te binden.

“Je kunt je afvragen wat voor vrienden dat zijn, die je voortdurend verzekeren hoe geweldig je bent, die zelfs op het saaiste, nogmaals vertellen van een verwarde droom, toch antwoorden: ‘wow, dat is echt fascinerend’. Die, als goed opgevoede honden, niets leuker vinden dan wanneer je thuiskomt en hen begroet. Aan de andere kant waarderen gebruikers op forums en chats precies dat. (…) Er kunnen goede redenen zijn om je geluk niet afhankelijk te maken van een echt persoon. Maar als je je leven deelt met een AI, deel je gevoelige gegevens niet alleen met een lachende avatar, maar ook met een techbedrijf.” (“Een echtgenoot om aan de kant te zetten”, Duitse krant Süddeutsche, 1 augustus 2023)

Veel gebruikers begrijpen niet dat ze met hun vragen de AI ook voeden en trainen met nieuwe gegevens. Begin 2023 ontdekte Samsung dat ook programmacodes van zijn ontwikkelaars waren geüpload naar ChatGTP. Halverwege dat jaar verboden Samsung, Morgan Chase Bank, Verizon, Amazon, Walmart en anderen officieel hun werkers om chatbots te gebruiken op bedrijfscomputers. Ze mogen ook geen bedrijfsgerelateerde informatie of persoonlijke gegevens invoeren in generatieve AI op hun privécomputers.

3. Weinig echte innovaties

Bijna niemand gelooft nog dat de wereld binnen afzienbare tijd een aangename plek zal worden. Ecologische crises stapelen zich steeds verder op, oorlogen komen dichterbij en sociale problemen groeien.

Misschien is dat de reden waarom utopische energieën steeds meer verbonden raken met technologie, of het nu gaat om kernfusie, elektrische auto’s of AI. Toch creëren kapitalistische technologieën geen nieuwe wereld; ze houden de oude in stand. Weizenbaum zei in een interview in 1985 dat de uitvinding van de computer vooral de status quo had gered. Zijn voorbeeld: omdat het financiële en bancaire systeem bleef groeien, was die nauwelijks nog te beheersen via handmatige overschrijvingen en cheques. De computer loste dat probleem op. Alles kon gewoon doorgaan als voorheen – alleen gedigitaliseerd en daardoor sneller.

Begin 2023 publiceerde het tijdschrift Nature een studie waaruit blijkt dat “baanbrekende uitvindingen” steeds minder vaak voorkomen. Eerdere studies hadden dit al aangetoond bij bijvoorbeeld de ontwikkeling van halfgeleiders en medicijnen. Veel dingen zijn slechts verbeteringen van een uitvinding die al gedaan is, geen “echte innovaties”. De wetenschappelijke en technologische vooruitgang is vertraagd, ondanks de voortdurende stijging van de uitgaven voor wetenschap en technologie en de aanzienlijke toename van het aantal kenniswerkers. Het artikel in Nature ziet als oorzaak een teveel aan kennis en een teveel aan specialisatie. De hoeveelheid wetenschappelijke en technische kennis is de afgelopen decennia met sprongen toegenomen, en de wetenschappelijke literatuur is elke 17 jaar verdubbeld. Er is echter een groot verschil tussen de beschikbaarheid van kennis en het daadwerkelijke gebruik ervan. Wetenschappers richten zich steeds meer op specifieke onderwerpen en citeren vooral zichzelf (financiering door derden, publish or perish).(1)

Deze gemengde situatie leidt tot voortdurend gepraat over “technologische doorbraken”. Zelfs als – zoals bij mRNA – het onderzoek al zes decennia loopt, of – zoals bij chatbots – ze alleen gebruik maken van neveneffecten die al een halve eeuw bekend zijn.

Deel 2 verschijnt binnenkort

Wildcat

(Dit artikel verscheen oorspronkelijk in het herfstnummer van 2023 van Wildcat onder de titel: “Kapitalistische Intelligenz – Was steckt hinter dem Hype um KI?”)

Noot

• 1. M. Park, E. Leahey, R.J. Funk: “Papers and patents are becoming less disruptive over time”. In Nature 613, 138-144 (2023). Interessant commentaar hierop door Florian Rötzer op Telepolis: “Fewer breakthroughs, sluggish progress”.