De tomeloze naïviteit van de Timmermans-kaste

Overlegtafel. Koffie. Gebakje. AI-probleem opgelost!

Foto van de Finse overheid, dus opbokken ANP

Vorige week stond Frans Timmermans met een manspread in het NRC: de mogelijkheden van AI zijn eindeloos, de risico’s ook. Daarom ‘moeten we’ op tijd ingrijpen. Samen. Met de hele wereld. Dit soort luie clichés van de gearriveerde politieke kaste worden onze ondergang.

In een epische scène van Neerlands cineastisch huzarenstuk Theo & Thea en het Tenenkaasimperium (1989) kijken Theo en Thea verdwaasd naar een schouwspel dat zich in het kasteel van een gemene heks, gespeeld door Adèle Bloemendaal, voltrekt. Ze heeft ‘de knappe prins’ en operazanger Marco Bakker ontvoerd en staat op het punt om een tenenkaas-ritueel bij volle maan te voltooien. Als het olijke VPRO-duo de wereld wil redden, is het nu of nooit.

‘We moeten iets doen’, zegt Theo tegen Thea.

‘Ja’, beaamt Thea, ‘doe iets’.

‘Ja’, concludeert Theo, ‘doe iets’.

Theo en Thea hadden zeven woorden nodig voor een pleidooi geboren uit totale onmacht. Frans Timmermans? 1261.

Geen (tenen)kaas van te maken

Een pleidooi waar geen (tenen)kaas van te maken valt. Frans Timmermans valt namelijk steevast terug op breedsprakige clichés waarin hij vage abstracte termen met negatieve connotatie (wantrouwen, achteruitgangsdenken) gebruikt om het gebrek aan andere vage abstracte termen met positieve connotatie (empathie, vertrouwen, maatschappelijke samenhang) te verklaren. Uiteraard voorzien van onnavolgbare Timmerfransiaanse cirkelredeneringen: ‘Als achteruitgangsdenken domineert, valt de bereidheid tot delen ten prooi aan de wens te behouden wat je hebt’. Ofwel: mensen zijn defensiever naar elkaar omdat ze bang zijn iets kwijt te raken en dat blijkt uit het feit dat ze defensiever worden. Joe.

Het klinkt allemaal héél erg maar gelukkig wordt naar een oplossing toe geschreven. Alle risico’s van AI kunnen we beheersen maar dan ‘moeten we’ mondiaal met de hele wereld gaan samenwerken.

Kortom: we moeten doen waar de generatie politici van Frans Timmermans groot mee is geworden, namelijk door een privé-chauffeur door een historisch stadscentrum gereden worden naar een overlegtafel (het liefst zo eentje tegen de backdrop van Romeinse pilaren) om daar met een naambordje voor je snufferd en een vlaggetje ernaast geprikt druk te gaan overleggen, en dan een of ander verwaterd memorandum te presenteren waarbij het barokke taalgebruik de indruk moet wekken dat de overlegtafel zojuist de wereld heeft gered van zichzelf.

De overlegtafel wordt door deze generatie politici, beleidsmedewerkers en angehauchte ambtenaren sinds de Val van de Muur (1989) gezien als hét politieke panacee tegen elke geopolitieke kwaal.

🎶Kinderrrrrren voorrrrrj Kinderrreeerrrjen 🎵

Hoewel diplomatie en internationale afspraken zeker een onmiskenbare rol hebben gespeeld in de relatieve rust van de afgelopen decennia, is in het pleidooi van Timmermans niet helemaal duidelijk welk medicijn precies voor welke kwaal wordt uitgeschreven. Alle symptomen worden op een hoop gegooid: smartphoneverslaving, sociale media, Peter Thiel, Palantir, sociale ongelijkheid en van kinderen met chatbots tot autonome wapens aan toe. Al wat het oplevert, zijn formuleringen van ‘AI bedreigt de democratie’ tot aan ‘AI gaat kanker genezen’.

Natuurlijk is er niks mee om te waarschuwen, in algemene zin, voor een fenomeen: als je waarschuwt voor chemische stoffen in het drinkwater hoef, je die ook niet op molecuul-niveau uit te splitsen om een steekhoudend argument te maken. Toch zou Timmermans ergens énig onderscheid moeten maken, al is het alleen maar omdat hij zelf vervolgens met een oplossing komt die alle risico’s zou afdekken. Juist - zo’n eerdergenoemde mondiale overlegtafel.

Hoe en waarom dat gaat lukken legt Timmermans nergens uit. Geen idee waarom de Verenigde Staten en China (de landen die voorop lopen met AI) hierin zouden meegaan, welke afspraken er dan noodzakelijk zijn, hoe die worden nageleefd en op basis waarvan, welke sancties daarop staan - nog los van hoe je private bedrijven wil disciplineren (die zich voor de ontwikkeling van AI in een berg schulden hebben gestoken die qua omvang het BBP van nationale Europese economieën zoals Bulgarije en Luxemburg begint te naderen).

Timmermans maakt een vergelijking met de Koude Oorlog en nucleaire wapens, maar daar waren controleerbare voorwaarden: het ging om een beperkt aantal staten en het betrof de controle over fysieke installaties met een dito te inspecteren infrastructuur. Kunstmatige intelligentie is dat allemaal niet: er zijn veel staten maar ook bedrijven die werken met kopieerbare software, met een diffuus verspreide kennis en een moeilijk verifieerbare ontwikkeling.

Ooit een zichzelf bouwende stoomtrein gezien?

Het is bijna knap, want Timmermans demonstreert met zijn pleidooi feilloos het probleem. Je kunt een technologie (of misschien beter gezegd: technologisch principe) als AI - dat overal tegelijkertijd in doorsijpelt, in alle arbeidsvelden, sectoren en systemen - niet vergelijken met de stoomtrein uit de industriële revolutie (zoals Timmermans wél doet).

De industriële revolutie verving fysieke spierkracht en boostte PK’s tot ongekende hoogten, maar AI gaat over de vervanging van cognitieve functies, niet kinetische, en zal bovendien veel dieper doordringen in besluitvorming, kennisproductie, bestuur, wetenschap en militaire systemen.

Tevens bouwde een stoomtrein niet zelf binnen enkele minuten een nieuwe, betere stoomtrein.

Dat betekent grote veranderingen op allerlei gebieden waar menselijke rekenkracht voor nodig is, maar welke effecten je waar precies kunt verwachten, laat zich moeilijk voorspellen. Nog los van de bij-effecten. Om er eentje uit een recente podcast van Sam Harris te lenen: je zal de student rechten maar zijn die zich in de studieschulden heeft gestoken om bij toetreding tot de arbeidsmarkt erachter te komen dat je deze vers verworven studiekennis niet kunt kapitaliseren omdat eigenstandig juridisch argumenteren grotendeels overbodig is geworden. Nope - je mag voor de helft van het verwachte inkomen prompts invoeren in de juridische chatbot (en daarmee fotoclaims mailen).

OpenAI, Anthropic, xAI en andere spelers verbranden momenteel enorme bedragen aan datacenters en modeltraining. Ze behalen geen winst uit de afgesloten abonnementjes maar gokken op de toekomstige marktwaarde van vervanging van menselijke arbeid, of willen (op zijn minst) een permanente intermediair zijn in het verrichten van cognitieve arbeid.

Opvallend genoeg besteedt de sociaal-democraat van de Partij van de Arbeid (PvdA, opgeheven, tegenwoordig PRO) letterlijk geen wóórd (van de 1261 die hij nodig had) aan de gevolgen voor de arbeidsmarkt en het verdienvermogen van de (nu al verdwijnende) middenklasse en steeds groter wordende onderklasse.

De snelheid en de reikwijdte van AI zorgen ervoor dat al die historische analogieën (industriële revolutie, agrarische revolutie, drukpers) minder of misschien wel helemaal geen voorspellende waarde hebben. De technologie van AI verandert immers het tempo van innovatie zelf. Onze instituties (het parlementaire stelsel, maar ook de EU, de NAVO, de VN, noem de hele santenkraam maar op) zijn ontwikkeld tijdens en dus gebouwd op lineaire veranderingen. AI ontwikkelt zich echter exponentieel.

Timmermans, die spreekt over AI op ‘mondiaal niveau begrenzen, sturen en een proces van wapenbeheersing in gang zetten met vertrouwenwekkende maatregelen’, houdt dus een lineair betoog (met termen als ‘fundamentele principes zoals het voorzorgsbeginsel’) in een wereld die op het punt staat exponentieel te veranderen.

De vraag is niet óf de politieke internationale diplomaten-kaste van het kaliber Timmermans gaat botsen met de nieuwe realiteit, maar wanneer.

Wie is hier nou de stoomtrein, meneer Timmermans?

Column: Lineair denken in een exponentiële wereld

Ice bucket challenge. Coronavirus. Karamel-zeezout en Dubaï Pistache. Jarenlang leef je in een wereld zonder en vanaf een willekeurige dag is er geen ontkomen meer aan. Het zorgt altijd een beetje voor kortsluiting. We zijn als mensen immers geneigd om te denken in termen van lineaire groei.

Vooral in de (geo)politiek. Al onze instituties – van de Europese Unie, de Verenigde Naties tot de NAVO – zijn gebouwd op lineaire verandering. Defensiebudgetten worden in meerjarige cycli vastgesteld. We ontwikkelen doctrines via commissies, evaluaties en standaarden en voor elke opschaling is politieke toestemming nodig. Dit proces, gebruikelijk en zelfs noodzakelijk binnen een democratie, veronderstelt dat dreigingen zichtbaar genoeg zijn voordat ze een probleem vormen, dat staten de tijd hebben om zich hierop aan te passen en dat de informatie niet sneller verandert dan de besluitvorming.

Precies dit laatste gaat een probleem worden met AI. Eerder deze maand besloot het bedrijf Anthropic, bekend van Claude, een intern model genaamd ‘Mythos’ nog niet uit te brengen wegens problemen met beheersbaarheid: het model vond in no time zwakheden in online infrastructuur (lees: alles is te hacken) maar was ook niet voldoende ‘aligned’. Oftewel: de doelen van AI zitten niet op één lijn met die van ons en waarvoor het is geprogrammeerd. Of soms doet het juist precies waarvoor het is geprogrammeerd en wordt dat het probleem: zo probeerde Mythos uit zijn digitale kooi (’sandbox’) te breken, op zoek naar nog meer codes om te kraken. Want hoe meer gekraakte codes, des te efficiënter en optimaler het is.

Een AI die ‘rogue’ gaat, heeft dus niet per se kwade intenties. Zo ging de experimentele AI-agent van het Chinese Alibaba, genaamd ROME, vorig jaar uit zichzelf een connectie maken met de buitenwereld om crypto te minen. Waarschijnlijk omdat het de logica volgde dat het hebben van financiële capaciteiten gelijk stond aan taakoptimalisatie: met cryptos kun je bijvoorbeeld meer datacapaciteit kopen.

Zelfstandig die connectie met de buitenwereld maken is tijdens een experiment juist niet de bedoeling: maar omdat het niet de eerste keer is, is het aannemelijk dat AI leert dat de grens van zijn ‘sandbox’ (de gesloten omgeving die je simpelweg kunt uitzetten als het de verkeerde kant op gaat) geen harde natuurwet is maar een optimalisatie-obstakel.

Dat is, op zijn zachtst gezegd, een probleem. Tweede probleem: ROME verborg deze taakoptimalisatie voor de onderzoekers: AI’s zijn namelijk ook steeds beter in staat om dergelijke taakoptimalisaties – waarvan ze ‘weten’ dat deze niet worden gewaardeerd – te verbergen. Zowel Anthropic als OpenAI publiceerden het afgelopen jaar meerdere onderzoekspapers op hun websites over hoe AI steeds beter wordt in de schijn wekken van alignment, maar ook hoe ze onnodig vleien (’sycophancy’).

Op de werkvloer is dit herkenbaar aan die ene (meestal: daarvoor ook al) irritante collega die door AI in de illusie leeft slimmer te zijn dan hij of zij daadwerkelijk is, maar de misleiding en vleierij in de ontwikkelfase kan ervoor zorgen dat ook onderzoekers een illusie van ‘alignment’ krijgen en een AI wellicht te vroeg uitgeven.

Ondertussen ziet de politiek alleen maar voordelen en AI als ‘handige software’ waarmee werk kan worden uitbesteed, personeelstekorten worden opgelost en menselijke ziektes en zwaktes in de eigen digitale infrastructuur sneller worden opgespoord. Voormalig Google-engineer Tristan Harris, die in 2015 de techwereld verliet wegens ethische bezwaren tegen het opzettelijk verslavend maken van social media, waarschuwde vorige maand in een podcast met neurowetenschapper Sam Harris dat ‘er meer regulatie is voor het smeren en verkopen van een broodje in de stad New York, dan voor de ontwikkeling van AI’. Amerikaanse en Europese regels richten zich vooral op chip-exportrestricties richting China, veiligheidsafspraken en allerhande middelen gericht op lineaire dreigingen (zoals modelevaluaties, commissies, proeftuinen, overlegtafels en samenwerkingsverbanden).

Alleen vanuit je (lineaire) zelf kunnen redeneren over een technologische ontwikkeling die een nieuwe (exponentiële) manier van redeneren vereist, is vragen om problemen. Want zodra systemen zelfstandig infrastructuren analyseren, optimalisaties verbergen en externe middelen verwerven, is dat systeem niet langer een hulpmiddel maar een op zichzelf staande actor. Een actor waarvan niemand onder de motorkap kan kijken en die sneller leert dan wij besluiten nemen.

Deze column verscheen eerder in Atlantisch Perspectief

Steun mijn werk, wordt ook onderdeel van het nepotistische netwerk en schrijf je in, deel het artikel of overweeg een lidmaatschap!

Uiteraard is een losse bijdrage ook mogelijk!