De goocheltruc van het AI-doemdenken

Het doembeeld van AI die zich aan menselijke controle onttrekt, leidt de aandacht af van de mensen, organisaties en bedrijven die bepalen wat AI kan en mag.

Dit opiniestuk werd op 30 september 2026 gepubliceerd op de website van BESTE-ID.

Veel van de berichtgeving van de afgelopen weken over de “hackende” agenten van OpenAI wekt de indruk dat deze agenten zo slim zijn geworden dat ze zich aan menselijke controle onttrekken. En dat voedt weer het doemdenken dat AI uiteindelijk zelfs het voortbestaan van de mensheid bedreigt.

Sciencefictionschrijver Isaac Asimov gaf al in 1947 een naam aan de hardnekkige culturele angst dat kunstmatige wezens zich tegen hun makers keren: het Frankensteincomplex. Als antwoord daarop verzon hij in zijn verhalen de beroemde robotwetten. Het interessante aan die wetten is dat Asimov veiligheid vooral als een ontwerpprobleem zag. Robots moesten zo worden gebouwd dat ze zich veilig gedragen.

Dat principe moeten we ook op AI toepassen. Het zijn mensen die AI-systemen ontwerpen en programmeren; mensen bepalen hun doelen, bevoegdheden en beperkingen; mensen besluiten met welke andere systemen ze mogen communiceren en welke handelingen ze zelfstandig mogen uitvoeren. En uiteindelijk zijn het ook mensen die ze toestaan om een bepaalde hoeveelheid rekenkracht en energie te gebruiken.

Dat AI steeds krachtiger wordt, staat buiten kijf. Maar daaruit volgt niet dat AI vanzelf oncontroleerbaar wordt. Kracht en controle zijn twee verschillende dingen. We bouwen voortdurend technologieën die krachtiger worden – auto’s, vliegtuigen, computersystemen, energiecentrales – en stellen daar technische, organisatorische en wettelijke grenzen aan. Ook bij AI hangt de mate van controle niet alleen af van wat een systeem kan, maar vooral van welke bevoegdheden we het geven, welke veiligheidsmechanismen we inbouwen en onder welke voorwaarden we het inzetten.

Zeggen dat AI-agenten, gebouwd door OpenAI, autonoom besloten Hugging Face te hacken, zoals veel berichtgeving suggereert, is bovendien het toeschrijven van menselijke intenties aan een technisch systeem zonder eigen wil of bedoelingen. AI is niets anders dan software die draait op fysieke hardware – no magic inside.

Wetenschappelijk onderzoek naar agentsystemen bestaat al tientallen jaren. Wetenschappers hebben allerlei technische oplossingen ontwikkeld om grenzen te stellen aan wat agenten bij het nastreven van hun doelen wel en niet mogen doen. Het lijkt er sterk op dat OpenAI daarvan veel minder gebruik heeft gemaakt dan had gekund. Ontspoorde AI-agenten zijn dus niet superslim, maar slecht ontworpen. En daarvoor is OpenAI verantwoordelijk.

Bij discussies over de gevaren van AI worden vaak Nobelprijswinnaar Geoffrey Hinton en Turing Award-winnaar Yoshua Bengio aangehaald, twee vooraanstaande AI-onderzoekers die waarschuwen voor het risico dat de mensheid door AI uitsterft. Maar hoe groot hun expertise op het gebied van AI ook is, dat maakt hen nog niet tot autoriteiten op het gebied van de maatschappelijke gevolgen van AI. Hinton voorspelde in 2016 dat AI binnen vijf jaar beter zou zijn dan radiologen en dat we daarom maar beter konden stoppen met het opleiden van nieuwe radiologen. Dat is niet gebeurd. AI wordt in de radiologie juist steeds meer gebruikt als hulpmiddel, waarbij radioloog en AI samenwerken om de patiëntenzorg te verbeteren. Tegenover Hinton en Bengio staan bovendien tal van gerenommeerde AI-onderzoekers die uitspraken over existentiële risico’s ongefundeerd en misleidend vinden.

Dat met krachtiger AI nieuwe risico’s gepaard gaan, staat eveneens buiten kijf. Maar we moeten ons niet blindstaren op het spectaculairste en meest speculatieve scenario. Er zijn nu al concrete risico’s die om actie vragen: machtsconcentratie bij een handvol technologiebedrijven, foutieve geautomatiseerde beslissingen, discriminatie, desinformatie op grote schaal, te ruime bevoegdheden voor autonome AI-systemen en ontwrichting van delen van de arbeidsmarkt.

Om zulke risico’s te beperken zijn aan de ene kant ethische principes nodig, zoals verantwoordingsplicht, transparantie en menselijke verantwoordelijkheid. Bedrijven en organisaties kunnen en moeten daar zelf werk van maken, maar doen dat lang niet altijd. OpenAI lanceerde ChatGPT eind 2022 zonder zich veel te bekommeren om de maatschappelijke gevolgen. Onderwijsinstellingen, werkgevers en andere organisaties stonden van de ene op de andere dag voor een gigantische uitdaging en de samenleving werd onderdeel van een wereldwijd experiment.

Aan de andere kant is wet- en regelgeving nodig om verantwoord gedrag af te dwingen. Daarvoor bestaan nu al verschillende instrumenten. AI-systemen vallen onder bestaande regels voor bijvoorbeeld productaansprakelijkheid, productveiligheid, consumentenbescherming en privacy. Verder hanteert de Europese AI Act – die trouwens niets expliciet zegt over agentsystemen – een risicogebaseerde aanpak: naarmate een AI-toepassing in een zwaardere risicocategorie valt, gelden strengere verplichtingen rond onder meer risicobeheersing, menselijk toezicht en transparantie. Het knelpunt zit vervolgens in een effectieve handhaving. Veel Europese landen maken daar weinig werk van.

Kortom: de belangrijkste instrumenten om agentsystemen te laten doen wat ze moeten doen zonder uit de bocht te vliegen, bestaan al. Helaas werkt het doemscenario waarin AI de mensheid uitroeit als een gewiekste goocheltruc. Het stuurt onze blik naar de ogenschijnlijke magie van AI. Ongemerkt verdwijnt dan uit beeld wie verantwoordelijk is voor die systemen. En dat zijn mensen, organisaties en bedrijven.

The Myth of the Ground Truth

Much of machine learning is built around the assumption of a single ground truth, treating variation as noise. AI researcher Barbara Plank argues that this variation is valuable information that AI systems should learn from.

I wrote this article for Communications of the ACM. It was published on 15 September 2026

Barbara Plank started out as a computer scientist, with no particular ambition to study language. That changed when she took a course in computational linguistics. She became fascinated by how different language was from most problems she had encountered in computer science. There is rarely a single correct way to express a thought; language is full of variation. “For me, it is a living organism that’s deeply connected to humans,” Plank says. “We express ourselves in it, we store knowledge in it, we use it to communicate. Language is constantly changing and it’s hard to capture. That fascinates me.”

That fascination with something so difficult to pin down precisely led her to specialize in computational linguistics, or natural language processing – two terms that, for Plank, describe essentially the same object of study. Plank, Professor of AI and Computational Linguistics at LMU Munich in Germany, gave an invited talk entitled “The Myth of the Ground Truth: What Human Disagreement Teaches Us About AI” at IJCAI-ECAI 2026 in Bremen in August. After her lecture, we sat down for an interview.

[...]

The full article can be read on the website of Communications of the ACM.

Can We Understand How Large Language Models Reason?

Researchers are using tools from causality theory to understand the keys to an algorithm working at a higher level of abstraction.

I wrote this article for Communications of the ACM. It was published on 7 July 2026

Large language models can write essays, solve math problems, and generate computer code, but it’s not fully understood how they do it. Researchers can observe the billions of parameters inside these systems changing during training, yet the internal logic of the models remains largely hidden. In a sense, the engineering is ahead of the science. Can science catch up and make LLMs and other deep neural networks mechanistically interpretable?

Thomas Icard, a professor of philosophy and computer science at Stanford University, is contributing to this effort using tools from logic and cognitive science. He is a researcher in the growing field of mechanistic interpretability. “It’s striking how much progress there already has been in the last few years on basically every dimension,” Icard said, “from how much a model’s behaviors and representations reflect patterns in training data, and how post-training reshapes that behavior, to deep connections between internalized abstractions and generalization.”

[...]

The full article can be read on the website of Communications of the ACM.

AI viert 70e verjaardag

Deze zomer viert AI zijn zeventigste verjaardag. Vier pioniers formuleerden in 1956 voor het eerst de grote uitdagingen van kunstmatige intelligentie. Twee Nederlandse pioniers blikken terug én vooruit.

Dit artikel schreef ik voor NRC Handelsblad en verscheen in de weekendeditie van 27/28 juni 2026

Toen de grondleggers van AI halverwege de jaren vijftig droomden over intelligente machines, bestonden er wereldwijd slechts enkele honderden computers. Die kamervullende apparaten hadden geen scherm, minder geheugen dan een moderne smartwatch en werden vooral gebruikt voor specialistisch rekenwerk.

In augustus 1955 schreven vier Amerikaanse computerwetenschappers, John McCarthy, Marvin Minsky, Nathaniel Rochester en Claude Shannon, een voorstel om in de zomer van 1956 een workshop van twee maanden te organiseren: ‘A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence’. Het was voor het eerst dat de term artificial intelligence als vakterm werd gebruikt, een idee van McCarthy, die toen universitair docent wiskunde was aan Dartmouth College (New Hampshire, VS).

De vier pioniers dienden het workshopvoorstel in bij de filantropische Rockefeller Foundation en vroegen om een subsidie van $13.500. De stichting kende iets meer dan de helft toe: $7.500, met als toelichting: “Ik hoop dat u niet vindt dat we al te voorzichtig zijn, maar hier leeft het algemene gevoel dat dit nieuwe vakgebied van wiskundige modellen voor het denken – hoe veelbelovend het op de lange termijn ook is – voorlopig nog moeilijk helder te doorgronden is. Dat pleit voor een bescheiden gok om deze nieuwe benadering te verkennen, maar er bestaat grote terughoudendheid om in dit stadium al een aanzienlijk bedrag te riskeren.”

Een jaar later was het zover. Tussen 18 juni en 17 augustus 1956 kwamen in de wiskundefaculteit van het Dartmouth College zo’n dertig wetenschappers bijeen om vrijuit na te denken over kunstmatige intelligentie. Sommigen bleven de hele zomer, anderen kwamen slechts eenmalig langs. Onder de deelnemers waren twee latere Nobelprijswinnaars: Herbert Simon, die samen met Allen Newell het eerste computerprogramma schreef dat wiskundige stellingen kon bewijzen, en John Nash, bekend van de speltheorie en vereeuwigd in de film A Beautiful Mind.

Daarnaast namen vijf latere winnaars van de Turing Award deel (de ‘Nobelprijs voor de informatica’): John McCarthy, Marvin Minsky, Allen Newell, John Backus en opnieuw Herbert Simon. Ook pioniers als John Holland (genetische algoritmen) en Arthur Samuel (computerdammen) schoven aan. Samuel zei later over de bijeenkomst: “Het was heel interessant, heel inspirerend, heel spannend.”

De zomerworkshop van 1956 wordt algemeen gezien als de geboorte van AI als wetenschappelijk vakgebied.

[...]
 

Het hele artikel is te lezen op de website van NRC Handelsblad.

Juist door AI wordt menselijkheid belangrijker

De geschiedenis van informatietechnologie laat zien hoe de mens zich telkens opnieuw uitvindt. Dat gaat ons met AI ook lukken.

Deze column schreef ik in mei 2026 voor Speakers Academy.

AI pikt onze banen in, AI maakt ons dommer, AI creëert misinformatie, AI vervlakt cultuur, AI zorgt voor machtsconcentratie, AI put hulpbronnen uit. Deze kritiek komt voortdurend voorbij in de nieuwskoppen, wat bij menigeen leidt tot algehele AI-angst. Je zou denken dat de apocalyps nabij is, maar niets is minder waar – in ieder geval niet door AI, eerder door menselijke domheid.

Zoom eens uit en bekijk de evolutie van informatietechnologie door de geschiedenis heen. Dat laat zien hoe de mens zich telkens opnieuw uitvindt. Met het schrift konden we informatie opslaan die voorheen alleen in ons hoofd zat en mondeling werd overgedragen. Handgeschreven boeken verspreidden kennis, maar bereikten slechts een kleine groep. De drukpers maakte die verspreiding schaalbaar, wat menig intellectueel destijds als een groot gevaar beschouwde. 

Met telegrafie, telefonie, radio en tv werd informatie razendsnel overdraagbaar en verloren afstand en tijd hun beperkende rol, met opnieuw grote zorgen over de negatieve effecten. Computers maakten het mogelijk om tekst, beeld en geluid te digitaliseren en transformeren. Het internet maakte verspreiding van gedigitaliseerde informatie hyper- schaalbaar. Is Google Making Us Stupid? (Nee, dit is geen AI-gehallucineerd citaat, maar een retorische vraag van Nicholas Carr uit 2008, snel in de originele bron teruggevonden dankzij informatietechnologie.) En met AI kunnen computers nu leren, patronen herkennen, taal begrijpen en genereren, en zelfs autonoom handelen (via zogeheten agents).

Elk van deze stappen in de evolutie van informatietechnologie – opslaan, verspreiden, versturen, verwerken en handelen – riep vergelijkbare angsten op: verlies van cognitieve vaardigheden, culturele vervlakking, misinformatie, machtsconcentratie en uitputting van hulpbronnen. De huidige – trouwens vooral westerse – AI-angst is in dat opzicht een groot déjà vu. Natuurlijk moeten we technologie kritisch beschouwen en bevatten die zorgen een kern van waarheid. Maar wie zou het schrift, het boek, de computer of het internet met terugwerkende kracht willen afschaffen omdat we minder onthouden, slechter hoofdrekenen of navigatie uitbesteden?

Steeds weer slaagde de mens erin de risico’s van nieuwe informatietechnologie te beheersen en de maatschappij te laten profiteren van de voordelen. Dat gebeurt via een voortdurende wisselwerking: technologie wordt uitgevonden, mensen verkennen en sturen het gebruik, de technologie wordt aangepast, en vervolgens past de mens zich weer aan. Zo herhaalt de cyclus zich via een proces van trial-and-error. Het is een co-evolutie tussen mens en technologie die wordt ondersteund door de ontwikkeling van nieuwe vaardigheden via onderwijs, door innovatie te stimuleren, door maatschappelijke spelregels op te stellen en door politieke bijsturing.

AI-ontwikkeling is net zo’n wisselwerking tussen mens en technologie. Laten we toegeven dat AI sommige dingen veel beter kan dan wij: grootschalige, snelle en consistente informatieverwerking, patroonherkenning, autonoom leren en eindeloze taakuitvoering. Dat wordt nog te vaak onderschat. Laten we ook beseffen dat mensen beter zijn dan AI in betekenis geven, context begrijpen, abstraheren en generaliseren, causaal redeneren enhandelen vanuit waarden en verantwoordelijkheid. Mensen hebben een leven; mensen zijn sociale wezens. AI niet.

De nieuwste AI-technologie maakt gespecialiseerde kennis goedkoper en toegankelijker. Maar zodra iets overvloedig wordt, ontstaat elders nieuwe waarde. Juist menselijke eigenschappen zoals aandacht, empathie, vertrouwen en persoonlijke interactie worden daardoor belangrijker en onderscheidender. Goedkope koffieautomaten zorgden niet voor minder koffiebars, maar juist voor meer vraag naar koffie als sociale ervaring. Klantenservice met een menselijk gezicht kan zich onderscheiden van een klantenservice die dichtgetimmerd is door een chatbot. Juist door AI wordt menselijkheid belangrijker.

We gebruiken tekstgenererende chatbots zoals ChatGPT pas drie jaar. Drie jaar! Dat is extreem kort. En met autonoom handelende AI-agents experimenteren we nog korter. Hoe kun je dan nu al concluderen dat AI ons dommer maakt of de cultuur vervlakt? Waarschijnlijk gebeurt dat een beperkte periode en in een beperkte context, en passen we ons daarna aan. Door de komst van de automatische piloot worden menselijke piloten anders getraind. Ze hebben leren samenwerken met de automatische piloot waardoor vliegen veel veiliger is geworden. En geleidelijk leren we omgaan met slimme rij-ondersteuning in de auto.

AI is een logische vervolgstap in de evolutie van informatietechnologie. Geef deze technologie de tijd om zich, samen met ons, te ontwikkelen. Zelfs als Big Tech morgen in het niets zou oplossen, ligt er een wetenschappelijk en technologisch fundament waarop iemand in Afrika, Azië of Zuid-Amerika nieuwe, krachtige AI-toepassingen kan bouwen. AI zal nooit meer weggaan en alleen maar beter worden. Over een paar decennia spreken we waarschijnlijk niet eens meer over AI, maar bewegen we volkomen natuurlijk tussen menselijke en kunstmatige intelligentie.

Terwijl het Westen zich zorgen maakt over AI, gaat het Zuiden aan de slag

In veel westerse landen zorgt AI voor angst. In een groot deel van het mondiale zuiden is AI stilletjes een instrument geworden dat gewoon werkt, geleid door een uit noodzaak geboren rationeel optimisme.

Dit artikel van mijn hand is gepubliceerd in NRC Handelsblad van maandag 12 januari 2026

In 2025 ging het AI-debat vooral over de dominantie van Amerikaanse BigTech, de koersvaste opkomst van China en de angst van Europa om achterop te raken. Maar wacht even – hoe zit het met het mondiale zuiden, de landen buiten de westerse wereld? Als iemand daar wat over kan zeggen, is het wel digitaal antropoloog Payal Arora, hoogleraar Inclusive AI Cultures aan de Universiteit Utrecht en medeoprichter van het Inclusive AI Lab. Al meer dan twintig jaar doet ze in landen als India, Brazilië en Bangladesh gebruikerservaringenonderzoek naar de impact van nieuwe digitale technologieën in het mondiale zuiden. Ze prijkt op de lijst van 100 Brilliant Women in AI Ethics 2025 en werd door het Amerikaanse zakentijdschrift Forbes geprezen als “the next billion champion”. In 2024 publiceerde ze haar nieuwste boek: From Pessimism to Promise – Lessons from the Global South on Designing Inclusive Tech, dat de Axiom Business Book Award won in de categorie ‘Emerging Trends in AI’.

Hoe kijkt het mondiale zuiden naar de AI-revolutie?

"In een groot deel van het Zuiden wordt de AI-revolutie niet ervaren als een dramatische breuk. Integendeel. De echte revolutie ligt in hoe snel AI alledaags is geworden. In mijn veldwerk spreken mensen zelden in grote woorden over AI. Ze praten erover als een hulpmiddel dat gewoon ‘werkt’ – iets dat onderdeel is geworden van de dagelijkse routine. Denk bijvoorbeeld aan een winkelier in Kigali (Rwanda) die generatieve AI gebruikt om productinformatie te schrijven, of een student in Bengaluru (India) die het gebruikt om huiswerk te vertalen. Binnen enkele maanden zijn deze praktijken volkomen normaal geworden.

"In het mondiale zuiden hebben mensen al lang geleerd om technologieën voor zich te laten werken onder allerlei beperkingen. Denk aan weinig bandbreedte, haperende infrastructuur en informele economieën. AI komt niet als een verstoring in dat ecosysteem, maar als een versneller. De kijk op AI in het Zuiden is meer pragmatisch dan ideologisch, minder gericht op een abstracte toekomst en meer op onmiddellijk nut. AI wordt niet gezien als automatisering die mensen vervangt, maar als aanvulling in een omgeving waarin menselijke ondersteuning schaars is."

Lees het hele artikel in NRC Handelsblad.

The path to a superhuman AI mathematician

Wiskunde is waarschijnlijk het eerste domein waarin bewijs van AI-superintelligentie zichtbaar wordt, zegt theoretisch computerwetenschapper Sanjeev Arora. Voor de Communications of the Association for Computing Machinery (ACM) schreef ik over zijn ideeën.

Mathematics is the first place where evidence of AI superintelligence is likely to appear, theoretical computer scientist Sanjeev Arora says. For the Communications of the Association for Computing Machinery (ACM) I wrote about his ideas.

“Will there be a superhuman AI mathematician?” asked theoretical computer scientist professor Sanjeev Arora from Princeton University at the 12th Heidelberg Laureate Forum this September. Well, what would that mean? Imagine the set of all possible math theorems. Only a subset has been proven by human mathematicians. Arora: “A superhuman AI mathematician is one that can prove more theorems than humans have.”

Arora, who won the 2011 ACM Prize in Computing, sketched a possible path to a superhuman AI mathematician. He explained that the idea traces back to David Hilbert’s early 20th-century dream of automating mathematics. That dream was crushed by the work of Gödel, Turing, and Church, yet it left behind something lasting: the concept of formal proof verification — the notion that mathematical proofs can be written in a precise language and then rigorously checked by a computer.

The modern open-source programming language and proof assistant Lean is ideally suited for precisely this purpose, Arora told. A proof written in English can be translated into Lean after which the Lean checker verifies whether or not the proof is correct. Arora: “Rewriting the proof in Lean is presently done by humans, but very soon this will be done by AI.”

The whole article can be read on the ACM website.