Can We Understand How Large Language Models Reason?

Researchers are using tools from causality theory to understand the keys to an algorithm working at a higher level of abstraction.

I wrote this article for Communications of the ACM. It was published on 7 July 2026

Large language models can write essays, solve math problems, and generate computer code, but it’s not fully understood how they do it. Researchers can observe the billions of parameters inside these systems changing during training, yet the internal logic of the models remains largely hidden. In a sense, the engineering is ahead of the science. Can science catch up and make LLMs and other deep neural networks mechanistically interpretable?

Thomas Icard, a professor of philosophy and computer science at Stanford University, is contributing to this effort using tools from logic and cognitive science. He is a researcher in the growing field of mechanistic interpretability. “It’s striking how much progress there already has been in the last few years on basically every dimension,” Icard said, “from how much a model’s behaviors and representations reflect patterns in training data, and how post-training reshapes that behavior, to deep connections between internalized abstractions and generalization.”

[...]

The full article can be read on the website of Communications of the ACM.

AI viert 70e verjaardag

Deze zomer viert AI zijn zeventigste verjaardag. Vier pioniers formuleerden in 1956 voor het eerst de grote uitdagingen van kunstmatige intelligentie. Twee Nederlandse pioniers blikken terug én vooruit.

Dit artikel schreef ik voor NRC Handelsblad en verscheen in de weekendeditie van 27/28 juni 2026

Toen de grondleggers van AI halverwege de jaren vijftig droomden over intelligente machines, bestonden er wereldwijd slechts enkele honderden computers. Die kamervullende apparaten hadden geen scherm, minder geheugen dan een moderne smartwatch en werden vooral gebruikt voor specialistisch rekenwerk.

In augustus 1955 schreven vier Amerikaanse computerwetenschappers, John McCarthy, Marvin Minsky, Nathaniel Rochester en Claude Shannon, een voorstel om in de zomer van 1956 een workshop van twee maanden te organiseren: ‘A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence’. Het was voor het eerst dat de term artificial intelligence als vakterm werd gebruikt, een idee van McCarthy, die toen universitair docent wiskunde was aan Dartmouth College (New Hampshire, VS).

De vier pioniers dienden het workshopvoorstel in bij de filantropische Rockefeller Foundation en vroegen om een subsidie van $13.500. De stichting kende iets meer dan de helft toe: $7.500, met als toelichting: “Ik hoop dat u niet vindt dat we al te voorzichtig zijn, maar hier leeft het algemene gevoel dat dit nieuwe vakgebied van wiskundige modellen voor het denken – hoe veelbelovend het op de lange termijn ook is – voorlopig nog moeilijk helder te doorgronden is. Dat pleit voor een bescheiden gok om deze nieuwe benadering te verkennen, maar er bestaat grote terughoudendheid om in dit stadium al een aanzienlijk bedrag te riskeren.”

Een jaar later was het zover. Tussen 18 juni en 17 augustus 1956 kwamen in de wiskundefaculteit van het Dartmouth College zo’n dertig wetenschappers bijeen om vrijuit na te denken over kunstmatige intelligentie. Sommigen bleven de hele zomer, anderen kwamen slechts eenmalig langs. Onder de deelnemers waren twee latere Nobelprijswinnaars: Herbert Simon, die samen met Allen Newell het eerste computerprogramma schreef dat wiskundige stellingen kon bewijzen, en John Nash, bekend van de speltheorie en vereeuwigd in de film A Beautiful Mind.

Daarnaast namen vijf latere winnaars van de Turing Award deel (de ‘Nobelprijs voor de informatica’): John McCarthy, Marvin Minsky, Allen Newell, John Backus en opnieuw Herbert Simon. Ook pioniers als John Holland (genetische algoritmen) en Arthur Samuel (computerdammen) schoven aan. Samuel zei later over de bijeenkomst: “Het was heel interessant, heel inspirerend, heel spannend.”

De zomerworkshop van 1956 wordt algemeen gezien als de geboorte van AI als wetenschappelijk vakgebied.

[...]
 

Het hele artikel is te lezen op de website van NRC Handelsblad.

Juist door AI wordt menselijkheid belangrijker

De geschiedenis van informatietechnologie laat zien hoe de mens zich telkens opnieuw uitvindt. Dat gaat ons met AI ook lukken.

Deze column schreef ik in mei 2026 voor Speakers Academy.

AI pikt onze banen in, AI maakt ons dommer, AI creëert misinformatie, AI vervlakt cultuur, AI zorgt voor machtsconcentratie, AI put hulpbronnen uit. Deze kritiek komt voortdurend voorbij in de nieuwskoppen, wat bij menigeen leidt tot algehele AI-angst. Je zou denken dat de apocalyps nabij is, maar niets is minder waar – in ieder geval niet door AI, eerder door menselijke domheid.

Zoom eens uit en bekijk de evolutie van informatietechnologie door de geschiedenis heen. Dat laat zien hoe de mens zich telkens opnieuw uitvindt. Met het schrift konden we informatie opslaan die voorheen alleen in ons hoofd zat en mondeling werd overgedragen. Handgeschreven boeken verspreidden kennis, maar bereikten slechts een kleine groep. De drukpers maakte die verspreiding schaalbaar, wat menig intellectueel destijds als een groot gevaar beschouwde. 

Met telegrafie, telefonie, radio en tv werd informatie razendsnel overdraagbaar en verloren afstand en tijd hun beperkende rol, met opnieuw grote zorgen over de negatieve effecten. Computers maakten het mogelijk om tekst, beeld en geluid te digitaliseren en transformeren. Het internet maakte verspreiding van gedigitaliseerde informatie hyper- schaalbaar. Is Google Making Us Stupid? (Nee, dit is geen AI-gehallucineerd citaat, maar een retorische vraag van Nicholas Carr uit 2008, snel in de originele bron teruggevonden dankzij informatietechnologie.) En met AI kunnen computers nu leren, patronen herkennen, taal begrijpen en genereren, en zelfs autonoom handelen (via zogeheten agents).

Elk van deze stappen in de evolutie van informatietechnologie – opslaan, verspreiden, versturen, verwerken en handelen – riep vergelijkbare angsten op: verlies van cognitieve vaardigheden, culturele vervlakking, misinformatie, machtsconcentratie en uitputting van hulpbronnen. De huidige – trouwens vooral westerse – AI-angst is in dat opzicht een groot déjà vu. Natuurlijk moeten we technologie kritisch beschouwen en bevatten die zorgen een kern van waarheid. Maar wie zou het schrift, het boek, de computer of het internet met terugwerkende kracht willen afschaffen omdat we minder onthouden, slechter hoofdrekenen of navigatie uitbesteden?

Steeds weer slaagde de mens erin de risico’s van nieuwe informatietechnologie te beheersen en de maatschappij te laten profiteren van de voordelen. Dat gebeurt via een voortdurende wisselwerking: technologie wordt uitgevonden, mensen verkennen en sturen het gebruik, de technologie wordt aangepast, en vervolgens past de mens zich weer aan. Zo herhaalt de cyclus zich via een proces van trial-and-error. Het is een co-evolutie tussen mens en technologie die wordt ondersteund door de ontwikkeling van nieuwe vaardigheden via onderwijs, door innovatie te stimuleren, door maatschappelijke spelregels op te stellen en door politieke bijsturing.

AI-ontwikkeling is net zo’n wisselwerking tussen mens en technologie. Laten we toegeven dat AI sommige dingen veel beter kan dan wij: grootschalige, snelle en consistente informatieverwerking, patroonherkenning, autonoom leren en eindeloze taakuitvoering. Dat wordt nog te vaak onderschat. Laten we ook beseffen dat mensen beter zijn dan AI in betekenis geven, context begrijpen, abstraheren en generaliseren, causaal redeneren enhandelen vanuit waarden en verantwoordelijkheid. Mensen hebben een leven; mensen zijn sociale wezens. AI niet.

De nieuwste AI-technologie maakt gespecialiseerde kennis goedkoper en toegankelijker. Maar zodra iets overvloedig wordt, ontstaat elders nieuwe waarde. Juist menselijke eigenschappen zoals aandacht, empathie, vertrouwen en persoonlijke interactie worden daardoor belangrijker en onderscheidender. Goedkope koffieautomaten zorgden niet voor minder koffiebars, maar juist voor meer vraag naar koffie als sociale ervaring. Klantenservice met een menselijk gezicht kan zich onderscheiden van een klantenservice die dichtgetimmerd is door een chatbot. Juist door AI wordt menselijkheid belangrijker.

We gebruiken tekstgenererende chatbots zoals ChatGPT pas drie jaar. Drie jaar! Dat is extreem kort. En met autonoom handelende AI-agents experimenteren we nog korter. Hoe kun je dan nu al concluderen dat AI ons dommer maakt of de cultuur vervlakt? Waarschijnlijk gebeurt dat een beperkte periode en in een beperkte context, en passen we ons daarna aan. Door de komst van de automatische piloot worden menselijke piloten anders getraind. Ze hebben leren samenwerken met de automatische piloot waardoor vliegen veel veiliger is geworden. En geleidelijk leren we omgaan met slimme rij-ondersteuning in de auto.

AI is een logische vervolgstap in de evolutie van informatietechnologie. Geef deze technologie de tijd om zich, samen met ons, te ontwikkelen. Zelfs als Big Tech morgen in het niets zou oplossen, ligt er een wetenschappelijk en technologisch fundament waarop iemand in Afrika, Azië of Zuid-Amerika nieuwe, krachtige AI-toepassingen kan bouwen. AI zal nooit meer weggaan en alleen maar beter worden. Over een paar decennia spreken we waarschijnlijk niet eens meer over AI, maar bewegen we volkomen natuurlijk tussen menselijke en kunstmatige intelligentie.

Terwijl het Westen zich zorgen maakt over AI, gaat het Zuiden aan de slag

In veel westerse landen zorgt AI voor angst. In een groot deel van het mondiale zuiden is AI stilletjes een instrument geworden dat gewoon werkt, geleid door een uit noodzaak geboren rationeel optimisme.

Dit artikel van mijn hand is gepubliceerd in NRC Handelsblad van maandag 12 januari 2026

In 2025 ging het AI-debat vooral over de dominantie van Amerikaanse BigTech, de koersvaste opkomst van China en de angst van Europa om achterop te raken. Maar wacht even – hoe zit het met het mondiale zuiden, de landen buiten de westerse wereld? Als iemand daar wat over kan zeggen, is het wel digitaal antropoloog Payal Arora, hoogleraar Inclusive AI Cultures aan de Universiteit Utrecht en medeoprichter van het Inclusive AI Lab. Al meer dan twintig jaar doet ze in landen als India, Brazilië en Bangladesh gebruikerservaringenonderzoek naar de impact van nieuwe digitale technologieën in het mondiale zuiden. Ze prijkt op de lijst van 100 Brilliant Women in AI Ethics 2025 en werd door het Amerikaanse zakentijdschrift Forbes geprezen als “the next billion champion”. In 2024 publiceerde ze haar nieuwste boek: From Pessimism to Promise – Lessons from the Global South on Designing Inclusive Tech, dat de Axiom Business Book Award won in de categorie ‘Emerging Trends in AI’.

Hoe kijkt het mondiale zuiden naar de AI-revolutie?

"In een groot deel van het Zuiden wordt de AI-revolutie niet ervaren als een dramatische breuk. Integendeel. De echte revolutie ligt in hoe snel AI alledaags is geworden. In mijn veldwerk spreken mensen zelden in grote woorden over AI. Ze praten erover als een hulpmiddel dat gewoon ‘werkt’ – iets dat onderdeel is geworden van de dagelijkse routine. Denk bijvoorbeeld aan een winkelier in Kigali (Rwanda) die generatieve AI gebruikt om productinformatie te schrijven, of een student in Bengaluru (India) die het gebruikt om huiswerk te vertalen. Binnen enkele maanden zijn deze praktijken volkomen normaal geworden.

"In het mondiale zuiden hebben mensen al lang geleerd om technologieën voor zich te laten werken onder allerlei beperkingen. Denk aan weinig bandbreedte, haperende infrastructuur en informele economieën. AI komt niet als een verstoring in dat ecosysteem, maar als een versneller. De kijk op AI in het Zuiden is meer pragmatisch dan ideologisch, minder gericht op een abstracte toekomst en meer op onmiddellijk nut. AI wordt niet gezien als automatisering die mensen vervangt, maar als aanvulling in een omgeving waarin menselijke ondersteuning schaars is."

Lees het hele artikel in NRC Handelsblad.