Can We Understand How Large Language Models Reason?

Researchers are using tools from causality theory to understand the keys to an algorithm working at a higher level of abstraction.

I wrote this article for Communications of the ACM. It was published on 7 July 2026

Large language models can write essays, solve math problems, and generate computer code, but it’s not fully understood how they do it. Researchers can observe the billions of parameters inside these systems changing during training, yet the internal logic of the models remains largely hidden. In a sense, the engineering is ahead of the science. Can science catch up and make LLMs and other deep neural networks mechanistically interpretable?

Thomas Icard, a professor of philosophy and computer science at Stanford University, is contributing to this effort using tools from logic and cognitive science. He is a researcher in the growing field of mechanistic interpretability. “It’s striking how much progress there already has been in the last few years on basically every dimension,” Icard said, “from how much a model’s behaviors and representations reflect patterns in training data, and how post-training reshapes that behavior, to deep connections between internalized abstractions and generalization.”

[...]

The full article can be read on the website of Communications of the ACM.

AI viert 70e verjaardag

Deze zomer viert AI zijn zeventigste verjaardag. Vier pioniers formuleerden in 1956 voor het eerst de grote uitdagingen van kunstmatige intelligentie. Twee Nederlandse pioniers blikken terug én vooruit.

Dit artikel schreef ik voor NRC Handelsblad en verscheen in de weekendeditie van 27/28 juni 2026

Toen de grondleggers van AI halverwege de jaren vijftig droomden over intelligente machines, bestonden er wereldwijd slechts enkele honderden computers. Die kamervullende apparaten hadden geen scherm, minder geheugen dan een moderne smartwatch en werden vooral gebruikt voor specialistisch rekenwerk.

In augustus 1955 schreven vier Amerikaanse computerwetenschappers, John McCarthy, Marvin Minsky, Nathaniel Rochester en Claude Shannon, een voorstel om in de zomer van 1956 een workshop van twee maanden te organiseren: ‘A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence’. Het was voor het eerst dat de term artificial intelligence als vakterm werd gebruikt, een idee van McCarthy, die toen universitair docent wiskunde was aan Dartmouth College (New Hampshire, VS).

De vier pioniers dienden het workshopvoorstel in bij de filantropische Rockefeller Foundation en vroegen om een subsidie van $13.500. De stichting kende iets meer dan de helft toe: $7.500, met als toelichting: “Ik hoop dat u niet vindt dat we al te voorzichtig zijn, maar hier leeft het algemene gevoel dat dit nieuwe vakgebied van wiskundige modellen voor het denken – hoe veelbelovend het op de lange termijn ook is – voorlopig nog moeilijk helder te doorgronden is. Dat pleit voor een bescheiden gok om deze nieuwe benadering te verkennen, maar er bestaat grote terughoudendheid om in dit stadium al een aanzienlijk bedrag te riskeren.”

Een jaar later was het zover. Tussen 18 juni en 17 augustus 1956 kwamen in de wiskundefaculteit van het Dartmouth College zo’n dertig wetenschappers bijeen om vrijuit na te denken over kunstmatige intelligentie. Sommigen bleven de hele zomer, anderen kwamen slechts eenmalig langs. Onder de deelnemers waren twee latere Nobelprijswinnaars: Herbert Simon, die samen met Allen Newell het eerste computerprogramma schreef dat wiskundige stellingen kon bewijzen, en John Nash, bekend van de speltheorie en vereeuwigd in de film A Beautiful Mind.

Daarnaast namen vijf latere winnaars van de Turing Award deel (de ‘Nobelprijs voor de informatica’): John McCarthy, Marvin Minsky, Allen Newell, John Backus en opnieuw Herbert Simon. Ook pioniers als John Holland (genetische algoritmen) en Arthur Samuel (computerdammen) schoven aan. Samuel zei later over de bijeenkomst: “Het was heel interessant, heel inspirerend, heel spannend.”

De zomerworkshop van 1956 wordt algemeen gezien als de geboorte van AI als wetenschappelijk vakgebied.

[...]
 

Het hele artikel is te lezen op de website van NRC Handelsblad.