Dit artikel is gepubliceerd in de VPRO Gids van 27 april 2019
Judea Pearl, een beroemde Israelisch-Amerikaanse informaticus van 82 jaar, wil best een telefonisch interview geven, maar dan wel om 1 uur ’s nachts. “’s Nachts werk ik, overdag slaap ik”, zegt hij met opgewekte stem aan de telefoon. Gelukkig woont hij in Los Angeles. Daar is het negen uur vroeger. Pearl schreef vorig jaar een boek dat veel stof deed opwaaien in de wetenschappelijke wereld van de kunstmatige intelligentie: The book of why, net in het Nederlands vertaald als Het boek waarom. Als er één les is die we uit zijn boek moeten onthouden, zegt hij, dan is het deze: “Je bent slimmer dan je data. Data snappen niets van oorzaak en gevolg, mensen wel.”
Pearl won in 2011 de hoogste onderscheiding in de informatica, de Turingprijs, voor het baanbrekende werk dat hij in de jaren tachtig deed op het terrein van het redeneren met onzekere informatie. Dankzij dit werk kunnen wetenschappers vragen beantwoorden als ‘Wat is de kans dat een patiënt die uit Afrika terugkeert met koorts en pijn malaria heeft?’
Hij is ook de vader van journalist en violist Daniel Pearl die in 2002, enkele maanden na 9/11, in Pakistan door moslimfundamentalisten werd ontvoerd en onthoofd. Nog in hetzelfde jaar richtte Judea Pearl samen met zijn vrouw de Daniel Pearl Foundation op, “ter promotie van wederzijds respect en begrip tussen diverse culturen via journalistiek, muziek en dialoog.”
Of de waarom-vraag in zijn boektitel nog enig verband heeft met de waarom-vraag bij de moord op zijn zoon? “Nee, dat verband is er niet”, antwoordt Pearl. “Aan die associatie heb ik niet eens gedacht.”
De reden dat Pearls boek zoveel stof deed opwaaien is dat hij het feest van de kunstmatige intelligentie leek te verpesten. Waar kunstmatige intelligentie in de afgelopen jaren succes op succes stapelde met innovaties als automatische gezichtsherkenning, spraakherkenning en de ontwikkeling van zelfrijdende auto’s, kwam Pearl met de boodschap dat al die lerende machines niets anders doen dan statistiek bedrijven. Niets intelligentie. Volgens hem zullen ze door alleen patronen in data te zoeken nooit in staat zijn om te redeneren over oorzaak en gevolg.
“Natuurlijk is het indrukwekkend wat lerende machines nu allemaal kunnen,” licht Pearl toe, “maar het is zorgwekkend dat machines die alleen van een heleboel data leren fundamentele beperkingen hebben die mensen niet hebben. Ze hebben ook modellen nodig van de wereld buiten die data, van de context.”
Wat zijn dan die fundamentele beperkingen? Pearl legt ze uit aan de hand van de belangrijkste illustratie in zijn boek: de ladder van causatie. De ladder illustreert wat een organisme dat beschikt over een causaal model kan berekenen dat een organisme zonder zo’n model niet kan. Stel je een ladder voor met drie treden. Op de onderste tree, ‘zien’ genaamd, staan een robot en een uil. Op de tweede trede, die ‘doen’ heet, staat een oermens met een stok. Op de derde en hoogste trede, ‘voorstellen’ geheten, staat een op Einstein lijkende wetenschapper die droomt over atomen, computers en ruimteschepen.
“Op de onderste trede zoeken we naar regelmatigheden in waarnemingen”, verklaart Pearl zijn ladder. “Kenmerkend voor deze trede is een vraag als ‘Wat gebeurt er als ik … zie?’ Dit is het niveau van een dier, maar ook van onze huidige computers en robots. Zo’n vraag kun je beantwoorden met alleen data. Je gaat associaties zoeken. Stel dat we data hebben van wie wel of niet rookt en wie wel of niet longkanker heeft, dan kan een computer een correlatie vinden tussen roken en longkanker. Maar hij heeft geen idee wat oorzaak en gevolg is.”
Wie op de tweede trede staat, kan de wereld niet alleen waarnemen, maar ook veranderen. Hierbij hoort een vraag als ‘Wat gebeurt er als ik … doe?’ Pearl: “We kunnen ons bijvoorbeeld afvragen wat er gebeurt als we sigaretten verbieden. Die vraag kan een machine die alleen maar is getraind met data over rokers en longkanker niet beantwoorden. De interventie om sigaretten te verbieden, breekt namelijk de regels van de omgeving waarin de machine is getraind.”
Wie tenslotte op de hoogste trede van de ladder van causatie staat, kan zich een wereld van denkbeeldige feiten voorstellen en zich bijvoorbeeld afvragen: ‘Wat zou er gebeurd zijn als ik de afgelopen twee jaar niet had gerookt?’ “Deze derde trede heeft te maken met een wereld van contrafeitelijkheden,” zegt Pearl, “een wereld die niet kan worden gezien omdat hij strijdig is met wat wordt gezien. Redeneren over contrafeitelijkheden is belangrijk omdat het ons de bouwstenen geeft voor zowel moreel gedrag als wetenschappelijk denken.”
Aan dat redeneren over oorzaak en gevolg, en de vraag hoe een machine kan opklimmen van de onderste naar de bovenste trede, heeft Pearl de afgelopen dertig jaar gewerkt. Hij heeft een wiskundige taal ontwikkeld waarin wetenschappers vragen over interventies en contrafeitelijkheden kunnen formuleren en beantwoorden, wat in de traditionele statistiek niet kan.
Pearl: “Dat correlatie geen causatie impliceert, klopt natuurlijk. Maar de traditionele statistiek heeft dit lang als een mantra gebruikt om het maar niet te hebben over wat oorzaak is en wat gevolg. Het redeneren in oorzaak en gevolg is echter een essentieel onderdeel van het gezond verstand van mensen. We kunnen niet zonder. Niet in het alledaagse leven en ook niet in het professionele leven. Denk aan beleidsmakers en rechters. Trouwens, kinderen van drie jaar begrijpen de hele ladder van causatie al.”
De rode draad in Pearls werk als informaticus is de vraag hoe machines mensachtige intelligentie kunnen krijgen. Hij is ervan overtuigd dat de causale revolutie die hij probeert te ontketenen de kunstmatige intelligentie naar een volgend niveau gaat tillen. “Machines kunnen alleen zinvol met ons communiceren over zaken als beleid en verklaringen, maar ook over verantwoordelijkheid of plicht, wanneer ze kunnen redeneren over oorzaak en gevolg. Ik geloof dat er geen betere manier is om onszelf te begrijpen dan door onszelf na te bootsen in een machine. Het probleem van de vrije wil gaat niet opgelost worden door de filosofie of de psychologie, maar door de kunstmatige intelligentie.”
Boekinformatie
Judea Pearl en Dana Mackenzie. Het boek waarom − De nieuwe wetenschap van oorzaak en gevolg. MAVEN Publishing. 480 pag. ISBN 978 94 9249 355 2.
Pearl won in 2011 de hoogste onderscheiding in de informatica, de Turingprijs, voor het baanbrekende werk dat hij in de jaren tachtig deed op het terrein van het redeneren met onzekere informatie. Dankzij dit werk kunnen wetenschappers vragen beantwoorden als ‘Wat is de kans dat een patiënt die uit Afrika terugkeert met koorts en pijn malaria heeft?’
Hij is ook de vader van journalist en violist Daniel Pearl die in 2002, enkele maanden na 9/11, in Pakistan door moslimfundamentalisten werd ontvoerd en onthoofd. Nog in hetzelfde jaar richtte Judea Pearl samen met zijn vrouw de Daniel Pearl Foundation op, “ter promotie van wederzijds respect en begrip tussen diverse culturen via journalistiek, muziek en dialoog.”
Of de waarom-vraag in zijn boektitel nog enig verband heeft met de waarom-vraag bij de moord op zijn zoon? “Nee, dat verband is er niet”, antwoordt Pearl. “Aan die associatie heb ik niet eens gedacht.”
De reden dat Pearls boek zoveel stof deed opwaaien is dat hij het feest van de kunstmatige intelligentie leek te verpesten. Waar kunstmatige intelligentie in de afgelopen jaren succes op succes stapelde met innovaties als automatische gezichtsherkenning, spraakherkenning en de ontwikkeling van zelfrijdende auto’s, kwam Pearl met de boodschap dat al die lerende machines niets anders doen dan statistiek bedrijven. Niets intelligentie. Volgens hem zullen ze door alleen patronen in data te zoeken nooit in staat zijn om te redeneren over oorzaak en gevolg.
“Natuurlijk is het indrukwekkend wat lerende machines nu allemaal kunnen,” licht Pearl toe, “maar het is zorgwekkend dat machines die alleen van een heleboel data leren fundamentele beperkingen hebben die mensen niet hebben. Ze hebben ook modellen nodig van de wereld buiten die data, van de context.”
Wat zijn dan die fundamentele beperkingen? Pearl legt ze uit aan de hand van de belangrijkste illustratie in zijn boek: de ladder van causatie. De ladder illustreert wat een organisme dat beschikt over een causaal model kan berekenen dat een organisme zonder zo’n model niet kan. Stel je een ladder voor met drie treden. Op de onderste tree, ‘zien’ genaamd, staan een robot en een uil. Op de tweede trede, die ‘doen’ heet, staat een oermens met een stok. Op de derde en hoogste trede, ‘voorstellen’ geheten, staat een op Einstein lijkende wetenschapper die droomt over atomen, computers en ruimteschepen.
“Op de onderste trede zoeken we naar regelmatigheden in waarnemingen”, verklaart Pearl zijn ladder. “Kenmerkend voor deze trede is een vraag als ‘Wat gebeurt er als ik … zie?’ Dit is het niveau van een dier, maar ook van onze huidige computers en robots. Zo’n vraag kun je beantwoorden met alleen data. Je gaat associaties zoeken. Stel dat we data hebben van wie wel of niet rookt en wie wel of niet longkanker heeft, dan kan een computer een correlatie vinden tussen roken en longkanker. Maar hij heeft geen idee wat oorzaak en gevolg is.”
Wie op de tweede trede staat, kan de wereld niet alleen waarnemen, maar ook veranderen. Hierbij hoort een vraag als ‘Wat gebeurt er als ik … doe?’ Pearl: “We kunnen ons bijvoorbeeld afvragen wat er gebeurt als we sigaretten verbieden. Die vraag kan een machine die alleen maar is getraind met data over rokers en longkanker niet beantwoorden. De interventie om sigaretten te verbieden, breekt namelijk de regels van de omgeving waarin de machine is getraind.”
Wie tenslotte op de hoogste trede van de ladder van causatie staat, kan zich een wereld van denkbeeldige feiten voorstellen en zich bijvoorbeeld afvragen: ‘Wat zou er gebeurd zijn als ik de afgelopen twee jaar niet had gerookt?’ “Deze derde trede heeft te maken met een wereld van contrafeitelijkheden,” zegt Pearl, “een wereld die niet kan worden gezien omdat hij strijdig is met wat wordt gezien. Redeneren over contrafeitelijkheden is belangrijk omdat het ons de bouwstenen geeft voor zowel moreel gedrag als wetenschappelijk denken.”
Aan dat redeneren over oorzaak en gevolg, en de vraag hoe een machine kan opklimmen van de onderste naar de bovenste trede, heeft Pearl de afgelopen dertig jaar gewerkt. Hij heeft een wiskundige taal ontwikkeld waarin wetenschappers vragen over interventies en contrafeitelijkheden kunnen formuleren en beantwoorden, wat in de traditionele statistiek niet kan.
Pearl: “Dat correlatie geen causatie impliceert, klopt natuurlijk. Maar de traditionele statistiek heeft dit lang als een mantra gebruikt om het maar niet te hebben over wat oorzaak is en wat gevolg. Het redeneren in oorzaak en gevolg is echter een essentieel onderdeel van het gezond verstand van mensen. We kunnen niet zonder. Niet in het alledaagse leven en ook niet in het professionele leven. Denk aan beleidsmakers en rechters. Trouwens, kinderen van drie jaar begrijpen de hele ladder van causatie al.”
De rode draad in Pearls werk als informaticus is de vraag hoe machines mensachtige intelligentie kunnen krijgen. Hij is ervan overtuigd dat de causale revolutie die hij probeert te ontketenen de kunstmatige intelligentie naar een volgend niveau gaat tillen. “Machines kunnen alleen zinvol met ons communiceren over zaken als beleid en verklaringen, maar ook over verantwoordelijkheid of plicht, wanneer ze kunnen redeneren over oorzaak en gevolg. Ik geloof dat er geen betere manier is om onszelf te begrijpen dan door onszelf na te bootsen in een machine. Het probleem van de vrije wil gaat niet opgelost worden door de filosofie of de psychologie, maar door de kunstmatige intelligentie.”
Boekinformatie
Judea Pearl en Dana Mackenzie. Het boek waarom − De nieuwe wetenschap van oorzaak en gevolg. MAVEN Publishing. 480 pag. ISBN 978 94 9249 355 2.
