Dit is Sophia, ze heeft een paspoort

Dit artikel is gepubliceerd in NRC Handelsblad van 6 november 2017

Sophia is een robothoofd dat er akelig menselijk uitziet. Ze beweegt, praat, luistert, maakt gezichtsuitdrukkingen en ziet de wereld via een camera in haar borstkas. Sophia produceert begrijpelijke zinnen – een prestatie op zichzelf – maar heeft geen idee waar ze het over heeft en heeft geen eigen leven.

Toch kende Saoedi-Arabië deze robot onlangs het staatsburgerschap toe. Sophia heeft juridisch gezien nu dezelfde rechten en plichten als een Saoedische man, maar het is onduidelijk wat daarvan de praktische consequenties zijn.

Het toekennen van het Saoedische staatsburgerschap aan een robot was in de eerste plaats een publiciteitsstunt: ‘kijk ons eens technologisch vooruitstrevend zijn’. Misschien was het ook een reactie op de aanstelling van een minister voor kunstmatige intelligentie door buurland de Verenigde Arabische Emiraten een paar dagen eerder. Maar van een land dat vrouwen niet dezelfde rechten toekent als mannen, is het toekennen van het staatsburgerschap aan een robothoofd wel het laatste wat je verwacht.

Wat de motieven van Saoedi-Arabië ook mogen zijn, de actie maakt duidelijk dat de recente ontwikkelingen in kunstmatige intelligentie ons voor nieuwe vragen stellen. Moeten slimme computers en robots rechten krijgen? Hoe zorgen we ervoor dat wij nog begrijpen hoe en waarom intelligente systemen de beslissingen nemen die ze nemen? Hoe voorkomen we dat intelligente systemen discrimineren of anderszins schade berokkenen? Hoe zorgen we ervoor dat kunstmatige intelligentie iedereen ten goede komt en niet alleen de happy few?

Wetenschappers en andere partijen zijn tal van initiatieven gestart voor het opstellen van ethische principes voor onze omgang met kunstmatige intelligentie. Bijvoorbeeld het in Boston gevestigde Future of Life Institute, met mensen als Tesla-oprichter Elon Musk en sterwetenschapper Stephen Hawking in de wetenschappelijke adviesraad. Ook onder andere de Californische non-profitorganisatie XPrize, de Verenigde Naties en het Europese Parlement zijn bezig met onze ethische principes in verhouding tot slimme computers.

Principes

Deze initiatieven proberen los van elkaar standaarden te ontwikkelen om kunstmatige intelligentie in goede banen te leiden. Zo heeft het Future of Life Institute 23 principes opgesteld die ervoor moeten zorgen dat kunstmatige intelligentie ten goede komt aan iedereen. Bijvoorbeeld het principe dat als een kunstmatig intelligent systeem schade veroorzaakt, duidelijk moet kunnen worden gemaakt waarom die schade is veroorzaakt. En dat zulke systemen zo ontworpen en gebruikt moeten worden dat ze recht doen aan de idealen van menselijke waardigheid, mensenrechten, vrijheden en culturele diversiteit. Ook moet een wedloop in autonome wapens worden voorkomen.

Universitair hoofddocent Virginia Dignum van de TU Delft, gespecialiseerd in ethiek van kunstmatige intelligentie en robotica, is betrokken bij drie andere initiatieven: de IEEE Global Initiative for ethically aligned design of AI, ADA-AI en het nieuwe instituut Design for Values van de TU Delft. Zij noemt drie principes die ze afkort met ART: accountability, responsibility en transparancy.

Accountability (rekenschap) betekent dat er uitgelegd moet kunnen worden waarom een systeem doet wat het doet. Wat zijn de aannames? Waarom neemt het systeem een bepaalde stap? Responsibility (verantwoordelijkheid) staat voor het principe dat mensen verantwoordelijk zijn en niet machines. Die mensen kunnen ontwikkelaars zijn, bouwers, eigenaars of gebruikers. Ten slotte betekent Transparantie dat je duidelijk moet kunnen maken volgens welke motieven, waarden en principes een systeem is ontworpen.

Ethische principes kunnen op verschillende manieren worden geïmplementeerd, legt Dignum uit. „Een mogelijkheid is wettelijke regelgeving, of het ontwikkelen van standaarden of keurmerken. Je zou zelfs kunnen voorstellen dat ontwikkelaars een soort eed afleggen, zoals artsen dat doen in hun eed van Hippocrates.” We staan pas aan het begin en uiteindelijk zullen er combinaties van deze mogelijkheden ontstaan, denkt Dignum.

Verbrokkeling

Leiden al die verschillende initiatieven niet tot verbrokkeling en daardoor tot minder effectieve acties? „Elke groep ontwikkelt zijn eigen ideeën, maar natuurlijk is er veel overlap”, zegt Dignum. Er zijn wel pogingen gedaan om groepen te laten samenwerken of zelfs een soort internationaal agentschap te vormen, maar die zijn tot nu toe niet echt gelukt, zegt ze. „Ik denk dat het daarvoor nog wat te vroeg is. Maar op de lange termijn is samenwerking noodzakelijk.”

Het is natuurlijk mooi dat er ethische principes worden opgesteld, maar belangrijker is dat bedrijven zich hier aan gaan houden. Wat dat betreft is Dignum optimisch: „Ethics are the new green. Ethische principes horen bij een trend van maatschappelijk verantwoord ondernemen. Het is niet voor niets dat ook consultancybedrijven als PwC en Accenture richtlijnen voor kunstmatige intelligentie voor bedrijven hebben opgesteld.”

Wat helpt is dat bedrijven die ethische principes willen implementeren hun algoritmen niet volledig openbaar hoeven te maken, zegt Dignum. „Als ze in staat zijn om aan controles mee te doen waarin ze kunnen bewijzen dat ze aan bepaalde regels voldoen, kunnen ze bijvoorbeeld een certificaat krijgen terwijl tegelijkertijd hun algoritmen bedrijfsgeheim blijven.”

Ook staten kunnen er zo hun eigen ideeën op na houden over wat wel of niet ethisch verantwoord is. Kijk naar de toekenning van staatsburgerschap aan robot Sophia door Saoedi-Arabië.

Dignum is niet enthousiast: „Machines worden gebouwd. Net zoals bij een auto of een hamer, zijn het mensen – de ontwikkelaars, de bouwers, de eigenaars en de gebruikers – die verantwoordelijkheid dragen. Het geven van staatsburgerschap aan een machine opent de weg voor deze partijen om hun eigen verantwoordelijkheid en aansprakelijkheid af te schuiven. Naar mijn mening zouden we dit als maatschappij niet moeten willen.”

Van alle bekende initiatieven die ethische principes voor kunstmatige intelligentie hebben opgesteld is er geen een die staatsburgerschap aan robot Sophia zou toekennen. De voorlopige consensus is: wij mensen blijven verantwoordelijk voor onze machines, hoe menselijk ze er ook uitzien.

-----------------------------------------------------------------------------------------------------------------

Initiatieven voor het opstellen van ethische principes voor kunstmatige intelligentie
Het Future of Life Institute heeft 23 principes opgesteld die ervoor moeten zorgen dat kunstmatige intelligentie ten goede komt aan iedereen.

Het IEEE Global initiative for Ethically Aligned Design of AI ontwikkelt industriële standaarden.

In de Stanford One Hundred Year Study on Artificial Intelligence (AI100) geven topwetenschappers aanbevelingen hoe kunstmatige intelligentie in goede banen kan worden geleid.

ADA-AI is een net gelanceerd initiatief van wetenschappers en mensen uit het bedrijfsleven dat onderzoekt hoe kunstmatige intelligentie ook ten goede kan komen aan minder bedeelden en minder gerepresenteerden.

AI Now heeft tien aanbevelingen gepubliceerd voor ethisch gebruik van kunstmatige intelligentie.

AI for Good belegde eerder dit jaar een conferentie om te onderzoeken hoe AI gebruikt kan worden om de 17 VN-doelen voor duurzame ontwikkeling te halen.

Het Europees Parlement onderzoekt zaken als aansprakelijkheid, veiligheid, verandering van de arbeidsmarkt door kunstmatige intelligentie en verkende de vraag of robots rechten moeten krijgen,

De Britse instelling voor financiering van wetenschappelijk onderzoek EPSRC stelde vijf principes op voor ontwerpers, bouwers en gebruikers van robots.

Het TU Delft Design for Values ontwikkelde drie principes waarop AI gebaseerd zou moeten zijn: accountability, responsibility en transparancy.

De mythe van de exponentiële technologische vooruitgang

Elke dag verschijnt er wel een nieuw digitaal product op de markt dat belooft ons leven te veranderen. It’s great, it’s truly great. Dat veel van die producten snel floppen of in ieder geval hun hoog gespannen verwachtingen niet waarmaken, horen we veel minder.

Lees het hele artikel op de website van De Kennis van Nu.

Klik op onderstaande afbeelding op mijn bijdrage over hetzelfde onderwerp aan het Radio 1-programma De Ochtend te bekijken/beluisteren.

Hebben we een waakhond voor kunstmatige intelligentie nodig?

Wat doe je als burger wanneer een computer je ten onrechte voor terrorist aanziet en je daardoor je paspoort kwijtraakt? Britse ethici, die gespecialiseerd zijn in digitale data, pleiten voor een onafhankelijke waakhond die Europese burgers beter moet beschermen tegen fouten van geautomatiseerde beslissingen. De nieuwe Europese privacywet, die in mei 2018 in werking treedt, vinden zij onvoldoende.

Lees op de website van De Kennis van Nu het hele artikel.

Klik op onderstaande afbeelding om mijn bijdrage aan het Radio 1-programma De Ochtend te beluisteren.

Bruggenbouwer tussen filosofie en geschiedenis - Spinozapremie voor filosoof Lodi Nauta

Lodi Nauta, hoogleraar Geschiedenis van de filosofie aan de Rijksuniversiteit Groningen, verheldert onze kijk op de geschiedenis door een brug te slaan tussen Middeleeuwse, humanistische en moderne filosofie.

Dit artikel is gepubliceerd in NWO Hypothese van juni 2016

De Spinozapremie is vernoemd naar een filosoof. Toch bent u pas de eerste filosoof die de premie sinds de instelling in 1995 ontvangt. Wat vindt u daarvan?

Twee jaar geleden won grutto-onderzoeker Theunis Piersma de Spinozapremie. Ik ben zelf een enthousiast vogelaar en het was alsof mijn belangstelling voor zowel vogels als nadenken over de wereld in Theunis samenkwamen. Nu win ik zelf die prijs. Ongelofelijk, en heel eervol. Ik zie het vooral als een erkenning voor de filosofie. Fijn dat de commissie mijn vak ook belangrijk vindt, naast de bètawetenschappen en de medische wetenschappen, die vaak in de prijzen vallen.

Hoe omschrijft u uw onderzoek tegenover mensen die niet bekend zijn met de filosofie?

We hebben allemaal gedachten over het leven. Wat is goed en kwaad? Wat is een geldige redenering? Hoe zit de wereld in elkaar? De antwoorden op deze vragen veranderen in de loop van de geschiedenis. Tegenwoordig grijpen politici en commentatoren te pas en te onpas terug op het belang van de Verlichting. Hoe is die nadruk op de Verlichting ontstaan? Veel huidige debatten kun je niet begrijpen zonder de historische achtergrond. Ik ben gefascineerd door hoe mensen vroeger dachten over filosofische thema’s als kennis en moraal. Vaak zitten daar breukvlakken in en ik bestudeer graag de verandering van ideeën over mens en wereld op die breukvlakken.

U probeert filosofie en geschiedenis samen te brengen. Welke nieuwe inzichten heeft dat opgeleverd?

Bijvoorbeeld dat het moderne idee dat taal meer is dan een jas die je aan of uit trekt ouder is dan gedacht. Dat idee associëren veel mensen met het werk van een twintigste eeuwse filosoof als Ludwig Wittgenstein. Maar de humanisten realiseerden zich al dat taal geen neutraal medium is, maar ons denken en onze kijk op de wereld beïnvloedt. Ik heb het werk van de humanist Lorenzo Valla, een voorloper van Erasmus, bestudeerd. Valla schreef in de vijftiende eeuw al dat als je taal en argumentatie wilt bestuderen, je dat in de context van het gebruik van woorden moet doen. Hoewel er wel degelijk verschillen zijn tussen het denken van Valla en dat van Wittgenstein, vond ik ook deze opvallende overeenkomst, terwijl er vijf eeuwen tussen liggen.

Wat vindt u uw belangrijkste wetenschappelijke bijdragen?

Mijn belangrijkste bijdrage ligt op het terrein van het humanisme in de Renaissance. Ik probeer bruggen te slaan tussen deze en andere historische periodes. Een andere bijdrage is mijn studie van de twaalfde eeuw. Ik ben een van de wetenschappers die heeft laten zien dat het beeld van de Middeleeuwen als een donkere periode niet klopt. Juist in de twaalfde eeuw wordt de rede steeds belangrijker ten koste van God en de bijbel. De twaalfde eeuw was een soort Renaissance van de Middeleeuwen.

Kunnen robots rechtspreken?

Richard Susskind, IT-adviseur van de rechtspraak in Groot-Brittannië, heeft gezegd: “In de komende twee decennia gaat in de rechtspraak meer veranderen dan in de afgelopen twee eeuwen.” En dat komt allemaal door toepassing van kunstmatige intelligentie.

Advocaten en rechters doen hun werk op basis van ingewikkelde wetteksten en jurisprudentie. Computers worden steeds beter in het lezen, begrijpen en analyseren van zulke teksten. De eerste super-Siri voor advocaten bestaat al en heet Ross. Stel Ross een juridische vraag, dan krijg je een antwoord, inclusief verwijzingen naar relevante teksten en een percentage van hoe zeker ROSS van zijn zaak is. Zodra Ross een nieuwe zaak in zijn geheugen krijgt, die relevant is voor jouw zaak, dan stelt de computer je op de hoogte. 

Beluister hier mijn bijdrage aan het Radio 1-programma De Ochtend van maandag 16 mei 2016 (klik op de afbeelding) over de vraag: "Kunnen robots rechtspreken?":

Lees ook mijn artikel over hetzelfde onderwerp op de website van De Kennis van Nu.

Kunnen computers creatief zijn?

Op woensdag 10 februari sprak ik in het Radio 1-programma De Ochtend over de vraag of computers creatief kunnen zijn. Een vooruitblik op mijn lezing tijdens de LIFT-conferentie in Genève.

Beluister mijn radiobijdrage door op onderstaande afbeelding te klikken

Can computers be creative?

I am invited to give a lecture about the question "Can computers be creative?" during the LIFT-conference 2016 in Geneva (10-12 February).

BBC News calls the LIFT-conference "one of the highlights of the technophile calendar".

“Logic brings you from A to B, but imagination brings you everywhere” - Albert Einstein

Because creativity is such a vaguely defined term, the question whether computers can be creative is a philosophical rather than a scientific question. Defining creativity in a narrow way, some computers are already creative. However, if we define creativity as human creativity, in a way exhibited for example by Einstein, Picasso or Kafka, computers have some fundamental problems. In my talk I will address these problems, as well as answer the question which capabilities machines would need in order to exhibit human creativity. Finally, I will argue that we focus too much on copying human creativity and intelligence in machines and propose a more realistic, productive and creative alternative.

Can you distinguish a painting made by a robot painter from a painting made by a human painter? Do the test here.

Paneldiscussie over "mens vs. machine" tijdens InScience Film Festival

Op donderdag 5 november zat ik in een discussiepanel bij het International Science Festival InScience in Nijmegen. De discussie werd opgenomen voor het radio-programma De Kennis van Nu.

Aan de hand van de films The Forecaster, Ik ben Alice en Ex Machina discussieerden we onder leiding van Karin van den Boogaert over vragen als: Is de mens al machine? En de machine al mens? Deze dag staat de interactie tussen mens en machine centraal. Moeten we ze omarmen, die zorgrobots? En hoe realistisch is de angst dat robots ons ooit zullen overheersen? Wat is intelligentie eigenlijk? En hoe slim kan kunstmatige intelligentie zijn – vraagt innovatie niet om irrationaliteit?

Beluister hier de hele uitzending van 1 uur terug.

Meer machine, meer mens

De afgelopen week beheerste de oprukkende robotisering het nieuws. Minister van Sociale Zaken en Werkgelegenheid Lodewijk Asscher zette de discussie als eerste op scherp. “Robots pikken onze banen in”, riepen alle media een dag later.

We horen nu de hele tijd dat robots mensen vervangen. De samenwerking tussen mensen en robots is echter een onderbelicht maar steeds belangrijker wordend onderwerp.

Beluister hier mijn Radio 1-bijdrage aan het programma VROEG over de rol van de mens in een wereld waarin robots oprukken.

De logica van een goed gesprek

Wat iemand weet, gelooft en wil, verandert voortdurend in een gesprek.

Dit artikel is gepubliceerd in NRC Handelsblad van vrijdag 26 september 2014

Hoogleraar logica Johan van Benthem is al decennialang een groot inspirator voor studenten en onderzoekers van over de hele wereld. Op vrijdag 26 september nam hij afscheid als universiteitshoogleraar aan de Universiteit van Amsterdam.

Hoe logisch is het dat een logicus op zijn 65e met pensioen moet in Amsterdam, maar wel doorwerkt in de Verenigde Staten en China?

Het is onredelijk, maar wel begrijpelijk. Ik geloof overigens in consistentie, en wereldwijd gaat de regelgeving toe naar het afschaffen van een leeftijdsgrens. Dat is in Amerika en China al zo. Aan de andere kant: in mijn geval heeft het wel iets natuurlijks om in Amsterdam met emeritaat te gaan. Het Institute for Logic, Language and Computation dat ik hier heb opgezet, floreert. En om wetenschap succesvol te laten zijn, is het goed dat pioniers zich niet te veel bemoeien met wat ze in gang hebben gezet.

In uw afscheidsrede noemt u logica het immuunsysteem van de geest. Wat bedoelt u daarmee?

Stel, je bent gezond, maar loopt opeens een verkoudheidsvirus op. Dan komt je immuunsysteem in actie om die verstoring van je gezondheid te corrigeren. Vergelijk dat eens met de discussie die je met iemand voert. Je interpreteert af en toe informatie verkeerd. Je maakt af een toe een fout in een redenering. Maar tijdens de discussie herstel je die fouten voortdurend. Als logicus bestudeer ik niet alleen wat al correct is, maar ook welke intelligente correctiemechanismen we hebben.

Dat klinkt veel dynamischer dan wat de meeste mensen zich bij logica zullen voorstellen, want dat is eerder statisch…

Om de vergelijking met lichaam en geest nog even door te trekken: het klassieke logische ideaal is dan dat je eeuwig en altijd gezond bent. Maar zo zit het menselijk lichaam niet in elkaar. De kracht zit er juist in dat ons lichaam dankzij het immuunsysteem juist ook kan functioneren in situaties waarin het misgaat. Ik denk dat onze geest ook zo in elkaar zit. Bij elke conversatie stroomt er informatie van allerlei aard heen en weer tussen mensen. De dynamische logica die ik beoefen, beschrijft die conversatie als rekenstappen die passen in strategisch gedrag. De centrale vraag is steeds: hoe verandert na elke informatie-uitwisseling wat mensen weten, geloven en willen?

Wat fascineert een logicus in een gewoon menselijk gesprek?

De feitelijke communicatie tussen mensen is vele malen complexer dan wat de klassieke logica oplost. Stel, dit is een sollicitatiegesprek, en ik solliciteer bij jou. Dan moet ik eigenlijk een contradictie proberen over te brengen. Aan de ene kant moet ik laten zien dat ik ongelofelijk capabel ben, dat ik een duidelijk plan heb en dat je naar mij helemaal geen omkijken hebt. Aan de andere kant moet ik ook laten merken dat ik volledig open ben, elke suggestie van jou zal aanvaarden en dat ik geen enkele bedreiging vorm voor jouw autoriteit. Dat is een contradictie, maar wanneer het gesprek goed verloopt, dan vinden we een balans tussen beide kanten. Om dezelfde reden zeg ik wel eens dat het schrijven van een goede sollicitatiebrief een orde-grootte moeilijker is dan het schrijven van een wiskundig bewijs.

Kunt u zelf nog wel een normaal gesprek voeren zonder in uw achterhoofd na te denken over de logische structuur ervan?

Soms denk ik inderdaad tijdens een gesprek ook na over de logica erachter. Dat probeer ik dan wel te verbergen, want als het zou opvallen, dan irriteert dat natuurlijk mateloos.

Wat is eigenlijk het maatschappelijke nut van logica?

Toen ik in de jaren zestig werd gegrepen door de exacte manier waarop je kunt nadenken over menselijk redeneren, was ik totaal niet geïnteresseerd in toepassingen van de logica. Ik werd er zelf een beter mens van en dat vond ik al nut genoeg. Daarna raakte ik geïnteresseerd in onderwijs geven en vond ik het opleiden van hele generaties studenten een belangrijke maatschappelijke bijdrage.

Maar hoe zit het met concrete toepassingen?

De logica kan bijvoorbeeld bijdragen aan de feitelijke verbetering van het maatschappelijk debat. Het geven van likes en dislikes op internet wordt steeds vaker gebruikt om opinies te peilen over een kwestie. Een belangrijk probleem is dat je de achterliggende redenen niet ziet, terwijl die veel belangrijker zijn. Nu heeft een collega van mij een bedrijf in Frankrijk opgericht dat zulke debatten analyseert en organiseert en probeert om de cultuur van het geven van redenen te versterken. Het type dynamische logica dat ik ontwikkel, kan daaraan bijdragen, en je kunt het ook toepassen op de interacties tussen mensen en computers, die een steeds belangrijkere rol spelen in onze samenleving.

In veel discussies, zowel privé als maatschappelijk, lijkt emotie vaak een belangrijkere rol te spelen dan rationele argumentatie. Hoe kijkt u daar als logicus tegenaan?

Als een menselijk gesprek goed verloopt, dan is er een soort emotionele resonantie tussen twee mensen. We weten ook dat als die emotionele resonantie niet plaatsvindt, de informatieoverdracht vaak mis gaat, terwijl dat strikt logisch gezien niet zou hoeven. Emotie is natuurlijk belangrijk, maar onderschat het redeneren niet. Stel, een man komt ’s avonds laat thuis en zijn vrouw vindt lippenstift op de kraag van zijn overhemd. In een flits komen dan de waarneming, de redenering en de emotie samen!

Wat vonden uw ouders van logica als uw levensbestemming?

In eerste instantie waren ze teleurgesteld. Mijn vader was in zijn hart kunstzinnig en had gehoopt dat ik schrijver zou worden. Mijn moeder was destijds nog godsdienstig en hoopte dat ik dominee zou worden, of anders zendeling.

En uiteindelijk werd u een zendeling in de kunst van het redeneren…

Haha, dank voor deze vraag. Ja, misschien heb ik mijn ouders toch niet zo teleurgesteld als ik in eerste instantie dacht.


[cv]
Prof. dr. Johan van Benthem (1949) is sinds 1986 aan de Universiteit van Amsterdam hoogleraar logica en haar toepassingen, in het bijzonder in de informatie- en cognitiewetenschappen (sinds 2003 als universiteitshoogleraar). Sinds 1991 doceert hij ook aan de Stanford University (VS) en sinds 2008 aan de Tsinghua University in Beijing (China). In 1996 won hij de NWO Spinozapremie, de hoogste wetenschappelijke onderscheiding in Nederland.

Waarover gaat de logica?
Logica is de studie van het redeneren. De traditionele logica gaat vooral over de correctheid van redeneringen. In de 20e eeuw heeft de logica echter rijkere raakvlakken gekregen met de wiskunde, de wijsbegeerte, de taalkunde, de informatica en de kunstmatige intelligentie. Meer recent leggen logici ook steeds meer contacten met de economie, de psychologie, het recht, en de cognitiewetenschappen.

Wij zijn onze computers

Op initiatief van de Europese Commissie onderzoekt het Onlife Manifesto hoe de computerrevolutie in ons denken is gekropen

Hoe verandert de ICT-revolutie ons denken? Dat is de vraag die de Europese Commissie twee jaar geleden voorlegde aan een groep wetenschappers van uiteenlopend pluimage, academici uit onder andere de filosofie, antropologie, cognitieve wetenschappen, neurowetenschappen, rechtswetenschappen en politieke wetenschappen. Fijn dat de Europese Commissie niet alleen ruim baan biedt aan bankiers en koopmannen maar ook aan denkers.

Lees op de website van W24 het hele artikel.

Van HAL tot GERTY - De rol van kunstmatige intelligentie in sciencefiction-films

Zondag 13 april 2014 tijdens het 30th Imagine Film Festival in het EYE Instituut in Amsterdam discussieer ik mee tijdens het symposium Van HAL tot GERTY. Iedereen kan het symposium gratis bijwonen: 12:00 uur | EYE 2 - Kaarten gratis af te halen aan de kassa vanaf 9 april in EYE.

In dit symposium wordt gekeken hoe de rol die computers hebben gespeeld in de fantastische film werkelijkheid zijn geworden en wat de gevolgen daarvan zijn. Naast een algemeen gedeelte over het computer als filmpersonage wordt ingegaan op filosofische en ethische vragen: vragen over bewustzijn en emoties van computers, maar ook over de ethiek van steeds slimmer worden apparaten. Met fragmenten van onder meer '2001 A Space Odyssey', 'Moon' en 'Her'.

Via de schaakcomputer, die de mens al lang voorbijgestreefd is wordt overgegaan op Singularity, het moment waarop de computer de menselijke intelligentie voorbijstreeft, en een ver toekomstbeeld waarin kunstmatige intelligentie de wereld heeft overgenomen. Ook dit aan de hand van fragmenten uit Computer Chess, Kasparov vs. Deep Blue, Star Trek, The Machine en andere films.

Het symposium is voorbereid en wordt gemodereerd door Jan van den Berg. Bevestigde gasten zijn hoogleraar Kunstmatige Intelligentie Jaap van den Herik, filmjournaliste Dana Linssen, filmmaker Igor Kramer en wetenschapsjournalist en auteur Bennie Mols.

Daniel Dennett on his two favourite scientists: Charles Darwin and Alan Turing

Philosopher Daniel Dennett gave a lecture about his two favourite scientists: Charles Darwin and Alan Turing at the conference Turing in Context in Brussels, October 10, 2012.

"Consciousness, free will and evolution form a trio."

"Of course we have free will. We can be autonomous and material at the same time."

"Darwin’s theory of evolution by natural selection unifies the world of physics with the world of meaning and purpose by proposing a deeply counterintuitive 'inversion of reasoning’ (according to a 19th century critic): ‘‘to make a perfect and beautiful machine, it is not requisite to know how to make it’’. Turing proposed a similar inversion: to be a perfect and beautiful computing machine, it is not requisite to know what arithmetic is. Together, these ideas help to explain how we human intelligences came to be able to discern the reasons for all of the adaptations of life, including our own."

Listen here to his lecture: .

Dennett even borrowed an example that I had used just before in my own lecture 'From Turing's Test to Turing's Tango': the human brain has a power consumption of 20 Watt, whereas supercomputer Watson, which beat the two best human players in the Jeopardy-quiz (2011), consumes 6 MW. That's 300.000 times as much as the human brain.

Who are you?

I just stumbled on an interesting old movie, part documentary and part drama: Victim of the brain (1988). The movie dramatizes some old philosophical question about brain & mind:

What is the relation between brain and mind?
What is consciousness?
What happens to you when your brain is removed and lives on in a vat? Are you still you?
Can mere matter think or feel?

The movie is partly based on the book The mind's I, edited by Douglas Hofstadter and Daniel Dennett. Both Hofstadter and Dennett appear in the movie. Hofstadter talks about his view on consciousness, brain, mind and free will. Dennett is the key figure in the dramatic part of the movie, which is based on Dennett's own story 'Where am I?'. The Pentagon hires him to remove a radioactive device deep in the earth. However, it's a special type of radioactivity that only affects the brain and not the rest of the body. Therefore, his brain is removed and kept alife in a vat, whereas his body is send on the mission to remove the radioactive device...See what happens...

The movie also adopts the short story The seventh Sally by Polish science fiction writer Stanislaw Lem. The whole movie can be seen below via Google Video's:



And here are the three parts from the same movie in which Daniel Dennett's brain is removed and turned into a brain in a vat:

"Reductionisme is dood"

Dit interview met wetenschapsfilosoof Stephen Toulmin verscheen in Natuur en Techniek, juli/aug 2001. Toulmin overleed in 2009 op 87-jarige leeftijd.

Hij liep nog college bij de natuurkundige Paul Dirac en de legendarische filosoof Ludwig Wittgenstein. Over de laatste: “Zijn colleges waren zowel de beste als de slechtste die ik ooit heb gevolgd. Ze waren zonder methode, maar buitengewoon stimulerend. Als een soort Socrates bestookte hij zijn studenten met vragen”. In de collegebanken bij Wittgenstein zat toen ook Alan Turing, de pionier op computergebied. Het was een bijzonder klasje.

In Nederland en België is wetenschapsfilosoof Stephen Toulmin bekend van zijn boeken Het Wenen van Wittgenstein en Kosmopolis, maar niet het minst door zijn optreden in Een schitterend ongeluk (VPRO, 1993), een serie spraakmakende tv-interviews die Wim Kayzer maakte met verder Oliver Sacks, Freeman Dyson, Daniel Dennett, Stephen Jay Gould en Rupert Sheldrake.

De Engelse wetenschapsfilosoof Stephen Toulmin werd geboren op 25 maart 1922 in Londen. Hij studeerde wis- en natuurkunde in Cambridge en promoveerde daar in 1948 in de filosofie. In 1959 verhuisde hij naar de Verenigde Staten, waar hij hoogleraarschappen aan diverse universiteiten bekleedde. Hij verwierf wereldwijde bekendheid met boeken als Human understanding (1972), Wittgenstein’s Vienna (1973, samen met Allan Janik) en Cosmopolis – The hidden agenda of modernity (1989). Momenteel is hij hoogleraar aan het Center for Multiethnic Studies aan de universiteit van Zuid-Californië.

Toulmin wordt wel eens ingedeeld bij postmoderne filosofen, maar dat zint hem allerminst. “Die houden zich niet met natuurwetenschap bezig. Dat bezorgt ze een grote achterstand”, luidt zijn korte en duidelijke antwoord. “Hoe kun je nu de wereld proberen te begrijpen zonder een natuurwetenschappelijke interesse?”

Zelf is hij een duizendpoot: natuurwetenschap, ethiek, argumentatieleer, praktische kennis in de geneeskunde, de historische ontwikkeling van de menswetenschappen, wetenschapsgeschiedenis, wetenschapsfilosofie; hij heeft zich er allemaal uitgebreid mee beziggehouden. Op uitnodiging van de Delftse organisatoren van het symposium Heroic Engineering was Toulmin maart 2001 even in Nederland. Ik sprak hem over de inmiddels in juni verschenen Nederlandse vertaling van zijn nieuwe boek: Terug naar de rede.

Meer dan rationaliteit
Het idee dat er één enkele wetenschappelijke methode bestaat, ontstond in de historie tegelijkertijd met het idee dat wetenschap rationaliteit als hoogste doel heeft. Zo begint Toulmin zijn nieuwe boek. Hij verklaart: “Voor mij zijn de functies van het verstand niet uitgeput door rationeel te zijn. Ik heb mijn Nederlandse vrienden geraadpleegd, en die droegen me het Nederlandse woord ‘redelijkheid’ aan. De manier waarop we ons vermogen tot denken in de praktijk moeten gebruiken, vereist dat we redelijk moeten zijn in plaats van alleen rationeel.”

In Terug naar de rede borduurt Toulmin voort op een thema dat hij in het boek Kosmopolis vooral vanuit historisch oogpunt belichtte: waar in de 16e eeuw de nadruk in de wetenschap lag op het humanisme, veranderde dat in de 17e eeuw radicaal naar het rationalisme: een overgang van een nadruk op de mens als geheel naar een nadruk op het verstand. “Dit rationalisme is zeer lang als zaligmakend blijven doordreunen”, zegt Toulmin. “Het is geculmineerd in ideeën waarin uiteindelijk alles in de levende en de levenloze natuur tot de fysica wordt gereduceerd. Reductionisme in deze zin heeft volgens mij al lang zijn kracht verloren.” Hij lacht: “…behalve voor mensen die dat niet in de gaten hebben”

Reductionistisch sprookje
Toulmin vertelt over zijn herinnering aan een prachtige lezing van de bioloog Haldane in de jaren vijftig. “Haldane zette daarin uiteen waarom reductionisme zelfs in één enkele discipline als de biologie niet werkt. Ook daar heb je minstens op vier verschillende niveaus theorieën nodig: op het niveau van macromoleculen, organen, levenscycli en evolutie. Er is geen enkele manier om het ene niveau logisch af te leiden uit de andere”, zegt de filosoof, zichtbaar geïrriteerd over het reductionistische sprookje.

Hij vervolgt zijn tirade: “Ik vind het gevaarlijk dat veel sociale wetenschappen de mechanica van Newton, het klassieke summum van een rationele theorie, gebruiken als het enige juiste prototype van een goed model. Kijk naar de economie. In die discipline nemen wetenschappers, zeker in de VS, aan dat een Newtonachtig model het prototype is van een goed economisch model. En dat terwijl in de natuurkunde zelf niemand Newtons theorie als het laatste woord ziet. Zo’n mechanistische benadering in de economie gaat volledig voorbij aan de toepassingen van de chaostheorie in de wereld van de geldstromen. Economen kunnen niet meer zondermeer uitgaan van stabiele economische modellen, zoals ze dat vroeger deden.”

Toulmin vergelijkt het imperialisme van theoretisch-economen in de sociale wetenschappen met dat van theoretisch-fysici in de natuurwetenschappen. “Veel economen zouden alle sociale fenomenen het liefst reduceren tot hun eigen vak. Je kunt lachen om hun naïviteit, en dat is gezond, maar het is echt zo. Politieke wetenschappers hanteren eenzelfde idee van oorzaak-gevolg als in de klassieke fysica. Maar dat is al lang niet meer het hele verhaal.”

Fietsen zonder Newton
Vijftien jaar lang werkte Toulmin als filosoof een aantal dagen per week in een omgeving van artsen, in een ziekenhuis. De ideale omgeving om wetenschap ook in de praktijk aan het werk te zien.

“Het leert je om wetenschap niet alleen als een mechanisch of wiskundig product te zien. We weten bijvoorbeeld veel beter dát aspirine werkt tegen hoofdpijn dan hóe. Sterker nog: we kunnen alleen maar de waaromvraag stellen omdat we weten dát het stofje werkt. Onze kennis dát het werkt noem ik in mijn boek een vorm van klinische kennis; klinisch in de zin van ingebed in de praktijk van de kliniek. Het is kennis met een sterk praktische kant. We leren ook niet fietsen doordat we de wetten van Newton krijgen aangereikt.”

Die sterk in de praktijk ingebedde klinische ervaring ziet Toulmin als de empirische basis van wetenschap. Die basis bestaat niet alleen uit een verzameling fysische en chemische feiten, maar uit het geheel van waarnemingen van dingen die goed of slecht werken. “In de rationalistische traditie heet het dat wetenschap over feiten gaat en niet over waarden. Het verschil tussen een goed of een slecht werkend hart is echter wel degelijk een kwestie van een waardeoordeel. Het is geen puur feitelijke, zwart-wit-kwestie. Het feit dat een patiënt doodgaat, is nog geen reden voor de dokter om weg te gaan, maar om anders met de patiënt om te gaan.”

Hij vervolgt: "In de eerste helft van de 20e eeuw werd de klinische geneeskunde gezien als toegepaste biologie. Nu heb ik daar niks tegen, maar de geschiedenis van de geneeskunde is veel ouder dan de geschiedenis van de biologie. Het belang van de praktische ervaring die in duizenden jaren zorgvuldig is opgebouwd, moeten we niet onderschatten.

“In de VS krijgen studenten geneeskunde twee jaar lang organische chemie en andere harde vakken. Natuurlijk vormt dit een goede wetenschappelijke basis. Maar pas als een student een diagnose weet te stellen in het licht van de uitgebreide ziektegeschiedenis van een patiënt, is hij echt op weg een dokter te worden. Hetzelfde geldt ook in de psychologie. Alleen door verhalen van mensen te construeren kunnen we tot een begrip komen van hoe dat leven geleefd wordt. Het gaat om die verhalen in een breed perspectief. Een oordeel vormen in zo’n klinische interpretatie heeft meer te maken met het construeren van een roman van iemands leven. We moeten voorbereid zijn om met die verhalen om te gaan.”

Staal of het beest
Volgens Toulmin staan ingenieurs voor dezelfde soort problemen als medici. “Voor veel ingenieurs is alleen wat technisch is echt wetenschappelijk. Het leren wordt voor een ingenieur dan het leren van de technieken. Maar zoals een medisch probleem vaak technische én morele aspecten heeft, zo is het ook met een ingenieursprobleem. De ingenieur moet zich niet alleen afvragen hoeveel beton of staal er nodig is en hoe sterk een constructie moet worden, maar ook wat het effect is op mensen, planten en dieren, op de omgeving van zijn product.”

De wetenschapsfilosoof vertelt over een Japanse vriend, een civiel-ingenieur, die verantwoordelijk was voor de aanleg van het internationale vliegveld in de baai van Osaka. “Het zou een kunstmatig eiland worden. Er werd druk gediscussieerd over hoe de bouw van het kunstmatige eiland de vissen en het werk van de vissers zou verstoren. Wat bleek echter: die vissen waren dol op het vliegveld, vooral op de microniches die bij de peilers van het eiland waren ontstaan. Het eiland had dus een effect op de omgeving, maar vooral een onvoorzien positief effect. Dat leer je niet tijdens een studie civiele techniek, terwijl een bredere kijk van groot belang is bij grootschalige projecten. Kijk ook maar naar het driedammenproject in de Yangtze in China. De Chinese autoriteiten hebben daar anderhalf miljoen mensen gedwongen voor getransporteerd, zonder ze om hun mening te vragen.” Brommend: “Werkelijk tiranniek.”

Het is Toulmins strikte overtuiging dat ingenieurs zowel met het feitenaspect als met het waardenaspect van hun problemen moeten kunnen omgaan. Volgens hem besteden de ingenieursopleidingen daar helaas te weinig aandacht aan. “Natuurlijk is het in het onderwijs en onderzoek belangrijk en zelfs onvermijdelijk om een onderwerp te verdelen in te analyseren onafhankelijke delen. In de praktijk heb je echter nooit te maken met afzonderlijke dingen op afzonderlijke tijden, maar met een complex van zaken tegelijkertijd. Klinische ervaring leert je hoe daarmee om te gaan.”

Toulmins centrale thema in zijn nieuwe boek is dat wetenschap een rijk geschakeerd landschap vormt van disciplines waarin elke wetenschap zijn waarde heeft. "Het is een bevrijding als we ons realiseren dat er niet één enkele wetenschappelijke methode is. Galilei geloofde dat het boek van de natuur is geschreven in één enkele taal: die van de wiskunde. Maar misschien is het boek van de natuur in een boel verschillende talen geschreven.

“Als je evolutie wilt bestuderen, neem je een populatie dieren onder de loep, en niet een individueel dier. In de fysiologie bestudeert de onderzoeker daarentegen wel een enkel dier. Een moleculair-bioloog zou in principe kunnen werken zonder ook maar één keer in zijn leven een dier te zien. We moeten rekening houden met deze veelvoudige niveaus van begrip.”

Tot slot: “Ik vind dat we moeten terugkeren naar de brede basis van een wetenschap ingebed in een humanistische traditie. In bijvoorbeeld de economie en de psychologie zie ik gelukkig al allerlei signalen dat dit proces aan de gang is. Het gaat om een balans tussen rationaliteit en menselijke redelijkheid.”

[Kader:] Filosofische begrippen

Rationalisme: Een denkrichting die het verstand en de logische orde der dingen centraal stelt. Ze gaat ervan uit dat we alleen via de rede tot universele kennis kunnen komen.

Humanisme: Een denkrichting die de mens als geheel centraal stelt, en niet slechts een onderdeel daaruit (zoals het verstand). Menselijke waardigheid, vrijheid en gevoelens horen ook in het denken betrokken te worden.

Reductionisme: Verklaring van verschijnselen door die zoveel mogelijk terug te brengen tot hun meest elementaire componenten (bijvoorbeeld genen of elementaire deeltjes). Dat je een levend organisme uiteindelijk zou kunnen begrijpen uit informatie over alle samenstellende atomen, is bijvoorbeeld een reductionistisch idee.

Boek

Stephen Toulmin. Terug naar de rede. Kampen: Agora & Kapellen: Pelckmans, 2001, ISBN 9039108161

Bent u een mens of een computer?

Dit artikel is gepubliceerd in NRC Handelsblad van woensdag 25 mei 2011 en in NRC Next van donderdag 26 mei 2011

Kunnen we in een vijf-minuten-chat met alleen maar getikte tekst uitmaken of we met een mens of een computer chatten? Dat was de test die de Britse wiskundige Alan Turing in 1950 bedacht om antwoord te geven op de vraag of computers kunnen denken. In zijn boek Een wedstrijd in menselijkheid (Uitgeverij Contact) gebruikt de Amerikaanse auteur Brian Christian de Turing Test niet om na te denken over computers, maar juist over mensen. Wanneer verloopt menselijke communicatie vlotjes en wanneer en waardoor hapert ze? Hoe heeft de computer de manier waarop mensen communiceren veranderd?

Christian (1984) studeerde informatica en filosofie en richtte zich daarna op het schrijven. In De ware mens doet hij zelf mee aan de Loebner Prize, een wedstrijd die sinds 1991 jaarlijks wordt georganiseerd en die de enige praktische implementatie is van een Turing Test. De wedstrijd wordt in wetenschappelijke kringen echter al lang niet meer serieus genomen omdat computerprogramma’s zo hopeloos falen in de Turing Test en nauwelijks vooruitgang boeken.

Christian doet echter niet mee als proefpersoon, maar als zogeheten medeplichtige: achter de schermen moet hij proberen zo menselijk mogelijk over te komen op proefpersonen die niet weten of ze met een mens of een machine chatten. Maar wat is menselijk en wat is machinaal? Vanuit een Londense hotelkamer spreekt hij over wat de Turing Test volgens hem te vertellen heeft over de moderne mens.

Hoe weet ik zeker dat ik een mens aan de telefoon heb en niet een slimme chatbot? 
“Dat is een prachtige vraag en een van de drijvende vragen in mijn boek. Wat begin jaren vijftig nog een puur filosofisch en academisch gedachte-experiment was, is nu dagelijkse praktijk. Dat vind ik zo interessant aan de Turing Test. Komt die e-mail echt van je vriendin, of van een automatische spambot? Word je op Twitter gevolgd door een mens of een twitterbot? Het is niet meer genoeg dat ik alleen een interessante weblink naar een vriend stuur. Dan kan hij denken dat het een spambericht is. Ik moet er tekst bij schrijven die hem overtuigt dat de link echt door mij is gestuurd. Spambots dwingen me om mijn berichten persoonlijker te maken.”

Turing bedacht zijn test voor machines, niet voor mensen. Waarom gebruik jij de Turing Test om na te denken over menselijke communicatie? 
“Voor mij snijdt de Turing Test aan twee kanten. De filosoof John Lucas heeft gezegd dat wanneer computers slagen voor de Turing Test dat niet automatisch betekent dat computers zo intelligent zijn. Het kan ook als mensen houteriger gaan communiceren. We zijn gewend om vooruitgang in wetenschap en techniek af te meten aan precies gedefinieerde benchmarks: een vliegtuig dat door de geluidsbarrière vliegt of een mens die voor het eerst voet op de maan zet. De Turing Test is vaag. Hij meet de intelligentie van computers af aan de manier waarop we zelf communiceren. Maar die manier verandert door computers.”

Hoe dan? 
“Ik wilde eens een vriend sms-en dat ik niet bij hem zou komen eten omdat ik me ziek voelde. Ik tikte het woord ill. Mijn telefoon maakte daar automatisch I’ll van en voor ik het besefte had ik het bericht verzonden. Dat heeft effect op mijn woordkeuze. Mijn telefoon vertelt mij eigenlijk: je moet het woord sick gebruiken als je ziek bent, niet ill. Dat is een klein, maar representatief voorbeeld.”

Maar de keuze is toch aan jou... 
“In principe wel, maar ik word wel een bepaalde kant op gestuurd. De technologie zegt: ‘Spreek zoals de meeste mensen. Gebruik het standaard vocabulaire’. Het sms-programma werkt het meest efficiënt wanneer iedereen hetzelfde klinkt. Als een creatieve schrijver zie ik dat als anti-literair. Een creatieve schrijver wil juist niet net zo klinken als andere mensen.”

Hoe is de menselijke communicatie nog meer veranderd? 
“Bij een vaste telefoon duurt het eentiende seconde voor ik je stem hoor. Bij een mobiele telefoon zestiende seconde. Dat is zes keer zo lang. Dat maakt een groot verschil uit. Pauzes hebben betekenis. Je kunt een precies getimede pauze laten vallen om af te tasten of de ander tevreden is met wat je hebt gezegd of dat hij wil dat je verder gaat. Mobieltjes maken het veel moeilijker de betekenis van die pauzes te gebruiken. Daarnaast is onze communicatie meer naar geschreven tekst verschoven waardoor timing, toon, ritme en lichaamstaal minder belangrijk zijn geworden.”

Chatbots hebben weinig vooruitgang geboekt in de Turing Test. Moeten we niet accepteren dat machines in andere dingen goed zijn dan mensen? 
“Praktisch gezien lijkt het inderdaad idioot om een machine te bouwen die precies kan wat mensen al goed kunnen. Maar filosofisch gezien heeft de kunstmatige intelligentie ons veel geleerd over wat het betekent om mens te zijn. De mens werd altijd vergeleken met het dier. Westerse filosofen benadrukten dat de mens zich onderscheidde door abstract denken, redeneren, wiskunde en logica. De computer heeft laten zien dat machines daar net zo goed en soms zelfs beter in zijn. Maar juist de vaardigheden die we delen met dieren − een gezicht of omgeving herkennen, rondlopen zonder steeds ergens tegenaan te stoten − blijken voor machines heel moeilijk.”

Alsof de evolutie van computers in de omgekeerde richting verloopt als die van mensen: van abstract naar concreet... 
“Precies. De kunstmatige intelligentie heeft ons de alledaagse vaardigheden, die we zo lang als volkomen vanzelfsprekend hebben beschouwd, leren herwaarderen. Een Segway gebruikt drie computerchips om rechtop te blijven tijdens het rijden. Wij doen dat zonder nadenken. Rechtop lopen is rekenkundig veel moeilijker dan schaken.”

Je hebt me overtuigd dat ik met een mens heb gesproken en niet met een slimme chatbot. 
“Haha...Geslaagd voor de Turing Test. Daar ben ik blij om.”

De computer kletst maar wat - Weg met de Turing Test

De Turing Test was bedoeld om op een praktische manier antwoord te geven op de vraag of machines kunnen denken. Inmiddels lijkt de beroemde test volledig achterhaald.

Dit artikel is gepubliceerd in NRC Handelsblad, 25 september 2010

In 1950 stelde de Britse computerpionier Alan Turing een praktische test voor die een antwoord zou moeten geven op de vraag: ‘Kunnen machines denken?’ Die test kwam de Turing Test te heten. In het kort: je mag via een toetsenbord en een beeldscherm waarop alle tekst verschijnt converseren met een mens en een machine. Je weet echter niet wie wie is. Wanneer je niet in staat bent te onderscheiden wie de mens en wie de machine is, dan is het volgens Turing fair om te zeggen dat de machine kan denken. Turing voorspelde dat computers nog vóór het jaar 2000 zouden slagen voor deze test.

Maar zelfs nu, zestig jaar later, is er nog nooit een computer geslaagd. Nog steeds vallen machines snel door de mand. Toch verkondigt uitvinder Ray Kurzweil dat computers rond 2030 zullen slagen voor de Turing Test, in essentie door de werking van het menselijke brein na te bouwen. Maar er zijn geen aanwijzingen dat op dat terrein voldoende snel vooruitgang wordt geboekt, als het überhaupt al zou kunnen. Kurzweil wil zijn chatbot Ramona klaarstomen voor de Turing Test. Op zijn website kun je chatten met Ramona 4.0, die onder andere kan putten uit alle kennis van Wikipedia. Dat levert gespreksflarden als deze op:

you> Who is your favorite writer?

Ramona> I don't have a favorite writer. My favorite food is lasagna made with in-vitro beef and cloned cheese.

you> How does that taste?

Ramona> Taste is a form of direct chemoreception and is one of the traditional five senses.

you> Do you make the lasagna yourself?

Ramona> Lasagna is both a form of pasta in sheets and also a dish, sometimes named lasagne al forno made with alternate layers of pasta, cheese, and often ragù or tomato sauce.

you> You just tell me some objective facts. Where are your subjective feelings?

Ramona> Eric said he broke the window on the front door and the glass cut his hand. Subjective experience, the sensory buzz and awareness associated with a conscious mind A school of bayesian probability stating that the state of knowledge corresponds to personal belief

Chatbots als Ramona gebruiken vooral trucjes zoals geforceerd praten over wat ze wel weten of het uit de weg gaan van de conversatie door zelf vragen te stellen. Zodra je het gesprek een beetje persoonlijk maakt, raken ze in verwarring. Ook hebben ze grote moeite met alledaagse, impliciete kennis. Elk kind weet dat wanneer je een glas water op de grond laat vallen het glas breekt en het water wegloopt. Dat heeft het geleerd door ervaring, uit de interactie tussen lichaam en omgeving. Niemand heeft dat expliciet verteld en het staat ook niet in een encyclopedie. Juist deze impliciete kennis is voor een computer uiterst moeilijk. Zonder zintuigen die de wereld waarnemen kan een computer die kennis niet zelf opdoen en moet hij deze expliciet geprogrammeerd krijgen. Hoewel dat al drie decennia geprobeerd wordt in het project CYC, is het tot nu toe ondoenlijk gebleken.

Als de Turing-Test-chatresultaten ondanks een enorme vooruitgang in hardware en software na zestig jaar nog zo teleurstellend zijn, wat moeten we dan anno 2010 nog met de Turing Test?

Vliegen

“De Turing Test is gedateerd”, vindt Frank van Harmelen, hoogleraar aan de Vrije Universiteit in Amsterdam en gespecialiseerd in kunstmatige intelligentie. “In 1950 waren de ideeën van wat computers konden nog heel naïef. Het was revolutionair dat Turing al durfde na te denken over computers die niet te onderscheiden zijn van mensen. Maar nu zijn we zestig jaar verder en begrijpen we veel beter wat computers wel en niet goed kunnen en wat intelligentie is.”

Juist omdat de Turing Test gericht is op het simuleren van menselijke intelligentie vindt Van Harmelen de test gedateerd. Hij vergelijkt het met vliegen. Iedereen vindt dat vogels vliegen. Maar iedereen vindt ook dat Boeing 747’s vliegen, terwijl ze dat op een heel andere manier doen. Toch zou geen 747 ooit slagen voor een Turing Test voor vliegen als die net zo gebaseerd zou zijn op het imiteren van vogels als de Turing Test gebaseerd is op het imiteren van mensen. Eeuwenlang probeerden mensen te vliegen door vogels na te doen. Dat leverde behalve tragikomische scènes niets op. De mens leerde pas vliegen toen hij ophield de natuur te imiteren, de wetten van de aërodynamica ging begrijpen en vliegtuigen met stijve vleugels ging bouwen.

“Aan de ene kant vind ik dat de Turing Test het wetenschappelijk onderzoek naar kunstmatige intelligentie in de weg staat”, zegt Van Harmelen. “We moeten niet meer uitsluitend mikken op het nabouwen van menselijke intelligentie. We moeten algemene theorieën maken over wat intelligentie is en op basis daarvan software bouwen. Machine-intelligentie hoeft helemaal geen menselijke intelligentie te zijn. Aan de andere kant zie ik een computer die slaagt voor de Turing Test wel nog als de ultieme droom van het vakgebied, zoals de ultieme droom van de natuurkunde een Theorie van Alles is. We moeten die droom niet loslaten, maar hij is niet richtinggevend voor het ontwikkelen van kunstmatige intelligentie.”

Lichaam

Meer en meer is gebleken dat machines andere vormen van intelligentie vertonen dan menselijke intelligentie. Zo berekent een schaakcomputer zijn zetten anders dan mensen dat doen. Mensen gebruiken patroonherkenning. Schaakcomputers zoeken enorm snel door enorme hoeveelheid combinaties heen. Het een is niet per definitie beter dan het ander. De twee strategieën kunnen elkaar zelfs aanvullen, zoals bij de modernste schaakcomputers wordt geprobeerd.

De menselijke hardware heeft cognitieve beperkingen ingebouwd: zo kan ons brein maar zeven plus of min twee items in het kortetermijngeheugen opslaan. Van Harmelen: “Maar waarom zouden we zo’n zelfde beperking inbouwen in een computer alleen maar om menselijke intelligentie te simuleren? Veel dingen die moeilijk zijn voor mensen zijn heel goed op computers te realiseren, zoals schaken of het uitrekenen van ingewikkelde formules. Paradoxaal genoeg zijn de dingen die elke driejarige kleuter al kan juist heel erg moeilijk voor een computer: natuurlijke taal begrijpen of gezichten herkennen.”

Van Harmelens argumenten tegen de Turing Test worden door de meerderheid van de internationale collega’s gedeeld. In 2006 vierde de kunstmatige intelligentie haar vijftigjarig bestaan met een grote conferentie. Uit een enquête onder de aanwezige wetenschappers, waaronder de oprichters van het vakgebied, bleek dat 41 procent geloofde dat computers helemaal nooit de menselijke intelligentie zouden kunnen simuleren; nog eens 41 procent meende dat dat wel zou kunnen, maar dat het meer dan vijftig jaar zou duren. Mensen als Ray Kurzweil, die denken dat een computer binnen twee decennia slaagt voor de Turing Test, zijn een uitzondering.

Een ander argument tegen de Turing Test komt uit de hedendaagse cognitiewetenschap: de menselijke cognitie ligt diep verankerd in het feit dat wij een lichaam hebben. Onze hersenen zijn geëvolueerd voor een effectieve interactie met de omgeving. Ze vragen zich voortdurend hoe het lichaam in respons op de omgeving moet reageren. Waarnemen en handelen zijn daarbij essentieel. Dat kunnen hedendaagse computers in het geheel niet en zelfs de beste robots zijn er onbeholpen in. Ook de belangrijke non-verbale communicatie gebeurt via het lichaam.

Sociaal spel

In kringen van filosofen en logici heeft de Turing Test altijd een voorname status gehad. Johan van Benthem is hoogleraar logica en de toepassingen daarvan in de informatica en de cognitiewetenschappen. Hij is zowel verbonden aan de Universiteit van Amsterdam als aan de Stanford Universiteit (VS). Net als Van Harmelen vindt ook hij de Turing Test gedateerd.

“Allereerst is de test gebaseerd op een achterhaald machinemodel: de Turingmachine. De Turingmachine is een computer met in- en uitvoer die alles in zijn eentje moet doen.” Het bedenken van die machine was Turings belangrijke fundamentele bijdrage aan de informatica. Alles wat op een mechanische manier berekend kan worden, kan berekend worden met een Turingmachine.

“Maar”, zegt Van Benthem, “na zestig jaar is de realiteit er niet meer een van een op zichzelf staande machine, maar van netwerken van aan elkaar gekoppelde computers of processoren. Denk aan het internet of aan supercomputers met duizenden processoren. En op softwareniveau ontstaan steeds meer gemeenschappen van software-agenten die hun eigen doelen nastreven en informatie uitwisselen.”

Van Benthem: “Voor zulke netwerken of gemeenschappen hebben we nog geen goed theoretisch model. Misschien moeten we zo’n model eerder baseren op het concept van een spel tussen meer dan twee spelers, zoiets als het spel Cluedo bijvoorbeeld, dan op het concept berekening. Het feit dat filosofen nog steeds over de Turing Test debatteren laat vooral zien dat ze de ontwikkelingen in de informatica van de afgelopen vijftig jaar niet hebben gevolgd.”

Van Benthems tweede argument tegen de Turing Test is een veelgehoord tegenargument: het is een alles-of-niets-test. Ofwel een machine slaagt voor de Turing Test, of niet. De test meet niet hoeveel beter de machine in staat is een menselijke dialoog te simuleren, laat staan wat machine en mens samen beter zouden kunnen dan alleen.

Van Benthem: “Eigenlijk vind ik het daarom een extreem oninteressante test. Veel interessanter is het verschijnsel dat machine-intelligentie in de afgelopen zestig jaar helemaal geen concurrent is geworden van menselijke intelligentie, maar dat menselijke intelligentie is uitgebreid met machine-intelligentie. De samenwerking tussen mens en machine heeft tot nieuwe gedragsvormen geleid, zoals het gebruik van internet en smartphones. Wat mij betreft is de interessante vraag welke uitbreidingen wel en niet werken en waarom; niet of we menselijke intelligentie kunnen simuleren.”

Flauwe trucjes

Op 23 oktober aanstaande vindt voor de twintigste keer de Loebner Prize plaats, de enige wedstrijd ter wereld waarin computerprogramma’s het opnemen in een Turing Test. Hoewel er nog nooit een voor de test is geslaagd, ontvangt het best presterende programma wel een prijs van tweeduizend dollar. Maar de dialogen van de afgelopen winnaars stellen teleur, vergelijkbaar met die van Ramona 4.0.

Wie de deelnemerslijst doorneemt, ziet dat ’s werelds beste laboratoria op het terrein van de kunstmatige intelligentie, zoals de Amerikaanse universiteiten MIT, Stanford en Carnegie Mellon, schitteren door afwezigheid. Het aantal deelnemers is sowieso beperkt tot een handvol. Een teken aan de wand? “Ja”, zegt Frank van Harmelen. “De Loebner Prize is Spielerei. Hij trekt elk jaar weer even de aandacht, maar speelt in het wetenschappelijke onderzoek naar kunstmatige intelligentie geen enkele rol.”

“Een computer laten slagen voor de Turing Test is gewoon nog te moeilijk”, zegt Johan Bos, hoogleraar computationele semantiek aan de Rijksuniversiteit Groningen. Bos bouwt zelf vraag-antwoordsystemen voor wetenschappelijk onderzoek. “We kunnen wel dialoogsystemen voor beperkte domeinen en taken maken, maar er komt veel meer bij kijken om een universeel dialoogsysteem met kennis van de wereld en een eigen mening te maken. Daarom is er weinig tot geen interesse van de academische wereld. Het is wetenschappelijk niet interessant om een dialoogsysteem vol met flauwe trucjes te bouwen.”

Wat heeft de Turing Test na zestig jaar dan opgeleverd? Toch vooral veel voer voor filosofen. Stapels artikelen die beargumenteren waarom de Turing Test wel of geen goede test voor machine-intelligentie is. Maar geen bijdrage aan het creëren van kunstmatige intelligentie. Geen beter begrip van intelligentie. Geen betere dialoogsystemen. Weg met de Turing Test. Op zoek naar interessantere vormen van kunstmatige intelligentie.

Internet

www.loebner.net/Prizef/loebner-prize.html Loebner Prize

www.kurzweilai.net/ Website van uitvinder Ray Kurzweil www.kurzweilai.net/ramona4/ramona.html Chatbot Ramona 4.0. Ramona is onder andere gekoppeld aan het vraag-antwoordsysteem Powerset dat kan putten uit alles wat op Wikipedia staat.

www.longbets.org/1 Debat tussen Mitchell Kapor en Ray Kurzweil. Slaagt een computer in 2029 voor de Turing Test?

www.worldsbestchatbot.com/Competition_Transcripts De dialogen van de winnaar van de Loebner Prize 2009

http://www.cse.unr.edu/~sushil/class/ai/papers/coffeehouse.html ‘A coffeehouse conversation on the Turing Test’ van Douglas Hofstadter www.cogs.susx.ac.uk/users/blayw/tt.html ‘Why the Turing Test is AI’s biggest blind alley’

http://crl.ucsd.edu/~saygin/papers/MMTT.pdf ‘Turing Test 50 Years Later’. Uit Minds and Machines, 2000

www.cyc.com/ Project CYC

[Kader:] Wie was Alan Turing?

Alan Turing (1912-1954) was een Britse wiskundige en computerpionier. In 1936, nog vóór de eerste elektronische programmeerbare computers, bedacht hij een baanbrekend rekenmodel waarop alle bekende rekenprocessen zijn na te bootsen: de Turingmachine. Hij toonde ook het bestaan aan van een universele computer: een Turingmachine die in staat is om elke andere Turingmachine na te doen. Het is de basis van ons moderne begrip van de ‘general purpose computer’.

Tijdens de Tweede Wereldoorlog speelde Turing een grote rol bij het kraken van de Duitse Enigma-codering met grote decodeermachines. Dankzij het werk van Turing en zijn collega’s ontcijferden de Britten tienduizenden Duitse berichten per maand.

In 1950 stond Turing aan de wieg van het vakgebied kunstmatige intelligentie, met zijn idee van de Turing Test. Hij verdiepte zich in het bouwen van een ‘elektronisch brein’ en voorspelde dat computers vóór het jaar 2000 zouden slagen voor de Turing Test.

In 1952 werd Turing opgepakt voor openlijke homoseksualiteit, destijds nog een misdaad in Groot-Brittannië. Hij werd veroordeeld tot een hormoontherapie van een jaar om zijn homoseksualiteit te onderdrukken. In 1954 werd Turing dood in zijn bed gevonden, vergiftigd door cyanide. Hoewel een duidelijk motief ontbreekt, heeft hij waarschijnlijk zelfmoord gepleegd. Zijn moeder en enkele anderen dachten echter dat het een ongeluk was geweest.

In 2009 bood de Britse premier Gordon Brown openlijk excuses aan voor Turings veroordeling.

Turings naam is verbonden aan de Turing Award, die sinds 1966 jaarlijks wordt uitgereikt. Deze prijs wordt beschouwd als de Nobelprijs voor informatica.

2012 is het internationale Alan Turing-jaar, vanwege zijn honderdste geboortejaar: www.turingcentenary.eu

Meer over Alan Turing op de website van Turing-biograaf Andrew Hodges:
www.turing.org.uk/

Filosoferen in de scanner

Deze column gaat in oktober verschijnen in het faculteitsblad Cimedart van de faculteit filosofie van de Universiteit van Amsterdam.

‘Filosofie is denken over denken’, luidt de beste definitie die ik tijdens mijn filosofiestudie heb opgepikt. Toen ik in 1994 de filosofiefaculteit van de Universiteit van Amsterdam verliet, was de hersenscanner die voor het eerst levende hersenen in actie laat zien (functionele-MRI, kortweg fMRI) net uitgevonden, als aanpassing op de al langer bestaande MRI-scanner. ‘Denken over denken’ is daarmee voorgoed veranderd. Vragen waar we vroeger alleen maar over konden filosoferen, kunnen we nu experimenteel onderzoeken. Dat is vooruitgang. Laat ik twee voorbeelden geven.

Het eerste voorbeeld is de ontdekking van ‘spiegelneuronen’. Spiegelneuronen zijn een curieuze soort. Deze hersencellen vuren niet alleen wanneer je zelf een handeling uitvoert, maar ook als je alleen ziet dat een ander een handeling uitvoert waarmee je vertrouwd bent. Het waarnemen van een bekende handeling houdt je als het ware een spiegel voor: zien is voor deze specifieke neuronen hetzelfde als doen.

In 1996 werden spiegelneuronen met geïmplanteerde micro-elektroden ontdekt bij makaken, een apensoort. Later werd met hersenscantechnieken indirect aangetoond dat mensen ze ook hebben. Tegenwoordig wordt het systeem van spiegelneuronen gezien als een primitieve neurale versie van het ontstaan van empathie, het ontstaan van imitatiegedrag en het begrijpen van metaforen. Spiegelneuronen geven ons experimentele handvaten waarmee we grip kunnen krijgen op wat ooit alleen maar filosofische vragen waren.

Het tweede voorbeeld gaat over ethische dilemma’s. Het is een klassiek voorbeeld waar hersenscantechnieken nieuw licht op hebben geworpen. Een treintje dreigt vijf mensen te doden die op een spoorlijn staan. In het eerste geval kun je deze vijf mensen redden door een hendel over te halen. Het treintje kiest daardoor een ander spoor, waardoor helaas wel een ander persoon wordt overreden. In het tweede geval moet je iemand van een brug voor het treintje duwen om de vijf mensen te redden. Twee gevallen met hetzelfde resultaat: vijf mensen worden gered, eentje komt om. Het verschil tussen beide is dat het tweede een persoonlijk ingrijpen vergt (iemand naar beneden duwen), en het eerste een niet-persoonlijk ingrijpen (een hendel overhalen).

In 2001 lieten Amerikaanse onderzoekers in een fMRI-experiment zien dat hersengebieden die een rol spelen bij emoties veel actiever zijn bij moreel-persoonlijke dilemma’s dan bij moreel-onpersoonlijke en niet-morele dilemma’s. En bij mensen die toch ‘ja’ antwoordden bij een moreel-persoonlijk dilemma (ja, je mag de vreemdeling naar beneden duwen om vijf andere te redden) bleek de reactietijd om tot het antwoord te komen langer dan bij diegenen die op dezelfde vraag ‘nee’ antwoordden. Kennelijk was er een flinke strijd in hun hersenen aan de gang tussen het beslissen op basis van volledig bewuste logica en op basis van onbewuste emoties. Filosofen en psychologen hebben dit soort problemen lang bestudeerd, maar nooit waren ze in staat te kijken hoe de hersenen dergelijke problemen oplossen.

Natuurlijk geven de hersenwetenschappen geen pasklaar antwoord op klassieke filosofische vragen zoals wat het goede, het schone en het ware is, of wat bewustzijn is. Maar elke filosoof die zichzelf serieus neemt kan niet meer ongeïnteresseerd en arrogant voorbij lopen aan de spectaculaire inzichten die de hersenwetenschappen de afgelopen twee decennia hebben opgeleverd. Toch gebeurt dat helaas maar al te vaak.