Schattig, maar nutteloos. Wordt het nog wat met de sociale robot?

Commerciële sociale robots maken de verwachtingen zelden waar en de afgelopen jaren flopten ze dan ook keer op keer. Toch zien robotici Edwin Dertien en Ella Velner nog toekomst voor de sociale robot. ‘We moeten ze vanuit een behoefte ontwerpen.’

Dit artikel is gepubliceerd in de VPRO Gids #38, september 2021

Alweer staat een sociale robot afgedankt op straat. Afgelopen juni maakte het Japanse bedrijf Softbank bekend dat het stopt met de productie van robot Pepper, een schattige interactieve mensachtige robot, die in 2015 met veel tamtam op de markt verscheen. Pepper is één meter twintig groot, heeft een glimmend wit plastic lijf en rijdt op wieltjes. Hij kan eenvoudige gesprekken met mensen voeren en bewegen met zijn armen en handen. In de afgelopen jaren is Pepper onder andere ingezet als receptionist, gastheer, co-presentator, museumgids en in Japan zelfs als Boeddhistische priester (https://qz.com/1060932/softbanks-pepper-robot-is-now-a-buddhist-priest-in-japan/). In totaal zijn er zo’n 27.000 Peppers van de productieband gerold voor een verkoopprijs van $1.800 per stuk.

Veel tranen lijken er echter niet gelaten om het einde van Pepper. Roboticus prof. Noel Sharkey vertelde in reactie aan de BBC zelfs dat hij blij is (https://www.bbc.com/news/technology-57651405): “Pepper heeft veel schade toegebracht aan het echte robotica-onderzoek door een valse indruk te wekken van een slim cognitief wezen dat gesprekken kan voeren. Maar Pepper werd vaak op afstand bestuurd door een mens. Het publiek op deze manier misleiden is gevaarlijk en geeft een verkeerde indruk van de mogelijkheden van kunstmatige intelligentie in de echte wereld.”

Het falen van Pepper als commercieel product ligt in de lijn van het falen van andere sociale robots in de afgelopen jaren. Zelfs niet-mensachtige interactieve robots als Jibo, Kuri en Cozmo, alle drie met een speelgoedtachtig uiterlijk en een stuk goedkoper dan Pepper, flopten en hun producenten gingen snel failliet. Neem Jibo, een soort dikkige bureaulamp, met een rond beeldscherm als gezicht op een bolvormig hoofdje. Jibo heeft een camera met gezichtsherkenning en begrijpt gesproken commando’s. Jibo werd ontworpen en gebouwd door een team rondom een van ’s wereld belangrijkste pioniers van sociale robots, Cynthia Breazeal van het Massachusetts Institute of Technology (MIT). Zelfs met haar kennis en ervaring lukte het niet om van Jibo een succes te maken.

Over-selling

Welke lessen kunnen we trekken uit het falen van Pepper en zijn maatjes? Kunnen sociale robots alsnog een succes worden, en zo ja, hoe?

Ik leg de vragen in een dubbelinterview via Zoom voor aan twee Nederlandse onderzoekers, universitair docent Edwin Dertien en promovenda Ella Velner, allebei werkzaam aan de Universiteit Twente.

Lees het hele artikel in de VPRO Gids #38, september 2021

Robots met een beperking

Commerciële sociale robots maken de verwachtingen zelden waar en de afgelopen jaren flopten ze dan ook keer op keer. Toch zien robotici Edwin Dertien en Ella Velner nog toekomst voor de sociale robot. ‘We moeten ze vanuit een behoefte ontwerpen.’

Dit verhaal schreef ik voor de VPRO Gids en werd gepubliceerd in september 2021

Alweer is een sociale robot afgedankt en op straat gezet. Afgelopen juni maakte het Japanse bedrijf Softbank bekend dat het stopt met de productie van robot Pepper, een schattige interactieve mensachtige robot die in 2015 met veel tamtam op de markt verscheen. Pepper is één meter twintig groot, heeft een wit, glimmend plastic lijf en rijdt op wieltjes. Hij kan eenvoudige gesprekken met mensen voeren en zijn armen en handen bewegen. In de afgelopen jaren is Pepper onder meer ingezet als receptionist, gastheer, copresentator, museumgids en – in Japan – zelfs als boeddhistische priester. In totaal zijn er zo’n 27.000 Peppers van de productieband gerold voor een verkoopprijs van 1800 dollar per stuk.

Veel tranen lijken er echter niet gelaten om het einde van Pepper. Roboticus professor Noel Sharkey vertelde in een reactie aan de BBC zelfs dat hij blij is: ‘Pepper heeft veel schade toegebracht aan het echte roboticaonderzoek door een valse indruk te wekken van een slim cognitief wezen dat gesprekken kan voeren. Maar Pepper werd vaak op afstand bestuurd door een mens. Het publiek op deze manier misleiden is gevaarlijk en geeft een verkeerde indruk van de mogelijkheden van kunstmatige intelligentie in de echte wereld.’

Het falen van Pepper als commercieel product ligt in het verlengde van het falen van andere sociale robots in de afgelopen jaren. Zelfs niet-mensachtige interactieve robots als Jibo, Kuri en Cozmo, alle drie een speelgoedachtig uiterlijk en een stuk goedkoper dan Pepper, flopten en hun producenten gingen snel failliet. Neem Jibo, een soort dikkige bureaulamp met een rond beeldscherm als gezicht op een bolvormig hoofdje. Jibo heeft een camera met gezichtsherkenning en begrijpt gesproken commando’s. De robot werd ontworpen en gebouwd door een team rondom een van ’s werelds belangrijkste pioniers op het gebied van sociale robots, Cynthia Breazeal van het Massachusetts Institute of Technology (MIT). Zelfs met haar kennis en ervaring lukte het niet om van Jibo een succes te maken.

Lees het hele verhaal op de website van de VPRO Gids

Bewustzijn is geen onoplosbaar mysterie

In zijn net verschenen boek De code van het bewustzijn laat hoogleraar neurowetenschappen Cyriel Pennartz zien wat we allemaal wél al weten over ons bewustzijn.

Dit artikel schreef ik voor de VPRO Gids en is gepubliceerd in juni 2021

Welk antwoord geeft een hersenprofessor op de vraag om in één zin te vertellen wat bewustzijn is, terwijl hij daar net een populair-wetenschappelijk boek van ruim driehonderd pagina’s over heeft geschreven?

Cyriel Pennartz, hoogleraar in de neurowetenschappen van cognitie en systemen aan de Universiteit van Amsterdam, is een paar seconden stil, en zegt dan: “Ik heb daar al veertig jaar over nagedacht. Uiteindelijk is de essentie van bewustzijn samen te vatten als dat wat er gebeurt wanneer je ’s ochtends wakker wordt. Dan ga je opeens van een toestand van diepe slaap, een toestand die je niet door hebt, naar een toestand waarin je je realiseert: ‘ik lig in bed, ik hoor geluiden buiten, ik zie licht door de gordijnen vallen…’”

Pennartz publiceerde begin mei het boek ‘De code van het bewustzijn’ waarin hij vertelt wat we allemaal wél al weten over bewustzijn. Veel mensen zien bewustzijn als een groot mysterie. Veel wetenschappers willen er hun vingers niet aan branden. En zelfs veel filosofen schrikken er voor terug. Maar Pennartz laat in zijn boek juist zien dat het bewustzijn niet een onoplosbaar wetenschappelijk probleem is. De neurowetenschappen hebben in de afgelopen decennia grote stappen gezet om te begrijpen hoe bewustzijn ontstaat. Nee, de code van het bewustzijn is nog niet volledig gekraakt, maar belangrijke geheimen zijn wel al ontfutseld.

Pennartz zet zich in zijn boek enerzijds af tegen het dualistische idee dat brein en geest twee totaal verschillende zaken zijn. “Dat is echt een doodlopende weg”, zegt de hoogleraar. Anderzijds verzet hij zich ook tegen het reductionistische materialisme, het idee dat materie de enige echte werkelijkheid is. Die opvatting is in Nederland met verve uitgedragen door collega-hoogleraar Dick Swaab in zijn boek ‘Wij zijn ons brein’ uit 2010, in navolging van onder andere de filosoof Daniel Dennett.

Pennartz identificeert een derde weg en zegt: “Wij zijn meer dan ons brein. Dat zeg ik niet om het belang van materie te ontkennen, maar om bestaansrecht op te eisen voor de bewuste ervaring zelf, met een grote kwalitatieve rijkdom die je niet in cellen, synapsen en moleculen aantreft.”

In de reductionistische visie à la Dick Swaab worden alle ervaringen, bijvoorbeeld het zien van kleuren, gereduceerd tot elektrische pulsen en uiteindelijk tot moleculen. “Maar kleuren zien is toch echt wat anders”, zegt Pennartz. “Het is een ander functioneel niveau en het vergt een andere manier van beschrijven. Om bewustzijn te begrijpen moeten we verschillende niveaus van representatie onderscheiden en beschrijven.”

Een van de belangrijkste inzichten van de afgelopen twintig jaar uit de neurowetenschappen, zo vertelt Pennartz, is dat we een trapje hoger moet denken dan alleen op het niveau van individuele hersencellen: “Dat is het niveau van lokale netwerken van hersencellen — een niveau dat in ligt tussen dat van de individuele hersencellen en het niveau van hogere cognitieve functies zoals waarnemen of plannen.” Het is op dat niveau dat zijn eigen onderzoek zich voornamelijk afspeelt.

Een ander fascinerend inzicht uit de afgelopen decennia is dat allerlei op zichzelf voor de mens belangrijke cognitieve functies helemaal niet strikt noodzakelijk blijken voor bewustzijn: geheugen, emoties, taal en motoriek. Patiënten die door een neurologisch defect een van deze functies missen, hebben onmiskenbaar nog steeds bewustzijn.

Pennartz: “Dat zegt dat bewustzijn een fundamentele eigenschap is die heel lang overleeft, zelfs al sterft een groot deel van de hersenen af, zoals we zien bij mensen met voortschrijdende ziekte van Alzheimer. En zelfs bij patiënten met ernstige dwarslaesies, die bijna niets meer kunnen bewegen, is hun bewustzijn intact gebleven. Zulke voorbeelden sluiten aan bij het idee dat bewustzijn een belangrijke functie heeft, namelijk het vormen van een overzicht van de wereld waarin we ons bevinden.”

Om deze kernachtige eigenschap van bewustzijn te illustreren wijst Pennartz op zijn leesbril die hij voor zich op tafel heeft gelegd: “Terwijl jouw ogen voortdurend bewegen, creëren je hersenen toch een constant beeld van mijn leesbril. Het licht dat door die leesbril in je ogen wordt weerkaatst, komt dus telkens op een andere plek van je netvlies terecht. Toch trekken je hersenen de conclusie dat mijn leesbril op een constante plek ligt. Om in de wereld goed te functioneren, is het handig dat onze hersenen een stabiel wereldbeeld creëren.”

De visie van Pennartz op bewustzijn is enigszins verwant aan de opvatting van de 17e eeuwse Nederlandse filosoof Spinoza, maar dan op een moderne wetenschappelijke manier uitgewerkt, inclusief computermodellen. Spinoza zag brein en geest niet als twee aparte zaken, maar als twee verschillende verschijningsvormen van hetzelfde. Pennartz wil het niveau van individuele hersencellen verbinden met lokale netwerken van hersencellen en tenslotte met bewuste waarneming en verbeelding. In een soort drietrapsraket ontstaat dan op een emergente manier dat wat we bewustzijn noemen, met nieuwe eigenschappen die niet te vinden zijn in de samenstellende delen zoals de neuronen.

Behalve dat Pennartz de lezers van zijn boek duidelijk hoopt te maken dat we meer zijn dan ons brein, dat bewustzijn echt bestaat, maar ook wel degelijk iets anders is dan het niveau van moleculen, hoopt hij toch ook zijn fascinatie over te brengen over de pracht van de evolutie van het bewustzijn. Pennartz: “Van hele eenvoudige organismen die weinig meer hadden dan eenvoudige bewegingssensoren, en nog geen bewustzijn, tot de enorme rijkdom van het menselijk bewustzijn met zijn verbeeldingen, waarnemingen en dromen.”

Als de neurowetenschappen al zoveel geheimen hebben onthuld over bewustzijn, via patiëntenonderzoek, met hersenscanners, door elektrofysiologische metingen aan hersencellen en met computermodellen, waarom horen we dan zo vaak dat bewustzijn één groot mysterie is?

“Dat komt”, aldus Pennartz, “omdat de wetenschappelijke modellen die we dankzij al die technieken hebben gebouwd niet goed aansluiten bij onze alledaagse ervaring. We kunnen ons de link tussen hersencellen en bewustzijn niet voorstellen. Onze verbeelding is getraind op basis van onze zintuiglijke ervaringen, maar dat is tevens een beperking. Wij hebben in onze kleutertijd nu eenmaal niet geleerd om netwerken van hersencellen te zien. Eigenlijk zit ons ‘ik’ enorm in de weg bij het begrijpen van bewustzijn. Is het erg dat onze verbeelding beperkt is? Ik denk het niet. Hetzelfde geldt ook als we proberen de kwantummechanica of de oerknal te begrijpen.”

Boekinformatie
Cyriel Pennartz. De code van het bewustzijn. Uitgeverij Prometheus, mei 2021, 352 pag., € 22,50

De ultieme troost van de slimme machine

De opmars van slimme robots en computers van de afgelopen twintig jaar is pas een glimp van wat we de komende decennia kunnen verwachten.

Dit artikel is geschreven voor de VPRO Gids #51 van 2020 met als thema 'troost'.

“Dear Mr. President. As one of the largest ice caps in the world, please don’t forget about us, please fight for us. We are melting. It hurts. We are sad. We are dying. Please do not forget us. Your friend, Ice Cap.”

Deze tekst is niet door een mens geschreven, maar door kunstmatige intelligentie: robotschrijver GPT-3. GPT-3 is de belangrijkste doorbraak in de kunstmatige intelligentie van 2020. Geef GPT-3 een stukje van een verhaal, een gedicht, een liedje of een essay en de machine schrijft een stuk tekst die het als de meest waarschijnlijke voortzetting beschouwt. De zinnen van de robotschrijver zijn soms onzinnig, soms hilarisch, soms creatief, soms troostvol. GPT-3 is de krachtigste taalmachine die ooit is gebouwd.

Kunstenaar Jeroen van der Most en onderzoeker Peter van der Putten (Universiteit Leiden) gebruikten GPT-3 in hun kunstproject Letters from Nature. Zij lieten de computer namens ijskappen, gletsjers, koraalriffen en bedreigde eilanden brieven schrijven aan wereldleiders om ze te waarschuwen en om hulp te vragen. De openingszinnen van dit artikel komen uit de Letters from Nature.

Van der Most heeft eerder ook al talloze andere kunstwerken samen met kunstmatige intelligentie gemaakt. Gevraagd naar wat hij troostrijk vindt aan GPT-3, schrijft Van der Most per e-mail: “Technologie wordt vaak gezien als iets dat vervreemdt. Maar bij goed gebruik, kunnen we met systemen als GPT-3 juist diepere relaties aangaan met onze omgeving. Wanneer we in Letters from Nature de natuur zelf een stem geven, creëren we een diepere relatie tussen de natuur en de mens, een relatie met meer begrip en empathie. Ik zie kunstmatige intelligentie steeds meer als intermediair om grenzen te overbruggen: tussen mens en natuur, tussen mens en object — denk aan slimme apparaten — of tussen mens en mens — denk aan kunstmatige intelligentie om de pijn van alzheimerpatiënten in te schatten, als ze die zelf niet meer kunnen verwoorden.”

Lees de rest van het artikel in de VPRO Gids #51, 2020

Creativiteit is geen mysterie maar een algoritme

Kunstmatige intelligentie leert steeds beter schrijven, schilderen en musiceren. In zijn nieuwe boek De code van creativiteit ontrafelt wiskundige Marcus du Sautoy het geheim van creativiteit bij mensen en machines.

Dit artikel is gepubliceerd in de VPRO Gids #41, 10 t/m 16 oktober 2020

De Amerikaanse componist David Cope worstelde al zeven jaar met het schrijven van een opera. Zijn inspiratie droogde op. De deadline naderde. Hij kreeg nauwelijks meer een noot op papier. Cope besloot te onderzoeken of een computer hem vooruit kon helpen. Hij ontwikkelde een algoritme dat in zijn eigen stijl stijl componeerde. Telkens wanneer hij vastliep, deed het algoritme, dat hij Emmy doopte, een suggestie voor het vervolg.

Geholpen door Emmy voltooide Cope zijn opera in twee weken, precies op tijd voor de deadline. Hij vertelde niemand over zijn digitale muze. In 1987 ging de opera Cradle Falling in première en kreeg lovende recensies. Niemand had in de gaten dat een computer stukjes uit de opera had gecomponeerd. We spreken over de jaren tachtig van de vorige eeuw. Inmiddels zijn computers een stuk slimmer.

Marcus du Sautoy vertelt de anekdote over Cope in zijn nieuwe boek De code van creativiteit — Hoe AI leert schrijven, schilderen en denken. Du Sautoy is hoogleraar wiskunde aan de universiteit van Oxford. Daarnaast is hij aangesteld als hoogleraar Public Understanding of Science aan dezelfde universiteit. Als enthousiaste en goed geïnformeerde verteller maakte hij voor de BBC talloze tv-series over wetenschap.

De samenwerking tussen Cope en Emmy bevat de kern van du Sautoys nieuwe boek: kunstmatige intelligentie (AI) is een krachtig, creatief hulpmiddel — niet om menselijke creativiteit te vervangen, maar om deze uit te breiden. En nee, creativiteit is geen mysterie. Computers kunnen het best leren. Tot op zekere hoogte.

In de week dat zijn boek in het Nederlands verschijnt, spreek ik du Sautoy via Skype.

“Heb je ontdekt welke 350 woorden in mijn boek geschreven zijn door een AI?” vraagt hij aan het begin van het gesprek. Nee, dat heb ik niet. Wil hij het onthullen? Nee, dat moet de lezer zelf maar uitzoeken. Hij vertelt dat hij het oorspronkelijke stukje dat een AI-systeem in het Engels had geschreven stilistisch slecht vond. Bij de redacteur van de Engelse editie had hij erop aangedrongen om helemaal niets te veranderen in de ietwat houterige computertekst. “Wat zegt het dan over mijn eigen schrijfstijl als niemand het verschil opmerkt? Dat vind ik toch wat deprimerend.”

Du Sautoy vertelt dat hij heeft getwijfeld of hij zijn boek niet De code van de mens zou noemen in plaats van De code van creativiteit. “Voor mij was het schrijven van het boek in de eerste plaats een zoektocht naar waar onze eigen creativiteit vandaan komt. Dat lijkt op de manier waarop Alan Turing, een van de grondleggers van de AI, zijn zoektocht in de jaren vijftig begon. Turing wilde weten hoe menselijke intelligentie werkt en ging dat onderzoeken door te kijken of je die kunt nabootsen in een machine. Dat resulteerde in de beroemde Turingtest, die bepaalt of een machine kan denken. Ik wilde menselijke creativiteit onderzoeken door te kijken of en hoe machines creatief kunnen zijn.”

Du Sautoys eigen finest hour van creativiteit was de ontdekking van een symmetrisch wiskundig object in een hoog-dimensionale ruimte, iets wat we ons niet kunnen voorstellen maar waarmee wiskundigen in formules kunnen stoeien. “Ik herinner me nog steeds het moment waarop ik dat denkbeeldige object voor het eerst opschreef. Grote opwinding. Het was niet zomaar een nieuw object, het was zeer verrassend, waardevol en nuttig, eigenlijk alles waaraan een creatief product moet voldoen. Mijn object legde een link tussen twee totaal verschillende wiskundige werelden, die van de symmetrische objecten en de getaltheorie.”

Het object kreeg in 2012 de naam ‘The Diamond Jubilee Group’, ter ere van het zestigjarig jubileum van de Britse koningin Elizabeth. Toen de koningin een certificaat gewijd aan ‘The Diamond Jubilee Group’ kreeg aangeboden door du Sautoy, sprak hij de woorden: “In tegenstelling tot klokkentorens, oceaanstomers en Olympische parken zal deze creatie de tand des tijds doorstaan, omdat wiskundige ontdekkingen eeuwig blijven bestaan.” (https://www.bbc.com/news/uk-england-oxfordshire-19920702)

Bergkamps pirouette

Du Sautoy onderscheidt in zijn boek drie soorten creativiteit. Verkennende creativiteit is het minst verrassend. Je zoekt de randen op van wat er al is, terwijl je aan alle regels gebonden blijft. Een slimme nieuwe schaakzet bijvoorbeeld. Moeilijker is de combinerende creativiteit. Daarbij combineer je twee verschillende concepten of stijlen, bijvoorbeeld een componist die klassieke muziek met volksmuziek vermengt volgens zijn eigen, nieuwe regels. Het meest out-of-the-box is de transformationele creativiteit. Die krijg je alleen als je een totaal nieuwe stijl of concept bedenkt, tegen bestaande regels in. Picasso met zijn kubistische stijl, of Einstein met zijn algemene relativiteitstheorie, die ruimte en tijd tegelijk liet buigen.

In zijn rol als hoogleraar Public Understanding of Science is du Sautoy de opvolger van de vermaarde evolutionair-bioloog en opper-atheïst Richard Dawkins. Hoewel du Sautoy zelf ook atheïstisch is, zet hij zich veel minder dan zijn voorganger af tegen religie. Gekscherend noemt hij als zijn eigen religie het voetbal van zijn favoriete club Arsenal.

Ik vraag du Sautoy hoe hij aankijkt tegen de creativiteit van voormalig Arsenal-voetballer Dennis Bergkamp, die hij vaak heeft zien spelen. In maart 2002, in een uitwedstrijd tegen Newcastle United, nam Bergkamp een verre pass in het strafschopgebied aan, terwijl hij met de rug naar het doel stond. Hij stuurde de bal subtiel met zijn rechtervoet langs de tegenstander, draaide een pirouette de andere kant op, schudde zo zijn verbouwereerde tegenstander van zich af, nam zijn eigen pirouette-pass weer aan en scoorde (www.youtube.com/watch?v=1t_Dv2LEa3c).

Du Sautoy veert op. “Ik heb een T-shirt met een citaat van Bergkamp”, zegt hij. “Daar staat op: Every kick of the ball requires a thought. Zo speelde hij ook. Aan de ene kant kun je Bergkamps goal zien als verkennende creativiteit. Hij doet niets wat buiten de regels van het voetbalspel gaat. Aan de andere kant kun je het zien als combinerende creativiteit. Misschien was hij geïnspireerd door het kijken naar kunstschaatsen en zocht hij een combinatie met voetbal. Dat vind ik een mooie interpretatie.”

Jazzimprovisator

Sinds componist Cope in de jaren tachtig met zijn digitale muze Emmy werkte, heeft de AI een revolutie doorgemaakt. In plaats van computers vol te stoppen met van te voren zorgvuldig bedachte regels, zoals decennialang de aanpak was, kunnen computers sinds 2012 met grote netwerken van kunstmatige hersencellen zelf leren van voorbeelden. Ze ontdekken zelf regels. En dat geeft de computer nieuwe creatieve vleugels. Go-computer AlphaGo deed in 2016 een zet die in eerste instantie werd weggehoond door alle go-experts, maar waarmee de machine een van de beste menselijke spelers aller tijden versloeg. Bij nader inzien bleek de zet geniaal en een verrijking voor het eeuwenoude go-spel.

In 2018 verkocht veilinghuis Christie’s voor ruim 400.000 dollar een portret gemaakt door een algoritme. Het schilderij van Edmond de Belamy is gesigneerd door een formule, afkomstig uit de code van het algoritme. Het algoritme was getraind met 15.000 portretten vanaf de veertiende eeuw.

En Emmy heeft inmiddels een opvolger in de jazz. De Fransman François Pachet programmeerde de eerste AI-jazzimprovisator, Continuator geheten. Jazzmuzikant Bernard Lubat zei hierover: “Het systeem laat me ideeën zien die ik had kunnen ontwikkelen, maar die me jaren zouden hebben gekost. Het systeem loopt jaren op me voor, maar toch is alles wat het speelt echt van mij.” Jazzcritici konden improvisaties van de Continuator niet onderscheiden van die van menselijke jazzmusici. Pachet werkte lang voor Sony Labs, maar werd weggekaapt door Spotify. Creatieve AI is veel geld waard geworden.

Zelfs op du Sautoys eigen terrein, de wiskunde, hebben computers inmiddels enkele bewijzen geproduceerd die experts niet meer konden onderscheiden van bewijzen gemaakt door menselijke wiskundigen.

Wat zegt het over de menselijke creativiteit als computers inmiddels zijn geslaagd voor Turingtests in de muziek, de schilderkunst en de wiskunde? “Het laat zien dat creativiteit lang niet zo mysterieus is als veel mensen denken”, zegt du Sautoy. “We zien creativiteit vaak als iets wat uit het niets voortkomt. Dat is absoluut niet waar, zelfs niet voor de meeste radicale vorm van creativiteit. Picasso heeft zich eerst jarenlang in de traditionele schilderkunst ondergedompeld voordat hij ontdekte hoe hij de bestaande regels wilde breken.”

Dat algoritmen kunst kunnen maken, toont volgens du Sautoy ook dat kunst wel degelijk een algoritmische component heeft. “Dit soort Turingtests laten zien dat de onderliggende algoritmen erin zijn geslaagd de regels te begrijpen die kunstenaars onbewust hebben gevolgd.”

Creativiteit is verhalend

Toch zijn er wel degelijk grote verschillen tussen computercreativiteit en menselijke creativiteit. Ja, algoritmen kunnen kunst maken, maar ze missen tot nu toe vaak net wat extra’s. Du Sautoy citeert de componist Claude Debussy: “Kunstwerken maken de regels; regels maken geen kunstwerken.” Aan de andere kant kunnen ook algoritmen best meta-regels krijgen waarmee ze hun oorspronkelijke regels leren breken. Alleen heeft dat tot nu toe nog weinig interessants opgeleverd.

Waar ligt dat aan? Du Sautoy zoekt het antwoord in het feit dat mensen een bewustzijn en een lichaam hebben, en dat ze daarmee zijn ingebed in een sociale en culturele context. De kunstschilder Harold Cohen, die vanaf de jaren zeventig experimenteerde met zijn schilderrobot AARON, zei daarover: “Geen enkele machine zal de wereld ooit op dezelfde manier ervaren als een mens. Het hebben van een brein en het hebben van een leven zijn twee verschillende dingen.”

Het hebben van een leven leidt tot het hebben van verhalen. Du Sautoy benadrukt het belang van het verhalende aspect van creativiteit. Hij was een keer op een bijeenkomst samen met de Nigeriaanse dichter en schrijver Ben Okri. Ze spraken over de overeenkomsten tussen hun beroepen en kwamen er achter dat ze veel gemeen hadden. Du Sautoy: “Een verhaal legt een bepaald pad af en voortdurend moet de verteller keuzes maken in welke richting hij verder wil. Die richting wordt vaak gedreven door emotie, door intuïtie. Dat geldt voor een schrijver als Okri, maar ook voor mij als wiskundige. Ik zie wiskundigen ook als verhalenvertellers. We beginnen vaak met een stelling. Dat is precies zoals een Whodunit-detectiveverhaal begint. Daarna beginnen we aan het grote verhaal. Creatieve algoritmen hebben juist moeite met die grote lijn, in de muziek, maar ook in verhalende tekst.”

De Argentijnse schrijver Jorge Luis Borges schreef ooit het verhaal De bibliotheek van Babel. Die bibliotheek bevat elk boek dat geschreven kan worden, hoe oninteressant of met hoeveel brabbelwoorden ook. Du Sautoy: “Sommigen denken dat wiskundigen proberen om alle bewijzen te vinden die maar mogelijk zijn. Maar dat is helemaal niet zo. We proberen niet het wiskundige equivalent van de bibliotheek van Babel te scheppen, maar eerder een bibliotheek met unieke boeken. Wiskundigen zoeken niet alle bewijzen, maar bewijzen die iets interessants te vertellen hebben. Dat is óók een boodschap uit mijn boek: wiskunde is veel creatiever en veel minder mechanisch dan veel niet-wiskundigen denken.”


Een computer die schildert, musiceert of een wiskundige stelling bewijst, lost een probleem op. Maar menselijke kunst is geen probleemoplossende activiteit, aldus du Sautoy. “Kunst is een expressie van een individu. Kunst communiceert met andere mensen. En kunst kan politieke doelen hebben. Zo lang machines geen bewustzijn hebben, denk ik niet dat ze iets meer kunnen zijn dan een instrument om de menselijke creativiteit verder uit te breiden.”

En daarin ligt du Sautoys hoofdboodschap. “Creatieve AI is zoals de telscoop van Galileo. We kunnen dingen zien die we daarvoor niet konden zien. AI biedt ons nieuwe ideeën die onze eigen menselijke creativiteit kunnen stimuleren.”

Mutant in de natuurkunde

Voor de VPRO Gids van deze week schreef ik over de eigenzinnige theoretisch natuurkundige Miranda Cheng. Zij zoekt de wiskunde die het geheim van zwarte gaten onthult, en deed een belangrijke doorbraak.

Miranda Cheng staat centraal in een nieuwe aflevering van de VPRO tv-serie 'Grote Vragen' op donderdag 1 oktober. 

Kijken!

Het brein als voorspellingsmachine

In de eerste aflevering van de achtdelige VPRO-serie Grote vragen bezoekt cognitiewetenschapper Floris de Lange plekken die zijn fascinatie voor de menselijke psyche aanwakkerden. ‘Het brein is geen Zwitsers zakmes.’

Dit artikel is gepubliceerd in de VPRO Gids van 5 september 2020

Je kijkt op een scherm naar een ronddraaiend masker, bol aan de voorkant, hol aan de achterkant. De neus steekt uit, de lippen zijn licht getuit, de ogen lijken die van een dodenmasker. Op het moment dat je verwacht de achterkant van het masker te zien, zie je opnieuw de voorkant voorbij draaien. Vreemd. Het lukt je hersenen maar niet om het masker van de achterkant, de holle kant, te zien.

Dit is een van de vele illusies die aantonen dat het brein al een verwachting heeft van wat het gaat zien. Anderzijds illustreert deze illusie ook hoezeer ons brein is voorgeprogrammeerd om gezichten op te merken. Gezichten zijn zo belangrijk voor de mens dat we zelfs in twee puntjes en een haakje al een lachend gelaat herkennen. We kunnen gezichten ontwaren in wolken, rotspartijen, in het maanoppervlak, ja, in wat dan ook. ‘Zien doen we veel meer met ons brein dan met onze ogen,’ zegt Floris de Lange, hoogleraar waarneming en cognitie aan de Radboud Universiteit Nijmegen. ‘Dat is heel anders dan de passieve manier waarop een camera beelden ziet. Het brein registreert beeld, geluid of tast niet op een passieve manier, maar het speelt een actieve rol. Het gebruikt interne modellen die de directe waarneming interpreteren. Dat is handig. Zo stellen die modellen ons in staat om ons dingen voor te stellen, ook als je ze op dat moment niet waarneemt. Modellen geven ons brein verbeeldingskracht. Modellen maken van het brein een voorspellingsmachine.’

Lees het hele artikel in de VPRO Gids.

Het nieuwe samen is digitaal

Welke invloed heeft de coronalockdown op de digitale cultuur? Natuurlijk zijn films over virusuitbraken en zombies weer populair, maar op digitale platforms ontstaat ook nieuwe creativiteit, met een opvallende gemeenschapszin. ‘Mensen zijn in hoge mate sociale wezens.’

Dit artikel verscheen in de VPRO Gids #25 - 20 t/m 26 juni 2020

Een klein jongetje knielt bij een prullenbak waarin twee poppen liggen: de afgedankte superhelden Spiderman en Batman. In zijn linkerhand houdt hij een nieuwe pop, een vliegende verpleegster met een mondkapje. De Britse straatkunstenaar Banksy liet een grote tekening met dit tafereel bezorgen bij het Southampton General Hospital. Hij had er een briefje bij geschreven: ‘Thanks for all you’re doing. I hope this brightens the place up a bit, even if it is only black and white.’

Worden verpleegkundigen de nieuwe superhelden in de digitale cultuur van de wereldwijde lockdown? ‘Nee,’ zegt Dan Hassler-Forest resoluut. Hassler-Forest is universitair docent cultuur- en mediawetenschappen aan de Universiteit Utrecht. Hij promoveerde op het effect van de terroristische aanslagen van 11 september 2001 in New York op superhelden in films. ‘Na 9/11 zag je eenzelfde soort reactie als die van Banksy. Er verschenen tv-series en stripboeken met brandweermannen en politieagenten als de nieuwe helden. Batman en Superman maakten een diepe buiging voor de echte helden, de reddingswerkers. Het waren begrijpelijke, maar ook sentimentele uitingen die niet lang stand hielden. Uiteindelijk zit de status van fictieve superhelden zo diep in onze cultuur en in de verdienmodellen van mediabedrijven dat we daar niet zomaar vanaf komen.’ 

Lees het hele artikel op de website van de VPRO Gids.

De robotkraamkamer is gereed

Mensen en dieren reproduceren zichzelf volgens de principes van evolutie. Robots kunnen dat niet. Tenminste nog niet. Hoogleraar Guszti Eiben ontwikkelt robots die zich wel degelijk kunnen voortplanten. Superhandig voor het fokken van totaal nieuwe typen robots.

Dit artikel is gepubliceerd in de VPRO Gids van 1-7 februari 2020

Een robotarm beweegt over een tafel vol onderdelen op zoek naar het juiste puzzelstukje voor een gloednieuw robotlichaam. In deze robot-organenbank, want dat is het in feite, liggen kant-en-klare componenten zoals een computerchip, een cameraatje en kabeltjes. Elders liggen 3D-geprinte onderdelen: de bouwstenen voor de romp, de wielen, de armen, benen, poten of wat voor soort exotische ledematen dan ook van de robotbaby. De robotarm monteert de componenten een voor een tot een op twee wielen rijdend, doosvormig robotje.

Het is september 2019 wanneer in een robotlab in het Britse Bristol voor het eerst volautomatisch deze rijdende robotbaby ter wereld komt. Geen mensenhand is er aan te pas gekomen. De bedoeling is dat in deze robotkraamkamer in de komende jaren nog meer robotbaby’s het licht gaan zien.

Drie jaar eerder had hoogleraar kunstmatige intelligentie Guszti Eiben van de Vrije Universiteit Amsterdam voor het eerst een vader- en een moederrobot — de een met het uiterlijk van blauwe spin, de ander met het uiterlijk van een groene gekko — met elkaar laten paren. Via de computer hadden de twee geliefden virtuele genetische codes uitgewisseld. De kruising van de vader- en moedergenen werd naar een 3D-printer gestuurd die de bouwstenen van de robotbaby uitprintte. Vervolgens moest er wel nog een promovendus aan te pas komen om de uitgeprinte blokjes en overige robotonderdelen handmatig in elkaar te knutselen tot een robotbaby.

Deze robotbaby haalde het nationale en internationale nieuws. Het was een proof-of-concept dat evolutie in robots in principe mogelijk is zodra 3D-printers werkelijk alle onderdelen van een robot kunnen printen, wat nog lang niet het geval is.

De robotkraamkamer in Bristol heeft dus het werk van de promovendus helemaal overgenomen. Weer een belangrijke stap op weg naar autonome robotevolutie. Want dat is het ultieme doel: een automatisch systeem dat volgens de evolutionaire principes van variatie, selectie en erfelijkheid meerdere generaties van nieuwe robots creëert in de robotkraamkamer en deze vervolgens spelenderwijs klaarstoomt voor een of andere nuttige toepassing in de grote-mensenwereld.

Lees de rest van het artikel in de VPRO Gids of op de website van NPO Radio 1.

Hyperlinks
Website ARE-project: https://www.york.ac.uk/robot-lab/are/
Website Guszti Eiben: https://www.cs.vu.nl/~gusz/
Filmpje van de eerste robotbaby (2016): https://www.youtube.com/watch?v=BfcVSb-Q8ns

De computer snapt niet waarom

Dit artikel is gepubliceerd in de VPRO Gids van 27 april 2019

Judea Pearl, een beroemde Israelisch-Amerikaanse informaticus van 82 jaar, wil best een telefonisch interview geven, maar dan wel om 1 uur ’s nachts. “’s Nachts werk ik, overdag slaap ik”, zegt hij met opgewekte stem aan de telefoon. Gelukkig woont hij in Los Angeles. Daar is het negen uur vroeger. Pearl schreef vorig jaar een boek dat veel stof deed opwaaien in de wetenschappelijke wereld van de kunstmatige intelligentie: The book of why, net in het Nederlands vertaald als Het boek waarom. Als er één les is die we uit zijn boek moeten onthouden, zegt hij, dan is het deze: “Je bent slimmer dan je data. Data snappen niets van oorzaak en gevolg, mensen wel.”

Pearl won in 2011 de hoogste onderscheiding in de informatica, de Turingprijs, voor het baanbrekende werk dat hij in de jaren tachtig deed op het terrein van het redeneren met onzekere informatie. Dankzij dit werk kunnen wetenschappers vragen beantwoorden als ‘Wat is de kans dat een patiënt die uit Afrika terugkeert met koorts en pijn malaria heeft?’

Hij is ook de vader van journalist en violist Daniel Pearl die in 2002, enkele maanden na 9/11, in Pakistan door moslimfundamentalisten werd ontvoerd en onthoofd. Nog in hetzelfde jaar richtte Judea Pearl samen met zijn vrouw de Daniel Pearl Foundation op, “ter promotie van wederzijds respect en begrip tussen diverse culturen via journalistiek, muziek en dialoog.”

Of de waarom-vraag in zijn boektitel nog enig verband heeft met de waarom-vraag bij de moord op zijn zoon? “Nee, dat verband is er niet”, antwoordt Pearl. “Aan die associatie heb ik niet eens gedacht.”

De reden dat Pearls boek zoveel stof deed opwaaien is dat hij het feest van de kunstmatige intelligentie leek te verpesten. Waar kunstmatige intelligentie in de afgelopen jaren succes op succes stapelde met innovaties als automatische gezichtsherkenning, spraakherkenning en de ontwikkeling van zelfrijdende auto’s, kwam Pearl met de boodschap dat al die lerende machines niets anders doen dan statistiek bedrijven. Niets intelligentie. Volgens hem zullen ze door alleen patronen in data te zoeken nooit in staat zijn om te redeneren over oorzaak en gevolg.

“Natuurlijk is het indrukwekkend wat lerende machines nu allemaal kunnen,” licht Pearl toe, “maar het is zorgwekkend dat machines die alleen van een heleboel data leren fundamentele beperkingen hebben die mensen niet hebben. Ze hebben ook modellen nodig van de wereld buiten die data, van de context.”

Wat zijn dan die fundamentele beperkingen? Pearl legt ze uit aan de hand van de belangrijkste illustratie in zijn boek: de ladder van causatie. De ladder illustreert wat een organisme dat beschikt over een causaal model kan berekenen dat een organisme zonder zo’n model niet kan. Stel je een ladder voor met drie treden. Op de onderste tree, ‘zien’ genaamd, staan een robot en een uil. Op de tweede trede, die ‘doen’ heet, staat een oermens met een stok. Op de derde en hoogste trede, ‘voorstellen’ geheten, staat een op Einstein lijkende wetenschapper die droomt over atomen, computers en ruimteschepen.

“Op de onderste trede zoeken we naar regelmatigheden in waarnemingen”, verklaart Pearl zijn ladder. “Kenmerkend voor deze trede is een vraag als ‘Wat gebeurt er als ik … zie?’ Dit is het niveau van een dier, maar ook van onze huidige computers en robots. Zo’n vraag kun je beantwoorden met alleen data. Je gaat associaties zoeken. Stel dat we data hebben van wie wel of niet rookt en wie wel of niet longkanker heeft, dan kan een computer een correlatie vinden tussen roken en longkanker. Maar hij heeft geen idee wat oorzaak en gevolg is.”

Wie op de tweede trede staat, kan de wereld niet alleen waarnemen, maar ook veranderen. Hierbij hoort een vraag als ‘Wat gebeurt er als ik … doe?’ Pearl: “We kunnen ons bijvoorbeeld afvragen wat er gebeurt als we sigaretten verbieden. Die vraag kan een machine die alleen maar is getraind met data over rokers en longkanker niet beantwoorden. De interventie om sigaretten te verbieden, breekt namelijk de regels van de omgeving waarin de machine is getraind.”

Wie tenslotte op de hoogste trede van de ladder van causatie staat, kan zich een wereld van denkbeeldige feiten voorstellen en zich bijvoorbeeld afvragen: ‘Wat zou er gebeurd zijn als ik de afgelopen twee jaar niet had gerookt?’ “Deze derde trede heeft te maken met een wereld van contrafeitelijkheden,” zegt Pearl, “een wereld die niet kan worden gezien omdat hij strijdig is met wat wordt gezien. Redeneren over contrafeitelijkheden is belangrijk omdat het ons de bouwstenen geeft voor zowel moreel gedrag als wetenschappelijk denken.”

Aan dat redeneren over oorzaak en gevolg, en de vraag hoe een machine kan opklimmen van de onderste naar de bovenste trede, heeft Pearl de afgelopen dertig jaar gewerkt. Hij heeft een wiskundige taal ontwikkeld waarin wetenschappers vragen over interventies en contrafeitelijkheden kunnen formuleren en beantwoorden, wat in de traditionele statistiek niet kan.

Pearl: “Dat correlatie geen causatie impliceert, klopt natuurlijk. Maar de traditionele statistiek heeft dit lang als een mantra gebruikt om het maar niet te hebben over wat oorzaak is en wat gevolg. Het redeneren in oorzaak en gevolg is echter een essentieel onderdeel van het gezond verstand van mensen. We kunnen niet zonder. Niet in het alledaagse leven en ook niet in het professionele leven. Denk aan beleidsmakers en rechters. Trouwens, kinderen van drie jaar begrijpen de hele ladder van causatie al.”

De rode draad in Pearls werk als informaticus is de vraag hoe machines mensachtige intelligentie kunnen krijgen. Hij is ervan overtuigd dat de causale revolutie die hij probeert te ontketenen de kunstmatige intelligentie naar een volgend niveau gaat tillen. “Machines kunnen alleen zinvol met ons communiceren over zaken als beleid en verklaringen, maar ook over verantwoordelijkheid of plicht, wanneer ze kunnen redeneren over oorzaak en gevolg. Ik geloof dat er geen betere manier is om onszelf te begrijpen dan door onszelf na te bootsen in een machine. Het probleem van de vrije wil gaat niet opgelost worden door de filosofie of de psychologie, maar door de kunstmatige intelligentie.”


Boekinformatie
Judea Pearl en Dana Mackenzie. Het boek waarom − De nieuwe wetenschap van oorzaak en gevolg. MAVEN Publishing. 480 pag. ISBN 978 94 9249 355 2.

Kijk, zonder handen

De zelfrijdende auto belooft het verkeer veiliger te maken. Toch zien deskundigen nog veel beren op de weg. En dan moet de autonome auto ook nog morele knopen doorhakken.

Dit artikel is gepubliceerd in de VPRO Gids van 5 april 2019

Om te bewijzen dat je geen robot bent, vragen talloze websites je om negen fotootjes te bekijken: op welk van deze foto’s staat een verkeersbord? Andere keren gaat de vraag over het herkennen van een voertuig, een winkel of een etalage. Waarom dat is? Omdat we zo met ons allen zelfrijdende auto’s trainen om te begrijpen wat ze om zich heen zien.

Dat dit zelfs met de modernste technologie niet altijd goed gaat, bewees het ongeluk met een Tesla Model X in maart 2018 op Highway 101 in Californië. Walter Huang reed met 112 kilometer per uur op de automatische piloot van zijn Tesla toen de auto plots op een betonnen scheiding tussen twee weghelften inreed. Huang kwam om het leven. Ook robotauto’s zijn niet perfect. Soms maken ze fouten die geen mens zou maken.

Toch is hun grootste belofte dat ze het wegverkeer veiliger gaan maken. Wereldwijd vallen er jaarlijks 1,2 miljoen doden door auto-ongelukken. Ruim negentig procent van die ongelukken is te wijten aan menselijke fouten. Zelfrijdende auto’s zouden een groot deel van deze ongelukken kunnen voorkomen. Ze kijken niet op de smartphone, laten zich niet afleiden door medepassagiers, drinken niet en hebben geen last van slaaptekort. En ze zien veel meer dan wij met hun hightechsensoren: infraroodcamera’s, radar, lidar, ultrasone sensor en gps-navigatie. Weg dode hoek, weg mist, weg duisternis. In theorie dan.

Lees de rest van het artikel op de VPRO website.

Voorkomen of genezen?

Dit artikel is gepubliceerd in de VPRO Gids van 26 november 2018, naar aanleiding van de tv-uitzending van VPRO Tegenlicht op zondag 2 december: 'Verovering van ons DNA'.

                             

In maart van dit jaar maakte de regering van Estland bekend dat ze vijf miljoen euro uittrekt om in het vervolg van 2018 honderdduizend burgers een gratis genetische screening aan te bieden. Sindsdien stromen de aanmeldingen van belangstellende Esten wekelijks binnen. ‘Nog voor kerstmis gaan we die honderdduizend halen’, zegt professor Andres Metspalu aan de telefoon. Metspalu is directeur van het Estonian Genome Center van de Universiteit van Tartu in Estland. In de biobank van zijn centrum ligt het genetische materiaal van de Esten opgeslagen. Estland heeft een ideaal, vertelt de geneticus: ‘En dat ideaal noemen we precisie­preventie.’ 

De slechts 1,3 miljoen inwoners tellende Baltische staat gaat de genetische informatie van bereidwillige burgers gebruiken om ziekten te voorkomen en om adviezen over gezondheid en medicijngebruik op maat te geven. Collega-onderzoekers van Metspalu publiceerden in oktober een wetenschappelijke studie in het tijdschrift Genetics in Medicine waarin ze lieten zien dat de Estse screening dertien mensen had gevonden met familiaire hypercholesterolemie, een erfelijke aandoening waarbij het cholesterolgehalte in het bloed te hoog is. Hierdoor neemt het risico op een hart­infarct sterk toe. Geen van deze dertien wist dat ze deze aandoening onder de leden hebben, maar ieder van hen kreeg spoedig na de diagnose wel meteen de juiste medische behandeling aangeboden.

‘Dit voorbeeld laat goed zien wat het nut van onze genetische screening is,’ reageert Metspalu. ‘Familiaire hypercholesterolemie komt bij ongeveer een op de tweehonderd mensen voor, maar twee derde van hen krijgt nooit de diagnose. Daar willen we iets aan doen.’ Hij vertelt dat twee ziekenhuizen in Estland al zijn begonnen om programma’s te ontwikkelen voor het voorkomen van hart- en vaatziekten en het vroeg detecteren van borstkanker bij burgers die daar een sterk verhoogde kans op hebben volgens hun genetische screening.

Metspalu: ‘Vijf tot tien procent van de vrouwen heeft een hoge genetische aanleg om voor het vijftigste levensjaar borstkanker te ontwikkelen. Maar borstkankerscreening begint pas boven de vijftig jaar. Voor de groep vrouwen met een sterk verhoogde kans op borstkanker is dat te laat. Met ons programma kunnen we die vrouwen veel eerder screenen en met veel meer kans op succes behandelen.’

Lees het hele artikel op de website van de VPRO Gids.

Hoe een poepende roboteend een filosofisch debat op scherp stelde

Dit artikel is gepubliceerd in de VPRO Gids van november 2018

“De eend strekt zijn nek uit om de maïskorrels uit je hand te pikken, slikt ze door, verteert ze en via de gebruikelijke passage verdwijnen ze in zijn ontlasting. Je ziet al deze acties….gekopieerd van de Natuur.” Dat schreef de Zwitserse uitvinder Jacques de Vaucanson (1709-1782) over zijn beroemdste creatie. De mechanische eend kon ook drinken, een gorgelend geluid maken en met zijn vleugels fladderen. 

In 1739 stond deze ingenieuze automaat tentoongesteld in het Hôtel de Longueville in Parijs. Links van de eend stond een mechanische trommelaar, rechts een mechanische fluitspeler. Maar automaten die muziek konden maken, bestonden al eeuwen, zowel in Europa als in China en in de Arabische wereld. Echt nieuw was een automaat die niet alleen kon bewegen, maar zelfs kon eten, spijsverteren en poepen. Dat konden toch alleen dieren van vlees en bloed? Vaucanson had er bewust voor gezorgd dat de bezoekers het inwendige van de roboteend konden zien, zodat ogenschijnlijk niets verborgen was.

Natuurlijk had de eend helemaal geen echte spijsvertering. De uitwerpselen waren natuurgetrouwe nabootsingen die via een verborgen holte uit de eend werden geduwd. Maar de eend zette een filosofisch debat op scherp. In de 17e eeuw had de filosoof René Descartes beweerd dat dieren niets anders dan machines waren. Ze deden alleen wat voorgeprogrammeerd was. Vaucanson wilde met zijn eend het omgekeerde demonstreren: je kunt een mechanische machine bouwen die in alles lijkt op een echt dier.

Maar waarom ophouden bij een dier als machine of een machine als dier? De Franse arts en filosoof Julien Offray de La Mettrie, geboren in hetzelfde jaar als Vaucanson, ging dan ook een stap verder. Hij beweerde dat ook de mens niet meer dan een machine was. En hij schreef dat hij hoopte dat een groot uitvinder als Vaucanson in de toekomst zoiets zou kunnen bouwen als een mechanische mens: “Een machine die niet langer voor onmogelijk gehouden moet worden, zeker niet onder de handen van deze tweede Prometheus.”

Wanneer we de hedendaagse hoop en angst over robots en kunstmatig intelligente computers willen begrijpen, dan moeten we beseffen dat zowel deze hoop als deze angst diep geworteld zijn in de menselijke cultuur. Robots hebben mensen al drieduizend jaar gefascineerd. Dromen over robots in werken als De Ilias van Homerus werden in vele eeuwen daarna eerst omgezet in speelgoedachtige automaten. Later volgden praktische automaten zoals automatische weefmachines, die menselijke handarbeid vervingen. Al deze automaten zijn voorlopers van de uitvinding van de programmeerbare robot halverwege de 20e eeuw. Het zit diep in ons: we proberen machines te bouwen die menselijke, ja liefst bovenmenselijke capaciteiten hebben, maar tegelijkertijd zijn we bang dat deze machines niet ondergeschikt aan ons blijven.

‘Vaucancons poepende roboteend’ is deel 1 van een zesdelige reeks radioverhalen over vreemde ideeën uit het verleden. De serie, getiteld Tijdgeest, is gemaakt door Julie Blussé. In de eerste aflevering praat ze met dierfilosoof Erno Eskens en hoogleraar geschiedenis van de psychologie Douwe Draaisma over de filosofische betekenis van de poepende eend. Waar ligt de grens tussen mechanisch ding en levend wezen?

Informatie
‘Vaucancons poepende roboteend’ wordt uitgezonden op zondag 18 november in het VPRO-programma OVT op NPO Radio 1, tussen 10.00 en 11.00. De aflevering is al vanaf 11 november te beluisteren in de podcast van Tijdgeest.

Luis in de pels van de tech-sector zoekt nu oplossingen

In zijn nieuwste boek How to fix the future is ondernemer en auteur Andrew Keen voorzichtig optimistisch dat de nevenschade van de digitale revolutie nog te repareren is.

Dit artikel is gepubliceerd in de VPRO Gids van 12 juni 2018

Diep voorovergebogen zit Andrew Keen buiten op een plastic stoeltje in de stralende mei-zon. Hij staart op zijn smartphone. Ik spreek hem aan: ‘Hallo, we hebben een interviewafspraak’. ‘O, hallo. Je hoeft dit niet voor radio of tv op te nemen, toch?’ Hij bijt wat op zijn nagels. ‘Nee hoor.’ Hij zakt in, knijpt zijn ogen dicht tegen de zon en zal me de rest van het interview nauwelijks meer aankijken. Binnen gaan zitten wil hij niet: ‘Daar is het nog warmer.’ Hij zucht.

Keen is in Nederland voor de promotie van zijn nieuwste boek How to fix the future. Ik bezoek twee van zijn lezingen en spreek hem op het festivalterrein van The Next Web, een tech-conferentie in Amsterdam waar verreweg de meeste sprekers de blijde boodschap van de digitale technologie verkondigen. Keen is hier een vreemde eend in de sprekersbijt. Hij is een van de vroege critici van de digitale revolutie. In drie eerdere boeken die hij sinds 2007 schreef, betoogde hij dat het internet onze cultuur om zeep helpt door het ondermijnen van expertise en het creëren van nep-nieuws, dat sociale media vooral asociale media zijn die narcisme aanmoedigen, en dat de digitale revolutie een winner-takes-all-economie heeft gecreëerd waarin een handvol grote techbedrijven het geld en de macht in handen heeft en waardoor de economische ongelijkheid in de samenleving wordt vergroot.

Hoe gaat Keen zelf om met al die voor velen zo handige diensten uit Silicon Valley? ‘Ik gebruik Google de hele tijd, maar ik heb geen Google-account. Facebook gebruik ik niet. Ik gebruik Twitter nauwelijks. Eigenlijk haat ik het. Maar kijk, ik ben net zo kwetsbaar als iedereen. Ik ben verslaafd aan tekstberichten. Maar ik besef ook dat voortdurend tekstberichten sturen ongezond is en tot verstoorde relaties kan leiden.’

Sommige mensen hebben hem inconsequent genoemd omdat hij kritiek heeft op de digitale cultuur maar er wel aan mee doet. Wat heeft hij die critici te zeggen? ‘Ik woon met plezier in Silicon Valley. Ik voel meer meer een techie dan een non-techie. Maar neem Uber. Uber biedt veel gemak. Ze behandelen hun chauffeurs echter slecht. Het gebrek aan rechten. Het lage inkomen. Toch bestel ik wel eens een rit via Uber, als het niet anders kan.’ Geïrriteerd zegt hij: ‘Mijn kritiek is veel fundamenteler dan alleen het persoonlijke gebruik. Het gaat er meer om hoe je een dienst gebruikt dan of je een dienst gebruikt. Je kunt Facebook ook heel spaarzaam gebruiken, waarbij je je heel bewust bent van wat Facebook allemaal over je te weten komt, in plaats van dat je zomaar alles zorgeloos deelt.’

Dit raakt de kern van How to fix the future, waarin hij de wereld rondreist op zoek naar mensen die experimenteren met oplossingen voor de structurele problemen die de digitale revolutie volgens Keen heeft veroorzaakt. ‘Voor mij is de kern het begrip agency. Agency gaat over onze sociale gezondheid. Het betekent dat we als burgers en consumenten weer zelf aan het stuur komen te staan in plaats van de grote tech-bedrijven. Als burgers en consumenten moeten we onze verantwoordelijkheid nemen en een tegenkracht ontwikkelen. Zo hebben we het ook gedaan met de voedingsindustrie en de auto-industrie. We zijn om gezonder voedsel en milieuvriendelijkere auto’s gaan vragen.’

Om de problemen van de digitale revolutie te repareren zouden we dit verantwoord digitaal consumeren en het nemen van onze sociale verantwoordelijkheid als burgers volgens Keen moeten combineren met drie andere instrumenten: regulering door overheden ‑ zoals de nieuwe Europese privacywetgeving, waarover hij positief is ‑ innovaties die consument en burger weer meer controle geven, en een onderwijssysteem dat meer aandacht besteedt aan wat het betekent om een burger te zijn. ‘De mens heeft deze vijf instrumenten al vaker in de geschiedenis gebruikt om de nevenschade van ontwrichtende technologie te repareren. In de 19e eeuw bijvoorbeeld met de industriële revolutie. Daarom ben ik ook nu voorzichtig optimistisch.’

Ik vraag Keen hoe hij in dit kader kijkt naar Facebook’s Cambridge Analytica-schandaal. Vooralsnog lijken Facebook-gebruikers niet massaal te zijn weggelopen. Hij begint weer te kijken op zijn smartphone. Op de automatische piloot antwoordt hij: ‘Dit was geen beslissende gebeurtenis. Mensen waren niet echt geshockt. Ik denk dat er in de toekomst grotere dingen gaan gebeuren die mensen wel ontmoedigen dat platform te gebruiken. Een oorlog die wordt uitgelokt door nep-informatie. Iets dat mensen nu helemaal niet verwachten.’ Hij bromt: ‘Maar ik ben helemaal niet geïnteresseerd in deze vraag.’

Het onderwijs dan. Keen draagt zijn boek op ‘Aan onze kinderen’ en het onderwijs ziet Keen als een krachtig instrument en als de grootste uitdaging. ‘Het gaat mij om humanistische educatie, niet om technologische educatie. We moeten mensen die dingen leren die computers niet kunnen: creativiteit, empathie, verantwoordelijkheid. Een algoritme kan een diagnose stellen maar niet met een patiënt praten. Een algoritme kan niet empatisch zijn. Een algoritme kan geen boek schrijven zoals How to fix the future. Een algoritme heeft geen eigen wil.’

Dan maakt Keens lichte optimisme weer plaats voor een pessimisme waarin hij zich beter lijkt thuis te voelen: ‘Toch denk ik dat de echte problemen van de digitale revolutie nu pas beginnen. En we zullen een generatie nodig hebben om de problemen op te lossen. We moeten wel, anders kunnen we over 25 jaar de toekomst niet meer repareren.’ Hij kijkt weer op zijn smartphone. ‘Ik moet gaan. Dankjewel. Wat een vreselijk weer is het toch.’ En weg is hij.

Boekinformatie:Andrew Keen. How to fix the future − Staying human in the digital age. Atlantic Books London, 2018.

De mens wikt, het algoritme beschikt

Computeralgoritmen nemen steeds vaker belangrijke beslissingen over ons. Kunnen ze ons ook uitleggen hoe ze dat precies doen?

Dit artikel is gepubliceerd in de VPRO Gids van de week van 16 april.

Begin dit jaar ontstond in Nederland grote ophef over het bedrijf e-Court, een private, digitale ‘rechter’ die uitspraken doet over betalingsgeschillen tussen een zorgverzekeraar en een klant. Het bedrijf werd gebrek aan transparantie verweten over hoe de uitspraken van de robotrechter tot stand kwamen. De voorzitter van de Raad voor de Rechtspraak, Frits Bakker, zei dat hij vreest dat e-Court de juridische rechten van burgers aantast.

Steeds vaker nemen computeralgoritmen belangrijke beslissingen over burgers, consumenten en werknemers, in de vs nog vaker dan in Nederland: Wie krijgt er een lening? Wie wordt toegelaten tot een land? Wie komt op de no-fly-lijst van een vliegtuigmaatschappij? Hoe goed presteert een werknemer? Welke sollicitanten komen door de eerste selectie? Laat een medische scan wel of niet een tumor zien? De computer is snel, raakt niet vermoeid en heeft geen last van emoties. Handig, op het eerste gezicht.

Toch bleken zulke computerbeslissingen de afgelopen jaren lang niet altijd goed uit te pakken. Naar schatting worden meer dan duizend mensen per week door een algoritme op een luchthaven ten onrechte als terrorist aangemerkt. Een lerares uit Washington dc werd jarenlang door haar leerlingen als uitmuntend beoordeeld tot een algoritme haar opeens ongeschikt achtte. Software die in de Amerikaanse staat Florida wordt gebruikt om het recidiverisico van gevangenen in te schatten, bleek bevooroordeeld tegenover zwarte mensen. Dit laatste voorbeeld komt zondag uitgebreid aan bod in de VPRO Tegenlicht-aflevering over algoritmen.

Transparant
Tot enkele jaren geleden waren computerbeslissingen altijd transparant, omdat ze geprogrammeerd werden volgens duidelijke regels die iedereen kan natrekken: als [dit het geval is], doe dan [dat]. Maar de nieuwste computeralgoritmen werken heel anders. Ze bestaan uit tientallen lagen van kunstmatige neuronen en bootsen op een rudimentaire manier na hoe menselijke hersenen werken. Ze leren van grote hoeveelheden voorbeelden en herprogrammeren zichzelf.

Lerende computers hebben de afgelopen jaren spectaculaire resultaten opgeleverd. Neem de go-computer AlphaGoZero, die met alleen de spelregels, maar zonder enige andere menselijke kennis over hoe je goed go speelt, binnen een paar weken veel sterker werd dan de beste menselijke go-spelers. Het grote nadeel is echter dat zelfs de makers van lerende algoritmen niet meer precies weten waarom een algoritme doet wat het doet. Informatie ligt namelijk niet meer opgeborgen in overzichtelijke digitale vakjes, maar ligt op een onoverzichtelijke manier verspreid over een verzameling kunstmatige neuronen. Voor het eerst in de historie maken mensen iets wat ze zelf niet meer tot in detail begrijpen.

Bij het go-spel is dat niet zo erg, maar dat ligt anders bij computers die beslissingen nemen over mensen. Hoe groter de potentiële gevolgen van een computerbeslissing voor burgers, werknemers of consumenten, hoe meer zij mogen verwachten dat transparant gemaakt kan worden waarom een computer een bepaalde beslissing heeft genomen. De grote vraag is nu hoe we ervoor kunnen zorgen dat computerbeslissingen transparant zijn.

Hallucineren
Om dit probleem op te lossen worden momenteel drie paden bewandeld. Allereerst wordt gezocht naar technische oplossingen. Nadat MIT-hoogleraar informatica Regina Barzilay succesvol behandeld werd voor borstkanker, ging ze met enkele collega’s aan de slag om een computeralgoritme te ontwikkelen dat niet alleen vroege signalen van borstkanker in een mammogram herkent, maar er meteen ook bij vertelt waarom het die conclusie trekt. Het onderzoeksveld van algoritmen die hun eigen beslissingen toelichten staat echter nog in de kinderschoenen.

In 2015 vonden onderzoekers van Google een manier om een algoritme dat dierengezichten in foto’s herkent te laten illustreren hoe het een bepaald beeld ziet. Gegeven een bepaalde foto lieten ze de computer het beeld pixel voor pixel aanpassen zodanig dat de kunstmatige neuronen die getraind waren om dierengezichten te herkennen optimaal getriggerd werden. Opeens doken in een foto van een bloem allerlei ogen op, maar ook een hondenkop en een vissenkop. Het algoritme, Deep Dream gedoopt, was als het ware aan het hallucineren geslagen.

Hoe goed algoritmen ook zijn, en hoezeer hun makers ook hun best doen om ze te laten uitleggen wat ze doen, wanneer ze worden getraind met voorbeelden die allerlei menselijke tekortkomingen bevatten dan kopieert de computer zulke tekortkomingen. In 2017 liet Joanna Bryson van de Universiteit van Bath samen met enkele collega’s zien dat computers die taal leren uit alledaagse teksten op het internet dezelfde stereotypen over gender, ras, etniciteit en leeftijd ontwikkelen als mensen hebben. Bryson zei hierover tegen de auteur van dit artikel: “Sommige mensen zien kunstmatige intelligentie als zuiver rationeel of objectief, anderen zien het als bovenmenselijk of buitenaards. Maar wij laten zien dat kunstmatige intelligentie gewoon een verlengstuk is van onze eigen cultuur.”

Waakhond
Een tweede manier om voor meer transparantie te zorgen bij algoritmische beslissingen, vertrekt niet bij de techniek maar bij de wetgeving. Zo treedt op 25 mei 2018 binnen de EU een nieuwe wet in werking: de General Data Protection Regulation. Deze nieuwe wet vereist onder andere dat elke beslissing die door een computer wordt genomen uitlegbaar is. Die uitleg hoeft niet perse van het algoritme zelf te komen, maar mag ook komen van de leveraar of de maker van het algoritme.

Hier gaat echter de schoen wringen. Bedrijven die een algoritme ontwikkelen, willen geheim houden hoe het werkt. Google maakt de details van haar zoekalgoritme echt niet openbaar. De kunst is dan ook om een balans te zoeken tussen algoritmische transparantie aan de ene kant en het commerciële belang van geheimhouding aan de andere kant. Een onafhankelijke derde partij, een soort waakhond voor algoritmen, zou voor die balans kunnen zorgen. Wanneer burgers of consumenten willen weten waarom een algoritme een bepaalde beslissing heeft genomen, kan deze waakhond dat onderzoeken zonder dat het algoritme op straat komt te liggen. Dit is een derde pad dat bewandeld kan worden om algoritmische beslissingen transparanter te maken.

Meest waarschijnlijk is dat in de toekomst een combinatie van deze drie oplossingen de praktijk wordt: juridische en technische oplossingen gecombineerd met een onafhankelijke waakhond. Natuurlijk biedt dit geen garantie dat computerbeslissingen foutloos zijn, maar net als met dijken en bruggen, gaat het er om dat we de risico’s dat het mis gaat minimaliseren tot aanvaardbare proporties.

Foppen
Zoals we menselijk gedrag lang niet altijd tot in detail begrijpen, zo zullen we er volgens informaticus Jeff Clune van de Universiteit van Wyoming aan moeten wennen dat we ook computerbeslissingen niet tot in detail zullen begrijpen. Tegen MIT Technology Review zei hij vorig jaar: “Zelfs als iemand je een redelijk klinkende verklaring geeft van zijn of haar handelingen, dan nog is deze waarschijnlijk incompleet. Hetzelfde geldt waarschijnlijk ook voor kunstmatige intelligentie. Het zou wel eens een fundamentele eigenschap van intelligentie kunnen zijn dat slechts een deel ervan rationeel uitlegbaar is. Een ander deel is instinctief, onbewust of ondoorgrondelijk.”

Clune ontdekte in 2014 dat kunstmatige neurale netwerken die beelden herkennen vaak gemakkelijk te foppen zijn. Door bijvoorbeeld een sticker, die er voor mensen uitziet als een ongeordende combinatie van kleuren, naast een banaan te leggen ziet de computer de banaan ineens als een broodrooster, een fout die geen kind ooit zal maken. Dit voorbeeld laat zien dat kunstmatige neurale netwerken de wereld anders zien dan mensen en dat er nog veel werk aan de winkel is om lerende computers robuuster en intelligenter te maken.

Het voordeel van computers boven mensen is echter wel dat wanneer makers of gebruikers tekortkomingen in een algoritme of in de data ontdekken, deze tekortkomingen vaak te repareren zijn. Menselijke tekortkomingen zijn veel hardnekkiger. Mensen maken fouten door vermoeidheid, discrimineren bewust of onbewust, laten zich leiden door emoties, hebben een slechte dag of misbruiken hun macht, en meestal blijven deze tekortkomingen niet tot een keer beperkt. In 2011 lieten onderzoekers zien dat gevangenen een significant grotere kans hebben op vervroegde vrijlating wanneer ze ofwel vroeg in de ochtend ofwel net na de lunch moeten verschijnen voor de rechter. Zo objectief zijn menselijke rechters dus kennelijk ook niet. De lijst met denkfouten die psychologen in de loop der jaren hebben ontdekt en waaraan het menselijk brein geregeld ten prooi valt, bevat vele tientallen cognitieve eigenaardigheden.

Vertrouwen
De Amerikaanse filosoof Daniel Dennett, die al decennialang schrijft over menselijke en kunstmatige intelligentie, zei tegenover het tijdschrift MIT Technology Review: “We moeten zo goed mogelijk grip krijgen op hoe en waarom algoritmen de antwoorden geven die ze geven. Maar omdat het goed kan zijn dat er geen perfect antwoord is, moeten we net zo voorzichtig zijn met de uitleg van een algoritme als met de uitleg van andere mensen, hoe slim de machine ook lijkt. Als de machine niet beter dan wij kan uitleggen wat ze doet, vertrouw haar dan niet.”

Het grootste gevaar is niet dat kunstmatige intelligentie de wereld van de mens gaat overnemen, maar dat we te veel vertrouwen op kunstmatige intelligentie. Wanneer er niet veel op het spel staat, kunnen we degelijke geteste computeralgoritmen best op tegen houtje laten beslissen. Maar bij beslissingen waarbij wel veel op het spel staat, in de rechtbank, in de gezondheidszorg of in het onderwijs bijvoorbeeld, is het beter om mens en computer samen te laten oordelen. Bij een wetenschappelijke test uit 2016 van borstkankerdetectie in mammogrammen stelde het beste algoritme in 8% van de gevallen een foute diagnose, de beste arts in 3,4% van de gevallen, maar arts en computer samen maakten slechts in 0,5% van de gevallen een foute diagnose: veel beter dan zowel de beste arts als de beste computer.

De robot als medemens

Dit artikel is verschenen in de VPRO Gids van 28 oktober - 3 november 2017

Terwijl twee astronauten op de planeet Mercurius verblijven, ontstaat er een probleem met hun zonnepanelen. Als ze het probleem niet op tijd oplossen, zitten ze spoedig zonder energie. De dood is dan onvermijdelijk. Om de zonnepanelen te repareren hebben ze de stof selenium nodig, maar die is niet op voorraad. De astronauten weten dat er een poel met vloeibaar selenium op Mercurius ligt, maar die poel is veel te gevaarlijk om er zelfs in hun ruimtepakken dichtbij in de buurt te komen. Gelukkig hebben ze een snelle robot, bijgenaamd Speedy, die ze de opdracht geven om selenium te halen. 

Als Speedy niet snel terugkeert, ruiken de astronauten onraad. Ze ontdekken dat de robot als een dronkenman rondjes loopt rond de seleniumpoel. Hij blijkt in conflict te zijn gekomen tussen twee wetten waarmee hij is geprogrammeerd. Volgens de ene wet moet hij opdrachten van mensen gehoorzamen en dus selenium gaan halen. Volgens de andere wet moet hij zijn eigen voortbestaan veilig stellen. Helaas blijkt het selenium ook gevaarlijk voor zijn robotbrein. Door rondjes te gaan lopen rond de seleniumpoel brengt hij zichzelf niet te zeer in gevaar, maar hij komt ook geen stap dichter bij zijn opgedragen doel. Via een list lossen de astronauten dit probleem op.

Sciencefictionschrijver Isaac Asimov publiceerde dit verhaal onder de titel Runaround in 1942, waarin hij trouwens ook het woord ‘robotica’ introduceerde. Het ging deel uit maken van zijn klassieke verhalenbundel Ik, robot, dat talloze bekende robotici heeft geïnspireerd.

Asimov was zijn tijd ver vooruit. De eerste echte robots − machines die kunnen waarnemen, denken en handelen en die een computer als brein gebruiken − werden pas eind jaren veertig gebouwd, toen de computer net was uitgevonden. Maar nog voordat deze eerste robots ten tonele verschenen had Asimov al zijn buik vol van sciencefictionverhalen waarin robots zo intelligent zijn geworden dat ze de mens gaan overheersen. Hij gaf er de term Frankensteincomplex aan, naar het moordende monster dat werd geschapen door dokter Frankenstein in de briljante negentiende eeuwse roman van Mary Shelley, geschreven toen ze pas negentien jaar oud was. Zelf verzon Asimov drie ethische wetten voor robots die hij gebruikte om volgens hem veel interessantere en realistischere verhalen over robots te vertellen die weg bleven van het door hem verfoeide Frankensteincomplex.

Asimov vond dat robots slimme instrumenten moesten zijn en net als alle andere instrumenten die de mens in de loop van de geschiedenis heeft gemaakt, ontwerpt de mens een instrument om hem te dienen en niet om zich tegen hem te keren.

Fantasierijke voorspellingen
Het Frankensteincomplex ligt diep verankerd in het culturele bewustzijn van de westerse mens. Hoe anders is dat in Japan. Daar bestaat een veel vriendelijker en socialer beeld van de robot. Google in een westers land op afbeeldingen van robots, en je krijgt relatief veel oorlogszuchtige, mensvijandige robots te zien. Doe hetzelfde in Japan en je ziet relatief veel vriendelijke, menslievende robots.

Met de sterk toegenomen denkkracht van computers in de afgelopen tien jaar − de kunstmatige intelligentie − staat het Frankensteincomplex weer volop in de spotlights. Natuurkundige Stephen Hawking heeft geroepen dat kunstmatige intelligentie het einde van de mensheid kan betekenen. Tesla-oprichter Elon Musk vreest dat de mens niet meer dan een huisdier van superslimme robots gaat worden.

Hawking mag dan alles van zwarte gaten weten, hij is geen expert als het gaat om robots en kunstmatige intelligentie. Van aandacht houdt hij wel. En Musk zou zich beter druk kunnen maken over de veiligheid van zijn zelfrijdende Tesla’s en de privacy van de rijgegevens die hij van alle Tesla-rijders verzamelt. Dat zijn veel nijpender problemen dan een theoretisch mogelijke, maar in de praktijk extreem onwaarschijnlijke Robocalyps.

Eind 2016 publiceerde een groep invloedrijke experts in robotica en kunstmatige intelligentie een onderzoeksrapport onder de titel One hundred year study on artificial intelligence (AI100). Zij concludeerden: ‘In tegenstelling tot de fantasierijke voorspellingen over kunstmatige intelligentie in de populaire pers, vond deze studiegroep geen reden dat kunstmatige intelligentie een op handen zijnde bedreiging voor de mensheid is. Er zijn nog geen machines gebouwd die eigen intenties hebben en zelfstandig langetermijndoelen ontwikkelen. En het is ook niet waarschijnlijk dat deze in de nabije toekomst worden ontwikkeld.’

Kracht en zuinigheid
Wie te ver vooruit kijkt, ziet noch de kansen, noch de problemen vlak voor zich. Dat is het probleem met dystopieën als die van Hawking en Musk. Ja, de beste menselijke schaker werd eind jaren negentig al door een computer verslagen. Ja, de beste menselijke go-speler dolf dit jaar het onderspit tegen computer AlphaGo. Maar koop eens een stofzuigrobot en de beperkingen van robots worden pijnlijk duidelijk. Stofzuigrobots zijn ideaal voor grote, lege, gladde vloeren, voor geordende omgevingen. Zet ze echter neer in rommelige huizen vol met spullen en de robot weet zich geen raad. Hij schuift geen spullen aan de kant, komt niet in lastige hoekjes en rijdt zich geregeld vast. Wel kan je kat er met veel plezier rondjes op rijden. Wat de mens makkelijk afgaat, gaat de robot vaak moeilijk af, en andersom, iets waar de robotica zelfs een aparte term voor heeft: de paradox van Moravec.

In strikte gecontroleerde omgevingen als autofabrieken zetten robotarmen al sinds de jaren zestig met groot succes onze auto’s in elkaar, maar zich voortbewegen in de alledaagse, ongestructureerde mensenwereld is andere koek. Sensoren worden steeds beter, computers steeds sneller, maar het robotlichaam is nog steeds gemaakt van harde metalen of plastics, materialen die zichzelf niet repareren en inflexibel zijn. Een grote inktvis kan zich door kleine openingen wurmen. Een kakkerlak kan zijn uitwendig skelet uitschuiven om in een spleet te kruipen die vier maal nauwer is dan het beestje zelf. Een gekko loopt ondersteboven langs plafonds. Menselijke topatleten rennen ultra-trails van honderd kilometer in bergachtige terreinen.

Er is nog geen enkele robot die ook maar enigszins in de buurt komt bij deze prestaties van biologische organismen. Van sterke robots loopt de accu razendsnel leeg. Bekijk eens een You Tube-filmpje van de viervoetige robot Big Dog. Big Dog loopt als een echte hond en wanneer hij een trap krijgt (wat op zichzelf een heel onaangenaam gevoel geeft om te zien) dan corrigeert hij zijn loop en blijft perfect overeind. Big Dog vreet energie en het Amerikaanse leger, waarvoor hij werd ontwikkeld, besloot er geen gebruik van te maken omdat hij te veel lawaai maakt. Niet zo handig met een vijand in de buurt.

Er bestaan weliswaar zuinige, tweebenige looprobots, maar die vallen bij een beetje wind of oneffenheid al om. De robotica is er nog niet in geslaagd om kracht en zuinigheid te combineren, zoals de natuur dat in de loop van de evolutie op de meest wonderbaarlijke manieren wel voor elkaar heeft gekregen.

En dan hebben we het alleen nog maar gehad over de fysieke beperkingen van robots. Ondanks de spectaculaire vooruitgang in de kunstmatige intelligentie op terreinen als spraakherkenning, automatisch vertalen, beeldherkenning en dialogen, zijn er talloze beperkingen voor wie iets dieper kijkt. Tot nu toe is kunstmatige intelligentie beperkt tot specialistische, goed gedefinieerde taken: een computer kan goed schaken en gezichten herkennen, een robot kan een auto in de lak zetten en een zelfrijdende auto kan op de snelweg zelfstandig inhalen.

Ook de lerende computers die de afgelopen jaren sterk in opkomst zijn, hebben hun beperkingen. Ze hebben altijd heel veel voorbeelden nodig om van te leren. Het menselijk brein heeft vaak maar heel weinig voorbeelden nodig. Een baby hoeft maar een paar keer het gezicht van haar moeder of vader te zien om te hebben geleerd dat het haar moeder of vader is. Hoe we dit onze robots moeten leren? We hebben nog geen idee.

In het bouwen van algemene kunstmatige intelligentie, zoals mensen die hebben, is in de afgelopen vijftig jaar veel minder vooruitgang geboekt dan in specialistische kunstmatige intelligentie. Daarom hebben we nog steeds geen computer die over willekeurig welk onderwerp kan praten, nog steeds geen creatieve robotwetenschapper, nog steeds geen robots als hulp in de huishouding, en nog steeds geen volledig zelfrijdende auto’s waaraan we onze kinderen toevertrouwen om ze in een drukke stad van huis naar de voetbalclub te brengen.

Robots hard nodig
Door de toenemende vergrijzing zullen westerse landen in de komende decennia steeds minder werkenden tellen ten opzichte van het aantal niet-werkenden. Om op zijn minst dezelfde welvaart te behouden, betekent dat dat elke werkende meer zou moeten presteren. Daarvoor zullen we robots hard nodig hebben. Robot en mens samen zijn veel efficiënter dan ieder afzonderlijk.

Als er één ethische uitgangspunt is dat de robotontwikkeling zou moeten drijven, dan is het dat de mensheid met robots meer moet floreren dan zonder robots. Robotisering is geen natuurverschijnsel dat ons overkomt, maar een ontwikkeling waar we met ons allen − burgers, bedrijven, overheden, maatschappelijke organisaties − invloed op hebben. De robot is er voor de mens en niet andersom.

De toekomst van robots op de korte en middellange termijn − voordat de onzekerheid zo groot wordt dat niemand er meer een zinnig woord over kan zeggen − ligt vooral in de combinatie van de robot als slim instrument aan de ene kant, en als sociaal wezen aan de andere kant. In de komende jaren zullen robotarmen, al decennialang de werkpaarden van de robotica, steeds makkelijker steeds meer verschillende taken aankunnen. In plaats van het eindeloos uitvoeren van een-en-dezelfde taak zullen de robotarmen nieuwe taken kunnen leren wanneer een mens het voordoet. De robotarmen zullen daardoor producten steeds meer op maat kunnen maken in plaats van eindeloze series van exact hetzelfde. De robotarm wordt geleidelijk een collega van de mens op de werkvloeren van de maakindustrie, de verpakkingsindustrie, de logistiek. En de zelfrijdende auto wordt de eerste grootschalige ervaring van gewone burgers met de grote mogelijkheden van mobiele robots.

Tegelijk met de ontwikkeling van robots als steeds slimmere instrumenten, nemen ook hun sociale vaardigheden toe. Ze gaan onze taal beter begrijpen en spreken, ze zullen onze lichaamstaal beter gaan begrijpen en ze zullen zelf beter worden in het uitdrukken wat ze denken en willen via hun lichaam. Wanneer een mobiele robot rondrijdt in een kantoor en geen handen heeft om een deur te openen kan hij de hulp van mensen inroepen. Hij kan een vragend gezichtje opzetten. Of hij kan letterlijk om hulp vragen.

De robot hoeft hiervoor helemaal geen perfecte kopie van een mens te zijn. In een smiley van twee puntjes en een haakje, zien we al een gezicht. Een bureaulamp die in een tekenfilm begint te dansen, dichten we al emoties toe. Het menselijk brein is zo goed in het antropomorfiseren van zijn omgeving, dat we ook niet-menselijke robots al snel menselijke eigenschappen toedichten. Net zoals nu iedereen een computer in huis heeft zal over enkele decennia iedereen een robot in huis hebben. En zonder dat je iets van programmeren hoeft te weten, kun je je huisrobot al pratend nieuwe taken laten doen. De robot niet alleen als collega, maar ook als maatje.

Creativiteit
Maakt de robot mensen dan niet massaal werkloos? In de afgelopen decennia is daarvan niets gebleken. Het effect van automatisering en robotisering op de totale arbeidsmarkt is in deze periode neutraal of zelfs lichtjes positief geweest. Dat is goed nieuws voor de toekomst. Slechts een klein aantal banen zal helemaal verdwijnen. Maar dat is nooit anders geweest in de geschiedenis. Daar staat tegenover dat er ook geheel nieuwe banen bijkomen. Tien jaar geleden bestond er nog geen app-industrie. Een grotere bron van zorg is de aanwijzing dat robotisering wel tot een schevere welvaartsverdeling kan leiden. Als we dat willen voorkomen zullen we wel goed moeten nadenken over maatregelen om inkomens en vermogens eerlijker te herverdelen.

De meeste banen zullen door robotisering van karakter veranderen. Sommige taken doen robots nu eenmaal sneller en nauwkeuriger dan mensen. Trouwens, sommige taken kunnen alleen al in ethisch opzicht beter door een robot worden gedaan, denk aan gevaarlijke taken als het werken in een mijn, constructiewerk waar de rug zwaar onder te lijden heeft, gevaarlijk reddingswerk na een natuurramp en het inspecteren van opslagplaatsen waar giftige gassen rondhangen. Andere taken zijn voorlopig nog ver buiten het bereik van robots omdat we nog geen idee hebben hoe we bepaalde vaardigheden in een robot kunnen inbouwen: creativiteit, algemeen probleemoplossend vermogen, systeemdenken, het vermogen om te blijven leren en veranderen, en last but not least het vermogen om te bedenken wat mensen willen. De toekomst is aan mensen die het beste met robots kunnen samenwerken en die robots slimmer kunnen maken.

Van homo sapiens naar cyborg

Dit artikel is gepubliceerd in de VPRO Gids, 4-10 november 2017

Je bent op weg naar de supermarkt wanneer je opeens een flinke trilling in je linker bovenarm voelt. Je weet: ergens op aarde heeft een zware aardbeving plaatsgevonden. Even later check je op je mobieltje het wereldnieuws en inderdaad, Mexico blijkt getroffen door een beving met een kracht van 5,9 op de schaal van Richter. Deze aardbeving voelde je stevig, maar dagelijks vinden er talloze kleine bevingen plaats die je als lichte tintelingen in je arm merkt.

Zo ongeveer moet de Spaanse cyborgkunstenaar Moon Ribas zich dagelijks voelen. In 2013 liet zij in haar linker bovenarm een sensor implanteren die draadloos verbonden is met een online-netwerk van seismografen. Zodra dit netwerk ook maar ergens ter wereld een aardbeving registreert, gaat de sensor in haar arm trillen. Als kunstenaar gebruikt Ribas deze trillingen in haar dans- en percussievoorstellingen. Zo danst ze in ‘Waiting for Earthquakes’ op de trillingen die ze realtime in haar arm voelt: improvisaties op de natuurlijke bewegingen van schuivende aardplaten.

Afgelopen mei vertelde Ribas tijdens The Next Web-conferentie in Amsterdam over haar ervaringen als cyborg. “Het is alsof ik twee hartslagen heb: die van mezelf en die van de aarde. Mijn cyborgervaringen brengen me dichter bij de natuur. Voor mij heeft het zijn van een cyborg niks te maken met het streven naar perfectie, zoals sommige mensen denken. Het is gewoon een evolutie, een herontwerp van mezelf.”

Ribas ziet cyborgtechnologie als een manier om het menselijk brein te boetseren met nieuwe ervaringen afkomstig van zintuigen die mensen van nature niet hebben, maar sommige andere organismen wel. Er zijn vissen en insecten die infrarood licht zien, sommige vogels nemen ultraviolet licht waar, en dolfijnen en vleermuizen sporen met ultrageluid hun prooi op. Technologie stelt ons in staat om dit soort signalen op te pikken met speciale sensoren en wanneer we die sensoren in ons lichaam implanteren, zijn we cyborgs geworden.

De documentaire ‘Cyborgs among us’ − de opening van het InScience wetenschapsfilmfestival in Nijmegen op 8 november − geeft een prachtige inkijk in de wereld van de cyborgs. Ribas zit zelf niet in de documentaire, maar haar Barcelonese jeugdvriend Neil Harbisson wel. Harbisson is de bekendste cyborg ter wereld. Hij heeft een soort antenne van achteren naar voren over zijn hoofd lopen, alsof er een leeslampje op is gemonteerd. Aan de voorkant steekt de antenne centimeters boven zijn voorhoofd uit. Aan de achterkant is deze geïmplanteerd in zijn schedel (overigens door een chirurg die dat anoniem moest doen). Harbisson ziet de wereld vanaf zijn geboorte alleen maar in zwart-wit, maar dankzij de antenne neemt hij een wereld waar zoals niemand anders. De antenne registreert niet alleen zichtbaar licht, maar ook infrarood en ultraviolet licht. Al dit licht wordt omgezet in trillingen die de cyborg kan horen. Deels ziet hij dus met zijn oren.

Samen met Moon Ribas richtte Neil Harbisson in 2010 de Cyborg Foundation op, die mensen helpt om cyborg te worden, cyborgrechten verdedigt en cyborgisme als sociale en artistieke beweging promoot.

Goddelijk weefsel
‘Cyborgs among us’ laat ons kennismaken met amateurs die in gammele schuren hun eigen lichaam proberen te hacken en naar de tattoo-shop gaan voor het illegaal laten implanteren van een magnetische sensor, maar ook met professionele wetenschappers als MIT-onderzoeker Hugh Herr. Herr raakte tijdens een ongeluk bij het bergbeklimmen twee benen kwijt. Dankzij gespecialiseerde protheses kon hij zes maanden later alweer klimmen. Spoedig klom hij zelfs beter dan voor het ongeluk omdat hij zijn protheses kon aanpassen aan de specifieke uitdagingen van de berg. Soms komen de kleine voeten van een kind immers beter van pas dan de grote voeten van een volwassene.

Herr verbaast zich over de schijnbare tegenstelling die sommigen zien tussen natuur en technologie: “Mensen geloven dat cellen en weefsels goddelijk zijn en dat de atomen in silicium of titanium op een of andere manier minder goddelijk zijn. Voor mij gaat het om functionaliteit, schoonheid en kwaliteit van leven en niet om het materiaal. Het is idioot om te denken dat een ledemaat dat gemaakt is van cellen, maar dat niet goed werkt en lelijk is, beter zou zijn dan een ledemaat van titanium, dat wel goed werkt en er prachtig uitziet.”

Versmelting
Cyborgs zijn mensen met onderdelen die mechanica, electronica en soms ook informatica combineren. Traditioneel zijn robots machines die dankzij een computer kunnen waarnemen, denken en handelen. De wereld van de robot en die van de cyborg komen echter steeds dichter bij elkaar te liggen. In de toekomst zullen biologie, scheikunde, mechanica, elektronica en informatica steeds meer met elkaar versmelten. De nieuwste trend in de robotica is het ontwikkelen van robotische onderdelen uit slimme materialen: materialen die bijvoorbeeld verkleuren wanneer de temperatuur verandert of een kracht leveren wanneer je er eens stroompje doorheen stuurt.

Zulke materialen gaan ervoor zorgen dat robotica steeds meer op en in ons lichaam komt te zitten. Je kunt er robotpakken van maken die ouderen of lichamelijke gehandicapten fysiek ondersteunen. Je kunt er kleding mee maken die ons niet alleen warm houdt maar ook direct onze tastzin stimuleert. Zo kun je niet alleen tekst en beeld maar ook gevoel van je geliefde ontvangen: ‘ik voel een smiley in mijn jas’. Slimme materialen kunnen ook in het lichaam worden gebruikt, bijvoorbeeld in een robotisch strottenhoofd, voor mensen bij wie het origineel door een tumor moet worden verwijderd. En kleine, biologisch afbreekbare robotjes die je kunt inslikken als een pil kunnen ooit medicijnen op de juiste plek afleveren en kleine medische ingrepen uitvoeren.

Hedendaagse cyborgs zijn geen hoofdrolspelers in een freakshow, maar pioniers die enerzijds proberen menselijk ongemak of zelfs lijden te verminderen, en anderzijds zoeken naar manieren om menselijke expressie te verrijken. Of, zoals cyborg Moon Ribas het zegt: “Ik stel me een toekomst voor waarin we in het café niet als eerste vragen ‘waar kom je vandaan?’ maar ‘welke extra zintuigen heb je?’”