Monday, November 20, 2017

De robot als medemens

Dit artikel is verschenen in de VPRO Gids van 28 oktober - 3 november 2017



Terwijl twee astronauten op de planeet Mercurius verblijven, ontstaat er een probleem met hun zonnepanelen. Als ze het probleem niet op tijd oplossen, zitten ze spoedig zonder energie. De dood is dan onvermijdelijk. Om de zonnepanelen te repareren hebben ze de stof selenium nodig, maar die is niet op voorraad. De astronauten weten dat er een poel met vloeibaar selenium op Mercurius ligt, maar die poel is veel te gevaarlijk om er zelfs in hun ruimtepakken dichtbij in de buurt te komen. Gelukkig hebben ze een snelle robot, bijgenaamd Speedy, die ze de opdracht geven om selenium te halen. 

Als Speedy niet snel terugkeert, ruiken de astronauten onraad. Ze ontdekken dat de robot als een dronkenman rondjes loopt rond de seleniumpoel. Hij blijkt in conflict te zijn gekomen tussen twee wetten waarmee hij is geprogrammeerd. Volgens de ene wet moet hij opdrachten van mensen gehoorzamen en dus selenium gaan halen. Volgens de andere wet moet hij zijn eigen voortbestaan veilig stellen. Helaas blijkt het selenium ook gevaarlijk voor zijn robotbrein. Door rondjes te gaan lopen rond de seleniumpoel brengt hij zichzelf niet te zeer in gevaar, maar hij komt ook geen stap dichter bij zijn opgedragen doel. Via een list lossen de astronauten dit probleem op.

Sciencefictionschrijver Isaac Asimov publiceerde dit verhaal onder de titel Runaround in 1942, waarin hij trouwens ook het woord ‘robotica’ introduceerde. Het ging deel uit maken van zijn klassieke verhalenbundel Ik, robot, dat talloze bekende robotici heeft geïnspireerd.

Asimov was zijn tijd ver vooruit. De eerste echte robots − machines die kunnen waarnemen, denken en handelen en die een computer als brein gebruiken − werden pas eind jaren veertig gebouwd, toen de computer net was uitgevonden. Maar nog voordat deze eerste robots ten tonele verschenen had Asimov al zijn buik vol van sciencefictionverhalen waarin robots zo intelligent zijn geworden dat ze de mens gaan overheersen. Hij gaf er de term Frankensteincomplex aan, naar het moordende monster dat werd geschapen door dokter Frankenstein in de briljante negentiende eeuwse roman van Mary Shelley, geschreven toen ze pas negentien jaar oud was. Zelf verzon Asimov drie ethische wetten voor robots die hij gebruikte om volgens hem veel interessantere en realistischere verhalen over robots te vertellen die weg bleven van het door hem verfoeide Frankensteincomplex.

Asimov vond dat robots slimme instrumenten moesten zijn en net als alle andere instrumenten die de mens in de loop van de geschiedenis heeft gemaakt, ontwerpt de mens een instrument om hem te dienen en niet om zich tegen hem te keren.

Fantasierijke voorspellingen
Het Frankensteincomplex ligt diep verankerd in het culturele bewustzijn van de westerse mens. Hoe anders is dat in Japan. Daar bestaat een veel vriendelijker en socialer beeld van de robot. Google in een westers land op afbeeldingen van robots, en je krijgt relatief veel oorlogszuchtige, mensvijandige robots te zien. Doe hetzelfde in Japan en je ziet relatief veel vriendelijke, menslievende robots.

Met de sterk toegenomen denkkracht van computers in de afgelopen tien jaar − de kunstmatige intelligentie − staat het Frankensteincomplex weer volop in de spotlights. Natuurkundige Stephen Hawking heeft geroepen dat kunstmatige intelligentie het einde van de mensheid kan betekenen. Tesla-oprichter Elon Musk vreest dat de mens niet meer dan een huisdier van superslimme robots gaat worden.

Hawking mag dan alles van zwarte gaten weten, hij is geen expert als het gaat om robots en kunstmatige intelligentie. Van aandacht houdt hij wel. En Musk zou zich beter druk kunnen maken over de veiligheid van zijn zelfrijdende Tesla’s en de privacy van de rijgegevens die hij van alle Tesla-rijders verzamelt. Dat zijn veel nijpender problemen dan een theoretisch mogelijke, maar in de praktijk extreem onwaarschijnlijke Robocalyps.

Eind 2016 publiceerde een groep invloedrijke experts in robotica en kunstmatige intelligentie een onderzoeksrapport onder de titel One hundred year study on artificial intelligence (AI100). Zij concludeerden: ‘In tegenstelling tot de fantasierijke voorspellingen over kunstmatige intelligentie in de populaire pers, vond deze studiegroep geen reden dat kunstmatige intelligentie een op handen zijnde bedreiging voor de mensheid is. Er zijn nog geen machines gebouwd die eigen intenties hebben en zelfstandig langetermijndoelen ontwikkelen. En het is ook niet waarschijnlijk dat deze in de nabije toekomst worden ontwikkeld.’

Kracht en zuinigheid
Wie te ver vooruit kijkt, ziet noch de kansen, noch de problemen vlak voor zich. Dat is het probleem met dystopieën als die van Hawking en Musk. Ja, de beste menselijke schaker werd eind jaren negentig al door een computer verslagen. Ja, de beste menselijke go-speler dolf dit jaar het onderspit tegen computer AlphaGo. Maar koop eens een stofzuigrobot en de beperkingen van robots worden pijnlijk duidelijk. Stofzuigrobots zijn ideaal voor grote, lege, gladde vloeren, voor geordende omgevingen. Zet ze echter neer in rommelige huizen vol met spullen en de robot weet zich geen raad. Hij schuift geen spullen aan de kant, komt niet in lastige hoekjes en rijdt zich geregeld vast. Wel kan je kat er met veel plezier rondjes op rijden. Wat de mens makkelijk afgaat, gaat de robot vaak moeilijk af, en andersom, iets waar de robotica zelfs een aparte term voor heeft: de paradox van Moravec.

In strikte gecontroleerde omgevingen als autofabrieken zetten robotarmen al sinds de jaren zestig met groot succes onze auto’s in elkaar, maar zich voortbewegen in de alledaagse, ongestructureerde mensenwereld is andere koek. Sensoren worden steeds beter, computers steeds sneller, maar het robotlichaam is nog steeds gemaakt van harde metalen of plastics, materialen die zichzelf niet repareren en inflexibel zijn. Een grote inktvis kan zich door kleine openingen wurmen. Een kakkerlak kan zijn uitwendig skelet uitschuiven om in een spleet te kruipen die vier maal nauwer is dan het beestje zelf. Een gekko loopt ondersteboven langs plafonds. Menselijke topatleten rennen ultra-trails van honderd kilometer in bergachtige terreinen.

Er is nog geen enkele robot die ook maar enigszins in de buurt komt bij deze prestaties van biologische organismen. Van sterke robots loopt de accu razendsnel leeg. Bekijk eens een You Tube-filmpje van de viervoetige robot Big Dog. Big Dog loopt als een echte hond en wanneer hij een trap krijgt (wat op zichzelf een heel onaangenaam gevoel geeft om te zien) dan corrigeert hij zijn loop en blijft perfect overeind. Big Dog vreet energie en het Amerikaanse leger, waarvoor hij werd ontwikkeld, besloot er geen gebruik van te maken omdat hij te veel lawaai maakt. Niet zo handig met een vijand in de buurt.

Er bestaan weliswaar zuinige, tweebenige looprobots, maar die vallen bij een beetje wind of oneffenheid al om. De robotica is er nog niet in geslaagd om kracht en zuinigheid te combineren, zoals de natuur dat in de loop van de evolutie op de meest wonderbaarlijke manieren wel voor elkaar heeft gekregen.

En dan hebben we het alleen nog maar gehad over de fysieke beperkingen van robots. Ondanks de spectaculaire vooruitgang in de kunstmatige intelligentie op terreinen als spraakherkenning, automatisch vertalen, beeldherkenning en dialogen, zijn er talloze beperkingen voor wie iets dieper kijkt. Tot nu toe is kunstmatige intelligentie beperkt tot specialistische, goed gedefinieerde taken: een computer kan goed schaken en gezichten herkennen, een robot kan een auto in de lak zetten en een zelfrijdende auto kan op de snelweg zelfstandig inhalen.

Ook de lerende computers die de afgelopen jaren sterk in opkomst zijn, hebben hun beperkingen. Ze hebben altijd heel veel voorbeelden nodig om van te leren. Het menselijk brein heeft vaak maar heel weinig voorbeelden nodig. Een baby hoeft maar een paar keer het gezicht van haar moeder of vader te zien om te hebben geleerd dat het haar moeder of vader is. Hoe we dit onze robots moeten leren? We hebben nog geen idee.

In het bouwen van algemene kunstmatige intelligentie, zoals mensen die hebben, is in de afgelopen vijftig jaar veel minder vooruitgang geboekt dan in specialistische kunstmatige intelligentie. Daarom hebben we nog steeds geen computer die over willekeurig welk onderwerp kan praten, nog steeds geen creatieve robotwetenschapper, nog steeds geen robots als hulp in de huishouding, en nog steeds geen volledig zelfrijdende auto’s waaraan we onze kinderen toevertrouwen om ze in een drukke stad van huis naar de voetbalclub te brengen.

Robots hard nodig
Door de toenemende vergrijzing zullen westerse landen in de komende decennia steeds minder werkenden tellen ten opzichte van het aantal niet-werkenden. Om op zijn minst dezelfde welvaart te behouden, betekent dat dat elke werkende meer zou moeten presteren. Daarvoor zullen we robots hard nodig hebben. Robot en mens samen zijn veel efficiënter dan ieder afzonderlijk.

Als er één ethische uitgangspunt is dat de robotontwikkeling zou moeten drijven, dan is het dat de mensheid met robots meer moet floreren dan zonder robots. Robotisering is geen natuurverschijnsel dat ons overkomt, maar een ontwikkeling waar we met ons allen − burgers, bedrijven, overheden, maatschappelijke organisaties − invloed op hebben. De robot is er voor de mens en niet andersom.

De toekomst van robots op de korte en middellange termijn − voordat de onzekerheid zo groot wordt dat niemand er meer een zinnig woord over kan zeggen − ligt vooral in de combinatie van de robot als slim instrument aan de ene kant, en als sociaal wezen aan de andere kant. In de komende jaren zullen robotarmen, al decennialang de werkpaarden van de robotica, steeds makkelijker steeds meer verschillende taken aankunnen. In plaats van het eindeloos uitvoeren van een-en-dezelfde taak zullen de robotarmen nieuwe taken kunnen leren wanneer een mens het voordoet. De robotarmen zullen daardoor producten steeds meer op maat kunnen maken in plaats van eindeloze series van exact hetzelfde. De robotarm wordt geleidelijk een collega van de mens op de werkvloeren van de maakindustrie, de verpakkingsindustrie, de logistiek. En de zelfrijdende auto wordt de eerste grootschalige ervaring van gewone burgers met de grote mogelijkheden van mobiele robots.

Tegelijk met de ontwikkeling van robots als steeds slimmere instrumenten, nemen ook hun sociale vaardigheden toe. Ze gaan onze taal beter begrijpen en spreken, ze zullen onze lichaamstaal beter gaan begrijpen en ze zullen zelf beter worden in het uitdrukken wat ze denken en willen via hun lichaam. Wanneer een mobiele robot rondrijdt in een kantoor en geen handen heeft om een deur te openen kan hij de hulp van mensen inroepen. Hij kan een vragend gezichtje opzetten. Of hij kan letterlijk om hulp vragen.

De robot hoeft hiervoor helemaal geen perfecte kopie van een mens te zijn. In een smiley van twee puntjes en een haakje, zien we al een gezicht. Een bureaulamp die in een tekenfilm begint te dansen, dichten we al emoties toe. Het menselijk brein is zo goed in het antropomorfiseren van zijn omgeving, dat we ook niet-menselijke robots al snel menselijke eigenschappen toedichten. Net zoals nu iedereen een computer in huis heeft zal over enkele decennia iedereen een robot in huis hebben. En zonder dat je iets van programmeren hoeft te weten, kun je je huisrobot al pratend nieuwe taken laten doen. De robot niet alleen als collega, maar ook als maatje.

Creativiteit
Maakt de robot mensen dan niet massaal werkloos? In de afgelopen decennia is daarvan niets gebleken. Het effect van automatisering en robotisering op de totale arbeidsmarkt is in deze periode neutraal of zelfs lichtjes positief geweest. Dat is goed nieuws voor de toekomst. Slechts een klein aantal banen zal helemaal verdwijnen. Maar dat is nooit anders geweest in de geschiedenis. Daar staat tegenover dat er ook geheel nieuwe banen bijkomen. Tien jaar geleden bestond er nog geen app-industrie. Een grotere bron van zorg is de aanwijzing dat robotisering wel tot een schevere welvaartsverdeling kan leiden. Als we dat willen voorkomen zullen we wel goed moeten nadenken over maatregelen om inkomens en vermogens eerlijker te herverdelen.

De meeste banen zullen door robotisering van karakter veranderen. Sommige taken doen robots nu eenmaal sneller en nauwkeuriger dan mensen. Trouwens, sommige taken kunnen alleen al in ethisch opzicht beter door een robot worden gedaan, denk aan gevaarlijke taken als het werken in een mijn, constructiewerk waar de rug zwaar onder te lijden heeft, gevaarlijk reddingswerk na een natuurramp en het inspecteren van opslagplaatsen waar giftige gassen rondhangen. Andere taken zijn voorlopig nog ver buiten het bereik van robots omdat we nog geen idee hebben hoe we bepaalde vaardigheden in een robot kunnen inbouwen: creativiteit, algemeen probleemoplossend vermogen, systeemdenken, het vermogen om te blijven leren en veranderen, en last but not least het vermogen om te bedenken wat mensen willen. De toekomst is aan mensen die het beste met robots kunnen samenwerken en die robots slimmer kunnen maken.


Dit is Sophia, ze heeft een paspoort

Dit artikel is gepubliceerd in NRC Handelsblad van 6 november 2017


Sophia is een robothoofd dat er akelig menselijk uitziet. Ze beweegt, praat, luistert, maakt gezichtsuitdrukkingen en ziet de wereld via een camera in haar borstkas. Sophia produceert begrijpelijke zinnen – een prestatie op zichzelf – maar heeft geen idee waar ze het over heeft en heeft geen eigen leven.

Toch kende Saoedi-Arabië deze robot onlangs het staatsburgerschap toe. Sophia heeft juridisch gezien nu dezelfde rechten en plichten als een Saoedische man, maar het is onduidelijk wat daarvan de praktische consequenties zijn.

Het toekennen van het Saoedische staatsburgerschap aan een robot was in de eerste plaats een publiciteitsstunt: ‘kijk ons eens technologisch vooruitstrevend zijn’. Misschien was het ook een reactie op de aanstelling van een minister voor kunstmatige intelligentie door buurland de Verenigde Arabische Emiraten een paar dagen eerder. Maar van een land dat vrouwen niet dezelfde rechten toekent als mannen, is het toekennen van het staatsburgerschap aan een robothoofd wel het laatste wat je verwacht.

Wat de motieven van Saoedi-Arabië ook mogen zijn, de actie maakt duidelijk dat de recente ontwikkelingen in kunstmatige intelligentie ons voor nieuwe vragen stellen. Moeten slimme computers en robots rechten krijgen? Hoe zorgen we ervoor dat wij nog begrijpen hoe en waarom intelligente systemen de beslissingen nemen die ze nemen? Hoe voorkomen we dat intelligente systemen discrimineren of anderszins schade berokkenen? Hoe zorgen we ervoor dat kunstmatige intelligentie iedereen ten goede komt en niet alleen de happy few?

Wetenschappers en andere partijen zijn tal van initiatieven gestart voor het opstellen van ethische principes voor onze omgang met kunstmatige intelligentie. Bijvoorbeeld het in Boston gevestigde Future of Life Institute, met mensen als Tesla-oprichter Elon Musk en sterwetenschapper Stephen Hawking in de wetenschappelijke adviesraad. Ook onder andere de Californische non-profitorganisatie XPrize, de Verenigde Naties en het Europese Parlement zijn bezig met onze ethische principes in verhouding tot slimme computers.

Principes

Deze initiatieven proberen los van elkaar standaarden te ontwikkelen om kunstmatige intelligentie in goede banen te leiden. Zo heeft het Future of Life Institute 23 principes opgesteld die ervoor moeten zorgen dat kunstmatige intelligentie ten goede komt aan iedereen. Bijvoorbeeld het principe dat als een kunstmatig intelligent systeem schade veroorzaakt, duidelijk moet kunnen worden gemaakt waarom die schade is veroorzaakt. En dat zulke systemen zo ontworpen en gebruikt moeten worden dat ze recht doen aan de idealen van menselijke waardigheid, mensenrechten, vrijheden en culturele diversiteit. Ook moet een wedloop in autonome wapens worden voorkomen.

Universitair hoofddocent Virginia Dignum van de TU Delft, gespecialiseerd in ethiek van kunstmatige intelligentie en robotica, is betrokken bij drie andere initiatieven: de IEEE Global Initiative for ethically aligned design of AI, ADA-AI en het nieuwe instituut Design for Values van de TU Delft. Zij noemt drie principes die ze afkort met ART: accountability, responsibility en transparancy.

Accountability (rekenschap) betekent dat er uitgelegd moet kunnen worden waarom een systeem doet wat het doet. Wat zijn de aannames? Waarom neemt het systeem een bepaalde stap? Responsibility (verantwoordelijkheid) staat voor het principe dat mensen verantwoordelijk zijn en niet machines. Die mensen kunnen ontwikkelaars zijn, bouwers, eigenaars of gebruikers. Ten slotte betekent Transparantie dat je duidelijk moet kunnen maken volgens welke motieven, waarden en principes een systeem is ontworpen.

Ethische principes kunnen op verschillende manieren worden geïmplementeerd, legt Dignum uit. „Een mogelijkheid is wettelijke regelgeving, of het ontwikkelen van standaarden of keurmerken. Je zou zelfs kunnen voorstellen dat ontwikkelaars een soort eed afleggen, zoals artsen dat doen in hun eed van Hippocrates.” We staan pas aan het begin en uiteindelijk zullen er combinaties van deze mogelijkheden ontstaan, denkt Dignum.

Verbrokkeling

Leiden al die verschillende initiatieven niet tot verbrokkeling en daardoor tot minder effectieve acties? „Elke groep ontwikkelt zijn eigen ideeën, maar natuurlijk is er veel overlap”, zegt Dignum. Er zijn wel pogingen gedaan om groepen te laten samenwerken of zelfs een soort internationaal agentschap te vormen, maar die zijn tot nu toe niet echt gelukt, zegt ze. „Ik denk dat het daarvoor nog wat te vroeg is. Maar op de lange termijn is samenwerking noodzakelijk.”

Het is natuurlijk mooi dat er ethische principes worden opgesteld, maar belangrijker is dat bedrijven zich hier aan gaan houden. Wat dat betreft is Dignum optimisch: „Ethics are the new green. Ethische principes horen bij een trend van maatschappelijk verantwoord ondernemen. Het is niet voor niets dat ook consultancybedrijven als PwC en Accenture richtlijnen voor kunstmatige intelligentie voor bedrijven hebben opgesteld.”

Wat helpt is dat bedrijven die ethische principes willen implementeren hun algoritmen niet volledig openbaar hoeven te maken, zegt Dignum. „Als ze in staat zijn om aan controles mee te doen waarin ze kunnen bewijzen dat ze aan bepaalde regels voldoen, kunnen ze bijvoorbeeld een certificaat krijgen terwijl tegelijkertijd hun algoritmen bedrijfsgeheim blijven.”

Ook staten kunnen er zo hun eigen ideeën op na houden over wat wel of niet ethisch verantwoord is. Kijk naar de toekenning van staatsburgerschap aan robot Sophia door Saoedi-Arabië.

Dignum is niet enthousiast: „Machines worden gebouwd. Net zoals bij een auto of een hamer, zijn het mensen – de ontwikkelaars, de bouwers, de eigenaars en de gebruikers – die verantwoordelijkheid dragen. Het geven van staatsburgerschap aan een machine opent de weg voor deze partijen om hun eigen verantwoordelijkheid en aansprakelijkheid af te schuiven. Naar mijn mening zouden we dit als maatschappij niet moeten willen.”

Van alle bekende initiatieven die ethische principes voor kunstmatige intelligentie hebben opgesteld is er geen een die staatsburgerschap aan robot Sophia zou toekennen. De voorlopige consensus is: wij mensen blijven verantwoordelijk voor onze machines, hoe menselijk ze er ook uitzien.

-----------------------------------------------------------------------------------------------------------------

Initiatieven voor het opstellen van ethische principes voor kunstmatige intelligentie
Het Future of Life Institute heeft 23 principes opgesteld die ervoor moeten zorgen dat kunstmatige intelligentie ten goede komt aan iedereen.

Het IEEE Global initiative for Ethically Aligned Design of AI ontwikkelt industriële standaarden.

In de Stanford One Hundred Year Study on Artificial Intelligence (AI100) geven topwetenschappers aanbevelingen hoe kunstmatige intelligentie in goede banen kan worden geleid.

ADA-AI is een net gelanceerd initiatief van wetenschappers en mensen uit het bedrijfsleven dat onderzoekt hoe kunstmatige intelligentie ook ten goede kan komen aan minder bedeelden en minder gerepresenteerden.

AI Now heeft tien aanbevelingen gepubliceerd voor ethisch gebruik van kunstmatige intelligentie.

AI for Good belegde eerder dit jaar een conferentie om te onderzoeken hoe AI gebruikt kan worden om de 17 VN-doelen voor duurzame ontwikkeling te halen.

Het Europees Parlement onderzoekt zaken als aansprakelijkheid, veiligheid, verandering van de arbeidsmarkt door kunstmatige intelligentie en verkende de vraag of robots rechten moeten krijgen,

De Britse instelling voor financiering van wetenschappelijk onderzoek EPSRC stelde vijf principes op voor ontwerpers, bouwers en gebruikers van robots.

Het TU Delft Design for Values ontwikkelde drie principes waarop AI gebaseerd zou moeten zijn: accountability, responsibility en transparancy.

Robots lijken vaak best knap, tot je dieper gaat graven


Kunstmatige, mensachtige intelligentie is nog heel ver weg, zegt psycholoog Gary Marcus. „Dit is te complex om alleen vanuit de wiskunde te bekijken.”

Dit artikel is gepubliceerd in NRC Handelsblad van 21 oktober 2017


“Vind je het goed dat ik mijn salade opeet tijdens het interview?” Ja hoor.

Gary Marcus heeft tijdens de World Summit AI in Amsterdam al urenlang vrijwel alleen maar met mensen gepraat en geen tijd gehad om te eten. En dan volgt er weer een gesprek. “Waarvoor is het ook alweer?”

Marcus is hoogleraar psychologie aan de New York University, auteur van vier boeken en schrijver voor The New Yorker en The New York Times. Hij is opgeleid door psycholoog Steven Pinker en begon zijn carrière ooit met de onderzoeksvraag hoe kinderen taal leren. De laatste jaren breidde hij zijn onderzoeksterrein onder andere uit richting kunstmatige intelligentie.

“Of we het nu hebben over natuurlijke intelligentie bij mensen of dieren of over kunstmatige intelligentie, het gaat allebei over intelligentie”, zegt Marcus. “Ik probeer inzichten uit natuurlijke intelligentie te gebruiken in kunstmatige intelligentie. Er ligt niet veel commerciële waarde in het onderzoeken hoe een vierjarige taal leert, maar er komen dezelfde vragen bij kijken als bij het onderzoeken hoe computers of robots taal kunnen leren.”

Toch realiseerde Marcus zich enkele jaren geleden voor het eerst in zijn leven dat de vragen die hij onderzocht bij mensen commerciële waarde hebben in de wereld van kunstmatige intelligentie. En zo richtte hij in 2015 zijn eigen bedrijf Geometric Intelligence op, met als doel om computers efficiënter te laten leren van grote hoeveelheden data. “Wij deden het beter dan deep-learning-methoden, maar niet zo goed als een vierjarige”, zegt Marcus lachend. Eind 2016 verkocht hij het bedrijf aan Uber.

Een psycholoog die zich ook bezig houdt met kunstmatige intelligentie − volgens Marcus is daar dringend behoefte aan. “Kunstmatige intelligentie wordt gedomineerd door mensen die goed zijn in wiskunde, maar nauwelijks iets weten over hoe menselijke intelligentie werkt.”

Temidden van de hype rond kunstmatige intelligentie neemt Marcus al jarenlang een kritische positie in. Volgens hem is kunstmatige mensachtige intelligentie veel verder weg dan de meeste mensen denken. Kunstmatige intelligentie is goed, ja zelfs bovenmenselijk, in specifieke taken als schaken en go. Maar de wereld is veel meer dan een spelletje schaken of go.

Deep learning is momenteel de meest prominente manier van computers om nieuwe dingen te leren. Marcus: “Dat werkt goed wanneer je heel veel gegevens hebt en de regels nooit veranderen, zoals bij go. Maar deep learning heeft het moeilijk in flexibele en open omgevingen. Ik heb thuis twee jonge kinderen en ik verlang naar Rosie de Robot die het huis opruimt − je weet wel, de bekende robot uit de animatieserie The Jetsons. Maar waar is Rosie wanneer je haar nodig hebt? Robots kunnen nog lang niet overweg met zulke ongestructureerde omgevingen, die ook nog steeds veranderen.”

Tijdens zijn lezing van eerder op de dag liet Marcus een paar foto’s zien die computers tegenwoordig correct kunnen omschrijven in woorden: een foto van een groepje mensen dat met een frisbee speelt, een man op een motor die over een zandweg rijdt. “De literatuur zit vol met voorbeelden die indrukwekkend lijken totdat je wat dieper graaft”, aldus de Amerikaanse psycholoog. Daarna liet hij een foto zien van een verkeersbord dat voor een kwart beplakt is met stickers. “De computer omschrijft deze foto als ‘een koelkast vol met eten en drinken’. Ieder mens ziet meteen dat dat onzin is. En iedereen die zelf met lerende computers werkt, weet dat dit soort missers aan de orde van de dag is.”

We moeten ons niet laten misleiden door het succes van computers die foto’s kunnen categoriseren. Marcus: “Perceptie is meer dan categoriseren en intelligentie is meer dan perceptie. Tot intelligentie behoort ook taal, redeneren, analogieën leggen, plannen en gezond verstand.”

Terwijl Marcus zijn salade nog maar net op heeft, loopt er een vrouw met een pizzadoos langs. Duidelijk hoorbaar voor de vrouw zegt Marcus: “Ik wil heel graag een stuk van haar pizza, maar terwijl ik dit zeg kan ik nog steeds doorgaan met ons gesprek. Dat is ook intelligentie.” De vrouw draait zich om en biedt hem een stuk pizza aan. Gretig neemt hij het aan, neemt een hapje en zegt: “We kunnen onze sociale intelligentie ook gebruiken om gratis eten te krijgen. Hoe mensen zo flexibel kunnen zijn, is een raadsel.”

Als we na zo’n zestig jaar onderzoek nog steeds ver weg zijn van kunstmatige mensachtige intelligentie, hoe kunnen we dan eindelijk wel dichterbij dat doel komen? Marcus heeft daar duidelijke ideeën over. “Kunstmatige intelligentie heeft veel meer interactie met de cognitieve wetenschappen nodig. Intelligentie is veel te complex om het alleen maar vanuit één invalshoek te begrijpen. We moeten psychologen, linguïsten, neurowetenschappers, filosofen en anderen samenbrengen.”

Een van zijn stokpaardjes is dat kunstmatige intelligentie uitgerust moet worden met aangeboren vaardigheden, net zoals dat bij mensen en dieren het geval is. Tijdens zijn lezing liet hij een filmpje zien van een soort berggeiten die langs een steile, vrijwel verticale rotshelling lopen en springen. “Dat is niet iets wat ze leren door het duizenden keren te doen of duizenden keren te kijken hoe anderen het doen. Dan waren ze al lang dood geweest. Dat kunnen ze omdat het een aangeboren vaardigheid is die in hun genen zit. Vergelijk dat eens met de grote, zware, op twee benen lopende robots die vaak bij de minste of geringste oneffenheid omvallen. De kunstmatige intelligentie van nu denkt dat alles geleerd moet worden. Maar zo werkt biologie helemaal niet en volgens mij kan kunstmatige intelligentie zo ook niet goed werken.”

Daarnaast vindt Marcus dat kunstmatige intelligentie een publiek goed zou moeten zijn en geen eigendom van slechts enkele superrijke bedrijven zoals Google en Facebook. “Bedrijven patenteren nu al vele basisideeën van kunstmatige intelligentie. Dat creëert nog grotere ongelijkheden in de wereld dan we nu al hebben.”

Tenslotte pleit Marcus voor een soort van CERN op het terrein van kunstmatige intelligentie. “Bedrijven richten zich op korte termijn-onderzoek. Ze willen hun verkoop verbeteren. Ze willen meer advertenties verkopen. Universiteit werken vaak te zeer los van elkaar. Maar een probleem als het begrijpen van intelligentie is zo complex dat er grootschalige, gecoördineerde samenwerking nodig is. CERN onderzoekt op het terrein van natuurkunde fundamentele vragen die bedrijven nooit zouden onderzoeken. Zoiets zou ik heel graag ook voor kunstmatige intelligentie zien. Ik haal graag een Afrikaans spreekwoord aan: ‘Als je snel wilt gaan, ga dan alleen. Als je ver wilt gaan, ga dan samen.’”

‘Het Betere Idee van Afghanistan’


Zes Afghaanse meisjes wonnen de zilveren medaille in een internationale robotwedstrijd. Tijdens een bezoek aan Amsterdam vertellen ze hun verhaal.



Dit artikel is gepubliceerd in NRC Handelsblad van 17 oktober 2017

Eigenlijk zou er helemaal niets opmerkelijks aan moeten zijn: zes Afghaanse tienermeisjes die vertellen over hun dromen om informatica en robotica te studeren, om ingenieur te worden, om een robot te bouwen die gras maait, om een eigen bedrijf op te zetten. De meisjes zijn tussen de veertien en zestien jaar oud en wonen in Herat in het westen van Afghanistan. Ze zijn een paar dagen te gast bij de World Summit AI in Amsterdam, een conferentie over kunstmatige intelligentie en de toepassingen daarvan.

Afgelopen juli zou het meisjesteam meedoen aan de internationale robotwedstrijd FIRST Global in de VS. Tot tweemaal toe werd hen echter een visum voor de VS geweigerd, zonder opgaaf van reden. Tweemaal hadden de meisjes voor niets de reis vanuit Herat naar de hoofdstad Kabul ondernomen om een visum aan te vragen, door een gebied dat door de Taliban wordt gecontroleerd. Nadat er internationale verontwaardiging losbrak over de visaweigering, kwam de Amerikaanse president er zelf aan te pas om de meisjes toch toe te laten.

Tijdens de robotwedstrijd won het team de zilveren medaille in de categorie ‘Moedige prestaties’. De tieners werden geprezen voor hun doorzettingsvermogen ondanks voortdurende tegenslagen. Behalve de problemen rond hun visa, konden ze in Afghanistan ook maar moeilijk aan de benodigde onderdelen voor hun robot komen. Uiteindelijk had het team maar twee weken de tijd om de robot te bouwen, waar andere teams vele maanden hadden.

Net een week terug in Afghanistan kwam de vader van het jongste meisje, de 14-jarige teamcaptain Fatemah Qadiryan, om tijdens een ISIS-aanslag in Herat. Op het conferentiepodium in Amsterdam vertelt Fatemah: “Toen ik terugkwam uit de VS omarmde mijn vader me en zei: ‘Je hebt trots teruggebracht naar dit land en deze mensen.’ Een week later was hij er niet meer, de man die voor mij alles was. Hij stond op tegen alle traditionele beperkingen die er in mijn land voor vrouwen bestaan. Ik ben heel blij dat ik hem in zijn laatste dagen nog zo trots heb kunnen maken.”

Ik vraag de meisjes om hun robot te gaan halen en met zijn allen in een kring rond de robot te gaan zitten: de zes tienermeisjes − Fatemah, Lida, Yasimin, Somayah, Kaswar en Rodaba − hun mentor en software-ingenieur Alizera Mehraban, en ook de vrouw die zich het meest heeft ingezet voor het team: Roya Mahboob, een in de VS wonende Afghaanse ondernemer en oprichter van Digital Citizen Fund. Deze non-profitorganisatie onderwijst vrouwen en kinderen in Afghanistan in digitale vaardigheden. Roya vertaalt ook in het Engels wat de meisjes me in het Afghaans vertellen.

“In Afghanistan gebeurt heel veel werk nog met de hand”, vertelt Lida Azizi, 15 jaar oud. “Robots kunnen dit werk gemakkelijker en sneller maken. Ze kunnen er aan bijdragen om onze samenleving beter te maken. Dan denk ik aan robots in de landbouw of robots in ziekenhuizen. Ik wil verder gaan in robotica en net zo goed worden als de beste mensen uit andere landen.”

Kaswar Roshan, ook 15, vertelt dat ze hun robot ‘Het Betere Idee van Afghanistan’ hebben genoemd. De robot kan oranje en blauwe ballen oppakken, op kleur van elkaar kan scheiden en ze dan op een andere plek weer kan neerleggen. De oranje ballen staan symbool voor vervuild water en de blauwe ballen staan voor schoon water. De zilveren medaille die ze in de VS heeft gewonnen bewaart Kaswar boven haar bed. “Elke avond wanneer ik in bed stap, kijk ik er naar. Dat geeft me kracht.”

Somayah Faruqi, 14, vertelt hoe zij denkt dat meer vrouwen in haar land interesse kunnen krijgen in robotica: “De meisjes in dit team moeten de erkenning krijgen voor wat ze doen en voor hun talent. Zo kunnen ze rolmodellen zijn voor andere meisjes die dat ook kunnen. Het heeft nu al gewerkt om meer meisjes in Afghanistan voor robotica te interesseren. Ineens willen heel veel meisjes in dit robotteam zitten. Voorheen dachten ze dat het alleen iets voor jongens was.”

De zes meisjes zijn overgebleven van een oorspronkelijke groep van 150 voor wie Roya Mahboob in Afghanistan een selectiewedstrijd had georganiseerd. Ze hadden allemaal al interesse in techniek, sommigen zelfs specifiek in robots. Mahboob selecteerde eerst de beste twintig van de selectiewedstrijd. Vervolgens moesten de ouders toestemming geven om hun dochter verder te laten gaan met de robotwedstrijd in de VS. Lang niet alle ouders deden dat en zo bleven er zes meisjes over.

Mahboob vertelt dat dit robotteam voor haar alles heeft veranderd: “Traditionele gemeenschappen in Afghanistan hebben decennialang genegeerd wat vrouwen en meisjes kunnen in wetenschap en techniek. Ze kennen maar één realiteit. Ik werk al tien jaar in dit veld en ik word in mijn thuisland nog steeds genegeerd. Mijn hoop is gevestigd op deze nieuwe generatie meisjes. Technologie biedt mensen een kijk op een andere realiteit en de mogelijkheid om te dromen over een betere toekomst.”

Toen bekend werd dat de oprichter van World Summit AI, de Britse Sarah Porter, het Afghaanse meisjesteam naar Amsterdam wilde brengen, ontving ze doodsbedreigingen. “Ik mag niet in detail treden, maar de bedreigingen zijn afkomstig van extremistische groepen buiten Nederland. Roya moet al jaren leven met zulke bedreigingen. Het onderwijzen van vrouwen gaat voor velen in Afghanistan nog steeds in tegen hun cultuur.”

Roya Mahboob werkt er samen met Sarah Porter en haar medewerkers hard aan om dat te veranderen. Zo hebben ze 120 internationale topwetenschappers bereid gevonden om elk van de zes meisjes in de komende twee jaar twee uur individueel mentorschap aan te bieden. Porter: “Ondanks serieuze dreigingen en tegenwerkingen, zijn deze meisjes zo vastberaden en moedig. Ik ben heel blij dat ze nu al belangrijke rolmodellen in hun land zijn. En dit is nog maar het begin.”

Van homo sapiens naar cyborg

Dit artikel is gepubliceerd in de VPRO Gids, 4-10 november 2017

Je bent op weg naar de supermarkt wanneer je opeens een flinke trilling in je linker bovenarm voelt. Je weet: ergens op aarde heeft een zware aardbeving plaatsgevonden. Even later check je op je mobieltje het wereldnieuws en inderdaad, Mexico blijkt getroffen door een beving met een kracht van 5,9 op de schaal van Richter. Deze aardbeving voelde je stevig, maar dagelijks vinden er talloze kleine bevingen plaats die je als lichte tintelingen in je arm merkt.

Zo ongeveer moet de Spaanse cyborgkunstenaar Moon Ribas zich dagelijks voelen. In 2013 liet zij in haar linker bovenarm een sensor implanteren die draadloos verbonden is met een online-netwerk van seismografen. Zodra dit netwerk ook maar ergens ter wereld een aardbeving registreert, gaat de sensor in haar arm trillen. Als kunstenaar gebruikt Ribas deze trillingen in haar dans- en percussievoorstellingen. Zo danst ze in ‘Waiting for Earthquakes’ op de trillingen die ze realtime in haar arm voelt: improvisaties op de natuurlijke bewegingen van schuivende aardplaten.

Afgelopen mei vertelde Ribas tijdens The Next Web-conferentie in Amsterdam over haar ervaringen als cyborg. “Het is alsof ik twee hartslagen heb: die van mezelf en die van de aarde. Mijn cyborgervaringen brengen me dichter bij de natuur. Voor mij heeft het zijn van een cyborg niks te maken met het streven naar perfectie, zoals sommige mensen denken. Het is gewoon een evolutie, een herontwerp van mezelf.”

Ribas ziet cyborgtechnologie als een manier om het menselijk brein te boetseren met nieuwe ervaringen afkomstig van zintuigen die mensen van nature niet hebben, maar sommige andere organismen wel. Er zijn vissen en insecten die infrarood licht zien, sommige vogels nemen ultraviolet licht waar, en dolfijnen en vleermuizen sporen met ultrageluid hun prooi op. Technologie stelt ons in staat om dit soort signalen op te pikken met speciale sensoren en wanneer we die sensoren in ons lichaam implanteren, zijn we cyborgs geworden.

De documentaire ‘Cyborgs among us’ − de opening van het InScience wetenschapsfilmfestival in Nijmegen op 8 november − geeft een prachtige inkijk in de wereld van de cyborgs. Ribas zit zelf niet in de documentaire, maar haar Barcelonese jeugdvriend Neil Harbisson wel. Harbisson is de bekendste cyborg ter wereld. Hij heeft een soort antenne van achteren naar voren over zijn hoofd lopen, alsof er een leeslampje op is gemonteerd. Aan de voorkant steekt de antenne centimeters boven zijn voorhoofd uit. Aan de achterkant is deze geïmplanteerd in zijn schedel (overigens door een chirurg die dat anoniem moest doen). Harbisson ziet de wereld vanaf zijn geboorte alleen maar in zwart-wit, maar dankzij de antenne neemt hij een wereld waar zoals niemand anders. De antenne registreert niet alleen zichtbaar licht, maar ook infrarood en ultraviolet licht. Al dit licht wordt omgezet in trillingen die de cyborg kan horen. Deels ziet hij dus met zijn oren.

Samen met Moon Ribas richtte Neil Harbisson in 2010 de Cyborg Foundation op, die mensen helpt om cyborg te worden, cyborgrechten verdedigt en cyborgisme als sociale en artistieke beweging promoot.

Goddelijk weefsel
‘Cyborgs among us’ laat ons kennismaken met amateurs die in gammele schuren hun eigen lichaam proberen te hacken en naar de tattoo-shop gaan voor het illegaal laten implanteren van een magnetische sensor, maar ook met professionele wetenschappers als MIT-onderzoeker Hugh Herr. Herr raakte tijdens een ongeluk bij het bergbeklimmen twee benen kwijt. Dankzij gespecialiseerde protheses kon hij zes maanden later alweer klimmen. Spoedig klom hij zelfs beter dan voor het ongeluk omdat hij zijn protheses kon aanpassen aan de specifieke uitdagingen van de berg. Soms komen de kleine voeten van een kind immers beter van pas dan de grote voeten van een volwassene.

Herr verbaast zich over de schijnbare tegenstelling die sommigen zien tussen natuur en technologie: “Mensen geloven dat cellen en weefsels goddelijk zijn en dat de atomen in silicium of titanium op een of andere manier minder goddelijk zijn. Voor mij gaat het om functionaliteit, schoonheid en kwaliteit van leven en niet om het materiaal. Het is idioot om te denken dat een ledemaat dat gemaakt is van cellen, maar dat niet goed werkt en lelijk is, beter zou zijn dan een ledemaat van titanium, dat wel goed werkt en er prachtig uitziet.”

Versmelting
Cyborgs zijn mensen met onderdelen die mechanica, electronica en soms ook informatica combineren. Traditioneel zijn robots machines die dankzij een computer kunnen waarnemen, denken en handelen. De wereld van de robot en die van de cyborg komen echter steeds dichter bij elkaar te liggen. In de toekomst zullen biologie, scheikunde, mechanica, elektronica en informatica steeds meer met elkaar versmelten. De nieuwste trend in de robotica is het ontwikkelen van robotische onderdelen uit slimme materialen: materialen die bijvoorbeeld verkleuren wanneer de temperatuur verandert of een kracht leveren wanneer je er eens stroompje doorheen stuurt.

Zulke materialen gaan ervoor zorgen dat robotica steeds meer op en in ons lichaam komt te zitten. Je kunt er robotpakken van maken die ouderen of lichamelijke gehandicapten fysiek ondersteunen. Je kunt er kleding mee maken die ons niet alleen warm houdt maar ook direct onze tastzin stimuleert. Zo kun je niet alleen tekst en beeld maar ook gevoel van je geliefde ontvangen: ‘ik voel een smiley in mijn jas’. Slimme materialen kunnen ook in het lichaam worden gebruikt, bijvoorbeeld in een robotisch strottenhoofd, voor mensen bij wie het origineel door een tumor moet worden verwijderd. En kleine, biologisch afbreekbare robotjes die je kunt inslikken als een pil kunnen ooit medicijnen op de juiste plek afleveren en kleine medische ingrepen uitvoeren.

Hedendaagse cyborgs zijn geen hoofdrolspelers in een freakshow, maar pioniers die enerzijds proberen menselijk ongemak of zelfs lijden te verminderen, en anderzijds zoeken naar manieren om menselijke expressie te verrijken. Of, zoals cyborg Moon Ribas het zegt: “Ik stel me een toekomst voor waarin we in het café niet als eerste vragen ‘waar kom je vandaan?’ maar ‘welke extra zintuigen heb je?’”

Friday, November 3, 2017

Hallo robot - Alles over mijn nieuwe boek

Het leukste robotboek van het universum is verschenen, geschreven door Bennie Mols en Nieske Vergunst. Met 'Hallo robot' kruip je onder de huid en in het brein van de robot.

                              


Check voor media-aandacht, recensies en optredens: Hallorobot

Een selectie:











--------------------------------------------------------------------------------------------------------

Robotica stond de hele maand november centraal bij de CPNB-campagne NederlandLeestBol.com zette de 10 leukste boeken over robots op een rij...en Hallo Robot staat op nummer 1!

(Mijn boek Turings tango staat trouwens op nummer 3 en in nummer 8 ('Machines die denken') schreef ik een essay.)
---------------------------------------------------------------------------------------------------------------------

Iedereen krijgt vroeg of laat te maken met robots, dus je kunt ze maar beter goed leren kennen. 
Omarm ze als maatjes en collega’s.



Wij zijn niet bang voor robots, en daarom verwelkomen Nieske Vergunst en ikzelf de machine als medemens in ons nieuwe boek 'Hallo robot' dat op 7 november 2017 verscheen bij Uitgeverij Nieuw Amsterdam. In december 2017 verschijnt al de tweede druk.

Zoals Susan Calvin, de robotpsycholoog uit Isaac Asimovs sciencefictionboek Ik, robot, zegt: ‘Er was een tijd dat de mensheid alleen stond tegenover het heelal en zonder een vriend. Nu heeft ze wezens om haar te helpen; sterkere wezens dan zijzelf, trouwer, nuttiger en geheel aan haar toegewijd. De mensheid is niet langer alleen. Heb je er ooit zo over gedacht?’

Op de website van Hallo robot staat ook een tijdlijn van sciencefictionrobots en als extra materiaal dat niet meer in het boek paste onze hoogstpersoonlijke eregalerij van echte robots!