Monday, December 23, 2019

2019 in drone-vlucht

Het begrijpen van menselijke intelligentie en het creëren van kunstmatige intelligentie (AI) is een van de grootste wetenschappelijke uitdagingen van onze tijd. Tegelijkertijd moeten we zorgvuldig omgaan met AI in ons dagelijks leven. AI is geen magische oplossing, maar kan wel krachtig gereedschap zijn.

Dit jaar heb ik weer een flink aantal zeer diverse AI-, Robotica- en IT-producties gemaakt: artikelen en radiobijdragen voor diverse media, lezingen, paneldiscussies en video’s. Hier is een beknopt visueel overzicht... 

Tot volgend jaar!


Saturday, December 14, 2019

Internationaal AI-beleid − Domme data, slimme computers en wijze mensen

Eerder dit jaar schreef ik voor de WRR het working paper 




SAMENVATTING:

Sinds de jaren vijftig van de 20e eeuw was kunstmatige intelligentie (artificial intelligence, kortweg AI) voornamelijk een academische aangelegenheid binnen de informatica. Pas in de afgelopen jaren, sinds de doorbraak van machine learning in 2012, heeft AI grootschalige technologische toepassingen opgeleverd voor consumenten, bedrijven en overheden: bijvoorbeeld gezichtsherkenning, spraakherkenning, automatisch vertalen, zelfrijdende auto’s en lerende robots. AI-toepassingen worden nu razendsnel uitgerold. Omdat kunstmatige intelligentie het in zich heeft alle sectoren van onze maatschappij te beïnvloeden en grote sociaal-economische gevolgen kan hebben, voelen veel nationale overheden de noodzaak om hier beleid op te ontwikkelen.

Anno 2019 hebben minstens 25 landen hun visie op AI-ontwikkeling uitgewerkt in een rapport. Deze rapporten gaan onder andere over investeringen in fundamenteel en toegepast onderzoek, onderwijs en educatie, veranderingen van de arbeidsmarkt, digitale infrastructuur, en ethische aspecten van kunstmatige intelligentie. Uitgangspunt is telkens dat AI de samenleving zoveel mogelijk moet opleveren, terwijl de risico’s en kosten van de technologie moeten worden gemini- maliseerd.

In dit Working Paper vatten we de visies samen van vijftien landen, plus die van de Europese Unie (EU) en de Verenigde Naties (VN), en proberen we daarin de rode draad te ontdekken. Het ontwikkelde nationale AI-beleid varieert sterk omdat elk land verschillende prioriteiten stelt. Zo wil de Verenigde Staten (VS) de AI-ontwikkeling vooral overlaten aan het bedrijfsleven, maar wel gevoed door een sterke academische sector. En in China houdt de overheid de touwtjes van de EU-ontwik- keling strak in handen, maar veelal wel in samenwerking met Chinese techreuzen die inzetten op AI-ontwikkeling.

De EU en de afzonderlijke EU-landen bepleiten een middenweg tussen de VS en China, die een balans moet vinden tussen de belangen van het individu, de maatschappij en het bedrijfsleven. Om tegenwicht te bieden aan de VS en China ontwik- kelen EU-landen binnenlands AI-beleid dat is ingebed in een bredere Europese samenwerking.

Hoewel het ontwikkelde AI-beleid dus verschilt tussen landen, kent het ook
twee aspecten die bij alle landen sterk overeenkomen: (1) de ontwikkeling van AI-expertise (onderwijs, educatie, beroepsopleiding), dit tegen de achtergrond van een internationale concurrentie waar er meer vraag is naar dan aanbod aan expertise; en (2) de ontwikkeling van databeleid, omdat data de brandstof zijn van lerende machines.

In het AI-beleid van de in dit verslag besproken landen krijgen twee aspecten relatief weinig aandacht: (1) wetgeving en toezicht (terwijl er wel veel aandacht is voor ethische vragen rondom de toepassing van AI); en (2) mens-machinesamenwerking en de gevolgen hiervan voor de manier waarop mensen, organisaties en bedrijven functioneren.

Omdat individuele landen niet op kunnen tegen de schaalgrootte van de VS en China (wat grote voordelen biedt bij het verzamelen van data), richten veel landen aparte onderzoeksinstituten op. Hierin combineren ze hun bestaande sterke onderzoekspunten.

Download het hele working paper hier.

Wednesday, December 11, 2019

Meerwaarde van mens met machine

Hoe ontwikkel je kunstmatige intelligentie die goed met mensen kan samenwerken? Dat is het doel van het NWO Zwaartekrachtprogramma Hybrid Intelligence: Augmenting Human Intellect.


Dit artikel is gepubliceerd in I/O Magazine van december 2019. Download het magazine hier.

Computers zijn veel beter dan mensen in schaken en go, maar mensen hebben veel meer gezond verstand dan computers. Robots kunnen perfect de hele dag grote auto-onderdelen in elkaar zetten, maar ondanks de jaren zestig-fantasieën over Rosie-de-Robot zijn mensen nog steeds veel handiger dan robots in het doen van het huishouden. Voor veel toepassingen in de echte wereld is de combinatie van mens en machine krachtiger dan een van beide afzonderlijk. Dat is de achterliggende filosofie van het onderzoeksprogramma Hybrid Intelligence dat dit jaar een NWO Zwaartekrachtsubsidie kreeg van twintig miljoen euro voor tien jaar. Bij het programma zijn in totaal zo’n dertig onderzoekers van zes Nederlandse universiteiten betrokken.

Mede-bedenker en programmaleider is Frank van Harmelen, hoogleraar kunstmatige intelligentie aan de VU. “Veel van de kunstmatige intelligentie van dit moment is gericht op machines die autonoom functioneren en mensen vervangen. Ons doel is juist om kunstmatige intelligentie technisch geschikt te maken om met mensen samen te werken. Om dat doel te halen werkt een groot deel van de onderzoekers binnen kunstmatige intelligentie in Nederland met elkaar samen. Dat vind ik heel bijzonder aan ons programma.”

Om hun doelen concreet te maken schetsen de onderzoekers drie toekomstscenario’s voor de zorg, het onderwijs en de wetenschap. Van Harmelen: “In de zorg is ons doel om robots samen met verpleegkundigen te laten zorgen voor kinderen met kanker. In het onderwijs willen we kijken hoe robots en menselijke docenten samen beter onderwijs kunnen geven. En in de wetenschap hebben we echt een moonshot geformuleerd: het publiceren van een wetenschappelijk artikel waarvan de computer co-auteur is. Dat is het moeilijkst te halen doel.”

Mens-machine-samenwerking stelt nieuwe uitdagingen

Om deze doelen te halen werken de onderzoekers in vier onderzoekslijnen, samengevat in de afkorting CARE: Collaborative, Adaptive, Responsible en Explainable. In de onderzoekslijn collaborative draait het om de samenwerking tussen mens en machine. Van Harmelen: “In de kunstmatige intelligentie van dit moment onderzoekt men vooral de samenwerking tussen machines onderling: multi-agent-systemen heet dat vakgebied. De samenwerking tussen mens en machine stelt ons echter voor heel nieuwe uitdagingen. Zo zouden machines dan ook moeten weten wat mensen wel en niet weten. Machines moeten een theory of mind hebben, zoals dat heet. Dat hebben ze nu nauwelijks.”

Daarnaast draait in de huidige kunstmatige intelligentie veel om het machinaal leren van grote hoeveelheden data. Maar de wereld verandert voortdurend en na iedere verandering heeft een getrainde machine vaak geen antwoord meer op de nieuwe uitdagingen. “Voor het omgaan met zo’n dynamische wereld moeten machines dus ook adaptief zijn”, zegt van Harmelen. Dat is de tweede onderzoekslijn. “Kunstmatige intelligentie heeft daarvoor niet alleen data nodig, maar ook kennis van de wereld. Beide aanpakken willen we combineren.”

De derde onderzoekslijn, responsible, draait om het bijbrengen van normen en waarden aan machines. Van Harmelen: “We willen wel dat onze machines zich gedragen naar de normen en waarden die wij als mensen belangrijk vinden. Een machine moet bijvoorbeeld leren dat hij niet mag liegen. En een robot die voor de klas staat zou ook moeten weten hoe hij zich tegenover zijn leerlingen moet gedragen. Net als mensen moeten machines leren socialiseren.”

De vierde en laatste onderzoekslijn, explainable, heeft als doel om machines ook te laten uitleggen waarom ze een bepaalde beslissing willen nemen of hebben genomen. Veel lerende systemen van tegenwoordig werken als een zwarte doos. Maar om met mensen samen te werken zullen machines ook moeten kunnen uitleggen wat ze willen en waarom.

Volgens van Harmelen loopt Nederland voorop in het onderzoek naar hybride intelligentie: “Je ziet op sommige plekken in de wereld soortgelijke initiatieven ontstaan, bijvoorbeeld aan Stanford in de VS, maar wij waren er vroeg bij. Ook ligt ons onderzoeksplan sterk in lijn met de filosofie die de EU heeft over kunstmatige intelligentie.”



Sociale interactie

Binnen Hybrid Intelligence wordt hoogleraar logica en cognitie Rineke Verbrugge van de Rijksuniversiteit Groningen verantwoordelijk voor het onderzoek naar hoe machines een theory of mind kunnen krijgen. Verbrugge: “Ik definieer theory of mind als je kunnen indenken wat een ander denkt, gelooft, weet en bedoelt. In de sociale interactie gebruiken mensen dat voortdurend. Ik weet dat jij weet dat Amsterdam de hoofdstad is van Nederland. Maar ik weet ook dat jij weet dat ik weet dat Amsterdam de hoofdstad is van Nederland.”

Mensen ontwikkelen die vaardigheid geleidelijk. Ergens tussen het derde en vierde levensjaar leren kinderen te begrijpen wat iemand anders wel of niet weet. Rond hun zesde of zevende leren kinderen te redeneren over wat ze denken dat anderen over hen denken. En zo rond de tienjarige leeftijd begrijpen kinderen wat het betekent als iemand anders iets expliciet belooft.

Het onderzoek van Verbrugge gaat een belangrijke rol spelen in de onderzoekslijn collaborative. Verbrugge: “Bij samenwerken hoort een collectieve intentie. Je wilt samen een doel bereiken. Dan heb ik bijvoorbeeld de intentie dat jij meewerkt, maar ik wil ook dat jij weet dat ik wil meewerken. Als computers in het team zitten dan zullen ze ook moeten begrijpen hoe de menselijke theory of mind werkt. Wat weet een ander teamlid en wat niet? Wat zijn de wensen van andere teamleden? Momenteel kunnen computers dat alleen in geïdealiseerde spelomgevingen met duidelijke spelregels en duidelijke ja- of nee-beslissingen. Maar in de echte wereld schieten computers nog tekort. Neem het conflict tussen Israël en Palestina. Daar spelen emoties een grote rol, net als de gecompliceerde geschiedenis. Huidige computers kunnen daar niet mee omgaan. Hetzelfde geldt voor het begrijpen van lichaamstaal. Mensen kijken naar een ander om er achter te komen wat iemand denkt. Computers zijn daar slecht in.”

Computer als co-auteur

Stel dat een computer over tien jaar inderdaad co-auteur van een wetenschappelijk artikel wordt, wat moet de machine dan beheersen aan theory of mind? Verbrugge: “Dan moet de computer vragen kunnen beantwoorden over het artikel. Hij moet ook kritiek kunnen pareren. Of kunnen zeggen: sorry dat heb ik verkeerd geïnterpreteerd, een andere interpretatie ligt toch meer voor de hand. De computer mag alleen maar als co-auteur bij het artikel als hij volledig dezelfde verantwoordelijkheden heeft als de menselijke co-auteurs.”

Daarnaast zou de computer ook in staat moeten zijn tot meta-redeneren: hij moet inzicht hebben in waarin hij zelf wel en niet goed is en waarin zijn teamleden wel of niet goed zijn. Verbrugge: “Het zou mooi zijn als de computer zelf bedenkt dat die en die wetenschappers elkaar nog niet kennen maar gezien hun expertises wel eens heel goed zouden kunnen samenwerken aan het artikel.”

Alle hoofdonderzoekers binnen Hybrid Intelligence gaan twee eigen promovendi begeleiden en begeleiden mee bij twee promovendi van collega-onderzoekers. Dat is met opzet gedaan om zoveel mogelijk kruisbestuiving te krijgen tussen de verschillende disciplines in de kunstmatige intelligentie.

Naast haar inhoudelijk-wetenschappelijke taak wordt Verbrugge ook voor een dag per week verantwoordelijk voor de educatie en training binnen het programma. “We willen de volgende generatie voldoende bagage meegeven, zowel de studenten en promovendi, als de postdocs en universitair docenten. En die bagage omvat meer dan alleen wetenschap. Promovendi die later het bedrijfsleven willen ingaan willen we de juiste training geven, maar ook promovendi die hoogleraar willen worden. En omdat kunstmatige intelligentie een steeds grotere impact op de samenleving gaat krijgen willen we onze jonge onderzoekers ook voorbereiden op het communiceren van hun wetenschap naar een algemeen publiek. En natuurlijk moeten ze leren nadenken over de ethische en sociaal-maatschappelijke gevolgen van hun werk.”


Programma in vogelvlucht:
Budget: € 20 miljoen

Looptijd: 10 jaar

Betrokken universiteiten: VU (penvoerder), UvA, TU Delft, Universiteit Leiden, Universiteit Utrecht, Rijksuniversiteit Groningen

Onderzoekslijnen: Vier aspecten van kunstmatige intelligentie, samengevat in de afkorting CARE: Collaborative, Adaptive, Responsible en Explainable.

Praktijkdoelen: In de zorg: robots die samen met verpleegkundigen samenwerken in ziekenhuizen voor kinderen met kanker. In het onderwijs: teams van robots en docenten om samen beter les te geven. In de wetenschap: een gepubliceerd wetenschappelijk artikel waarvan een computer co-auteur is.

Hyperlinks
https://www.hybrid-intelligence-centre.nl
https://www.cs.vu.nl/~frankh/
https://rinekeverbrugge.nl

Wednesday, December 4, 2019

De toekomst van het internet

Tijdens het 22e Jaarcongres ECP op 14 november in Den Haag discussieerden Marleen Stikker, Valerie Frissen, Kees Neggers en Michiel Steltman over de toekomst van het internet. Hoewel ze alle vier serieuze problemen signaleren met het huidige internet, zijn ze optimistisch over de toekomst. Maar dan moeten we het internet wel als een publieke infrastructuur gaan zien die de waarden waarborgt die we met ons allen in de samenleving belangrijk vinden.


Dit artikel is gepubliceerd op de website van SIDN

Het internet heeft de wereld economisch en maatschappelijk veel gebracht. Het is echter wel een product van een andere tijd. Toen het internet vanaf 1969 – dit jaar 50 jaar geleden − geleidelijk aan werd ontwikkeld, is er geen rekening gehouden met het huidige gebruik. Aan zaken als veiligheid en privacy is toen niet of nauwelijks gedacht. Real-time toepassingen als video of Skype waren nog lang niet in zicht. En over de vercommercialisering van het internet via Big Tech-bedrijven als Facebook en Google maakte niemand zich nog zorgen.

Onder leiding van wetenschapsjournalist Bennie Mols discussieerden Kees Neggers (internetpionier en oud-directeur SURFnet), Marleen Stikker (directeur en mede-oprichter Waag), Michiel Steltman (directeur Stichting Digitale Infrastructuur Nederland) en Valerie Frissen (hoogleraar Digitale Technologie en Sociale Verandering en directeur SIDN fonds) over de toekomst van het internet.

Vinger aan de pols van het internet anno 2019

De vraag naar de toekomst van het internet begint bij de vraag hoe de diagnose luidt van het internet anno 2019, vijftig jaar na het begin van het ARPANET. Internetpionier Kees Neggers loopt van alle vier de panelleden verreweg het langst mee in de ontwikkeling van het internet, al sinds begin jaren 70. Zijn korte en krachtige diagnose luidt: “Het internet is een schitterend ongeluk.” Neggers vertelt dat het internet een onmisbare infrastructuur is geworden, maar dat we zijn vergeten om het op tijd aan te passen op het veranderende en massaler wordende gebruik. Hij doelt dan vooral op de technische infrastructuur waarop al onze internettoepassingen draaien.

Valerie Frissen breidt de diagnose van Neggers nog verder uit: “Niet alleen technisch, maar ook maatschappelijk is het internet een schitterend ongeluk.” Maatschappelijk gezien hebben we het internet verwaarloosd, vindt zij. “En dat gaat verder dan liefdevolle verwaarlozing. Ik noem dat zelfs liefdeloze verwaarlozing.”

Marleen Stikkers diagnose heeft dezelfde strekking als die van Frissen en is ook de titel van een boek dat zij eind november publiceert: ‘Het internet is stuk − Maar we kunnen het repareren’. Wat stuk is volgens Stikker, is het publieke vertrouwen in het internet. Veel partijen die zich in de afgelopen decennia bemoeiden met de internetontwikkeling, hanteerden niet altijd publieke waarden, waarden die voor mensen als burgers belangrijk zijn en niet alleen voor mensen als consumenten. Als consument mag het weliswaar fijn zijn dat Facebook gratis is, als democratisch burger is het ongewenst dat Facebook met gratis data van burgers zoveel macht heeft verworven. “Technologie is mensenwerk”, zegt Stikker, “en dat impliceert ook dat er waarden in zitten. Daar moeten we veel meer aandacht aan geven.”

Michiel Steltman is de enige die vooral de positieve kant van het huidige internet benadrukt: “Het gaat wonderbaarlijk goed met het internet. Ondanks allerlei beperkingen en het gebrek aan vertrouwen, vinden er bijvoorbeeld dagelijks miljarden transacties plaats.” Toch beaamt ook hij dat het internet is gaan wringen: aan de ene kant door de macht van de Big Tech-bedrijven en aan de andere kant door de beperking van internetvrijheden door autoritaire regimes.

De toekomst van het Internet
Gegeven de diagnose van het huidige internet, is de vraag met welke remedies we het internet van de toekomst moeten gaan vormgeven. Op technisch niveau is het volgens Neggers noodzakelijk om het internet geleidelijk te vernieuwen. Dat zou moeten beginnen bij vitale infrastructuren zoals banken en energiebedrijven. Neggers: “We zijn het verplicht om daar alternatieven voor te maken. Technisch en maatschappelijk kan het. En waar een wil is, is een weg. Begin met iets beters voor de vitale infrastructuur en laat dan als het ware onder het huidige internet geleidelijk een nieuw internet ontstaan.”

Frissen benadrukt dat een remedie op technisch niveau niet los staat van remedies op maatschappelijk of politiek niveau. “In de SIDN-video over 50 jaar internet (https://www.sidn.nl/50jaarinternet) zei internetpionier Erik Huizer dat er in het eerste ontwerp van het internet ook al bepaalde waarden zaten: het moest open, vrij en voor iedereen toegankelijk zijn. We moeten ons afvragen of die waarden wel goed zijn geïmplementeerd en wat de maatschappelijke gevolgen zijn.”

Ook Stikker vindt dat we opnieuw de balans moeten zoeken tussen aan de ene kant een open internet waarin iedereen kan meedoen en aan de andere kant een veilig internet. “De overheid heeft het internet nooit sterk gereguleerd, hooguit op het terrein van het intellectueel eigendom.”

Steltman is echter bang dat te veel regulering een remmend effect gaat hebben op de innovatie. Hij pleit voor een gepaste regulering. “Een regulering op de multistakeholder-manier, waarbij nadrukkelijk ook bedrijven zijn betrokken.” Nederland loopt op dit terrein voorop, vindt Steltman. “Er ligt nu een memo over soevereiniteit op het internet dat zich kan meten met het historische Mare Librum, het internationale recht dat vrije handel op zee mogelijk maakte. Nederland kan voorop lopen met zo’n multistakeholder-aanpak. Ik noem dat polderen op steroïden.”

“Polderen is mooi”, reageert Neggers, “maar we zien nu al dat we achterlopen door al dat polderen. Je moet soms ook iets op tijd doen. Staten voelen zich onveilig en gaan zich beschermen. Ik zie niet in hoe we een wereldwijde samenleving kunnen creëren als sommige staten zich beginnen af te sluiten.”

Als er iets is wat we in de afgelopen 50 jaar hebben geleerd, zegt Frissen, is het dat het evident is dat het internet meer gereguleerd moet worden. “We hebben toezicht nodig op algoritmes, marktregulering en datasoevereiniteit. Dat we de beginwaarden van een vrij en open internet overeind willen houden, betekent niet dat we het maar moeten overlaten aan het Wilde Westen. Europa manifesteert zich gelukkig steeds meer als een derde macht tussen het neoliberale systeem, Amerika, en het staats-systeem, China.”

Stikker wijst op een initiatief waarmee Europa nadrukkelijk probeert de tekortkomingen van het huidige internet te repareren: het Next Generation Internet-programma (https://ec.europa.eu/digital-single-market/en/policies/next-generation-internet). Daarin worden onder andere belangrijke thema’s als datasoevereiniteit en online-identiteit aangepakt. En we moeten volgens Stikker ook gaan bouwen en zoeken naar alternatieven voor toepassingen die nu worden gedomineerd door de Big Tech-bedrijven uit de VS: “Laten we investeren in positieve ontwikkelingen. Sommige bestaande applicaties onttrekken waarde, bijvoorbeeld in de vorm van energie en data. We moeten de stap zetten naar een productie waarin je wel publieke waarden kunt waarborgen.” Ook vindt ze dat overheden niet afhankelijk moeten zijn van commerciële softwarepartijen. De overheid zou moeten afdwingen dat leveranciers met bepaalde publieke kernwaarden gaan werken.

“We moeten vooral niet denken dat we niets kunnen doen”, voegt Frissen toe. “Ik kan bijvoorbeeld vanuit mijn rol als directeur van het SIDN fonds de makers van nieuwe toepassingen steunen. En Europa vindt regulering heel belangrijk. Wat ook heel belangrijk is, is het versterken van de macht van de eindgebruiker, of, als je het in Marxistische termen wilt zeggen: de macht van het dataproletariaat.”

Stikker stond in 1994 aan de wieg van De Digitale Stad, een initiatief dat een belangrijke rol speelde bij het bekend maken van het internet bij de burger. Want daarvoor waren vooral academische instellingen aangesloten op het internet. De Digitale Stad werd echter maar korte tijd financieel door de overheid gesteund, vertelt Stikker. “Na De Digitale Stad is er geen cent meer in de publieke zaak van het internet geïnvesteerd. Economische zaken en bedrijvigheid zijn nu leidend. We zouden het internet weer meer moeten zien als een publiek goed. Daar omheen kan dan wel weer commercie ontstaan.”

Educatie en digitale geletterdheid
Technisch gezien bestaan er oplossingen voor een betere infrastructuur van het internet. Politiek zou er meer regulering moeten zijn, met oog voor publieke waarden. Maar kunnen burgers zelf ook een rol spelen om de problemen met het huidige internet op te lossen?

Volgens Neggers moet dat beginnen bij de educatie: “Kinderen moeten leren op een verstandige manier met alle digitale mogelijkheden om te gaan. Dat wordt nu gekaapt door grote bedrijven. We moeten de burger weerbaar maken.”

Steltman reageert dat we vaak met de mond het ene zeggen, maar in de praktijk het andere doen: roepen dat privacy belangrijk is bijvoorbeeld, maar vervolgens wel achteloos persoonlijke data weggeven via sociale media. “We moeten ons zelf tegen onze eigen domheid beschermen”, zegt hij. “We doen niet altijd verstandige dingen volgens de waarden die we belangrijk vinden. Met voldoende kennis en ervaring kun je dit oplossen.”

Wat betreft opleiding maakt Stikker zich zorgen over de roep dat we meer tech-werkers nodig hebben en dat we allemaal moeten leren programmeren: “Verantwoord technologiegebruik vraagt om veel meer dan alleen technische kennis. Je moet ook begrijpen wat technologie met mensen doet.”

Momenteel werken in Nederland diverse partijen aan technologie-strategieën, zoals bijvoorbeeld de AI-strategie. Stikker bepleit dat die strategieën van begin af aan interdisciplinair worden gemaakt, iets wat nu meestal niet gebeurt: “Ik stel me voor dat we een soort wasstraat hebben die interdisciplinaire technologie-ontwikkeling waarborgt. En dat alles wat we maken dan door die wasstraat gaat. Zo’n soort designlab, daar heb ik zin in!”

Friday, November 22, 2019

iHuman





Op zondag 24 november voorzie ik de IDFA-documentaire iHuman van omlijsting: een korte introductie vooraf en een nagesprek van een half uur:

In het eerste kwartier van het nagesprek praat ik met regisseur Tonje Hessen Schei, journalist Lee Fang, voormalig Google-medewerker Jack Poulson en Edward Snowdens advocaat Ben Wizner.

In het tweede kwartier spreek ik via een Skype-verbinding met Edward Snowden over zijn kijk op de documentaire en op de impact van AI op onze samenleving.

Bekijk hier de trailer van de documentaire:


Daphne Channa Horn maakte deze prachtige foto's tijdens de DocTalk:




Thursday, November 14, 2019

Hoera, het Internet bestaat 50 jaar!

In opdracht van SIDN mocht ik zes Nederlandse internetpioniers interviewen over 50 jaar Internet: Erik Huizer, Frances Brazier, Kees Neggers, Ted Lindgreen, Jaap Akkerhuis en Boudewijn Nederkoorn.

Vandaag hebben we de prachtige video van deze interviews gepresenteerd, net als een uitgebreide tijdlijn van de ontwikkeling van het Internet en zijn toepassingen:

Klik hier voor de lange versie (18 minuten)


Klik hier voor de korte versie (4 minuten):



Klik hier voor een tijdlijn van de geschiedenis van het internet en zijn toepassingen


'Robots zijn ook een onderdeel van de natuur'

Dit artikel is gepubliceerd op de website van Marineterrein Amsterdam, ter gelegenheid van het feit dat november 2019 Blade Runner-maand is. De legendarische sciencefiction film uit 1982 speelde immers in november 2019. 

Op de website van het Marineterrein kun je ook de bijpassende fragmenten uit de film Blade Runner bekijken.


Rob van Hattum is eindredacteur wetenschap bij de VPRO en chief science officer bij het NEMO Science Museum in Amsterdam. Hij maakte talloze radio- en tv-uitzendingen over robots en is een fan van de film Blade Runner. Samen met zijn NEMO-collega’s bereidt hij momenteel een tentoonstelling voor over big data op het Marineterrein in Amsterdam. NEMO huurt daar een oude gymzaal waar het de komende vijf jaar tijdelijke tentoonstellingen wil organiseren die raken aan actuele thema’s en die het niet goed kwijt kan in de hoofdvestiging. De big data-tentoonstelling zal raakvlakken krijgen met het thema robots.

Wetenschapsjournalist Bennie Mols, gespecialiseerd in kunstmatige intelligentie en robots, sprak met Rob van Hattum over Blade Runner, de ontwikkeling van robots, het maken van programma’s over robots, en over de relatie tussen mens en technologie.

Waarom ben je zo’n fan van Blade Runner?

“Ik heb Blade Runner een keer of vier, vijf gezien. Een prachtige film. Visueel een enorm spektakel. Hoewel de film zich afspeelt in 2019, is het geen voorspelling van de wereld in 2019. We hebben geen robots die er precies als mensen uitzien en die zich precies zo gedragen als mensen, zoals de replicants in de film. We hebben ook geen vliegende auto’s. Maar de film gaat ook niet over het voorspellen van technologie.

Uiteindelijk gaat de film over ons als mensen, over onze drijfveren, onze motieven en onze dromen. De zoektocht van de replicants, de robots, is een heel menselijke zoektocht. Wij mensen weten dat we doodgaan. Omdat we dat niet kunnen uitstaan, zoeken we naar een betekenis van het leven, zoeken we naar een ziel of worden we religieus. De replicants weten dat ze maar vier jaar leven en ze nemen het hun menselijke schepper kwalijk dat hij dat ingebouwd heeft. Heel begrijpelijk.

Een ander interessant aspect vind ik de agressie van de robots. Ik hou op zichzelf niet van geweld, ook niet in deze film, maar het geweld van de robots is wel voorstelbaar. Bij mens en dier is agressie een gevolg van de kracht van de evolutie. Organismen hebben een drijfveer om te overleven. Ze moeten wel, want anders sterven ze uit. De robots in Blade Runner zijn gemaakt door ons en gemodelleerd naar ons. Dus het is niet raar dat ze ook ons soort agressie vertonen.”

Kun je je eerste kennismaking met robots nog herinneren?

“Eind jaren zeventig, vlak voor ik radioprogramma’s bij de VPRO ging maken, heb ik een tijd filosofie gestudeerd. Een onderdeel daarvan was kunstmatige intelligentie. Toen las ik een artikel dat ging over grondrechten van robots. Dat artikel introduceerde een mensachtige robot. Die robot hield van muziek, van literatuur, van discussies over politiek en hij kon ook nog gedichten schrijven. De centrale vraag die het artikel vervolgens stelde, was of je die robot mag discrimineren op grond van zijn afkomst, op grond van het feit dat hij in een fabriek is gemaakt. Dat vond ik een fascinerende vraag. En dat is ook de link met Blade Runner, want de film is gebaseerd op het science-fictionboek ‘Do androids dream of electric sheep?’, zeg maar op het idee dat robots een gedachtenwereld kunnen hebben. Toen begon ik in de wereld van de kunstmatige intelligentie te duiken. Tegelijkertijd begon ik ook te zien dat wij mensen eigenlijk een soort biocomputers zijn. Ons brein verwerkt informatie op een biologische manier, via een enorm netwerk van hersencellen, en die manier is gevormd door de evolutie.”

Als je een favoriete robot mag kiezen, welke is dat dan?

“Dan kies ik voor het robothondje Aibo, dat in 1999 door Sony op de markt werd gebracht. Aibo was de eerste robot die charmant was. Hij was een beetje onbeholpen, maar gedroeg zich als een metgezel. Ik weet nog goed dat ik een uitzending over robothuisdieren moest presenteren. Vanwege die uitzending hadden we een Aibo aangeschaft. Ik nam hem mee naar de redactie en daar zaten een paar dames die een echte hond hadden en hun honden ook bij zich hadden. In die tijd mocht je je hond nog meenemen naar het werk. Ze zagen Aibo en vroegen: ‘Wat is dat?’ Ik zeg: ‘Dat is een robothond’. ‘Wat stom!’ zeiden ze. Ik zeg: ‘Ik zal ’m wel even aanzetten.’ Ik zette Aibo aan, hij strekte zijn pootjes uit en stond langzaam op. Binnen dertig seconden begonnen de dames Aibo te aaien. Dat was zo fascinerend om te zien.”

Wat is je het beste bijgebleven van het maken van de VPRO-programma’s over robots?

“Voor VPRO Tegenlicht waren we op bezoek bij de Japanse robotbouwer Hiroshi Ishiguro [https://www.youtube.com/watch?v=3AciynL30no]. Hij maakt androïde robots. Zij lijken sprekend op echt bestaande Japanse mensen, maar worden trouwens wel op afstand bestuurd. Eentje is gemodelleerd naar een Japanse nieuwslezeres. Met ons camerateam stonden we bij die robot. Ze kijkt naar je. Ze beweegt. Het voelde voor mij heel ongemakkelijk. Ik zei dat tegen Ishiguro, en toen zei hij: ‘Hoezo ongemakkelijk? Je mag haar best even aanraken.’ Ik legde mijn arm om haar schouder. Toch voelde het alsof ik haar lichamelijke integriteit aantastte, wat in feite natuurlijk onzin is. Het is een robot. Ze kan geen toestemming geven.

Mijn gevoel was precies wat ze in de robotica de uncanny valley noemen: dat we robots die goed op mensen lijken, maar toch net niet helemaal menselijk zijn, als eng ervaren. Aan de andere kant: als de robot exact op een mens lijkt, zoals de replicants in Blade Runner, dan kun je er ook gemakkelijk verliefd op worden. Dat gebeurt ook in de film, tussen hoofdpersoon en blade runner Rick Deckard en Rachael.”

Is er een link tussen robots en de activiteiten op het Marineterrein?

“Ik zou heel graag een robot-pontje realiseren tussen NEMO en het Marineterrein: robotische bootjes die bezoekers heen en weer kunnen varen. We gaan kijken of we daarvoor vergunning van de gemeente kunnen krijgen.

Verder hebben we in de hal van NEMO wel al een robot staan. Dat is robot Pepper, die Jelle Brandt Corstius vergezelde in de VPRO-serie Robo Sapiens. Bezoekers zijn dol op Pepper.

Daarnaast werken we aan een tentoonstelling over big data in onze dependance op het Marineterrein. Wat we daarin graag willen laten zien, is dat het verzamelen van data niet iets is van de 21e eeuw, maar al een lange geschiedenis heeft. Met de uitvinding van de landbouw vonden mensen ook allerlei vormen van het verzamelen van data uit. Denk aan het bijhouden van de hoeveelheid land, bijhouden hoeveel van jou is en hoeveel van mij, bijhouden wat de opbrengst van het land is en wat de waarde van een stuk land is. En nog later natuurlijk ook de introductie van geld als ruilmiddel. We zijn als het ware van jager-verzamelaars data-verzamelaars geworden.

Het idee van het benutten van data is dus al oud. Het is eigenlijk een deel van onze natuur. Een data-gedreven samenleving zie ik als een onderdeel van het grotere technologische verhaal waarin het samenkomen van allerlei wetenschappelijke ontwikkelingen zorgt voor een explosie aan technologische mogelijkheden. En dat is wat we momenteel zien met robots en kunstmatige intelligentie. Robots kunnen in de toekomst gaan leren van de data die op het internet zwerven, of ze kunnen een soort handen en voeten van het internet worden.”

Hoe denk je over de toekomst van de mens in relatie tot de robot?

“Met androïde robots zoals in Blade Runner zal het in de toekomst denk ik niet zo’n vaart lopen. Dat zit minder in de technologie dan in zaken als de kostprijs en in de vraag wat het voor zin heeft om zo’n robot te maken. Ik denk wel dat we zoiets als robothuisdieren gaan krijgen. Die volgen je beter dan echte huisdieren, je kunt er niet allergisch voor zijn, ze gehoorzamen je onvoorwaardelijk en kunnen je altijd helpen. Voor dit soort robotmetgezellen, als huisdier, maar ook in de zorg, zie ik een grote markt.

Ik zie technologie als een onderdeel van de natuur. Voor mij is een vliegtuig ook natuur, en een computer idem dito. We beschouwen een vogelnest toch ook als natuur, of een spinnenweb? Als je een spin cafeïne geeft, dan verandert het spinnenweb van vorm. Het web is dus een product van de neurale activiteit in het brein van de spin. Op dezelfde manier moeten we de creaties van de mens ook zien als een product van onze neurale activiteit. Dat geldt voor al onze technologie, dus ook voor robots. Ook robots zijn een onderdeel van de natuur.

Ik zou niet zover willen gaan door te zeggen dat technologie helemaal een autonoom organisme is, maar het is wel een onderdeel geworden van het evolutionaire systeem. Het is een gevolg van de evolutie en het gaat almaar door. Als mensen maken wij systemen die onze vermogens voorbij gaan. Ik vind dat een mooi idee. We hebben al robots de ruimte in gestuurd. En misschien gaan robots in de toekomst nog wel een groter deel van het heelal voor ons verkennen. Mensen zijn daar helemaal niet geschikt voor.”

Wednesday, November 13, 2019

"Dingen die peuters al beheersen zijn vaak het moeilijkst voor robots"


Voor het novembernummer van technologietijdschrift De Ingenieur interviewde ik Berkeley-hoogleraar Pieter Abbeel 

“Als hoogleraar wil ik voor het grote doel gaan: robots bouwen die net zo goed leren als mensen. Maar als oprichter van mijn eigen bedrijf Covariant.ai moet ik zorgen dat robots nú goed werken voor een klant.”

Aan het woord is Pieter Abbeel (42), een van de wereldleiders op het terrein van lerende robots. Hij is directeur van het Berkeley Robot Learning Lab, hoogleraar aan de Universiteit van Berkeley (Californië, VS) en oprichter van het net twee jaar oude start-up bedrijf Covariant AI. Aan de universiteit ontwikkelt hij kunstmatige intelligentie (AI) om robots sneller nieuwe taken te laten leren. Met zijn bedrijf ontwikkelt hij automatisering die toegepast wordt in de praktijk van onder andere de maakindustrie, de logistiek en de detailhandel. Robotarmen die een grotere variëteit aan producten kunnen oppakken en verplaatsen bijvoorbeeld.

Het volledige interview is te lezen in de papieren editie van De Ingenieur.

Hoe moderne AI op oude obstakels stuit


Deze boekrecensie is verschenen in technologietijdschrift De Ingenieur van oktober 2019

Het Amerikaanse bedrijf Boston Dynamics trekt al jarenlang de aandacht met indrukwekkende robotvideo’s. Neem de humanoïde robot Atlas die op twee krachtige benen een hindernisparcours aflegt. Hij springt over boomstammen en stapt blokken op en af. Uitleg geeft het bedrijf nooit. Vragen van journalisten beantwoordt het niet. En dus blijft de vraag: hoe robuust zijn deze robots echt? Vertonen ze hun kunstjes ook als we de omgeving een beetje veranderen?

In hun net verschenen boek Rebooting AI onthullen psycholoog en ondernemer Gary Marcus en hoogleraar informatica Ernest Davis dat robot Atlas voor de parcours-video 21 pogingen nodig had om er eentje te laten lukken. Nog erger: verplaats een blok een beetje, dim het licht, schilder de muren donker en de robot struikelt. Elk kind dat heeft leren lopen doet dat beter. De robotvideo’s van Boston Dynamics maken ons lekker met een illusie.

In Rebooting AI bespreken de auteurs natuurlijk de indrukwekkende prestaties die kunstmatige intelligentie (AI) recent heeft geleverd: automatische vertaling, gezichtsherkenning, voorwerpherkenning, spraakherkenning, rij-ondersteuning in de auto. Maar Marcus en Davis maken zich vooral zorgen dat we de huidige AI te veel vertrouwen. Een zelfrijdende auto die 95% van de tijd feilloos rijdt, bijvoorbeeld op voorspelbare snelwegen, maar in de stad om de haverklap brokken maakt, is levensgevaarlijk.

Ondanks het succes van zoekmachines bij het schiften van informatie op het world wide web begrijpen computers nog steeds niet wat ze lezen. Neem dit beroemde, uit slechts vijf woorden bestaande verhaaltje: “Te koop: babyschoentjes. Nooit gedragen.” Mensen trekken hieruit de conclusie dat er waarschijnlijk een baby is overleden en de schoentjes daarom te koop zijn. Dat staat nergens letterlijk. Ons begrip stoelt op kennis van de wereld en van de taal, op gezond verstand en causaal redeneren. Geen computer die dit korte verhaal begrijpt, laat staan een complexe roman van een paar honderd pagina’s.

AI heeft fundamentele beperkingen die meer computerkracht en meer data niet oplossen, beargumenteren Marcus en Davis. De achilleshiel is dat onze wereld complex, dynamisch en open is. Er kan een vrijwel oneindig aantal onvoorziene dingen gebeuren. Huidige AI is sterk gebaseerd op het leren van duizenden voorbeelden en kan daar niet mee omgaan. Er is vaak geen tijd om eerst van duizenden voorbeelden te leren. Een zelfrijdende auto moet in een fractie van een seconde de juiste beslissing nemen.

De AI worstelt al sinds haar begin als wetenschappelijke discipline in 1956 met deze achilleshiel. De aanpak die in de eerste decennia de boventoon voerde, symbolische AI, was gebaseerd op het vatten van kennis in symbolen en regels, en daarmee logisch redeneren. Ook die aanpak liep tegen beperkingen aan. In het afgelopen decennium werd de symbolische AI overvleugeld door lerende AI en dan met name deep learning.

De oude aanpak is slecht in het leren van nieuwe dingen. De nieuwe aanpak is slecht in het begrijpen van de wereld. En zo komen Marcus en Davis in Rebooting AI bij hun recept voor de toekomst: combineer de oude en de nieuwe AI, en vul de mix aan met nog te ontwikkelen nieuwe AI-instrumenten. Net als mensen zullen ook machines een aantal aangeboren vaardigheden moeten hebben: een basaal begrip van tijd, ruimte en causaliteit. Daarmee kunnen ze een intuïtief psychologisch en natuurkundig begrip ontwikkelen. Wat gaat er in andere mensen om? Hoe gedragen voorwerpen zich onder invloed van de zwaartekracht?

Vervolgens moeten machines leren redeneren met onzekere informatie. Al deze vaardigheden moeten machines verbinden met het waarnemen van de omgeving, het manipuleren ervan, en natuurlijk met taal. Dat stelt ze in staat om net als mensen cognitieve modellen van de wereld op te bouwen. Met zo’n totaalpakket kunnen machines op een flexibele, mensachtige manier een heleboel verschillende vaardigheden leren. Van deep learning naar deep understanding.

Gemakkelijker gezegd dan gedaan, maar het valt te prijzen dat Rebooting AI de AI-hype van het broodnodige realisme voorziet. De helderheid, de nuchterheid en de inzichten uit niet alleen de informatica, maar ook de psychologie en de taalkunde maken dit het beste populair-wetenschappelijke AI-boek van de afgelopen jaren. “Het echte gevaar is niet superintelligentie, maar idiot savants met macht”, besluiten de auteurs.


Gary Marcus en Ernest Davis. Rebooting AI − Building artificial intelligence we can trust. Pantheon Books. 273 pag.

Friday, November 8, 2019

Slim, slimmer, slimst: Wat iedereen zou moeten weten over kunstmatige intelligentie

Vandaag verscheen het prachtige nieuwe magazine van Speakers Academy, met daarin mijn column: 

'Slim, slimmer, slimst: Wat iedereen zou moeten weten over kunstmatige intelligentie'



Sinds het begin van de industriële revolutie zijn technologische innovaties de drijvende kracht van economische groei. De belangrijkste innovatie van dit moment is kunstmatige intelligentie: het steeds slimmer maken van computers en robots. Maar ondanks de spectaculaire toename van het aantal toepassingen van kunstmatige intelligentie in de afgelopen tien jaar, is menselijke intelligentie op tal van terreinen nog superieur. Voor een succesvolle toepassing van kunstmatige intelligentie in uw onderneming of organisatie is het daarom cruciaal om het beste van computers en robots te combineren met het beste van mensen. De toekomst is aan hybride intelligentie.

De superkracht van kunstmatige intelligentie 

In de afgelopen twintig jaar hebben computers ’s werelds beste menselijke spelers verslagen in spellen als schaken, go en recent zelfs poker. Deze computers zijn niet eens meer getraind door mensen, maar hebben zichzelf bovenmenselijk leren spelen door miljoenen malen tegen zichzelf te oefenen en binnen een paar dagen beter te worden dan menselijke wereldkampioenen.

Deze doorbraken in kunstmatige intelligentie hebben tot talloze innovaties geleid. Burgers en consumenten, bedrijven en overheden hebben de afgelopen jaren kennis gemaakt met kunstmatige intelligentie die teksten vertaalt, gezichten en andere beelden herkent, fraude detecteert, artsen helpt bij het stellen van medische diagnoses, producten aanbeveelt bij het online-winkelen en klantenvragen schriftelijk of zelfs mondeling beantwoordt.

Tegelijkertijd zijn fysieke robots geëvolueerd van loodzware armen die alleen maar auto’s in elkaar kunnen zetten naar flexibele, lichtgewicht, lerende robotarmen die in een handomdraai nieuwe taken kunnen uitvoeren. Robots zijn ook mobiel geworden. Ze rijden spullen rond in magazijnen, bezorgen pizza’s en zijn hard op weg als taxi dienst te doen. Ze zijn onze ogen en oren in de lucht en onder water. En robots kunnen steeds beter met ons communiceren. Kunstmatige intelligentie is de drijvende kracht achter de huidige robotica.

Al deze slimme computers en robots worden niet moe, hebben geen last van emoties, maken geen domme fouten en kunnen veel meer informatie verwerken dan zelfs de slimste mensen. Soms kunnen ze zelfs creatief zijn en met onverwachte oplossingen komen. De supermenselijke go-computer deed enkele zetten waarvan de beste menselijke spelers dachten dat het domme zetten waren, maar het bleken geniale zetten te zijn die menselijke vooroordelen over het go-spel genadeloos blootlegden. In de wetenschap hebben computers al nieuwe planeten ontdekt en veelbelovende moleculen voor het maken van nieuwe materialen en geneesmiddelen.

Waarin mensen nog steeds beter zijn dan machines

Toch moeten we ondanks deze superkracht van computers en robots niet onderschatten wat mensen heel goed kunnen. Mensen zijn nog steeds veel beter dan computers en robots in een algemeen lerend vermogen (we kunnen met een en hetzelfde brein leren voetballen, viool leren spelen en een nieuwe taal leren), mensen leren van veel minder voorbeelden, mensen zijn veel beter in sociaal-emotionele intelligentie, in gezond verstand en in verbeelding. Driejarige kinderen begrijpen al meer van de wereld om hen heen dan de beste supercomputer. Het menselijk brein werkt ook ongelofelijk efficiënt: het verbruikt slechts twintig watt, een factor honderdduizend minder dan de beste supercomputers.

Daarnaast zijn onze cognitieve vermogens ingebed in een lichaam van vlees en bloed. We hebben een wil om te leven, te overleven en betekenis te geven aan ons eindige bestaan. Zoals de Britse neurowetenschapper Steven Rose het zegt: “De informatieverwerking waaruit wij bestaan, evolueerde in, en zou weleens in geen ander medium kunnen werken dan in dat van een sociale, emotionele, door seks geobsedeerde primaat van vlees en bloed.”

Tegelijkertijd is de mens altijd een technologisch wezen geweest dat instrumenten bouwt om zijn eigen beperkte capaciteiten mee uit te breiden. De mens ontwerpt zijn instrumenten en die instrumenten veranderen op hun beurt het doen en laten van de mens, of het nu gaat om de uitvinding van het wiel, de stoommachine, de pil of slimme computers en robots.

Hybride intelligentie heeft de toekomst

Door ons te realiseren waarin machines beter zijn dan mensen en waarin mensen beter zijn dan machines, kunnen we nadenken over hoe we het beste van beide werelden kunnen combineren. Alleen zo kunnen we optimaal profijt trekken uit slimme machines. De toekomst is niet aan kunstmatige intelligentie, maar aan hybride intelligentie: mensen samen met machines. Liever een arts die met een slimme computer samenwerkt dan een arts die dat niet doet. Liever een vliegtuig bestuurd door een combinatie van mens en machine dan een vliegtuig dat alleen maar vertrouwt op een van beide.

Elke toepassing van kunstmatige intelligentie, of het de automatische piloot is in een vliegtuig of auto, automatische gezichtsherkenning of een zoekmachine, is nog steeds bedacht en geprogrammeerd door mensen. De mens houdt de supervisie, ontwerpt de interface tussen mens en machine, voedt de machine met voorbeelden, doet de aanpassingen en de tests in de praktijk. Hiermee is elk kunstmatig intelligente systeem in essentie nog steeds een mens-machine-systeem.

Tenslotte, wanneer kunstmatige intelligentie in een organisatie wordt geïntroduceerd, dan verandert er niet alleen iets voor de werknemers die de toepassing gebruiken (bijvoorbeeld de chirurg die de operatierobot bedient), maar vaak verandert de hele dynamiek in een organisatie (bijvoorbeeld de dynamiek tussen de chirurg en zijn assistenten die naast de operatierobot staan). Willen we kunstmatige intelligentie optimaal benutten, dan is het belangrijk om ook voor deze dynamiek oog te hebben.

Net zoals de stoommachine, de elektriciteit en de verbrandingsmotor in de 19e en 20e eeuw, is kunstmatige intelligentie in de 21e eeuw een general-purpose-technologie die vrijwel alle sectoren in de samenleving gaat veranderen: van de gezondheidszorg tot de detailhandel, van de landbouw tot de financiële sector, van het onderwijs tot de energiesector. Kunstmatige intelligentie is een soort turbo-boost voor de menselijke geest.

Kunstmatige intelligentie helpt ons bij het optimaliseren van oplossingen voor talloze problemen, maar wij als mensen bepalen wat we willen optimaliseren en wat als optimaal geldt. Uitgangspunt zou steeds moeten zijn dat de mens met computers en robots meer floreert dan zonder.




Over  dr. ir. drs. Bennie Mols
Bennie Mols is wetenschapsjournalist (o.a. voor NRC Handelsblad), auteur en spreker. Hij is gespecialiseerd in kunstmatige intelligentie, robots en het menselijk brein. Met zijn achtergrond als gepromoveerd natuurkundige en afgestudeerd filosoof biedt hij een unieke, multidisciplinaire kijk op de digitalisering van onze samenleving. Hij geeft regelmatig commentaar op radio en tv over actuele onderwerpen in de kunstmatige intelligentie en robotica. Hij is ook auteur van de succesvolle populair-wetenschappelijke boeken Turings tango (over kunstmatige intelligentie) en Hallo robot (over robots). Voor de WRR schreef hij als onafhankelijk expert het working paper Internationaal AI-beleid − Domme data, slimme computers en wijze mensen.

Voor lezingen van mij over kunstmatige intelligentie (AI), robots, het menselijk brein, Alan Turing en alles rondom de digitalisering van de samenleving kunt u contact opnemen met Speakers Academy

Tuesday, November 5, 2019

AI koloniseert nu ook al de ruimte - In StarCraft II

Computerprogramma AlphaStar bereikt een verbazingwekkend professioneel niveau in videogame StarCraft II.



Dit artikel is gepubliceerd in NRC Handelsblad van woensdag 30 oktober 2019

Voor het eerst kan een computer zich meten met de allerbeste menselijke spelers in StarCraft II, een videogame die door tienduizenden op professioneel niveau wordt gespeeld en door miljoenen puur voor de lol. Computerprogramma AlphaStar, een schepping van het Londense AI-bedrijf DeepMind, presteert beter dan 99,8 procent van de spelers die een officiële StarCraft-ranking hebben in alle drie de verschillende volken van StarCraft II: Protoss, Terran en Zerg. Niet eerder bereikte kunstmatige intelligentie zo’n hoog niveau in een professionele e-sport. Weliswaar is AlphaStar dus wereldklasse, maar nog niet bovenmenselijk zoals computers in dammen, schaken en go.

Onderzoekers van DeepMind (eigendom van Google) publiceerden hun onderzoeksresultaten in Nature van deze week. Ze werden geholpen door de professionele StarCraft-speler Dario Wünsch van het in Utrecht gevestigde Team Liquid. Begin dit jaar had een eerdere versie van AlphaStar al eens gewonnen van zowel Wünsch als van zijn collega Grzegorz ‘MaNa’ Komincz, een van de sterkste profs. Dat gebeurde echter alleen in een van de drie StarCraft-varianten: Protoss. De nieuwste versie van AlphaStar is veel krachtiger en daarnaast is de training van AlphaStar inmiddels volledig geautomatiseerd.

Lees het hele artikel op de website van NRC Handelsblad

50 jaar internet - een schitterend ongeluk

In 1969 werd aan de westkust van de VS het eerste computernetwerk geboren: Arpanet. Het zaadje dat zou uitgroeien tot ons huidige Internet. Een kleine geschiedenis van een grote ontwikkeling.





Dit artikel is gepubliceerd in de online-editie van NRC Handelsblad op dinsdag 29 oktober 2019

Terwijl de wereld nog aan het bijkomen was van de eerste mens die enkele maanden eerder voet op de maan had gezet, vond op 29 oktober 1969, vandaag precies vijftig jaar geleden, een doorbraak plaats die toen weinig aandacht kreeg maar uiteindelijk een veel grotere invloed op de wereld zou hebben: voor het eerst werd een bericht tussen twee computers verstuurd, van de Universiteit van Californië in Los Angeles naar het Stanford Research Institute.

Het bericht bestond uit weinig meer dan de letters ‘LO’. Dat had ‘LOG’ moet zijn, als afkorting van ‘LOG IN’, maar bij het versturen van de letter G crashte de verbinding. Aan het einde van dat jaar waren vier computers van vier Amerikaanse universiteiten met elkaar verbonden, een heus computernetwerk. Het Arpanet was geboren, het zaadje van ons huidige Internet, inmiddels toegankelijk voor 55 procent van de wereldbevolking.

Lees het hele artikel op de website van NRC Handelsblad

Friday, October 25, 2019

Kunstmatige intelligentie en natuurlijke domheid

Op donderdag 24 oktober 2019 was ik een uur lang te gast in het programma De Technoloog van BNR, gepresenteerd door Ben van der Burg en Herbert Blankesteijn. 

We bespraken waarin kunstmatige intelligentie wel en niet goed is en mijn stelling dat de toekomst is aan hybride intelligentie: het combineren van het beste van mens en machine.

De uitzending is hier te beluisteren.


Thursday, October 17, 2019

Ideeënversneller - Machines krijgen eindelijk verbeeldingskracht

Een nieuwe AI-techniek laat computers voor het eerst nieuwe dingen bedenken: van foto’s, video’s, stemmen en kunstwerken tot nieuwe medicijnen en materialen.



Dit artikel is gepubliceerd in het oktobernummer van De Ingenieur 

Over een digitaal canvas vliegt een vlinder met blauwe vleugels. Alsof hij een penseel in zijn hand heeft trekt hij bruine strepen over het zwarte doek. Er duiken nog twee vlinders op. Of is het dezelfde vlinder op meerdere plekken tegelijk? Onder het fladderen van de vleugels vult het canvas zich met vlinderpaden. Zo ontstaat het kunstwerk ‘Beast on a leash’ (‘Beest aan een lijn’) (https://www.jeroenvandermost.com/#/beast-on-a-leash/), een project van kunstenaar Jeroen van der Most, uitgevoerd samen met kunstmatige intelligentie (AI).

Van der Most werkte tien jaar geleden nog als marktonderzoeker en analyseerde sociale media-data. Maar hij kon zijn creativiteit onvoldoende kwijt en zette een radicale stap. Hij werd beeldend kunstenaar en ging kunstmatige intelligentie gebruiken om een nieuw soort kunst te maken: “Ik noem het een duo-kunstenaarschap tussen mens en machine.” Gebogen over zijn iPad vertelt hij aan de hand van zijn kunstwerken hoe ze tot stand kwamen. “Ik zie kunstmatige intelligentie als de volgende stap in de kunst. De mens bedenkt het hoofdidee en de AI zorgt voor de visuele vertaling. Het interessantste vind ik dat zo’n duo-kunstenaarschap ons als mensen voor nieuwe vragen stelt: Wat is creativiteit? Kan een machine ook creatief zijn? Zo ja, wat is dan nog het verschil tussen mens en machine? Komt de kunstenaar ooit buiten spel te staan?”

Lees het hele artikel in de papieren editie van het oktobernummer van De Ingenieur.

Friday, October 4, 2019

Machine learning is een must voor de deeltjesfysica

Hoe kun je nieuwe natuurkunde vinden zonder een model te hebben van die fysica? Machine learning is daarvoor essentieel, beweert deeltjesfysicus Sascha Caron. Hij past het toe in de zoektocht naar donkere materie.


Dit artikel is gepubliceerd in het NIKHEF-magazine Dimensies van oktober 2019. Het magazine is hier te downloaden

“Voor mijn kinderen is het heel normaal dat een auto zelf kan rijden, dat een machine hun vragen beantwoordt en dat een robot hen helpt om wetenschap te bedrijven. Deze nieuwe generatie denkt heel anders dan mijn generatie of nog oudere generaties. Dat zie ik ook in mijn vakgebied.”

Aan het woord is Sascha Caron, universitair hoofddocent deeltjesfysica aan de Radboud Universiteit Nijmegen en tevens verbonden aan het Nikhef. Hij is gespecialiseerd in data-analyse, in het bijzonder die bij de zoektocht naar donkere materie. Daarin is hij een van de pioniers in het gebruik van machine learning.

Caron: “Als je bij het Nikhef nu de vraag zou stellen wat het nut is van machine learning in de deeltjesfysica, dan zul je vaak antwoorden horen in de trant van: het is een hype, of: dat we doen al twintig jaar. Mijn eigen antwoord luidt: machine learning is een must, we doen er veel te weinig mee en veel te weinig fysici begrijpen het potentieel.”

Voor de deeltjesfysica ligt dat potentieel volgens Caron op vier terreinen: het beter classificeren van deeltjes en botsingsgebeurtenissen, het direct afleiden van fysica uit ruwe data, het vinden van nieuwe fysica zonder een model van die fysica te hebben, en tenslotte het fantaseren of − netter gezegd − bedenken van nieuwe fysica. Dat is nogal wat.

Machine learning is het onderdeel van de kunstmatige intelligentie waarin computers nieuwe taken leren in plaats van alleen maar voorgeprogrammeerde taken uitvoeren. Een van de eenvoudigste praktische toepassingen is een computer die leert om in je e-mailbox spam van niet-spam te onderscheiden zonder dat hem van te voren precies is verteld hoe een spam-bericht is opgesteld.

De meest populaire manier van machine learning gebruikt neurale netwerken. Dat idee is geïnspireerd op de manier waarop het menselijk brein leert en simuleert een netwerk van neuronen op een computer. Deze kunstmatige neuronen zijn met elkaar verbonden en tijdens het leerproces veranderen de ‘gewichten’ die aangeven hoe sterk twee neuronen met elkaar zijn verbonden.

Neurale netwerken bestaan al decennialang, maar boekten ook net zo lang nauwelijks succes. Dat veranderde in 2012 toen diepe neurale netwerken, met meer lagen van neuronen dan voorheen, het ineens veel beter bleken te doen bij het classificeren van voorwerpen in afbeeldingen dan alle andere methoden. Sindsdien duiken neurale netwerken ineens overal op, nu onder de naam deep learning: van beeld- en spraakherkenning tot medische diagnoses en robotica, en sinds een paar jaar ook in de natuurwetenschappen. Zo ontdekten astronomen in 2017 dankzij machine learning een nieuwe exoplaneet. Scheikundigen kunnen dankzij machine learning sneller interessante nieuwe materialen vinden.

Dankzij deep learning kunnen computers nu razendsnel en zonder moe te worden patronen in data herkennen. Soms zijn dat patronen die de mens ook wel zou herkennen, maar soms ook zijn dat subtiele patronen die de mens niet ziet. In 2016 deed go-computer AlphaGo tegen de beste go-speler van het decennium dankzij zijn zelflerende vermogen een zet die menselijke top-spelers als oerdom beschouwden, maar die achteraf geniaal bleek te zijn.

Geïnspireerd door de successen van deep learning op andere terreinen, ging ook een klein groepje deeltjesfysici ermee aan de slag in. In 2014 boekten zij het eerste succes. Ze lieten zien dat deep learning 8% beter dan alle andere methoden in staat was om in de data van botsingsdetectoren deeltjes te onderscheiden van achtergrondruis.

“Dat is mooi”, zegt Caron, “maar niet fundamenteel nieuw. Wat wel echt nieuw was, is dat deep learning daarvoor geen voorkennis over de fysica nodig heeft. De standaardmethode van classificeren heeft dat wel nodig. Traditioneel bedenkt een bepaalde groep theoretisch fysici variabelen die geschikt zijn om naar nieuwe natuurkunde te zoeken. Dat is de voorkennis. Ik durf wel te stellen dat het voor deze fysici na de publicatie in 2014 game over is. Zij gaan nooit meer variabelen bedenken die het beter doen in het classificeren dan een neuraal netwerk. Een diep neuraal netwerk heeft gewoon veel meer vrijheid om zich aan te passen aan de data.”

Het is de combinatie van diepe neurale netwerken, meer trainingsdata, betere simulatoren om trainingsdata zelf te maken, betere algoritmen om neurale netwerken te trainen en betere hardware die maken dat diepe neurale netwerken nu zo’n succesvol instrument kunnen zijn, ook in de deeltjesfysica. En dat terwijl in de jaren negentig neurale netwerken het niet beter deden in het classificeren van deeltjes en botsingsgebeurtenissen dan andere methoden.

“Helaas zitten veel fysici nog in hun hoofd met die oude neurale netwerken en zijn ze niet op de hoogte van de ontwikkelingen van de afgelopen vijf jaar”, zegt Caron. “Ik denk dat er wereldwijd zo’n vijftig deeltjesfysici bezig zijn de potentie van diepe neurale netwerken te ontdekken. Dat is veel te weinig. Het maakt het ook moeilijk om een cultuurverandering teweeg te brengen. Onderzoeksvoorstellen en papers worden vaak beoordeeld door natuur- en sterrenkundigen zonder kennis in machine learning. Dan is de kans groot dat ze niet begrijpen wat het nieuwe aspect is.”

Behalve het beter classificeren van deeltjes en botsingsgebeurtenissen, kan machine learning ook gebruikt worden om uit ruwe botsingsdata direct fysica af te leiden. Eigenlijk gaat de hele natuurkunde over het afleiden van nieuwe inzichten uit data. Machine learning kan daarbij enorm helpen. Caron: “Heel veel zaken die natuurkundigen nu op een conventionele manier doen, kunnen we waarschijnlijk beter doen met machine learning. Stel, een calorimeter in een deeltjesdetector meet de energieën van de deeltjes. De ruwe data bestaan dan uit een plaatje van op welke plek de calorimeter wat heeft gemeten. Dat plaatje kun je als ruwe data aan een diep neuraal netwerk geven en dat kan daar de relevante fysische parameters uit halen: welke deeltje is gemeten? welke energie heeft het? wat is de hoek van z’n baan?”

Nog spannender is dat machine learning nieuwe fysica kan vinden zonder een model te hebben van die fysica. Caron: “Tot en met de ontdekking van het Higgsdeeltje wisten deeltjesfysici meestal waarnaar ze zochten. Maar nu zijn we op een punt gekomen waarop we niet meer goed weten waarnaar we zoeken. We hebben misschien wel miljoenen mogelijke modellen voor donkere materie. Eigenlijk willen we alleen maar naar anomalieën zoeken, iets wat afwijkt van het standaardmodel.”

Juist daarvoor is machine learning geschikt. Caron trekt een vergelijking met het zoeken naar leven op andere paneten: “Stel, we trainen een diep neuraal netwerk om alle levende wezens op aarde te herkennen. Het heeft dan een algemeen begrip hoe leven eruit ziet. Vervolgens gaan we het gebruiken om op andere planeten te zoeken naar levende wezens. Dan kan het zomaar zijn dat het netwerk honderdduizenden dingen vindt die het niet kan reconstrueren uit al het aardse leven. Stel nu dat we een tweede netwerk trainen met alle aliens die in sciencefictionboeken voorkomen. In de deeltjesfysica is dat als het ware het netwerk dat door theoreten wordt getraind. Zij bedenken nieuwe fysica. Misschien zegt dit sciencefiction-netwerk wel dat 35 van die honderdduizend rare dingen op een andere planeet lijken op groene mannetjes met grote hoofden uit sciencefictionboeken. Dan zouden we de data daarvan verder kunnen onderzoeken. Dit is precies wat ik zelf doe met het zoeken naar donkere materie.”

Volgens Caron denken veel deeltjesfysici dat het echte werk zit in het bouwen van een detector en het doen van de experimenten en dat de data-analyse triviaal is. “Zo was het in de jaren 80 en 90 van de 20e eeuw, maar dat geldt al lang niet meer. Omdat we niet meer goed weten waarnaar we moeten zoeken, zijn de modellen veel complexer geworden. Daarnaast is de hoeveelheid gemeten data veel groter. En wel zo groot dat geen enkele klassieke analysemethode het beter doet dan machine learning. We moeten een heel ander beeld ontwikkelen over hoe we natuurkunde bedrijven. Een beeld waarin machine learning een krachtig instrument is.”

Internet
Sascha Caron: https://www.nikhef.nl/~scaron
Dark Machines is een onderzoekscollectief van natuurkundigen en data-wetenschappers: http://www.darkmachines.org
Project iDark van het eScience Center: https://www.esciencecenter.nl/project/idark





Tuesday, September 10, 2019

‘Slimme AI kan nóóit een mens worden’

Een mens is veel meer dan alleen intelligentie. Vier miljard jaar organische evolutie kun je niet namaken in silicium, zegt informaticus en psycholoog Joanna Bryson.

Dit artikel is gepubliceerd in NRC Handelsblad van maandag 9 september 2019


Het was 1993 en Joanna Bryson, eind twintig, ging onder de hoede van de beroemde roboticus Rodney Brooks werken aan een ambitieus project. Brooks wilde bij het Massachusetts Institute of Technology (MIT) een mensachtige robot bouwen: COG.

De ambitie: COG moest zichzelf ontwikkelen tot het niveau van een driejarig kind. COG had een metalen hoofd, een romp, twee armen en kreeg het postuur van Brooks’ inmiddels ook beroemde collega Cynthia Breazeal. Bryson ging aan de slag met het programmeren van het robotbrein.

De verrassing: „Keer op keer kwamen promovendi onafhankelijk van elkaar naar me toe om te zeggen dat ik zeker niet de stekker uit de robot mocht trekken. Dat vonden ze onethisch”, zo vertelt Bryson nu. Ze is in Nederland omdat ze dinsdag 10 september een lezing geeft op Tilburg University: ‘The Role of Humans in an Age of Intelligent Machines’. „Ik was geschokt. Elke hedendaagse spellingchecker is slimmer dan COG toen. Hoe kon het dat slimme mensen bezorgd waren om een robot, maar zich geen zorgen maakten om de daklozen die je in die tijd in de straten van Cambridge zag liggen? En als feministe vond ik het diep problematisch dat ze een robot meer rechten leken te geven dan een vrouw.

„Bij gebrek aan vooruitgang werd het project na anderhalf jaar stilgelegd. Een robot die zichzelf leert wat we toen met COG voor ogen hadden, bestaat trouwens nog steeds niet.”

Lees de rest van het artikel op de website van NRC Handelsblad

Thursday, July 25, 2019

AI in de journalistiek? Alstublieft: hier uw invalshoek

Lang werd gedacht dat journalistiek niet te automatiseren is. Een invalshoek kiezen, een bericht samenstellen – dat is toch alleen aan mensen besteed? Nieuwe tools doen een poging journalisten werk uit handen te nemen.



Dit artikel is gepubliceerd in NRC Handelsblad van dinsdag 23 juli 2019

Vergeet het idee dat robots, of beter gezegd bots, zelfstandig doorwrochte onderzoeksjournalistieke verhalen gaan schrijven. Vergeet ook het spookbeeld dat de journalistiek geheel overgenomen wordt door artificiële intelligentie (AI).

Maar bedenk vooral wel dat AI ook de journalistiek gaat veranderen en talloze nieuwe mogelijkheden biedt: voor het verzamelen van nieuws, het graven in grote databergen, het genereren van nieuwe invalshoeken, het produceren van content, de verificatie van informatie, voor nieuwsdistributie en het ontmaskeren van fake-nieuws. De moderne journalist moet mee.

Dat was de kernboodschap van de zomerschool AI & Journalism die de European Science-Media Hub samen met het European Youth Press Network van 4 tot 7 juni in het Europees Parlement in Straatsburg organiseerde. Zo’n zeventig studenten en journalisten uit twintig EU-landen werden in vier dagen wegwijs gemaakt in hoe AI de journalistiek aan het veranderen is. Grote mediabedrijven als Thomson Reuters, Bloomberg, The New York Times, The Washington Post, Deutsche Welle en de BBC doen het al. De kleinere kunnen de komende jaren niet achterblijven.

Lees het hele artikel op de website van NRC Handelsblad.

Friday, July 12, 2019

Computer heeft strakste pokerface

Na het winnen van dammen, schaken en go weet de computer nu ook met poker zijn menselijke tegenstanders te verslaan.


Dit artikel is gepubliceerd in NRC Handelsblad van vrijdag 12 juli 2019

Aan de menselijke superioriteit in poker is een eind gekomen. Pokercomputer Pluribus heeft de beste menselijke spelers verslagen in de meest gespeelde pokervariant: Texas Hold’em voor zes spelers. Het is een nieuwe mijlpaal in de kunstmatige intelligentie. De ontwikkelaars van Pluribus, informaticahoogleraar Tuomas Sandholm en zijn promovendus Noam Brown van Carnegie Mellon University, publiceren hun bevindingen in Science van deze week. De publicatie valt samen met de World Series of Poker in Las Vegas.

„Serieus pokeren gaat net zo min over gokken als bergbeklimmen gaat over het nemen van risico’s”, schreef de Britse dichter en pokerspeler Al Alvarez. Het is de combinatie van toeval en tactiek die pokeren zo lastig maakt, niet alleen voor mensen, maar tot voor kort ook voor de slimste computers.

Poker onderscheidt zich van bordspelen zoals dammen, schaken en go, waarin de computer de mens al eerder de baas was. Het verschil zit in onvolledige informatie (de spelers zien de kaarten van hun tegenstanders niet), een toevalselement (de kaarten die elke speler krijgt), bluffen (doen alsof je betere kaarten hebt dan in werkelijkheid) en het aantal van zes spelers. Dat alles vergroot de spelcomplexiteit. Het maakt ook dat poker veel meer op het alledaagse menselijke leven lijkt – bijvoorbeeld bij zakelijke of politieke onderhandelingen – dan schaken of go.

Lees het hele artikel op de website van NRC Handelsblad

Monday, July 1, 2019

Algoritmen verdienen ’n eerlijke kans

Steeds vaker nemen computers beslissingen over mensen. Dat kan goed en fout gaan. Hoe combineer je de sterke punten van algoritmen met die van mensen?



Dit artikel is gepubliceerd in NRC Handelsblad van zaterdag 29 juni 2019

In oktober 2018 besloot het bedrijf Amazon te stoppen met het gebruik van een algoritme voor het inhuren van personeel. Het algoritme bleek vrouwen stelselmatig te benadelen ten opzichte van mannen. Dit is slechts een van de vele voorbeelden uit de afgelopen jaren waarin algoritmen bleken te discrimineren bij beslissingen over mensen.

Algoritmen, de ‘rekenrecepten’ die een computer gebruikt, nemen steeds vaker beslissingen over mensen. In de zorg, bij de overheid, in het onderwijs of bij banken en verzekeraars. En dat raakt aan de menselijke autonomie. Wat willen we aan machines overlaten, wat aan de mens?

De verontwaardiging over de discriminatie door het Amazon-algoritme was vorig jaar groot. Begrijpelijk, maar ook kortzichtig, vindt Sendhil Mullainathan, hoogleraar informatica en gedragswetenschappen aan de universiteit van Chicago en een expert op het gebied van algoritmische beslissingen. „Een algoritme is niet alleen maar een stuk gereedschap”, zegt hij in een Skype-interview. „Het is ook een beetje als een geigerteller. Als je rondloopt met een geigerteller en hij begint ergens hard te tikken, dan moet je de teller niet de schuld geven. Hij vertelt je dat er straling is. Iets soortgelijks geldt voor een algoritme.”

De discriminatie door het Amazon-algoritme liet namelijk zien dat de Amazon-personeelsfunctionarissen jarenlang bevooroordeeld zijn geweest tegenover vrouwen. Want met hun oordelen was het algoritme getraind, zegt Mullainathan. „Telkens als een algoritme bevooroordeelde uitkomsten blijkt te geven, moeten we ons natuurlijk zorgen maken over het algoritme, maar nog meer over hoe mensen zulke beslissingen nemen.”

Lees het hele artikel op de website van NRC Handelsblad

Thursday, June 20, 2019

How Computation is Changing Journalism

This article was published by the Communications of the ACM.


Nicholas Diakopoulos grew up being exposed to journalism, as his father was a journalist. The younger Dikopoulos decided he wanted to study computer science, and completed a Ph.D. in the field at the Georgia Institute of Technology (Georgia Tech). Midway through his doctorate, he started to think about combining journalism and computation into a new field: computational journalism.

Today, Diakopoulos is an assistant professor in communication studies and computer science at Northwestern University; he also serves as director of the university's Computational Journalism Lab.

In his new book Automating the News: How Algorithms Are Rewriting the Media, Diakopoulos explores the new field of computational journalism, which he has been helping to establish since 2007. The book makes clear how algorithms are changing the journalistic production pipeline from information gathering to sense-making, story-telling, and finally news distribution. Artificial intelligence (AI) already is used to personalize article recommendations, summarize articles, mine data in documents, transcribe recorded interviews, automate content production, moderate comments, and to eliminate (but unfortunately, also to produce) fake news.

What should all journalists know about your book?

A lot of journalists who don't understand how artificial intelligence works might feel threatened: 'oh, AI bots are going to write all our stories. We will be out of work'. In my book, I show over and over again that the cognitive labor of journalists is very difficult to completely automate. There are, of course, bits and pieces that can and will be automated, but more important will be the hybridization of AI with journalists. Jobs in journalism will not disappear, but instead will change.

Read the full article on the website of the ACM.

Saturday, June 15, 2019

Podcast Robotisering: een kansrijke toekomst voor iedereen?

Robots zijn slimmer dan wij, sterker dan wij en voor je het weet stelen ze onze banen en nog veel erger: onze autonomie. Het is maar een greep uit de doemscenario’s die voorbij komen. Maar wat is waar? Is er nog zoiets als een arbeidsmarkt in de toekomst en wat is de rol van de overheid om dit alles in goede banen te leiden?



Op 13 juni vertelde ik in een podcast van de Mr. Hans van Mierlo Stichting over robotisering.

Beluister de opname hier.

AI could boost journalism with smart tools

Artificial intelligence could be used in the newsrooms and journalists should be trained and prepared for the impact on communication. Experts think that AI can both free journalists from doing the boring stuff and can give them clever new tools for doing things they could never do before. But in the wrong hands, the same technology can also be used to spread disinformation.


This article was published by the European Science Media Hub on June 4 2019

Read the full article here.

AI heeft aan één blik genoeg om Mona Lisa te laten praten

Een nieuw algoritme kan ‘deep fakes’ (nepvideo’s) maken op basis van één foto.



Dit artikel is gepubliceerd in NRC Handelsblad van zaterdag 25 mei

Hoe zou een pratende Mona Lisa eruit zien? Of je pratende overgrootmoeder waarvan je alleen maar een portretfoto hebt? Dankzij een nieuwe stukje kunstmatige intelligentie (AI) kunnen we dat voor het eerst op een realistische manier zien.

Russische onderzoekers van het Samsung AI Center en het Skolkovo Institute of Science and Technology in Moskou zijn er in geslaagd om, uitgaande van slechts een enkele portretfoto of een enkel geschilderd portret, een realistisch pratend hoofd te maken. Geluid zit er trouwens niet bij, we zien alleen het beeld van pratende hoofden met realistische mimiek. Zo creëerden ze onder andere video’s van een pratende Mona Lisa, Marilyn Monroe, Salvador Dali en Albert Einstein uitgaande van slechts één enkele afbeelding. De onderzoekers publiceerden hun resultaten op 20 mei als wetenschappelijke vooruitgave op de website ArXiv.org.

Lees het hele artikel op de website van NRC Handelsblad.


Thursday, May 9, 2019

De computer snapt niet waarom


Dit artikel is gepubliceerd in de VPRO Gids van 27 april 2019

Judea Pearl, een beroemde Israelisch-Amerikaanse informaticus van 82 jaar, wil best een telefonisch interview geven, maar dan wel om 1 uur ’s nachts. “’s Nachts werk ik, overdag slaap ik”, zegt hij met opgewekte stem aan de telefoon. Gelukkig woont hij in Los Angeles. Daar is het negen uur vroeger. Pearl schreef vorig jaar een boek dat veel stof deed opwaaien in de wetenschappelijke wereld van de kunstmatige intelligentie: The book of why, net in het Nederlands vertaald als Het boek waarom. Als er één les is die we uit zijn boek moeten onthouden, zegt hij, dan is het deze: “Je bent slimmer dan je data. Data snappen niets van oorzaak en gevolg, mensen wel.”

Pearl won in 2011 de hoogste onderscheiding in de informatica, de Turingprijs, voor het baanbrekende werk dat hij in de jaren tachtig deed op het terrein van het redeneren met onzekere informatie. Dankzij dit werk kunnen wetenschappers vragen beantwoorden als ‘Wat is de kans dat een patiënt die uit Afrika terugkeert met koorts en pijn malaria heeft?’

Hij is ook de vader van journalist en violist Daniel Pearl die in 2002, enkele maanden na 9/11, in Pakistan door moslimfundamentalisten werd ontvoerd en onthoofd. Nog in hetzelfde jaar richtte Judea Pearl samen met zijn vrouw de Daniel Pearl Foundation op, “ter promotie van wederzijds respect en begrip tussen diverse culturen via journalistiek, muziek en dialoog.”

Of de waarom-vraag in zijn boektitel nog enig verband heeft met de waarom-vraag bij de moord op zijn zoon? “Nee, dat verband is er niet”, antwoordt Pearl. “Aan die associatie heb ik niet eens gedacht.”

De reden dat Pearls boek zoveel stof deed opwaaien is dat hij het feest van de kunstmatige intelligentie leek te verpesten. Waar kunstmatige intelligentie in de afgelopen jaren succes op succes stapelde met innovaties als automatische gezichtsherkenning, spraakherkenning en de ontwikkeling van zelfrijdende auto’s, kwam Pearl met de boodschap dat al die lerende machines niets anders doen dan statistiek bedrijven. Niets intelligentie. Volgens hem zullen ze door alleen patronen in data te zoeken nooit in staat zijn om te redeneren over oorzaak en gevolg.

“Natuurlijk is het indrukwekkend wat lerende machines nu allemaal kunnen,” licht Pearl toe, “maar het is zorgwekkend dat machines die alleen van een heleboel data leren fundamentele beperkingen hebben die mensen niet hebben. Ze hebben ook modellen nodig van de wereld buiten die data, van de context.”

Wat zijn dan die fundamentele beperkingen? Pearl legt ze uit aan de hand van de belangrijkste illustratie in zijn boek: de ladder van causatie. De ladder illustreert wat een organisme dat beschikt over een causaal model kan berekenen dat een organisme zonder zo’n model niet kan. Stel je een ladder voor met drie treden. Op de onderste tree, ‘zien’ genaamd, staan een robot en een uil. Op de tweede trede, die ‘doen’ heet, staat een oermens met een stok. Op de derde en hoogste trede, ‘voorstellen’ geheten, staat een op Einstein lijkende wetenschapper die droomt over atomen, computers en ruimteschepen.

“Op de onderste trede zoeken we naar regelmatigheden in waarnemingen”, verklaart Pearl zijn ladder. “Kenmerkend voor deze trede is een vraag als ‘Wat gebeurt er als ik … zie?’ Dit is het niveau van een dier, maar ook van onze huidige computers en robots. Zo’n vraag kun je beantwoorden met alleen data. Je gaat associaties zoeken. Stel dat we data hebben van wie wel of niet rookt en wie wel of niet longkanker heeft, dan kan een computer een correlatie vinden tussen roken en longkanker. Maar hij heeft geen idee wat oorzaak en gevolg is.”

Wie op de tweede trede staat, kan de wereld niet alleen waarnemen, maar ook veranderen. Hierbij hoort een vraag als ‘Wat gebeurt er als ik … doe?’ Pearl: “We kunnen ons bijvoorbeeld afvragen wat er gebeurt als we sigaretten verbieden. Die vraag kan een machine die alleen maar is getraind met data over rokers en longkanker niet beantwoorden. De interventie om sigaretten te verbieden, breekt namelijk de regels van de omgeving waarin de machine is getraind.”

Wie tenslotte op de hoogste trede van de ladder van causatie staat, kan zich een wereld van denkbeeldige feiten voorstellen en zich bijvoorbeeld afvragen: ‘Wat zou er gebeurd zijn als ik de afgelopen twee jaar niet had gerookt?’ “Deze derde trede heeft te maken met een wereld van contrafeitelijkheden,” zegt Pearl, “een wereld die niet kan worden gezien omdat hij strijdig is met wat wordt gezien. Redeneren over contrafeitelijkheden is belangrijk omdat het ons de bouwstenen geeft voor zowel moreel gedrag als wetenschappelijk denken.”

Aan dat redeneren over oorzaak en gevolg, en de vraag hoe een machine kan opklimmen van de onderste naar de bovenste trede, heeft Pearl de afgelopen dertig jaar gewerkt. Hij heeft een wiskundige taal ontwikkeld waarin wetenschappers vragen over interventies en contrafeitelijkheden kunnen formuleren en beantwoorden, wat in de traditionele statistiek niet kan.

Pearl: “Dat correlatie geen causatie impliceert, klopt natuurlijk. Maar de traditionele statistiek heeft dit lang als een mantra gebruikt om het maar niet te hebben over wat oorzaak is en wat gevolg. Het redeneren in oorzaak en gevolg is echter een essentieel onderdeel van het gezond verstand van mensen. We kunnen niet zonder. Niet in het alledaagse leven en ook niet in het professionele leven. Denk aan beleidsmakers en rechters. Trouwens, kinderen van drie jaar begrijpen de hele ladder van causatie al.”

De rode draad in Pearls werk als informaticus is de vraag hoe machines mensachtige intelligentie kunnen krijgen. Hij is ervan overtuigd dat de causale revolutie die hij probeert te ontketenen de kunstmatige intelligentie naar een volgend niveau gaat tillen. “Machines kunnen alleen zinvol met ons communiceren over zaken als beleid en verklaringen, maar ook over verantwoordelijkheid of plicht, wanneer ze kunnen redeneren over oorzaak en gevolg. Ik geloof dat er geen betere manier is om onszelf te begrijpen dan door onszelf na te bootsen in een machine. Het probleem van de vrije wil gaat niet opgelost worden door de filosofie of de psychologie, maar door de kunstmatige intelligentie.”


Boekinformatie
Judea Pearl en Dana Mackenzie. Het boek waarom − De nieuwe wetenschap van oorzaak en gevolg. MAVEN Publishing. 480 pag. ISBN 978 94 9249 355 2.