Boeken

Tuesday, March 10, 2020

Gaan onze superintelligente computers bewustzijn ontwikkelen?

Bewustzijn is niet iets magisch, ook machines kunnen bewustzijn krijgen. Maar dan hebben we wel heel andere computers nodig dan we nu kennen. Neurowetenschapper Christof Koch ontwikkelde een wiskundige bewustzijnstheorie.



Dit artikel is gepubliceerd in NRC Handelsblad van zaterdag 7 maart 2020

Neurowetenschapper Christof Koch, expert op het terrein van het bewustzijn, dreef al twee uur in een prikkelvrije drijfcabine toen zijn bezorgde dochter op de wand bonkte: „Hé papa, is alles in orde?” Kochs tijdgevoel was volledig in de war geraakt. Zelf dacht hij dat hij maar vijf minuten in de drijfcabine had gelegen.

„Ik was geheel naakt in het water gaan liggen”, vertelt hij in een Skype-interview. „Zelfs mijn ring had ik afgedaan. Het water is zo zout dat je erin drijft als in de Dode Zee. Ik hoorde niets, ik zag niets. In het begin spookten dagelijkse beslommeringen nog door mijn hoofd en hoorde ik mijn hart kloppen. Na een tijdje verdwenen alle gedachten en hoorde ik ook mijn hart niet meer. Ik raakte in een toestand die eigenlijk niet in woorden is te omschrijven. Ik voelde mijn lichaam niet meer en ik verloor elk gevoel van ruimte en tijd. Alsof ik een stipje in een oneindige ruimte was. Ik was volledig bij bewustzijn, maar dat bewustzijn had geen enkele inhoud. De psycholoog William James heeft die ervaring een mystieke ervaring genoemd.”

Koch is de wetenschappelijke baas van het Allen Institute for Brain Science in Seattle (VS), een instituut dat de volledige bedrading van het menselijk brein in kaart probeert te brengen. Samen met de mede-ontdekker van dna, Francis Crick, stond Koch aan de wieg van het neurobiologische onderzoek naar bewustzijn. En samen met neurowetenschapper en psychiater Giulio Tononi ontwikkelde hij de Integrated Information Theory, een soort wiskundige bewustzijnstheorie.

Lees het hele artikel op de website van NRC Handelsblad.

Wednesday, February 19, 2020

Bluff your way into Artificial Intelligence

Een klein uur lang gaf ik in deze podcast van Jarno Duursma mijn visie op de stand van zaken in de kunstmatige intelligentie. Wat kan AI allemaal wel en niet? Welke toepassingen kunnen we in de komende tien jaar verwachten? Wat ligt nog ver buiten bereik? Er wordt veel onzin over AI beweerd, zowel utopisch als dystopisch.

In deze mooie Listen to the Future-podcast heb ik feit en fictie van elkaar gescheiden.




Ook te beluisteren via Spotify en Apple Podcast:

Spotify: https://open.spotify.com/episode/61e3M3EuGxxYyLPHtGmIvV?si=mxuj9WPhRl2UnVX4ADaJiQ…


Wil je een kort en krachtige samenvatting lezen van mijn visie op kunstmatige intelligentie, lees dan deze column van mijn hand:








Tuesday, February 4, 2020

De robotkraamkamer is gereed

Mensen en dieren reproduceren zichzelf volgens de principes van evolutie. Robots kunnen dat niet. Tenminste nog niet. Hoogleraar Guszti Eiben ontwikkelt robots die zich wel degelijk kunnen voortplanten. Superhandig voor het fokken van totaal nieuwe typen robots.



Dit artikel is gepubliceerd in de VPRO Gids van 1-7 februari 2020

Een robotarm beweegt over een tafel vol onderdelen op zoek naar het juiste puzzelstukje voor een gloednieuw robotlichaam. In deze robot-organenbank, want dat is het in feite, liggen kant-en-klare componenten zoals een computerchip, een cameraatje en kabeltjes. Elders liggen 3D-geprinte onderdelen: de bouwstenen voor de romp, de wielen, de armen, benen, poten of wat voor soort exotische ledematen dan ook van de robotbaby. De robotarm monteert de componenten een voor een tot een op twee wielen rijdend, doosvormig robotje.

Het is september 2019 wanneer in een robotlab in het Britse Bristol voor het eerst volautomatisch deze rijdende robotbaby ter wereld komt. Geen mensenhand is er aan te pas gekomen. De bedoeling is dat in deze robotkraamkamer in de komende jaren nog meer robotbaby’s het licht gaan zien.

Drie jaar eerder had hoogleraar kunstmatige intelligentie Guszti Eiben van de Vrije Universiteit Amsterdam voor het eerst een vader- en een moederrobot — de een met het uiterlijk van blauwe spin, de ander met het uiterlijk van een groene gekko — met elkaar laten paren. Via de computer hadden de twee geliefden virtuele genetische codes uitgewisseld. De kruising van de vader- en moedergenen werd naar een 3D-printer gestuurd die de bouwstenen van de robotbaby uitprintte. Vervolgens moest er wel nog een promovendus aan te pas komen om de uitgeprinte blokjes en overige robotonderdelen handmatig in elkaar te knutselen tot een robotbaby.

Deze robotbaby haalde het nationale en internationale nieuws. Het was een proof-of-concept dat evolutie in robots in principe mogelijk is zodra 3D-printers werkelijk alle onderdelen van een robot kunnen printen, wat nog lang niet het geval is.

De robotkraamkamer in Bristol heeft dus het werk van de promovendus helemaal overgenomen. Weer een belangrijke stap op weg naar autonome robotevolutie. Want dat is het ultieme doel: een automatisch systeem dat volgens de evolutionaire principes van variatie, selectie en erfelijkheid meerdere generaties van nieuwe robots creëert in de robotkraamkamer en deze vervolgens spelenderwijs klaarstoomt voor een of andere nuttige toepassing in de grote-mensenwereld.

Lees de rest van het artikel in de VPRO Gids of op de website van NPO Radio 1.

Hyperlinks
Website ARE-project: https://www.york.ac.uk/robot-lab/are/
Website Guszti Eiben: https://www.cs.vu.nl/~gusz/
Filmpje van de eerste robotbaby (2016): https://www.youtube.com/watch?v=BfcVSb-Q8ns

Tuesday, January 14, 2020

De toekomst van kunstmatige intelligentie

Vandaag mocht ik aanschuiven bij de nieuwe podcast ‘Listening to the future’ van trendwatcher Jarno Duursma.

We spraken 50 minuten over kunstmatige intelligentie in de nabije toekomst. Wat is er in de toekomst mogelijk? Wat niet? Wat gaan computers nooit kunnen en wat mensen juist wel? Wat is wenselijk? Wat is de impact van AI op de arbeidsmarkt? En vooral: hoe kunnen we als mensen het beste samenwerken met kunstmatige intelligentie?

Mijn belangrijkste visie over de toekomst van kunstmatige intelligentie heb ik in de column "Slim, slimmer, slimst - Wat iedereen zou moeten weten over kunstmatige intelligentie" uiteengezet.

Publicatie van de podcast: 19 februari 2020. Beluister de podcast hier.



Monday, December 23, 2019

2019 in drone-vlucht

Het begrijpen van menselijke intelligentie en het creëren van kunstmatige intelligentie (AI) is een van de grootste wetenschappelijke uitdagingen van onze tijd. Tegelijkertijd moeten we zorgvuldig omgaan met AI in ons dagelijks leven. AI is geen magische oplossing, maar kan wel krachtig gereedschap zijn.

Dit jaar heb ik weer een flink aantal zeer diverse AI-, Robotica- en IT-producties gemaakt: artikelen en radiobijdragen voor diverse media, lezingen, paneldiscussies en video’s. Hier is een beknopt visueel overzicht... 

Tot volgend jaar!


Saturday, December 14, 2019

Internationaal AI-beleid − Domme data, slimme computers en wijze mensen

Eerder dit jaar schreef ik voor de WRR het working paper 




SAMENVATTING:

Sinds de jaren vijftig van de 20e eeuw was kunstmatige intelligentie (artificial intelligence, kortweg AI) voornamelijk een academische aangelegenheid binnen de informatica. Pas in de afgelopen jaren, sinds de doorbraak van machine learning in 2012, heeft AI grootschalige technologische toepassingen opgeleverd voor consumenten, bedrijven en overheden: bijvoorbeeld gezichtsherkenning, spraakherkenning, automatisch vertalen, zelfrijdende auto’s en lerende robots. AI-toepassingen worden nu razendsnel uitgerold. Omdat kunstmatige intelligentie het in zich heeft alle sectoren van onze maatschappij te beïnvloeden en grote sociaal-economische gevolgen kan hebben, voelen veel nationale overheden de noodzaak om hier beleid op te ontwikkelen.

Anno 2019 hebben minstens 25 landen hun visie op AI-ontwikkeling uitgewerkt in een rapport. Deze rapporten gaan onder andere over investeringen in fundamenteel en toegepast onderzoek, onderwijs en educatie, veranderingen van de arbeidsmarkt, digitale infrastructuur, en ethische aspecten van kunstmatige intelligentie. Uitgangspunt is telkens dat AI de samenleving zoveel mogelijk moet opleveren, terwijl de risico’s en kosten van de technologie moeten worden gemini- maliseerd.

In dit Working Paper vatten we de visies samen van vijftien landen, plus die van de Europese Unie (EU) en de Verenigde Naties (VN), en proberen we daarin de rode draad te ontdekken. Het ontwikkelde nationale AI-beleid varieert sterk omdat elk land verschillende prioriteiten stelt. Zo wil de Verenigde Staten (VS) de AI-ontwikkeling vooral overlaten aan het bedrijfsleven, maar wel gevoed door een sterke academische sector. En in China houdt de overheid de touwtjes van de EU-ontwik- keling strak in handen, maar veelal wel in samenwerking met Chinese techreuzen die inzetten op AI-ontwikkeling.

De EU en de afzonderlijke EU-landen bepleiten een middenweg tussen de VS en China, die een balans moet vinden tussen de belangen van het individu, de maatschappij en het bedrijfsleven. Om tegenwicht te bieden aan de VS en China ontwik- kelen EU-landen binnenlands AI-beleid dat is ingebed in een bredere Europese samenwerking.

Hoewel het ontwikkelde AI-beleid dus verschilt tussen landen, kent het ook
twee aspecten die bij alle landen sterk overeenkomen: (1) de ontwikkeling van AI-expertise (onderwijs, educatie, beroepsopleiding), dit tegen de achtergrond van een internationale concurrentie waar er meer vraag is naar dan aanbod aan expertise; en (2) de ontwikkeling van databeleid, omdat data de brandstof zijn van lerende machines.

In het AI-beleid van de in dit verslag besproken landen krijgen twee aspecten relatief weinig aandacht: (1) wetgeving en toezicht (terwijl er wel veel aandacht is voor ethische vragen rondom de toepassing van AI); en (2) mens-machinesamenwerking en de gevolgen hiervan voor de manier waarop mensen, organisaties en bedrijven functioneren.

Omdat individuele landen niet op kunnen tegen de schaalgrootte van de VS en China (wat grote voordelen biedt bij het verzamelen van data), richten veel landen aparte onderzoeksinstituten op. Hierin combineren ze hun bestaande sterke onderzoekspunten.

Download het hele working paper hier.

Wednesday, December 11, 2019

Meerwaarde van mens met machine

Hoe ontwikkel je kunstmatige intelligentie die goed met mensen kan samenwerken? Dat is het doel van het NWO Zwaartekrachtprogramma Hybrid Intelligence: Augmenting Human Intellect.


Dit artikel is gepubliceerd in I/O Magazine van december 2019. Download het magazine hier.

Computers zijn veel beter dan mensen in schaken en go, maar mensen hebben veel meer gezond verstand dan computers. Robots kunnen perfect de hele dag grote auto-onderdelen in elkaar zetten, maar ondanks de jaren zestig-fantasieën over Rosie-de-Robot zijn mensen nog steeds veel handiger dan robots in het doen van het huishouden. Voor veel toepassingen in de echte wereld is de combinatie van mens en machine krachtiger dan een van beide afzonderlijk. Dat is de achterliggende filosofie van het onderzoeksprogramma Hybrid Intelligence dat dit jaar een NWO Zwaartekrachtsubsidie kreeg van twintig miljoen euro voor tien jaar. Bij het programma zijn in totaal zo’n dertig onderzoekers van zes Nederlandse universiteiten betrokken.

Mede-bedenker en programmaleider is Frank van Harmelen, hoogleraar kunstmatige intelligentie aan de VU. “Veel van de kunstmatige intelligentie van dit moment is gericht op machines die autonoom functioneren en mensen vervangen. Ons doel is juist om kunstmatige intelligentie technisch geschikt te maken om met mensen samen te werken. Om dat doel te halen werkt een groot deel van de onderzoekers binnen kunstmatige intelligentie in Nederland met elkaar samen. Dat vind ik heel bijzonder aan ons programma.”

Om hun doelen concreet te maken schetsen de onderzoekers drie toekomstscenario’s voor de zorg, het onderwijs en de wetenschap. Van Harmelen: “In de zorg is ons doel om robots samen met verpleegkundigen te laten zorgen voor kinderen met kanker. In het onderwijs willen we kijken hoe robots en menselijke docenten samen beter onderwijs kunnen geven. En in de wetenschap hebben we echt een moonshot geformuleerd: het publiceren van een wetenschappelijk artikel waarvan de computer co-auteur is. Dat is het moeilijkst te halen doel.”

Mens-machine-samenwerking stelt nieuwe uitdagingen

Om deze doelen te halen werken de onderzoekers in vier onderzoekslijnen, samengevat in de afkorting CARE: Collaborative, Adaptive, Responsible en Explainable. In de onderzoekslijn collaborative draait het om de samenwerking tussen mens en machine. Van Harmelen: “In de kunstmatige intelligentie van dit moment onderzoekt men vooral de samenwerking tussen machines onderling: multi-agent-systemen heet dat vakgebied. De samenwerking tussen mens en machine stelt ons echter voor heel nieuwe uitdagingen. Zo zouden machines dan ook moeten weten wat mensen wel en niet weten. Machines moeten een theory of mind hebben, zoals dat heet. Dat hebben ze nu nauwelijks.”

Daarnaast draait in de huidige kunstmatige intelligentie veel om het machinaal leren van grote hoeveelheden data. Maar de wereld verandert voortdurend en na iedere verandering heeft een getrainde machine vaak geen antwoord meer op de nieuwe uitdagingen. “Voor het omgaan met zo’n dynamische wereld moeten machines dus ook adaptief zijn”, zegt van Harmelen. Dat is de tweede onderzoekslijn. “Kunstmatige intelligentie heeft daarvoor niet alleen data nodig, maar ook kennis van de wereld. Beide aanpakken willen we combineren.”

De derde onderzoekslijn, responsible, draait om het bijbrengen van normen en waarden aan machines. Van Harmelen: “We willen wel dat onze machines zich gedragen naar de normen en waarden die wij als mensen belangrijk vinden. Een machine moet bijvoorbeeld leren dat hij niet mag liegen. En een robot die voor de klas staat zou ook moeten weten hoe hij zich tegenover zijn leerlingen moet gedragen. Net als mensen moeten machines leren socialiseren.”

De vierde en laatste onderzoekslijn, explainable, heeft als doel om machines ook te laten uitleggen waarom ze een bepaalde beslissing willen nemen of hebben genomen. Veel lerende systemen van tegenwoordig werken als een zwarte doos. Maar om met mensen samen te werken zullen machines ook moeten kunnen uitleggen wat ze willen en waarom.

Volgens van Harmelen loopt Nederland voorop in het onderzoek naar hybride intelligentie: “Je ziet op sommige plekken in de wereld soortgelijke initiatieven ontstaan, bijvoorbeeld aan Stanford in de VS, maar wij waren er vroeg bij. Ook ligt ons onderzoeksplan sterk in lijn met de filosofie die de EU heeft over kunstmatige intelligentie.”



Sociale interactie

Binnen Hybrid Intelligence wordt hoogleraar logica en cognitie Rineke Verbrugge van de Rijksuniversiteit Groningen verantwoordelijk voor het onderzoek naar hoe machines een theory of mind kunnen krijgen. Verbrugge: “Ik definieer theory of mind als je kunnen indenken wat een ander denkt, gelooft, weet en bedoelt. In de sociale interactie gebruiken mensen dat voortdurend. Ik weet dat jij weet dat Amsterdam de hoofdstad is van Nederland. Maar ik weet ook dat jij weet dat ik weet dat Amsterdam de hoofdstad is van Nederland.”

Mensen ontwikkelen die vaardigheid geleidelijk. Ergens tussen het derde en vierde levensjaar leren kinderen te begrijpen wat iemand anders wel of niet weet. Rond hun zesde of zevende leren kinderen te redeneren over wat ze denken dat anderen over hen denken. En zo rond de tienjarige leeftijd begrijpen kinderen wat het betekent als iemand anders iets expliciet belooft.

Het onderzoek van Verbrugge gaat een belangrijke rol spelen in de onderzoekslijn collaborative. Verbrugge: “Bij samenwerken hoort een collectieve intentie. Je wilt samen een doel bereiken. Dan heb ik bijvoorbeeld de intentie dat jij meewerkt, maar ik wil ook dat jij weet dat ik wil meewerken. Als computers in het team zitten dan zullen ze ook moeten begrijpen hoe de menselijke theory of mind werkt. Wat weet een ander teamlid en wat niet? Wat zijn de wensen van andere teamleden? Momenteel kunnen computers dat alleen in geïdealiseerde spelomgevingen met duidelijke spelregels en duidelijke ja- of nee-beslissingen. Maar in de echte wereld schieten computers nog tekort. Neem het conflict tussen Israël en Palestina. Daar spelen emoties een grote rol, net als de gecompliceerde geschiedenis. Huidige computers kunnen daar niet mee omgaan. Hetzelfde geldt voor het begrijpen van lichaamstaal. Mensen kijken naar een ander om er achter te komen wat iemand denkt. Computers zijn daar slecht in.”

Computer als co-auteur

Stel dat een computer over tien jaar inderdaad co-auteur van een wetenschappelijk artikel wordt, wat moet de machine dan beheersen aan theory of mind? Verbrugge: “Dan moet de computer vragen kunnen beantwoorden over het artikel. Hij moet ook kritiek kunnen pareren. Of kunnen zeggen: sorry dat heb ik verkeerd geïnterpreteerd, een andere interpretatie ligt toch meer voor de hand. De computer mag alleen maar als co-auteur bij het artikel als hij volledig dezelfde verantwoordelijkheden heeft als de menselijke co-auteurs.”

Daarnaast zou de computer ook in staat moeten zijn tot meta-redeneren: hij moet inzicht hebben in waarin hij zelf wel en niet goed is en waarin zijn teamleden wel of niet goed zijn. Verbrugge: “Het zou mooi zijn als de computer zelf bedenkt dat die en die wetenschappers elkaar nog niet kennen maar gezien hun expertises wel eens heel goed zouden kunnen samenwerken aan het artikel.”

Alle hoofdonderzoekers binnen Hybrid Intelligence gaan twee eigen promovendi begeleiden en begeleiden mee bij twee promovendi van collega-onderzoekers. Dat is met opzet gedaan om zoveel mogelijk kruisbestuiving te krijgen tussen de verschillende disciplines in de kunstmatige intelligentie.

Naast haar inhoudelijk-wetenschappelijke taak wordt Verbrugge ook voor een dag per week verantwoordelijk voor de educatie en training binnen het programma. “We willen de volgende generatie voldoende bagage meegeven, zowel de studenten en promovendi, als de postdocs en universitair docenten. En die bagage omvat meer dan alleen wetenschap. Promovendi die later het bedrijfsleven willen ingaan willen we de juiste training geven, maar ook promovendi die hoogleraar willen worden. En omdat kunstmatige intelligentie een steeds grotere impact op de samenleving gaat krijgen willen we onze jonge onderzoekers ook voorbereiden op het communiceren van hun wetenschap naar een algemeen publiek. En natuurlijk moeten ze leren nadenken over de ethische en sociaal-maatschappelijke gevolgen van hun werk.”


Programma in vogelvlucht:
Budget: € 20 miljoen

Looptijd: 10 jaar

Betrokken universiteiten: VU (penvoerder), UvA, TU Delft, Universiteit Leiden, Universiteit Utrecht, Rijksuniversiteit Groningen

Onderzoekslijnen: Vier aspecten van kunstmatige intelligentie, samengevat in de afkorting CARE: Collaborative, Adaptive, Responsible en Explainable.

Praktijkdoelen: In de zorg: robots die samen met verpleegkundigen samenwerken in ziekenhuizen voor kinderen met kanker. In het onderwijs: teams van robots en docenten om samen beter les te geven. In de wetenschap: een gepubliceerd wetenschappelijk artikel waarvan een computer co-auteur is.

Hyperlinks
https://www.hybrid-intelligence-centre.nl
https://www.cs.vu.nl/~frankh/
https://rinekeverbrugge.nl