Monday, December 23, 2019

2019 in drone-vlucht

Het begrijpen van menselijke intelligentie en het creëren van kunstmatige intelligentie (AI) is een van de grootste wetenschappelijke uitdagingen van onze tijd. Tegelijkertijd moeten we zorgvuldig omgaan met AI in ons dagelijks leven. AI is geen magische oplossing, maar kan wel krachtig gereedschap zijn.

Dit jaar heb ik weer een flink aantal zeer diverse AI-, Robotica- en IT-producties gemaakt: artikelen en radiobijdragen voor diverse media, lezingen, paneldiscussies en video’s. Hier is een beknopt visueel overzicht... 

Tot volgend jaar!


Saturday, December 14, 2019

Internationaal AI-beleid − Domme data, slimme computers en wijze mensen

Eerder dit jaar schreef ik voor de WRR het working paper 




SAMENVATTING:

Sinds de jaren vijftig van de 20e eeuw was kunstmatige intelligentie (artificial intelligence, kortweg AI) voornamelijk een academische aangelegenheid binnen de informatica. Pas in de afgelopen jaren, sinds de doorbraak van machine learning in 2012, heeft AI grootschalige technologische toepassingen opgeleverd voor consumenten, bedrijven en overheden: bijvoorbeeld gezichtsherkenning, spraakherkenning, automatisch vertalen, zelfrijdende auto’s en lerende robots. AI-toepassingen worden nu razendsnel uitgerold. Omdat kunstmatige intelligentie het in zich heeft alle sectoren van onze maatschappij te beïnvloeden en grote sociaal-economische gevolgen kan hebben, voelen veel nationale overheden de noodzaak om hier beleid op te ontwikkelen.

Anno 2019 hebben minstens 25 landen hun visie op AI-ontwikkeling uitgewerkt in een rapport. Deze rapporten gaan onder andere over investeringen in fundamenteel en toegepast onderzoek, onderwijs en educatie, veranderingen van de arbeidsmarkt, digitale infrastructuur, en ethische aspecten van kunstmatige intelligentie. Uitgangspunt is telkens dat AI de samenleving zoveel mogelijk moet opleveren, terwijl de risico’s en kosten van de technologie moeten worden gemini- maliseerd.

In dit Working Paper vatten we de visies samen van vijftien landen, plus die van de Europese Unie (EU) en de Verenigde Naties (VN), en proberen we daarin de rode draad te ontdekken. Het ontwikkelde nationale AI-beleid varieert sterk omdat elk land verschillende prioriteiten stelt. Zo wil de Verenigde Staten (VS) de AI-ontwikkeling vooral overlaten aan het bedrijfsleven, maar wel gevoed door een sterke academische sector. En in China houdt de overheid de touwtjes van de EU-ontwik- keling strak in handen, maar veelal wel in samenwerking met Chinese techreuzen die inzetten op AI-ontwikkeling.

De EU en de afzonderlijke EU-landen bepleiten een middenweg tussen de VS en China, die een balans moet vinden tussen de belangen van het individu, de maatschappij en het bedrijfsleven. Om tegenwicht te bieden aan de VS en China ontwik- kelen EU-landen binnenlands AI-beleid dat is ingebed in een bredere Europese samenwerking.

Hoewel het ontwikkelde AI-beleid dus verschilt tussen landen, kent het ook
twee aspecten die bij alle landen sterk overeenkomen: (1) de ontwikkeling van AI-expertise (onderwijs, educatie, beroepsopleiding), dit tegen de achtergrond van een internationale concurrentie waar er meer vraag is naar dan aanbod aan expertise; en (2) de ontwikkeling van databeleid, omdat data de brandstof zijn van lerende machines.

In het AI-beleid van de in dit verslag besproken landen krijgen twee aspecten relatief weinig aandacht: (1) wetgeving en toezicht (terwijl er wel veel aandacht is voor ethische vragen rondom de toepassing van AI); en (2) mens-machinesamenwerking en de gevolgen hiervan voor de manier waarop mensen, organisaties en bedrijven functioneren.

Omdat individuele landen niet op kunnen tegen de schaalgrootte van de VS en China (wat grote voordelen biedt bij het verzamelen van data), richten veel landen aparte onderzoeksinstituten op. Hierin combineren ze hun bestaande sterke onderzoekspunten.

Download het hele working paper hier.

Wednesday, December 11, 2019

Meerwaarde van mens met machine

Hoe ontwikkel je kunstmatige intelligentie die goed met mensen kan samenwerken? Dat is het doel van het NWO Zwaartekrachtprogramma Hybrid Intelligence: Augmenting Human Intellect.


Dit artikel is gepubliceerd in I/O Magazine van december 2019. Download het magazine hier.

Computers zijn veel beter dan mensen in schaken en go, maar mensen hebben veel meer gezond verstand dan computers. Robots kunnen perfect de hele dag grote auto-onderdelen in elkaar zetten, maar ondanks de jaren zestig-fantasieën over Rosie-de-Robot zijn mensen nog steeds veel handiger dan robots in het doen van het huishouden. Voor veel toepassingen in de echte wereld is de combinatie van mens en machine krachtiger dan een van beide afzonderlijk. Dat is de achterliggende filosofie van het onderzoeksprogramma Hybrid Intelligence dat dit jaar een NWO Zwaartekrachtsubsidie kreeg van twintig miljoen euro voor tien jaar. Bij het programma zijn in totaal zo’n dertig onderzoekers van zes Nederlandse universiteiten betrokken.

Mede-bedenker en programmaleider is Frank van Harmelen, hoogleraar kunstmatige intelligentie aan de VU. “Veel van de kunstmatige intelligentie van dit moment is gericht op machines die autonoom functioneren en mensen vervangen. Ons doel is juist om kunstmatige intelligentie technisch geschikt te maken om met mensen samen te werken. Om dat doel te halen werkt een groot deel van de onderzoekers binnen kunstmatige intelligentie in Nederland met elkaar samen. Dat vind ik heel bijzonder aan ons programma.”

Om hun doelen concreet te maken schetsen de onderzoekers drie toekomstscenario’s voor de zorg, het onderwijs en de wetenschap. Van Harmelen: “In de zorg is ons doel om robots samen met verpleegkundigen te laten zorgen voor kinderen met kanker. In het onderwijs willen we kijken hoe robots en menselijke docenten samen beter onderwijs kunnen geven. En in de wetenschap hebben we echt een moonshot geformuleerd: het publiceren van een wetenschappelijk artikel waarvan de computer co-auteur is. Dat is het moeilijkst te halen doel.”

Mens-machine-samenwerking stelt nieuwe uitdagingen

Om deze doelen te halen werken de onderzoekers in vier onderzoekslijnen, samengevat in de afkorting CARE: Collaborative, Adaptive, Responsible en Explainable. In de onderzoekslijn collaborative draait het om de samenwerking tussen mens en machine. Van Harmelen: “In de kunstmatige intelligentie van dit moment onderzoekt men vooral de samenwerking tussen machines onderling: multi-agent-systemen heet dat vakgebied. De samenwerking tussen mens en machine stelt ons echter voor heel nieuwe uitdagingen. Zo zouden machines dan ook moeten weten wat mensen wel en niet weten. Machines moeten een theory of mind hebben, zoals dat heet. Dat hebben ze nu nauwelijks.”

Daarnaast draait in de huidige kunstmatige intelligentie veel om het machinaal leren van grote hoeveelheden data. Maar de wereld verandert voortdurend en na iedere verandering heeft een getrainde machine vaak geen antwoord meer op de nieuwe uitdagingen. “Voor het omgaan met zo’n dynamische wereld moeten machines dus ook adaptief zijn”, zegt van Harmelen. Dat is de tweede onderzoekslijn. “Kunstmatige intelligentie heeft daarvoor niet alleen data nodig, maar ook kennis van de wereld. Beide aanpakken willen we combineren.”

De derde onderzoekslijn, responsible, draait om het bijbrengen van normen en waarden aan machines. Van Harmelen: “We willen wel dat onze machines zich gedragen naar de normen en waarden die wij als mensen belangrijk vinden. Een machine moet bijvoorbeeld leren dat hij niet mag liegen. En een robot die voor de klas staat zou ook moeten weten hoe hij zich tegenover zijn leerlingen moet gedragen. Net als mensen moeten machines leren socialiseren.”

De vierde en laatste onderzoekslijn, explainable, heeft als doel om machines ook te laten uitleggen waarom ze een bepaalde beslissing willen nemen of hebben genomen. Veel lerende systemen van tegenwoordig werken als een zwarte doos. Maar om met mensen samen te werken zullen machines ook moeten kunnen uitleggen wat ze willen en waarom.

Volgens van Harmelen loopt Nederland voorop in het onderzoek naar hybride intelligentie: “Je ziet op sommige plekken in de wereld soortgelijke initiatieven ontstaan, bijvoorbeeld aan Stanford in de VS, maar wij waren er vroeg bij. Ook ligt ons onderzoeksplan sterk in lijn met de filosofie die de EU heeft over kunstmatige intelligentie.”



Sociale interactie

Binnen Hybrid Intelligence wordt hoogleraar logica en cognitie Rineke Verbrugge van de Rijksuniversiteit Groningen verantwoordelijk voor het onderzoek naar hoe machines een theory of mind kunnen krijgen. Verbrugge: “Ik definieer theory of mind als je kunnen indenken wat een ander denkt, gelooft, weet en bedoelt. In de sociale interactie gebruiken mensen dat voortdurend. Ik weet dat jij weet dat Amsterdam de hoofdstad is van Nederland. Maar ik weet ook dat jij weet dat ik weet dat Amsterdam de hoofdstad is van Nederland.”

Mensen ontwikkelen die vaardigheid geleidelijk. Ergens tussen het derde en vierde levensjaar leren kinderen te begrijpen wat iemand anders wel of niet weet. Rond hun zesde of zevende leren kinderen te redeneren over wat ze denken dat anderen over hen denken. En zo rond de tienjarige leeftijd begrijpen kinderen wat het betekent als iemand anders iets expliciet belooft.

Het onderzoek van Verbrugge gaat een belangrijke rol spelen in de onderzoekslijn collaborative. Verbrugge: “Bij samenwerken hoort een collectieve intentie. Je wilt samen een doel bereiken. Dan heb ik bijvoorbeeld de intentie dat jij meewerkt, maar ik wil ook dat jij weet dat ik wil meewerken. Als computers in het team zitten dan zullen ze ook moeten begrijpen hoe de menselijke theory of mind werkt. Wat weet een ander teamlid en wat niet? Wat zijn de wensen van andere teamleden? Momenteel kunnen computers dat alleen in geïdealiseerde spelomgevingen met duidelijke spelregels en duidelijke ja- of nee-beslissingen. Maar in de echte wereld schieten computers nog tekort. Neem het conflict tussen Israël en Palestina. Daar spelen emoties een grote rol, net als de gecompliceerde geschiedenis. Huidige computers kunnen daar niet mee omgaan. Hetzelfde geldt voor het begrijpen van lichaamstaal. Mensen kijken naar een ander om er achter te komen wat iemand denkt. Computers zijn daar slecht in.”

Computer als co-auteur

Stel dat een computer over tien jaar inderdaad co-auteur van een wetenschappelijk artikel wordt, wat moet de machine dan beheersen aan theory of mind? Verbrugge: “Dan moet de computer vragen kunnen beantwoorden over het artikel. Hij moet ook kritiek kunnen pareren. Of kunnen zeggen: sorry dat heb ik verkeerd geïnterpreteerd, een andere interpretatie ligt toch meer voor de hand. De computer mag alleen maar als co-auteur bij het artikel als hij volledig dezelfde verantwoordelijkheden heeft als de menselijke co-auteurs.”

Daarnaast zou de computer ook in staat moeten zijn tot meta-redeneren: hij moet inzicht hebben in waarin hij zelf wel en niet goed is en waarin zijn teamleden wel of niet goed zijn. Verbrugge: “Het zou mooi zijn als de computer zelf bedenkt dat die en die wetenschappers elkaar nog niet kennen maar gezien hun expertises wel eens heel goed zouden kunnen samenwerken aan het artikel.”

Alle hoofdonderzoekers binnen Hybrid Intelligence gaan twee eigen promovendi begeleiden en begeleiden mee bij twee promovendi van collega-onderzoekers. Dat is met opzet gedaan om zoveel mogelijk kruisbestuiving te krijgen tussen de verschillende disciplines in de kunstmatige intelligentie.

Naast haar inhoudelijk-wetenschappelijke taak wordt Verbrugge ook voor een dag per week verantwoordelijk voor de educatie en training binnen het programma. “We willen de volgende generatie voldoende bagage meegeven, zowel de studenten en promovendi, als de postdocs en universitair docenten. En die bagage omvat meer dan alleen wetenschap. Promovendi die later het bedrijfsleven willen ingaan willen we de juiste training geven, maar ook promovendi die hoogleraar willen worden. En omdat kunstmatige intelligentie een steeds grotere impact op de samenleving gaat krijgen willen we onze jonge onderzoekers ook voorbereiden op het communiceren van hun wetenschap naar een algemeen publiek. En natuurlijk moeten ze leren nadenken over de ethische en sociaal-maatschappelijke gevolgen van hun werk.”


Programma in vogelvlucht:
Budget: € 20 miljoen

Looptijd: 10 jaar

Betrokken universiteiten: VU (penvoerder), UvA, TU Delft, Universiteit Leiden, Universiteit Utrecht, Rijksuniversiteit Groningen

Onderzoekslijnen: Vier aspecten van kunstmatige intelligentie, samengevat in de afkorting CARE: Collaborative, Adaptive, Responsible en Explainable.

Praktijkdoelen: In de zorg: robots die samen met verpleegkundigen samenwerken in ziekenhuizen voor kinderen met kanker. In het onderwijs: teams van robots en docenten om samen beter les te geven. In de wetenschap: een gepubliceerd wetenschappelijk artikel waarvan een computer co-auteur is.

Hyperlinks
https://www.hybrid-intelligence-centre.nl
https://www.cs.vu.nl/~frankh/
https://rinekeverbrugge.nl

Wednesday, December 4, 2019

De toekomst van het internet

Tijdens het 22e Jaarcongres ECP op 14 november in Den Haag discussieerden Marleen Stikker, Valerie Frissen, Kees Neggers en Michiel Steltman over de toekomst van het internet. Hoewel ze alle vier serieuze problemen signaleren met het huidige internet, zijn ze optimistisch over de toekomst. Maar dan moeten we het internet wel als een publieke infrastructuur gaan zien die de waarden waarborgt die we met ons allen in de samenleving belangrijk vinden.


Dit artikel is gepubliceerd op de website van SIDN

Het internet heeft de wereld economisch en maatschappelijk veel gebracht. Het is echter wel een product van een andere tijd. Toen het internet vanaf 1969 – dit jaar 50 jaar geleden − geleidelijk aan werd ontwikkeld, is er geen rekening gehouden met het huidige gebruik. Aan zaken als veiligheid en privacy is toen niet of nauwelijks gedacht. Real-time toepassingen als video of Skype waren nog lang niet in zicht. En over de vercommercialisering van het internet via Big Tech-bedrijven als Facebook en Google maakte niemand zich nog zorgen.

Onder leiding van wetenschapsjournalist Bennie Mols discussieerden Kees Neggers (internetpionier en oud-directeur SURFnet), Marleen Stikker (directeur en mede-oprichter Waag), Michiel Steltman (directeur Stichting Digitale Infrastructuur Nederland) en Valerie Frissen (hoogleraar Digitale Technologie en Sociale Verandering en directeur SIDN fonds) over de toekomst van het internet.

Vinger aan de pols van het internet anno 2019

De vraag naar de toekomst van het internet begint bij de vraag hoe de diagnose luidt van het internet anno 2019, vijftig jaar na het begin van het ARPANET. Internetpionier Kees Neggers loopt van alle vier de panelleden verreweg het langst mee in de ontwikkeling van het internet, al sinds begin jaren 70. Zijn korte en krachtige diagnose luidt: “Het internet is een schitterend ongeluk.” Neggers vertelt dat het internet een onmisbare infrastructuur is geworden, maar dat we zijn vergeten om het op tijd aan te passen op het veranderende en massaler wordende gebruik. Hij doelt dan vooral op de technische infrastructuur waarop al onze internettoepassingen draaien.

Valerie Frissen breidt de diagnose van Neggers nog verder uit: “Niet alleen technisch, maar ook maatschappelijk is het internet een schitterend ongeluk.” Maatschappelijk gezien hebben we het internet verwaarloosd, vindt zij. “En dat gaat verder dan liefdevolle verwaarlozing. Ik noem dat zelfs liefdeloze verwaarlozing.”

Marleen Stikkers diagnose heeft dezelfde strekking als die van Frissen en is ook de titel van een boek dat zij eind november publiceert: ‘Het internet is stuk − Maar we kunnen het repareren’. Wat stuk is volgens Stikker, is het publieke vertrouwen in het internet. Veel partijen die zich in de afgelopen decennia bemoeiden met de internetontwikkeling, hanteerden niet altijd publieke waarden, waarden die voor mensen als burgers belangrijk zijn en niet alleen voor mensen als consumenten. Als consument mag het weliswaar fijn zijn dat Facebook gratis is, als democratisch burger is het ongewenst dat Facebook met gratis data van burgers zoveel macht heeft verworven. “Technologie is mensenwerk”, zegt Stikker, “en dat impliceert ook dat er waarden in zitten. Daar moeten we veel meer aandacht aan geven.”

Michiel Steltman is de enige die vooral de positieve kant van het huidige internet benadrukt: “Het gaat wonderbaarlijk goed met het internet. Ondanks allerlei beperkingen en het gebrek aan vertrouwen, vinden er bijvoorbeeld dagelijks miljarden transacties plaats.” Toch beaamt ook hij dat het internet is gaan wringen: aan de ene kant door de macht van de Big Tech-bedrijven en aan de andere kant door de beperking van internetvrijheden door autoritaire regimes.

De toekomst van het Internet
Gegeven de diagnose van het huidige internet, is de vraag met welke remedies we het internet van de toekomst moeten gaan vormgeven. Op technisch niveau is het volgens Neggers noodzakelijk om het internet geleidelijk te vernieuwen. Dat zou moeten beginnen bij vitale infrastructuren zoals banken en energiebedrijven. Neggers: “We zijn het verplicht om daar alternatieven voor te maken. Technisch en maatschappelijk kan het. En waar een wil is, is een weg. Begin met iets beters voor de vitale infrastructuur en laat dan als het ware onder het huidige internet geleidelijk een nieuw internet ontstaan.”

Frissen benadrukt dat een remedie op technisch niveau niet los staat van remedies op maatschappelijk of politiek niveau. “In de SIDN-video over 50 jaar internet (https://www.sidn.nl/50jaarinternet) zei internetpionier Erik Huizer dat er in het eerste ontwerp van het internet ook al bepaalde waarden zaten: het moest open, vrij en voor iedereen toegankelijk zijn. We moeten ons afvragen of die waarden wel goed zijn geïmplementeerd en wat de maatschappelijke gevolgen zijn.”

Ook Stikker vindt dat we opnieuw de balans moeten zoeken tussen aan de ene kant een open internet waarin iedereen kan meedoen en aan de andere kant een veilig internet. “De overheid heeft het internet nooit sterk gereguleerd, hooguit op het terrein van het intellectueel eigendom.”

Steltman is echter bang dat te veel regulering een remmend effect gaat hebben op de innovatie. Hij pleit voor een gepaste regulering. “Een regulering op de multistakeholder-manier, waarbij nadrukkelijk ook bedrijven zijn betrokken.” Nederland loopt op dit terrein voorop, vindt Steltman. “Er ligt nu een memo over soevereiniteit op het internet dat zich kan meten met het historische Mare Librum, het internationale recht dat vrije handel op zee mogelijk maakte. Nederland kan voorop lopen met zo’n multistakeholder-aanpak. Ik noem dat polderen op steroïden.”

“Polderen is mooi”, reageert Neggers, “maar we zien nu al dat we achterlopen door al dat polderen. Je moet soms ook iets op tijd doen. Staten voelen zich onveilig en gaan zich beschermen. Ik zie niet in hoe we een wereldwijde samenleving kunnen creëren als sommige staten zich beginnen af te sluiten.”

Als er iets is wat we in de afgelopen 50 jaar hebben geleerd, zegt Frissen, is het dat het evident is dat het internet meer gereguleerd moet worden. “We hebben toezicht nodig op algoritmes, marktregulering en datasoevereiniteit. Dat we de beginwaarden van een vrij en open internet overeind willen houden, betekent niet dat we het maar moeten overlaten aan het Wilde Westen. Europa manifesteert zich gelukkig steeds meer als een derde macht tussen het neoliberale systeem, Amerika, en het staats-systeem, China.”

Stikker wijst op een initiatief waarmee Europa nadrukkelijk probeert de tekortkomingen van het huidige internet te repareren: het Next Generation Internet-programma (https://ec.europa.eu/digital-single-market/en/policies/next-generation-internet). Daarin worden onder andere belangrijke thema’s als datasoevereiniteit en online-identiteit aangepakt. En we moeten volgens Stikker ook gaan bouwen en zoeken naar alternatieven voor toepassingen die nu worden gedomineerd door de Big Tech-bedrijven uit de VS: “Laten we investeren in positieve ontwikkelingen. Sommige bestaande applicaties onttrekken waarde, bijvoorbeeld in de vorm van energie en data. We moeten de stap zetten naar een productie waarin je wel publieke waarden kunt waarborgen.” Ook vindt ze dat overheden niet afhankelijk moeten zijn van commerciële softwarepartijen. De overheid zou moeten afdwingen dat leveranciers met bepaalde publieke kernwaarden gaan werken.

“We moeten vooral niet denken dat we niets kunnen doen”, voegt Frissen toe. “Ik kan bijvoorbeeld vanuit mijn rol als directeur van het SIDN fonds de makers van nieuwe toepassingen steunen. En Europa vindt regulering heel belangrijk. Wat ook heel belangrijk is, is het versterken van de macht van de eindgebruiker, of, als je het in Marxistische termen wilt zeggen: de macht van het dataproletariaat.”

Stikker stond in 1994 aan de wieg van De Digitale Stad, een initiatief dat een belangrijke rol speelde bij het bekend maken van het internet bij de burger. Want daarvoor waren vooral academische instellingen aangesloten op het internet. De Digitale Stad werd echter maar korte tijd financieel door de overheid gesteund, vertelt Stikker. “Na De Digitale Stad is er geen cent meer in de publieke zaak van het internet geïnvesteerd. Economische zaken en bedrijvigheid zijn nu leidend. We zouden het internet weer meer moeten zien als een publiek goed. Daar omheen kan dan wel weer commercie ontstaan.”

Educatie en digitale geletterdheid
Technisch gezien bestaan er oplossingen voor een betere infrastructuur van het internet. Politiek zou er meer regulering moeten zijn, met oog voor publieke waarden. Maar kunnen burgers zelf ook een rol spelen om de problemen met het huidige internet op te lossen?

Volgens Neggers moet dat beginnen bij de educatie: “Kinderen moeten leren op een verstandige manier met alle digitale mogelijkheden om te gaan. Dat wordt nu gekaapt door grote bedrijven. We moeten de burger weerbaar maken.”

Steltman reageert dat we vaak met de mond het ene zeggen, maar in de praktijk het andere doen: roepen dat privacy belangrijk is bijvoorbeeld, maar vervolgens wel achteloos persoonlijke data weggeven via sociale media. “We moeten ons zelf tegen onze eigen domheid beschermen”, zegt hij. “We doen niet altijd verstandige dingen volgens de waarden die we belangrijk vinden. Met voldoende kennis en ervaring kun je dit oplossen.”

Wat betreft opleiding maakt Stikker zich zorgen over de roep dat we meer tech-werkers nodig hebben en dat we allemaal moeten leren programmeren: “Verantwoord technologiegebruik vraagt om veel meer dan alleen technische kennis. Je moet ook begrijpen wat technologie met mensen doet.”

Momenteel werken in Nederland diverse partijen aan technologie-strategieën, zoals bijvoorbeeld de AI-strategie. Stikker bepleit dat die strategieën van begin af aan interdisciplinair worden gemaakt, iets wat nu meestal niet gebeurt: “Ik stel me voor dat we een soort wasstraat hebben die interdisciplinaire technologie-ontwikkeling waarborgt. En dat alles wat we maken dan door die wasstraat gaat. Zo’n soort designlab, daar heb ik zin in!”