Boeken

Thursday, October 21, 2021

Beethovens 10e symfonie voltooid met hulp van AI

Beethoven heeft zijn laatste symfonie nooit kunnen voltooien. Nu is zijn werk afgemaakt door kunstmatige intelligentie. 



Klassieke muziek die door kunstmatige intelligentie (AI) is gecomponeerd, wordt nog steeds het beste door mensen uitgevoerd, muzikanten van het Beethoven Orkest Bonn in dit geval. Wanneer ik de eerste maten hoor van Beethovens onvoltooide tiende symfonie, denk ik dat AI een simpel trucje heeft uitgehaald met het wereldberoemde leidmotief ‘kort-kort-kort-lang’ uit de vijfde symfonie. In plaats van dat de laatste noot onheilspellend omlaag dondert, zoals in de vijfde, vliegt hij in de tiende vrolijk omhoog. Kinderspel voor AI.

Maar nee, vertelde professor Ahmed Elgammal, de leider van het AI-onderzoek voor het Beethoven-X-project, me later. Deze noten staan echt zo in de schetsen die Beethoven achterliet voor zijn tiende symfonie. Ik ben gezakt voor de muzikale Turing-test: ik kan een menselijke componist niet onderscheiden van een AI-componist.

Ik ben gelukkig niet de enige. De meeste mensen, ook experts, blijken niet in staat om uit te maken welk noten uit de tiende symfonie van de meester zelf afkomstig zijn en welke van AI. Een prestatie op zichzelf. Maar dat Beethovens genie ontbreekt in deze tiende symfonie is ook wel duidelijk. De AI-compositie klinkt net iets te veel als een mengelmoes van bestaande muziek in plaats van iets vernieuwends.

De première van Beethovens tiende symfonie, gecomponeerd in nauwe samenwerking tussen mens en kunstmatige intelligentie, vond plaats op zaterdag 9 oktober in Bonn, de geboorteplaats van Beethoven. Dit keer ging het eens niet om een grote uitdaging waarin mens het tegen machine opneemt, zoals eerder bij schaken, Jeopardy en go, maar een uitdaging in de optimale samenwerking tussen mens en machine.

Lees het hele verhaal op de website van NRC Handelsblad.



NRC-podcast: "De zelfrijdende auto: komt 'ie nog wel?"

 


Waar blijft toch de volledig zelfrijdende auto die ons was beloofd?

In de nieuwste NRC-podcast 'Onbehaarde Apen' schoof ik aan om daarover te vertellen, samen met Marc Hijink en presentator Lucas Brouwers.

Een tipje van de sluier: altijd en overal veilig autorijden vereist veel meer algemene intelligentie dan veel mensen beseffen.

Beluister de podcast hier.

Can future discoveries be made by artificial intelligence?


This story I wrote for ACM News and was published on October 21, 2021 

'AI disentangles protein folding' was one of the headlines in the selection of breakthroughs achieved during the year 2020 by the magazine Science last December. An artificial intelligence (AI) program called AlphaFold, developed by Alphabet subsidiary DeepMind, had succeeded in making a great leap in one of biology's grand challenges: how to predict the three-dimensional shape of a protein when its amino acid sequence is known.

This breakthrough is likely just the beginning of how AI is going to change scientific discovery.

In that light, it is no coincidence that this year's 8th Heidelberg Laureate Forum (HLF) featured a panel discussion on the question of whether future discoveries can be made by AI. The Heidelberg Laureate Forum is an annual conference, this year organized online because of the pandemic, where 200 young researchers in mathematics and computer science spend a week interacting with laureates of the Abel Prize, the ACM A.M. Turing Award, the ACM Prize in Computing, the Fields Medal, and the Rolf Nevanlinna Prize.

In September, on the last day of this year's HLF, moderator and science journalist Volker Stollorz discussed the topic of using AI for scientific discovery with three scientists: Harry Collins, a professor of Social Science at Cardiff University (U.K.); Jeffrey A. Dean, senior fellow at Google Research (U.S.) and recipient, with Sanjay Ghemawat, of the ACM Prize in Computing for 2012, and Dafna Shahaf, associate professor of data science in the Department of Computer Science and Engineering at Hebrew University of Jerusalem (Israel).

Read the full story on the website of the ACM.

The Outlook for Virtual Meetups


This story I wrote for ACM News and was published on October 14, 2021

How do you cut a birthday cake with your friends if the coronavirus pandemic does not allow you to get close to each other?

That was the challenge that the national research institute for mathematics and computer science in the Netherlands, Centrum Wiskunde & Informatica (CWI), faced with professional cake designer Cake Researcher when CWI celebrated its 75th anniversary earlier this year.

Fortunately, CWI has an in-house specialist who solved that problem using virtual reality (VR): Pablo Cesar, a researcher in human-centered multimedia systems and leader of the Distributed and Interactive Systems group at CWI, who also is a professor and chair of Human-Centered Multimedia Systems at the Netherlands' Delft University of Technology (TU Delft). Cesar, named an ACM Distinguished Member in 2020, investigates how to improve the ways people use interactive systems to communicate with each other.

While we currently use interactive systems to communicate person to person via flat screens, it would be much more convenient for many applications to communicate via three-dimensional (3D) video, also called volumetric video. Ultimately, we might want to transfer high-quality 3D models of people anywhere in the world in real time, something that Microsoft calls holoportation.

Working on the path to holoportation, Cesar develops state-of-the-art technology for capturing and distributing volumetric video. He showed Bennie Mols around in CWI's two VR rooms. Surrounded by Kinect cameras standing on tripods and hanging from the ceiling, Cesar spoke about where the technology stands right now, and what the future holds.

Read the full story on the website of the ACM.

Sunday, September 26, 2021

Robots met een beperking

Commerciële sociale robots maken de verwachtingen zelden waar en de afgelopen jaren flopten ze dan ook keer op keer. Toch zien robotici Edwin Dertien en Ella Velner nog toekomst voor de sociale robot. ‘We moeten ze vanuit een behoefte ontwerpen.’



Dit verhaal schreef ik voor de VPRO Gids en werd gepubliceerd in september 2021

Alweer is een sociale robot afgedankt en op straat gezet. Afgelopen juni maakte het Japanse bedrijf Softbank bekend dat het stopt met de productie van robot Pepper, een schattige interactieve mensachtige robot die in 2015 met veel tamtam op de markt verscheen. Pepper is één meter twintig groot, heeft een wit, glimmend plastic lijf en rijdt op wieltjes. Hij kan eenvoudige gesprekken met mensen voeren en zijn armen en handen bewegen. In de afgelopen jaren is Pepper onder meer ingezet als receptionist, gastheer, copresentator, museumgids en – in Japan – zelfs als boeddhistische priester. In totaal zijn er zo’n 27.000 Peppers van de productieband gerold voor een verkoopprijs van 1800 dollar per stuk.

Veel tranen lijken er echter niet gelaten om het einde van Pepper. Roboticus professor Noel Sharkey vertelde in een reactie aan de BBC zelfs dat hij blij is: ‘Pepper heeft veel schade toegebracht aan het echte roboticaonderzoek door een valse indruk te wekken van een slim cognitief wezen dat gesprekken kan voeren. Maar Pepper werd vaak op afstand bestuurd door een mens. Het publiek op deze manier misleiden is gevaarlijk en geeft een verkeerde indruk van de mogelijkheden van kunstmatige intelligentie in de echte wereld.’

Het falen van Pepper als commercieel product ligt in het verlengde van het falen van andere sociale robots in de afgelopen jaren. Zelfs niet-mensachtige interactieve robots als Jibo, Kuri en Cozmo, alle drie een speelgoedachtig uiterlijk en een stuk goedkoper dan Pepper, flopten en hun producenten gingen snel failliet. Neem Jibo, een soort dikkige bureaulamp met een rond beeldscherm als gezicht op een bolvormig hoofdje. Jibo heeft een camera met gezichtsherkenning en begrijpt gesproken commando’s. De robot werd ontworpen en gebouwd door een team rondom een van ’s werelds belangrijkste pioniers op het gebied van sociale robots, Cynthia Breazeal van het Massachusetts Institute of Technology (MIT). Zelfs met haar kennis en ervaring lukte het niet om van Jibo een succes te maken.

Lees het hele verhaal op de website van de VPRO Gids

Using AI to Drill Down in Physics

If a computer can teach itself to play the age-old board game Go better than the human world champion, if a computer can even conjure up a genius new Go move, couldn't a computer also discover new physics?





I wrote this story for ACM News and it was published on July 8, 2021

Jesse Thaler, an associate professor of physics at the Massachusetts Institute of Technology (MIT), investigates the potential of artificial intelligence (AI) in particle physics. In 2020, Thaler also became the director of the National Science Foundation's AI Institute for Artificial Intelligence and Fundamental Interactions (IAIFI), which is dedicated to advancing physics knowledge and galvanizing AI research innovation.

At the moment, the Standard Model of particle physics is the best description of three of the four fundamental forces of nature, and of a large family of elementary particles. Finding deviations from the Standard Model might lead physicists to discover new particles or new interactions, and AI might be able to play an important role in this.

In a Zoom interview, Thaler talks about the present and the future of applying AI to particle physics.

Read the full story on the website of the ACM.
 


Engineering Additional Creativity

The field of artificial intelligence (AI) has long dreamed about computers that can automatically write humanlike stories. In recent years, with the advent of machine learning, AI researchers have found new opportunities for such automated text writing.




I wrote this story for the Communications of the ACM and it was published on July1, 2021

Last year, Open AI's automatic text generator 
GPT-3 was one of the biggest breakthroughs in AI research. GPT-3 (Generative Pre-trained Transformer 3) writes human texts in all kinds of genres, which is unique. Give a piece of text to the machine, and it generates a new piece of text which the machine considers to be the most likely continuation of the first. This can be an essay, a poem, a song, a dialogue, an interview, or any other text form that can serve as a starter. GPT-3 also can perform very different tasks from just a few examples, as long as they involve text. It can, with only a few examples, translate, generate news articles, complete a short story, correct English grammar, answer factual questions about texts, and even provide answers to simple arithmetic problems.


However, in order to produce interesting results, GPT-3 requires a lot of human intervention. There is nothing wrong with that, says AI researcher Melissa Roemmele; on the contrary, she says, it means humans can use such an AI text generator to augment their own creative writing.

Read the full story on the website of the ACM.

‘Wij zijn meer dan ons brein’

In zijn net verschenen boek De code van het bewustzijn laat hoogleraar neurowetenschappen Cyriel Pennartz zien wat we allemaal wél al weten over ons bewustzijn.



Dit artikel schreef ik voor de VPRO Gids en is gepubliceerd in juni 2021

Welk antwoord geeft een hersenprofessor op de vraag om in één zin te vertellen wat bewustzijn is, terwijl hij daar net een populair-wetenschappelijk boek van ruim driehonderd pagina’s over heeft geschreven?

Cyriel Pennartz, hoogleraar in de neurowetenschappen van cognitie en systemen aan de Universiteit van Amsterdam, is een paar seconden stil, en zegt dan: “Ik heb daar al veertig jaar over nagedacht. Uiteindelijk is de essentie van bewustzijn samen te vatten als dat wat er gebeurt wanneer je ’s ochtends wakker wordt. Dan ga je opeens van een toestand van diepe slaap, een toestand die je niet door hebt, naar een toestand waarin je je realiseert: ‘ik lig in bed, ik hoor geluiden buiten, ik zie licht door de gordijnen vallen…’”

Pennartz publiceerde begin mei het boek ‘De code van het bewustzijn’ waarin hij vertelt wat we allemaal wél al weten over bewustzijn. Veel mensen zien bewustzijn als een groot mysterie. Veel wetenschappers willen er hun vingers niet aan branden. En zelfs veel filosofen schrikken er voor terug. Maar Pennartz laat in zijn boek juist zien dat het bewustzijn niet een onoplosbaar wetenschappelijk probleem is. De neurowetenschappen hebben in de afgelopen decennia grote stappen gezet om te begrijpen hoe bewustzijn ontstaat. Nee, de code van het bewustzijn is nog niet volledig gekraakt, maar belangrijke geheimen zijn wel al ontfutseld.

Lees het hele artikel op de website van de VPRO Gids

Schilderrobot Bob Rob bekwaamt zich in Delfts Blauw

Schilderen zien we als een op en top menselijke vaardigheid, een combinatie van handvaardigheid en creativiteit. Onderzoekers van de faculteit industrieel ontwerpen onderzoeken hoe ver een robot kan komen in de schilderkunst. Het beschilderen van Delfts Blauwe tegeltjes is het nieuwste robothoogstandje.


Dit verheel schreef ik voor Delft Design Stories en werd gepubliceerd in juni 2021

Met mathematische precisie trekt een dun penseeltje lijn na lijn na lijn over een vierkant stuk keramiek. Het is de opmaat voor een klassiek Delfts Blauw tegeltje. Er verschijnen contouren van veren, van een vleugel, van pootjes en ogen. Alles zonder aarzeling, met vaste hand getekend. Als het penseeltje de laatste lijn achter zich laat, zien we een abstracte weergave in strakke lijnen van het beroemde schilderij ‘Het puttertje’ van Carel Fabritius uit 1654.

Degene die het penseeltje zo akelig nauwkeurig en volstrekt onverstoorbaar hanteert is echter geen meesterschilder van Delfts Blauw, niet iemand van vlees en bloed die zich jarenlang in het vak heeft bekwaamd, maar de schilderrobot Bob Rob, die in een paar maanden is klaargestoomd.

Lees het hele verhaal op de website van Delft Design Stories.

Mijn tv-bijdrage over de nieuwe nationale supercomputer Snellius

In april 2021 sprak ik in het TV-programma EenVandaag over de nieuwe nationale nationale supercomputer Snellius. Dankzij supercomputers kunnen we virtueel in de toekomst kijken van bijvoorbeeld het klimaat op aarde, kunnen we een kloppend hart doorrekenen, onze hersenen nabootsen en nieuwe medicijnen ontwerpen.


Het tv-item is te bekijken op de website van EenVandaag.

Resonantie tussen brein en geest voor een beter ontwerp

Caiseal Beardow, masterstudent aan de faculteit Industrieel Ontwerpen van TU Delft, bouwde een audiovisuele installatie waarin ze onderzocht hoe het brein en de geest reageren op subtiele veranderingen in het landschap van licht en geluid dat proefpersonen in haar installatie ervaren.


Dit verhaal schreef ik voor TU Delft Design Stories en werd gepubliceerd in april 2021

Een mysterieus, buitenaards aandoend landschap van licht en geluid vult de kleine kamer. Het licht flonkert alsof het weerkaatst op kabbelende golven. Kleuren dwarrelen in elkaar over. Er klinkt Brian Eno-achtige ambient music, zonder herkenbare melodie of ritme, een continuüm aan atmosferen. Je voelt de geluidsgolven vibreren in je lichaam en waant je ondergedompeld in een zee van licht.

Lees het hele verhaal op Delft Design Stories.

LandShapes: gemaakt om echt te lijken

Door kunstmatige intelligentie gegenereerde landschappen roepen fascinatie voor klimaatverandering op


Dit verhaal schreef ik voor TU Delft Design Stories en werd gepubliceerd op 8 april 2021

Masterstudent Design for Interaction Frederik Ueberschär laat in zijn interactieve installatie LANDSHAPES kunstmatige intelligentie niet bestaande satellietbeelden van het aardoppervlak creëren. Mensen kunnen die landschappen veranderen. Zo wil hij ze op een speelse manier emotioneel betrekken bij klimaatverandering.

Onder luid geraas afbrekende ijsschotsen, oprukkende woestijnen, verwoestende bosbranden — vaak zijn dat de beelden die burgers te zien krijgen als het gaat over klimaatverandering. De een wordt er angstig van, de ander raakt vermoeid of voelt zich machteloos. Masterstudent Design for Interaction Frederik Ueberschär van Industrieel Ontwerpen, TU Delft wilde op een heel andere manier aandacht voor klimaatverandering vragen: door gebruik te maken van de verbluffende schoonheid van het aardse landschap gezien vanaf grote hoogte.

Lees het hele verhaal op Delft Design Stories.

 

Friday, April 2, 2021

Miljoenen gezichten zijn weggegeven aan het Wilde Westen

In vijftig jaar tijd zijn we de controle over onze digitale gezichten kwijtgeraakt. Veel gebruikte dataverzamelingen leiden tot fouten, discriminatie en privacyschending bij automatische gezichtsherkenning.

Dit artikel is gepubliceerd in NRC Handelsblad van zaterdag 3 april 2021 (online reeds op 2 april)



Heb je tussen 2004 en 2020 foto’s van je vakantie of je feest geüpload naar de populaire website Flickr, dan is de kans groot dat de gezichten op die foto’s zijn gebruikt voor het verbeteren van AI-technologie die automatisch gezichten herkent. En die technologie kan door universiteiten, bedrijven en zelfs voor defensie- of surveillance-gerelateerde toepassingen zijn gebruikt. Het toont een van de vele problemen met dataverzamelingen die worden gebruikt voor het trainen van gezichtsherkenningssoftware.

Afgelopen januari lanceerden de onderzoekers en kunstenaars Adam Harvey en Jules LaPlace het project Exposing.ai om het probleem met de Flickr-foto’s aan de kaak te stellen. Exposing.ai is een zoekmachine waarmee je kunt kijken of jouw Flickr-foto’s zijn gebruikt in enkele van de wereldwijd meest gebruikte gezichtsdataverzamelingen. Zo ontdekte de Amerikaanse documentaire filmmaker Brett Gaylor dat honderden van zijn trouwfoto’s die hij in 2006 op Flickr had geplaatst anno 2021 ongevraagd in talloze veel gebruikte dataverzamelingen rondspoken. Gaylor kwam er zelfs achter dat zijn foto’s gebruikt zijn voor het trainen van gezichtsherkenningssystemen die de Chinese overheid inzet voor het in de gaten houden van de Oeigoerse moslimminderheid. De Amerikaan maakt nu een documentaire over het onverwachte lot van zijn trouwfoto’s.

Vorig jaar ontstond opschudding over het Amerikaanse bedrijf Clearview.AI dat zonder toestemming miljarden foto’s van gezichten van sociale media haalde en beweert bijna iedereen die ooit foto’s heeft geüpload te kunnen herkennen, ongeacht afkomst. Inmiddels lopen in de VS diverse rechtszaken tegen het bedrijf. Harvey en LaPlace hopen dat hun project bijdraagt aan het stoppen van het zonder toestemming verzamelen van gezichtsfoto’s van internet.

Hoe omvangrijk zijn de problemen bij het verzamelen van data voor het trainen automatische gezichtsherkenning? Hoe zijn de problemen ontstaan? En vooral: hoe zijn ze op te lossen?

Lees het hele artikel op de website van NRC Handelsblad

------------------------------------------------------------------------------------------------------------------

Een korte geschiedenis van gezichtsherkenning

Fase 1: Academische pioniersfase (1964-1995): Handmatig aanleggen van databases met toestemming van de gefotografeerde personen.

Fase 2: Begin van commerciële toepassingen (1996-2006): De in 1996 vrijgegeven gezichtsdatabase FERET (gefinancierd door het Amerikaanse Ministerie van Defensie) vormt een stimulans voor academische en commerciële gezichtsherkenning.

2001 — De terroristische aanslagen van 11 september geven een grote impuls aan automatische gezichtsherkenning. De stad New York installeert kort na de aanslagen duizenden camera’s in de publieke ruimte.

Fase 3: Gezichtsherkenning wordt mainstream (2007-2013): In 2007 wordt de dataset ‘Labeled Faces in the Wild’ (University of Massachusetts, Amherst) publiek gemaakt. Voor het aanleggen van LFW werd het web afgestruind en werden zonder toestemming foto’s verzameld van o.a. Google, Flickr en Yahoo. Begin van een wildwestperiode van dataverzameling.

2010 — Facebook introduceert de functie ‘tag suggestions’ die de namen van vrienden voorstelt die voorkomen op Facebook-foto’s

Fase 4: Doorbraak van Deep Learning op willekeurige datasets (2014-nu): Het DeepFace-model van Facebook, gebaseerd op de toen net doorgebroken deep learning-technologie, verbetert gezichtsherkenning sterk. Toenemende zorgen over schending van privacy, bias en discriminatie in de toepassing van gezichtsherkenning.

2015 — Google Photos labelt een foto van een zwarte jongen en een zwart meisje als ‘gorilla’s’.

2018 — Joy Buolamwini en Timnit Gebru ontdekken dat een veel gebruikte dataverzameling voor 75% mannelijke gezichten bevat en voor 80% gezichten van witte mensen. Dat leidt tot discriminatie van zwarte mensen.

2018 — In een test van Amazon Rekognition worden 28 Amerikaanse congresleden onterecht voor gearresteerde criminelen aangezien.

2019 — Als eerste stad in de VS verbiedt San Francisco het gebruik van gezichtsherkenning in het publieke domein.

2020 — Opschudding over het bedrijf Clearview.AI, dat zonder toestemming miljarden foto’s van gezichten van sociale mediaplatforms als Facebook en Instagram haalde. Het bedrijf beweert dat zijn algoritme veel beter is dan alle andere op de markt.

2020 — IBM, Amazon en Microsoft besluiten de ontwikkeling van gezichtsherkenningssoftware op een laag pitje te zetten totdat er een wettelijke basis bestaat die de mensenrechten waarborgt.

2020 — Opschudding rond de toepassing PULSE die korrelige foto’s omzet in scherpe foto’s maar daarbij van zwarte mensen witte mensen maakt.

2021 — Onderzoekers vervagen uit privacy-overwegingen 243.000 gezichten in de veel gebruikte beelddataset ImageNet, bestaande uit 1,5 miljoen foto’s.

2021 — De Raad van Europa pleit voor strikte regulering gezichtsherkenning in de EU-landen. Toepassing van gezichtsherkenning door bedrijven in winkelcentra, voor marketing en voor beveiliging zou verboden moeten worden.



Monday, March 15, 2021

The story of Artificial Intelligence with Bennie Mols

I was interviewed for the podcast of the Global Arena Research Institute (GARI) to talk about my view on artificial intelligence (AI).


We had a great conversation about:  

📟 The history of #artificialintelligence
📟 What can AI NOT do?
📟 How would you explain the pace, the rapidity of how the narrative around AI changed from curiosity to fear?
📟 How to achieve a balance in #journalism about AI?
📟 Research & investment in AI in the #US, #China and #Europe - how do we differ?
📟 CERN for AI - CLAIRE
📟 Google, Twitter and Facebook - too much power?
📟 How to combine the best of humans with the best of machines

💡 New enlightenment: Digital humanism - with three components:
🍎 humans should become more empowered & more digitally literate - giving people equal opportunity to use technologies
🍎 need to make technology more human
🍎 hybrid intelligence - the future belongs to people who best work together with AI

You can listen to the podcast here. (It's podcast #10)

Thursday, March 11, 2021

Oerbos is een mythe - Reportage over het woud van Bialowieza in het oosten van Polen

Helaas zijn er plannen om weer te gaan kappen in het unieke Bialowieza-woud in het oosten van Polen. Ik ben daar in de afgelopen 20 jaar een keer of 5 geweest. In 2003 schreef ik een reportage voor het tijdschrift N&T Wetenschapsmagazine, de voorloper van het huidige New Scientist NL.

Het Bialowieza-oerbos in Oost-Polen, op de grens met Wit-Rusland, is het grootste en minst aangetaste oerbos in het West- en Midden-Europese laagland. Het bos is beroemd om zijn grote biodiversiteit, zijn vijfhonderd jaar oude eiken, zijn vijftig meter hoge fijnsparren, en niet in het minst om zo’n driehonderd in het wild rondlopende Europese bizons.

Hoewel het Bialowieza-bos uniek in Europa is, is het idee van een oerbos toch een mythe, zo legde ecoloog Frans Vera in mijn artikel uit.

Lees hieronder mijn reportage in PDF-vorm.

Sunday, February 21, 2021

AI made in Europe

How should Europe respond to the lightning-fast AI developments in China and the US? Three AI experts give answers from academic, business and society perspective. 

This article was published in the Dutch monthly technology magazine De Ingenieur in February 2021. The magazine kindly gave permission to publish a freely available English translation of the original article.


What should Europe do from an academic perspective?  

The EU countries may have jumped into the air after the election of Joe Biden as the new president of the US, but it is expected that the EU will be much more dependent on itself than before, also under Biden’s presidency. This also applies in the field of artificial intelligence (AI). The U.S. will once again start to strengthen ties with the EU more than under Donald Trump, but mainly because of a common interest in the geopolitical battle against China.

China wants to be the world leader in the field of artificial intelligence by 2030. To do so, it has drawn up a concrete roadmap: first catch up, become world leader in a few AI areas in five years, and lead in the entire AI field in ten years. The US, the current world leader in many AI fields, has turned more inward in recent years. Also in the field of AI, the rule in the US is: own business first.

Holger Hoos is professor of machine learning at Leiden University and chairman of the board of CLAIRE, an organization founded by the European AI community. CLAIRE’s goal: to make Europe a world leader in human-centered, reliable AI. How does he think the EU should respond to AI developments in China and the US?

Hoos: “In the US, industry is leading, in China the government. The best niche for Europe is to focus on human-centered AI: ‘AI for Good, AI for All’. Let’s develop AI that is in line with European values and benefits all citizens. For example, think of AI that contributes to the 17 Sustainable Development Goals set by the UN.”

Hoos emphasizes that the EU can only become a world leader in human-centered AI if it also shows leadership in AI technology development and basic research. Hoos: “It is wrong to think that we can buy technology from the US or China and then roll it out in Europe. You will only get human-centered AI if you build it from the ground up yourself according to the European values that we consider important. And we will also have to do the fundamental research ourselves and not leave it to the big American tech companies.”

In recent years, the EU has shown itself decisive when it comes to regulating digital technology, for example with the adoption of the GDPR law in 2018 (for protecting the data and privacy of European citizens), and with the imposition of fines on tech companies that do not comply with European rules. Hoos agrees that the EU should also lead the world in AI regulation, but issues a warning: “You cannot be a world leader in regulation without also being a world leader in AI technology and research.”

Although the EU itself does not want to talk about a global AI race between Europe, the US and China, the fact is that there is far more demand for AI expertise and talent worldwide than supply. Companies are eager to buy AI talent rapidly away from universities. Hoos sees a great danger in this: “It’s not good when the best people go to work in the private sector and not in the public sector. And it’s also not good when the best European AI developers go to work en masse for American business.”

How can we keep talent in Europe when American companies offer sky-high salaries? Hoos would like to see Europe set up an equivalent of the Human Genome Project. That public project provided a counterweight to the private project to unravel the human genome. The information generated by the unraveling of the human genome was not to become private property, but had to remain in the public domain. Hoos: “We should do something like that in the AI field as well. Yes, it will cost money, but I am convinced that this investment will pay off twice over.”

What is still lacking in Europe, however, according to Hoos, is cooperation and critical mass. “In the Netherlands the Dutch AI Coalition has been founded. Nice, but how much energy are they putting into European cooperation? Very little. The same goes for Germany, where I come from. So you get too much annoying competition. The fact is that European countries are too small on their own to compete with China and the US. We have to work together, we have no other choice.”

That’s why the European AI research community created CLAIRE, for collaboration across Europe and in all areas of AI, from machine reasoning to machine learning. Hoos: “National governments need this kind of leverage initiative to achieve Europe’s ambitious goals. Look at the success of CERN in Geneva. That’s the kind of impact and success we need to pursue with human-centered AI.”

What should Europe do from a business perspective?

Maarten de Rijke is University Professor of AI at the University of Amsterdam and director of the ICAI: Innovation Center for Artificial Intelligence, which was founded in 2018. He is also vice president of Personalization and Relevance at Ahold Delhaize. As someone who has one foot in the university world and the other in the corporate world, what does he think Europe should do in response to the US and China?

“First of all, Europe should keep control of data, algorithms, digital infrastructure and rules of the game for algorithms. We need to stop sending all our data to a US based cloud. We need to build our own infrastructure. Second, encourage public-private partnerships. That is exactly what we are aiming for with ICAI. Europe must pull much harder on such collaborations. For example, set up living labs for AI experiments. If we try nothing, we learn nothing. And thirdly, set hard rules for example for the storage and transmission of data."

ICAI now consists of 16 labs spread across seven Dutch cities, with more on the way. In these labs, knowledge institutions work together with companies such as Ahold Delhaize, Qualcomm, Elsevier, ING and KPN, but also with a government agency such as the Dutch Police. Together they work for five years on AI research projects. PhD students work one or two days a week in the R&D department of a company.

De Rijke is not afraid that universities will lose their independence through these collaborations with industry. On the contrary. “Universities must address social issues,” he says. “‘Great science with great impact’ is our motto. It is precisely because of this collaboration that university researchers are able to come up with new questions. For example: how do you make a certain application scalable? Or: How do you provide a safety guarantee for algorithms in a self-driving car?”

‘United in diversity’ is the official motto of the EU. Europe is diverse in cultures, languages and values. And also diverse in the tastes of different AI communities: diverse tastes of machine reasoning and diverse tastes of machine learning, the two main branches of AI. “All this diversity is precisely what Europe can use to its advantage,” concludes De Rijke. “Within the EU, we can make different products with different flavors for different cultures.”

What should Europe do from a society perspective? 

When an AI application is accepted across the EU, there is a good chance that the application can be rolled out with confidence elsewhere in the world, agrees Catelijne Muller, president of ALLAI, an independent organization promoting responsible AI technology. She was a member of the EU High Level Expert Group on AI that advised the European Commission in recent years. “My message — which is the same as the one of the High Level Expert Group — is that Europe needs to commit to responsible AI,” Muller says. “On the one hand, AI must comply with existing laws. On the other hand, the EU must create new laws if they are currently lacking for certain AI applications. In the EU High Level Expert Group on AI, we have drawn up seven ethical guidelines that AI must comply with. In doing so, we started from universal human rights.”

Muller is convinced that if Europe takes the time to develop responsible AI, it will eventually be better equipped. “Then we will get better AI, which is safer, more robust and with minimal negative effects. You see in the U.S. what happens when you don’t. Some U.S. states have banned facial recognition in public spaces or banned surveillance robots on the street.”

That responsible AI development would come at the expense of the speed of innovation Muller finds short-sighted. “Regulation is not there to make life harder,” she says. “Nor for companies. In fact, regulation also ensures that companies can operate on a level playing field.”

Her own organization ALLAI, together with the Dutch Association of Insurers, has translated the seven European guidelines for ethical AI application into seven guidelines for the use of AI by Dutch insurers. Muller: “Insurance companies have a lot of data with which they can estimate the probability that someone will suffer damage. But how should they deal with that data? You can go further and further: taking driving behavior into account, mapping routes...What do we find acceptable and what not? That’s what the guidelines we’ve jointly drawn up provide an answer to.”

The EU is currently working on a Digital Service Act, which should create a new legal framework for digital services and also curb the disproportionate power of big tech companies. In doing so, the EU is trying to deftly navigate between the interests of individuals, society and business. But for now, the EU seems more successful in playing referee than in playing world leader in AI research and technology. Europe has a lot of potential in the AI field, Europe has world-class research, but the real will for European AI cooperation is still missing.

--------------------------------------------------------------

European AI in figures

AI research:

Europe has 50% more AI researchers than the US, and twice as many as China.

Europe publishes 32% of all AI papers. For the past 20 years, Europe has led the world.


AI hubs:

(1. San Francisco. 2. New York. 3 Boston. 4. Beijing. 5. London...50. Amsterdam.)

US: 18 of the top 25

Asia: 4 of the top 25

Europe: 3 of the top 25


Private AI investments:

US: 46%

China: 36%

Europe: 8%

Rest: 10%



AI companies per million employed:

US: 10.5

Europe: 3.1

China: 0.3

--------------------------------------------------------------

AI in European business


The five largest Western tech giants are American, and all are also strong in AI: Amazon, Apple, Facebook, Google (Alphabet) and Microsoft. Their business strategies have shifted in two decades from ‘digital first’ to ‘mobile first’ to ‘AI first’. China’s three largest tech companies Alibaba, Baidu and Tencent are all also betting heavily on AI. To be the world leader in the AI field by 2030, as is the big Chinese goal, the government is working closely with the business community, very differently than in the U.S. and in Europe.

What are the big tech companies in Europe? Few can name them. Recently, chip machine manufacturer ASML from Veldhoven in the Netherlands became the most valuable European tech company, ahead of German software company SAP. ASML uses plenty of AI, mainly to adjust the machines' settings based on the data generated by the chip machines.

Other European companies that are using AI to the fullest include e-commerce companies such as Zalando and Booking, DeepL (a translation engine that works at least as well as Google Translate), music service Spotify and meal delivery companies such as Deliveroo, Takeaway and HelloFresh. In addition, Europe has traditionally always been strong in industrial robotics in which AI is used extensively, for example for image recognition. This includes companies such as Swiss-Swedish ABB, and the originally German Kuka, which came into Chinese hands in 2016 — an acquisition that Germany has since regretted. Of more recent years is Denmark’s Universal Robots, which has become the world leader in lightweight, flexible robotic arms. The German car industry is also betting heavily on AI, mainly to make cars more autonomous.

Outside of robotics, there is one European AI company that has quickly gained world fame: London-based and founded DeepMind, made famous by their computer AlphaGo which managed to beat the best human go-player in 2016. DeepMind is an AI company with the ultimate goal of mimicking human intelligence in a machine. It was founded in 2010 and sold to Google in 2014 for an estimated more than 600 million euros.

Telecom giant Skype is also European in origin. It was founded in 2003 by a Swede, a Dane and four Estonians, but sold to American Microsoft in 2011. The sale of Kuka, DeepMind and Skype shows how vulnerable the European tech sector is to takeovers from the US and China.

--------------------------------------------------------------

COVID-19 impact on AI


Frenchman Jean Monnet, one of the founding fathers of the European Union, once said, “Europe will be forged in crises, and will be the sum of the solutions adopted for those crises.” This is an oft-cited quote that also hits the nail on the head in the current COVID-19 crisis. Many technology analysts expect the current pandemic to accelerate the implementation of AI in the public and private sectors by five to ten years.

How will Europe deal with this?

What was until recently met with a lot of resistance — working from home, home schooling, tele-meeting, tele-conferencing, eHealth — this year suddenly turned out to be possible and sometimes even beneficial. The experiences gained, positive and negative, will lead to new and better AI products and services. Smart application of AI makes countless business processes more efficient. Some companies can move from physical stores to online stores and, thanks in part to machine translation, extend their reach from their own country to the entire world.

The COVID-19 crisis also further exposed Europe’s dependence on U.S. tech companies. Within months of the outbreak of the pandemic, tech giant Amazon established itself in Italy. That country hardly had a good e-commerce infrastructure, unlike the Netherlands where, for example, a company like Bol.com was already big.

But especially in a crisis, where we tend to want to do everything quickly, it is important to ensure responsible AI development. That is why the independent Dutch organization ALLAI has launched a new project: ‘Responsible AI & Corona’. ALLAI is setting up an observatory to monitor which AI applications are being accelerated (e.g. AI controlling the 1,5-meter distance in public spaces). ALLAI is also developing a QuickScan to help organizations assess whether a particular AI application is technically, legally and ethically sound.

--------------------------------------------------------------

Hyperlinks

EU-report ‘AI — A European perspective’: https://publications.jrc.ec.europa.eu/repository/bitstream/JRC113826/ai-flagship-report-online.pdf

European Parliament and AI AI: https://epthinktank.eu/2020/11/26/stoa-establishes-a-centre-of-dialogue-and-expertise-on-ai/

High-Level Expert Group on Artificial Intelligence: https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence

WRR Working Paper ‘Internationaal AI-beleid’ (2019): https://www.wrr.nl/publicaties/working-papers/2019/06/12/internationaal-ai-beleid

McKinsey-report (October 2020): How nine digital frontrunners can lead on AI in Europe: https://www.mckinsey.com/business-functions/mckinsey-digital/our-insights/how-nine-digital-front-runners-can-lead-on-ai-in-europe





Thursday, February 11, 2021

Ada Lovelace - 19e eeuwse computer- en AI-pionier

Vandaag is het de Internationale Dag van Vrouwen en Meisjes in de Wetenschap. Speciaal voor deze dag publiceer ik alvast een klein stuk uit mijn in november van dit jaar te verschijnen boek "Kunstmatige intelligentie", een boek over wat iedereen zou moeten weten over AI. 

In het hoofdstuk over de geschiedenis van de AI vertel ik onder andere over Lady Ada Lovelace (1815-1852). Ada Lovelace wordt gezien als de eerste die een computerprogramma publiceerde en een van de eersten die de vraag of machines kunnen denken serieus nam. 



Ada Lovelace heeft een opvallend levensverhaal dat het vertellen waard is. Ze werd in 1815 geboren als dochter van Annabella Milbanke en de beroemde dichter Lord Byron. Haar vader was een op-en-top romanticus die fel gekant was tegen de opkomende automatische weefmachines. Haar moeder stimuleerde Ada juist om zich in de wiskunde te bekwamen in de hoop dat ze niet hetzelfde turbulente gevoelsleven als haar vader zou ontwikkelen. Ada kreeg van beide ouders iets mee. Ze zou juist wel geïnteresseerd raken in de machines die haar vader verafschuwde. Aan de andere kant had ze wel degelijk een poëtische inslag in haar wetenschappelijke werk.

Het huwelijk tussen Ada’s vader en moeder viel nog in het jaar van haar geboorte uit elkaar en Ada zou haar vader nooit meer zien. Een jaar na Ada’s geboorte, in 1816, bracht Lord Byron een tijdje door met de dichter Percy Shelley en diens toekomstige vrouw Mary aan het meer van Genève. Daar schreef Mary Shelley haar beroemde boek Frankenstein over het conflict tussen de mens en zijn kunstmatige creatie, tussen de wetenschapper Victor Frankenstein en het levende monster dat hij zou scheppen uit dode materie. Het boek werpt ook een vraag op die toevalligerwijs ook Ada zou gaan fascineren: kan de mens een machine bouwen die kan denken?

In 1833 leerde Ada Lovelace de wiskundige en uitvinder Charles Babbage kennen en raakte ze gefascineerd door zijn werk aan machines die cognitieve taken kunnen uitvoeren. De twee gingen samenwerken. Een jaar later ontwierp Babbage de Analytical Engine, een apparaat dat wordt gezien als de eerste mechanische computer. De technische realisatie bleek echter te moeilijk en Babbage slaagde er mede door geldgebrek niet in zijn wondermachine te bouwen. Zo’n tien jaar later, in 1843, beschreef Ada Lovelace hoe de Analytical Engine een bepaald soort getallen (Bernoulli-getallen) kan berekenen. Dit werk wordt tegenwoordig beschouwd als het eerste computerprogramma en Ada Lovelace als de eerste computerprogrammeur, hoewel het idee van programmeren in de tijd van Babbage en Lovelace niet bestond. 

Het eerste gepubliceerde computeralgoritme - door Ada Lovelace

Ver voor de eerste digitale computer in de 20e eeuw het licht zou zien, schreef Ada Lovelace in haar notities al over het concept van een algemene informatieverwerkende machine die niet alleen getallen kon verwerken maar alle soorten informatie die in symbolen kon worden omgezet, van woorden tot muziek. Geïnspireerd door de Analytical Engine dacht ze na over de vraag of machines iets zouden kunnen bedenken wat mensen er niet van te voren hebben ingestopt. Ada dacht van niet. Ze schreef in haar aantekeningen: “De Analytical Engine heeft geen enkele pretentie om iets origineels te creëren. De machine kan uitvoeren wat wij het opdragen om uit te voeren.”

Met haar gefilosofeer over de mogelijkheden van informatieverwerkende machines was Ada Lovelace haar tijd een eeuw vooruit. In de 20e eeuw werd de programmeertaal Ada naar haar vernoemd. 

Elk jaar op de tweede dinsdag van oktober is het trouwens Internationale Ada Lovelace Dag, een viering van de prestaties van vrouwen op het gebied van wetenschap, techniek en wiskunde.


Monday, February 8, 2021

AI made in Europe

Hoe moet Europa antwoorden op de razendsnelle AI-ontwikkelingen in China en de VS? Drie AI-experts geven antwoorden vanuit universitair-, bedrijfs- en maatschappelijk perspectief: prof. Holger Hoos, prof. Maarten de Rijke en Catelijne Muller. 



Dit artikel is gepubliceerd in technologietijdschrift De Ingenieur van februari 2021

De EU-landen mogen dan een gat in de lucht zijn gesprongen na de verkiezing van Joe Biden tot de nieuwe president van de VS, de verwachting is dat de EU ook onder Bidens presidentschap veel meer dan vroeger op zichzelf aangewezen zal zijn. Dat geldt ook op het terrein van kunstmatige intelligentie (artificial intelligence - AI). De VS zullen de banden met de EU weer meer gaan aanhalen dan onder Donald Trump, maar dan vooral vanwege een gemeenschappelijk belang in de geopolitieke strijd tegen China.

China wil in 2030 wereldleider zijn op het terrein van kunstmatige intelligentie. Daarvoor heeft het een concreet stappenplan opgesteld: eerst de achterstand inlopen, over vijf jaar wereldleider worden op enkele AI-terreinen, en over tien jaar in het hele AI-veld voorop lopen. De VS, op vele AI-terreinen de huidige wereldleider, heeft zich in de afgelopen jaren meer naar binnen gekeerd. Ook op AI-gebied geldt in de VS: eigen bedrijfsleven eerst.

Holger Hoos is hoogleraar machine learning aan de Universiteit Leiden en voorzitter van de raad van bestuur van CLAIRE, een organisatie die is opgericht door de Europese AI-gemeenschap. Doel van CLAIRE: Europa wereldleider maken op het gebied van mensgerichte, betrouwbare AI. Hoe vindt hij dat de EU moet reageren op de AI-ontwikkelingen in China en de VS?

Hoos: “In de VS is het bedrijfsleven leidend, in China de overheid. De beste niche voor Europa is om ons te richten op AI waarin de mens centraal staat: ‘AI for Good, AI for All’. Laten we AI ontwikkelen die in overeenstemming is met de Europese waarden en die ten goede komt aan alle burgers. Denk bijvoorbeeld aan AI die bijdraagt aan de 17 doelen van duurzame ontwikkeling die de VN heeft opgesteld.”

Hoos benadrukt dat de EU alleen wereldleider in mensgerichte AI kan worden wanneer het ook leiderschap toont in de ontwikkeling van AI-technologie en in het fundamentele onderzoek. Hoos: “Het is verkeerd om te denken dat we technologie uit de VS of China kunnen kopen om het daarna in Europa uit te rollen. Mensgerichte AI krijg je alleen als je het van de grond af aan zelf bouwt volgens de Europese waarden die wij belangrijk vinden. En ook het fundamentele onderzoek zullen we zelf moeten doen en niet moeten overlaten aan de grote Amerikaanse tech-bedrijven.”

Lees het hele artikel in De Ingenieur 

Friday, February 5, 2021

The role of humans in the digital society


Together with professor Virginia Dignum I wrote a chapter on the role of humans in the digital society for the book "Faster than the Future", published by the Digital Future Society in Barcelona.


Here is the introduction of the chapter:

From the 20th century inventions of the computer and the internet gradually a whole new set of digital technologies have evolved: algorithms, big data, artificial intelligence, robotics, biometrics, virtual and augmented reality, and smartphone networks like 5G, to name a number of important ones.

Whereas humanity created these digital technologies, in turn these technologies shape society, and even what it means to be human. Digital technologies impact core human values like autonomy, control, safety, security, privacy, dignity, justice and power structures. Technological development is like an evolutionary process in which humans and technology evolve in a symbiotic way creating both new opportunities and new risks. First we create technology, then it recreates us.

The central question in this chapter is how to shape digitisation so that it enables the society that its citizens want. In order to answer this question, we first need to think about the ways in which people are involved. An open, inclusive approach where everybody is welcome to participate is needed to design technology so that shared human values are built in the technology. We need to take into account that people have different cultural, social and economic backgrounds, different levels of involvement and different interests. That causes technology to have different effects on different groups. Consequently, different groups have different needs and views about the role of digital technologies in society. Engineers are those who ultimately will implement technology to meet societal principles and human values, but it is policy makers, regulators and society in general who can set and enforce the purpose.

Each individual and socio-cultural environment prioritises different moral and societal values. That is, which society citizens want should be decided in a democratic process with at its core the individual’s right to self-determination. The implementation of digital technologies needs therefore to consider the socio-political environment it is inserted into. However, a digital technology like artificial intelligence (AI) might impact self-determination by taking decisions that people used to take themselves, which in turn will impact the democratic processes and ultimately society itself.

Dealing with these issues requires a human-centred approach to digital technologies. This means that the leading requirements for digital technology should be: empowering humans, protecting humans and facilitate engagement for social transformation. Incentives for ensuring these functions can be both regulatory or market based.

A human-centred approach also leads to the question of human control in a society in which machines operate more and more autonomously. How much control should humans have over digital systems? In many applications the concept of ‘human plus machine’ is a more fruitful concept than the concept of ‘human versus machine’.

The whole chapter can be read in the book "Faster than the Future", which can be downloaded for free here (DFS Book).
 








Monday, February 1, 2021

De schrijvende machine: GPT-3

GPT-3 is een tekstgenerator die menselijke teksten in allerlei genres schrijft. In de Listening To The Furture Podcast ging ik in gesprek met Jarno Duursma over alle ins en outs van deze taalmachine, van ethiek tot techniek.



Beluister de podcast hier.

Eerder schreef ik voor NRC Handelsblad een uitgebreid artikel over GPT-3. 



Sunday, January 31, 2021

Felienne Hermans wint de Nederlandse Prijs voor ICT-onderzoek 2021

“Ik zei vroeger: ik wil programmeur worden én cabaretier én schrijver.”


Dit artikel is verschenen in NRC Handelsblad van maandag 1 februari 2021 
(en online op 31 januari 2020)

Vlak voor de Kerst kreeg Felienne Hermans te horen dat een klein stukje van haar promotiewerk geïmplementeerd is in Microsoft Excel. “Wereldwijd gebruiken 750 miljoen mensen dat product”, zegt ze in een Skype-interview, “Supercool! Een onderdeel van een formule die je vaak in Excel gebruikt, kun je nu een naam geven in plaats van dat je het steeds opnieuw moet intypen. Zo kun je bijvoorbeeld de naam BTW geven aan een vermenigvuldiging met 0,21, voor het BTW-tarief van 21%.”

Op donderdag 21 januari werd ook nog eens bekend dat Hermans de Nederlandse Prijs voor ICT-onderzoek 2021 heeft gewonnen. Ze ontvangt een oorkonde, een sculptuur en een geldbedrag van 50.000 euro dat ze vrij mag besteden aan haar onderzoek. Hermans is universitair hoofddocent aan de Universiteit Leiden en gespecialiseerd in programmeren voor kinderen.

Lees het hele artikel op de website van NRC Handelsblad