Wednesday, April 22, 2015

More afraid of stupid people than of smart machines

Here is the column that I have read yesterday at a debate in De Balie about the chances and risks of artificial intelligence, on request of the technology magazine De Ingenieur.

I have also written a Dutch version, which can be read here.

This is the flattering reaction on Twitter of Frank van Harmelen, professor in Knowledge Representation & Reasoning at the Free University in Amsterdam.



Okay, here's my column:

“Technology has given life the opportunity to flourish like never before...or to self-destruct.”

This is not a sentence that I have made-up myself. These are the swollen words of the Future of Life institute. The institute investigates the impact of the development of superintelligent computers and robots. In an open letter the institute calls for the development of artificial intelligence whose positive impact is maximized and whose negative impact is minimized. Who would not want that?

There is only one problem: any technology can be used both for the good and for the bad. With a knife, you can cut bread, or someone’s throat. A robot plane that kills terrorists, can in the hands of terrorists just as easily kill innocent civilians. Nothing human will be alien to the robot of the future.

The international media have interpreted the open letter as a warning against superintelligence. Of course. For decades the media have enthusiastically covered predictions about computers and robots outsmarting and eventually subduing humans.

However, the reality of today and also of the coming decades, is much less sexy. Let me quote Pedro Domingos, an American top researcher in the field of artificial intelligence. He says, and I quote: “Everybody’s so worried about computers becoming really, really smart and taking over the world, whereas in reality what’s happened right now is computers are really, really dumb and they’ve taken over the world. The world cannot function without computers anymore. It would be better if they were smarter.” End of quote.

One of the founders of the Future of Life institute, Victoria Krakovna, reacted surprised about the one-sided focus of the media on superintelligence. What a surprise! That’s what you get when you let the whole world know that you investigate artificial intelligence in the context of − and I quote again − “existential risks facing humanity”.

The Future of Life institute should emphasize that all intelligent systems are still a collaboration between human and artificial intelligence. But yeah, that sounds a lot less sexy.

In this cooperation the smart machine will do tasks in which it excels: rapidly processing information, infallible memory and never getting tired. Humans will do the things they do much better than the machine: understanding the context, understanding intentions and emotions, using creativity, developing ethical norms and values.

The cooperation between man and machine can be a matter of life or death. Let me illustrate this with two examples.

Two weeks ago it was disclosed that on December 14, 2014 the automatic pilot of a Scottish plane of the company Loganair had directed the plane into an almost fatal crash. The plane was hit by lightning. The autopilot ran crazy and steered the plane into a steep descent. The autopilot even blocked the quick intervention of the human pilot. Barely twenty seconds before the plane would have crashed, the human pilot managed to pull up the plane in a final attempt.

Much less fortunate were the passengers of the Turkish Airlines plane that flew to Amsterdam on February 25, 2009. As the plane approached Schiphol Airport and flew at an altitude of six hundred meters, the altimeter suddenly showed minus two meters. The automatic pilot concluded that the aircraft had already landed and rapidly diminished the engine power. The human pilots understood this mistake too late and the plane crashed near Schiphol. There were 9 deaths and 120 injured.

These are two examples of the Automation Paradox. The Automation Paradox states that the more automation, the more crucial is the human intervention in case the thinking machine makes a mistake. And there is always a chance for a mistake.

With increasing automation, we will increasingly hit against this paradox. Automation shifts the point where mistakes are made: for example, from operators, pilots and drivers to the programmers who write the software and to the interaction between human and machine.

The Automation Paradox has two causes. First, people tend to trust machines more than their own common sense. This can lead to an over-reliance on automation. Second, more automation means less practice for human operators. This increases the risk on an accident in case the human has to correct the machine, just like in the accident with the Turkish Airlines plane.

To tackle the paradox, we need to consider humans as an integral part of any artificially intelligent system. And to ensure that operators remain sufficiently trained in their human skills, we occasionally need to switch off automated systems during training sessions.

According to the open letter of the Future of Life institute, artificial intelligence can contribute to the worldwide eradication of poverty and disease. Unfortunately, non-technological problems are never solely solved by technology. Smart computers and robots will only make mankind more successful when we put humans and not machines in the heart of our thinking. Our challenge for the future is how to combine the best of two different worlds: the best of human and the best of artificial intelligence. In this effort we should be more afraid of stupid people than of smart machines.

Banger voor domme mensen dan voor slimme machines

Tijdens een debat over de kansen en risico's van kunstmatige intelligentie gisteren in De Balie, las ik een Engelstalige column voor. Hier is de Nederlandse versie, ook gepubliceerd op de website van technologietijdschrift De Ingenieur:

“Technologie heeft het leven de gelegenheid gegeven om te floreren als nooit te voren…of om zichzelf te vernietigen.”

Deze tekst heb ik niet zelf verzonnen, dit zijn de ronkende woorden van het Future of Life-instituut. Het instituut onderzoekt de gevolgen van de ontwikkeling van slimme computers en robots tot bovenmenselijk niveau. In een open brief roept het instituut op kunstmatige intelligentie te ontwikkelen waarvan de positieve gevolgen maximaal zijn en de negatieve gevolgen minimaal. Zelden heb ik een grotere open deur gehoord. Wie wil dat nou niet?

Er is alleen één probleem: elke technologie kan goedschiks of kwaadschiks worden gebruikt. Met een mes kun je een brood snijden, of iemand de keel doorsnijden. Een robotvliegtuig dat terroristen neerschiet, kan in de handen van terroristen net zo gemakkelijk onschuldige burgers dood schieten. Niets menselijks is de toekomstige robot vreemd.

De internationale media hebben de open brief opgevat als een waarschuwing tegen superintelligentie. Natuurlijk. Media smullen al decennialang van het verhaal dat computers en robots mensen overvleugelen. De realiteit van vandaag en van de komende decennia is echter veel minder sexy. Pedro Domingos, een Amerikaanse toponderzoeker op het terrein van de kunstmatige intelligentie, zegt het als volgt: “Iedereen is zo bang dat computers heel slim worden en de wereld overnemen, terwijl de realiteit is dat computers heel dom zijn en de wereld al hebben overgenomen. We kunnen geen dag zonder ze; de wereld functioneert niet meer zonder computers. Het zou beter zijn wanneer ze slimmer zouden zijn.”

Een van de oprichters van het Future of Life-instituut, Victoria Krakovna, reageerde verbaasd op de eenzijdige focus van de media op superintelligentie. Eigen schuld, dikke bult. Dat krijg je ervan wanneer je zelf rond toetert dat je kunstmatige intelligentie onderzoekt in de context van − en ik citeer − “existentiële risico’s waarvoor de mensheid staat”.

Het Future of Life-instituut had veel beter kunnen benadrukken dat de intelligente systemen van de toekomst een samenwerking tussen menselijke en kunstmatige intelligentie zullen zijn. Maar ja, dat klinkt veel minder sexy.

In die samenwerking doet de slimme machine waarin hij uitblinkt: razendsnel informatie verwerken, een feilloos geheugen en nooit moe worden. De mens doet wat hij beter kan: het begrijpen van de context, het begrijpen van intenties en emoties, het gebruiken van creativiteit, het ontwikkelen van normen en waarden. Dat de samenwerking tussen mens en machine een kwestie is van leven of dood wil ik illustreren aan de hand van twee voorbeelden.

Twee weken geleden werd bekend dat op 14 december 2014 de automatische piloot van een Schots vliegtuig van Loganair het toestel bijna liet crashen. Het vliegtuig was getroffen door de bliksem. De automatische piloot sloeg op hol en stuurde het toestel steil naar beneden. De automaat hield zelfs het ingrijpen van de menselijke piloot tegen. Nauwelijks twintig seconden voor het toestel zou crashen, lukte het de menselijke piloot in een uiterste poging om het toestel weer omhoog te trekken.

Veel minder geluk hadden de passagiers van het Turkish Airlines toestel dat op 25 februari 2009 naar Amsterdam vloog. Toen het vliegtuig Schiphol naderde en op zeshonderd meter hoogte vloog, gaf de hoogtemeter plotseling min twee meter aan. De automatische piloot trok de conclusie dat het vliegtuig al geland moest zijn en verminderde razendsnel het motorvermogen. De menselijke piloten begrepen deze fout te laat en het toestel crashte vlakbij Schiphol. Er vielen 9 doden en 120 gewonden.

Dit zijn twee voorbeelden van de Paradox van de Automatisering. De Paradox van de Automatisering stelt dat hoe meer automatisering, hoe crucialer ingrijpen door de mens wanneer de denkende machine toch een fout maakt. En die kans is er altijd.

Met de toenemende automatisering, zullen we steeds vaker tegen deze paradox aan lopen. Automatisering verschuift het punt waarop fouten worden gemaakt: van bijvoorbeeld operators, piloten en chauffeurs naar de programmeurs die de software schrijven en naar de interactie tussen mens en machine.

De Paradox van de Automatisering heeft twee oorzaken. Ten eerste hebben mensen de neiging om machines eerder te vertrouwen dan hun eigen gezonde verstand. Dat kan leiden tot een te groot vertrouwen in automatisering. Ten tweede kan meer automatisering ertoe leiden dat menselijke operators minder vaardig worden wanneer ze onverhoopt toch moeten ingrijpen. Om de paradox te lijf te gaan, moeten we de mens als een integraal onderdeel van een kunstmatige intelligent systeem beschouwen. En om te zorgen dat operators hun menselijke vaardigheden voldoende blijven trainen, moeten we automatische systemen af en toe uitschakelen.

Volgens de open brief van het Future of Life-instituut kan kunstmatige intelligentie bijdragen aan het wereldwijd uitbannen van armoede en ziekte. Helaas worden niet-technologische problemen nooit alléén maar opgelost door technologie. Slimme computers en robots zullen de mensheid alleen maar succesvoller maken wanneer we niet de machine, maar de mens centraal stellen. De uitdaging voor de toekomst is hoe we het beste van menselijke en kunstmatige intelligentie combineren. Daarbij moeten we banger zijn voor domme mensen, dan voor slimme machines.

'Mr. Longitude' haalt na 250 jaar alsnog zijn gelijk


Vorige week kwam een succesvol einde aan een experiment met een bijzondere klok. De vraag was of een mechanisch slingeruurwerk dat 250 jaar geleden was ontworpen door de beroemde Britse klokkenmaker John Harrison zijn claim over de precisie van de klok zou waarmaken.

Harrison beweerde eind 18e eeuw dat zijn klok in honderd dagen minder dan een seconde verkeerd zou lopen. Veel nauwkeuriger dan alle andere toenmalige klokken, die in een week tijd al een seconde verkeerd liepen.

Lees het hele artikel op NPO Wetenschap

Sunday, April 19, 2015

50 jaar Wet van Moore

Vandaag is het precies 50 jaar geleden dat Gordon Moore zijn beroemde Wet van Moore presenteerde. Dankzij die wet hebben we nu smartphones en laptops. De wet voorspelt namelijk dat de rekenkracht van computers elke twee jaar verdubbelt omdat de industrie erin slaagt steeds meer transistoren op een chip te plaatsen.

Beluister hieronder de radio-uitzending van De Kennis van Nu van 25 augustus 2014. De uitzending stond geheel in het teken van de Wet van Moore, met als hoofdgast Jos Benschop, hoogleraar Industriële Natuurkunde aan de Universiteit Twente en Senior Vice President Technology bij ASML, het bedrijf dat de Wet van Moore in stand houdt.

Alle ins en outs over de Wet van Moore heb ik hier op een rij gezet.

Monday, April 13, 2015

Alan Turings mysterieuze notitieboek uit 1942

Vandaag wordt een notitieboek uit 1942 van de Britse computerpionier Alan Turing geveild. Turing kraakte in die tijd de Duitse Enigma-code.

Wat staat er in? En waarom wist vrijwel niemand van het bestaan?

Beluister hier de antwoorden in mijn bijdrage aan het Radio 1-programma Nachtkijkers:



Het notitieboek is uiteindelijk voor een bedrag van $ 1.025.000 van eigenaar gewisseld. Zowel de koper als de verkoper zijn vooralsnog onbekend. Hopelijk stelt de nieuwe eigenaar wetenschappers en alle andere geïnteresseerden in staat om het notitieboek van kaft tot kaft te lezen. Turing heeft al zo weinig persoonlijke spullen nagelaten.

Friday, April 10, 2015

Kunstmatige intelligentie: kans of toch risico?

Op 21 april vindt in De Balie in Amsterdam een publiek debat plaats over kunstmatige intelligentie. Tijdens dit debat zal ik een column verzorgen.



Wetenschappers lanceren in een open brief een onderzoekagenda die is gericht op maatschappelijk verantwoord gebruik van kunstmatige intelligentie.

Onderzoek naar kunstmatige intelligentie moet de mensheid ten goede komen en mogelijke nadelen voorkomen. Dat is de essentie van de open brief ‘Robust and Benificial AI’ van grootheden als Elon Musk en Stephen Hawking.

Welke consequenties moet de onderzoekswereld aan die oproep verbinden?
Aanvang: 20.00 uur.
Klik hier voor meer informatie

Wednesday, April 8, 2015

Computer rukt op in gezichtsherkenning


Nog even en camera’s in de openbare ruimte herkennen ons automatisch. Hoe doen ze dat, en hoe lang duurt het nog voor het echt zo ver is?

Lees het hele artikel over gezichtsherkenning door mensen en computers op NPO Wetenschap.

Kijk vanavond ook naar de tv-uitzending van De Kennis van Nu op NPO 2 (19.20) en luister naar de radio-uitzending op radio 5 (22.00). Allebei staan in het teken van gezichtsherkenning.

Monday, April 6, 2015

Digitaal in Estland wonen

VPRO's Tegenlicht zond gisteren een prachtige reportage uit over het e-Residency dat Estland sinds begin dit jaar aanbiedt.



In oktober 2014 sprak ik al op Radio 1 over deze vorm van digitaal in Estland wonen, naar aanleiding van mijn bezoek aan Estland in mei 2014. Beluister hier de uitzending: