Slim, slimmer, slimst: Wat iedereen zou moeten weten over kunstmatige intelligentie

Vandaag verscheen het prachtige nieuwe magazine van Speakers Academy, met daarin mijn column: 

'Slim, slimmer, slimst: Wat iedereen zou moeten weten over kunstmatige intelligentie'

Sinds het begin van de industriële revolutie zijn technologische innovaties de drijvende kracht van economische groei. De belangrijkste innovatie van dit moment is kunstmatige intelligentie: het steeds slimmer maken van computers en robots. Maar ondanks de spectaculaire toename van het aantal toepassingen van kunstmatige intelligentie in de afgelopen tien jaar, is menselijke intelligentie op tal van terreinen nog superieur. Voor een succesvolle toepassing van kunstmatige intelligentie in uw onderneming of organisatie is het daarom cruciaal om het beste van computers en robots te combineren met het beste van mensen. De toekomst is aan hybride intelligentie.

De superkracht van kunstmatige intelligentie 

In de afgelopen twintig jaar hebben computers ’s werelds beste menselijke spelers verslagen in spellen als schaken, go en recent zelfs poker. Deze computers zijn niet eens meer getraind door mensen, maar hebben zichzelf bovenmenselijk leren spelen door miljoenen malen tegen zichzelf te oefenen en binnen een paar dagen beter te worden dan menselijke wereldkampioenen.

Deze doorbraken in kunstmatige intelligentie hebben tot talloze innovaties geleid. Burgers en consumenten, bedrijven en overheden hebben de afgelopen jaren kennis gemaakt met kunstmatige intelligentie die teksten vertaalt, gezichten en andere beelden herkent, fraude detecteert, artsen helpt bij het stellen van medische diagnoses, producten aanbeveelt bij het online-winkelen en klantenvragen schriftelijk of zelfs mondeling beantwoordt.

Tegelijkertijd zijn fysieke robots geëvolueerd van loodzware armen die alleen maar auto’s in elkaar kunnen zetten naar flexibele, lichtgewicht, lerende robotarmen die in een handomdraai nieuwe taken kunnen uitvoeren. Robots zijn ook mobiel geworden. Ze rijden spullen rond in magazijnen, bezorgen pizza’s en zijn hard op weg als taxi dienst te doen. Ze zijn onze ogen en oren in de lucht en onder water. En robots kunnen steeds beter met ons communiceren. Kunstmatige intelligentie is de drijvende kracht achter de huidige robotica.

Al deze slimme computers en robots worden niet moe, hebben geen last van emoties, maken geen domme fouten en kunnen veel meer informatie verwerken dan zelfs de slimste mensen. Soms kunnen ze zelfs creatief zijn en met onverwachte oplossingen komen. De supermenselijke go-computer deed enkele zetten waarvan de beste menselijke spelers dachten dat het domme zetten waren, maar het bleken geniale zetten te zijn die menselijke vooroordelen over het go-spel genadeloos blootlegden. In de wetenschap hebben computers al nieuwe planeten ontdekt en veelbelovende moleculen voor het maken van nieuwe materialen en geneesmiddelen.

Waarin mensen nog steeds beter zijn dan machines

Toch moeten we ondanks deze superkracht van computers en robots niet onderschatten wat mensen heel goed kunnen. Mensen zijn nog steeds veel beter dan computers en robots in een algemeen lerend vermogen (we kunnen met een en hetzelfde brein leren voetballen, viool leren spelen en een nieuwe taal leren), mensen leren van veel minder voorbeelden, mensen zijn veel beter in sociaal-emotionele intelligentie, in gezond verstand en in verbeelding. Driejarige kinderen begrijpen al meer van de wereld om hen heen dan de beste supercomputer. Het menselijk brein werkt ook ongelofelijk efficiënt: het verbruikt slechts twintig watt, een factor honderdduizend minder dan de beste supercomputers.

Daarnaast zijn onze cognitieve vermogens ingebed in een lichaam van vlees en bloed. We hebben een wil om te leven, te overleven en betekenis te geven aan ons eindige bestaan. Zoals de Britse neurowetenschapper Steven Rose het zegt: “De informatieverwerking waaruit wij bestaan, evolueerde in, en zou weleens in geen ander medium kunnen werken dan in dat van een sociale, emotionele, door seks geobsedeerde primaat van vlees en bloed.”

Tegelijkertijd is de mens altijd een technologisch wezen geweest dat instrumenten bouwt om zijn eigen beperkte capaciteiten mee uit te breiden. De mens ontwerpt zijn instrumenten en die instrumenten veranderen op hun beurt het doen en laten van de mens, of het nu gaat om de uitvinding van het wiel, de stoommachine, de pil of slimme computers en robots.

Hybride intelligentie heeft de toekomst

Door ons te realiseren waarin machines beter zijn dan mensen en waarin mensen beter zijn dan machines, kunnen we nadenken over hoe we het beste van beide werelden kunnen combineren. Alleen zo kunnen we optimaal profijt trekken uit slimme machines. De toekomst is niet aan kunstmatige intelligentie, maar aan hybride intelligentie: mensen samen met machines. Liever een arts die met een slimme computer samenwerkt dan een arts die dat niet doet. Liever een vliegtuig bestuurd door een combinatie van mens en machine dan een vliegtuig dat alleen maar vertrouwt op een van beide.

Elke toepassing van kunstmatige intelligentie, of het de automatische piloot is in een vliegtuig of auto, automatische gezichtsherkenning of een zoekmachine, is nog steeds bedacht en geprogrammeerd door mensen. De mens houdt de supervisie, ontwerpt de interface tussen mens en machine, voedt de machine met voorbeelden, doet de aanpassingen en de tests in de praktijk. Hiermee is elk kunstmatig intelligente systeem in essentie nog steeds een mens-machine-systeem.

Tenslotte, wanneer kunstmatige intelligentie in een organisatie wordt geïntroduceerd, dan verandert er niet alleen iets voor de werknemers die de toepassing gebruiken (bijvoorbeeld de chirurg die de operatierobot bedient), maar vaak verandert de hele dynamiek in een organisatie (bijvoorbeeld de dynamiek tussen de chirurg en zijn assistenten die naast de operatierobot staan). Willen we kunstmatige intelligentie optimaal benutten, dan is het belangrijk om ook voor deze dynamiek oog te hebben.

Net zoals de stoommachine, de elektriciteit en de verbrandingsmotor in de 19e en 20e eeuw, is kunstmatige intelligentie in de 21e eeuw een general-purpose-technologie die vrijwel alle sectoren in de samenleving gaat veranderen: van de gezondheidszorg tot de detailhandel, van de landbouw tot de financiële sector, van het onderwijs tot de energiesector. Kunstmatige intelligentie is een soort turbo-boost voor de menselijke geest.

Kunstmatige intelligentie helpt ons bij het optimaliseren van oplossingen voor talloze problemen, maar wij als mensen bepalen wat we willen optimaliseren en wat als optimaal geldt. Uitgangspunt zou steeds moeten zijn dat de mens met computers en robots meer floreert dan zonder.




Over  dr. ir. drs. Bennie Mols
Bennie Mols is wetenschapsjournalist (o.a. voor NRC Handelsblad), auteur en spreker. Hij is gespecialiseerd in kunstmatige intelligentie, robots en het menselijk brein. Met zijn achtergrond als gepromoveerd natuurkundige en afgestudeerd filosoof biedt hij een unieke, multidisciplinaire kijk op de digitalisering van onze samenleving. Hij geeft regelmatig commentaar op radio en tv over actuele onderwerpen in de kunstmatige intelligentie en robotica. Hij is ook auteur van de succesvolle populair-wetenschappelijke boeken Turings tango (over kunstmatige intelligentie) en Hallo robot (over robots). Voor de WRR schreef hij als onafhankelijk expert het working paper Internationaal AI-beleid − Domme data, slimme computers en wijze mensen.

Voor lezingen van mij over kunstmatige intelligentie (AI), robots, het menselijk brein, Alan Turing en alles rondom de digitalisering van de samenleving kunt u contact opnemen met Speakers Academy

We need more realism in communicating AI and robotics

This article was written for the blog of the World Summit AI-conference in Amsterdam (10 & 11 October 2018)

In 1965 AI-pioneer Herbert Simon predicted that “machines will be capable, within 20 years, of doing any work a man can do.” It was one of the first overpromises of AI and robots, but by far not the last.

In 2011 the IBM supercomputer Watson stunned the world by winning the tv-quiz Jeopardy, beating the two best humans of all times with a large margin. Ken Jennings, one of the two defeated humans, famously said at the end of the quiz: “I, for one, welcome our new computer overlords.” In the years that followed IBM cleverly developed the vision of revolutionising health care by using a retrained Watson to assist human doctors in making improved medical diagnoses.

This year, seven years after Watson won Jeopardy, IBM sacked two-thirds of its Watson Health division. A STAT-investigation concluded: “IBM pitched its Watson supercomputer as a revolution in cancer care. It’s nowhere close.”

The chances are high that in the long run AI really is going to improve healthcare in the way IBM envisions. However, it’s one thing to develop AI that works well on an academic lab scale. It’s a very different thing to transform that same system into a something that works well in the messy, everyday world. We see this also with the self-driving car. The self-driving car still has to overcome some unsolved fundamental problems before it can really drive us without any human intervention from A to B: driving in all types of weather, understanding what it sees in a wider context, communicating with other vehicles in order to predict their behaviour, to name a few remaining challenges.

In the everyday world, data that feed into an AI-system are often messy and biased. AI-systems also lack a lot of common sense that humans have. They can be fooled in very different ways than humans. And once a company implements an AI-system into its everyday working processes, the dynamics inside the organisation changes and new inefficiencies might arise. A surgical robot not only changes the work of the human surgeon, who does not stand any longer next to the patient. The surgical robot also changes the work of the assistants that still do stand next to the patient at the operating table. Suddenly they need some new skills to deal with the robot.

Given AI’s long history in over-promising and under-delivering − especially in the 60’s and 80’s − it would be much better for AI-developers to promise less and deliver more. Better for citizens and consumers, better for politicians and policy-makers. We should listen less to futurists that promise us a utopian future, less as well to the doom thinkers that predict that intelligent machines will take over the world. Both views are equally improbable. AI is a kind of laser-intelligence: very powerful, but in a very narrow area. By comparison, human intelligence is more like a classical light bulb: not as powerful as a laser, but illuminating a much larger area.

In communicating about AI and robots we need a lot more realism. And that’s the reason that I decided to write the book Hallo Robot − Meet Your New Workmate and Friend, together with my colleague Nieske Vergunst. The book is published this week.

For the book we interviewed the scientists and engineers who design and build robots, but also the psychologists who study the interactions between humans and robots, and the economists who work on the impact of automation on the labour market. We asked for input from professionals who use robots on a daily basis, and we spoke with people outside the field of professional robotics: from an amateur robotics enthusiast to a comedian who is fascinated by robots. Through their stories, we hope to find out how the robot works, what it can do well, what it can’t yet do, what we can expect in the near future, and how humans can use robots to make their lives better.

Humans have a lot of cognitive and physical limitations, and we can live better lives if we find clever ways to overcome these limitations. So, the most important question about AI and robots for the next decades is how humans and machines can work side by side in such a way that they perform better together than humans or machines can do alone. Even a very smart machine is still designed, built, programmed and maintained by humans. You can’t get the human out of the machine, so the responsibility rests on us.

Slim

Deze column heb ik geschreven in het relatiemagazine 360-graden van HEVO van april 2016: een themanummer over slim vastgoed. Het magazine kunt u via bovenstaande link downloaded.

Een paar jaar geleden interviewde ik de vader van het Internet, de Amerikaan Vint Cerf. Hij vertelde me de volgende anekdote. Zijn huis hangt vol met sensoren die elke vijf minuten de temperatuur in elke kamer meten. Alle data worden bewaard en aan het eind van het jaar evalueert hij de energiehuishouding. Waar kan de isolatie beter? Waar loeit de airconditioning te hard?

Toen vertelde Cerf over zijn wijnkelder: “de belangrijkste kamer in mijn huis”. Ook daar meten sensoren elke vijf minuten de temperatuur. Als het warmer wordt dan 15,5 graden, ontvangt hij een waarschuwing op zijn smartphone.

Op een dag moest hij voor drie dagen naar Chicago. Toen hij daar aan kwam, ontving hij een waarschuwing: de wijnkelder liep gevaar. Maar er was niemand thuis. Zijn vrouw was drie weken weg. Cerf kon niet een-twee-drie terugkeren. Drie dagen lang waarschuwde zijn smartphone elke vijf minuten.

“Weer wat geleerd”, concludeerde Cerf. Hij zou de temperatuur van zijn wijnkelder via het internet op afstand instelbaar maken.

Cerf is een voorloper als het gaat om het slim maken van het eigen huis: Uw thermostaat die van uw gedrag leert hoe hij zich op welk moment van de dag het beste kan instellen. Uw woonkamer die leert om de sfeer met verlichting, muziek en op de wanden geprojecteerde foto’s of films aan te passen aan uw behoeften. Slimme wanden die van vorm veranderen en meer geluid absorberen wanneer u naar harde muziek wilt luisteren zonder de buren te storen. Onze huizen krijgen steeds meer robotische trekjes.

Ooit was ‘slim’ een eigenschap die we reserveerden voor mensen en dieren, voor biologische wezens met een stel hersenen. Toen vond de mens de computer uit, die in de beginjaren nog ‘elektronisch brein’ werd genoemd. Dat apparaat werd steeds slimmer. Het versloeg de beste menselijke schaker, het leerde razendsnel onze zoekopdrachten te beantwoorden en onze teksten automatisch te vertalen. Het begon steeds meer dingen te kunnen waarvan we dachten dat alleen het menselijk brein ze kon. Steve Jobs noemde de computer ‘een fiets voor de geest’.

Desondanks was de computer decennialang slecht in het zelf leren van nieuwe dingen. Precies dat is nu aan het veranderen. Zelflerende computers ontketenen een revolutie. De zelflerende computer, die automatisch leert van al onze medische gegevens, gaat diagnoses en behandelingen verbeteren. De zelfrijdende auto − een zelflerende computer op vier wielen − gaat het aantal ongelukken terugdringen. De zelflerende computer gaat huizen en steden slimmer en duurzamer maken.

De zelflerende computer kan u superslim maken. Maar dat gaat niet vanzelf. Dan moet u wel willen leren hoe u uw eigen slimheid zo goed mogelijk combineert met die van uw zelflerende computer: een levenslange tango tussen uw biologische en uw elektronische brein.

Machines die denken - Zij aan zij

Jaarlijks stelt John Brockman, oprichter van het vermaarde discussieplatform Edge.org, één vraag aan een selectie van de meest interessante wetenschappers, auteurs en kunstenaars ter wereld. De antwoorden worden gebundeld en in boekvorm uitgegeven. In 2015 luidde die vraag: "Hoe denk je over machines die denken?"

Steven Pinker, Nicholas Carr, Daniel Dennett, Brian Eno, Matt Ridley, Luc Steels en 183 anderen geven antwoord. 

Stephen Hawking luidde de noodklok: we moeten ons voorbereiden op de komst van computers die slimmer zijn dan wij, anders betekent het ons einde. 

Brian Eno stelt dat we al veel meer onderdeel zijn van een kunstmatige intelligentie dan we denken. 

Kevin Kelly ziet het creëren van kunstmatige intelligentie juist als het ultieme doel van de mensheid.

Uitgeverij MAVEN publiceert in april 2016 de Nederlandse vertaling van dit boek, met daaraan toegevoegd enkele essays van Nederlandse bodem. Zelf schreef ik onderstaande bijdrage, getiteld: "Zij aan zij".

Zij aan zij

Ik kan niet wachten tot de eerste robot verliefd wordt op mij en ik op haar. Ik wil weten hoe dat voelt. Maar dan moet ze wel zo geprogrammeerd zijn dat ze niet klaagt over de afwas of over kleren die in de slaapkamer rondslingeren. En ze moet vooral ook precies weten wanneer ze haar mond moet houden omdat ik niet te veel gezeur aan m’n kop wil. Sorry lieve robot.

Bij nader inzien weet ik eigenlijk helemaal niet of ik zo’n robot wel wil. Er zijn genoeg mensen om verliefd op te worden. En juist het feit dat de ander haar eigen wil heeft − hoe bloedirritant soms ook − geeft het leven kleur. En ja, mijn leven is een mensenleven, geen robotleven. Ik wil vooral een robot die mijn eigen beperkte menselijke capaciteiten aanvult en uitbreidt. Eentje die met me meedenkt en met me meewerkt. Eentje die me helpt bij het sjouwen van een zware kast, eentje die mijn autoritten veiliger en aangenamer maakt, eentje die mijn huisarts ondersteunt bij het stellen van de juiste medische diagnose en het voorstellen van de beste behandeling, eentje die me adviseert bij het plannen van mijn dagelijks leven op een manier die past bij mijn persoonlijkheid.

Ik wil een robot als maatje en als collega, niet om mensen te vervangen, maar om nieuwe mogelijkheden te creëren. En omdat wij mensen robots ontwerpen, bouwen en programmeren, is het aan ons om ze niet te laten doen wat wij niet willen. We kunnen een leeuw niet programmeren om geen mens aan te vallen en op te peuzelen; biologische evolutie heeft anders besloten. Bij een robot kunnen we dat wel. Sterker nog, we hebben de morele verplichting om de robot zo te programmeren dat hij mensen geen letsel toebrengt.

Sinds de uitvinding van de eerste computers en robots eind jaren veertig van de twintigste eeuw duiken de verhalen over denkende machines die de wereld overnemen met grote regelmaat op in de massamedia. Niet omdat ze realistisch zijn, maar omdat ze inspelen op angst, omdat ze spanning toveren op Hollywoods witte doek. Soms is de denkende machine een computer (zeg maar alleen brein), soms is de denkende machine een robot (zeg maar een brein plus een lichaam).

Het realistische verhaal is dat onze denkende machines − in hoeverre ze al kunnen denken is een filosofische kwestie die ik hier achterwege laat − de wereld helemaal niet overnemen, maar de mens effectiever laten functioneren. Dankzij slimme software zoals zoekalgoritmes kan ik als wetenschapsjournalist veel sneller dan twintig jaar geleden wetenschapsnieuws oppikken, duiden en verspreiden. En wat voor mij geldt, geldt voor velen op hun eigen terrein. Dankzij denkende machines kunnen we meer doen in minder tijd en op een slimmere manier. Hopelijk leidt dat tot betere uitkomsten voor onszelf, voor de maatschappij en voor de wereld, maar dat ligt vooral aan ons. Vooralsnog heeft de denkende machine geen enkel bewustzijn van wat hij wel of niet doet.

Het realistische verhaal is dat van ‘mens en machine − zij aan zij’. Hollywood mag dit scenario dan niet zo spannend vinden, voor de vooruitgang in de wetenschap en de techniek, en voor de vooruitgang van de mensheid, is het des te relevanter. In een wereld die steeds gecompliceerder wordt, hebben we denkende machines hard nodig. Straks willen we niet meer zonder. De autonome auto zal veel verkeersdoden voorkomen. De supercomputer die in een oogwenk alle medische literatuur doorploegt, zal zorgen dat artsen betere diagnoses stellen en betere behandelingen voorschrijven. De vertaalcomputer versoepelt de communicatie tussen mensen die verschillende talen spreken (het fundamentele onbegrip tussen mensen, zelfs wanneer ze dezelfde taal spreken, zal geen enkele denkende machine gaan oplossen).

De echte sprong voorwaarts in denkende machines moet trouwens nog komen. De vooruitgang die kunstmatige intelligentie in de afgelopen decennia heeft geboekt, hebben we voor een groot deel te danken aan betere hardware: snellere computerchips, meer dataopslag en verregaande miniaturisering. De grootste doorbraak in denkende machines gaat komen wanneer we begrijpen hoe het menselijk brein denkt en wanneer we dat begrip weten te vertalen in lerende computersoftware. De lerende software van nu staat pas in de kinderschoenen.

De denkende machine van de nabije toekomst wordt een soort idiot savant van silicium. En omdat de siliciumwereld van de computer en de robot aan de ene kant, en de koolstofwereld van ons mensen aan de andere kant, niet compatibel zijn, zijn de denkende machine en de denkende mens twee verschillende soorten. De mens draagt de rommelige evolutionaire geschiedenis van de bacterie, de vis en de aap in zich. De denkende machine heeft daar geen last van. Zolang de denkende machine niet op dezelfde manier kan deelnemen aan het leven zoals wij mensen dat leiden, zal hij anders denken dan de mens. Maar daar is niets mis mee. Ik zie zo’n denkende machine als een machine die de mens meer mens maakt.

In de verre toekomst zal het onderscheid tussen denkende machines en denkende mensen trouwens steeds meer vervagen. Nieuwe materialen zullen van de harde robots van nu zachte robots maken, met materiaaleigenschappen die steeds meer lijken op die van een mens van vlees en bloed. Nieuwe implantaten zullen kunstmatige intelligentie steeds meer meer op en in het lichaam brengen.

Dankzij machines die denken is de mens niet langer zo alleen in het universum. En waar de mens, een biologische zak vol sterrenstof als hij is, ongeschikt is om zijn vleugels uit te slaan naar het voor het overgrote deel voor levende wezens zo vijandige universum, daar kunnen denkende machines onze gezanten zijn, onze lifters in het heelal.

Zal de mens ooit verliefd worden op zijn ruimterobots?

More afraid of stupid people than of smart machines

Here is the column that I have read yesterday at a debate in De Balie about the chances and risks of artificial intelligence, on request of the technology magazine De Ingenieur.

I have also written a Dutch version, which can be read here.

This is the flattering reaction on Twitter of Frank van Harmelen, professor in Knowledge Representation & Reasoning at the Free University in Amsterdam.

Okay, here's my column:

“Technology has given life the opportunity to flourish like never before...or to self-destruct.”

This is not a sentence that I have made-up myself. These are the swollen words of the Future of Life institute. The institute investigates the impact of the development of superintelligent computers and robots. In an open letter the institute calls for the development of artificial intelligence whose positive impact is maximized and whose negative impact is minimized. Who would not want that?

There is only one problem: any technology can be used both for the good and for the bad. With a knife, you can cut bread, or someone’s throat. A robot plane that kills terrorists, can in the hands of terrorists just as easily kill innocent civilians. Nothing human will be alien to the robot of the future.

The international media have interpreted the open letter as a warning against superintelligence. Of course. For decades the media have enthusiastically covered predictions about computers and robots outsmarting and eventually subduing humans.

However, the reality of today and also of the coming decades, is much less sexy. Let me quote Pedro Domingos, an American top researcher in the field of artificial intelligence. He says, and I quote: “Everybody’s so worried about computers becoming really, really smart and taking over the world, whereas in reality what’s happened right now is computers are really, really dumb and they’ve taken over the world. The world cannot function without computers anymore. It would be better if they were smarter.” End of quote.

One of the founders of the Future of Life institute, Victoria Krakovna, reacted surprised about the one-sided focus of the media on superintelligence. What a surprise! That’s what you get when you let the whole world know that you investigate artificial intelligence in the context of − and I quote again − “existential risks facing humanity”.

The Future of Life institute should emphasize that all intelligent systems are still a collaboration between human and artificial intelligence. But yeah, that sounds a lot less sexy.

In this cooperation the smart machine will do tasks in which it excels: rapidly processing information, infallible memory and never getting tired. Humans will do the things they do much better than the machine: understanding the context, understanding intentions and emotions, using creativity, developing ethical norms and values.

The cooperation between man and machine can be a matter of life or death. Let me illustrate this with two examples.

Two weeks ago it was disclosed that on December 14, 2014 the automatic pilot of a Scottish plane of the company Loganair had directed the plane into an almost fatal crash. The plane was hit by lightning. The autopilot ran crazy and steered the plane into a steep descent. The autopilot even blocked the quick intervention of the human pilot. Barely twenty seconds before the plane would have crashed, the human pilot managed to pull up the plane in a final attempt.

Much less fortunate were the passengers of the Turkish Airlines plane that flew to Amsterdam on February 25, 2009. As the plane approached Schiphol Airport and flew at an altitude of six hundred meters, the altimeter suddenly showed minus two meters. The automatic pilot concluded that the aircraft had already landed and rapidly diminished the engine power. The human pilots understood this mistake too late and the plane crashed near Schiphol. There were 9 deaths and 120 injured.

These are two examples of the Automation Paradox. The Automation Paradox states that the more automation, the more crucial is the human intervention in case the thinking machine makes a mistake. And there is always a chance for a mistake.

With increasing automation, we will increasingly hit against this paradox. Automation shifts the point where mistakes are made: for example, from operators, pilots and drivers to the programmers who write the software and to the interaction between human and machine.

The Automation Paradox has two causes. First, people tend to trust machines more than their own common sense. This can lead to an over-reliance on automation. Second, more automation means less practice for human operators. This increases the risk on an accident in case the human has to correct the machine, just like in the accident with the Turkish Airlines plane.

To tackle the paradox, we need to consider humans as an integral part of any artificially intelligent system. And to ensure that operators remain sufficiently trained in their human skills, we occasionally need to switch off automated systems during training sessions.

According to the open letter of the Future of Life institute, artificial intelligence can contribute to the worldwide eradication of poverty and disease. Unfortunately, non-technological problems are never solely solved by technology. Smart computers and robots will only make mankind more successful when we put humans and not machines in the heart of our thinking. Our challenge for the future is how to combine the best of two different worlds: the best of human and the best of artificial intelligence. In this effort we should be more afraid of stupid people than of smart machines.

Banger voor domme mensen dan voor slimme machines

Tijdens een debat over de kansen en risico's van kunstmatige intelligentie gisteren in De Balie, las ik een Engelstalige column voor. Hier is de Nederlandse versie, ook gepubliceerd op de website van technologietijdschrift De Ingenieur:

“Technologie heeft het leven de gelegenheid gegeven om te floreren als nooit te voren…of om zichzelf te vernietigen.”

Deze tekst heb ik niet zelf verzonnen, dit zijn de ronkende woorden van het Future of Life-instituut. Het instituut onderzoekt de gevolgen van de ontwikkeling van slimme computers en robots tot bovenmenselijk niveau. In een open brief roept het instituut op kunstmatige intelligentie te ontwikkelen waarvan de positieve gevolgen maximaal zijn en de negatieve gevolgen minimaal. Zelden heb ik een grotere open deur gehoord. Wie wil dat nou niet?

Er is alleen één probleem: elke technologie kan goedschiks of kwaadschiks worden gebruikt. Met een mes kun je een brood snijden, of iemand de keel doorsnijden. Een robotvliegtuig dat terroristen neerschiet, kan in de handen van terroristen net zo gemakkelijk onschuldige burgers dood schieten. Niets menselijks is de toekomstige robot vreemd.

De internationale media hebben de open brief opgevat als een waarschuwing tegen superintelligentie. Natuurlijk. Media smullen al decennialang van het verhaal dat computers en robots mensen overvleugelen. De realiteit van vandaag en van de komende decennia is echter veel minder sexy. Pedro Domingos, een Amerikaanse toponderzoeker op het terrein van de kunstmatige intelligentie, zegt het als volgt: “Iedereen is zo bang dat computers heel slim worden en de wereld overnemen, terwijl de realiteit is dat computers heel dom zijn en de wereld al hebben overgenomen. We kunnen geen dag zonder ze; de wereld functioneert niet meer zonder computers. Het zou beter zijn wanneer ze slimmer zouden zijn.”

Een van de oprichters van het Future of Life-instituut, Victoria Krakovna, reageerde verbaasd op de eenzijdige focus van de media op superintelligentie. Eigen schuld, dikke bult. Dat krijg je ervan wanneer je zelf rond toetert dat je kunstmatige intelligentie onderzoekt in de context van − en ik citeer − “existentiële risico’s waarvoor de mensheid staat”.

Het Future of Life-instituut had veel beter kunnen benadrukken dat de intelligente systemen van de toekomst een samenwerking tussen menselijke en kunstmatige intelligentie zullen zijn. Maar ja, dat klinkt veel minder sexy.

In die samenwerking doet de slimme machine waarin hij uitblinkt: razendsnel informatie verwerken, een feilloos geheugen en nooit moe worden. De mens doet wat hij beter kan: het begrijpen van de context, het begrijpen van intenties en emoties, het gebruiken van creativiteit, het ontwikkelen van normen en waarden. Dat de samenwerking tussen mens en machine een kwestie is van leven of dood wil ik illustreren aan de hand van twee voorbeelden.

Twee weken geleden werd bekend dat op 14 december 2014 de automatische piloot van een Schots vliegtuig van Loganair het toestel bijna liet crashen. Het vliegtuig was getroffen door de bliksem. De automatische piloot sloeg op hol en stuurde het toestel steil naar beneden. De automaat hield zelfs het ingrijpen van de menselijke piloot tegen. Nauwelijks twintig seconden voor het toestel zou crashen, lukte het de menselijke piloot in een uiterste poging om het toestel weer omhoog te trekken.

Veel minder geluk hadden de passagiers van het Turkish Airlines toestel dat op 25 februari 2009 naar Amsterdam vloog. Toen het vliegtuig Schiphol naderde en op zeshonderd meter hoogte vloog, gaf de hoogtemeter plotseling min twee meter aan. De automatische piloot trok de conclusie dat het vliegtuig al geland moest zijn en verminderde razendsnel het motorvermogen. De menselijke piloten begrepen deze fout te laat en het toestel crashte vlakbij Schiphol. Er vielen 9 doden en 120 gewonden.

Dit zijn twee voorbeelden van de Paradox van de Automatisering. De Paradox van de Automatisering stelt dat hoe meer automatisering, hoe crucialer ingrijpen door de mens wanneer de denkende machine toch een fout maakt. En die kans is er altijd.

Met de toenemende automatisering, zullen we steeds vaker tegen deze paradox aan lopen. Automatisering verschuift het punt waarop fouten worden gemaakt: van bijvoorbeeld operators, piloten en chauffeurs naar de programmeurs die de software schrijven en naar de interactie tussen mens en machine.

De Paradox van de Automatisering heeft twee oorzaken. Ten eerste hebben mensen de neiging om machines eerder te vertrouwen dan hun eigen gezonde verstand. Dat kan leiden tot een te groot vertrouwen in automatisering. Ten tweede kan meer automatisering ertoe leiden dat menselijke operators minder vaardig worden wanneer ze onverhoopt toch moeten ingrijpen. Om de paradox te lijf te gaan, moeten we de mens als een integraal onderdeel van een kunstmatige intelligent systeem beschouwen. En om te zorgen dat operators hun menselijke vaardigheden voldoende blijven trainen, moeten we automatische systemen af en toe uitschakelen.

Volgens de open brief van het Future of Life-instituut kan kunstmatige intelligentie bijdragen aan het wereldwijd uitbannen van armoede en ziekte. Helaas worden niet-technologische problemen nooit alléén maar opgelost door technologie. Slimme computers en robots zullen de mensheid alleen maar succesvoller maken wanneer we niet de machine, maar de mens centraal stellen. De uitdaging voor de toekomst is hoe we het beste van menselijke en kunstmatige intelligentie combineren. Daarbij moeten we banger zijn voor domme mensen, dan voor slimme machines.

Stephen Hawking orakelt als een pseudo-wetenschapper

Op verzoek van Het Parool schreef ik het volgende opiniestuk in reactie op de recente uitspraken van Stephen Hawking over kunstmatige intelligentie (Gepubliceerd vrijdag 5 december 2014 in 'Het Laatste Woord')

Ooit was Stephen Hawking een topnatuurkundige. Door de ernstige neurologische ziekte ALS kwam aan zijn wetenschappelijke carrière helaas veel te vroeg ten einde. De laatste decennia is de aan een rolstoel gekluisterde Stephen Hawking vooral een bedrijf. Een bedrijf dat lezingen en boeken verkoopt. Een bedrijf dat in waarde stijgt wanneer Stephen Hawking zich presenteert als het moderne orakel van Delphi dat zijn licht laat schijnen over de toekomst van de mensheid.

Op 2 december sprak het orakel met zijn bekende computerstem tegenover de BBC over steeds slimmer wordende computers en robots: “De ontwikkeling van kunstmatige intelligentie kan het einde betekenen van de mensheid.” Robots kunnen zich vermenigvuldigen en de wereld overnemen, daar komt het op neer. Een Hollywood-scenario dat uitblinkt door een gebrek aan originaliteit. En waar Hollywood zich elke verdraaiing van de werkelijkheid mag veroorloven, zou Stephen Hawking beter moeten weten.

De feiten zijn glashelder. Ruim zestig jaar na de bouw van de eerste elektronische computers hebben slimme computers en robots onze wereld wel degelijk ingrijpend veranderd. Onze auto’s worden in elkaar gezet door robots. Binnenkort worden we zelf rondgereden door robotauto’s (pas wel op voor de onvermijdelijke fouten van de zelfrijdende auto). Computers gaan artsen helpen bij het stellen van diagnoses en het voorstellen van behandelingen. Door kunstmatige intelligentie zullen snelwegen veiliger worden en artsen minder medische missers maken.

Maar de feiten zijn ook dat geen enkele robot het gezond verstand heeft van een zesjarig kind. En hoewel robots zich in theorie kunnen voortplanten, hebben ze tot nu toe geen aandrang getoond. Onze slimste computers hebben de beste menselijke spelers verslagen met schaken en in de kennisquiz Jeopardy, maar ze leven niet, ze hebben geen bewustzijn, geen persoonlijk leven, geen lichaam en zijn beperkt in hun leervermogen. Daarnaast verbruiken ze ook nog eens driehonderdduizend maal zoveel energie als het menselijk brein.

Volgens de wet van Moore verdubbelt de rekenkracht van computers ongeveer elke twee jaar. De rekenkracht van het menselijk brein neemt echter niet toe. Ergo, zo redeneren mensen als Hawking: kunstmatige intelligentie zal binnen een paar decennia de menselijke intelligentie voorbij streven. Dit argument snijdt geen hout. Menselijke intelligentie is niet equivalent aan het aantal rekenoperaties per seconde. Zolang we onvoldoende begrijpen hoe het menselijk brein bewustzijn creëert, hoe het patronen herkent, hoe het leert en hoe het creatief is, weten we ook niet hoe we menselijke intelligentie in een computerprogramma moeten gieten.

De media smullen van uitspraken zoals die van Stephen Hawking. Maar het merendeel van de wetenschappers op het terrein van kunstmatige intelligentie hoont ze weg. Dat iets in theorie kan, betekent nog lang niet dat iets ook in de praktijk kan. In theorie kan morgen de wereldvrede uitbreken. In theorie kan de mens morgen met 99% van de lichtsnelheid door het heelal reizen. Beide zijn even onwaarschijnlijk. Hetzelfde geldt voor robots die de wereld overnemen.

Hawkings uitspraak leidt de aandacht af van de echt belangrijke vraag: hoe laten we menselijke en kunstmatige intelligentie − die verschillend van karakter zijn − het beste met elkaar samenwerken? Elk kunstmatig intelligent systeem, van de zoekmachine tot de automatische piloot, is nog steeds bedacht en geprogrammeerd door mensen. De mens houdt de supervisie, doet de aanpassingen en ontwerpt de communicatie tussen mens en machine.

Pedro Domingos, een Amerikaanse toponderzoeker op het terrein van de kunstmatige intelligentie, zei ooit: “Iedereen is zo bang dat computers heel slim worden en de wereld overnemen, terwijl de realiteit is dat computers heel dom zijn en de wereld hebben overgenomen. We kunnen geen dag zonder ze; de wereld functioneert niet meer zonder computers. Het zou beter zijn wanneer ze slimmer zouden zijn.”

Wanneer Stephen Hawking zegt dat kunstmatige intelligentie het einde kan inluiden van de mens, dan orakelt hij als een pseudo-wetenschapper. Hoe leggen we in de door ebola getroffen Afrikaanse landen uit dat een ooit vooraanstaand natuurkundige zich nu druk maakt over robots die de mensheid gaan uitroeien?

Why I love the ‘leave-me-alone’ box

We humans are programmed by nature:

IF (the telephone rings) OR (an e-mail arrives) OR (a text message pops up)

{Somebody wants to catch the attention of your universe}

THEN you behave like Pavlov’s dog

{In the Digital Age we have all become Pavlovian information dogs}

STOP

But then your conscious you interrupts your unconscious you and you think: “leave me alone”.

Do you know that this feeling has been materialized in the brilliantly simple ‘leave-me-alone’ box?

Machines are built to perform useful tasks. Not so for the ‘leave-me-alone’ box. All it does when you switch it on…is to switch itself off. And it does this in a beautiful mechanical way: a small hammer pushes the switch back to the off-mode. Here you can see it at work:

When the first computers were just being born − in the 1950’s − artificial intelligence pioneer Marvin Minsky came up with the idea for this box. In 1952 he wanted to call it the ‘The ultimate machine’. 'Ultimate', because it’s the simplest ‘digital’ machine that does something, but what is does is also the simplest thing: namely to turn itself off.

Additional beauty: the ‘digital’ machine does this in a mechanical (so analog) way.

As we humans love to anthropomorphize our machines, somebody named it the ‘leave-me-alone’ box. The rest is history. YouTube-views of only the previous video reaches over ten million. Geeks love the ‘leave-me-alone’ box.

Over the decades people have built their own versions of the ‘leave-me-alone’ box. Here you can find ten bizarre useless machine. And this is a great one built with LEGO:



But nothing beats the most naked version of the ‘leave-me-alone’ box:

0 stays 0. Forever.

Turn the machine to state 1 (ON), and 1 turns into 0 (OFF) right away: “leave me alone”. A digital universe with 0 as the only stable state of mind.

No machine can be more Zen than the ‘leave-me-alone’ box.

Happy birthday to the Macintosh - 30 jaar Apple Macintosh

Op 24 januari 1984, vandaag precies 30 jaar geleden, bracht Apple de Macintosh computer op de markt, de eerste computer met een grafisch interface. Klikken op icoontjes, in plaats van worstelen met tekstcommando's. Ineens werd de computer een apparaat voor iedereen.

De fameuze Macintosh-1984-commercial:





Bekijk hoe Steve Jobs in 1984 de Macintosh onthulde:





Beluister hier mijn radiopraatje bij De Kennis van Nu (dinsdag 21 januari) over hoe Apple 30 jaar geleden de wereld schokte.

Lees op de website van W24 mijn column over de onthulling van de Apple Macintosh. Op 22 januari 1984 zond Apple op de Amerikaanse TV de wereldberoemd geworden 1984-reclame uit ter aankondiging van de Macintosh. Hoe anders ziet de wereld er 30 jaar later uit...

Bij BNR Digitaal van woensdag 22 januari spraken Herbert Blankesteijn en Jack Nouws over 30 jaar Macintosh.

En de NOS schreef vandaag dit over 30 jaar Mac.

Artikel op Mashable: 'The Mac turns 30'

Video gemaakt door Apple zelf over 30 jaar innovatie van de Mac:

De 0,21 vrouwen van Zomergast Wouter Bos

'Hállo zeg: er zaten welgeteld 0,21 vrouwen in de Zomergastenaflevering met Wouter Bos', zo luidt de kop boven een Volkskrant opinie-artikel van Jacq.Veldman.

“En ik heb dit uitgerekend op mijn rekenmachine”, staat er ook nog bij. Gelukkig. Dat stelt gerust.

Ik bleef alleen met een vraag zitten...‘0,21 vrouwen?’ Wat betekent dat in hemelsnaam?

Dat er 0,21 % van de tijd een vrouw in beeld is geweest?
Dat er 21% van de tijd een vrouw in beeld is geweest?
Dat er 0,21% van de tijd een vrouw aan het woord is geweest?
Dat er 21% van de tijd een vrouw aan het woord is geweest?
Dat er in 21% van de fragmenten een vrouw in beeld is geweest?
Dat er in 0,21% van de fragmenten een vrouw in beeld is geweest?
Dat er in 21% van de fragmenten een vrouw aan het woord is geweest?
Dat er in 0,21% van de fragmenten een vrouw aan het woord is geweest?

En de mogelijkheden zijn nog lang niet uitgeput…

Is de verhouding tussen het aantal vrouwen dat in beeld is geweest en het aantal mannen misschien 0,21?

Is er misschien alleen maar 0,21e deel van een enkele vrouw in beeld geweest?

...enzovoort...

Tellen is vaak nuttig, maar geef dan wel aan wat je telt.

En als duidelijk is wat er is geteld, dan is de volgende - en belangrijkste vraag: wat zegt dat getal in hemelsnaam? Niet alles wat je kunt tellen telt, en niet alles wat telt kun je tellen.

Maar er gloort hoop:

Een dag na het onthullende nieuws dat er “welgeteld 0,21 vrouwen in de Zomergastenaflevering met Wouter Bos” zaten, heeft het Californische start-up-bedrijf BrainPolice 0.21 bekend gemaakt dat het nog dit najaar op de markt komt met de Jacq. Veldman-headset. Persvoorlichter Winston Smith van BrainPolice 0.21: “De headset meet instantaan de verhouding tussen de tijd die het brein van een Zomergast aan een vrouw besteedt en de tijd die hetzelfde brein aan een man besteedt. Die verhouding noemen we uiteraard de Jacq. Veldman-verhouding. De Jack.Veldman-headset bepaalt die verhouding met een nauwkeurigheid van 0,21%”.

In het voorjaar van 2014 levert BrainPolice 0.21 een revolutionaire uitbreiding van de Jacq. Veldman-headset. Winston Smith: “Een aangekoppelde Transcraniële Magnetische Stimulatie-module zal dan in staat zijn om de gedachten van een Zomergast instantaan te corrigeren: wanneer de Jacq. Veldman-verhouding meer dan 0,21% afwijkt van het magische getal 0,5 dan wordt het brein van de Zomergast dankzij de magnetische stimulatie meteen gecorrigeerd. Wij garanderen dat alle Zomergasten evenveel aandacht voor vrouwen als voor mannen hebben, in ieder geval in hun eigen brein en in het kiezen van de filmfragmenten. Zowel onze headset als onze TMS-module gebruikt natuurlijk het sublieme Jacq. Veldman-algoritme, uitgerekend op haar rekenmachine. Verbeter de wereld, koop de Jacq.Veldman-headset.”

Nobelprijs dankzij multiculti

In een tijd waarin Europese landen zich terugtrekken in nationalisme, is de wetenschap een verademing. Samen met zijn collega Konstantin Novoselov won Andre Geim dinsdag de Nobelprijs Natuurkunde. Geim werd in 1958 geboren in Sochi, nu Rusland, destijds Sovjet-Unie. Zijn ouders zijn Duitse Joden. Na zijn promotie als natuurkundige zwierf hij als postdoconderzoeker naar Denemarken, Engeland, Nederland en weer Engeland. Een zwerftocht doortrokken van diverse culturen. Hij werkte tussen 1994 en 2001 aan de Radboud Universiteit Nijmegen en kreeg een Nederlands paspoort. Geim en Novoselov deden hun Nobelprijswinnende ontdekking in 2004 echter in het Engelse Manchester.

NRC Handelsblad kopte na de bekendmaking van de Nobelprijs op de website: “Nobelprijs voor Nederlandse natuurkundige.” de Volkskrant: “Nobelprijs voor Nederlander.” Als hij maar wint, dan is elke ‘buitenlander’ ineens helemaal van ons. BBC News is eerlijker en schrijft: “Nobelprijs Natuurkunde voor de Russen Andre Geim en Konstantin Novoselov”, maar meldt daarna meteen dat beiden aan de Universiteit van Manchester werken. Novoselov heeft trouwens een Brits en een Russisch paspoort.

Helaas voor Nederland vond Geim het academische klimaat hier te hiërarchisch en te politiek en vertrok nog vóór zijn Nobelprijswinnende ontdekking naar Manchester in Engeland, waar hij nu hoogleraar is: “Ik vertrok omdat ik denk dat mijn gevoel voor humor niet dezelfde was als die van de wetenschappelijke gemeenschap in Nederland.” Sinds begin dit jaar is hij wel aangesteld als bijzonder hoogleraar aan de Radboud Universiteit Nijmegen.

Geim houdt van wat hij ‘hit-and-run’-experimenten noemt: neem een gek idee en ga in het lab proberen of het werkt. Werkt het niet, dan stap je snel over op iets nieuws. Risicovol onderzoek waar de Nederlandse onderzoekscultuur niet dol op is. Maar heel soms vind je juist zo iets unieks, zoals in 2004 het Nobelprijswinnende grafeen, een soort éénatomig dik kippengaas met unieke materiaaleigenschappen. Of een jaar eerder, toen Geim ‘gekko-tape’ wist te maken: een nieuw soort tape dat werkt zoals de voetjes die de gekko zijn spidermanachtige klimeigenschappen geeft, zonder dat er lijm aan te pas komt.

Geim heeft optimaal gebruik gemaakt van enerzijds zijn persoonlijke en Russische talent om gekke, risicovolle wegen in te slaan die de meeste Nederlanders niet durven inslaan, en anderzijds zijn Sovjetopleiding en de kansen die het Westen hem daarna hebben geboden. Gekibbel over nationale cultuur, dubbele paspoorten en nationale loyaliteit? Gelukkig kent de wetenschap geen grenzen. De wereld is een veelbelovend materiaal rijker juist dankzij multiculti.

Understanding scientific uncertainty

This column was written for the World Federation of Science Journalists (WFSJ).

People expect a lot from scientists. Preferably ready-made, unambiguous answers, valid for eternity. But because of science’s critical character and rigorous reality checks of hypotheses, various scientists can give different answers to the same questions. If these questions concern cutting edge research, this is more the rule than the exception. Only after years or even decades of extensive checks, some scientific hypotheses make it into handbook science, that is hardly doubted anymore. But even some handbook science might get overthrown after some time.

Furthermore, even the best scientists at the time can be terribly mistaken. When American physicist Charles Townes in 1951 started to think about microwave amplification by the stimulation emission of radiation – a maser, the microwave equivalent and predecessor of the laser – Nobel prize winner Isidor Isaac Rabi and Polykarp Kusch, who yet was to win the Nobel prize, told Townes that it was impossible and asked him to stop his research. Luckily Townes didn’t stop and developed the first maser only two years later, which won him the 1964 Nobel prize.

The story repeats itself with the development of the laser. Townes’ brother-in-law Arthur Schawlow, who also was to win a Nobel prize, had predicted that it was impossible to build a laser with ruby as a laser medium. The young Theodore Maiman wasn’t convinced and started his intensive research at Hughes Research Laboratories. The Hughes-management however, trusting Schawlow’s prediction, discouraged Maiman’s ruby-research. Maiman stubbornly continued, and in 1960, this year exactly fifty years ago, he demonstrated the first laser…with ruby as a laser medium. The great freedom to doubt the thoughts of even the best scientists led Townes to the maser and Maiman to the laser. Uncertainty in science is a strong stimulus for creativity.

By better understanding the role of uncertainty in science we may better understand what science can and cannot offer society. Uncertainty in science has essentially three roots: in measurements, in data-analysis and in models (both conceptual, physical and numerical). Scientists try to get rid as much as possible from uncertainties, but cannot get rid of them all. Therefore, science is first of all a process that separates the evidently untrue from the possibly true. This is very different from the public perception that science is an encyclopedia of absolutely true facts.

Unfortunately, when people hear scientists saying they don’t know everything, they often conclude that they know nothing, or that one opinion is as good as any other, or that evident blunders in the IPCC-report make the whole report worthless. Uncertain science, however, is something different form bad science. There are degrees in uncertainty, varying from extremely uncertain to virtually certain. Hardly anything in science is absolutely certain. Watch what physicist and Nobel prize winner Richard Feynman had to say on uncertainty: “It’s much more interesting to live not knowing than to have answers that might be wrong...I don’t feel frightened by not knowing things.”

Science journalism in the Entertainment Age

This column was written for the World Federation of Science Journalists (WFSJ)

In his essay ‘Science journalism: Too close for comfort’ (Nature, 25 June 2009) the American science reporter Boyce Rensberger analyzes the history of science journalism and distinguishes three ages: the ‘Gee-Whiz Age’, the ‘Watchdog Age’ and the ‘Digital Age’.

About the first two there can be little disagreement. However, to call the third age – our present time – the ‘Digital Age’, tells only something about the technology used to convey science journalism, but nothing about its character. I would call our age the ‘Entertainment Age’. Before I come to explain science journalism in the ‘Entertainment Age’, let’s first go back into history.

What is the ‘Gee-Whiz Age’? ‘Gee-whiz’ means something like amazement or enthusiasm and is thought to originate from the exclamation ‘Jesus Christ! – ‘What a surprise!’ The two decades immediately following the Second World War were, at least in the Western World, years of general reconstruction, industrialization and strong economic growth. Almost of itself, the thinking went, fundamental research would produce a stream of technological innovations – an idea which created a kind of scientific paradise where researchers were given wide freedom and substantial financial support.

Science journalism in the ‘Gee-Whiz Age’ put an emphasis on the wonders of science. Behind it was the idea that science brings progress and prosperity. This is true, but only till the point when our basic needs are satisfied. Simply said, when we have food, housing and clothing, our happiness is more determined by social relations, self-fulfillment and the absence of dramatic changes in life than by owning a new mobile phone or a flat screen TV. There is no evidence that people in the Western World of today are happier than thirty years ago, although we own more ‘stuff’ and have longer life expectancies.

From the end of the sixties both the public and politicians started viewing science in a different way. The optimism of the post-war years made way for a more critical attitude, with research coming under greater scrutiny than ever before. The shift began with the movement to democratize society in general and the universities in particular at the end of the 1960s. It was subsequently reinforced by the oil crisis of the early 1970s, the Club of Rome report Limits to Growth and the awareness of environmental problems. Science journalism entered the ‘Watchdog Age’, as Rensberger calls it: science journalists scrutinizing scientists in the way political journalists scrutinize politicians.

However, what Rensberger doesn’t write is that also in the Watchdog Age, there was still a lot of Gee-Whiz science journalism (may be even more than watchdog-journalism), simply because the majority of people are more interested in knowing, let’s say, what black holes are than in knowing how much money goes into black hole-research and in scrutinizing black-hole-scientists. And this is valid up till today. ‘Gee-Whiz’ science journalism never dies because of people’s natural curiosity about how ‘it all’ works and where ‘it all’ comes from.

And now our present day. Sure, we live in a digital age. Science journalism is moving online. But what about it’s character? As for the Western World, I think that more than ever before the entertainment character of journalism is important. We live in an Entertainment Age and so has science journalism moved into the Entertainment Age. We have busy lives, we have all the material requirements for a life without too many worries, and in our few free hours per day we want to be entertained. Science for fun: A magician showing how he tricks our minds; a documentary imagining the disaster after a super volcano explosion; a story about time travel. The Entertainment Age is characteristic for wealthy, stable societies where technological progress doesn’t contribute anymore to growing happiness.

Is it a bad thing that science journalism is now in the Entertainment Age? Not at all. Or at least, not necessarily. Entertainment can be a great way to convey the messages of science journalism. Entertainment brings emotion and we tend to remember information in an emotional package better. The challenge is to find the right combination of Gee-Whiz-, Watchdog- and Entertainment-journalism, either apart from each other or combined, because a good science story or documentary can also combine all three.

Fantasy is cheap, facts are expensive

This column was written for the World Federation of Science Journalists (WFSJ)

“By the end of 2013, 100.000 Europeans have died of starvation.”

“One solar storm could destroy power grids all over the world…”

Sometimes I wonder why I don’t change my profession from being a science journalist to being a phantasy writer. Just writing whatever sells. It would save days of checking facts.

This thought was running through my mind when I was doing research for an article for the Dutch popular science magazine NWT about the effects of a geomagnetic super storm on modern societies. A geomagnetic super storm? Yes, sometimes the sun blows out a bubble of charged particles, a solar hurricane. When the solar hurricane hits the earth, it can create a geomagnetic super storm, which – in principle – can knock down power grids.

In principle – that is the clue here. In fact, only hundreds of kilometers long electricity lines are vulnerable. Nobody knows exactly what is going to happen. And what is going to happen will change from country to country, depending on the latitude and the electricity infrastructure.

In my research I was first reading scientific reports and papers. Later I started calling electrical engineers and power grid specialists. While in the beginning of my research, New Scientist published the article ‘Gone in 90 seconds’, about exactly the same subject. The author sketched a worst case scenario for the US. It was a dramatized extrapolation of an American scientific report.

The crucial question remained whether the American situation is typical for countries on other continents. What about the situation in China, India, Argentina, Poland, Cameroon…? Don’t these countries count?

No, the American situation is not typical, as the article doesn’t mention. For example, Europe has hardly any of the very long electricity lines of the US. Therefore, the quote from the New Scientist-lead, the second quote with which I started – “One solar storm could destroy power grids all over the world…” – is rubbish.

Does this article lead sell? For me it works the opposite way. As soon as somebody claims that ‘all over the world’ things will be destroyed, I rather think: “Oh no, somebody is trying to fool me.”

A month later a colleague – and the editor of my article-in-the-making – sent me a link to another article about geomagnetic super storms, this time from UK’s Daily Mail: ‘Meltdown! A solar super storm could send us back into the dark ages – and one is due in just THREE years’ (www.dailymail.co.uk/sciencetech/article-1171951/Meltdown-A-solar-superstorm-send-dark-ages--just-THREE-years.html).

An exclamation mark and a word written in capitals in the title…Another reason to put aside the article. However, I was doing my research on geomagnetic super storms, so I wanted to read everything I could about the subject. It turned out that the New Scientist-scenario that was sketched for the US was shamelessly translated to a European context. No critical question was asked to what extent this can be done. No own research at all. Add a bit of spice to what you hear from others.

Some extra fantasy was added, with little creativity though. The scenario only got worse. No electricity, no delivery of food to shops, fridges breaking down, and soon the first people start to die… 100.000 Europeans would die of starvation after the geomagnetic super storm would hit the earth, the article states.

100.000 dead? It takes a fraction of a second to phantasize the number. But even weeks of research wouldn’t lead to a reliable number. Impossible to give arguments for any reliable number. Even irresponsible to speculate about it in a journalistic article.

Fantasy is cheap, facts are expensive. I hope that the world wide cuts in (science) journalism will not lead to even more phantasy and even less facts. Bad fantasy is so much harder to swallow than good facts.

The inflationary news universe

This column was written for the World Federation of Science Journalists (WFSJ)

This February’s AAAS-conference in Chicago once again brought together a varied selection of scientists and scientific topics. It was my third AAAS in a row and it was the third time that I have found it very useful to interview scientists, talk to them informally and hear about new research directions in various lectures.

But it was also the third time that I have heard some colleagues complaining: “there is no hard news”…And you could hear them thinking: “for what to travel to a conference if I receive all the science news on my computer at home?”

I find it worrisome that the notion of ‘news’ – even a very narrow notion of news – for some science journalists has become a dogma that completely determines their way of working.

Why is it worrisome?

First of all, it’s not just a publication in one of the science journals that makes news. Why wait till a journal sends a press release announcing that there is news? And is it really news? With the ever growing amount of scientific papers per year, the news inflation is also growing. The discovery of the first exoplanet is thrilling, the next one just exciting, but the discovery of lifeless exoplanet number 314 is rather boring.

We should also make our own news, as I have argued in my previous contribution to this blog [www.wfsj.org/blogs/wfsj/post.php?id=65]. To make our own news and to find fresh angles to ongoing research, a conference like the AAAS provides an excellent opportunity.

The second reason to worry about the news dogma, is that we work for people who are interested in much more than just news. Most of all, they need scientific context and background to form opinions about the ever more complex world. What does it mean in my practical life that scientists can unravel my genome? What does a brain scan tell about who I am? How does a climate model work? How reliable are mathematical models of the economy?

We are living in an inflationary news universe. Our modern information world provides an overload of so called news, and a lack of context. Most people get totally confused if they first read in a one hundred word article that green tea is healthy for them and half a year later in another one hundred word article that it is not proven that green tea is good for them. This news swing can continue for years, ultimately leading to people turning their back to science news at all. Too much published science news is trash news.

Luckily, people continue to be intrigued by scientific questions of everyday life: Why do humans sleep eight hours and elephants only 3,5 hours? Or why do women cry more than men? And of course every new generation wonders about philosophical questions such as what is time? what is life? or what is consciousness? There is always ongoing research that provides a hook for covering such timeless or ordinary life questions in a fresh way.

The third and most important reason that the news dogma is worrisome, is that the notion of ‘news’ in science journalism plays a different role than in ‘ordinary’ journalism. Science always acts on large timescales – mostly years and sometimes even decades – and every day life mostly not. Therefore reporting about trends is as at least as important in science journalism as reporting about so called news. If a scientific discovery is announced today, you can be sure that it has been preceded by years of work. But if today a plane crashes...of course, that would be news of today. No way that we could have reported about it yesterday.

Science journalism should not be guided by the narrow notion of news that ordinary journalism seems to demand from us. Let’s give people the science context that they need to know and enjoy to know, instead of boring and meaningless ‘news’ about the still-not-one-hundred-percent-proven-healthiness-of-green-tea.

(By the way, news or no news, I love fresh green tea.)

Go to the lab and your mind can be read

This column was written for the World Federation of Science Journalists (WFSJ)

Science is what scientists do. But what scientists really do, only partly appears in their scientific publications. In the publications we read what went well, not what went wrong; we read the results, not the struggle to find the results. When I was doing science myself – as a PhD-student in physics – I have seen colleagues struggling four or five years building an experiment and getting it to work. When the experiment finally worked, the data were sometimes collected in a month. From their scientific publications you would guess that the research had gone smoothly and logically, but the reality had been the opposite.

Science is a process, not even a logical process, but an irregular one. To understand that process, science journalists should regularly go out and see science in action: in the lab, at the accelerator, to the Arctic, on a volcano, or wherever. We can not fully understand science from scientific publications alone.

As I have reported regularly about brain scan experiments, I finally wanted to be part of such an experiment myself. Not just for fun, but as a subject in a scientific study. Last Thursday I was for an hour lying in an fMRI-scanner at Maastricht University in the Netherlands. With a three-tesla magnetic field my brain was being scanned and my mind being read.

The final aim of the researchers is to let ‘locked-in’-patients communicate with their family and friends. ‘Locked-in’-patients are suffering from a stroke or an illness so that they can not move, they cannot speak, they cannot even blink with their eyes. But they are conscious, as we know from those who luckily managed to recover. They can hear what others are telling but they cannot react in any way. German Karl-Heinz Pantke was one of the lucky ones who recovered and he wrote his striking experiences in the book Locked-in – Gefangen im eigenen Körper. These patients would be helped enormously if their minds could be read.

Researchers from the Maastricht Brain Imaging Centre now invented a way to indirectly read the letters the patient produces in his mind. For example, when I was in the scanner, we had defined that the letter D stood for telling in my mind the Shakespeare-quote ‘To be or not to be, that’s the question’, and that A stood for mentally drawing a house. I produced seven letters by different cognitive tasks, and the researchers reconstructed all the letters correctly from the scans, of course not knowing which letters I wanted to produce. The principle works and they read my mind. And I will be one of the six subjects on whose experimental results the scientific publication will be based.

Sure, it’s very cool to lie in the scanner, have your mind scanned and after the experiment see your own brain inside out on a high resolution scan. But it also gave me much more insight in the scientific process. I saw the clever way in which they had devised the experiment, but I also noticed little things that went wrong. When I had not understood a certain task, I started to analyze my own mistake. This messed up that part of the experiment, because I couldn’t concentrate well anymore on the cognitive tasks I had to do.

I know, going out there to watch science in action takes time, and time is money, but it is an essential part of science journalism. I am afraid that with the growing commercial pressure on journalism, there will be even less journalists than today that will take the time and the effort to go to the lab. But without that effort our job will lose a lot of meaning. As it is said: one dead person is a tragedy, a thousand dead ones is statistics. Science is more than telling the statistics. To show this, we have to go out there and report science in action.

Internet

Maastricht Brain Imaging Centre: http://mbic.unimaas.nl/

Hypothesis God & Ockham’s razor

This column was written for the World Federation of Science Journalists (WFSJ)

In 2009 it will be 150 years ago that Charles Darwin published his evolution theory. It will also be 400 years ago that Galileo Galilei was the first to discover the heavens by looking through a telescope. So, we are soon to celebrate both the International Darwin Year and the International Year of Astronomy.

Apart from celebrating these events and explaining to the public the powerful insights that evolution theory and astronomy have given us, science journalists will have an extra job to do. We can be sure that creationists, intelligent-design-dreamers and religious believers will do their utmost to cast doubt on the theory of evolution. And it will be our job to counteract.

The strategy of creationists and other believers will be the same as the one the tobacco industry has used in the debate about the health effects of smoking: casting doubt. The trick is easy: creationists point at those questions that science hasn’t answered yet – obviously always the most difficult nuts to crack – and conclude either that science doesn’t know anything about the origin of life, or that science and religion are two equally valuable ways to understand the world.

Both conclusions are of course invalid. If scientists don’t know all about a phenomenon, it doesn’t mean they know nothing. And whereas science produces knowledge, religion produces only beliefs. Scientists test their theories with experiments – the scientific method. Religion doesn’t have a validated method of investigation.

Interestingly enough, it is the freedom to doubt that has made science so successful, and it is the lack of doubt that has made religion often so problematic.

Personally I get bored to death by discussing with creationists about evolution theory. Their arguments are always the same and they have no facts to support their beliefs. Science, on the contrary, shows a still growing body of facts that support evolution theory. For example: the scientific Breakthrough of the Year 2005 – as chosen by the magazine Science – was the fact that we can now see evolution in action on the genetic level. A splendid discovery that deepens Darwin’s insights. No religious book has given us that insight.

Unfortunately, it doesn’t matter for creationists how large the body of scientific knowledge has grown. For them the discussion always comes down to questions that science has not yet answered, and of course to the question what happened at the first moment. Hypothesis God can be used to ‘explain’ that the universe was ‘created’. But those that are happy with this hypothesis should be equally happy with the hypothesis that Cookie Monster created everything, or Tweedledum and Tweedledee, or that a bunch of drunken Gods and Goddesses were enjoying an orgy that created the world. And so on. No way to check any of these assumptions.

To save a lot of time and energy in discussing with creationists, let me give my shortest version to end the discussion with creationists.

It’s based on what philosophers call Ockham’s razor, named after the 14th century English philosopher William of Ockham. A modernized version Ockham’s razor reads: ‘don’t make more assumptions to explain a phenomenon than logically necessary’. Ockham’s razor cuts away superfluous assumptions. For example: the attraction between the earth and the moon can be explained by the theory of gravity. Adding the hypothesis that God created the earth, the moon and gravity, doesn’t explain more of the attraction between the earth and the moon. Therefore Hypothesis God is superfluous.

Everybody has the freedom to believe, but once you are interested in knowledge, then Hypothesis God is a superfluous assumption. We can explain a great deal of the visible universe by describing it in terms of matter, energy, space, time and gravity. We can make observations, do experiments and test our theories. But nowhere in our reasoning does Hypothesis God explain anything better than science does. On the contrary: Hypothesis God hasn’t given any insight in the universe that has been able to withstand experimental tests. Science has given plenty of insights that have been able to withstand experiments.

Only if we start thinking about the moment of creation – assuming that there was such a moment – does Hypothesis God do equally well or bad as the scientific hypothesis of a Big Bang. (But all the 13.7 billion years after the beginning, astronomy does infinitely much better than Hypothesis God…). As we have no way to tests any theory about the first moment, we can assume any beginning, but it’s not science anymore.

Ockham’s razor is the shortest version I know to end the discussion with creationists. So, let’s sharpen Ockham’s razor. We’ll need it soon in the discussions with creationists, in whatever disguise.

Let’s start the New Year with launching a two-step rocket. The first step celebrates the International Year of Astronomy. The second step, automatically launched once the first step is already high up in the air, celebrates the International Darwin Year. This two-step rocket shows the power of science as a unified body of knowledge to understand the world: because it is the evolution of the universe that has led by chance to the evolution of life.

A happy New Year! Cheers!

The engineering journalist

This column was written for the World Federation of Science Journalists (WFSJ)
www.wfsj.org


“For a successful technology, reality must take precedence over public relations, for nature cannot be fooled.”

Substitute ‘financial product’ for ‘technology’, ‘economy’ for ‘nature’, and we have formulated the cause of the present day global financial crisis: “For a successful financial product, reality must take precedence over public relations, for economy cannot be fooled.”

The starting quote ends the report of physicist Richard Feynman to the Space Shuttle Challenger inquiry. The Challenger exploded shortly after its launch on January 28, 1986, killing seven people. Engineers had warned before the launch that the so called O-rings were unreliable at low outside temperatures. And on January 28 the launching site had low temperatures. Despite the warnings, managers didn’t want to postpone the launch any longer. They tried to fool nature, the O-rings broke and what follows is tragic history.

Building a Space Shuttle is an art of engineering. And engineering differs from science. Scientists want to understand the world. They simplify a problem till they can solve it. Engineers devise solutions to real problems, thus changing the world. Often they fix a problem without knowing why it works. Trial and error. Nothing wrong with that. That’s what you have to do when the world is too complicated. Engineers deal with the real-life problem with all its dirty traps. Planes not only have to fly when the sky is clear and sunny, also when there is storm and thunder. The science of a flying plane is long known. But engineering a plane is improving every year. It’s the engineer who has to incorporate all the safety aspects in the design of the plane, not the scientist.

The global financial crisis would not have happened if all those innovative financial products were designed by engineers instead of by scientists-trying-to-impress-their-managers-with-fancy-mathematical-money-models. The Americans call them ‘quants’, the quantitative analysts. The ‘quants’ were too much scientist, too little engineers. They had too little feeling for the risks involved.

Of course, not only the scientists-trying-to-impress-their-managers-with-fancy-mathematical-money-models are to blame. Consumers were greedy to buy products they couldn’t buy, and bankers were greedy for selling products and getting high bonuses. But those innovative financial products were clearly very badly engineered.

We, science journalists – as the name tells – concentrate mostly on science. But we too should pay much more attention to the engineering side in our science reporting. It would prevent misunderstanding from the side of the public. A few attention seeking pseudo-scientists claimed earlier this year that the world’s biggest science experiment – the Large Hadron Collider (LHC) in Geneva – might produce tiny black holes that would eat the world in a fraction of a second. They have received more attention then all the LHC-engineering work from the last twenty years all together.

Why we gave a bunch of silly pseudo-scientists so much attention? Because a disaster prediction sells, even if it’s utter nonsense? Why not explaining the difficulty of building this highly complicated accelerator? Think about it: Twenty years of engineering work before the science can start. Can you really expect it to work perfectly from the beginning?

On September 10 a few hundred science journalists were invited to Geneva to hurray the LHC before it had even proved to work as a collider and detector. Protons raced around once in the 27-kilometer loop. There were no collisions, and the energy was much lower than the collider is designed for. Do we hurray something that looks like a plane, but can’t yet fly? No wonder the public was confused to hear that a week after the big hurray, the machine showed some serious problem.

There is much more engineering we, as science journalists, tend to overlook: climate models are engineering models. Here too: there is nothing wrong with that, as researchers have no other option. Let’s just explain it honestly to the public. Climate models are full of empirical rules, and buttons that can be turned left or right, to fix scientific details that we don’t yet understand. But you don’t have to understand everything to produce sound results. That’s what we can learn from engineers.

There is much more engineering in science than we think. And we should better report about it.