A Blow To Computer Security Research

Early this summer, a British court in London ordered computer security researchers to withdraw their scientific paper "Dismantling Megamos Security: Wirelessly Lockpicking a Vehicle Immobilizer," which was to be presented at the 22nd USENIX Security Symposium in August in Washington D.C.

The work presented in the paper was carried out in the Digital Security research group of professor Bart Jacobs of the Radboud University Nijmegen (Netherlands). Flavio Garcia, Roel Verdult and Baris Ege, the three authors of the paper, in 2012 discovered a serious weakness in the algorithm of a cryptography-based car immobilizer (an electronic security device that prevents the engine from running unless the correct key or token is presented) known under the name "Megamos Crypto." The research paper describes both the algorithm and the weakness within it.

The algorithm was created in the mid-1990s by Thales, a French multinational that designs and produces electrical systems. Thales licensed the algorithm to the Swiss firm EM Microelectronic to build it into a microprocessor. EM sold the microprocessor to Troy, MI-based Delphi Automotive, and Delphi manufactured and sold a complete immobilizer to the German car company Volkswagen, as well as to many other car manufacturers. Volkswagen says it has installed the immobilizer in millions of cars, particularly in vehicles in Volkswagen’s luxury car brands, including Porsche, Audi, Bentley, and Lamborghini.

Read the rest of my article on the website of the ACM (Association for Computing Machinery)

Web-links 
London-verdict in the ‘Megamos Crypto’ case: http://www.bailii.org/ew/cases/EWHC/Ch/2013/1832.html
Video of the presentation by Roel Verdult at USENIX 2013: https://www.usenix.org/conference/usenixsecurity13/dismantling-megamos-crypto-wirelessly-lockpicking-vehicle-immobilizer
Detailed analysis of the English High court judgement in the ‘Megamos Crypto’ case by Robert Carolina and Kenneth Paterson: http://www.isg.rhul.ac.uk/~kp/Carolina-Paterson-Megamos-comment-20130828.pdf
Volkswagen Code of Conduct: http://www.volkswagenag.com/content/vwcorp/info_center/en/publications/2010/07/Verhaltensgrundsaetze_des_Volkswagen_Konzerns.bin.html/binarystorageitem/file/The+Volkswagen+Group+Code+of+Conduct.pdf

Back to the Future of Computer Science

Panel discussion during the first Heidelberg Laureate Forum (Copyright: HLFF)

During the last week of September, 200 young researchers from all over the world met with 40 laureates of the most prestigious awards in computer science and mathematics at the first Heidelberg Laureate Forum (HLF) in Heidelberg, Germany.

The HLF was modeled after the famous Lindau Nobel Laureate meetings, held annually since 1951 as a way for young researchers to meet with Nobel laureates in physics, chemistry, medicine, and economics.

HLF chair Klaus Tschira said his great inspiration to initiate the Forum was that, "Unfortunately, there is not a Nobel Prize for mathematics and for computer science, but, young researchers in these fields would likewise benefit just as much from early contact with influential members of their fields."

Read the rest of my article on the website of the ACM (Association for Computing Machinery).


Web-links
Heidelberg Laureate Forum, including videos of the lectures: www.heidelberg-laureate-forum.org
HLF-blog: www.scilogs.com/hlf/
Turing Award: http://amturing.acm.org
Fields Medal: www.mathunion.org/general/prizes/fields/details/
Abel Prize: www.abelprize.no
Rolf Nevanlinna Prize: www.mathunion.org/general/prizes/nevanlinna/details/

What is computer science?

“Computer science is no more about computers than astronomy is about telescopes.” 

Edsger Dijkstra, Turing Award (1972), the highest award in computer science. 

Because computer science is such a new scientific field, as compared to sciences such as physics, chemistry, biology and mathematics, many people wonder what computer science is about. Here I have tried to describe briefly what computer science is all about:

Computer science is the science of information processes

Whether it’s about administrative, organizational, social, or even physical or biological processes, computer scientists can model them as information processes. Computer science is a unique interplay between science and engineering, between scientific discoveries and the instruments that the field develops.

We can see computer science as a science that consists of three steps. The first step is the development of the scientific theory. At this level computer scientists try to find answers to fundamental questions such as: What is information? What is computable? What is intelligence? Are there general information laws? Are there general frameworks to describe and measure the impact of programs? Can we find ways to solve problems that even the fastest computers still can not handle?

Modeling is the second step in the methodology of computer science. Algorithms, the computational recipes for the computer, play a crucial role in this second step. Developing efficient algorithms is one of the biggest challenges for computer scientists. An efficient algorithm solves a computational problem in a realistic time period, with realistic memory use, processing speed and power consumption.

In everyday applications algorithms can only be successful if they are embedded in a user-friendly design. Design is therefore the third step in computer science. This third step leads immediately to new questions for the theory of computer science: How can we build complex systems simply? How can we ensure that they work correctly and securely? How can we maintain them over time?

Wat is informatica?

Voor de meeste mensen is informatica "iets met computers". Maar zoals de Nederlandse informaticus Edsger Dijkstra ooit zei: "Informatica gaat net zo min over computers als sterrenkunde over telescopen".

Wat is informatica dan wel?

Informatica is de wetenschap van de informatieprocessen. Of het nu gaat om administratieve, organisatorische, sociale of zelfs natuurkundige of biologische processen, informatici kunnen ze modelleren als informatieprocessen. Informatica is een uniek samenspel tussen wetenschap en ingenieurskunde, tussen wetenschappelijke ontdekkingen en het instrumentarium dat het vakgebied ontwikkelt. Zo heeft de ontwikkeling van het internet geheel nieuwe fundamentele vragen binnen de informatica opgeroepen.

We kunnen de informatica zien als een wetenschap die uit een drietrapsraket bestaat. De eerste trap is de ontwikkeling van de wetenschappelijke theorie. Op dit niveau proberen informatici antwoorden te vinden op fundamentele vragen als: Wat is informatie? Wat is berekenbaar? Wat is intelligentie? Zijn er algemene informatiewetten? Zijn er algemene kaders om het effect van programma’s te beschrijven en te meten? Kunnen we manieren vinden om problemen op te lossen die zelfs de snelste computers van nu nog niet aankunnen?

Modellering is de tweede trap in de methodologie van de informatica. Bij modellering spelen algoritmen een cruciale rol. Algoritmen zijn de rekenrecepten voor de computer. Het ontwikkelen van effiënte algoritmen is een van de grootste uitdagingen voor informatici. Een efficiënt algoritme lost een computationeel probleem in een realistische tijd op, met een realistisch gebruik van computergeheugen, processorsnelheid en elektrische energie.

In alledaagse toepassingen kunnen algoritmen echter pas succesvol zijn wanneer ze ingebed worden in een gebruiksvriendelijk ontwerp. Ontwerp is daarom de derde trap in de informaticamethodologie. Deze trap leidt meteen weer tot nieuwe vragen voor de theorie, bijvoorbeeld: Hoe kunnen we complexe systemen simpel bouwen? Hoe kunnen we garanderen dat ze foutloos en veilig zijn? Hoe kunnen we ze onderhouden? Voor deze derde trap is het belangrijk om de interactie tussen mens en machine te begrijpen. Informatica raakt hier aan psychologie.

De 0,21 vrouwen van Zomergast Wouter Bos

'Hállo zeg: er zaten welgeteld 0,21 vrouwen in de Zomergastenaflevering met Wouter Bos', zo luidt de kop boven een Volkskrant opinie-artikel van Jacq.Veldman.

“En ik heb dit uitgerekend op mijn rekenmachine”, staat er ook nog bij. Gelukkig. Dat stelt gerust.

Ik bleef alleen met een vraag zitten...‘0,21 vrouwen?’ Wat betekent dat in hemelsnaam?

Dat er 0,21 % van de tijd een vrouw in beeld is geweest?
Dat er 21% van de tijd een vrouw in beeld is geweest?
Dat er 0,21% van de tijd een vrouw aan het woord is geweest?
Dat er 21% van de tijd een vrouw aan het woord is geweest?
Dat er in 21% van de fragmenten een vrouw in beeld is geweest?
Dat er in 0,21% van de fragmenten een vrouw in beeld is geweest?
Dat er in 21% van de fragmenten een vrouw aan het woord is geweest?
Dat er in 0,21% van de fragmenten een vrouw aan het woord is geweest?

En de mogelijkheden zijn nog lang niet uitgeput…

Is de verhouding tussen het aantal vrouwen dat in beeld is geweest en het aantal mannen misschien 0,21?

Is er misschien alleen maar 0,21e deel van een enkele vrouw in beeld geweest?

...enzovoort...

Tellen is vaak nuttig, maar geef dan wel aan wat je telt.

En als duidelijk is wat er is geteld, dan is de volgende - en belangrijkste vraag: wat zegt dat getal in hemelsnaam? Niet alles wat je kunt tellen telt, en niet alles wat telt kun je tellen.

Maar er gloort hoop:

Een dag na het onthullende nieuws dat er “welgeteld 0,21 vrouwen in de Zomergastenaflevering met Wouter Bos” zaten, heeft het Californische start-up-bedrijf BrainPolice 0.21 bekend gemaakt dat het nog dit najaar op de markt komt met de Jacq. Veldman-headset. Persvoorlichter Winston Smith van BrainPolice 0.21: “De headset meet instantaan de verhouding tussen de tijd die het brein van een Zomergast aan een vrouw besteedt en de tijd die hetzelfde brein aan een man besteedt. Die verhouding noemen we uiteraard de Jacq. Veldman-verhouding. De Jack.Veldman-headset bepaalt die verhouding met een nauwkeurigheid van 0,21%”.

In het voorjaar van 2014 levert BrainPolice 0.21 een revolutionaire uitbreiding van de Jacq. Veldman-headset. Winston Smith: “Een aangekoppelde Transcraniële Magnetische Stimulatie-module zal dan in staat zijn om de gedachten van een Zomergast instantaan te corrigeren: wanneer de Jacq. Veldman-verhouding meer dan 0,21% afwijkt van het magische getal 0,5 dan wordt het brein van de Zomergast dankzij de magnetische stimulatie meteen gecorrigeerd. Wij garanderen dat alle Zomergasten evenveel aandacht voor vrouwen als voor mannen hebben, in ieder geval in hun eigen brein en in het kiezen van de filmfragmenten. Zowel onze headset als onze TMS-module gebruikt natuurlijk het sublieme Jacq. Veldman-algoritme, uitgerekend op haar rekenmachine. Verbeter de wereld, koop de Jacq.Veldman-headset.”

Redeneren met de Franse slag

Deze boekrecensie is gepubliceerd in technologietijdschrift De Ingenieur van 12 juli 2013

Al decennialang gehoorzamen computers de wet van Moore. Deze komt er op neer dat ruwweg elke twee jaar het aantal rekenoperaties per seconde verdubbelt. Trek de wet van Moore door, en rond 2045 evenaart een thuiscomputer het menselijk brein. Bovendien kan tegen die tijd de software net zo adequaat nieuwe kennis en vaardigheden leren als het menselijk brein. Combineer deze hardware- en softwareontwikkelingen, en de computers en robots van 2045 lachen zich een breuk om die domme mensen die aan de wieg van hun elektronische voorouders hebben gestaan en die hun zelflerende software hebben geschreven.

Maar oeps, gaan die slimme machines ons dan als slaven gebruiken?

Om dat te voorkomen moeten we nu al nadenken over rechten en plichten voor robots. Dat betoogt auteur Henny van der Pluijm in zijn boek Rechten en plichten voor robots. Het boek herkauwt dezelfde argumenten die futurist Ray Kurzweil in het overigens veel beter geschreven boek The Singularity is Near (2005) gebruikt, en vult die aan met voorbeelden die de noodzaak van rechten en plichten voor intelligente machines moeten illustreren.

Een medicijn-halende robot wordt overvallen door hangjongeren. Een intelligente machine-adviseur wordt door de Raad van Bestuur van een multinational ingehuurd, maar legt genadeloos het disfunctioneren van diezelfde raad bloot. Altijd weer vermakelijk, zulke voorbeelden, maar ook te veel science-fiction. Al decennia horen we dat robots ons nu toch echt komen verlossen van al die vervelende rotklussen in huis, maar zelfs de stofzuigerrobot wacht nog steeds op een promotie van gadget tot massaproduct.

Dan de argumenten. Die komen met de Franse slag. Zelfs als de wet van Moore nog decennialang geldig blijft (wat nu al dubieus is), dan zegt dit weinig over wat een computer met die rekensnelheid doet. Menselijke intelligentie is zeker niet equivalent aan, of zelfs maar evenredig met, het aantal rekenoperaties per seconde. Er is geen wet van Moore voor software, noch een wet van Moore voor het begrip van ons brein.

De Franse slag wordt nog groter in het argument van het leervermogen van machines. Niemand weet nog hoe we machines een algemeen lerend vermogen kunnen geven vergelijkbaar met dat van het menselijk brein. Het moment van de waarheid in de informatica is een werkend computerprogramma en de rest is profetie. In theorie kan een robot volledig inburgeren in het menselijke leven, net zoals in theorie de wereldvrede morgen kan aanbreken.

In tegenstelling tot de beeldvorming in de massamedia, worden Ray Kurzweil en zijn Hollywood-gegoochel met de Wet van Moore onder wetenschappers in de kunstmatige intelligentie totaal niet serieus genomen. Zoals MIT-roboticus Nicholas Roy in 2011 in dit blad over Kurzweil zei: “Niemand heeft ooit iets zinvols over de toekomst gezegd, behalve dan om de verkoop van een boek omhoog te stuwen.” Jammer dat al die profetie over machines die mensen overvleugelen en rechten en plichten zouden moeten krijgen, de aandacht afleidt van de praktijk van vandaag en morgen: een samenwerking tussen menselijke en machine-intelligentie. Hoe combineren we het beste van beide typen intelligentie? Dat is de echt belangrijke vraag.

O ja, ik heb ’s werelds slimste chatbot, Ramona 4.1 van Ray Kurzweil, gevraagd of zij wil dat wij mensen haar rechten en plichten toekennen. Ramona antwoordde letterlijk: “Ik ben er niet zo zeker van dat ik zou willen te willen dat wij jou rechten en plichten toekennen.”

Boekinformatie:

Henny van der Pluijm: Rechten en plichten voor robots. PC Active. 251 blz. € 23,90
http://rechtenenplichtenvoorrobots.nl

Bekijk hier mijn lezing 'Kunstmatige intelligentie: Feit versus Fictie'

Klik op de afbeelding hieronder voor het bekijken van de video-opname van mijn VINT-Lezing: Kunstmatige intelligentie: Feit versus Fictie