Boeken

Wednesday, April 22, 2015

Banger voor domme mensen dan voor slimme machines

Tijdens een debat over de kansen en risico's van kunstmatige intelligentie gisteren in De Balie, las ik een Engelstalige column voor. Hier is de Nederlandse versie, ook gepubliceerd op de website van technologietijdschrift De Ingenieur:

“Technologie heeft het leven de gelegenheid gegeven om te floreren als nooit te voren…of om zichzelf te vernietigen.”

Deze tekst heb ik niet zelf verzonnen, dit zijn de ronkende woorden van het Future of Life-instituut. Het instituut onderzoekt de gevolgen van de ontwikkeling van slimme computers en robots tot bovenmenselijk niveau. In een open brief roept het instituut op kunstmatige intelligentie te ontwikkelen waarvan de positieve gevolgen maximaal zijn en de negatieve gevolgen minimaal. Zelden heb ik een grotere open deur gehoord. Wie wil dat nou niet?

Er is alleen één probleem: elke technologie kan goedschiks of kwaadschiks worden gebruikt. Met een mes kun je een brood snijden, of iemand de keel doorsnijden. Een robotvliegtuig dat terroristen neerschiet, kan in de handen van terroristen net zo gemakkelijk onschuldige burgers dood schieten. Niets menselijks is de toekomstige robot vreemd.

De internationale media hebben de open brief opgevat als een waarschuwing tegen superintelligentie. Natuurlijk. Media smullen al decennialang van het verhaal dat computers en robots mensen overvleugelen. De realiteit van vandaag en van de komende decennia is echter veel minder sexy. Pedro Domingos, een Amerikaanse toponderzoeker op het terrein van de kunstmatige intelligentie, zegt het als volgt: “Iedereen is zo bang dat computers heel slim worden en de wereld overnemen, terwijl de realiteit is dat computers heel dom zijn en de wereld al hebben overgenomen. We kunnen geen dag zonder ze; de wereld functioneert niet meer zonder computers. Het zou beter zijn wanneer ze slimmer zouden zijn.”

Een van de oprichters van het Future of Life-instituut, Victoria Krakovna, reageerde verbaasd op de eenzijdige focus van de media op superintelligentie. Eigen schuld, dikke bult. Dat krijg je ervan wanneer je zelf rond toetert dat je kunstmatige intelligentie onderzoekt in de context van − en ik citeer − “existentiële risico’s waarvoor de mensheid staat”.

Het Future of Life-instituut had veel beter kunnen benadrukken dat de intelligente systemen van de toekomst een samenwerking tussen menselijke en kunstmatige intelligentie zullen zijn. Maar ja, dat klinkt veel minder sexy.

In die samenwerking doet de slimme machine waarin hij uitblinkt: razendsnel informatie verwerken, een feilloos geheugen en nooit moe worden. De mens doet wat hij beter kan: het begrijpen van de context, het begrijpen van intenties en emoties, het gebruiken van creativiteit, het ontwikkelen van normen en waarden. Dat de samenwerking tussen mens en machine een kwestie is van leven of dood wil ik illustreren aan de hand van twee voorbeelden.

Twee weken geleden werd bekend dat op 14 december 2014 de automatische piloot van een Schots vliegtuig van Loganair het toestel bijna liet crashen. Het vliegtuig was getroffen door de bliksem. De automatische piloot sloeg op hol en stuurde het toestel steil naar beneden. De automaat hield zelfs het ingrijpen van de menselijke piloot tegen. Nauwelijks twintig seconden voor het toestel zou crashen, lukte het de menselijke piloot in een uiterste poging om het toestel weer omhoog te trekken.

Veel minder geluk hadden de passagiers van het Turkish Airlines toestel dat op 25 februari 2009 naar Amsterdam vloog. Toen het vliegtuig Schiphol naderde en op zeshonderd meter hoogte vloog, gaf de hoogtemeter plotseling min twee meter aan. De automatische piloot trok de conclusie dat het vliegtuig al geland moest zijn en verminderde razendsnel het motorvermogen. De menselijke piloten begrepen deze fout te laat en het toestel crashte vlakbij Schiphol. Er vielen 9 doden en 120 gewonden.

Dit zijn twee voorbeelden van de Paradox van de Automatisering. De Paradox van de Automatisering stelt dat hoe meer automatisering, hoe crucialer ingrijpen door de mens wanneer de denkende machine toch een fout maakt. En die kans is er altijd.

Met de toenemende automatisering, zullen we steeds vaker tegen deze paradox aan lopen. Automatisering verschuift het punt waarop fouten worden gemaakt: van bijvoorbeeld operators, piloten en chauffeurs naar de programmeurs die de software schrijven en naar de interactie tussen mens en machine.

De Paradox van de Automatisering heeft twee oorzaken. Ten eerste hebben mensen de neiging om machines eerder te vertrouwen dan hun eigen gezonde verstand. Dat kan leiden tot een te groot vertrouwen in automatisering. Ten tweede kan meer automatisering ertoe leiden dat menselijke operators minder vaardig worden wanneer ze onverhoopt toch moeten ingrijpen. Om de paradox te lijf te gaan, moeten we de mens als een integraal onderdeel van een kunstmatige intelligent systeem beschouwen. En om te zorgen dat operators hun menselijke vaardigheden voldoende blijven trainen, moeten we automatische systemen af en toe uitschakelen.

Volgens de open brief van het Future of Life-instituut kan kunstmatige intelligentie bijdragen aan het wereldwijd uitbannen van armoede en ziekte. Helaas worden niet-technologische problemen nooit alléén maar opgelost door technologie. Slimme computers en robots zullen de mensheid alleen maar succesvoller maken wanneer we niet de machine, maar de mens centraal stellen. De uitdaging voor de toekomst is hoe we het beste van menselijke en kunstmatige intelligentie combineren. Daarbij moeten we banger zijn voor domme mensen, dan voor slimme machines.