Engelen met superintelligentie

Dit artikel is verschenen in technologietijdschrift De Ingenieur van februari 2015

Eind dertiende eeuw stortten Franse theologen zich op de vraag hoeveel engelen er op de punt van een naald passen. Een verhit debat: Is een engel materieel of immaterieel? En als een engel materieel is, waaruit bestaat hij dan? Hoe groot is een gemiddelde engel? De wetenschappelijke revolutie die in de zestiende eeuw begon, leek een definitieve waterscheiding in te luiden tussen wetenschap en religie.

Maar in de 21e eeuw is er een wetenschappelijke discipline - die van de kunstmatige intelligentie - die een verdacht veel op religie lijkende stroming heeft geïnitieerd (vooral onder mensen die zelf helemaal geen computers of robots bouwen, maar er alleen maar over filosoferen). Het begon allemaal met de popularisatie van het idee van een ‘Singulariteit’ door futurist Ray Kurzweil: het moment waarop computers slimmer worden dan mensen.

Het boek Superintelligence van filosoof Nick Bostrom is een nieuwe verkenning van de gevolgen van de ‘Singulariteit’. Volgens Bostrom kan superintelligentie realiteit zijn tussen 2075 en 2090. Het valt te prijzen dat Bostrom in veel meer details treedt en veel meer scenario’s verkent dan Kurzweil deed. Maar het is een hoogst academisch boek geworden, waaraan de geïnteresseerde niet-academicus zich maar beter niet kan wagen. Het is saai, overdreven moeilijk en extreem speculatief.

Volgens Bostrom moeten we ons zorgen maken dat superintelligentie de mens zou kunnen uitroeien. “Before the prospect of an intelligence explosion, we humans are like small children playing with a bomb”, schrijft Bostrom. Het grote probleem met Bostroms verkenningen is dat hij veel te grote stappen vooruit in de tijd neemt. Bij elke stap neemt de onzekerheid toe.

Verder overschat Bostrom schromelijk de rol van intelligentie in het maatschappelijke en politieke spel. De Amerikaanse Unabomber was een slimme wiskundige die een groot gevaar werd voor de samenleving. Sommige terroristen zijn analfabeet en ook een groot gevaar voor de samenleving. Waarom zou Bostrom dan ook maar iets zinnigs kunnen zeggen over het gevaar van superintelligentie?

Ten slotte zijn er, als het gaat om de toekomst van de mensheid, veel reëlere problemen dan superintelligentie: burgeroorlogen, infectieziekten, gebrek aan onderwijs, corruptie, ondervoeding, vervuild drinkwater en slechte sanitaire voorzieningen, om er maar een paar te noemen.

De vraag hoe we ons moeten verdedigen tegen superintelligente computers die de mensheid in gevaar brengen is de moderne versie van de vraag hoeveel engelen er op de punt van een naald passen.

Nick Bostrom. Superintelligence − Paths, dangers, strategies. Oxford University Press, 2014