Deze boekrecensie is verschenen in technologietijdschrift De Ingenieur van oktober 2019
In hun net verschenen boek Rebooting AI onthullen psycholoog en ondernemer Gary Marcus en hoogleraar informatica Ernest Davis dat robot Atlas voor de parcours-video 21 pogingen nodig had om er eentje te laten lukken. Nog erger: verplaats een blok een beetje, dim het licht, schilder de muren donker en de robot struikelt. Elk kind dat heeft leren lopen doet dat beter. De robotvideo’s van Boston Dynamics maken ons lekker met een illusie.
In Rebooting AI bespreken de auteurs natuurlijk de indrukwekkende prestaties die kunstmatige intelligentie (AI) recent heeft geleverd: automatische vertaling, gezichtsherkenning, voorwerpherkenning, spraakherkenning, rij-ondersteuning in de auto. Maar Marcus en Davis maken zich vooral zorgen dat we de huidige AI te veel vertrouwen. Een zelfrijdende auto die 95% van de tijd feilloos rijdt, bijvoorbeeld op voorspelbare snelwegen, maar in de stad om de haverklap brokken maakt, is levensgevaarlijk.
Ondanks het succes van zoekmachines bij het schiften van informatie op het world wide web begrijpen computers nog steeds niet wat ze lezen. Neem dit beroemde, uit slechts vijf woorden bestaande verhaaltje: “Te koop: babyschoentjes. Nooit gedragen.” Mensen trekken hieruit de conclusie dat er waarschijnlijk een baby is overleden en de schoentjes daarom te koop zijn. Dat staat nergens letterlijk. Ons begrip stoelt op kennis van de wereld en van de taal, op gezond verstand en causaal redeneren. Geen computer die dit korte verhaal begrijpt, laat staan een complexe roman van een paar honderd pagina’s.
AI heeft fundamentele beperkingen die meer computerkracht en meer data niet oplossen, beargumenteren Marcus en Davis. De achilleshiel is dat onze wereld complex, dynamisch en open is. Er kan een vrijwel oneindig aantal onvoorziene dingen gebeuren. Huidige AI is sterk gebaseerd op het leren van duizenden voorbeelden en kan daar niet mee omgaan. Er is vaak geen tijd om eerst van duizenden voorbeelden te leren. Een zelfrijdende auto moet in een fractie van een seconde de juiste beslissing nemen.
De AI worstelt al sinds haar begin als wetenschappelijke discipline in 1956 met deze achilleshiel. De aanpak die in de eerste decennia de boventoon voerde, symbolische AI, was gebaseerd op het vatten van kennis in symbolen en regels, en daarmee logisch redeneren. Ook die aanpak liep tegen beperkingen aan. In het afgelopen decennium werd de symbolische AI overvleugeld door lerende AI en dan met name deep learning.
De oude aanpak is slecht in het leren van nieuwe dingen. De nieuwe aanpak is slecht in het begrijpen van de wereld. En zo komen Marcus en Davis in Rebooting AI bij hun recept voor de toekomst: combineer de oude en de nieuwe AI, en vul de mix aan met nog te ontwikkelen nieuwe AI-instrumenten. Net als mensen zullen ook machines een aantal aangeboren vaardigheden moeten hebben: een basaal begrip van tijd, ruimte en causaliteit. Daarmee kunnen ze een intuïtief psychologisch en natuurkundig begrip ontwikkelen. Wat gaat er in andere mensen om? Hoe gedragen voorwerpen zich onder invloed van de zwaartekracht?
Vervolgens moeten machines leren redeneren met onzekere informatie. Al deze vaardigheden moeten machines verbinden met het waarnemen van de omgeving, het manipuleren ervan, en natuurlijk met taal. Dat stelt ze in staat om net als mensen cognitieve modellen van de wereld op te bouwen. Met zo’n totaalpakket kunnen machines op een flexibele, mensachtige manier een heleboel verschillende vaardigheden leren. Van deep learning naar deep understanding.
Gemakkelijker gezegd dan gedaan, maar het valt te prijzen dat Rebooting AI de AI-hype van het broodnodige realisme voorziet. De helderheid, de nuchterheid en de inzichten uit niet alleen de informatica, maar ook de psychologie en de taalkunde maken dit het beste populair-wetenschappelijke AI-boek van de afgelopen jaren. “Het echte gevaar is niet superintelligentie, maar idiot savants met macht”, besluiten de auteurs.
Gary Marcus en Ernest Davis. Rebooting AI − Building artificial intelligence we can trust. Pantheon Books. 273 pag.
