Dit artikel is gepubliceerd in NRC Handelsblad van 19 en 20 september 2020
Tesla-auto’s die zelfstandig van rijbaan wisselen en inhalen op de snelweg. Medische-diagnosesystemen die vertellen wat een patiënt mankeert. Software die aan de bel trekt bij frauduleuze creditcardbetalingen. Kunstmatige intelligentie (AI) maakt technische systemen steeds autonomer. AI-systemen kunnen tegenwoordig zelf nieuwe dingen leren, in plaats van dat ze, zoals bij klassieke automatisering, gebaseerd zijn op expliciet uitgeschreven en goed begrepen regels.
Idealiter verbeteren door het zelflerende karakter de prestaties, maar dan moet het ontwerp wel goed zijn. En dat is nou net geen sinecure. Is het ontwerp onvoldoende doordacht, dan liggen fouten op de loer, zoals de Tesla-auto die in maart 2018 in Californië pardoes tegen een betonnen wegafscheiding op knalde. Het officiële onderzoeksrapport gaf de schuld aan technisch falen van zowel de automatische piloot als het automatische remsysteem.
Ook discriminerende of onuitlegbare beslissingen zijn een reëel gevaar. En zelfs de meest geavanceerde AI-systemen hebben meestal maar heel weinig gezond verstand en zijn vaak eenvoudig te foppen. Plak een psychedelisch sticker naast een banaan en de slimme computer ziet de banaan voor een broodrooster aan.
Als geautomatiseerde systemen steeds slimmer worden, steeds meer op eigen houtje leren, hoe kunnen we er dan voor zorgen dat ze ook blijven doen wat ze moeten doen, en dat ze ze zich blijven houden aan onderliggende menselijke waarden als privacy en gelijke behandeling? Hoeveel controle kan en moet een mens nog hebben over steeds slimmere computersystemen?
Lees het hele artikel op de website van NRC Handelsblad.
