Algoritmen, de ‘rekenrecepten’ die een computer gebruikt, nemen steeds vaker beslissingen over mensen. In de zorg, bij de overheid, in het onderwijs of bij banken en verzekeraars. En dat raakt aan de menselijke autonomie. Wat willen we aan machines overlaten, wat aan de mens?
De verontwaardiging over de discriminatie door het Amazon-algoritme was vorig jaar groot. Begrijpelijk, maar ook kortzichtig, vindt Sendhil Mullainathan, hoogleraar informatica en gedragswetenschappen aan de universiteit van Chicago en een expert op het gebied van algoritmische beslissingen. „Een algoritme is niet alleen maar een stuk gereedschap”, zegt hij in een Skype-interview. „Het is ook een beetje als een geigerteller. Als je rondloopt met een geigerteller en hij begint ergens hard te tikken, dan moet je de teller niet de schuld geven. Hij vertelt je dat er straling is. Iets soortgelijks geldt voor een algoritme.”
De discriminatie door het Amazon-algoritme liet namelijk zien dat de Amazon-personeelsfunctionarissen jarenlang bevooroordeeld zijn geweest tegenover vrouwen. Want met hun oordelen was het algoritme getraind, zegt Mullainathan. „Telkens als een algoritme bevooroordeelde uitkomsten blijkt te geven, moeten we ons natuurlijk zorgen maken over het algoritme, maar nog meer over hoe mensen zulke beslissingen nemen.”
Lees het hele artikel op de website van NRC Handelsblad
