Boeken

Monday, July 1, 2019

Algoritmen verdienen ’n eerlijke kans

Steeds vaker nemen computers beslissingen over mensen. Dat kan goed en fout gaan. Hoe combineer je de sterke punten van algoritmen met die van mensen?



Dit artikel is gepubliceerd in NRC Handelsblad van zaterdag 29 juni 2019

In oktober 2018 besloot het bedrijf Amazon te stoppen met het gebruik van een algoritme voor het inhuren van personeel. Het algoritme bleek vrouwen stelselmatig te benadelen ten opzichte van mannen. Dit is slechts een van de vele voorbeelden uit de afgelopen jaren waarin algoritmen bleken te discrimineren bij beslissingen over mensen.

Algoritmen, de ‘rekenrecepten’ die een computer gebruikt, nemen steeds vaker beslissingen over mensen. In de zorg, bij de overheid, in het onderwijs of bij banken en verzekeraars. En dat raakt aan de menselijke autonomie. Wat willen we aan machines overlaten, wat aan de mens?

De verontwaardiging over de discriminatie door het Amazon-algoritme was vorig jaar groot. Begrijpelijk, maar ook kortzichtig, vindt Sendhil Mullainathan, hoogleraar informatica en gedragswetenschappen aan de universiteit van Chicago en een expert op het gebied van algoritmische beslissingen. „Een algoritme is niet alleen maar een stuk gereedschap”, zegt hij in een Skype-interview. „Het is ook een beetje als een geigerteller. Als je rondloopt met een geigerteller en hij begint ergens hard te tikken, dan moet je de teller niet de schuld geven. Hij vertelt je dat er straling is. Iets soortgelijks geldt voor een algoritme.”

De discriminatie door het Amazon-algoritme liet namelijk zien dat de Amazon-personeelsfunctionarissen jarenlang bevooroordeeld zijn geweest tegenover vrouwen. Want met hun oordelen was het algoritme getraind, zegt Mullainathan. „Telkens als een algoritme bevooroordeelde uitkomsten blijkt te geven, moeten we ons natuurlijk zorgen maken over het algoritme, maar nog meer over hoe mensen zulke beslissingen nemen.”

Lees het hele artikel op de website van NRC Handelsblad