Monday, December 11, 2023

De kunst van de samenwerking tussen mens en AI

Voor het oktobernummer van iBestuur (onafhankelijk kwartaalmagazine van de overheid over digitale zaken) schreef ik een artikel over de kunst van de samenwerking tussen mens en AI



Mijn moeder is dementerende en om haar eraan te herinneren dat ze elke dag haar medicijnen tegen een te lage hartslag inneemt, bel ik haar iedere ochtend even op. Terwijl ze aan de telefoon is, neemt ze haar pilletje in, zodat ze het echt niet vergeet. Ik heb eraan gedacht of ik niet een pratend robotje zou aanschaffen dat mijn telefoontje overneemt. Elke dag op dezelfde tijd zou het robotje haar kunnen vertellen dat ze haar medicijnen moet innemen. Dit soort robotjes bestaat. Ik zou het robotje zelfs mijn stem kunnen geven. Ik vroeg mijn moeder wat ze van dit idee vond. Ze zei niets, maar wees met haar wijsvinger ferm naar mij.

Eerlijk gezegd heb ik zelf ook liever dat ik bel. Aan haar stem hoor ik namelijk meteen hoe het met haar gaat. We kunnen even een praatje maken. Mijn telefoontje is veel meer dan een instructie dat ze haar medicijnen moet nemen. Het is belangstelling voor haar, het is een betekenisvol contact tussen moeder en zoon, het is een manier om haar zich even minder alleen te laten voelen. Hoe slim geprogrammeerd ook, een robotje heeft geen enkele sociale, psychologische of biologische relatie met mijn moeder, en ook geen gedeelde ervaringen.

Mensen hebben een leven, kunstmatige intelligentie (AI) niet. Dat is een wezenlijk verschil. Dit leidt er ook toe dat AI tot nu toe niet erg geschikt is gebleken voor het oplossen van vraagstukken die een belangrijke morele, ethische of sociale component hebben. Wereldwijd zijn er talloze voorbeelden van algoritmen die mensen onterecht van fraude beschuldigden, die bij sollicitaties vrouwen achterstelden, of die in gezichtsherkenningssoftware de gezichten van zwarte mensen veel slechter herkenden. Gelukkig blijven er nog genoeg problemen over waar de samenwerking tussen mens en AI wel tot betere prestaties kan leiden. Ondanks dat er nog talloze aspecten van intelligentie zijn waarin de mens veel beter is dan AI, zoals alledaagse kennis, redeneren over oorzaak en gevolg, abstraheren en generaliseren, zijn AI systemen namelijk beter dan mensen als het gaat om het herkennen van subtiele patronen, het nemen van consistente beslissingen en het leren van enorme hoeveelheden invoerdata. Bovendien hebben ze geen last van vermoeidheid, emoties of typisch menselijke vooringenomenheden.

Het menselijk brein is razend efficiƫnt en kan snel beslissingen nemen, maar de prijs die het daarvoor betaalt is een lijst met meer dan honderd soorten cognitieve vooringenomenheid of bias. 95% van de auto-ongelukken in Europa ontstaat door menselijke fouten, zoals een gebrek aan concentratie, een gebrek aan slaap of overmatig alcoholgebruik. Mensen laten het negatieve vaak zwaarder wegen dan het positieve, wat bijvoorbeeld leidt tot veel meer negatief nieuws in de media dan positief nieuws. Een groot aantal mensen ervaart discriminatie bij sollicitaties, veroorzaakt door mensen, niet door algoritmen. Menselijke radiologen kunnen hoogstens honderd beelden per dag beoordelen en missen gemiddeld dertig procent van de diagnoses die op een afwijking duiden.

Om dit soort menselijke tekortkomingen te compenseren, kunnen AI-systemen nuttig zijn. Menselijke radiologen die samenwerken met AI-systemen maken aantoonbaar minder fouten. Met de toenemende vergrijzing en een toenemend tekort aan radiologen is AI als aanvulling op de menselijke radioloog een uitkomst. Denemarken heeft een van de twee menselijke radiologen die bij het bevolkingsonderzoek naar borstkanker mammogrammen beoordelen al vervangen door een AI-systeem.

Een recent experiment met taxichauffeurs in Tokyo die een AI-systeem konden gebruiken dat op elk moment voorspelt op welke locatie de vraag naar taxi’s het grootste is, liet zien dat de productiviteit van minder ervaren taxichauffeurs met veertien procent steeg, terwijl de productiviteit van zeer ervaren chauffeurs niet veranderde. Ook in andere beroepen is gebleken dat AI-systemen juist de prestaties van minder geschoolde of minder ervaren mensen kan verbeteren. Op deze manier kan AI ongelijkheid tussen mensen juist verminderen.

Een studie van het Stanford Immigration Policy Lab liet zien dat AI de kans dat een vluchteling werk kreeg in de VS met veertig procent vergrootte en in Zwitserland zelfs met zeventig procent. Het AI-systeem zocht hiervoor naar de beste match tussen de individuele capaciteiten van een vluchteling, zoals opleiding en talenkennis, en de behoeften die een bepaalde gemeente aan bepaalde arbeidskrachten heeft. Een mooi voorbeeld van hoe AI ook tot betere overheidsbeslissingen kan leiden.

De crux is om ons te realiseren dat huidige AI heel anders is dan menselijke intelligentie, dat AI geen magie is, maar door en door mensenwerk, en dat we heel goed moeten onderzoeken hoe we dat wat mensen beter kunnen dan AI moeten combineren met dat wat AI beter kan dan mensen. Dan is het niet genoeg dat een AI-systeem in een eenvoudige laboratoriumomgeving werkt, nee, eerst moet bewezen worden dat AI ook in een echte, complexe organisatie goed kan werken en ook nog kosteneffectief is. Vaak vraagt dat om aanpassingen van de mensen in de organisatie.

In de kunst van de samenwerking tussen mens en AI hoeven AI-systemen niet op mensen te lijken, ze hoeven geen bewustzijn te hebben en ze hoeven niet onze maatjes of collega’s te zijn. AI-systemen moeten gewoon slimme, nuttige assistenten zijn die bepaalde problemen beter en sneller oplossen dan mensen dat kunnen en zo de mens een turboboost geven.

Monday, June 5, 2023

Slim, slimmer, slimst - Hoe kunstmatige intelligentie de mens een turboboost geeft

'Slim, slimmer, slimst', mijn pocketboek over AI als turboboost voor de mens, is op 31 mei 2023 met succes gelanceerd. Het eerste exemplaar werd in ontvangst genomen door UvA-hoogleraar machine learning Max Welling. In 100 bladzijden vertel ik in 'Slim, slimmer, slimst' wat iedereen zou moeten weten over AI.



Kunstmatige intelligentie (AI) vertaalt razendsnel onze teksten, herkent onze gezichten, ondersteunt artsen bij het stellen van medische diagnoses en maakt auto’s deels zelfrijdend. Maar op sommige gebieden winnen zelfs peuters het nog van AI, zoals bij het begrijpen van wat een ander wil of voelt.

Hoe indrukwekkend de prestaties ook zijn, AI is op en top mensenwerk. Elk stuk AI-technologie wordt nog steeds ontworpen, gebouwd en onderhouden door mensen. Daarom gaat wetenschapsjournalist Bennie Mols in Slim, slimmer, slimst in op de relatie tussen menselijke en kunstmatige intelligentie.

Waarin is AI beter dan de mens? Waarin is de mens beter dan AI? Hoe kunnen mens en AI succesvol samenwerken? Hoe kan AI helpen om wetenschappelijke ontdekkingen te doen, muziek te maken, te schilderen of te schrijven? En moeten we bang zijn dat superintelligente AI de wereld overneemt?

Het boek is hier te bestellen.

Enkele foto's van de boekpresentatie op woensdag 31 mei:





Op zaterdag 10 juni vertelde ik in het NPO Radio 1-programma Nieuwsweekend over het boek. Het item is hier te bekijken/beluisteren.




In twee podcasts, AI Verkenners en AI Today, vertelde ik uitgebreid over mijn visie op de samenwerking tussen mens en AI. De podcast van AI Verkenners is hier te beluisteren.


En hier is de podcast van AI Today, verdeeld in twee delen, en te beluisteren via Spotify door op de afbeeldingen te klikken:





In Filosofie Magazine verscheen een interview met mij over 'Slim, slimmer, slimst': 


Boekrecensies

NRC Handelsblad (25 januari 2024)



de Volkskrant (8/9 juli 2023)




Kennislink (6 juni 2023)

"Het immens populaire ChatGPT zorgt voor veel schreeuwerige nieuwskoppen over de gevaren van kunstmatige intelligentie. Wetenschapsjournalist Bennie Mols weet die hijgerige doemverhalen mooi te debunken in zijn pocketboekje Slim, slimmer, slimst."

De Ingenieur (juni 2023)

"Ook zo overweldigd door een golf aan negatieve berichten over kunstmatige intelligentie? Lees dan 'Slim, slimmer, slimst', een relativerend en zeer informatief boekje over AI"



Tech-expert Jarno Duursma: 


Managementboek.nl :






Monday, May 15, 2023

'Let a Thousand AIs Bloom'

The field of artificial intelligence (AI) has been dominated by the deep learning approach in recent years, and there is some concern that focus may be limiting progress in the field. David Danks, a professor of data science and philosophy at the University of California, San Diego, advocates for more diversity in AI research or, as he puts it, "let a thousand AIs bloom."



This article was written for ACM News and published on 4 May 2023.

What has led you to the conclusion there is too little diversity in the AI field?

We have seen enormous advances in the ability of AI, and in particular deep learning, to predict, classify, and generate what we might think of as the surface features of the world. These successes are marked by two fundamental features that don't always hold: having a measurement of what matters, and being able to define what counts as success. Deep learning can do amazing things, but what worries me is that it crowds everything else out.

Such as…

We have struggled to come up with AI systems that can discover the underlying structure of the world, things that show up in the data but are not defined by them. So one reason that we are struggling with developing more trustworthy and value-centered AI is because trust and values fundamentally are not things that we know how to give numerical expressions for.

Can you give an example?

It is difficult to figure out what counts as success for a self-driving car. Sure, we want to drive safely, but what counts as driving safely is very context-dependent. It depends on social norms, it depends on the weather, it depends on suddenly occurring situations on the road. As soon as there is an unusual context, self-driving cars can't reason their way out like a human driver can.

The complete article can be read here.

Friday, May 5, 2023

NRC-podcast "De volgende Einstein kan een computer zijn"

In de NRC Podcast 'Onbehaarde Apen' sprak ik op 15 februari 2023 over de laatste ontwikkelingen in de kunstmatige intelligentie. 

Klik op de afbeelding om naar de podcast te gaan.



Computers kunnen dankzij kunstmatige intelligentie boeken schrijven, schilderen, de allerbeste schaker ter wereld verslaan. Ze kunnen zebrastrepen herkennen en medische diagnoses stellen. Maar ze kunnen ook een heleboel niet, zoals menselijke intuĆÆtie nabootsen. Daarbij gaan ze ook weleens de mist in. Zo zei de nieuwe chatbot van Google, Bard, dat de James Webb-telescoop als eerste foto's van een planeet buiten ons zonnestelsel had genomen. En ChatGPT deed per abuis verslag van een sportwedstrijd die nog helemaal niet had plaatsgevonden. Waar liggen de grenzen van AI? En: is de Einstein van de toekomst een computer?


Is de volgende Einstein een computer?

In 2022 bleken AI-systemen verbluffende schrijvers en schilders. AI-programma AlphaFold loste een decennia oud fundamenteel biologisch probleem op. Wanneer gaat AI zelf een wetenschappelijke ontdekking doen en deze glashelder en geduldig uitleggen aan menselijke wetenschappers?


Dit artikel is gepubliceerd in NRC Handelsblad van 25 februari 2023

Toen de Oostenrijkse natuurkundige Mario Krenn in 2016 promotieonderzoek deed bij een van de bekendste kwantumfysici ter wereld, Anton Zeilinger (Nobelprijswinnaar natuurkunde in 2022), wilden ze bepaalde nieuwe kwantummechanische toestanden in het laboratorium creĆ«ren. Maar wat ze ook probeerden, ze konden geen geschikte methoden verzinnen. Ze trokken de conclusie dat hun intuĆÆtie hen in de weg zat, juist omdat de kwantummechanica zelf vol zit met tegenintuĆÆtieve fenomenen. Licht dat zich de ene keer gedraagt als een golf en de andere keer als een deeltje; of deeltjes die op afstand toch met elkaar verstrengeld zijn ⎼ dat soort onbegrijpelijke dingen.

Als de menselijke intuĆÆtie faalt, dan is het misschien beter om een computer, die weliswaar niet de voordelen maar ook niet de nadelen heeft van die intuĆÆtie, naar oplossingen te laten zoeken, bedacht Krenn. Hij schreef een kunstmatig intelligent computerprogramma, Melvin genaamd, trainde het eerst op eenvoudigere kwantumsystemen en liet het vervolgens complexere experimentele opzetten voorstellen. Al snel genereerde Melvin een volkomen tegenintuĆÆtief idee, dat menselijke natuurkundigen niet zouden bedenken, maar een paar jaar later wel echt bleek te werken in het laboratorium.

“We wisten Melvins oplossing te generaliseren tot een algemeen concept voor een nieuw type kwantummechanische verstrengeling”, vertelt Krenn in een interview. “We publiceerden de resultaten in Physical Review Letters, maar het interessante was dat geen van de auteurs het kernidee had bedacht, want dat kwam van Melvin, de computer. In het nawoord hebben we Melvin bedankt voor het analyseren van honderden miljoenen experimenten.”

Lees het hele artikel in NRC Handelsblad.
 

Friday, November 25, 2022

Demystifying artificial intelligence



This article was published on the website of the European Science-Media Hub on 9 November 2022

‘AI is about algorithms’, said a computer scientist. ‘AI is about machines that can learn from data’, said an engineer. ‘We need to do something with AI’, said a business manager. ‘AI is an existential threat for humanity’, said a sociology student.

Over the past decade, artificial intelligence has become branded as AI, but does everyone mean the same when they speak about AI? Not really. “A babylonian confusion of tongues has arisen”, says Geertrui Mieke De Ketelaere, Adjunct Professor at Vlerick Business School in Ghent, Belgium.

Geertrui Mieke De Ketelaere: I started working in the field of artificial intelligence when it was just an academic discipline, in the early 1990’s. A decade or so later, businesses started to be interested in AI, and they started to use their own language, stating things like ‘data is the new oil’. Later, some ten years ago or so, governments stepped in and started using their own language around rules, laws and ethics. And now, scientists, technologists, business managers, sociologists and lawyers are sitting around the table, talking about AI, and they don’t understand each other any longer.

So, what should be done?

Geertrui Mieke De Ketelaere: We urgently need ‘AI translators’, people who translate the needs and demands of engineers to managers, or the concerns of citizens to developers. We need people who can talk about all aspects of AI, people who can connect people, planet and profit – the social, environmental and economical domains. We should adopt AI when it has clear added value, but not when it doesn’t.

Read the full article here.

Sunday, November 6, 2022

Edsger Dijkstra - De man die de informatica op zijn schouders droeg

Edsger Dijkstra, twintig jaar geleden overleden, was Nederlands invloedrijkste informaticus en wereldberoemd. Geliefd bij de een, gehaat bij de ander, en gevreesd om zijn kritische blik door velen. Wat is twintig jaar na Dijkstra’s dood nog zijn wetenschappelijke erfenis?



Dit artikel is gepubliceerd in NRC Handelsblad van zaterdag 5 november 2022 (online reeds op vrijdag 4 november)

Toen Edsger Dijkstra in 1957 in Amsterdam trouwde, gaf hij als antwoord op de vraag naar zijn beroep: programmeur. De gemeente accepteerde dat niet, want dat beroep bestond toen helemaal niet. Dus werd het theoretisch fysicus, het vak dat Dijkstra in Leiden had gestudeerd voordat hij het gloednieuwe pad van de informatica insloeg. „Tot zover de traagheid waarmee ik het beroep van programmeur in mijn eigen land zag opkomen”, schreef hij daarover later, op de ironische toon die hem zo kenmerkt.

Twee jaar eerder had Dijkstra’s promotor Adriaan van Wijngaarden hem overtuigd van het feit dat computers een blijvertje in de wereld zouden zijn. En waarom zou hij dan niet degene zijn die van programmeren een respectabele discipline kon maken? Die missie voerde hij met hart en ziel uit tot aan zijn overlijden in 2002, twintig jaar geleden. Dit jaar is het ook precies vijftig jaar geleden dat hij de A.M. Turing Award won, de Nobelprijs voor de informatica, als enige Nederlander ooit.

Dijkstra speelde in de jaren zestig en zeventig een sleutelrol in het vestigen van de informatica als een wetenschappelijke discipline, met een grote nadruk op bewijsbare correctheid van computerprogramma’s. Iedereen die een route plant met een navigatiesysteem gebruikt het algoritme dat Dijkstra in 1959 bedacht: het kortste-padalgoritme, een efficiĆ«nte methode om de snelste route van A naar B te bepalen, een van zijn baanbrekende concrete bijdragen aan de informatica.

Lees het hele artikel op de website van NRC Handelsblad.