'Let a Thousand AIs Bloom'

The field of artificial intelligence (AI) has been dominated by the deep learning approach in recent years, and there is some concern that focus may be limiting progress in the field. David Danks, a professor of data science and philosophy at the University of California, San Diego, advocates for more diversity in AI research or, as he puts it, "let a thousand AIs bloom."

This article was written for ACM News and published on 4 May 2023.

What has led you to the conclusion there is too little diversity in the AI field?

We have seen enormous advances in the ability of AI, and in particular deep learning, to predict, classify, and generate what we might think of as the surface features of the world. These successes are marked by two fundamental features that don't always hold: having a measurement of what matters, and being able to define what counts as success. Deep learning can do amazing things, but what worries me is that it crowds everything else out.

Such as…

We have struggled to come up with AI systems that can discover the underlying structure of the world, things that show up in the data but are not defined by them. So one reason that we are struggling with developing more trustworthy and value-centered AI is because trust and values fundamentally are not things that we know how to give numerical expressions for.

Can you give an example?

It is difficult to figure out what counts as success for a self-driving car. Sure, we want to drive safely, but what counts as driving safely is very context-dependent. It depends on social norms, it depends on the weather, it depends on suddenly occurring situations on the road. As soon as there is an unusual context, self-driving cars can't reason their way out like a human driver can.

The complete article can be read here.

NRC-podcast "De volgende Einstein kan een computer zijn"

In de NRC Podcast 'Onbehaarde Apen' sprak ik op 15 februari 2023 over de laatste ontwikkelingen in de kunstmatige intelligentie. 

Klik op de afbeelding om naar de podcast te gaan.



Computers kunnen dankzij kunstmatige intelligentie boeken schrijven, schilderen, de allerbeste schaker ter wereld verslaan. Ze kunnen zebrastrepen herkennen en medische diagnoses stellen. Maar ze kunnen ook een heleboel niet, zoals menselijke intuïtie nabootsen. Daarbij gaan ze ook weleens de mist in. Zo zei de nieuwe chatbot van Google, Bard, dat de James Webb-telescoop als eerste foto's van een planeet buiten ons zonnestelsel had genomen. En ChatGPT deed per abuis verslag van een sportwedstrijd die nog helemaal niet had plaatsgevonden. Waar liggen de grenzen van AI? En: is de Einstein van de toekomst een computer?

Is de volgende Einstein een computer?

In 2022 bleken AI-systemen verbluffende schrijvers en schilders. AI-programma AlphaFold loste een decennia oud fundamenteel biologisch probleem op. Wanneer gaat AI zelf een wetenschappelijke ontdekking doen en deze glashelder en geduldig uitleggen aan menselijke wetenschappers?

Dit artikel is gepubliceerd in NRC Handelsblad van 25 februari 2023

Toen de Oostenrijkse natuurkundige Mario Krenn in 2016 promotieonderzoek deed bij een van de bekendste kwantumfysici ter wereld, Anton Zeilinger (Nobelprijswinnaar natuurkunde in 2022), wilden ze bepaalde nieuwe kwantummechanische toestanden in het laboratorium creëren. Maar wat ze ook probeerden, ze konden geen geschikte methoden verzinnen. Ze trokken de conclusie dat hun intuïtie hen in de weg zat, juist omdat de kwantummechanica zelf vol zit met tegenintuïtieve fenomenen. Licht dat zich de ene keer gedraagt als een golf en de andere keer als een deeltje; of deeltjes die op afstand toch met elkaar verstrengeld zijn ⎼ dat soort onbegrijpelijke dingen.

Als de menselijke intuïtie faalt, dan is het misschien beter om een computer, die weliswaar niet de voordelen maar ook niet de nadelen heeft van die intuïtie, naar oplossingen te laten zoeken, bedacht Krenn. Hij schreef een kunstmatig intelligent computerprogramma, Melvin genaamd, trainde het eerst op eenvoudigere kwantumsystemen en liet het vervolgens complexere experimentele opzetten voorstellen. Al snel genereerde Melvin een volkomen tegenintuïtief idee, dat menselijke natuurkundigen niet zouden bedenken, maar een paar jaar later wel echt bleek te werken in het laboratorium.

“We wisten Melvins oplossing te generaliseren tot een algemeen concept voor een nieuw type kwantummechanische verstrengeling”, vertelt Krenn in een interview. “We publiceerden de resultaten in Physical Review Letters, maar het interessante was dat geen van de auteurs het kernidee had bedacht, want dat kwam van Melvin, de computer. In het nawoord hebben we Melvin bedankt voor het analyseren van honderden miljoenen experimenten.”

Lees het hele artikel in NRC Handelsblad.