How a Worm Could Save Humanity From Bad AI | Ramin Hasani | TED

Traducteur: Claire Ghyselen Relecteur: eric vautier

My wildest dream is to design artificial intelligence

Mon rêve le plus fou est de concevoir une intelligence artificielle

that is our friend, you know.

qui serait notre amie.

If you have an AI system that helps us understand mathematics,

Avec une IA qui nous aide à comprendre les mathématiques,

you can solve the economy of the world.

on pourra résoudre l’économie mondiale.

If you have an AI system that can understand humanitarian sciences,

Avec une IA capable de comprendre les sciences humaines,

we can actually solve all of our conflicts.

on pourra résoudre tous nos conflits.

I want this system to, given Einstein’s and Maxwell’s equations,

Je souhaite que ces systèmes d’IA, selon les équations d’Einstein et de Maxwell,

take it and solve new physics, you know.

puissent résoudre une physique nouvelle.

If you understand physics, you can solve the energy problem.

Quand on comprend la physique, on peut résoudre le problème de l’énergie.

So you can actually design ways for humans

On peut véritablement concevoir pour les humains des façons

to be the better versions of themselves.

de devenir des meilleures versions d’eux-mêmes.

I'm Ramin Hasani.

Je m’appelle Ramin Hasani

I’m the cofounder and CEO of Liquid AI.

et je suis le co-fondateur et PDG de Liquid AI,

Liquid AI is an AI company built on top of a technology

une entreprise créée sur la technologie que j’ai inventée quand j’étais au MIT,

that I invented back at MIT.

It’s called “liquid neural networks.”

appelée « réseau de neurones liquides ».

These are a form of flexible intelligence,

C’est une forme d’intelligence flexible,

as opposed to today's AI systems that are fixed, basically.

contrairement aux systèmes d’IA actuels qui sont fondamentalement fixes.

So think about your brain.

Pensez à votre cerveau.

You can change your thoughts.

On peut changer ses pensées.

When somebody talks to you,

Quand quelqu’un nous parle,

you can completely change the way you respond.

on peut totalement modifier notre façon de réagir.

You always have a mechanism that we call feedback in your system.

Nous avons tous un mécanisme appelé retour d’information dans notre système.

So basically when you receive information from someone as an input,

C’est-à-dire, quand on reçoit une information d’autrui, un entrant,

you basically process that information, and then you reply.

on traite cette information et ensuite on répond.

For liquid neural networks,

On a simplement intégré ce mécanisme dans les réseaux de neurones liquides,

we simply got those feedback mechanisms, and we added that to the system.

et on l’a ajouté au système.

So that means it has the ability of thinking.

Cela signifie qu’il a la capacité de penser.

That property is inspired by nature.

Une propriété inspirée de la nature.

We looked into brains of animals and, in particular,

Nous avons étudié le cerveau d’animaux, et en particulier,

a very, very tiny worm called “C. elegans”

un tout petit ver appelé « C. elegans ».

The fascinating fact about the brain of the worm

Ce qui est fascinant dans le cerveau de ce ver,

is that it shares 75 percent of the genome that it has with humans.

c’est qu’il partage 75 % de son génome avec les humains.

We have the entire genome mapped.

Nous en avons cartographié la totalité.

So we understand a whole lot

Nous comprenons donc très bien les fonctions de son système nerveux.

about the functionality of its nervous system as well.

So if you understand the properties of cells in the worm,

Si on comprend les propriétés des cellules du ver,

maybe we can build intelligent systems that are as good as the worm

on pourrait construire des systèmes intelligents aussi bons que celui-ci

and then evolve them into systems that are better than even humans.

et ensuite les faire évoluer

vers des systèmes meilleurs que celui de l’Homme.

The reason why we are studying nature is the fact that we can actually,

Étudier la nature nous permet, et c’est pour cela qu’on le fait,

having a shortcut through exploring all the possible kind of algorithms

de prendre un raccourci pour explorer toutes sortes d’algorithmes possibles

that you can design.

que l’on peut concevoir.

You can look into nature,

En observant la nature, on peut trouver un raccourci

that would give you like, a shortcut

to really faster get into efficient algorithms

pour trouver très rapidement les bons algorithmes,

because nature has done a lot of search,

car la nature a fait sa part de recherche

billions of years of evolution, right?

pendant les milliards d’années de l’évolution.

So we learned so much from those principles.

On apprend beaucoup de ces principes.

I just brought a tiny principle from the worm

J’ai juste intégré un petit principe de ce ver

into artificial neural networks.

dans le réseau neural pour le rendre flexible

And now they are flexible,

and they can solve problems in an explainable way

et résoudre des problèmes de façon explicable,

that was not possible before.

ce qui était auparavant impossible.

AI is becoming very capable, right?

L’IA devient utilisable.

The reason why AI is hard to regulate

La raison pour laquelle c’est si difficile de réguler l’IA

is because we cannot understand, even the people who design the systems,

est que nous ne la comprenons pas, même ceux qui la conçoivent.

we don't understand those systems.

On ne comprend pas ces systèmes ; ce sont des boîtes noires.

They are black boxes.

With Liquid, because we are fundamentally using mathematics

Avec Liquid, comme nous nous basons sur les mathématiques,

that are understandable,

ils sont compréhensibles,

we have tools to really understand

nous avons les outils pour comprendre

and pinpoint which part of the system is responsible for what,

et discerner quelles parties du système sont responsables de quoi,

you're designing white box systems.

ces systèmes sont transparents.

So if you have systems that you can understand their behavior,

Avec des systèmes dont on comprend les comportements,

that means even if you scale them into something very, very intelligent,

on peut passer à l’échelle et en faire quelque chose de très intelligent,

you can always have a lot of control over that system

on peut continuer d’avoir le contrôle de ce système

because you understand it.

car on le comprend.

You can never let it go rogue.

On ne laissera pas devenir malveillant.

So all of the crises we are dealing with right now,

Toutes les crises auxquelles nous sommes confrontés,

you know, doomsday kind of scenarios,

tous ces scénarios apocalyptiques,

is all about scaling a technology that we don't understand.

sont liés au passage à l’échelle d’une technologie que nous ne comprenons pas.

With Liquid, our purpose is to really calm people down

Chez Liquid, notre mission est de rassurer les gens

and show people that, hey,

et leur montrer qu’on peut avoir des systèmes très puissants

you can have very powerful systems,

que l’on contrôle très bien et qui sont transparents,

that you have a lot of control and visibility

into their working mechanisms.

intégrés dans leurs mécanismes de travail.

The gift of having something [with] superintelligence is massive,

Le don d’une super-intelligence est énorme

and it can enable a lot of things for us.

et elle peut nous permettre plein de choses.

But at the same time,

Mais en même temps, nous devons pouvoir la contrôler.

we need to have control over that technology.

Because this is the first time that we’re going to have a technology

Ce sera la première fois où nous aurons une technologie

qui sera meilleure que toute l’humanité réunie.

that is going to be better than all of humanity combined.