How will AI change the world?

Traducteur: Julie perrissin-fabert Relecteur: Guillaume Rouy

Dans les prochaines années, l’intelligence artificielle (IA)

In the coming years, artificial intelligence

va sûrement changer nos vies et probablement le monde entier.

is probably going to change your life, and likely the entire world.

Mais, on se sait pas encore de quelle manière.

But people have a hard time agreeing on exactly how.

Ce qui suit est tiré d’un entretien du Forum économique mondial

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

accordé par le professeur d’informatique et expert en IA, Stuart Russel,

helps separate the sense from the nonsense.

qui nous aide démêler le vrai du faux à propos des IA.

There’s a big difference between asking a human to do something

Demander à un humain de faire une tâche

and giving that as the objective to an AI system.

et donner le même objectif à une IA sont deux choses très différentes.

When you ask a human to get you a cup of coffee,

Quand on demande à une personne d’aller acheter un café,

you don’t mean this should be their life’s mission,

ce n’est pas la mission de sa vie,

and nothing else in the universe matters.

la seule chose au monde qui compte,

Even if they have to kill everybody else in Starbucks

l’objectif à atteindre même s’il fallait tuer tous les clients du Starbucks

to get you the coffee before it closes— they should do that.

pour avoir son café avant la fermeture.

No, that’s not what you mean.

Non, on ne veut pas dire cela.

All the other things that we mutually care about,

Tout ce qui est important pour nous

they should factor into your behavior as well.

influence aussi notre comportement.

And the problem with the way we build AI systems now

Le problème, c’est que nous construisons les systèmes d’IA

is we give them a fixed objective.

en leur donnant un objectif précis.

The algorithms require us to specify everything in the objective.

Il faut préciser toutes les variables de l’objectif.

And if you say, can we fix the acidification of the oceans?

Par exemple, pouvons-nous lutter contre l’acidification des océans ?

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Oui, une réaction catalytique serait très efficace,

but it consumes a quarter of the oxygen in the atmosphere,

mais un quart de l’oxygène de l’atmosphère serait consommé,

which would apparently cause us to die fairly slowly and unpleasantly

ce qui nous tuerait lentement et dans la douleur

over the course of several hours.

en l’espace de quelques heures.

So, how do we avoid this problem?

Comment éviter ce problème ?

You might say, okay, well, just be more careful about specifying the objective—

Il faut peut-être être plus attentif en définissant l’objectif

don’t forget the atmospheric oxygen.

et tenir compte de l’oxygène dans l’atmosphère.

And then, of course, some side effect of the reaction in the ocean

Mais, la réaction catalytique aurait des effets secondaires dans l’océan,

poisons all the fish.

et empoisonnerait les poissons.

Okay, well I meant don’t kill the fish either.

Bien, on précise aussi de ne pas tuer les poissons.

And then, well, what about the seaweed?

Et ensuite, il faut penser aux algues,

Don’t do anything that’s going to cause all the seaweed to die.

et ne rien faire qui leur soit nocif.

And on and on and on.

Et ainsi de suite…

And the reason that we don’t have to do that with humans is that

Le même processus n’est pas nécessaire avec les êtres humains,

humans often know that they don’t know all the things that we care about.

car sans en être conscients, ils savent ce qui compte vraiment,

If you ask a human to get you a cup of coffee,

Si vous demandez à quelqu’un d’aller vous chercher un café

and you happen to be in the Hotel George Sand in Paris,

et que vous êtes à Paris, à l’Hôtel George V,

where the coffee is 13 euros a cup,

où le café coûte 13 euros,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

on s’attend à ce qu’il revienne et dise :

« Il coûte 13 €, tu es sûr de le vouloir ? Je peux aller ailleurs sinon. »

are you sure you want it, or I could go next door and get one?

And it’s a perfectly normal thing for a person to do.

C’est une réaction parfaitement humaine.

To ask, I’m going to repaint your house—

Quand on repeind une maison,

is it okay if I take off the drainpipes and then put them back?

on demande si on peut enlever les gouttières et les remettre ensuite.

We don't think of this as a terribly sophisticated capability,

Cela ne nous semble pas sorcier,

but AI systems don’t have it because the way we build them now,

mais les IA n’en sont pas capables.

Elles doivent obligatoirement connaitre l’objectif dans sa totalité.

they have to know the full objective.

If we build systems that know that they don’t know what the objective is,

Si on construit des IA conscientes qu’elles ne connaissent pas l’objectif,

then they start to exhibit these behaviors,

elles vont commencer à adopter ce type de comportements,

like asking permission before getting rid of all the oxygen in the atmosphere.

comme demander la permission avant de supprimer l’oxygène de l’atmosphère.

In all these senses, control over the AI system

Ainsi, contrôler un système d’IA

comes from the machine’s uncertainty about what the true objective is.

est possible puisque l’IA ne connaît pas l’objectif réel.

And it’s when you build machines that believe with certainty

Et quand on construit des IA qui ont la certitude

that they have the objective,

de connaître l’objectif réel,

that’s when you get this sort of psychopathic behavior.

on obtient ces comportement psychopathes.

And I think we see the same thing in humans.

Je pense que c’est pareil pour les êtres humains.

What happens when general purpose AI hits the real economy?

Que se passe-t-il quand on confronte l’IA générale et l’économie ?

How do things change? Can we adapt?

Comment les choses changent-elles ? Pouvons-nous nous adapter ?

This is a very old point.

Ce sujet est très ancien.

Amazingly, Aristotle actually has a passage where he says,

Étonnamment, Aristote dit, dans l’un de ses écrits :

look, if we had fully automated weaving machines

« Si nous avions des métiers à tisser entièrement automatisées,

and plectrums that could pluck the lyre and produce music without any humans,

des plectres capables de pincer la lyre et produire de la musique sans humains,

then we wouldn’t need any workers.

il n’y aurait plus besoin de travailleurs. »

That idea, which I think it was Keynes

Cette idée, que Keynes a appelée

who called it technological unemployment in 1930,

« chômage technologique » en 1930,

is very obvious to people.

est bien connue du grand public.

They think, yeah, of course, if the machine does the work,

Les gens pensent que si la machine fait leur travail,

then I'm going to be unemployed.

alors ils perdent leur emploi.

You can think about the warehouses that companies are currently operating

Pensez aux entrepôts des entreprises

for e-commerce, they are half automated.

du e-commerce, qui sont semi-automatisés.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Dans un entrepôt traditionnel, il y a des marchandises empilées partout

all over the place and humans go and rummage around

et les humains fouillent,

ramènent les marchandises et les envoient.

and then bring it back and send it off—

there’s a robot who goes and gets the shelving unit

Maintenant, c’est un robot qui récupère les étagères

that contains the thing that you need,

contenant les marchandises nécessaires,

but the human has to pick the object out of the bin or off the shelf,

mais les humains doivent sortir les objets de l’étagère

because that’s still too difficult.

car c’est encore difficile pour les robots.

But, at the same time,

On peut se demander

would you make a robot that is accurate enough to be able to pick

s’il faut créer des robots suffisamment précis pour récupérer

pretty much any object within a very wide variety of objects that you can buy?

n’importe quel objet qu’il est possible de commercialiser ?

That would, at a stroke, eliminate 3 or 4 million jobs?

Cela supprimerait immédiatement 3 ou 4 millions de postes.

There's an interesting story that E.M. Forster wrote,

E. M. Foster a écrit une histoire fascinante,

where everyone is entirely machine dependent.

dans laquelle les humains dépendent des robots.

The story is really about the fact that if you hand over

L’histoire montre que,

en laissant les robots contrôler notre société,

the management of your civilization to machines,

you then lose the incentive to understand it yourself

nous perdons la capacité de le faire

or to teach the next generation how to understand it.

et de l’apprendre à la génération d’après.

You can see “WALL-E” actually as a modern version,

On peut voir WALL-E comme une version moderne de cette histoire :

where everyone is enfeebled and infantilized by the machine,

toutes les personnes sont diminuées et infantilisées par les robots,

and that hasn’t been possible up to now.

ce qui n’avait pas été possible avant aujourd’hui.

We put a lot of our civilization into books,

Les livres gardent tout en mémoire,

but the books can’t run it for us.

mais ils ne peuvent pas gouverner.

And so we always have to teach the next generation.

Il faut montrer l’exemple aux générations suivantes.

If you work it out, it’s about a trillion person years of teaching and learning

Cela fait des milliards d’années d’apprentissage et d’enseignement,

and an unbroken chain that goes back tens of thousands of generations.

une chaîne interrompue qui remonte à des dizaines de milliers de générations.

Que se passerait-il si on brise la chaîne ?

What happens if that chain breaks?

I think that’s something we have to understand as AI moves forward.

Il faut y réfléchir en développant les IA.

The actual date of arrival of general purpose AI—

On ne peut pas prévoir la date d’arrivée des IA générales :

you’re not going to be able to pinpoint, it isn’t a single day.

on ne les développera pas du jour au lendemain.

It’s also not the case that it’s all or nothing.

Ce n’est pas du tout ou rien.

The impact is going to be increasing.

Leur impact sur nos sociétés sera croissant.

So with every advance in AI,

Chaque avancée en matière d’IA

it significantly expands the range of tasks.

agrandit significativement la palette des tâches connues.

So in that sense, I think most experts say by the end of the century,

C’est pourquoi la plupart des experts estiment que, d’ici la fin du siècle,

we’re very, very likely to have general purpose AI.

il est extrêmement probable que nous ayons développé des IA générales.

The median is something around 2045.

On estime leur arrivée à environ 2045.

I'm a little more on the conservative side.

Je suis un peu plus mitigé.

I think the problem is harder than we think.

Je pense que nous sous-estimons le problème.

I like what John McAfee, he was one of the founders of AI,

J’aime la réponse de John McAfee, l’un des fondateurs de l’IA,

when he was asked this question, he said, somewhere between five and 500 years.

pour qui l’IA générale existerait à une date comprise entre 5 et 500 ans.

And we're going to need, I think, several Einsteins to make it happen.

A mon avis, nous aurons besoin de nombreux Einstein pour y parvenir.