The Transformative Potential of AGI — and When It Might Arrive | Shane Legg and Chris Anderson | TED

Traducteur: eric vautier Relecteur: Claire Ghyselen

Chris Anderson: Shane, give us a snapshot of you growing up

Chris Anderson : Shane, donnez-nous un aperçu de votre enfance

and what on Earth led you to get interested in artificial intelligence?

et de ce qui vous a amené à vous intéresser à l’intelligence artificielle ?

Shane Legg: Well, I got my first home computer on my 10th birthday,

Shane Legg : Eh bien, j’ai eu mon premier ordinateur le jour de mes 10 ans,

and I --

et je...

this was before the internet and everything.

C’était avant Internet et tout le reste.

So you couldn't just go and surf the web and so on.

On ne pouvait donc pas naviguer sur Internet.

You had to actually make stuff yourself and program.

On devait créer des choses soi-même.

And so I started programming,

J'ai donc commencé à programmer,

and I discovered that in this computer there was a world,

et j’ai découvert que grâce à cet ordinateur, je pouvais créer un monde,

I could create a world,

I could create little agents that would run around

créer des petits bonhommes courant partout, se poursuivant, etc.

and chase each other and do things and so on.

And I could sort of, bring this whole universe to life.

Je pouvais en quelque sorte donner vie à cet univers.

And there was sort of that spark of creativity that really captivated me

Il y avait une sorte d’étincelle de créativité qui m’a vraiment envouté.

and sort of, I think that was really the seeds

Je pense que c’est à l’origine de mon intérêt qui s’est ensuite transformé

of my interest that later grew

into an interest in artificial intelligence.

en un intérêt pour l’intelligence artificielle.

CA: Because in your standard education, you had some challenges there.

CA : Dans le cadre de votre formation, vous avez rencontré certains défis.

SL: Yeah, I was dyslexic as a child.

SL : Oui, enfant, j’étais dyslexique.

And so they were actually going to hold me back a year

Quand j’avais 10 ans, on voulait me faire redoubler.

when I was 10 years old,

and they sent me off to get my IQ tested to sort of,

On m’a envoyé faire un test de QI pour évaluer la gravité du problème.

you know, assess how bad the problem was.

And they discovered I had an exceptionally high IQ.

Et ils ont découvert que j’avais un QI exceptionnellement élevé.

And then they were a little bit confused about what was going on.

Ils ne comprenaient pas bien ce qu’il se passait.

And fortunately, at that time,

Heureusement, à cette époque,

there was somebody in the town I lived in

dans ma ville, il y avait quelqu’un qui savait comment tester la dyslexie.

who knew how to test for dyslexia.

And it turns out I wasn't actually of limited intelligence.

Et on découvrit que je n’avais pas exactement une intelligence limitée.

I was dyslexic, and that was the issue.

J’étais dyslexique, et c’était là le problème.

CA: You had reason from an early age to believe

CA : Vous avez donc des raisons de croire

that our standard assumptions about intelligence might be off a bit.

que nos hypothèses habituelles sur l’intelligence sont peut-être erronées.

SL: Well, I had reason, from an early age, to sometimes doubt authority.

SL : J’ai surtout eu des raisons, dès mon plus jeune âge, de douter de l’autorité.

(Laughter)

(Rires)

You know, if the teacher thinks you're dumb, maybe it's not true.

Si le professeur pense que vous êtes stupide, c’est peut-être faux.

Maybe there are other things going on.

Peut-être qu’il y a autre chose.

But I think it also created in me an interest in intelligence

Mais je pense que cela a suscité en moi un intérêt pour l’intelligence,

when I sort of had that experience as a child.

cette expérience que j’ai vécue enfant.

CA: So you're credited by many

CA : Beaucoup vous considèrent

as coining the term “artificial general intelligence,” AGI.

comme l’inventeur du terme IAG, « intelligence artificielle générale ».

Tell us about 2001, how that happened.

Parlez-nous de 2001, comment cela s’est passé.

SL: Yeah, so I was approached by someone called Ben Goertzel

SL : J’ai été approché par un certain Ben Goertzel,

who I'd actually been working with,

avec qui j’avais déjà travaillé.

and he was going to write a book,

Il allait écrire un livre,

and he was thinking about a book on AI systems

il réfléchissait à un livre sur les systèmes d’IA

that would be much more general and capable,

qui seraient beaucoup plus générales,

rather than focusing on very narrow things.

plutôt que restreintes à un champs limité.

And he was thinking about a title for the book.

Il cherchait un titre pour le livre.

Je lui ai dit : « Si tu parles de systèmes généraux,

So I suggested to him, "If you're interested in very general systems,

appelle-les intelligence artificielle générale. »

call it artificial general intelligence."

And so he went with that.

Il a retenu ce terme.

And then him and various other people started using the term online

Puis lui et d’autres personnes ont commencé à l’utiliser sur Internet.

and the internet,

et l'expression est devenu populaire.

and then it sort of became popularized from there.

Nous avons découvert plus tard qu’un certain Mike Garrod

We later discovered there was someone called Mike Garrod,

avait publié un article dans une revue de nanotechnologie de sécurité en 1997.

who published a paper in a security nanotech journal in '97.

So he is actually the first person to have used the term.

C’est donc le premier à avoir utilisé ce terme.

But it turns out he pretty much meant the same thing as us anyway.

Et il voulait dire à peu près la même chose que nous de toute façon.

CA: It was kind of an idea whose time had come,

CA : C’était le bon timing pour exprimer le potentiel de ce secteur.

to recognize the potential here.

I mean, you made an early prediction that many people thought was bonkers.

Votre prédiction précoce, que tout le monde trouvait dingue,

What was that?

quelle était-elle ?

SL: Well, in about 2001,

SL : Eh bien, vers 2001,

a similar time to when I suggested this term artificial general intelligence,

à la même époque où j’ai suggéré la notion d’IAG,

I read a book by Ray Kurzweil, actually, "Age of Spiritual Machines,"

j’ai lu le livre de Ray Kurzweil, « Age of Spiritual Machines ».

and I concluded that he was fundamentally right,

J’ai pensé qu’il avait fondamentalement raison,

that computation was likely to grow exponentially for at least a few decades,

que la puissance de calcul allait croître exponentiellement pendant des décennies,

and the amount of data in the world would grow exponentially

tout comme la quantité de données produites dans le monde.

for a few decades.

And so I figured that if that was going to happen,

J’ai donc pensé que, si cela devait se produire,

then the value of extremely scalable algorithms

la valeur d’algorithmes extrêmement évolutifs,

that could harness all this data and computation

capables d’exploiter toutes ces données et cette puissance,

were going to be very high.

serait très élevée.

And then I also figured that in the mid 2020s,

J’ai également pensé qu’au milieu des années 2020,

it would be possible then,

il serait alors possible,

if we had these highly scalable algorithms,

si nous disposions de ces algorithmes,

to train artificial intelligence systems

d’entraîner des systèmes d’IA

on far more data than a human would experience in a lifetime.

sur bien plus de données qu’un humain verrait au cours de sa vie.

And so as a result of that,

Tout cela,

you can find it on my blog from about 2009

vous pouvez le retrouver sur mon blog vers 2009.

I think it's the first time I publicly talked about it,

C’est la première fois que j’en parle publiquement.

I predicted a 50 percent chance of AGI by 2028.

J’avaiis prédit une probabilité de 50 % d’IAG d’ici 2028.

I still believe that today.

J'y crois encore aujourd'hui.

CA: That's still your date.

CA : C’est toujours votre prédiction.

How did you define AGI back then, and has your definition changed?

Comment définissiez-vous l’IAG à l’époque, et votre définition a-t-elle changé ?

SL: Yeah, I didn't have a particularly precise definition at the beginning.

SL : Oui, je n’avais pas de définition particulièrement précise au début.

It was really just an idea of systems that would just be far more general.

C'était en fait juste une idée de systèmes qui seraient bien plus généraux.

So rather than just playing Go or chess or something,

Plutôt que de simplement jouer au Go ou aux échecs,

rather than actually be able to do many, many different things.

ils pourraient faire plein de choses différentes.

The definition I use now is that it's a system

Ma définition est qu'il s'agit d'un système

that can do all the cognitive kinds of tasks

qui peut effectuer toutes sortes de tâches cognitives

that people can do, possibly more,

que les gens peuvent effectuer, peut-être plus,

but at least it can do the sorts of cognitive tasks

mais au moins les tâches cognitives que les gens peuvent généralement effectuer.

that people can typically do.

CA: So talk about just the founding of DeepMind

CA : Parlez-nous de la création de DeepMind

and the interplay between you and your cofounders.

et de l'interaction entre vous et vos cofondateurs.

SL: Right. So I went to London to the place called the Gatsby Unit,

SL : Ok. J'ai donc rejoint le Gatsby Unit à Londres,

which studies theoretical neuroscience and machine learning.

qui étudie les neurosciences théoriques et l'apprentissage automatique.

And I was interested in learning the relationships

Je souhaitais découvrir les relations

between what we understand about the brain

entre ce que nous comprenons du cerveau et l'apprentissage automatique.

and what we know from machine learning.

So that seemed like a really good place.

Cela me semblait un très bon endroit.

J'y ai rencontré Demis Hassabis.

And I met Demis Hassabis there.

On avait le même directeur de thèse, et on a commencé à discuter.

He had the same postdoc supervisor as me,

and we got talking.

And he convinced me

Et il m'a convaincu

that it was the time to start a company then.

que le moment était venu de créer une entreprise.

That was in 2009 we started talking.

Nous avons commencé à parler en 2009.

And I was a little bit skeptical.

J'étais un peu sceptique.

I thought AGI was still a bit too far away,

Je pensais que l'IAG était encore un peu trop loin,

but he thought the time was right, so we decided to go for it.

mais pas lui, alors on a décidé de se lancer.

And then a friend of his was Mustafa Suleyman.

Mustafa Suleyman était un de ses amis.

CA: And specifically, one of the goals of the company

CA : Plus précisément, un des objectifs de l'entreprise

was to find a pathway to AGI?

était de trouver une voie vers l'IAG ?

SL: Absolutely.

SL : Absolument.

On our first business plan that we were circulating

Sur notre premier business plan,

when we were looking for investors in 2010,

lorsque nous recherchions des investisseurs en 2010,

it had one sentence on the front cover and it said,

il y avait une phrase sur la couverture :

"Build the world's first artificial general intelligence."

« Construisons la première IAG au monde. »

So that was right in from the beginning.

On a dit ça dès le début.

CA: Even though you knew

CA : Même si vous saviez

that building that AGI might actually have

que la construction de cette IAG pourrait avoir

apocalyptic consequences in some scenarios?

des conséquences apocalyptiques dans certains scénarios ?

SL: Yeah.

SL : Oui.

So it's a deeply transformative technology.

Il s'agit donc d'une technologie profondément transformatrice.

I believe it will happen.

Je crois que cela va advenir.

I think that, you know,

Je pense que

these algorithms can be understood and they will be understood at the time.

ces algorithmes peuvent être compris et ils le seront à un moment donné.

And I think that intelligence is fundamentally

Je pense que l'intelligence est fondamentalement

an incredibly valuable thing.

une chose incroyablement précieuse.

Everything around us at the moment -- the building we’re in,

Tout ce qui nous entoure, le bâtiment où nous sommes,

the words I’m using, the concepts we have, the technology around us --

les mots que j'utilise, les concepts, la technologie qui nous entoure,

you know, all of these things are being affected by intelligence.

toutes ces choses sont influencées par l'intelligence.

So having intelligence in machines

Avoir de l'intelligence dans les machines

is an incredibly valuable thing to develop.

est donc une chose incroyablement précieuse à développer.

And so I believe it is coming.

Je crois donc que cela va advenir.

Now when a very, very powerful technology arises,

Aujourd'hui, lorsqu'une technologie très, très puissante apparaît,

there can be a range of different outcomes.

les résultats peuvent être très différents.

Things could go very, very well,

Ça pourrait très bien se passer,

but there is a possibility things can go badly as well.

mais l'inverse est aussi possible.

And that was something I was aware of also from about 20 years ago.

J'en étais déjà conscient il y a une vingtaine d'années.

CA: So talk about, as DeepMind developed,

CA : Au fur et à mesure du développement de DeepMind,

was there a moment where you really felt,

y a-t-il eu un moment où vous vous êtes dit :

"My goodness, we're onto something unbelievably powerful?"

« Mon Dieu, nous sommes sur quelque chose d'incroyablement puissant » ?

Like, was it AlphaGo, that whole story, or what was the moment for you?

Est-ce que c'était avec AlphaGo ? Quand vous êtes-vous dit ça ?

SL: Yeah, there were many moments over the years.

SL : Il y a eu plusieurs occasions.

One was when we did the Atari games.

L'une d'elles, c'était avec les jeux Atari.

Have you seen those videos

Avez-vous vu ces vidéos

where we had an algorithm that could learn to play multiple games

d'un algorithme capable d'apprendre à jouer à plusieurs jeux

without being programmed for any specific game?

sans être programmé pour un jeu en particulier ?

There were some exciting moments there.

Ça a été des moments passionnants.

Go, of course, was a really exciting moment.

AlphaGo, bien sûr, a été un moment vraiment excitant.

But I think the thing that's really captured my imagination,

Mais je pense que ce qui a vraiment captivé mon imagination

a lot of people's imagination,

et celle de beaucoup de gens,

is the phenomenal scaling of language models in recent years.

c'est cet incroyable passage à l'échelle des modèles linguistiques.

I think we can see they're systems

On voit que ce sont des systèmes

that really can start to do some meaningful fraction

qui peuvent réellement effectuer une part significative

of the cognitive tasks that people can do.

des tâches cognitives que les gens effectuent.

CA: Now, you were working on those models,

CA : Vous travailliez sur ces modèles,

but were you, to some extent, blindsided

mais avez-vous été un peu dépassé

by OpenAI's, sort of, sudden unveiling of ChatGPT?

par OpenAI, par l'apparition soudaine de ChatGPT ?

SL: Right.

SL : Effectivement.

We were working on them and you know,

Nous travaillions dessus aussi.

the transformer model was invented in Google,

Le modèle a été inventé par Google.

and we had teams who were building big transformer language models and so on.

Nous avions des équipes qui travaillaient sur les modèles linguistiques.

CA: Google acquired DeepMind at some point in this journey.

CA : Google avait racheté DeepMind à un moment donné.

SL: Yeah, exactly.

SL : Oui, exactement.

And so what I didn't expect

Ce à quoi je ne m'attendais donc pas,

was just how good a model could get training purely on text.

c'est à quel point un modèle pouvait s'entraîner uniquement sur du texte.

I thought you would need more multimodality.

Je pensais que nous aurions besoin de plus de formats :

You'd need images, you'd need sound, you'd need video and things like that.

d'images, de sons, de vidéos et d'autres choses de ce genre.

But due to the absolutely vast quantities of text,

Mais en raison de la quantité absolument énorme de texte,

it can sort of compensate for these things to an extent.

il peut compenser ces facteurs dans une certaine mesure.

I still think you see aspects of this.

Je pense qu'on en voit encore certains aspects.

I think language models tend to be weak in areas

Les modèles linguistiques sont faibles dans les domaines

that are not easily expressed in text.

qui ne sont pas facilement exprimés en texte.

But I don’t think this is a fundamental limitation.

Mais ce n'est pas une limitation fondamentale.

I think we're going to see these language models expanding into video

Je pense que nous allons voir ces modèles linguistiques s'étendre à la vidéo,

and images and sound and all these things,

aux images, au son et à tout cela.

and these things will be overcome in time.

Les problèmes seront surmontés un à un.

CA: So talk to us, Shane,

CA : Shane, parlez-nous des choses auxquelles vous pensez passionnément

about the things that you, at this moment,

passionately feel that the world needs to be thinking about more cogently.

et auxquelles le monde a besoin de réfléchir de manière plus pressante.

SL: Right.

SL : Ok. Je pense donc qu'une IA très, très puissante

So I think that very, very powerful,

very intelligent artificial intelligence is coming.

et très intelligente est en train d'arriver.

I think that this is very, very likely.

Je pense que c'est très, très probable.

I don't think it's coming today.

Ce n'est pas pour aujourd'hui.

I don't think it's coming next year or the year after.

Ni pour l'an prochain, ni pour le suivant.

It's probably a little bit further out than that.

C'est probablement un peu plus lointain que cela.

CA: 2028?

CA : 2028 ?

SL: 2028, that's a 50 percent chance.

SL : 2028, 50 % de chances.

So, you know, if it doesn't happen in 2028,

Mais si cela n'arrive pas en 2028,

I'm not going to be surprised, obviously.

je ne serais évidemment pas surpris.

CA: And when you say powerful,

CA : Et quand vous dites puissante - il existe déjà des IA puissantes.

I mean there's already powerful AI out there.

Mais vous dites qu'une version de l'IAG est en train d'arriver.

But you're saying basically a version

of artificial general intelligence is coming.

SL: Yeah.

SL : Oui.

CA: So give us a picture of what that could look like.

CA : Dites-nous à quoi cela pourrait ressembler.

SL: Well, if you had an artificial general intelligence,

SL : Si vous aviez une IAG, vous pourriez faire toutes sortes de choses incroyables.

you could do all sorts of amazing things.

Just like human intelligence is able to do many, many amazing things.

Tout comme l'intelligence humaine est capable d'en faire.

So it's not really about a specific thing,

Il ne s'agit donc pas d'une chose précise, c'est tout l'intérêt de la généralité.

that's the whole point of the generality.

But to give you one example,

Mais pour vous donner un exemple,

we developed the system AlphaFold,

nous avons développé le système AlphaFold,

which will take a protein and compute, basically, the shape of that protein.

qui prend une protéine et calcule, en gros, la forme de cette protéine.

And that enables you to do all sorts of research

Cela vous permet de faire toutes sortes de recherches

into understanding biological processes,

pour comprendre les processus biologiques,

developing medicines and all kinds of things like that.

développer des médicaments et des choses du genre.

Now, if you had an AGI system,

Maintenant, avec une IAG,

instead of requiring what we had at DeepMind,

au lieu d'avoir besoin de ce que nous avons à DeepMind,

about roughly 30 world-class scientists

environ 30 scientifiques de renommée mondiale

working for about three years to develop that,

travaillant pendant trois ans pour le développer,

maybe you could develop that with just a team

vous pourriez peut-être le faire avec une poignée de scientifiques en un an.

of a handful of scientists in one year.

So imagine these, sort of, AlphaFold-level developments

Imaginez des développements de type AlphaFold

taking place around the world on a regular basis.

ayant lieu tous les jours dans le monde entier.

This is the sort of thing that AGI could enable.

C'est le genre de choses que l'IAG pourrait permettre.

CA: So within months of AGI being with us, so to speak,

CA : Quelques mois après l'avènement de l'IAG parmi nous, pour ainsi dire,

it's quite possible that some of the scientific challenges

il est fort possible que certains des défis scientifiques

that humans have wrestled with for decades, centuries, if you like,

auxquels les humains sont confrontés depuis des décennies, voire des siècles,

will start to tumble in rapid succession.

commencent à être résolus les uns après les autres.

SL: Yeah, I think it'll open up all sorts of amazing possibilities.

SL : Oui, je pense que cela ouvrira toutes sortes de possibilités incroyables.

And it could be really a golden age of humanity

Et cela pourrait vraiment être un âge d'or de l'humanité

where human intelligence,

où l'intelligence humaine,

which is aided and extended with machine intelligence,

aidée et étendue par l'intelligence artificielle,

enables us to do all sorts of fantastic things

permettra de faire toutes sortes de choses fantastiques

and solve problems that previously were just intractable.

et de résoudre des problèmes qui étaient auparavant tout simplement insolubles.

CA: So let's come back to that.

CA : Revenons là-dessus.

But I think you also,

Mais je pense que vous aussi,

you're not like, an irredeemable optimist only,

vous n'êtes pas un optimiste béat,

you see a potential for it to go very badly in a different direction.

vous voyez la possibilité que les choses se passent très mal.

Talk about what that pathway could look like.

Dites-nous à quoi ça pourrait ressembler.

SL: Well, yeah, I want to explain.

SL : Eh bien, oui, je veux le faire.

I don't believe the people

Je ne crois pas ceux qui sont sûrs que ça va très bien se passer,

who are sure that it's going to go very well,

and I don't believe the people

et je ne crois pas ceux qui sont sûrs que ça va très, très mal se passer.

who are sure that it’s going to go very, very badly.

Because what we’re talking about is an incredibly profound transition.

Nous parlons d'une transition incroyablement profonde.

It's like the arrival of human intelligence in the world.

C'est comme l'arrivée de l'intelligence humaine dans le monde.

This is another intelligence arriving in the world.

C'est une autre intelligence qui arrive.

And so it is an incredibly deep transition,

Il s'agit donc d'une transition incroyablement profonde,

and we do not fully understand all the implications

et nous n'en comprenons pas pleinement toutes les implications

and consequences of this.

et conséquences.

And so we can't be certain

Nous ne pouvons donc pas être certains que ce sera ceci, cela ou autre chose.

that it's going to be this, that or the other thing.

So we have to be open-minded about what may happen.

Nous devons donc être ouverts d'esprit quant à ce qui pourrait se passer.

I have some optimism because I think

Je suis un peu optimiste car je pense que si vous voulez rendre un système sûr,

that if you want to make a system safe,

you need to understand a lot about that system.

vous devez en apprendre beaucoup sur ce système.

You can't make an airplane safe

On ne peut pas rendre un avion plus sûr si on n'en comprend pas le fonctionnement.

if you don't know about how airplanes work.

So as we get closer to AGI,

Ainsi, à mesure qu'on se rapprochera de l'IAG,

we will understand more and more about these systems,

on en saura de plus en plus sur ces systèmes

and we will see more ways to make these systems safe,

et on verra de nouvelles façons de les rendre sûrs

make highly ethical AI systems.

et de créer des systèmes d'IA hautement éthiques.

But there are many things we don't understand about the future.

Mais il y a beaucoup de choses que nous ignorons quant à l'avenir.

So I have to accept that there is a possibility that things may go badly

Je dois donc accepter la possibilité que les choses se passent mal

because I don't know what's going to happen.

car je ne sais pas ce qui va se passer.

I can't know that about the future in such a big change.

C'est impossible avec un tel changement.

And even if the probability of something going bad is quite small,

Et même si la probabilité que quelque chose se passe mal est très faible,

we should take this extremely seriously.

nous devons prendre cela très au sérieux.

CA: Paint a scenario of what going bad could look like.

CA : Décrivez-nous ce que serait un tel scénario.

SL: Well, it's hard to do

SL : C'est difficile

because you're talking about systems

parce que vous parlez de systèmes

that potentially have superhuman intelligence, right?

potentiellement dotés d'une intelligence surhumaine.

So there are many ways in which things would go bad in the world.

Il y a donc de nombreuses façons dont les choses pourraient mal tourner.

People sometimes point to, I don't know, engineered pathogens, right?

On imagine, par exemple, des agents pathogènes artificiels.

Maybe a superintelligence could design an engineered pathogen.

Peut-être qu'une super-intelligence pourrait en concevoir.

It could be much more mundane things.

Cela pourrait être des choses bien plus banales.

Maybe with AGI, you know,

Peut-être qu'avec une IAG,

it gets used to destabilize democracy in the world,

on s'habituera à déstabiliser la démocratie dans le monde,

with, you know, propaganda or all sorts of other things like that.

avec de la propagande ou des choses de ce genre.

We don't know --

Nous ne savons pas - CA : Cela s'est peut-être déjà produit.

CA: That one might already have happened.

SL: There might be happening a bit already.

SL : Cela se passe peut-être déjà un peu.

But, you know, there may be a lot more of this

Mais cela risque d'être beaucoup plus fréquent avec des systèmes plus puissants.

if we have more powerful systems.

So there are many ways in which societies can be destabilized.

Les sociétés peuvent être déstabilisées de nombreuses manières.

And you can see that in the history books.

On le voit dans les livres d'histoire.

CA: I mean, Shane, if you could have asked all humans,

CA : Shane, si vous aviez pu demander à tous les humains il y a 15 ans :

say, 15 years ago, OK, we can open a door here,

« OK, nous pouvons ouvrir une porte

and opening this door could lead to the best-ever outcomes for humanity.

et ça pourrait mener aux meilleurs résultats jamais obtenus pour l'humanité.

But there's also a meaningful chance,

Mais il y a également un risque,

let's say it's more than five percent,

disons plus de 5 %,

that we could actually destroy our civilization.

que nous détruisions la civilisation. »

I mean, isn't there a chance that most people would have actually said,

N'est-il pas envisageable que la plupart auraient dit :

« N'ouvrez pas cette foutue porte.

"Don't you dare open that damn door.

Let's wait."

Attendons. »

SL: If I had a magic wand and I could slow things down,

SL : Si j'avais une baguette magique et que je pouvais ralentir les choses,

I would use that magic wand, but I don't.

je l'utiliserais, mais ce n'est pas le cas.

There are dozens of companies,

Il existe des dizaines d'entreprises -

well, there's probably 10 companies in the world now

probablement dix dans le monde aujourd'hui

qui peuvent développer les modèles les plus avant-gardistes, y compris, je pense,

that can develop the most cutting-edge models, including, I think,

some national intelligence services who have secret projects doing this.

certains services de renseignement qui ont des projets secrets.

And then there's, I don't know,

Et puis il y en a, je ne sais pas,

dozens of companies that can develop something that's a generation behind.

des dizaines qui peuvent créer quelque chose avec une génération de retard.

And remember, intelligence is incredibly valuable.

Et n'oubliez pas que l'intelligence est incroyablement précieuse,

It's incredibly useful.

incroyablement utile.

We're doing this

Nous le faisons

because we can see all kinds of value that can be created in this

parce que nous imaginons la valeur qui peut être créée

pour plein de raisons.

for all sorts of reasons.

How do you stop this process?

Comment arrêter ce processus ?

I don't see any realistic plan that I've heard of,

Je ne vois aucun plan réaliste pour l'arrêter.

of stopping this process.

Maybe we can --

Peut-être pouvons-nous...

I think we should think about regulating things.

Je pense que nous devrions penser à réglementer.

I think we should do things like this as we do with every powerful technology.

Comme nous le faisons avec toutes les technologies puissantes.

There's nothing special about AI here.

L'IA n'a rien de spécial ici.

People talk about, oh, you know, how dare you talk about regulating this?

Les gens disent : « Comment osez-vous parler de réglementation ? »

No, we regulate powerful technologies all the time in the interests of society.

Mais nous réglementons déjà des technologies dans l'intérêt de la société.

Et je pense que c'est une chose que nous devrions examiner.

And I think this is a very important thing that we should be looking at.

CA : C'est la première fois que nous disposons d'une technologie surpuissante

CA: It's kind of the first time we have this superpowerful technology out there

dont nous ne comprenons littéralement pas le fonctionnement.

that we literally don't understand in full how it works.

Is the most single, most important thing we must do, in your view,

Selon vous, est-ce que la chose la plus importante que nous devons faire

to understand, to understand better what on Earth is going on,

est de mieux comprendre ce qui se passe,

so that we least have a shot at pointing it in the right direction?

afin d'avoir la chance de l'orienter dans la bonne direction ?

SL: There is a lot of energy behind capabilities at the moment

SL : On y consacre actuellement beaucoup d'énergie,

because there's a lot of value in developing the capabilities.

car ces développements présentent une grande valeur.

I think we need to see a lot more energy going into actual science,

Je pense qu'on doit consacrer beaucoup plus d'énergie à la vraie science,

understanding how these networks work,

à comprendre comment ces réseaux fonctionnent,

what they're doing, what they're not doing,

ce qu'ils font, ce qu'ils ne font pas,

where they're likely to fail,

où ils sont susceptibles d'échouer,

and understanding how we put these things together

et à comprendre comment assembler ces éléments

so that we're able to find ways

afin de trouver des moyens

to make these AGI systems profoundly ethical and safe.

de rendre ces systèmes IAG totalement éthiques et sûrs.

I believe it's possible.

Je crois que c'est possible.

But we need to mobilize more people's minds and brains

Mais on doit mobiliser les cerveaux d'un plus grand nombre de personnes

to finding these solutions

pour trouver ces solutions

so that we end up in a future

afin de voir advenir un futur

where we have incredibly powerful machine intelligence

où on disposera d'une IA incroyablement puissante,

that's also profoundly ethical and safe,

profondément éthique et sûre,

and it enhances and extends humanity

qui fera entrer l'humanité dans un nouvel âge d'or.

into, I think, a new golden period for humanity.

CA: Shane, thank you so much for sharing that vision

CA : Shane, merci d'avoir partagé cette vision sur la scène de TED.

and coming to TED.

(Applause)

(Applaudissements)