What Is an AI Anyway? | Mustafa Suleyman | TED

Traducteur: Elisabeth Buffard

I want to tell you what I see coming.

Je veux vous dire ce que je vois venir.

I've been lucky enough to be working on AI for almost 15 years now.

J’ai la chance de travailler sur l’IA depuis près de 15 ans.

Back when I started, to describe it as fringe would be an understatement.

Quand j’ai commencé, la qualifier de marginale aurait été un euphémisme.

Researchers would say, “No, no, we’re only working on machine learning.”

Les chercheurs disaient : « Non,

on ne travaille que sur l’apprentissage automatique ».

Because working on AI was seen as way too out there.

Parce que travailler sur l’IA était vu comme trop extravagant.

In 2010, just the very mention of the phrase “AGI,”

En 2010, juste mentionner l’IAG,

artificial general intelligence,

l’intelligence artificielle générale,

would get you some seriously strange looks

vous valait d’être regardé bizarrement

and even a cold shoulder.

et même d’être snobé.

"You're actually building AGI?" people would say.

Les gens disaient : « Tu construis vraiment une IAG ?

"Isn't that something out of science fiction?"

C’est pas de la science-fiction ? »

People thought it was 50 years away or 100 years away,

Les gens pensaient que c’était pour dans 50 ou 100 ans, voire impossible.

if it was even possible at all.

Talk of AI was, I guess, kind of embarrassing.

Parler d’IA était, je crois, un peu embarrassant.

People generally thought we were weird.

En général, les gens nous trouvaient bizarres.

And I guess in some ways we kind of were.

Dans un sens, on l’était.

It wasn't long, though, before AI started beating humans

Mais l’IA n’a pas tardé à commencer à battre les humains

at a whole range of tasks

dans toute une série de tâches

that people previously thought were way out of reach.

que les gens pensaient auparavant hors de portée.

Understanding images,

Comprendre des images,

translating languages,

traduire des langues,

transcribing speech,

transcrire des discours,

playing Go and chess

jouer au Go et aux échecs

and even diagnosing diseases.

et même diagnostiquer des maladies.

People started waking up to the fact

Les gens ont commencé à réaliser que l’IA allait avoir un impact énorme,

that AI was going to have an enormous impact,

and they were rightly asking technologists like me

et ont posé à juste titre des questions assez difficiles

some pretty tough questions.

à des technologues comme moi.

Is it true that AI is going to solve the climate crisis?

Est-il vrai que l’IA va résoudre la crise climatique ?

Will it make personalized education available to everyone?

Est-ce que l'enseignement personnalisé sera accessible à tous ?

Does it mean we'll all get universal basic income

On bénéficiera tous d’un revenu de base universel

and we won't have to work anymore?

et on n’aura plus à travailler ?

Should I be afraid?

Dois-je avoir peur ?

What does it mean for weapons and war?

Et pour les armes et la guerre ?

And of course, will China win?

Et la Chine va-t-elle gagner ?

Are we in a race?

Sommes-nous dans une course ?

Are we headed for a mass misinformation apocalypse?

Allons-nous vers une apocalypse de la désinformation de masse ?

All good questions.

Toutes les bonnes questions.

But it was actually a simpler

Mais c'était en fait une question plus simple

and much more kind of fundamental question that left me puzzled.

et bien plus fondamentale qui m’a laissé perplexe.

One that actually gets to the very heart of my work every day.

Une question qui touche au cœur de mon travail au quotidien.

One morning over breakfast,

Un matin, au petit déjeuner,

my six-year-old nephew Caspian was playing with Pi,

mon neveu Caspian, six ans, jouait avec Pi,

the AI I created at my last company, Inflection.

l'IA que j'ai créée dans ma dernière entreprise, Inflection.

With a mouthful of scrambled eggs,

La bouche pleine d’œufs brouillés,

he looked at me plain in the face and said,

il m’a regardé en face et m’a dit :

"But Mustafa, what is an AI anyway?"

« Mais Mustafa, c’est quoi, une IA, en fait ? »

He's such a sincere and curious and optimistic little guy.

C’est un petit garçon si sincère, curieux et optimiste.

He'd been talking to Pi about how cool it would be if one day in the future,

Il avait dit à Pi comme ce serait cool si un jour dans le futur,

he could visit dinosaurs at the zoo.

il pouvait aller voir des dinosaures au zoo.

And how he could make infinite amounts of chocolate at home.

Et comment il pouvait faire des quantités infinies de chocolat à la maison.

And why Pi couldn’t yet play I Spy.

Et pourquoi Pi ne pouvait pas encore jouer à I Spy.

"Well," I said, "it's a clever piece of software

J’ai dit : « c’est un logiciel intelligent

that's read most of the text on the open internet,

a lu la plupart des textes sur internet,

and it can talk to you about anything you want."

et peut vous parler de tout ce que vous voulez. »

"Right.

« OK.

So like a person then?"

Alors, comme une personne ? »

I was stumped.

J'étais perplexe.

Genuinely left scratching my head.

Vraiment perplexe.

All my boring stock answers came rushing through my mind.

Toutes mes réponses toutes faites et ennuyeuses me sont venues à l’esprit.

"No, but AI is just another general-purpose technology,

« Non, mais l’IA n’est qu’une technologie polyvalente de plus,

like printing or steam."

comme l’imprimerie ou la vapeur. »

It will be a tool that will augment us

Ce sera un outil qui nous augmentera

and make us smarter and more productive.

et nous rendra plus intelligents et plus productifs.

And when it gets better over time,

Et quand il s’améliorera au fil du temps,

it'll be like an all-knowing oracle

ce sera comme un oracle omniscient

that will help us solve grand scientific challenges."

qui nous aidera à relever de grands défis scientifiques. »

You know, all of these responses started to feel, I guess,

Toutes ces réponses ont commencé sembler

a little bit defensive.

un peu défensives.

And actually better suited to a policy seminar

Elles convenaient plus à un séminaire stratégique

than breakfast with a no-nonsense six-year-old.

qu’à un petit-déjeuner avec un enfant pragmatique.

"Why am I hesitating?" I thought to myself.

Je me suis dit : « Pourquoi est-ce que j’hésite ? »

You know, let's be honest.

Soyons honnêtes.

My nephew was asking me a simple question

Mon neveu me posait une question simple

that those of us in AI just don't confront often enough.

qu’on ne vous pose pas assez souvent quand vous travaillez dans l’IA.

What is it that we are actually creating?

Que sommes-nous en train de créer ?

What does it mean to make something totally new,

Quel est le sens de créer quelque chose de totalement nouveau,

fundamentally different to any invention that we have known before?

radicalement différent de toute invention que nous avons connues auparavant ?

It is clear that we are at an inflection point

Il est clair que nous sommes à un tournant l'histoire de l'humanité.

in the history of humanity.

On our current trajectory,

Sur notre trajectoire actuelle,

we're headed towards the emergence of something

nous nous dirigeons vers l’émergence de quelque chose

that we are all struggling to describe,

que nous avons tous du mal à décrire,

and yet we cannot control what we don't understand.

mais nous ne pouvons pas contrôler ce que nous ne comprenons pas.

And so the metaphors,

Les métaphores,

the mental models,

les modèles mentaux,

the names, these all matter

les noms sont donc importants

if we’re to get the most out of AI whilst limiting its potential downsides.

si on veut tirer le meilleur parti de l’IA

tout en limitant ses inconvénients potentiels.

As someone who embraces the possibilities of this technology,

Je suis quelqu’un qui saisit les possibilités de cette technologie,

but who's also always cared deeply about its ethics,

mais qui a toujours été profondément attachée à son éthique,

we should, I think,

et je pense qu’on devrait

be able to easily describe what it is we are building.

pouvoir décrire facilement ce qu’on est en train de construire.

And that includes the six-year-olds.

Et cela inclut les enfants de six ans.

So it's in that spirit that I offer up today the following metaphor

C’est donc dans cet esprit que je propose aujourd’hui la métaphore suivante

for helping us to try to grapple with what this moment really is.

pour nous aider à essayer de comprendre ce qu’est réellement ce moment.

I think AI should best be understood

Je pense que l'IA doit être mieux comprise

as something like a new digital species.

comme une sorte de nouvelle espèce numérique.

Now, don't take this too literally,

Ne prenez le pas trop au pied de la lettre,

but I predict that we'll come to see them as digital companions,

mais je prédis qu’on en viendra à les considérer

comme des compagnons numériques,

new partners in the journeys of all our lives.

de nouveaux partenaires dans les voyages de notre vie.

Whether you think we’re on a 10-, 20- or 30-year path here,

Que vous pensiez que ce sera dans 10, 20 ou 30 ans,

this is, in my view, the most accurate and most fundamentally honest way

c’est, selon moi, la façon la plus précise et la plus fondamentalement honnête

of describing what's actually coming.

de décrire ce qui va réellement se passer.

And above all, it enables everybody to prepare for

Et surtout, ça permet à chacun de se préparer

and shape what comes next.

et de façonner ce qui va suivre.

Now I totally get, this is a strong claim,

Je comprends tout à fait que c’est une affirmation forte,

and I'm going to explain to everyone as best I can why I'm making it.

et je vais expliquer du mieux que je peux pourquoi je la fais.

But first, let me just try to set the context.

Mais d’abord, permettez-moi d’essayer de situer le contexte.

From the very first microscopic organisms,

Depuis les premiers organismes microscopiques,

life on Earth stretches back billions of years.

la vie sur Terre remonte à des milliards d'années.

Over that time, life evolved and diversified.

Au cours de cette période, la vie a évolué et s’est diversifiée.

Then a few million years ago, something began to shift.

Puis, il y a quelques millions d'années, quelque chose a commencé à changer.

After countless cycles of growth and adaptation,

Après d’innombrables cycles de croissance et d’adaptation,

one of life’s branches began using tools, and that branch grew into us.

l’une des branches de la vie a commencé à utiliser des outils,

et cette branche est devenue nous.

We went on to produce a mesmerizing variety of tools,

Ensuite, on a produit une variété fascinante d’outils, d’abord lentement,

at first slowly and then with astonishing speed,

puis à une vitesse incroyable,

we went from stone axes and fire

nous sommes passés des haches en pierre et du feu

to language, writing and eventually industrial technologies.

au langage, à l’écriture et finalement aux technologies industrielles.

One invention unleashed a thousand more.

Une invention en a déclenché un millier d’autres.

And in time, we became homo technologicus.

Et avec le temps, nous sommes devenus homo technologicus.

Around 80 years ago,

Il y a environ 80 ans,

another new branch of technology began.

une autre nouvelle branche technologique a vu le jour.

With the invention of computers,

Avec l'invention des ordinateurs,

we quickly jumped from the first mainframes and transistors

on est vite passé des premiers ordinateurs centraux et des transistors

to today's smartphones and virtual-reality headsets.

aux smartphones et aux casques de réalité virtuelle d’aujourd’hui.

Information, knowledge, communication, computation.

Information, connaissance, communication, calcul.

In this revolution,

Dans cette révolution,

creation has exploded like never before.

la création a explosé comme jamais auparavant.

And now a new wave is upon us.

Et maintenant, une nouvelle vague s’abat sur nous.

Artificial intelligence.

L’intelligence artificielle.

These waves of history are clearly speeding up,

Ces vagues de l’histoire s’accélèrent clairement,

as each one is amplified and accelerated by the last.

chacune étant amplifiée et accélérée par la précédente.

And if you look back,

Si on regarde en arrière,

it's clear that we are in the fastest

il est clair que nous traversons la vague la plus rapide

and most consequential wave ever.

et la plus conséquente de tous les temps.

The journeys of humanity and technology are now deeply intertwined.

Les voyages de l’humanité et de la technologie

sont désormais étroitement liés.

In just 18 months,

En 18 mois à peine,

over a billion people have used large language models.

plus d’un milliard de personnes

ont utilisé de grands modèles de langue.

We've witnessed one landmark event after another.

On a assisté à une succession d’événements marquants.

Just a few years ago, people said that AI would never be creative.

Il y a quelques années à peine,

certains disaient que l’IA ne serait jamais créative.

And yet AI now feels like an endless river of creativity,

Pourtant, l’IA ressemble aujourd’hui à un fleuve infini de créativité,

making poetry and images and music and video that stretch the imagination.

créant de la poésie et des images,

de la musique et des vidéos qui stimulent l’imagination.

People said it would never be empathetic.

On disait que ce ne serait jamais empathique.

And yet today, millions of people enjoy meaningful conversations with AIs,

Pourtant, aujourd’hui,

des millions de gens ont des conversations enrichissantes avec des IA,

talking about their hopes and dreams

pour parler de leurs espoirs et de leurs rêves

and helping them work through difficult emotional challenges.

et pour les aider à surmonter leurs difficultés émotionnelle.

AIs can now drive cars,

Les IA peuvent désormais conduire des voitures,

manage energy grids

gérer des réseaux énergétiques

and even invent new molecules.

et même inventer de nouvelles molécules.

Just a few years ago, each of these was impossible.

Il y a quelques années, tout cela était impossible.

And all of this is turbocharged by spiraling exponentials of data

Et tout cela est amplifié par la spirale exponentielle

des données et des calculs.

and computation.

Last year, Inflection 2.5, our last model,

L’année dernière, Inflection 2.5, notre dernier modèle,

used five billion times more computation

a utilisé cinq milliards de fois plus de calculs

than the DeepMind AI that beat the old-school Atari games

que l’IA DeepMind qui a battu les anciens jeux Atari

just over 10 years ago.

il y a un peu plus de 10 ans.

That's nine orders of magnitude more computation.

Ça représente neuf ordres de grandeur supplémentaires.

10x per year,

10 fois par an,

every year for almost a decade.

chaque année pendant près d'une décennie.

Over the same time, the size of these models has grown

Dans le même temps, la taille de ces modèles

from first tens of millions of parameters to then billions of parameters,

est passée de quelques dizaines de millions de paramètres

à des milliards de paramètres,

and very soon, tens of trillions of parameters.

et très bientôt à des dizaines de milliards de paramètres.

If someone did nothing but read 24 hours a day for their entire life,

Si quelqu’un ne faisait que lire 24 heures sur 24 pendant toute sa vie,

they'd consume eight billion words.

il consommerait huit milliards de mots.

And of course, that's a lot of words.

Et bien sûr, ça fait beaucoup de mots.

But today, the most advanced AIs consume more than eight trillion words

Mais aujourd'hui, les IA les plus avancées consomment plus de huit billions de mots

in a single month of training.

en un seul mois de formation.

And all of this is set to continue.

Et tout ça est appelé à se poursuivre.

The long arc of technological history is now in an extraordinary new phase.

Le long arc de l’histoire technologique

entre aujourd’hui dans une nouvelle phase extraordinaire.

So what does this mean in practice?

Qu’est-ce que ça eut dire concrètement ?

Well, just as the internet gave us the browser

Eh bien, tout comme Internet nous a donné le navigateur

and the smartphone gave us apps,

et le smartphone nous a donné des applications,

the cloud-based supercomputer is ushering in a new era

le superordinateur dans le cloud ouvre une nouvelle ère

of ubiquitous AIs.

d'IA omniprésentes.

Everything will soon be represented by a conversational interface.

Le tout sera bientôt représenté par une interface conversationnelle.

Or, to put it another way, a personal AI.

Ou, pour le dire autrement, une IA personnelle.

And these AIs will be infinitely knowledgeable,

Et ces IA seront infiniment compétentes,

and soon they'll be factually accurate and reliable.

et bientôt, elles seront exactes et fiables sur le plan factuel.

They'll have near-perfect IQ.

Elles auront un QI presque parfait.

They’ll also have exceptional EQ.

Ils auront également un QE.

They’ll be kind, supportive, empathetic.

Elles seront gentilles, solidaires et empathiques.

These elements on their own would be transformational.

Ces éléments, à eux seuls seraient transformateurs.

Just imagine if everybody had a personalized tutor in their pocket

Imaginez si tout le monde avait un tuteur personnalisé en poche

and access to low-cost medical advice.

et avait accès à des conseils médicaux peu coûteux.

A lawyer and a doctor,

Un avocat et un médecin,

a business strategist and coach --

un stratège commercial et un coach,

all in your pocket 24 hours a day.

le tout dans votre poche 24 heures sur 24.

But things really start to change when they develop what I call AQ,

Mais les choses commencent vraiment à changer

lorsqu’elle développent ce que j’appelle le QA,

their “actions quotient.”

leur « quotient d'action ».

This is their ability to actually get stuff done

Il s'agit de leur capacité à faire avancer les choses

in the digital and physical world.

dans le monde numérique et physique.

And before long, it won't just be people that have AIs.

Et d’ici peu, les gens ne seront plus les seuls à avoir des IA.

Strange as it may sound, every organization,

Aussi étrange que ça puisse paraître, chaque organisation,

des PME aux ONG, et le gouvernement national,

from small business to nonprofit to national government,

each will have their own.

aura la sienne.

Every town, building and object

Chaque ville, chaque bâtiment et chaque objet

will be represented by a unique interactive persona.

sera représenté par un personnage interactif unique.

And these won't just be mechanistic assistants.

Et ce ne seront pas que des assistants mécanistes.

They'll be companions, confidants,

Ils seront des compagnons, des confidents,

colleagues, friends and partners,

des collègues, des amis et des partenaires

as varied and unique as we all are.

aussi divers et uniques que nous le sommes tous.

At this point, AIs will convincingly imitate humans at most tasks.

À ce stade, les IA imiteront de manière convaincante les humains

dans la plupart des tâches.

And we'll feel this at the most intimate of scales.

Et nous le ressentirons à la plus intime des échelles.

An AI organizing a community get-together for an elderly neighbor.

Une IA qui organisera une réunion communautaire pour un voisin âgé.

A sympathetic expert helping you make sense of a difficult diagnosis.

Un expert sympathique qui vous aidera à comprendre un diagnostic difficile.

But we'll also feel it at the largest scales.

Mais nous le ressentirons également à plus grande échelle.

Accelerating scientific discovery,

L’accélération des découvertes scientifiques,

autonomous cars on the roads,

des voitures autonomes sur les routes,

drones in the skies.

des drones dans le ciel.

They'll both order the takeout and run the power station.

Ils commanderont les plats à emporter et géreront la centrale.

They’ll interact with us and, of course, with each other.

Ils interagiront avec nous et, bien sûr, entre eux.

They'll speak every language,

Ils parleront toutes les langues,

take in every pattern of sensor data,

capteront tous les types de données de capteurs,

sights, sounds,

de vues, de sons,

streams and streams of information,

de flux et de flux d’informations,

far surpassing what any one of us could consume in a thousand lifetimes.

dépassant de loin ce que chacun d’entre nous pourrait consommer en mille vies.

So what is this?

Alors, qu’est-ce que c’est ?

What are these AIs?

Que sont ces IA ?

If we are to prioritize safety above all else,

Si nous voulons donner la priorité à la sécurité avant tout,

to ensure that this new wave always serves and amplifies humanity,

pour garantir que cette nouvelle vague serve et amplifie toujours l’humanité,

then we need to find the right metaphors for what this might become.

nous devons trouver les bonnes métaphores pour décrire ce que ça pourrait devenir.

For years, we in the AI community, and I specifically,

Depuis des années, la communauté de l’IA, et moi en particulier,

have had a tendency to refer to this as just tools.

avons tendance à appeler ça des outils.

Mais ça ne reflète pas vraiment ce qui se passe réellement ici.

But that doesn't really capture what's actually happening here.

AIs are clearly more dynamic,

Les IA sont clairement plus dynamiques,

more ambiguous, more integrated

plus ambiguës, plus intégrées

and more emergent than mere tools,

et plus émergentes que de simples outils

which are entirely subject to human control.

entièrement soumis au contrôle humain.

So to contain this wave,

Donc, pour contenir cette vague,

to put human agency at its center

placer l’action humaine au centre

and to mitigate the inevitable unintended consequences

et atténuer les conséquences imprévues inévitables

that are likely to arise,

qui sont susceptibles de survenir,

we should start to think about them as we might a new kind of digital species.

on devrait commencer à les voir comme une nouvelle sorte d’espèce numérique.

Now it's just an analogy,

Ce n’est qu’une analogie,

it's not a literal description, and it's not perfect.

ce n’est pas une description littérale et ce n’est pas parfait.

For a start, they clearly aren't biological in any traditional sense,

D’abord, elles ne sont clairement pas biologiques au sens traditionnel du terme,

but just pause for a moment

mais prenez un moment pour vraiment réfléchir à ce qu’elles font déjà.

and really think about what they already do.

They communicate in our languages.

Elles communiquent dans nos langues.

They see what we see.

Elles voient ce que nous voyons.

They consume unimaginably large amounts of information.

Elles consomment des quantités inimaginables d’informations.

They have memory.

Elles ont de la mémoire.

They have personality.

Elles ont de la personnalité.

They have creativity.

Elles ont de la créativité.

They can even reason to some extent and formulate rudimentary plans.

Elles raisonnent même dans une certaine mesure

et formulent des plans rudimentaires.

They can act autonomously if we allow them.

Elles peuvent agir de manière autonome si on le leur permet.

And they do all this at levels of sophistication

Et elles font tout ça à un niveau de sophistication

that is far beyond anything that we've ever known from a mere tool.

qui dépasse de loin tout ce qu’on a connu avec un simple outil.

And so saying AI is mainly about the math or the code

Dire que l’IA est principalement une question de mathématiques ou de code

is like saying we humans are mainly about carbon and water.

revient à dire que nous, les humains, sommes principalement du carbone et d’eau.

It's true, but it completely misses the point.

C’est vrai, mais c’est oublier l’essentiel.

And yes, I get it, this is a super arresting thought

Et oui, je comprends, c’est une idée très saisissante,

but I honestly think this frame helps sharpen our focus on the critical issues.

mais je pense sincèrement que ce cadre

nous permet de mieux nous concentrer sur les problèmes critiques.

What are the risks?

Quels sont les risques ?

What are the boundaries that we need to impose?

Quelles sont les limites que nous devons imposer ?

What kind of AI do we want to build or allow to be built?

Quel type d'IA voulons-nous créer ou autoriser à construire ?

This is a story that's still unfolding.

Cette histoire est en cours d’écriture.

Nothing should be accepted as a given.

Rien ne doit être considéré comme acquis.

We all must choose what we create.

Nous devons tous choisir ce que nous créons.

What AIs we bring into the world, or not.

Quelles IA nous mettons au monde, ou pas.

These are the questions for all of us here today,

Voilà les questions qui se posent à nous tous ici aujourd’hui

and all of us alive at this moment.

et à tous ceux qui sont vivants en ce moment.

For me, the benefits of this technology are stunningly obvious,

Pour moi, les avantages de cette technologie

sont étonnamment évidents

and they inspire my life's work every single day.

et ils inspirent chaque jour l’œuvre de ma vie.

But quite frankly, they'll speak for themselves.

Mais franchement, ils parleront d’eux-mêmes.

Over the years, I've never shied away from highlighting risks

Au fil des ans, je n’ai jamais hésité à souligner les risques

and talking about downsides.

et à parler des inconvénients.

Thinking in this way helps us focus on the huge challenges

Penser ainsi nous aide à nous concentrer

sur les énormes défis qui nous attendent tous.

that lie ahead for all of us.

But let's be clear.

Mais soyons clairs.

There is no path to progress

On ne va pas vers le progrès

where we leave technology behind.

en laissant la technologie de côté.

The prize for all of civilization is immense.

Le bénéfice pour l’ensemble de la civilisation est immense.

We need solutions in health care and education, to our climate crisis.

Il nous faut des solutions pour la santé et l’éducation, pour la crise climatique.

And if AI delivers just a fraction of its potential,

Et si l’IA ne réalise qu’une fraction de son potentiel,

the next decade is going to be the most productive in human history.

la prochaine décennie sera la plus productive

de l’histoire de l’humanité.

Here's another way to think about it.

On peut voir ça autrement.

In the past,

Dans le passé,

unlocking economic growth often came with huge downsides.

débloquer la croissance économique

s’accompagnait souvent d’énormes inconvénients.

The economy expanded as people discovered new continents

L’économie s’est développée

à mesure que les gens découvraient de nouveaux continents

and opened up new frontiers.

et ouvraient de nouvelles frontières.

But they colonized populations at the same time.

Mais ils ont colonisé des populations en même temps.

We built factories,

Nous avons construit des usines,

but they were grim and dangerous places to work.

mais c'étaient des lieux de travail sinistres et dangereux.

We struck oil,

Nous avons découvert du pétrole,

but we polluted the planet.

mais nous avons pollué la planète.

Now because we are still designing and building AI,

Maintenant que nous continuons à concevoir et à développer l’IA,

we have the potential and opportunity to do it better,

nous avons le potentiel et l’opportunité de le faire mieux,

radically better.

radicalement mieux.

And today, we're not discovering a new continent

Aujourd’hui, on ne découvre pas un nouveau continent,

and plundering its resources.

on ne piller ses ressources.

We're building one from scratch.

On en construit un à partir de zéro.

Sometimes people say that data or chips are the 21st century’s new oil,

On dit parfois que les données ou les puces

sont le nouveau pétrole du 21e siècle,

but that's totally the wrong image.

mais cette image est totalement fausse.

AI is to the mind

L’IA est à l’esprit ce que la fusion nucléaire est à l’énergie.

what nuclear fusion is to energy.

Limitless, abundant,

Illimitée, abondante, capable de changer le monde.

world-changing.

And AI really is different,

Et l'IA est vraiment différente,

and that means we have to think about it creatively and honestly.

et ça signifie qu’il nous faut réfléchir de manière créative et honnête.

We have to push our analogies and our metaphors

Nous devons repousser les limites de nos analogies et de nos métaphores

to the very limits

pour être en mesure de comprendre ce qui va arriver.

to be able to grapple with what's coming.

Because this is not just another invention.

Parce qu’il ne s’agit pas d’une invention comme les autres.

AI is itself an infinite inventor.

L'IA est elle-même un inventeur infini.

And yes, this is exciting and promising and concerning

Et oui, c’est à la fois passionnant et prometteur, inquiétant

and intriguing all at once.

et intrigant.

To be quite honest, it's pretty surreal.

Pour être honnête, c’est assez surréaliste.

But step back,

Mais prenez du recul,

see it on the long view of glacial time,

voyez ça sous la perspective de l’ère glaciaire,

and these really are the very most appropriate metaphors that we have today.

et ce sont vraiment les métaphores les plus appropriées que nous ayons.

Since the beginning of life on Earth,

Depuis le début de la vie sur Terre,

we've been evolving, changing

nous évoluons, changeons

and then creating everything around us in our human world today.

puis créons tout ce qui nous entoure dans notre monde humain d’aujourd’hui.

And AI isn't something outside of this story.

Et l'IA n'est pas quelque chose en dehors de cette histoire.

In fact, it's the very opposite.

En fait, c'est tout le contraire.

It's the whole of everything that we have created,

C’est l’ensemble de tout ce que nous avons créé,

distilled down into something that we can all interact with

condensé en une chose avec laquelle on peut tous interagir

and benefit from.

et dont on peut tous bénéficier.

It's a reflection of humanity across time,

C’est le reflet de l’humanité à travers le temps et, en ce sens,

and in this sense,

it isn't a new species at all.

il ne s’agit pas du tout d’une nouvelle espèce.

This is where the metaphors end.

C'est là que s'arrêtent les métaphores.

Here's what I'll tell Caspian next time he asks.

Voici ce que je dirai à Caspian la prochaine fois qu'il me le demandera.

AI isn't separate.

L'IA n'est pas séparée.

AI isn't even in some senses, new.

L’IA n’est même pas nouvelle à certains égards.

AI is us.

L'IA, c'est nous.

It's all of us.

C'est nous tous.

And this is perhaps the most promising and vital thing of all

Et c’est peut-être la chose la plus prometteuse et la plus vitale

that even a six-year-old can get a sense for.

que même un enfant de six ans puisse en avoir une idée.

As we build out AI,

Au fur et à mesure qu’on développe l’IA,

we can and must reflect all that is good,

on peut et on doit refléter tout ce qui est bon,

all that we love,

tout ce que nous aimons, tout ce que l’humanité a de spécial :

all that is special about humanity:

our empathy, our kindness,

notre empathie,

our curiosity and our creativity.

notre gentillesse, notre curiosité et notre créativité.

This, I would argue, is the greatest challenge of the 21st century,

Je dirais que c’est le plus grand défi du 21e siècle,

but also the most wonderful,

mais aussi l’opportunité la plus merveilleuse,

inspiring and hopeful opportunity for all of us.

la plus inspirante et la plus pleine d’espoir pour nous tous.

Thank you.

Merci

(Applause)

(Applaudissements)

Chris Anderson: Thank you Mustafa.

Chris Anderson : Merci Mustafa.

It's an amazing vision and a super powerful metaphor.

C’est une vision incroyable et une métaphore super puissante.

Ta position est incroyable en ce moment.

You're in an amazing position right now.

I mean, you were connected at the hip

Tu étais indissociable du travail incroyable en cours chez OpenAI.

to the amazing work happening at OpenAI.

You’re going to have resources made available,

Des ressources seront mises à disposition,

there are reports of these giant new data centers,

des rapports font état de nouveaux centres de données géants,

100 billion dollars invested and so forth.

de cent milliards de dollars investis, etc.

And a new species can emerge from it.

Et une nouvelle espèce peut en émerger.

I mean, in your book,

Dans ton livre,

you did, as well as painting an incredible optimistic vision,

tu l’as fait, en plus de brosser une vision incroyablement optimiste,

you were super eloquent on the dangers of AI.

vous avez été très éloquent sur les dangers de l'IA.

And I'm just curious, from the view that you have now,

Et je suis curieux de savoir, selon ton point de vue actuel,

what is it that most keeps you up at night?

qu’est-ce qui t’empêche le plus de dormir la nuit ?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa Suleyman : Pour moi, le grand risque est d’être piégé

in what I call the pessimism aversion trap.

dans ce que j’appelle l’aversion au pessimisme.

You know, we have to have the courage to confront

Il faut avoir le courage de faire face

the potential of dark scenarios

à la possibilité de scénarios sombres

in order to get the most out of all the benefits that we see.

pour tirer le meilleur parti de tous les avantages que nous voyons.

So the good news is that if you look at the last two or three years,

Si on regarde les deux ou trois dernières années,

there have been very, very few downsides, right?

il y a eu très, très peu d'inconvénients, n'est-ce pas ?

It’s very hard to say explicitly what harm an LLM has caused.

Il est très difficile de dire clairement quel préjudice un LLM a causé.

But that doesn’t mean that that’s what the trajectory is going to be

Mais ça ne veut pas dire que ce sera comme ça

pour les 10 prochaines années.

over the next 10 years.

So I think if you pay attention to a few specific capabilities,

Je pense donc que si vous observez quelques capacités spécifiques,

take for example, autonomy.

par exemple l’autonomie.

Autonomy is very obviously a threshold

L'autonomie est de toute évidence un seuil

over which we increase risk in our society.

au-delà duquel on augmente les risques dans notre société.

And it's something that we should step towards very, very closely.

et il nous faut l’aborder avec de grandes précautions.

The other would be something like recursive self-improvement.

Un autre seuil serait une auto-amélioration récursive.

If you allow the model to independently self-improve,

Si on permet au modèle de s’améliorer de manière indépendante,

update its own code,

de mettre à jour son propre code,

explore an environment without oversight, and, you know,

d’explorer un environnement sans supervision

without a human in control to change how it operates,

et sans contrôle humain pour modifier son fonctionnement,

that would obviously be more dangerous.

ce serait évidemment plus dangereux.

But I think that we're still some way away from that.

Mais je pense que nous en sommes encore loin.

I think it's still a good five to 10 years before we have to really confront that.

Je pense qu’il nous reste encore cinq à dix ans avant d’y être.

But it's time to start talking about it now.

Mais il est temps de commencer à en parler.

CA : Contrairement aux espèces biologiques, une espèce numérique

CA: A digital species, unlike any biological species,

can replicate not in nine months,

peut se répliquer non pas en neuf mois, mais en neuf nanosecondes,

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

et produire un nombre indéfini de copies d’elle-même,

all of which have more power than we have in many ways.

qui ont toutes plus de pouvoir que nous à bien des égards.

I mean, the possibility for unintended consequences seems pretty immense.

La possibilité de conséquences imprévues semble assez immense.

Et n'est-il pas vrai que si un problème survient,

And isn't it true that if a problem happens,

it could happen in an hour?

il peut se produire en une heure ?

MS: No.

MS : Non.

That is really not true.

Ce n'est vraiment pas vrai.

I think there's no evidence to suggest that.

Je pense qu’il n’y a aucune preuve qui le suggère.

And I think that, you know,

Et je pense que ce qu’on appelle souvent « l’explosion du renseignement ».

that’s often referred to as the “intelligence explosion.”

And I think it is a theoretical, hypothetical maybe

Et je pense que c'est peut-être une question théorique et hypothétique

that we're all kind of curious to explore,

que nous sommes tous curieux d'explorer,

but there's no evidence that we're anywhere near anything like that.

mais rien ne prouve que ce soit pour bientôt.

And I think it's very important that we choose our words super carefully.

Et je pense très important de choisir nos mots avec le plus grand soin.

Because you're right, that's one of the weaknesses of the species framing,

Parce que tu as raison,

c’est un des points faibles de la définition des espèces,

that we will design the capability for self-replication into it

que nous concevrons la capacité d'autoréplication

if people choose to do that.

si les gens choisissent de le faire.

And I would actually argue that we should not,

Je dirais même qu’on ne devrait pas le faire,

that would be one of the dangerous capabilities

ce serait une des capacités dangereuses

that we should step back from, right?

que nous devrions abandonner.

So there's no chance that this will "emerge" accidentally.

Il n’y a donc aucune chance que ça « apparaisse » accidentellement.

I really think that's a very low probability.

Selon moi, c’est une très faible probabilité.

It will happen if engineers deliberately design those capabilities in.

Ça se produira si les ingénieurs incorporent délibérément ces capacités .

And if they don't take enough efforts to deliberately design them out.

Et s’ils ne font pas assez d’efforts pour les concevoir délibérément.

And so this is the point of being explicit

C’est donc l’intérêt d’être explicite et transparent

and transparent about trying to introduce safety by design very early on.

quant à essayer d’introduire très tôt la sécurité dès la conception.

CA: Thank you, your vision of humanity injecting into this new thing

CA : Merci, ta vision de l’humanité qui injecte dans cette nouveauté

the best parts of ourselves,

le meilleur de nous-mêmes,

avoiding all those weird, biological, freaky,

en évitant toutes ces tendances étranges, biologiques, bizarres

horrible tendencies that we can have in certain circumstances,

et horribles qu’on peut avoir dans certaines circonstances,

I mean, that is a very inspiring vision.

c’est une vision très inspirante.

And thank you so much for coming here and sharing it at TED.

Et merci beaucoup d'être venus ici et de l'avoir partagé à TED.

Thank you, good luck.

Merci, bonne chance.

(Applause)

(Applaudissements)