How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Traducteur: Laure Veyrier Relecteur: Alix Aebi

When I talk to people about artificial intelligence,

Quand je parle aux gens d’intelligence artificielle,

something I hear a lot from non-experts is “I don’t understand AI.”

j’entends souvent les non-spécialistes dire : « Je ne comprends pas l’IA. »

But when I talk to experts, a funny thing happens.

Mais quand je parle à des experts,

chose amusante, ils disent :

They say, “I don’t understand AI, and neither does anyone else.”

« Je ne comprends pas l’IA, comme tout le monde d’ailleurs. »

This is a pretty strange state of affairs.

Cette situation est assez étrange.

Normally, the people building a new technology

Normalement, ceux qui développent une nouvelle technologie

understand how it works inside and out.

en comprennent tous les rouages.

But for AI, a technology that's radically reshaping the world around us,

Mais pour l’IA, une technologie qui peut modifier radicalement

le monde qui nous entoure,

that's not so.

ça n’est pas le cas.

Experts do know plenty about how to build and run AI systems, of course.

Les experts savent bien sûr comment créer et exploiter des systèmes d’IA.

But when it comes to how they work on the inside,

Mais quant à leur fonctionnement interne, nos connaissances sont très limitées.

there are serious limits to how much we know.

And this matters because without deeply understanding AI,

Et c’est important,

car sans une connaissance approfondie de l’IA,

it's really difficult for us to know what it will be able to do next,

il est très difficile pour nous de savoir ce dont elle sera capable à l’avenir,

or even what it can do now.

ou même ce dont elle est capable aujourd’hui.

And the fact that we have such a hard time understanding

Et le fait d’avoir tant de mal à comprendre cette technologie

what's going on with the technology and predicting where it will go next,

et à prévoir son évolution est l’un des plus gros obstacles

is one of the biggest hurdles we face in figuring out how to govern AI.

pour déterminer comment réglementer l’IA.

But AI is already all around us,

Mais l’IA est déjà partout autour de nous,

so we can't just sit around and wait for things to become clearer.

on ne peut donc pas juste attendre que la situation s’éclaircisse.

We have to forge some kind of path forward anyway.

Nous devons au moins essayer de tracer une voie à suivre.

I've been working on these AI policy and governance issues

Je travaille sur ces questions de politique et de gouvernance de l’IA

for about eight years,

depuis environ huit ans.

First in San Francisco, now in Washington, DC.

J’ai travaillé d’abord à San Francisco, puis à Washington.

Along the way, I've gotten an inside look

Tout au long de mon parcours, j’ai pu voir de l’intérieur

at how governments are working to manage this technology.

comment les gouvernements s’efforcent de gérer cette technologie.

And inside the industry, I've seen a thing or two as well.

Et au sein des entreprises, j’ai également eu un aperçu de ce qui se passait.

So I'm going to share a couple of ideas

Je vais donc partager avec vous quelques idées sur la manière

for what our path to governing AI could look like.

dont nous pourrions encadrer l’IA.

But first, let's talk about what actually makes AI so hard to understand

Mais d’abord, parlons de ce qui rend l’IA si difficile à comprendre et à prévoir.

and predict.

One huge challenge in building artificial "intelligence"

L’un des grands défis quand on crée une « intelligence » artificielle,

is that no one can agree on what it actually means

c’est que personne ne s’accorde sur ce qu’être intelligent veut dire.

to be intelligent.

This is a strange place to be in when building a new tech.

Étrange situation pour mettre au point une nouvelle technologie.

When the Wright brothers started experimenting with planes,

Quand les frères Wright ont commencé leurs tests avec des avions,

they didn't know how to build one,

ils ne savaient pas en construire,

but everyone knew what it meant to fly.

mais tout le monde savait ce que voler signifiait.

With AI on the other hand,

En revanche, dans le cas de l’IA,

different experts have completely different intuitions

différents experts ont des visions totalement divergentes

about what lies at the heart of intelligence.

sur ce qu’est vraiment l’intelligence.

Is it problem solving?

Est-ce la capacité à résoudre des problèmes ?

Is it learning and adaptation,

À apprendre et à s’adapter ?

are emotions,

Les émotions ou le fait d’avoir un corps jouent-ils un rôle quelconque ?

or having a physical body somehow involved?

We genuinely don't know.

Honnêtement, on n’en sait rien.

But different answers lead to radically different expectations

Mais selon les réponses, les attentes sont radicalement différentes

about where the technology is going and how fast it'll get there.

sur la direction que prend la technologie et la vitesse à laquelle elle y arrivera.

An example of how we're confused is how we used to talk

Un exemple de cette confusion est la façon dont nous parlions

about narrow versus general AI.

de l’IA étroite versus l’IA générale.

For a long time, we talked in terms of two buckets.

Pendant longtemps, nous en parlions comme de deux catégories.

A lot of people thought we should just be dividing between narrow AI,

Beaucoup pensaient que nous devions simplement distinguer

l’IA étroite, conçue pour effectuer une tâche bien spécifique,

trained for one specific task,

like recommending the next YouTube video,

comme recommander votre prochaine vidéo YouTube,

versus artificial general intelligence, or AGI,

de l’intelligence artificielle générale ou IAG,

that could do everything a human could do.

capable de tout faire comme un humain.

We thought of this distinction, narrow versus general,

On considérait cette distinction, étroite versus générale,

as a core divide between what we could build in practice

comme un clivage fondamental entre ce qu’on peut faire en pratique

and what would actually be intelligent.

et une technologie réellement intelligente.

But then a year or two ago, along came ChatGPT.

Mais il y a un an ou deux, ChatGPT est apparu.

If you think about it,

Quand on y pense,

you know, is it narrow AI, trained for one specific task?

s’agit-il d’une IA étroite, entraînée à effectuer une tâche spécifique

Or is it AGI and can do everything a human can do?

ou d’une IAG capable de reproduire tout ce qu’un humain peut faire ?

Clearly the answer is neither.

La réponse est claire, ni l’un ni l’autre. L’IA est assurément polyvalente.

It's certainly general purpose.

It can code, write poetry,

Elle peut coder, écrire de la poésie,

analyze business problems, help you fix your car.

analyser des problèmes commerciaux, vous aider à réparer votre voiture.

But it's a far cry from being able to do everything

Mais elle est loin d’être capable de tout faire aussi bien que vous et moi.

as well as you or I could do it.

So it turns out this idea of generality

Il s’avère donc que cette idée de généralité

doesn't actually seem to be the right dividing line

n’est pas la bonne frontière

between intelligent and not.

entre ce qui est intelligent et ce qui ne l’est pas.

And this kind of thing

Ce type de question constitue actuellement un énorme défi pour le secteur de l’IA.

is a huge challenge for the whole field of AI right now.

We don't have any agreement on what we're trying to build

Nous ne nous accordons ni sur ce que nous tentons de bâtir

or on what the road map looks like from here.

ni sur la feuille de route à adopter à ce stade.

We don't even clearly understand the AI systems that we have today.

Nous ne comprenons même pas clairement nos systèmes d’IA actuels.

Comment cela se fait-il ?

Why is that?

Researchers sometimes describe deep neural networks,

Les chercheurs décrivent parfois les réseaux neuronaux profonds,

the main kind of AI being built today,

le principal type d’IA développée aujourd’hui, comme une boîte noire.

as a black box.

But what they mean by that is not that it's inherently mysterious

Ce qu’ils entendent par là, ça n’est pas qu’ils sont intrinsèquement mystérieux

and we have no way of looking inside the box.

et qu’on n’a aucun moyen de regarder à l’intérieur de cette boîte.

The problem is that when we do look inside,

Le problème c’est que quand on regarde à l’intérieur,

what we find are millions,

on trouve des millions, des milliards, voire des billions de nombres

billions or even trillions of numbers

that get added and multiplied together in a particular way.

qui sont additionnés et multipliés d’une manière particulière.

What makes it hard for experts to know what's going on

Les experts ont du mal à savoir ce qui se passe,

is basically just, there are too many numbers,

car il y a trop de chiffres

and we don't yet have good ways of teasing apart what they're all doing.

et que l’on n’a pas encore les bons outils pour déterminer ce qu’ils font.

There's a little bit more to it than that, but not a lot.

C’est un peu plus compliqué que ça, mais pas énormément.

So how do we govern this technology

Alors, comment encadrer cette technologie

that we struggle to understand and predict?

que nous peinons à comprendre et à prévoir ?

I'm going to share two ideas.

Voici deux idées.

One for all of us and one for policymakers.

Une pour nous et une pour les décideurs politiques.

First, don't be intimidated.

La première : ne soyez pas intimidé.

Either by the technology itself

Ni par la technologie en elle-même

or by the people and companies building it.

ni par les gens et les sociétés qui la développent.

On the technology,

Si l’IA est déroutante sur le plan technologique, elle n’est pas magique.

AI can be confusing, but it's not magical.

There are some parts of AI systems we do already understand well,

Nous comprenons déjà bien certains pans des systèmes d’IA

and even the parts we don't understand won't be opaque forever.

et ceux que nous ne comprenons pas ne resteront pas éternellement obscurs.

An area of research known as “AI interpretability”

Un champ de recherche connu comme « l’interprétabilité de l’IA »

has made quite a lot of progress in the last few years

a beaucoup progressé ces dernières années

in making sense of what all those billions of numbers are doing.

pour donner un sens à ce que font ces milliards de nombres.

One team of researchers, for example,

Un groupe de chercheurs, par exemple,

found a way to identify different parts of a neural network

a trouvé un moyen d’identifier les différentes zones d’un réseau neuronal

that they could dial up or dial down

qu’il était possible d’activer ou de désactiver

to make the AI's answers happier or angrier,

pour rendre les réponses de l’IA plus positives ou négatives,

more honest,

plus honnêtes, plus machiavéliques et ainsi de suite.

more Machiavellian, and so on.

If we can push forward this kind of research further,

Si on réussit à faire avancer ce type de recherche,

then five or 10 years from now,

dans 5 ou 10 ans,

we might have a much clearer understanding of what's going on

nous pourrions bien mieux comprendre le fonctionnement

inside the so-called black box.

de ce que l’on appelle la « boîte noire ».

And when it comes to those building the technology,

Quant à ceux qui développent la technologie, ils agissent parfois

technologists sometimes act as though

if you're not elbows deep in the technical details,

comme si ceux qui ne maîtrisaient pas les détails techniques

then you're not entitled to an opinion on what we should do with it.

n’avaient pas le droit d’avoir un avis sur ce que nous devrions en faire.

Expertise has its place, of course,

L’expertise a sa place, bien sûr,

but history shows us how important it is

mais l’histoire nous a montré à quel point il est important

that the people affected by a new technology

que les gens affectés par une nouvelle technologie

get to play a role in shaping how we use it.

puissent jouer un rôle dans la manière dont on l’utilise.

Like the factory workers in the 20th century who fought for factory safety,

Comme les ouvriers du XXe siècle qui ont lutté

pour la sécurité dans les usines

or the disability advocates

ou les défenseurs des personnes handicapées qui ont veillé

who made sure the world wide web was accessible.

à ce que le World Wide Web leur soit accessible.

You don't have to be a scientist or engineer to have a voice.

Vous n’avez pas à être scientifique ou ingénieur pour vous exprimer.

(Applause)

(Applaudissements)

Second, we need to focus on adaptability, not certainty.

Deuxièmement, plutôt que de certitudes, nous avons besoin de flexibilité.

A lot of conversations about how to make policy for AI

Nombre de discussions sur l’élaboration d’une politique de l’IA

get bogged down in fights between, on the one side,

s’enlisent dans des luttes entre, d’un côté, les gens qui disent :

people saying, "We have to regulate AI really hard right now

« Il faut réglementer sévèrement l’IA dès maintenant à cause de sa dangerosité »

because it's so risky."

And on the other side, people saying,

et ceux qui disent :

« La réglementation va tuer l’innovation, et ces risques ne sont pas réels. »

“But regulation will kill innovation, and those risks are made up anyway.”

But the way I see it,

Mais de mon point de vue, il ne s’agit pas juste de choisir entre freiner

it’s not just a choice between slamming on the brakes

or hitting the gas.

ou appuyer sur l’accélérateur.

If you're driving down a road with unexpected twists and turns,

Si vous conduisez sur une route pleine de détours et virages inattendus,

then two things that will help you a lot

deux choses vous seront très utiles :

are having a clear view out the windshield

une vue dégagée à travers le pare-brise et un excellent système de direction.

and an excellent steering system.

Pour l’IA, ça signifie avoir une vision claire de l’état de la technologie

In AI, this means having a clear picture of where the technology is

and where it's going,

et de son évolution,

and having plans in place for what to do in different scenarios.

et mettre au point une stratégie pour faire face à différents scénarios.

Concretely, this means things like investing in our ability to measure

Concrètement, cela signifie investir dans notre capacité à mesurer

what AI systems can do.

ce que les systèmes d’IA peuvent faire.

This sounds nerdy, but it really matters.

Ça peut paraître bizarre, mais c’est très important.

Right now, if we want to figure out

Actuellement, si on veut savoir si une IA est capable de faire un truc grave,

whether an AI can do something concerning,

like hack critical infrastructure

comme hacker une infrastructure sensible

or persuade someone to change their political beliefs,

ou persuader quelqu’un de changer ses opinions politiques,

our methods of measuring that are rudimentary.

nos méthodes de mesure sont très basiques.

We need better.

Il nous en faut de meilleurs.

We should also be requiring AI companies,

On doit aussi exiger des sociétés spécialisées dans l’IA,

especially the companies building the most advanced AI systems,

notamment celles qui développent les systèmes d’IA les plus avancés,

to share information about what they're building,

qu’elles partagent les informations relatives à leurs travaux,

what their systems can do

aux capacités de leurs systèmes et à la gestion des risques.

and how they're managing risks.

And they should have to let in external AI auditors to scrutinize their work

Et elles devraient être tenues de faire appel

à des auditeurs indépendants pour contrôler leur activité,

so that the companies aren't just grading their own homework.

afin qu’elles ne se contentent pas d’évaluer elles-mêmes leurs travaux.

(Applause)

(Applaudissements)

A final example of what this can look like

Un dernier exemple de ce à quoi ça peut ressembler

is setting up incident reporting mechanisms,

consiste à mettre en place des procédures de signalement des incidents

pour que, quand des problèmes surgissent dans la réalité,

so that when things do go wrong in the real world,

we have a way to collect data on what happened

nous ayons un outil de collecte de données sur ce qui est arrivé

and how we can fix it next time.

et sur comment y remédier dans le futur.

Just like the data we collect on plane crashes and cyber attacks.

Comme les données que nous recueillons lors des crashs aériens et cyberattaques.

None of these ideas are mine,

Ces idées ne sont pas les miennes,

and some of them are already starting to be implemented in places like Brussels,

et certaines sont déjà mises en œuvre dans des villes comme Bruxelles,

London, even Washington.

Londres et même Washington.

But the reason I'm highlighting these ideas,

Mais la raison pour laquelle je mets en avant ces idées,

measurement, disclosure, incident reporting,

quantification, divulgation d’informations et notification des incidents,

is that they help us navigate progress in AI

c’est qu’elles nous aident à orienter les progrès de l’IA

by giving us a clearer view out the windshield.

en nous donnant une meilleure visibilité.

If AI is progressing fast in dangerous directions,

Si l’IA évolue rapidement dans des directions dangereuses,

these policies will help us see that.

ces mesures nous aideront à le voir.

And if everything is going smoothly, they'll show us that too,

Et si tout se passe bien, elles nous le montreront aussi

and we can respond accordingly.

et nous pourrons réagir en conséquence.

What I want to leave you with

Ce que je veux vous dire,

is that it's both true that there's a ton of uncertainty

c’est qu’il est vrai qu’il y a beaucoup d’incertitudes

and disagreement in the field of AI.

et de désaccords dans le domaine de l’IA,

And that companies are already building and deploying AI

et que les entreprises sont déjà en train de la développer et la déployer

all over the place anyway in ways that affect all of us.

un peu partout de toute façon, d’une manière qui nous affecte tous.

Left to their own devices,

Livrées à elles-mêmes, les sociétés du secteur de l’IA

it looks like AI companies might go in a similar direction

risquent de prendre la même direction que celles des médias sociaux,

to social media companies,

spending most of their resources on building web apps

consacrant leurs ressources à la création d’applications

and for users' attention.

et luttant pour capter l’attention des utilisateurs.

And by default, it looks like the enormous power of more advanced AI systems

Et par défaut, il semble que l’énorme puissance

des systèmes d’IA les plus avancés

might stay concentrated in the hands of a small number of companies,

pourrait rester aux mains d’un petit nombre d’entreprises

or even a small number of individuals.

ou même d’un petit nombre d’individus.

But AI's potential goes so far beyond that.

Mais le potentiel de l’IA va bien au-delà de ça.

AI already lets us leap over language barriers

Elle nous permet déjà de franchir des barrières linguistiques

and predict protein structures.

et de prédire la structure des protéines.

More advanced systems could unlock clean, limitless fusion energy

Des systèmes plus avancés

permettraient de découvrir une énergie de fusion propre et illimitée

or revolutionize how we grow food

ou de révolutionner la façon de cultiver les aliments,

or 1,000 other things.

ou mille autres choses encore.

And we each have a voice in what happens.

Et nous avons tous notre mot à dire.

We're not just data sources,

Nous ne sommes pas que des sources de données, nous sommes

we are users,

des utilisateurs,

we're workers,

des travailleurs,

we're citizens.

des citoyens.

So as tempting as it might be,

Aussi tentant que cela puisse être,

we can't wait for clarity or expert consensus

on ne peut pas attendre plus de clarté ou un consensus parmi les experts

to figure out what we want to happen with AI.

pour savoir ce que l’on veut qu’il advienne de l’IA.

AI is already happening to us.

L’IA nous concerne déjà.

What we can do is put policies in place

Ce que nous pouvons faire, c’est élaborer des règles

to give us as clear a picture as we can get

qui nous donnent une image aussi claire que possible

of how the technology is changing,

de l’évolution de cette technologie,

and then we can get in the arena and push for futures we actually want.

puis nous pourrons descendre dans l’arène et créer un avenir

qui soit à la hauteur de nos attentes.

Thank you.

Merci.

(Applause)

(Applaudissements)