How we can build AI to help humans, not hurt us | Margaret Mitchell

Traducteur: Benjamin Tchassama-Lacroix Relecteur: Jules Daunay

I work on helping computers communicate about the world around us.

J'aide les ordinateurs à communiquer avec le monde qui nous entoure.

There are a lot of ways to do this,

Il y a plein de façons de le faire,

and I like to focus on helping computers

mais j'aime me consacrer à aider les ordinateurs

to talk about what they see and understand.

à parler de ce qu'ils voient et de ce qu'ils comprennent.

Given a scene like this,

Pour une scène comme celle-ci,

a modern computer-vision algorithm

un algorithme moderne de reconnaissance

can tell you that there's a woman and there's a dog.

peut vous dire qu'il y a une femme et un chien.

It can tell you that the woman is smiling.

Il peut vous dire que la femme est souriante.

It might even be able to tell you that the dog is incredibly cute.

Il pourrait même vous dire que le chien est incroyablement mignon.

I work on this problem

Je travaille sur ce problème

thinking about how humans understand and process the world.

en étudiant la façon dont les humains comprennent et traitent le monde.

The thoughts, memories and stories

Les pensées, les souvenirs et les histoires

that a scene like this might evoke for humans.

qu'une scène comme celle-ci pourrait évoquer pour un humain.

All the interconnections of related situations.

Toutes les interconnexions avec les situations proches.

Maybe you've seen a dog like this one before,

Peut-être avez-vous déjà vu un chien semblable auparavant,

or you've spent time running on a beach like this one,

ou que vous avez beaucoup couru sur une plage comme celle-ci

and that further evokes thoughts and memories of a past vacation,

et cela évoque d'autres pensées et des souvenirs de vacances passées,

past times to the beach,

des moments passés à la plage,

times spent running around with other dogs.

des moments passés à courir avec d'autres chiens.

One of my guiding principles is that by helping computers to understand

Un de mes principes est d'aider les ordinateurs à comprendre

what it's like to have these experiences,

à quoi ressemblent de telles expériences,

to understand what we share and believe and feel,

pour leur faire comprendre ce que nous partageons, croyons et ressentons.

then we're in a great position to start evolving computer technology

C'est ainsi qu'on pourra commencer à faire évoluer la technologie informatique

in a way that's complementary with our own experiences.

pour qu'elle soit complémentaire de nos propres expériences.

So, digging more deeply into this,

Donc, pour approfondir ce sujet,

a few years ago I began working on helping computers to generate human-like stories

ces dernières années, j'ai aidé les ordinateurs à créer des histoires

from sequences of images.

à partir de séquences d'images.

So, one day,

Un jour,

I was working with my computer to ask it what it thought about a trip to Australia.

j'étais sur mon PC et je lui ai demandé son avis sur un voyage en Australie.

It took a look at the pictures, and it saw a koala.

Il a regardé les images, et il a vu un koala.

It didn't know what the koala was,

Il ne savait pas ce que c'était,

but it said it thought it was an interesting-looking creature.

mais, selon lui, cette créature avait l'air intéressante.

Then I shared with it a sequence of images about a house burning down.

Puis, j'ai partagé avec lui une séquence d'images d'une maison qui brûlait.

It took a look at the images and it said,

Il a regardé les images et il a dit :

"This is an amazing view! This is spectacular!"

« C'est une vue incroyable ! C'est spectaculaire ! »

It sent chills down my spine.

Et ça m'a donné des frissons.

It saw a horrible, life-changing and life-destroying event

Il a vu un événement horrible, qui peut bouleverser et détruire une vie,

and thought it was something positive.

et il pensait que c'était une chose positive.

I realized that it recognized the contrast,

J'ai compris qu'il discernait le contraste,

the reds, the yellows,

les rouges, les jaunes,

and thought it was something worth remarking on positively.

et il trouvait, sans mauvaise pensée, que ça méritait d'être vu.

And part of why it was doing this

S'il disait ça, c'était en partie

was because most of the images I had given it

parce que la plupart des images que je lui avais apportées

were positive images.

étaient des images positives.

That's because people tend to share positive images

C'est parce que les gens ont tendance à partager des images positives

when they talk about their experiences.

quand ils parlent de leurs expériences.

When was the last time you saw a selfie at a funeral?

Se prend-on en portrait avec son portable à un enterrement ?

I realized that, as I worked on improving AI

J'ai compris que, pendant que j'améliorais l'IA,

task by task, dataset by dataset,

fonction par fonction, jeu de données par jeu de données,

that I was creating massive gaps,

je créais des lacunes massives,

holes and blind spots in what it could understand.

des trous et des biais cognitifs dans ce que l'IA pouvait comprendre.

And while doing so,

Et, en faisant cela,

I was encoding all kinds of biases.

je codais toute sorte de préjugés.

Biases that reflect a limited viewpoint,

Des préjugés qui reflètent un point de vue limité,

limited to a single dataset --

limité à un seul jeu de données.

biases that can reflect human biases found in the data,

Des partis pris qui reflètent des biais humains, retrouvés dans les données,

such as prejudice and stereotyping.

comme les préjugés et les stéréotypes.

I thought back to the evolution of the technology

Je repensais à l'évolution technologique

that brought me to where I was that day --

qui m'a amenée là où j'en suis aujourd'hui.

how the first color images

Que les premières images en couleur

were calibrated against a white woman's skin,

ont été calibrées sur la peau d'une femme blanche,

meaning that color photography was biased against black faces.

les photographies en couleur étaient donc biaisées pour les visages noirs.

And that same bias, that same blind spot

Et ces mêmes préjugés, ces mêmes biais cognitifs

continued well into the '90s.

se sont poursuivis dans les années 90.

And the same blind spot continues even today

Ces biais cognitifs sont encore là aujourd'hui

in how well we can recognize different people's faces

dans notre façon de reconnaître les visages de gens différents

in facial recognition technology.

grâce à la reconnaissance faciale.

I though about the state of the art in research today,

J'ai réfléchi à l'état de l'art de la recherche actuelle,

where we tend to limit our thinking to one dataset and one problem.

qui a tendance à limiter la réflexion à un seul jeu de données et à un seul problème.

And that in doing so, we were creating more blind spots and biases

Ce faisant, on a créé encore plus de biais cognitifs et de préjugés

that the AI could further amplify.

que l'IA pourrait encore amplifier.

I realized then that we had to think deeply

J'ai alors compris qu'il fallait imaginer

about how the technology we work on today looks in five years, in 10 years.

le devenir de la technologie actuelle dans cinq ou dix ans.

Humans evolve slowly, with time to correct for issues

L'être humain évolue lentement, il prend le temps de corriger

in the interaction of humans and their environment.

ses interactions avec son environnement.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

En revanche, l'intelligence artificielle évolue à un rythme incroyablement rapide.

And that means that it really matters

Par conséquent, c'est important

that we think about this carefully right now --

de réfléchir soigneusement à ça dès maintenant –

that we reflect on our own blind spots,

à nos propres biais cognitifs,

our own biases,

nos préjugés,

and think about how that's informing the technology we're creating

et comment ils influencent la technologie en création –

and discuss what the technology of today will mean for tomorrow.

et de discuter du sens de la technologie pour le futur.

CEOs and scientists have weighed in on what they think

Des PDG et des scientifiques se sont prononcés

the artificial intelligence technology of the future will be.

sur le futur de l'intelligence artificielle de demain.

Stephen Hawking warns that

Stephen Hawking nous alerte :

"Artificial intelligence could end mankind."

« L'intelligence artificielle pourrait détruire l'humanité. »

Elon Musk warns that it's an existential risk

Elon Musk nous dit que c'est un risque existentiel,

and one of the greatest risks that we face as a civilization.

un des plus grands que notre civilisation devra affronter.

Bill Gates has made the point,

Bill Gates a fait remarquer :

"I don't understand why people aren't more concerned."

« Je ne sais pas pourquoi les gens ne sont pas plus inquiets. »

But these views --

Mais ces points de vue

they're part of the story.

font partie d'une histoire.

The math, the models,

Les maths, les modèles,

the basic building blocks of artificial intelligence

les bases même de l'intelligence artificielle

are something that we call access and all work with.

sont des choses que nous pouvons tous aborder et améliorer.

We have open-source tools for machine learning and intelligence

Il existe des logiciels libres pour l'apprentissage automatique

that we can contribute to.

auxquels chacun peut contribuer.

And beyond that, we can share our experience.

Et au-delà de ça, nous pouvons partager notre expérience,

We can share our experiences with technology and how it concerns us

nos expériences avec la technologie, comment elle nous touche

and how it excites us.

et nous passionne.

We can discuss what we love.

On peut parler de nos passions.

We can communicate with foresight

On peut parler de nos hypothèses

about the aspects of technology that could be more beneficial

sur les aspects de la technologie qui pourraient devenir plus utiles

or could be more problematic over time.

ou bien poser plus de problèmes au fil du temps.

If we all focus on opening up the discussion on AI

Si on se met tous à ouvrir une discussion sur l'IA,

with foresight towards the future,

avec un horizon de long terme,

this will help create a general conversation and awareness

on contribuera à créer un débat et une prise de conscience générale

about what AI is now,

sur ce qu'est l'IA aujourd'hui,

what it can become

ce qu'elle peut devenir

and all the things that we need to do

et tout ce qu'on doit faire

in order to enable that outcome that best suits us.

pour arriver à atteindre le meilleur résultat pour nous.

We already see and know this in the technology that we use today.

C'est déjà le cas avec la technologie qu'on utilise aujourd'hui.

We use smart phones and digital assistants and Roombas.

On utilise des téléphones, des assistants personnels et des robots aspirateurs.

Are they evil?

Sont-ils nuisibles ?

Maybe sometimes.

Parfois, peut-être.

Are they beneficial?

Sont-ils utiles ?

Yes, they're that, too.

Oui, ils le sont aussi.

And they're not all the same.

Et ils ne sont pas tous pareils.

And there you already see a light shining on what the future holds.

Et c'est là qu'on voit déjà une lueur positive dans le futur.

The future continues on from what we build and create right now.

Le futur avance grâce à tout ce qu'on construit aujourd'hui.

We set into motion that domino effect

On a mis en mouvement l'effet domino

that carves out AI's evolutionary path.

qui construit l'évolution de l'IA.

In our time right now, we shape the AI of tomorrow.

C'est aujourd'hui qu'on façonne l'IA de demain.

Technology that immerses us in augmented realities

Une technologie qui nous immerge dans les réalités augmentées,

bringing to life past worlds.

ramenant à la vie des mondes passés.

Technology that helps people to share their experiences

Une technologie qui aide les gens à partager leurs expériences

when they have difficulty communicating.

quand ils ont du mal à communiquer.

Technology built on understanding the streaming visual worlds

Une technologie basée sur la compréhension des univers visuels en flux continu,

used as technology for self-driving cars.

qui fait fonctionner les véhicules autonomes.

Technology built on understanding images and generating language,

Une technologique d'analyse d'images et de création de langages,

evolving into technology that helps people who are visually impaired

qui évolue en une technologie pour aider les troubles de la vue,

be better able to access the visual world.

afin de pouvoir mieux accéder au monde visuel.

And we also see how technology can lead to problems.

On voit aussi comment la technologie peut créer des problèmes.

We have technology today

On est maintenant

that analyzes physical characteristics we're born with --

capables d’analyser les caractéristiques physiques innées,

such as the color of our skin or the look of our face --

comme la couleur de notre peau ou l'apparence du visage,

in order to determine whether or not we might be criminals or terrorists.

pour déterminer nos probabilités de devenir un criminel ou un terroriste.

We have technology that crunches through our data,

On a des logiciels capables de traiter toutes les données

even data relating to our gender or our race,

même celles concernant notre genre ou notre couleur de peau,

in order to determine whether or not we might get a loan.

afin de déterminer si on peut ou non contracter un crédit.

All that we see now

Tout ce qu'on voit

is a snapshot in the evolution of artificial intelligence.

n'est qu'un aperçu de l'évolution de l'intelligence artificielle.

Because where we are right now,

Parce que nous sommes maintenant

is within a moment of that evolution.

à un stade précis de cette évolution.

That means that what we do now will affect what happens down the line

C'est-à-dire que ce qu'on fait maintenant aura des répercussions par la suite

and in the future.

et dans le futur.

If we want AI to evolve in a way that helps humans,

Si on veut que l'IA évolue pour aider l'humanité,

then we need to define the goals and strategies

on doit définir des objectifs et des stratégies

that enable that path now.

pour tracer aujourd'hui cette voie.

What I'd like to see is something that fits well with humans,

Je voudrais voir une IA qui cohabite avec nous, les humains,

with our culture and with the environment.

avec nos cultures et notre environnement.

Technology that aids and assists those of us with neurological conditions

Une technologie qui vient en aide à ceux qui ont des problèmes neurologiques

or other disabilities

ou tout autre handicap

in order to make life equally challenging for everyone.

afin de garantir l'égalité des chances dans la vie pour tous.

Technology that works

Une technologie fonctionnant

regardless of your demographics or the color of your skin.

quel que soit votre statut démographique ou votre couleur de peau.

And so today, what I focus on is the technology for tomorrow

Aujourd'hui, je me focalise donc sur la technologie de demain,

and for 10 years from now.

pour les dix ans à venir.

AI can turn out in many different ways.

L'IA peut devenir plein de choses différentes.

But in this case,

Mais dans ce cas,

it isn't a self-driving car without any destination.

ce ne sera pas un véhicule autonome sans destination.

This is the car that we are driving.

Ce sera une voiture qu'on pilote.

We choose when to speed up and when to slow down.

On choisira quand accélérer et quand ralentir.

We choose if we need to make a turn.

On décidera de faire un virage ou non.

We choose what the AI of the future will be.

On sélectionnera ce à quoi ressemblera l'IA dans le futur.

There's a vast playing field

Il y a beaucoup de choses

of all the things that artificial intelligence can become.

que l'intelligence artificielle peut devenir.

It will become many things.

Elle a un énorme potentiel.

And it's up to us now,

Et c'est à nous, aujourd'hui,

in order to figure out what we need to put in place

de trouver ce qu'on doit mettre en place

to make sure the outcomes of artificial intelligence

pour s'assurer que les effets de l'intelligence artificielle

are the ones that will be better for all of us.

soient bénéfiques pour nous tous.

Thank you.

Merci.

(Applause)

(Applaudissements)