How do we learn to work with intelligent machines? | Matt Beane

Traducteur: Juliet Vdt Relecteur: Shadia Ramsahye

It’s 6:30 in the morning,

Il est 6h30 du matin.

and Kristen is wheeling her prostate patient into the OR.

Kristen pousse son patient jusqu'au bloc opératoire.

She's a resident, a surgeon in training.

Kristen est résidente en chirurgie, c'est une interne.

It’s her job to learn.

Son travail, c'est d'apprendre.

Today, she’s really hoping to do some of the nerve-sparing,

Elle espère réaliser une prostatectomie conservant les nerfs.

extremely delicate dissection that can preserve erectile function.

Une opération extrêmement délicate liée aux fonctions érectiles.

That'll be up to the attending surgeon, though, but he's not there yet.

C'est le chirurgien en chef qui en décidera, quand il arrivera.

She and the team put the patient under,

Elle anesthésie le patient à l'aide de son équipe,

and she leads the initial eight-inch incision in the lower abdomen.

et elle fait la première incision de 4 cm sous l'abdomen.

Once she’s got that clamped back, she tells the nurse to call the attending.

Elle demande ensuite à l'infirmière d'appeler le chirurgien.

He arrives, gowns up,

Il entre, les manches remontées,

And from there on in, their four hands are mostly in that patient --

et à partir de là, leurs quatre mains sont dédiées au patient.

with him guiding but Kristin leading the way.

Le chirurgien guide mais Kristen agit.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

Une fois la prostate sortie et Kristen ayant pu travailler sur les nerfs,

he rips off his scrubs.

il retire ses gants,

He starts to do paperwork.

et entame la paperasse.

Kristen closes the patient by 8:15,

Kristen recoud le patient vers 8h15

with a junior resident looking over her shoulder.

avec un externe qui l'observe attentivement.

And she lets him do the final line of sutures.

Et elle laisse ce dernier se charger des dernières sutures.

Kristen feels great.

Kristen est aux anges.

Patient’s going to be fine,

Le patient va aller mieux.

and no doubt she’s a better surgeon than she was at 6:30.

Et elle est bien meilleure chirurgienne qu'elle ne l'était à 6:30.

Now this is extreme work.

Il s'agit là d'un travail extrême.

But Kristin’s learning to do her job the way that most of us do:

Mais Kristen est en train d'être formée d'une manière somme toute commune :

watching an expert for a bit,

en observant un expert pendant un temps,

getting involved in easy, safe parts of the work

participant à des tâches simples et faciles,

and progressing to riskier and harder tasks

et en progressant vers des tâches plus complexes

as they guide and decide she’s ready.

jusqu'à ce qu'elle soit fin prête.

My whole life I’ve been fascinated by this kind of learning.

J'ai toujours été fasciné par ce type d'apprentissage.

It feels elemental, part of what makes us human.

Ça semble basique, faisant partie de ce qui nous rend humain.

It has different names: apprenticeship, coaching, mentorship, on the job training.

On appelle ça un stage, coaching, mentoring, formation sur le terrain...

In surgery, it’s called “see one, do one, teach one.”

En chirurgie, ils appellent ça : « Observe. Pratique. Transmets. ».

But the process is the same,

Mais ce même procédé

and it’s been the main path to skill around the globe for thousands of years.

a été le principal chemin d'apprentissage dans le monde entier depuis toujours.

Right now, we’re handling AI in a way that blocks that path.

Ces temps-ci, notre façon de gérer l'Intelligence Artificielle empêche ça.

We’re sacrificing learning in our quest for productivity.

Nous sacrifions l'apprentissage à notre soif de productivité.

I found this first in surgery while I was at MIT,

Je l'ai découvert en étudiant la chirurgie au MIT,

but now I’ve got evidence it’s happening all over,

mais je sais désormais que cela se produit partout.

in very different industries and with very different kinds of AI.

Dans toutes sortes d'industries et avec toutes sortes d'IA.

If we do nothing, millions of us are going to hit a brick wall

Si nous n'agissons pas, des millions d'entre nous vont se heurter à un mur

as we try to learn to deal with AI.

quand ils apprendront à interagir avec les IA.

Let’s go back to surgery to see how.

Revenons à la chirurgie pour le comprendre.

Fast forward six months.

Avançons de six mois.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

Il est à nouveau 6h30, Kristen pousse un nouveau patient pour une prostatectomie.

but this time to the robotic OR.

Cette fois vers le bloc opératoire robotisé.

The attending leads attaching

Le chirurgien se charge d'attacher un robot de 100 kilos à 4 bras au patient.

a four-armed, thousand-pound robot to the patient.

They both rip off their scrubs,

Kristen et lui enlèvent ensuite leurs gants,

head to control consoles 10 or 15 feet away,

se dirigent vers les écrans de contrôle à quelques mètres,

and Kristen just watches.

et Kristen se contente d'observer.

The robot allows the attending to do the whole procedure himself,

Le robot permet au chirurgien de réaliser l'opération tout seul,

so he basically does.

alors il le fait.

He knows she needs practice.

Il sait qu'elle a besoin de pratique.

He wants to give her control.

Il veut lui laisser le contrôle.

But he also knows she’d be slower and make more mistakes,

Mais il sait aussi qu'elle serait plus lente et ferait plus d'erreurs.

and his patient comes first.

Et le patient est la priorité.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

Kristen n'a aucune chance de toucher le moindre nerf pendant cette opération.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

Ce serait surprenant qu'elle opère plus de 15 minutes

pendant une opération de 4 heures.

And she knows that when she slips up,

Et elle sait qu'à la moindre erreur, le chirurgien touchera un bouton,

he’ll tap a touch screen, and she’ll be watching again,

et elle devra se contenter d'observer à nouveau.

feeling like a kid in the corner with a dunce cap.

Comme un enfant puni, au coin avec un bonnet d'âne.

Like all the studies of robots and work I’ve done in the last eight years,

Comme toutes mes études sur les robots au travail depuis 8 ans,

j'ai commencé celle-là avec une question ouverte :

I started this one with a big, open question:

How do we learn to work with intelligent machines?

Comment apprenons-nous à travailler avec des machines intelligentes ?

To find out, I spent two and a half years observing dozens of residents and surgeons

Pour le comprendre, j'ai passé deux ans et demi

à observer des internes et des chirurgiens,

doing traditional and robotic surgery, interviewing them

opérant de manière traditionnelle ou robotisée, en les interviewant,

and in general hanging out with the residents as they tried to learn.

et en passant du temps avec les internes pendant leur apprentissage.

I covered 18 of the top US teaching hospitals,

J'ai visité 18 des hôpitaux universitaires les plus réputés des USA,

and the story was the same.

l'histoire se répétait partout.

Most residents were in Kristen's shoes.

La plupart des internes vivaient la même chose que Kristen.

They got to “see one” plenty,

Ils pouvaient « observer » à foison,

but the “do one” was barely available.

mais le « pratiquer » était rare.

So they couldn’t struggle, and they weren’t learning.

Ils ne se dépassaient pas, et donc ils n'apprenaient pas.

This was important news for surgeons, but I needed to know how widespread it was:

C'était vrai chez les chirurgiens. Mais jusqu'où était-ce répandu ?

Where else was using AI blocking learning on the job?

Dans quels autres milieux l'IA bloquerait aussi la formation professionnelle?

To find out, I’ve connected with a small but growing group of young researchers

Pour le savoir, j'ai contacté un petit groupe croissant de jeunes chercheurs

who’ve done boots-on-the-ground studies of work involving AI

qui ont mené des études pratiques concernant les emplois utilisant l'IA.

in very diverse settings like start-ups, policing,

Dans des contextes variés comme les start-up, la sécurité,

investment banking and online education.

les banque d'investissement, ou les cours en ligne.

Like me, they spent at least a year and many hundreds of hours observing,

Comme moi, ils ont passé au moins un an et des centaines d'heures à observer,

interviewing and often working side-by-side with the people they studied.

interroger et même travailler côte à côte avec les personnes qu'ils étudiaient.

We shared data, and I looked for patterns.

Nous avons partagé nos données, et j'ai cherché des tendances.

No matter the industry, the work, the AI, the story was the same.

Peu importe le secteur, le métier, le type d'IA, l'histoire est la même.

Organizations were trying harder and harder to get results from AI,

Les sociétés travaillent dur pour obtenir des résultats de l'AI,

and they were peeling learners away from expert work as they did it.

et ils écartent les débutants de l'expertise par la même occasion.

Start-up managers were outsourcing their customer contact.

Les start-ups sous-traitent leur service client.

Cops had to learn to deal with crime forecasts without experts support.

Les policiers doivent apprendre à anticiper la criminalité

sans le support d'experts.

Junior bankers were getting cut out of complex analysis,

Les banquiers débutants sont exclus des analyses complexes.

and professors had to build online courses without help.

Et les enseignants doivent créer leurs cours en ligne seuls.

And the effect of all of this was the same as in surgery.

La conséquence de tout cela est la même qu'en chirurgie :

Learning on the job was getting much harder.

apprendre sur le terrain devient de plus en plus difficile.

This can’t last.

Ça ne peut pas durer.

McKinsey estimates that between half a billion and a billion of us

McKinsey estime qu'entre 1 million et 1 million et demi d'entre nous

are going to have to adapt to AI in our daily work by 2030.

devra apprendre à utiliser des IA dans son travail quotidien d'ici 2030.

Et nous assumons que l'apprentissage sur-site

And we’re assuming that on-the-job learning

sera toujours présent pour nous pendant la transition.

will be there for us as we try.

Accenture’s latest workers survey showed that most workers learned key skills

Le dernier sondage d'Accenture montre que la plupart des employés

a appris les points-clés de son métier sur le terrain et non en formation théorique.

on the job, not in formal training.

So while we talk a lot about its potential future impact,

Alors tandis que nous parlons de son futur impact éventuel,

the aspect of AI that may matter most right now

l'impact le plus important de l'IA actuellement,

is that we’re handling it in a way that blocks learning on the job

est la façon dont nous l'utilisons aujourd'hui

et qui gêne l'apprentissage sur-site,

just when we need it most.

alors que nous en avons justement besoin.

Now across all our sites, a small minority found a way to learn.

Mais parmi ces exemples, une petite minorité a trouvé une solution.

They did it by breaking and bending rules.

Ils ont brisé et détourné les codes.

Approved methods weren’t working, so they bent and broke rules

Les méthodes classiques ne fonctionnaient plus,

alors ils ont changé les règles

to get hands-on practice with experts.

pour pouvoir pratiquer avec des experts.

In my setting, residents got involved in robotic surgery in medical school

En chirurgie,

des internes se sont spécialisés en chirurgie robotisée à l'université,

at the expense of their generalist education.

au détriment de leur éducation générale.

And they spent hundreds of extra hours with simulators and recordings of surgery,

Et ils ont passé des heures en simulation ou avec des enregistrements vidéos,

when you were supposed to learn in the OR.

au lieu d'apprendre en salle d'opération.

And maybe most importantly, they found ways to struggle

Et plus important encore, ils ont trouvé le moyen de s'entraîner

in live procedures with limited expert supervision.

sur de vraies opérations sous supervision limitée.

I call all this “shadow learning,” because it bends the rules

J'appelle ça « l'apprentissage fantôme » parce qu'il change les règles

and learner’s do it out of the limelight.

et que l'étudiant pratique dans l'ombre.

And everyone turns a blind eye because it gets results.

Et tout le monde laisse faire parce que ça marche.

Remember, these are the star pupils of the bunch.

Et ceux-là sont les meilleurs des meilleurs.

Now, obviously, this is not OK, and it’s not sustainable.

Evidemment, ce n'est pas bien, ni même viable.

No one should have to risk getting fired

Personne ne devrait risquer un licenciement,

to learn the skills they need to do their job.

pour apprendre ce qui est nécessaire à son travail.

But we do need to learn from these people.

Mais nous devons apprendre de ces gens-là.

They took serious risks to learn.

Ils ont pris des risques pour apprendre.

They understood they needed to protect struggle and challenge in their work

Ils ont compris qu'il leur fallait tenter et se challenger au travail

so that they could push themselves to tackle hard problems

afin de progresser vers des tâches plus difficiles

right near the edge of their capacity.

et de repousser leurs limites.

They also made sure there was an expert nearby

Ils se sont aussi assurés d'avoir un expert non loin

to offer pointers and to backstop against catastrophe.

pour les conseiller ou éviter les catastrophes.

Let’s build this combination of struggle and expert support

Construisons cette combinaison de pratique et conseil

into each AI implementation.

dans les IA !

Here’s one clear example I could get of this on the ground.

En voilà un exemple découvert sur le terrain :

Before robots,

avant les robots,

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

un démineur désarmait un engin explosif en s'en approchant.

A junior officer was hundreds of feet away,

Son élève se trouvait à 50 mètres,

so could only watch and help if you decided it was safe

et ne pouvait observer et aider que si c'était sûr,

and invited them downrange.

et que le démineur l'y invitait.

Now you sit side-by-side in a bomb-proof truck.

Maintenant, ils sont côté à côté, dans un camion blindé.

You both watched the video feed.

Ils regardent ensemble l'écran vidéo.

They control a distant robot, and you guide the work out loud.

Ils contrôlent un robot à distance et le maître explique à voix haute.

Trainees learn better than they did before robots.

Les élèves apprennent mieux grâce aux robots.

We can scale this to surgery, start-ups, policing,

Nous pouvons étendre cela à la chirurgie, aux start-up, à la sécurité,

investment banking, online education and beyond.

aux banques d'investissement, les cours en ligne et au-delà.

The good news is we’ve got new tools to do it.

La bonne nouvelle, c'est que nous avons les outils pour ça.

The internet and the cloud mean we don’t always need one expert for every trainee,

Internet fait que nous n'avons pas besoin d'un maître pour chaque étudiant,

for them to be physically near each other or even to be in the same organization.

ni qu'ils soient physiquement au même endroit, ni même de la même organisation.

And we can build AI to help:

On peut construire des IA pour aider :

to coach learners as they struggle, to coach experts as they coach

pour coacher les élèves quand ils galèrent ou coacher les maîtres qui enseignent,

and to connect those two groups in smart ways.

et pour connecter ces deux groupes intelligemment.

There are people at work on systems like this,

Il y des gens qui travaillent sur de tels projets,

but they’ve been mostly focused on formal training.

mais ils sont surtout concentrés sur l'apprentissage théorique.

And the deeper crisis is in on-the-job learning.

Et le plus gros soucis est l'apprentissage « sur le tas ».

We must do better.

Nous devons faire mieux.

Today’s problems demand we do better

Les problèmes actuels exigent que nous fassions mieux.

to create work that takes full advantage of AI’s amazing capabilities

Que nous créions des tâches exploitant toutes les incroyables capacités des IA,

while enhancing our skills as we do it.

tout en améliorant nos propres compétences.

That’s the kind of future I dreamed of as a kid.

C'est le genre d'avenir dont je rêvais plus jeune.

And the time to create it is now.

Et c'est maintenant qu'il faut le créer.

Thank you.

Merci.

(Applause)

(Applaudissements)