How do we learn to work with intelligent machines? | Matt Beane

Tradutor: João Vitor Innecco Arêas Revisora: Angelica Maver

It’s 6:30 in the morning,

São seis e meia da manhã,

and Kristen is wheeling her prostate patient into the OR.

Kristen está a levar o paciente da próstata para o bloco operatório.

She's a resident, a surgeon in training.

Ela é médica residente, cirurgiã em formação.

It’s her job to learn.

O seu trabalho é aprender.

Today, she’s really hoping to do some of the nerve-sparing,

Hoje, espera fazer uma cirurgia extremadamente delicada

extremely delicate dissection that can preserve erectile function.

na próstata do paciente, que possa preservar a função erétil do pénis.

That'll be up to the attending surgeon, though, but he's not there yet.

Isso é da responsabilidade do cirurgião principal, mas ele ainda não chegou.

She and the team put the patient under,

Ela e a sua equipa anestesiam o paciente

and she leads the initial eight-inch incision in the lower abdomen.

e ela encarrega-se da incisão inicial de 20 cm na parte inferior do abdómen.

Once she’s got that clamped back, she tells the nurse to call the attending.

Depois de prender a incisão, diz ao enfermeiro para chamar o cirurgião.

He arrives, gowns up,

Este chega, veste a bata.

And from there on in, their four hands are mostly in that patient --

Daquele momento em diante, as quatro mãos não largam o paciente.

with him guiding but Kristin leading the way.

O cirurgião vai orientando mas é Kristen que lidera o caminho.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

Depois de removida a próstata

— ele permitiu que Kristen preservasse os nervos —

he rips off his scrubs.

ele despe a roupa

He starts to do paperwork.

e começa a trabalhar na papelada.

Kristen closes the patient by 8:15,

Kristen fecha o paciente às oito e um quarto,

with a junior resident looking over her shoulder.

com um residente júnior a olhar por cima do ombro dela.

And she lets him do the final line of sutures.

Ela deixa-o fazer a linha final das suturas.

Kristen feels great.

Kristen sente-se ótima.

Patient’s going to be fine,

O paciente vai ficar bem

and no doubt she’s a better surgeon than she was at 6:30.

e, sem dúvida, ela é uma cirurgiã melhor do que era às seis e meia.

Now this is extreme work.

Isto é um trabalho radical,

But Kristin’s learning to do her job the way that most of us do:

mas Kristen está a aprender a trabalhar do modo que muitos de nós fazemos:

watching an expert for a bit,

observando um especialista por um tempo,

getting involved in easy, safe parts of the work

envolvendo-se em partes fáceis e seguras do trabalho

and progressing to riskier and harder tasks

e progredindo para tarefas mais arriscadas e difíceis

as they guide and decide she’s ready.

enquanto ele guia e decide se ela está preparada.

My whole life I’ve been fascinated by this kind of learning.

Toda a minha vida me senti fascinado por este tipo de aprendizagem.

It feels elemental, part of what makes us human.

Parece elementar, é uma parte do que nos torna humanos.

It has different names: apprenticeship, coaching, mentorship, on the job training.

Tem nomes diferentes: aprendizagem, treino e tutoria. formação profissional.

In surgery, it’s called “see one, do one, teach one.”

Na cirurgia, chama-se: “Vejam, façam, ensinem.”

But the process is the same,

Mas o processo é sempre o mesmo e tem sido o caminho principal

and it’s been the main path to skill around the globe for thousands of years.

para a competência em todo o mundo, há milhares de anos

Right now, we’re handling AI in a way that blocks that path.

Neste momento, estamos a lidar com a IA de um modo que bloqueia esse caminho.

We’re sacrificing learning in our quest for productivity.

Estamos a sacrificar a aprendizagem na busca da produtividade.

I found this first in surgery while I was at MIT,

A primeira vez que descobri isso na cirurgia, eu estava no MIT

but now I’ve got evidence it’s happening all over,

mas agora sei que está a acontecer em toda a parte,

in very different industries and with very different kinds of AI.

em indústrias muito diferentes e com tipos muito diferentes de IA.

If we do nothing, millions of us are going to hit a brick wall

Se não fizermos nada, milhões de nós vamos "bater contra uma parede de tijolos"

as we try to learn to deal with AI.

quando tentarmos aprender a lidar com a IA.

Let’s go back to surgery to see how.

Voltemos à cirurgia para perceber como é.

Fast forward six months.

Passaram-se seis meses.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

São seis e meia da manhã e Kristen está a levar outro paciente de próstata

but this time to the robotic OR.

mas, desta vez, para o bloco operatório de robótica.

The attending leads attaching

O cirurgião-chefe coordena a ligação

a four-armed, thousand-pound robot to the patient.

de um robô de quatro braços de 450 kg no paciente.

They both rip off their scrubs,

Ambos despem as batas,

head to control consoles 10 or 15 feet away,

dirigem-se às consolas de controlo a 3 ou 4 metros de distância,

and Kristen just watches.

e Kristen limita-se a observar.

The robot allows the attending to do the whole procedure himself,

O robô permite que o cirurgião-chefe faça todo o processo sozinho,

so he basically does.

por isso, é o que ele faz.

He knows she needs practice.

Ele sabe que ela precisa de praticar.

He wants to give her control.

Quer dar-lhe o controlo da operação.

But he also knows she’d be slower and make more mistakes,

Mas também sabe que ela seria mais lenta e pode cometer mais erros

and his patient comes first.

e o paciente está primeiro.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

Kristen não tem esperança de chegar perto dos nervos durante a operação.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

Terá sorte se operar mais de 15 minutos durante um processo de quatro horas.

And she knows that when she slips up,

Sabe que, se fizer algum erro,

he’ll tap a touch screen, and she’ll be watching again,

ele toca no ecrã e ela ficará a assistir de novo,

feeling like a kid in the corner with a dunce cap.

sentindo-se como uma criança ao canto, com orelhas de burro.

Like all the studies of robots and work I’ve done in the last eight years,

Como em todos os estudos de robôs que fiz nos últimos oito anos,

comecei este com uma grande pergunta aberta:

I started this one with a big, open question:

How do we learn to work with intelligent machines?

Como aprendemos a trabalhar com máquinas inteligentes?

To find out, I spent two and a half years observing dozens of residents and surgeons

Para descobrir isso, passei dois anos e meio

a observar dezenas de residentes e cirurgiões

doing traditional and robotic surgery, interviewing them

a fazer cirurgia tradicional e robótica, a entrevistá-los

and in general hanging out with the residents as they tried to learn.

e a conviver com os residentes enquanto eles tentavam aprender.

I covered 18 of the top US teaching hospitals,

Visitei 18 dos melhores hospitais-escolas dos EUA

and the story was the same.

e a história era sempre a mesma.

Most residents were in Kristen's shoes.

A maioria dos residentes estavam na mesma situação que Kristen.

They got to “see one” plenty,

Assistiam com grande frequência,

but the “do one” was barely available.

mas raramente faziam uma cirurgia.

So they couldn’t struggle, and they weren’t learning.

Assim, não podiam esforçar-se e não estavam a aprender.

This was important news for surgeons, but I needed to know how widespread it was:

Isto era importante para os cirurgiões, mas eu queria saber o quão difundido era:

Where else was using AI blocking learning on the job?

Onde é que a IA estava a bloquear a aprendizagem no trabalho?

To find out, I’ve connected with a small but growing group of young researchers

Para descobri-lo, juntei-me a um pequeno grupo de investigadores

who’ve done boots-on-the-ground studies of work involving AI

que tinham feito estudos no terreno de trabalho que envolvia IA,

in very diverse settings like start-ups, policing,

em ambientes muito diversos como "start-ups", policiamento,

investment banking and online education.

bancos de investimento e ensino "online".

Like me, they spent at least a year and many hundreds of hours observing,

Tal como eu, tinham passado pelo menos um ano

e muitas centenas de horas a observar,

interviewing and often working side-by-side with the people they studied.

a entrevistar e muitas vezes a trabalhar lado a lado com as pessoas que estudavam.

We shared data, and I looked for patterns.

Partilhámos dados e eu procurei padrões.

No matter the industry, the work, the AI, the story was the same.

Qualquer que fosse a indústria, o trabalho, a IA,

a história era sempre a mesma.

Organizations were trying harder and harder to get results from AI,

As organizações esforçavam-se cada vez mais para obter resultados da IA

and they were peeling learners away from expert work as they did it.

afastando os aprendizes do trabalho especializado, durante isso.

Start-up managers were outsourcing their customer contact.

Gestores de "start-ups" estavam a subcontratar o contacto com clientes.

Cops had to learn to deal with crime forecasts without experts support.

Os polícias tinham de aprender

a lidar com prognósticos de crimes sem o apoio de especialistas.

Junior bankers were getting cut out of complex analysis,

Banqueiros sem experiência estavam a ser afastados de análises complexas

and professors had to build online courses without help.

e professores tinham de criar cursos "online" sem ajuda.

And the effect of all of this was the same as in surgery.

O efeito de tudo isso foi o mesmo que na cirurgia.

Learning on the job was getting much harder.

Aprender no trabalho estava a ficar muito mais difícil.

This can’t last.

Isto não pode continuar.

McKinsey estimates that between half a billion and a billion of us

A McKinsey calcula que, entre 500 milhões e mil milhões de nós

are going to have to adapt to AI in our daily work by 2030.

vão ter de se adaptar à IA no nosso trabalho diário até 2030.

And we’re assuming that on-the-job learning

Estamos a assumir que a aprendizagem no trabalho

will be there for us as we try.

vai existir enquanto tentamos.

Accenture’s latest workers survey showed that most workers learned key skills

O mais recente estudo de trabalhadores, da Accenture,

mostrou que a maioria dos trabalhadores

on the job, not in formal training.

aprendeu competências-chave no trabalho, e não em treino formal.

So while we talk a lot about its potential future impact,

Então, enquanto falamos muito no seu futuro impacto potencial,

the aspect of AI that may matter most right now

o aspeto da IA que pode ser mais importante agora

is that we’re handling it in a way that blocks learning on the job

é que estamos a lidar com ela

de um modo que bloqueia a aprendizagem no trabalho

just when we need it most.

justamente quando é o que mais precisamos.

Now across all our sites, a small minority found a way to learn.

Em toda a parte, uma pequena minoria encontrou forma de aprender.

They did it by breaking and bending rules.

Fizeram-no, quebrando e torneando as regras.

Approved methods weren’t working, so they bent and broke rules

Os métodos aprovados não funcionavam e eles tornearam e quebraram as regras

to get hands-on practice with experts.

para obter experiência prática com especialistas.

In my setting, residents got involved in robotic surgery in medical school

No meu meio, os residentes envolveram-se em cirurgia robótica

na faculdade de medicina

at the expense of their generalist education.

à custa da sua educação generalista.

And they spent hundreds of extra hours with simulators and recordings of surgery,

Gastaram centenas de horas extras com simuladores e gravações de cirurgia,

when you were supposed to learn in the OR.

quando supostamente deviam aprender no bloco operatório.

And maybe most importantly, they found ways to struggle

Talvez o mais importante, encontraram forma de praticar

in live procedures with limited expert supervision.

em procedimentos ao vivo com supervisão especializada limitada.

I call all this “shadow learning,” because it bends the rules

Chamo a isto "aprendizagem na sombra" porque contorna as regras

and learner’s do it out of the limelight.

e o aluno faz isso às escondidas.

And everyone turns a blind eye because it gets results.

Toda a gente fecha os olhos porque obtêm-se resultados.

Remember, these are the star pupils of the bunch.

Lembrem-se, estes são os alunos estrelas do grupo.

Now, obviously, this is not OK, and it’s not sustainable.

Obviamente, isto não está certo, e não é sustentável.

No one should have to risk getting fired

Ninguém devia correr o risco de ser despedido

to learn the skills they need to do their job.

para aprender as competências de que precisam para o seu trabalho.

But we do need to learn from these people.

Mas precisamos de aprender com essas pessoas.

They took serious risks to learn.

Correram sérios riscos para aprender.

They understood they needed to protect struggle and challenge in their work

Perceberam que precisavam de proteger, de se esforçar e desafiar no seu trabalho

so that they could push themselves to tackle hard problems

para poderem melhorar e resolver problemas mais difíceis

right near the edge of their capacity.

muito perto do limiar das suas capacidades.

They also made sure there was an expert nearby

Também se certificaram de que havia um especialista por perto

to offer pointers and to backstop against catastrophe.

para lhes oferecer conselhos e impedir catástrofes.

Let’s build this combination of struggle and expert support

Criemos essa combinação de esforço e apoio de especialistas

into each AI implementation.

na implementação da IA.

Here’s one clear example I could get of this on the ground.

Este é um exemplo claro que obtive no terreno.

Before robots,

Antes dos robôs, um técnico de neutralização de bombas

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

lidava com uma bomba caseira, aproximando-se dela.

A junior officer was hundreds of feet away,

Um oficial menos graduado, a dezenas de metros de distância,

so could only watch and help if you decided it was safe

só podia observar e ajudar se o técnico decidisse que era seguro

and invited them downrange.

e o chamasse para o local.

Now you sit side-by-side in a bomb-proof truck.

Hoje, estão sentados lado a lado num camião à prova de explosões.

You both watched the video feed.

Os dois assistem à transmissão do vídeo.

They control a distant robot, and you guide the work out loud.

Controlam um robô distante e o técnico guia o trabalho em voz alta.

Trainees learn better than they did before robots.

Os militares em formação aprendem melhor do que antes dos robôs.

We can scale this to surgery, start-ups, policing,

Podemos fazer o mesmo na cirurgia, nas "start-ups", no policiamento,

investment banking, online education and beyond.

nos bancos de investimento, no ensino "online" e não só.

The good news is we’ve got new tools to do it.

Felizmente, temos novas ferramentas para fazer isso.

The internet and the cloud mean we don’t always need one expert for every trainee,

A Internet e a nuvem significam que nem sempre

precisamos de um especialista para cada formando,

for them to be physically near each other or even to be in the same organization.

não têm de estar fisicamente próximos uns dos outros

nem sequer de estarem na mesma organização.

And we can build AI to help:

Podemos desenvolver a IA para ajudar:

to coach learners as they struggle, to coach experts as they coach

para treinar os formandos

enquanto eles se esforçam, para treinar especialistas enquanto ensinam

and to connect those two groups in smart ways.

e ligar esses dois grupos de forma inteligente.

There are people at work on systems like this,

Há pessoas a trabalhar em sistemas como este,

but they’ve been mostly focused on formal training.

mas têm-se concentrado principalmente em treino formal.

And the deeper crisis is in on-the-job learning.

A crise mais profunda está na aprendizagem no trabalho.

We must do better.

Precisamos de fazer melhor.

Today’s problems demand we do better

Os problemas de hoje exigem que façamos melhor

to create work that takes full advantage of AI’s amazing capabilities

para criar um trabalho que aproveite ao máximo as capacidades incríveis da IA

while enhancing our skills as we do it.

enquanto aumentamos as nossas aptidões enquanto fazemos.

That’s the kind of future I dreamed of as a kid.

Este é o tipo de futuro com que eu sonhei quando miúdo.

And the time to create it is now.

E a hora de criá-lo é agora.

Thank you.

Obrigado.

(Applause)

(Aplausos)