How do we learn to work with intelligent machines? | Matt Beane

Tradutor: Andrea Pilenso Siqueira Revisor: Maricene Crus

It’s 6:30 in the morning,

São 6:30 da manhã,

and Kristen is wheeling her prostate patient into the OR.

e Kristen está levando seu paciente prostático para a sala de cirurgia.

She's a resident, a surgeon in training.

Ela é médica residente, uma cirurgiã em treinamento.

It’s her job to learn.

O trabalho dela é aprender.

Today, she’s really hoping to do some of the nerve-sparing,

Hoje ela está ansiosa para fazer uma cirurgia que preserva os nervos,

extremely delicate dissection that can preserve erectile function.

uma dissecção extremamente delicada que pode preservar as funções eréteis.

That'll be up to the attending surgeon, though, but he's not there yet.

Isso ficará a cargo do cirurgião, no entanto ele ainda não chegou.

She and the team put the patient under,

Ela e a equipe anestesiam o paciente,

and she leads the initial eight-inch incision in the lower abdomen.

e ela conduz a incisão inicial de 20 cm no baixo ventre.

Once she’s got that clamped back, she tells the nurse to call the attending.

Assim que o corte está pinçado, ela pede à enfermeira para chamar o cirurgião.

He arrives, gowns up,

Ele chega, coloca o traje,

And from there on in, their four hands are mostly in that patient --

e a partir daí, as quatro mãos estão naquele paciente,

with him guiding but Kristin leading the way.

ele orientando, mas Kristen mostrando o caminho.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

Quando a próstata está fora,

e sim, ele deixou que a Kristen preservasse o nervo,

he rips off his scrubs.

ele arranca o traje e começa a preencher a papelada.

He starts to do paperwork.

Kristen closes the patient by 8:15,

A Kristen fecha o paciente às 8:15,

with a junior resident looking over her shoulder.

com um residente júnior espiando atrás de seu ombro.

And she lets him do the final line of sutures.

E ela deixa que ele finalize as suturas.

Kristen feels great.

Ela se sente ótima.

Patient’s going to be fine,

O paciente ficará bem, e sem dúvida ela é uma cirurgiã melhor do que era às 6:30.

and no doubt she’s a better surgeon than she was at 6:30.

Now this is extreme work.

Bem, esse é um exemplo extremo.

But Kristin’s learning to do her job the way that most of us do:

Mas a Kristen está aprendendo a fazer seu trabalho

da forma que a maioria de nós aprende: observando um perito por um tempo,

watching an expert for a bit,

getting involved in easy, safe parts of the work

envolvendo-se nas partes fáceis e seguras do trabalho

and progressing to riskier and harder tasks

e evoluindo para tarefas mais arriscadas e difíceis

as they guide and decide she’s ready.

enquanto a orientam, até que decidam que ela está pronta.

My whole life I’ve been fascinated by this kind of learning.

Por toda a minha vida, esse tipo de aprendizado tem me fascinado.

It feels elemental, part of what makes us human.

Parece natural, parte do que nos faz humanos.

It has different names: apprenticeship, coaching, mentorship, on the job training.

Tem diferentes nomes: estágio, coaching, mentoria, treinamento na prática...

In surgery, it’s called “see one, do one, teach one.”

Na cirurgia, chamamos de "veja uma, faça uma, ensine uma".

But the process is the same,

Mas o processo é igual, e tem sido o principal caminho para a habilidade

and it’s been the main path to skill around the globe for thousands of years.

através do mundo durante milhares de anos.

Right now, we’re handling AI in a way that blocks that path.

No momento, estamos lidando com a IA de uma forma que bloqueia esse caminho.

We’re sacrificing learning in our quest for productivity.

Estamos sacrificando o aprendizado em nossa busca por produtividade.

I found this first in surgery while I was at MIT,

Descobri isso a primeira vez na cirurgia quando eu estava no MIT,

but now I’ve got evidence it’s happening all over,

mas agora há evidências de que está ocorrendo por toda a parte,

in very different industries and with very different kinds of AI.

em muitas atividades diferentes e com diversos tipos de IA.

If we do nothing, millions of us are going to hit a brick wall

Se não fizermos nada a respeito disso,

milhões de nós vamos bater contra um muro

as we try to learn to deal with AI.

enquanto tentamos aprender como lidar com a IA.

Let’s go back to surgery to see how.

Vamos voltar para a cirurgia para entender como.

Fast forward six months.

Vamos avançar seis meses.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

São 6:30 de novo, e a Kristen está levando outro paciente prostático,

but this time to the robotic OR.

mas desta vez para uma sala de cirurgia robótica.

The attending leads attaching

O cirurgião conduz o procedimento, fixando um robô de quatro braços

a four-armed, thousand-pound robot to the patient.

e 450 kg no paciente.

They both rip off their scrubs,

Ambos tiram os trajes e vão até o painel de controle a quatro metros de distância,

head to control consoles 10 or 15 feet away,

e a Kristen apenas observa.

and Kristen just watches.

The robot allows the attending to do the whole procedure himself,

O robô permite que o cirurgião faça todo o procedimento sozinho, e é o que ele faz.

so he basically does.

He knows she needs practice.

Ele sabe que ela precisa de prática.

He wants to give her control.

Ele quer dar o controle a ela.

But he also knows she’d be slower and make more mistakes,

Mas ele também sabe que ela será mais lenta,

e cometerá mais erros, e o paciente vem em primeiro lugar.

and his patient comes first.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

Kristen não tem esperança de chegar perto daqueles nervos durante esse turno.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

Terá sorte se operar mais que 15 minutos durante um procedimento de quatro horas.

E ela sabe que quando cometer um erro,

And she knows that when she slips up,

he’ll tap a touch screen, and she’ll be watching again,

ele irá tocar numa tela e ela estará assistindo novamente,

feeling like a kid in the corner with a dunce cap.

se sentindo como uma criança no canto da sala com orelhas de burro.

Like all the studies of robots and work I’ve done in the last eight years,

Como todos os estudos sobre robôs e trabalhos que fiz em oito anos,

este começou com uma grande questão em aberto:

I started this one with a big, open question:

How do we learn to work with intelligent machines?

"Como aprendemos a trabalhar com máquinas inteligentes?"

To find out, I spent two and a half years observing dozens of residents and surgeons

Para descobrir, passei dois anos e meio observando vários residentes e cirurgiões

doing traditional and robotic surgery, interviewing them

em cirurgias tradicionais e robóticas, entrevistando-os e, de modo geral,

and in general hanging out with the residents as they tried to learn.

passando o tempo com os residentes enquanto eles tentavam aprender.

I covered 18 of the top US teaching hospitals,

Cobri 18 dos principais hospitais universitários, e a história era a mesma.

and the story was the same.

Most residents were in Kristen's shoes.

A maioria dos residentes estava na mesma situação da Kristen.

They got to “see one” plenty,

Eles tinham bastante da parte "veja uma",

but the “do one” was barely available.

mas a "faça uma" quase não estava disponível.

So they couldn’t struggle, and they weren’t learning.

Eles não encaravam as dificuldades, e não estavam aprendendo.

This was important news for surgeons, but I needed to know how widespread it was:

Isso era importante para os cirurgiões, mas eu precisava saber o real alcance.

Where else was using AI blocking learning on the job?

Onde mais estavam usando IA impedindo o aprendizado no trabalho?

To find out, I’ve connected with a small but growing group of young researchers

Para saber, contatei um grupo pequeno mas crescente de jovens pesquisadores

who’ve done boots-on-the-ground studies of work involving AI

que haviam feito estudos de campo sobre o trabalho envolvendo IA

in very diverse settings like start-ups, policing,

em vários contextos como startups, policiamento,

investment banking and online education.

bancos de investimento e educação à distância.

Like me, they spent at least a year and many hundreds of hours observing,

Como eu, eles passaram ao menos um ano e centenas de horas observando,

interviewing and often working side-by-side with the people they studied.

entrevistando e muitas vezes trabalhando lado a lado com as pessoas estudadas.

We shared data, and I looked for patterns.

Trocamos dados, e procurei por padrões.

No matter the industry, the work, the AI, the story was the same.

Não importa a atividade, o trabalho, a IA, a história era a mesma.

Organizations were trying harder and harder to get results from AI,

As organizações estavam tentando cada vez mais obter resultados com a IA,

and they were peeling learners away from expert work as they did it.

e estavam afastando os aprendizes do trabalho especializado nesse processo.

Start-up managers were outsourcing their customer contact.

Gestores de startups estavam terceirizando o contato com o consumidor.

Cops had to learn to deal with crime forecasts without experts support.

Policiais precisavam aprender a lidar com prognósticos de crimes

sem o apoio de especialistas.

Junior bankers were getting cut out of complex analysis,

Jovens banqueiros estavam sendo cortados de análises complexas,

and professors had to build online courses without help.

e professores precisavam criar cursos online sem ajuda.

And the effect of all of this was the same as in surgery.

E os efeitos de tudo isso eram os mesmos da cirurgia.

Learning on the job was getting much harder.

Aprender no trabalho estava cada vez mais difícil.

This can’t last.

Isso não pode durar.

McKinsey estimates that between half a billion and a billion of us

A McKinsey estima que entre 500 mil e 1 bilhão de pessoas

are going to have to adapt to AI in our daily work by 2030.

terão que se adaptar à IA no trabalho de rotina até 2030.

And we’re assuming that on-the-job learning

E supomos que o aprendizado na prática estará disponível enquanto tentamos.

will be there for us as we try.

Accenture’s latest workers survey showed that most workers learned key skills

A pesquisa mais recente com funcionários da Accenture mostrou que a maioria

aprende habilidades essenciais no trabalho, não em treinamentos formais.

on the job, not in formal training.

So while we talk a lot about its potential future impact,

Portanto enquanto falamos bastante sobre os potenciais impactos futuros,

the aspect of AI that may matter most right now

o aspecto da IA que mais importa neste momento

is that we’re handling it in a way that blocks learning on the job

é que estamos lidando com ela de uma forma que bloqueia o aprendizado no trabalho

just when we need it most.

justo quando mais precisamos disso.

Now across all our sites, a small minority found a way to learn.

Por todos os lugares, uma pequena minoria encontrou uma forma de aprender.

They did it by breaking and bending rules.

Eles fizeram isso quebrando e contornando regras.

Approved methods weren’t working, so they bent and broke rules

Os métodos aprovados não estavam funcionando.

Então eles contornaram e quebraram as regras

to get hands-on practice with experts.

para colocar a mão na massa com os especialistas.

In my setting, residents got involved in robotic surgery in medical school

No meu caso, os residentes se envolveram em cirurgia robótica

na faculdade de medicina, comprometendo a formação generalista.

at the expense of their generalist education.

And they spent hundreds of extra hours with simulators and recordings of surgery,

E gastaram centenas de horas extras com simuladores e gravações de cirurgias,

when you were supposed to learn in the OR.

enquanto supostamente devemos aprender na sala de cirurgia.

And maybe most importantly, they found ways to struggle

E talvez o mais importante, eles acharam um jeito de enfrentar as dificuldades

in live procedures with limited expert supervision.

de cirurgias reais com supervisão limitada de especialistas.

I call all this “shadow learning,” because it bends the rules

Chamo tudo isso de "educação nas sombras",

porque contorna as regras e o aluno aprende fora dos holofotes.

and learner’s do it out of the limelight.

And everyone turns a blind eye because it gets results.

E todo mundo finge que não vê porque traz resultados.

Remember, these are the star pupils of the bunch.

Lembrem, estamos falando dos melhores alunos do grupo.

Now, obviously, this is not OK, and it’s not sustainable.

Agora, obviamente, isso não é certo e não é sustentável.

No one should have to risk getting fired

Ninguém deveria se arriscar a perder o emprego

to learn the skills they need to do their job.

para aprender as habilidades que precisa em seu trabalho.

But we do need to learn from these people.

Mas precisamos aprender com essas pessoas.

They took serious risks to learn.

Elas correm sérios riscos para aprender.

They understood they needed to protect struggle and challenge in their work

Entenderam que precisam defender as batalhas e desafios no trabalho,

so that they could push themselves to tackle hard problems

para que possam se forçar a enfrentar problemas difíceis,

right near the edge of their capacity.

próximos ao limite de suas capacidades.

They also made sure there was an expert nearby

Elas se certificam de ter um especialista por perto,

to offer pointers and to backstop against catastrophe.

para dar conselhos e atuar como uma barreira contra catástrofes.

Let’s build this combination of struggle and expert support

Vamos criar essa combinação de dificuldades e apoio especializado

into each AI implementation.

em cada implementação de IA.

Here’s one clear example I could get of this on the ground.

Tenho aqui um exemplo claro que consegui em campo.

Before robots,

Antes dos robôs, se você fosse um técnico de desativação de bombas,

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

lidaria com bombas caseiras de perto.

A junior officer was hundreds of feet away,

Um oficial subalterno estaria a centenas de metros de distância,

so could only watch and help if you decided it was safe

e poderia apenas observar e ajudar

and invited them downrange.

se você decidisse que era seguro e o chamasse ao local.

Now you sit side-by-side in a bomb-proof truck.

Agora, vocês se sentam lado a lado em um caminhão à prova de bombas.

You both watched the video feed.

Ambos assistem ao vídeo, controlam um robô à distância

They control a distant robot, and you guide the work out loud.

e você orienta o trabalho em voz alta.

Trainees learn better than they did before robots.

Os treinandos aprendem melhor do que faziam antes dos robôs.

We can scale this to surgery, start-ups, policing,

Podemos ampliar isso para cirurgia, startups, policiamento,

investment banking, online education and beyond.

bancos de investimento, educação à distância e além.

The good news is we’ve got new tools to do it.

A boa notícia é que temos novas ferramentas para isso.

The internet and the cloud mean we don’t always need one expert for every trainee,

A internet e a nuvem significam que não precisamos

de um especialista para cada treinando, que eles estejam fisicamente próximos

for them to be physically near each other or even to be in the same organization.

ou até que estejam na mesma organização.

And we can build AI to help:

E podemos criar IA para ajudar a treinar estudantes em seus esforços,

to coach learners as they struggle, to coach experts as they coach

para treinar especialistas enquanto treinam

and to connect those two groups in smart ways.

e para conectar esses dois grupos de formas inteligentes.

There are people at work on systems like this,

Existem pessoas no trabalho em sistemas assim,

but they’ve been mostly focused on formal training.

mas geralmente estão concentradas em treinamento formal.

And the deeper crisis is in on-the-job learning.

E a crise mais grave está no treinamento na prática.

We must do better.

Precisamos fazer melhor.

Today’s problems demand we do better

Os problemas atuais requerem que façamos melhor para criar um trabalho

to create work that takes full advantage of AI’s amazing capabilities

que aproveite ao máximo todas as possibilidades incríveis da IA,

ao mesmo tempo em que melhora as nossas habilidades.

while enhancing our skills as we do it.

That’s the kind of future I dreamed of as a kid.

Esse é o tipo de futuro que eu sonhava quando era criança.

And the time to create it is now.

E o tempo de criá-lo é agora.

Thank you.

Obrigado.

(Applause)

(Aplausos)