How do we learn to work with intelligent machines? | Matt Beane

Traductor: Marlén Scholand Cámara Revisor: Lidia Cámara de la Fuente

It’s 6:30 in the morning,

Son las 6:30 de la mañana,

and Kristen is wheeling her prostate patient into the OR.

y Kristen está llevando a su paciente de próstata al quirófano.

She's a resident, a surgeon in training.

Es médico residente, una cirujana en formación.

It’s her job to learn.

Su trabajo es aprender.

Today, she’s really hoping to do some of the nerve-sparing,

Hoy, ella realmente espera hacer una cirugía que preserve los nervios,

extremely delicate dissection that can preserve erectile function.

una disección extremadamente delicada que puede preservar la función eréctil.

That'll be up to the attending surgeon, though, but he's not there yet.

Sin embargo, eso dependerá del cirujano asistente, pero todavía no está allí.

She and the team put the patient under,

Ella y el equipo pusieron al paciente debajo,

and she leads the initial eight-inch incision in the lower abdomen.

y ella dirige la incisión inicial de 20 cm en la parte inferior del abdomen.

Once she’s got that clamped back, she tells the nurse to call the attending.

Una vez que lo tiene asegurado, dice a la enfermera que llame al asistente.

He arrives, gowns up,

Él llega, se viste,

And from there on in, their four hands are mostly in that patient --

Y de ahí en adelante, cuatro manos están mayormente en ese paciente.

with him guiding but Kristin leading the way.

Con él guiando, pero Kristin liderando el camino.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

Una vez está la próstata fuera

—y, sí, él permitió que Kristen preservara los nervios—

he rips off his scrubs.

él se arranca el uniforme.

He starts to do paperwork.

Comienza a hacer el papeleo.

Kristen closes the patient by 8:15,

Kristen cierra al paciente a las 8:15,

with a junior resident looking over her shoulder.

con un residente junior mirando por encima del hombro.

And she lets him do the final line of sutures.

Y ella le permite llevar a cabo la última línea de suturas.

Kristen feels great.

Kristen se siente muy bien.

Patient’s going to be fine,

El paciente va a estar bien,

and no doubt she’s a better surgeon than she was at 6:30.

y no hay duda de que es mejor cirujana que a las 6:30.

Now this is extreme work.

Este es un trabajo extremo.

But Kristin’s learning to do her job the way that most of us do:

Pero Kristin aprende a hacer su trabajo como lo hacemos la mayoría de nosotros:

watching an expert for a bit,

observando a un experto un rato,

getting involved in easy, safe parts of the work

Involucrarse en partes fáciles y seguras del trabajo.

and progressing to riskier and harder tasks

y progresando hacia tareas más riesgosas y difíciles.

as they guide and decide she’s ready.

hasta que los guías deciden que ella está preparada.

My whole life I’ve been fascinated by this kind of learning.

Toda mi vida me ha fascinado este tipo de aprendizaje.

It feels elemental, part of what makes us human.

Parece elemental, parte de lo que nos hace humanos.

It has different names: apprenticeship, coaching, mentorship, on the job training.

Tiene diferentes nombres: aprendizaje, entrenamiento, tutoría, capacitación.

In surgery, it’s called “see one, do one, teach one.”

En cirugía, se llama "ver uno, hacer uno, enseñar uno".

Pero el proceso es el mismo, y ha sido el camino principal

But the process is the same,

and it’s been the main path to skill around the globe for thousands of years.

hacia las habilidades en todo el mundo durante miles de años.

Right now, we’re handling AI in a way that blocks that path.

Ahora utilizamos la IA de manera que bloquea ese camino.

Estamos sacrificando el aprendizaje en nuestra búsqueda de productividad.

We’re sacrificing learning in our quest for productivity.

Encontré esto por primera vez en cirugía mientras estaba en el MIT,

I found this first in surgery while I was at MIT,

pero ahora tengo pruebas de que está sucediendo en todo,

but now I’ve got evidence it’s happening all over,

in very different industries and with very different kinds of AI.

en industrias muy diferentes y con diferentes tipos de IA.

If we do nothing, millions of us are going to hit a brick wall

Si no hacemos nada, millones nos daremos de frente contra una pared de ladrillos

as we try to learn to deal with AI.

al intentar aprender a lidiar con la IA.

Let’s go back to surgery to see how.

Volvamos a la cirugía para ver cómo.

Fast forward six months.

Hago un avance rápido de seis meses.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

Son las 6:30 am otra vez, y Kristen está llevando a otro paciente de próstata,

but this time to the robotic OR.

Pero esta vez a la sala de operaciones robótica.

The attending leads attaching

El asistente trae

a four-armed, thousand-pound robot to the patient.

un robot de cuatro brazos y 500 kg para el paciente.

They both rip off their scrubs,

Ambos se arrancan las batas,

head to control consoles 10 or 15 feet away,

se dirigen a las consolas de control a 3 o 4 me de distancia,

and Kristen just watches.

y Kristen solo mira.

The robot allows the attending to do the whole procedure himself,

El robot permite al asistente realizar todo el procedimiento solo,

so he basically does.

así que básicamente lo hace.

He knows she needs practice.

Él sabe que ella necesita práctica.

He wants to give her control.

Él quiere darle el control.

But he also knows she’d be slower and make more mistakes,

Pero también sabe que ella sería más lenta y cometería más errores

and his patient comes first.

y su paciente es lo primero.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

Así Kristin no tiene esperanza de acercarse a los nervios en esta operación.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

Tendrá suerte si opera más de 15 minutos durante un procedimiento de cuatro horas.

And she knows that when she slips up,

Y ella sabe que cuando ella resbala,

he’ll tap a touch screen, and she’ll be watching again,

él tocará una pantalla táctil, y ella estará mirando otra vez,

feeling like a kid in the corner with a dunce cap.

sintiéndome como un niño en la esquina con un gorro de burro.

Como todos los estudios de robots y trabajos que he realizado

Like all the studies of robots and work I’ve done in the last eight years,

en los últimos 8 años, lo comencé con una gran pregunta abierta:

I started this one with a big, open question:

How do we learn to work with intelligent machines?

¿Cómo aprendemos a trabajar con máquinas inteligentes?

To find out, I spent two and a half years observing dozens of residents and surgeons

Para averiguarlo, pasé 2.5 años

observando a docenas de residentes y cirujanos.

doing traditional and robotic surgery, interviewing them

Haciendo cirugía tradicional y robótica, entrevistándolos

and in general hanging out with the residents as they tried to learn.

y saliendo con los residentes mientras intentaban aprender.

I covered 18 of the top US teaching hospitals,

Cubrí 18 de los mejores hospitales universitarios de EE. UU.

and the story was the same.

Y la historia era la misma.

Most residents were in Kristen's shoes.

La mayoría de los residentes estaban en la situación de Kristen.

They got to “see one” plenty,

Llegaron a "ver uno" mucho,

but the “do one” was barely available.

pero el "hacer uno" apenas estaba disponible.

So they couldn’t struggle, and they weren’t learning.

Así que no pudieron luchar, y no estaban aprendiendo.

This was important news for surgeons, but I needed to know how widespread it was:

Esta era importante para los cirujanos, pero quería saber lo extendido estaba:

Where else was using AI blocking learning on the job?

¿Dónde más se usaba la AI bloqueando el aprendizaje en el trabajo?

To find out, I’ve connected with a small but growing group of young researchers

Para averiguarlo, conecté con grupo de jóvenes investigadores

who’ve done boots-on-the-ground studies of work involving AI

un pequeño pero creciente que hecho estudios sobre el trabajo con AI

en entornos muy diversos como empresas de nueva creación, de vigilancia,

in very diverse settings like start-ups, policing,

investment banking and online education.

de banca de inversión y educación en línea.

Like me, they spent at least a year and many hundreds of hours observing,

Como yo, pasaron al menos un año y muchos cientos de horas observando,

interviewing and often working side-by-side with the people they studied.

entrevistando y, a menudo, trabajando con las personas que estudiaron,

We shared data, and I looked for patterns.

compartimos datos, y busqué patrones.

No matter the industry, the work, the AI, the story was the same.

No importa la industria, el trabajo, la IA, la historia era la misma.

Organizations were trying harder and harder to get results from AI,

Las organizaciones se esforzaban cada vez más para obtener resultados de AI,

and they were peeling learners away from expert work as they did it.

relegando a los aprendices del trabajo experto que solían hacer.

Start-up managers were outsourcing their customer contact.

Los gerentes de empresas subcontraban a sus clientes.

Cops had to learn to deal with crime forecasts without experts support.

Los policías tenían que aprender

a lidiar con pronósticos de delitos sin apoyo de expertos.

Junior bankers were getting cut out of complex analysis,

Los banqueros jóvenes estaban siendo eliminados de un análisis complejo,

and professors had to build online courses without help.

y los profesores tenían que montar cursos en línea sin ayuda.

And the effect of all of this was the same as in surgery.

Y el efecto de todo esto fue el mismo que en la cirugía.

Learning on the job was getting much harder.

Aprender en el trabajo era cada vez más difícil.

This can’t last.

Esto no puede seguir así.

McKinsey estimates that between half a billion and a billion of us

McKinsey estima que entre 500 y 1000 millones de nosotros

are going to have to adapt to AI in our daily work by 2030.

tendremos que adaptarnos a la IA en nuestro trabajo diario para el 2030.

Y estamos asumiendo que el aprendizaje en el trabajo

And we’re assuming that on-the-job learning

will be there for us as we try.

será posible ahí para nosotros si lo intentamos.

Accenture’s latest workers survey showed that most workers learned key skills

La última encuesta de Accenture mostró que la mayoría de los trabajadores aprendieron

on the job, not in formal training.

habilidades clave en el trabajo, no en entrenamiento formal.

So while we talk a lot about its potential future impact,

Así que mientras hablamos mucho sobre su posible impacto futuro,

the aspect of AI that may matter most right now

el aspecto de la IA que puede importar más en este momento

is that we’re handling it in a way that blocks learning on the job

es que lo manejamos de una manera que bloquea el aprendizaje en el trabajo

just when we need it most.

justo cuando más lo necesitamos.

Now across all our sites, a small minority found a way to learn.

En todos nuestros sitios, una pequeña minoría encontró una manera de aprender.

They did it by breaking and bending rules.

Lo hicieron rompiendo y doblegando las reglas.

Approved methods weren’t working, so they bent and broke rules

Los métodos aprobados no funcionaban, por lo que rompieron las reglas

to get hands-on practice with experts.

para obtener prácticas de verdad con expertos.

In my setting, residents got involved in robotic surgery in medical school

En mi entorno, los residentes se involucraron en cirugía robótica

at the expense of their generalist education.

en la escuela de medicina a expensas de su educación generalista.

And they spent hundreds of extra hours with simulators and recordings of surgery,

Y pasaron cientos de horas extra con simuladores y grabaciones de cirugía,

when you were supposed to learn in the OR.

cuando se suponía que iban a aprender en el quirófano.

And maybe most importantly, they found ways to struggle

Y tal vez lo más importante, encontraron formas de luchar

in live procedures with limited expert supervision.

en procedimientos en vivo con supervisión limitada de expertos.

I call all this “shadow learning,” because it bends the rules

A todo esto lo llamo "aprendizaje en la sombra", porque dobla las reglas

and learner’s do it out of the limelight.

y el alumno lo hace fuera de la luz pública.

And everyone turns a blind eye because it gets results.

Y todos hacen la vista gorda porque obtiene resultados.

Remember, these are the star pupils of the bunch.

Recuerda, estos son los alumnos estrella del grupo.

Now, obviously, this is not OK, and it’s not sustainable.

Obviamente, esto no está bien, y no es sostenible.

No one should have to risk getting fired

Nadie debería correr el riesgo de ser despedido

to learn the skills they need to do their job.

por aprender las habilidades necesarias para hacer su trabajo.

But we do need to learn from these people.

Pero necesitamos aprender de estas personas.

They took serious risks to learn.

Tomaron serios riesgos para aprender.

They understood they needed to protect struggle and challenge in their work

Entendieron que debían proteger la lucha y el desafío en su trabajo

so that they could push themselves to tackle hard problems

para poder esforzarse y enfrentar problemas difíciles

right near the edge of their capacity.

justo al borde de su capacidad.

They also made sure there was an expert nearby

También se aseguraron de que hubiera un experto cerca

to offer pointers and to backstop against catastrophe.

que ofreciera consejos y apoyo contra la catástrofe.

Let’s build this combination of struggle and expert support

Construyamos esta combinación de lucha y apoyo experto

into each AI implementation.

en cada implementación de AI.

Here’s one clear example I could get of this on the ground.

Aquí hay un claro ejemplo de que podría obtener de esto en el suelo.

Before robots,

Antes de los robots,

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

si uno era un neutralizador de bombas, lidiaba con un IED caminando hacia él.

Un oficial subalterno estaba a cientos de metros de distancia,

A junior officer was hundreds of feet away,

so could only watch and help if you decided it was safe

Así que solo podía ver y ayudar si decidía que era seguro

and invited them downrange.

y los guiaba en la actuación.

Now you sit side-by-side in a bomb-proof truck.

Ahora se sienta uno al lado del otro en un camión a prueba de bombas.

You both watched the video feed.

Ambos ven el video.

They control a distant robot, and you guide the work out loud.

Ellos controlan un robot distante, y uno guía el trabajo en voz alta.

Trainees learn better than they did before robots.

Los alumnos aprenden mejor que antes que existieran robots.

We can scale this to surgery, start-ups, policing,

Podemos escalar esto a cirugías, empresas nuevas, vigilancia,

investment banking, online education and beyond.

banca de inversión, educación en línea, etc.

La buena noticia es que tenemos nuevas herramientas para hacerlo.

The good news is we’ve got new tools to do it.

Internet y la nube significan que no es siempre necesario un experto por aprendiz,

The internet and the cloud mean we don’t always need one expert for every trainee,

for them to be physically near each other or even to be in the same organization.

no tienen que estar físicamente uno cerca del otro

incluso siendo de la misma organización.

And we can build AI to help:

Y podemos construir AI para ayudar a:

to coach learners as they struggle, to coach experts as they coach

entrenar a aprendices y entrenar a expertos como expertos.

and to connect those two groups in smart ways.

Y para conectar esos dos grupos de manera inteligente.

There are people at work on systems like this,

Hay gente trabajando en sistemas como este,

but they’ve been mostly focused on formal training.

pero se han centrado principalmente en la formación formal.

Y la crisis más profunda está en el aprendizaje en el trabajo.

And the deeper crisis is in on-the-job learning.

We must do better.

Debemos hacerlo mejor.

Today’s problems demand we do better

Los problemas de hoy exigen que lo hagamos mejor.

to create work that takes full advantage of AI’s amazing capabilities

para crear un trabajo que aproveche al máximo las increíbles capacidades de AI

while enhancing our skills as we do it.

mientras mejoramos nuestras habilidades al hacerlo.

That’s the kind of future I dreamed of as a kid.

Ese es el tipo de futuro que soñé de niño.

And the time to create it is now.

Y el momento de crearlo es ahora.

Thank you.

Gracias.

(Applause)

(Aplausos)