How do we learn to work with intelligent machines? | Matt Beane

Переводчик: Iryna Abramidze Редактор: Olga Mansurova

It’s 6:30 in the morning,

Сейчас 6:30 утра,

and Kristen is wheeling her prostate patient into the OR.

и Кристен везёт в операционную пациента, у которого проблемы с простатой.

She's a resident, a surgeon in training.

Она врач-ординатор, хирург на практике.

It’s her job to learn.

Её работа — учиться.

Today, she’s really hoping to do some of the nerve-sparing,

Сегодня она рассчитывает провести нервосберегающую,

extremely delicate dissection that can preserve erectile function.

крайне деликатную диссекцию, которая позволит сохранить эректильную функцию.

That'll be up to the attending surgeon, though, but he's not there yet.

Это будет зависеть от наблюдающего пациента хирурга, но его ещё нет на месте.

She and the team put the patient under,

Она с командой вводит пациента в наркоз,

and she leads the initial eight-inch incision in the lower abdomen.

и она делает первый надрез в 20 сантиметров в нижней части живота.

Наложив зажимы, она просит медсестру позвать лечащего врача-хирурга.

Once she’s got that clamped back, she tells the nurse to call the attending.

He arrives, gowns up,

Он приходит, переодевается,

And from there on in, their four hands are mostly in that patient --

и с этого момента они работают над пациентом в четыре руки —

with him guiding but Kristin leading the way.

он даёт указания, а Кристен им следует.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

После извлечения простаты — Кристен дают провести нервосберегающую операцию, —

he rips off his scrubs.

он снимает хирургический костюм

He starts to do paperwork.

и приступает к бумажной работе.

Kristen closes the patient by 8:15,

Кристен зашивает пациента в 8:15,

with a junior resident looking over her shoulder.

младший ординатор заглядывает ей через плечо.

And she lets him do the final line of sutures.

Она позволяет ему наложить последнюю линию швов.

Kristen feels great.

Кристен отлично себя чувствует.

Patient’s going to be fine,

Пациент пойдёт на поправку,

and no doubt she’s a better surgeon than she was at 6:30.

и нет сомнений, что сейчас она более опытный хирург, чем была в 6:30.

Now this is extreme work.

Это работа в экстремальных условиях.

But Kristin’s learning to do her job the way that most of us do:

Но Кристен учится работать так же, как это делает большинство из нас:

watching an expert for a bit,

наблюдает за работой эксперта,

getting involved in easy, safe parts of the work

подключается к работе на лёгких и безопасных этапах

and progressing to riskier and harder tasks

и растёт, чтобы приступить к более сложным задачам,

as they guide and decide she’s ready.

когда эксперты решат, что она готова.

Всю жизнь меня очень интересовал такой способ обучения.

My whole life I’ve been fascinated by this kind of learning.

It feels elemental, part of what makes us human.

Он кажется чем-то само собой разумеющимся, свойственным людям.

It has different names: apprenticeship, coaching, mentorship, on the job training.

Ученичество, коучинг, наставничество, обучение на рабочем месте.

In surgery, it’s called “see one, do one, teach one.”

В хирургии это называется «наблюдай, выполняй, обучай».

But the process is the same,

Но сам процесс всё тот же,

and it’s been the main path to skill around the globe for thousands of years.

и тысячи лет это был во всём мире главный путь к мастерству.

Right now, we’re handling AI in a way that blocks that path.

Сейчас появился ИИ, и этот способ больше не действует.

We’re sacrificing learning in our quest for productivity.

Мы принесли обучение в жертву продуктивности.

I found this first in surgery while I was at MIT,

Впервые я столкнулся с этим в хирургии, когда учился в МТИ,

but now I’ve got evidence it’s happening all over,

но есть свидетельства, что это происходит повсюду

in very different industries and with very different kinds of AI.

в разных сферах и с разными типами ИИ.

If we do nothing, millions of us are going to hit a brick wall

Если мы ничего не сделаем, миллионы людей столкнутся с непреодолимыми трудностями,

as we try to learn to deal with AI.

пытаясь научиться управляться с ИИ.

Посмотрим, как это происходит в хирургии.

Let’s go back to surgery to see how.

Fast forward six months.

Прошло шесть месяцев.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

Снова 6:30 утра, и Кристен везёт нового пациента с простатой,

but this time to the robotic OR.

но в этот раз на операцию с роботом.

The attending leads attaching

Лечащий хирург оперирует, управляя

a four-armed, thousand-pound robot to the patient.

четвероруким роботом весом в полтонны.

They both rip off their scrubs,

На них нет хирургических костюмов,

head to control consoles 10 or 15 feet away,

они находятся у панели управления в трёх–пяти метрах от пациента,

and Kristen just watches.

и Кристен только наблюдает.

The robot allows the attending to do the whole procedure himself,

Благодаря роботу лечащий хирург может провести всю операцию сам,

so he basically does.

что он и делает.

He knows she needs practice.

Он знает, что Кристен нужна практика.

He wants to give her control.

Он хочет передать ей управление.

But he also knows she’d be slower and make more mistakes,

Но он знает, что она будет работать медленнее и сделает больше ошибок,

and his patient comes first.

а пациент — прежде всего.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

Так что у Кристен нет шансов поближе взглянуть на этот нерв во время операции.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

Ей повезёт, если ей удастся оперировать 15 минут из четырёхчасовой процедуры.

And she knows that when she slips up,

И она знает, что когда она ошибётся,

he’ll tap a touch screen, and she’ll be watching again,

хирург коснётся сенсорного экрана и она снова будет наблюдать,

feeling like a kid in the corner with a dunce cap.

чувствуя себя как ребёнок, которого поставили в угол.

Like all the studies of robots and work I’ve done in the last eight years,

Как все мои исследования работы с роботами за последние восемь лет,

это исследование я начал с большого открытого вопроса:

I started this one with a big, open question:

How do we learn to work with intelligent machines?

как мы будем учиться работать с «умными» машинами?

To find out, I spent two and a half years observing dozens of residents and surgeons

Я провёл два с половиной года, наблюдая массу ординаторов и хирургов

doing traditional and robotic surgery, interviewing them

во время традиционной и роботизированной хирургии, интервьюируя их

and in general hanging out with the residents as they tried to learn.

и следя за тем, как ординаторы пытаются учиться.

I covered 18 of the top US teaching hospitals,

Я побывал в 18 лучших учебных госпиталях США,

and the story was the same.

и везде одна и та же история.

Most residents were in Kristen's shoes.

Большинство ординаторов были в положении Кристен.

They got to “see one” plenty,

У них была возможность наблюдать,

but the “do one” was barely available.

но практики почти не было.

So they couldn’t struggle, and they weren’t learning.

Поэтому они не могли ничему научиться.

This was important news for surgeons, but I needed to know how widespread it was:

Важная новость для хирургов, но я хотел знать, как широко это распространено.

Where else was using AI blocking learning on the job?

Где ещё использование ИИ мешает обучению на рабочем месте?

To find out, I’ve connected with a small but growing group of young researchers

Чтобы выяснить это, я связался с группой молодых исследователей,

who’ve done boots-on-the-ground studies of work involving AI

которые изучали, как происходит работа с привлечением ИИ

в таких разных областях, как стартапы, работа полиции,

in very diverse settings like start-ups, policing,

investment banking and online education.

инвестиционный банкинг и онлайн-образование.

Like me, they spent at least a year and many hundreds of hours observing,

Как и я, они потратили минимум год и много сотен часов на наблюдения,

interviewing and often working side-by-side with the people they studied.

интервьюирования и работы бок о бок с людьми, которых они изучали.

We shared data, and I looked for patterns.

Мы обменялись данными и стали искать общие схемы.

No matter the industry, the work, the AI, the story was the same.

О какой бы сфере, работе или ИИ ни шла речь — везде одна и та же история.

Организации пытались выжать максимум из ИИ ради достижения результатов

Organizations were trying harder and harder to get results from AI,

and they were peeling learners away from expert work as they did it.

и отстраняли практикантов от экспертной работы.

Start-up managers were outsourcing their customer contact.

Менеджеры стартапов передавали свои дела на аутсорсинг.

Cops had to learn to deal with crime forecasts without experts support.

Копы осваивали криминологическое прогнозирование без поддержки экспертов.

Junior bankers were getting cut out of complex analysis,

Молодые банкиры не могли заниматься комплексным анализом,

and professors had to build online courses without help.

а профессора разрабатывали онлайн-курсы без помощников.

And the effect of all of this was the same as in surgery.

Эффект во всех этих сферах был такой же, как в хирургии.

Learning on the job was getting much harder.

Обучаться на рабочем месте стало намного сложнее.

This can’t last.

Так не может продолжаться.

McKinsey estimates that between half a billion and a billion of us

По оценкам школы McKinsey от полумиллиарда до миллиарда людей

are going to have to adapt to AI in our daily work by 2030.

вынуждены будут освоиться с ИИ в своей повседневной работе к 2030 году.

Мы предполагаем, что обучение на рабочем месте

And we’re assuming that on-the-job learning

will be there for us as we try.

пригодится нам и там, если постараться.

Accenture’s latest workers survey showed that most workers learned key skills

Последний опрос Accenture показал, что ключевые навыки

большинство получает на работе, а не во время формального обучения.

on the job, not in formal training.

So while we talk a lot about its potential future impact,

Мы много говорим о том, как ИИ повлияет на будущее,

the aspect of AI that may matter most right now

но прямо сейчас куда большее значение имеет то,

is that we’re handling it in a way that blocks learning on the job

что, используя ИИ, мы блокируем возможность учиться на рабочем месте

just when we need it most.

именно тогда, когда это нужнее всего.

Now across all our sites, a small minority found a way to learn.

Во всех сферах лишь немногие находят возможность учиться.

They did it by breaking and bending rules.

Они делают это, нарушая правила.

Approved methods weren’t working, so they bent and broke rules

Одобренные методы не работают, поэтому им приходится нарушать правила,

to get hands-on practice with experts.

чтобы практиковаться с экспертами.

In my setting, residents got involved in robotic surgery in medical school

В моём окружении ординаторы практикуются в роботизированной хирургии

в медицинских школах в ущерб общему образованию.

at the expense of their generalist education.

And they spent hundreds of extra hours with simulators and recordings of surgery,

Они тратят сотни дополнительных часов на видеозаписи и симуляторы,

хотя предполагается, что они должны обучаться во время операций.

when you were supposed to learn in the OR.

And maybe most importantly, they found ways to struggle

И самое важное, что они находят возможность поучаствовать

in live procedures with limited expert supervision.

в реальных процедурах под ограниченным экспертным наблюдением.

I call all this “shadow learning,” because it bends the rules

Я называю это всё «теневым обучением», потому что это — нарушение правил,

and learner’s do it out of the limelight.

это делают, не привлекая внимания.

And everyone turns a blind eye because it gets results.

И все закрывают на это глаза, потому что это приносит результаты.

Remember, these are the star pupils of the bunch.

Помните, речь идёт о лучших учениках.

Now, obviously, this is not OK, and it’s not sustainable.

Очевидно, что это недопустимо и ненадёжно.

No one should have to risk getting fired

Никто не должен рисковать увольнением,

to learn the skills they need to do their job.

чтобы изучить навыки, необходимые для работы.

But we do need to learn from these people.

Но нам стоит поучиться у этих людей.

They took serious risks to learn.

Они серьёзно рискуют, чтобы учиться.

They understood they needed to protect struggle and challenge in their work

Они понимают, что связанные с работой риски и сложности важно сохранить,

so that they could push themselves to tackle hard problems

чтобы люди могли учиться справляться со сложными проблемами

right near the edge of their capacity.

на пределе своих возможностей.

They also made sure there was an expert nearby

И что рядом должен быть эксперт,

to offer pointers and to backstop against catastrophe.

чтобы вовремя дать указание и уберечь от катастрофы.

Let’s build this combination of struggle and expert support

Это сочетание экспертной поддержки и постоянной борьбы

into each AI implementation.

должно сохраняться и при работе с ИИ.

Here’s one clear example I could get of this on the ground.

Вот один очевидный пример, который я могу привести.

Before robots,

До появления роботов

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

техник, обезвреживающий бомбы, должен был подойти к СВУ, чтобы сделать что-то.

A junior officer was hundreds of feet away,

Младший офицер был в сотнях шагов от него

so could only watch and help if you decided it was safe

и мог только смотреть и прийти на помощь, если техник решит, что это безопасно,

and invited them downrange.

и пригласит его подойти.

Now you sit side-by-side in a bomb-proof truck.

Сейчас они сидят бок о бок во взрывобезопасном грузовике.

You both watched the video feed.

Оба смотрят передающееся видео.

They control a distant robot, and you guide the work out loud.

Они управляют роботом на расстоянии и комментируют работу вслух.

Trainees learn better than they did before robots.

И стажёры обучаются лучше, чем это было до появления роботов.

We can scale this to surgery, start-ups, policing,

Этот подход можно перенести на хирургию, стартапы, работу полиции,

investment banking, online education and beyond.

инвестиционный банкинг, онлайн-образование и всё остальное.

The good news is we’ve got new tools to do it.

Хорошая новость в том, что у нас есть для этого новые инструменты.

The internet and the cloud mean we don’t always need one expert for every trainee,

Благодаря интернету и облачным сервисам экспертам больше не нужно

for them to be physically near each other or even to be in the same organization.

физически находиться рядом со стажёрами или даже работать в той же организации.

And we can build AI to help:

Мы можем разработать ИИ,

to coach learners as they struggle, to coach experts as they coach

который поможет и обучающимся, и экспертам, которые их учат,

and to connect those two groups in smart ways.

поможет установить эффективную связь между этими двумя группами.

There are people at work on systems like this,

Люди, работающие в таких системах,

but they’ve been mostly focused on formal training.

в основном сосредоточены на формальном обучении.

And the deeper crisis is in on-the-job learning.

А обучение на рабочем месте в глубоком кризисе.

We must do better.

Мы должны это исправить.

Today’s problems demand we do better

Эти проблемы нужно решить,

to create work that takes full advantage of AI’s amazing capabilities

если мы хотим использовать в работе невероятные возможности ИИ

while enhancing our skills as we do it.

и одновременно улучшать наши навыки.

That’s the kind of future I dreamed of as a kid.

Это то будущее, о котором я мечтал ребёнком.

And the time to create it is now.

И создать его мы можем сейчас.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)