How do we learn to work with intelligent machines? | Matt Beane

Перекладач: Oleksandr Vasyliev Утверджено: Khrystyna Romashko

It’s 6:30 in the morning,

О 6.30 ранку

and Kristen is wheeling her prostate patient into the OR.

Крістен укочує до операційної свого пацієнта з простатою.

She's a resident, a surgeon in training.

Вона - інтерн, майбутній хірург.

It’s her job to learn.

Її завдання - вчитися.

Today, she’s really hoping to do some of the nerve-sparing,

Сьогодні вона сподівається зробити, оминаючи нерви,

extremely delicate dissection that can preserve erectile function.

один з тих майстерних розтинів, що дозволяє зберегти еректальну функцію.

That'll be up to the attending surgeon, though, but he's not there yet.

Якщо, звісно, дозволить присутній хірург. Але його ще немає.

She and the team put the patient under,

Пацієнта вводять в наркоз,

and she leads the initial eight-inch incision in the lower abdomen.

і вона робить 20-сантиметровий розріз унизу живота.

Once she’s got that clamped back, she tells the nurse to call the attending.

Лоскути шкіри зафіксовано, сестра кличе хірурга.

He arrives, gowns up,

Він входить, перевдягається,

And from there on in, their four hands are mostly in that patient --

і з цієї миті більшу частину часу руки обох десь всередині пацієнта.

with him guiding but Kristin leading the way.

Хірург спрямовує її, але ініціатива за Крістен.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

Коли простату видалено (і так, Крістен дозволили працювати біля нервів),

he rips off his scrubs.

хірург знімає костюм

He starts to do paperwork.

і береться за папери.

Kristen closes the patient by 8:15,

О 08.15 Крістен закриває розріз.

with a junior resident looking over her shoulder.

За її роботою спостерігає молодший інтерн.

And she lets him do the final line of sutures.

Крістен дозволяє йому накласти останній шов.

Kristen feels great.

Крістен у захваті.

Patient’s going to be fine,

З пацієнтом все буде добре.

and no doubt she’s a better surgeon than she was at 6:30.

І, безумовно, вона кращий хірург зараз, ніж була о 06.30.

Now this is extreme work.

Звісно, це надзвичайна робота.

But Kristin’s learning to do her job the way that most of us do:

Але Крістен вивчає свій фах так само, як більшість із нас:

watching an expert for a bit,

потроху спостерігає за фахівцем,

getting involved in easy, safe parts of the work

починає з найпростіших та найбезпечніших задач

and progressing to riskier and harder tasks

і переходить до більш складних та ризикованих,

as they guide and decide she’s ready.

коли вважається, що вона до цього готова.

My whole life I’ve been fascinated by this kind of learning.

Цей тип навчання захоплював мене усе життя.

It feels elemental, part of what makes us human.

У ньому було щось природнє, щось із того, що робить нас людьми.

It has different names: apprenticeship, coaching, mentorship, on the job training.

Є купа назв: учнівство, тренування, наставництво, навчання під час роботи.

In surgery, it’s called “see one, do one, teach one.”

Хірурги звуть це «бачу, роблю, навчаю».

But the process is the same,

Але перебіг той самий,

and it’s been the main path to skill around the globe for thousands of years.

і тисячоліттями в усьому світі він був головним шляхом до майстерності.

Right now, we’re handling AI in a way that blocks that path.

Але зараз наші вправи з штучним інтелектом закривають цей шлях.

We’re sacrificing learning in our quest for productivity.

Ми жертвуємо навчанням заради продуктивності.

I found this first in surgery while I was at MIT,

Вперше я помітив це у хірургії, коли ще був у MIT.

but now I’ve got evidence it’s happening all over,

Але зараз я бачу, що це відбувається скрізь,

in very different industries and with very different kinds of AI.

в різних галузях та з найрізноманітнішими типами ШІ.

If we do nothing, millions of us are going to hit a brick wall

Якщо нічого не робити, мільйони людей потраплять у глухий кут,

as we try to learn to deal with AI.

намагаючись співіснувати з ШІ.

Let’s go back to surgery to see how.

Як саме? Повернемось до операційної.

Fast forward six months.

Минуло півроку.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

6.30 ранку. Крістен укочує наступного пацієнта з простатою,

but this time to the robotic OR.

але цього разу до роботизованої операційної.

The attending leads attaching

Хірург підтягує до пацієнта

a four-armed, thousand-pound robot to the patient.

чотирирукого робота вагою у півтонни.

They both rip off their scrubs,

Вони з Крістен знімають хірургічні костюми

head to control consoles 10 or 15 feet away,

і роблять кілька кроків до панелей керування.

and Kristen just watches.

Крістен лише спостерігає.

The robot allows the attending to do the whole procedure himself,

Робот дозволяє хірургові зробити всю операцію власноруч.

so he basically does.

Так він і робить.

He knows she needs practice.

Він знає, що Крістен потребує практики,

He wants to give her control.

і передав би контроль їй.

But he also knows she’d be slower and make more mistakes,

Але вона зробить все повільніше, а помилок буде більше.

and his patient comes first.

Пацієнт важливіший.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

У Крістен немає жодного шансу потренуватися із тими крихкими нервами.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

Їй поталанить, якщо за 4 години операції вона пропрацює хоча б 15 хвилин.

And she knows that when she slips up,

І вона знає, що за найменшої її помилки

he’ll tap a touch screen, and she’ll be watching again,

хірург торкнеться пульту, і вона знов стане спостерігачем,

feeling like a kid in the corner with a dunce cap.

відчуваючи себе дитиною, яку назвали нездарою.

Like all the studies of robots and work I’ve done in the last eight years,

Як з усіма дослідженнями роботів та праці за попередні 8 років,

I started this one with a big, open question:

я почав із важливого питання:

How do we learn to work with intelligent machines?

як нам навчитися працювати з розумними машинами?

To find out, I spent two and a half years observing dozens of residents and surgeons

Заради відповіді я більше 2 років стежив, як десятки хірургів та інтернів

doing traditional and robotic surgery, interviewing them

робили звичайні та роботизовані операції, розмовляв з ними

and in general hanging out with the residents as they tried to learn.

і просто спілкувався з інтернами під час їх навчання.

I covered 18 of the top US teaching hospitals,

В усіх 18 найкращих клінічних лікарнях США

and the story was the same.

ситуація була однаковою.

Most residents were in Kristen's shoes.

Більшість інтернів, як і Крістен,

They got to “see one” plenty,

спостерігали багато операцій,

but the “do one” was barely available.

але майже нічого не робили власноруч.

So they couldn’t struggle, and they weren’t learning.

Тому вони не докладали зусиль і не навчалися.

This was important news for surgeons, but I needed to know how widespread it was:

Це важливо для хірургів, але наскільки ця біда розповсюджена?

Where else was using AI blocking learning on the job?

Де ще використання ШІ перешкоджає навчанню на роботі?

To find out, I’ve connected with a small but growing group of young researchers

У пошуках інформації я зв'язався з невеликою групою молодих дослідників,

who’ve done boots-on-the-ground studies of work involving AI

що вели польові дослідження роботи з використанням ШІ

in very diverse settings like start-ups, policing,

в різноманітних умовах, у тому числі стартапах, поліції,

investment banking and online education.

інвестиційній сфері та дистанційній освіті.

Like me, they spent at least a year and many hundreds of hours observing,

Як і я, сотні годин протягом року вони спостерігали,

interviewing and often working side-by-side with the people they studied.

розмовляли з тими, кого досліджували, часто працювали поруч із ними.

We shared data, and I looked for patterns.

Ми обмінялися даними, і я почав аналіз.

No matter the industry, the work, the AI, the story was the same.

У кожній галузі та професії, за будь-якого ШІ ситуація була однаковою.

Organizations were trying harder and harder to get results from AI,

Організації докладали всіх зусиль, щоб отримати зиск від ШІ.

and they were peeling learners away from expert work as they did it.

Як результат, дистанція між учнями та фахівцями зростала.

Start-up managers were outsourcing their customer contact.

В стартапах віддавали роботу з клієнтами на аутсорс.

Cops had to learn to deal with crime forecasts without experts support.

Поліціянти вчилися працювати з прогнозами злочинів без експертів.

Junior bankers were getting cut out of complex analysis,

Банкірів-початківців не допускали до складних досліджень.

and professors had to build online courses without help.

Професорам доводилося створювати онлайн-курси самотужки.

And the effect of all of this was the same as in surgery.

Наслідки були тими ж самими, що і в хірургії.

Learning on the job was getting much harder.

Навчатися під час праці ставало все важче.

This can’t last.

Далі так не можна.

McKinsey estimates that between half a billion and a billion of us

За оцінкою «МакКінсі», десь між півмільярда і мільярдом людей

are going to have to adapt to AI in our daily work by 2030.

змушені будуть у повсякденній роботі пристосовуватись до ШІ у 2030 році.

And we’re assuming that on-the-job learning

І ми віримо, що у нас буде можливість

will be there for us as we try.

навчатися цьому під час роботи.

Accenture’s latest workers survey showed that most workers learned key skills

Останні опитування працівників кажуть, що більшість опанувала своє ремесло

on the job, not in formal training.

під час роботи, а не планового навчання.

So while we talk a lot about its potential future impact,

Тобто ми багато дискутуємо щодо майбутнього впливу ШІ,

the aspect of AI that may matter most right now

але найважливішим зараз може бути те, що ми впроваджуємо ШІ так,

is that we’re handling it in a way that blocks learning on the job

що це не дає змоги навчатися під час роботи саме тоді,

just when we need it most.

коли це найпотрібніше.

Now across all our sites, a small minority found a way to learn.

Крихітна меншість усюди знаходить шлях до навчання.

They did it by breaking and bending rules.

Але лише шляхом порушення правил або ігнорування їх.

Approved methods weren’t working, so they bent and broke rules

Дозволені способи не працюють, і люди ідуть на все,

to get hands-on practice with experts.

щоб попрактикуватися з фахівцями.

In my setting, residents got involved in robotic surgery in medical school

Там, де працював я, в медичній школі, інтерни займалися в операційній з роботом,

at the expense of their generalist education.

пропускаючи заняття із загальних медичних дисциплін.

And they spent hundreds of extra hours with simulators and recordings of surgery,

Вони проводили додатково сотні годин з тренажерами та записами операцій

when you were supposed to learn in the OR.

замість того, щоб навчатися в операційній.

And maybe most importantly, they found ways to struggle

Можливо, що найважливіше, вони знайшли шляхи долати перешкоди

in live procedures with limited expert supervision.

під час справжньої роботи майже без нагляду фахівців.

I call all this “shadow learning,” because it bends the rules

Я називаю це «тіньовим навчанням», бо воно порушує правила,

and learner’s do it out of the limelight.

і учні змушені робити це потайки.

And everyone turns a blind eye because it gets results.

Всі роблять вигляд, шо не помічають цього, бо воно дає результати.

Remember, these are the star pupils of the bunch.

Пам'ятайте, це найкращі учні.

Now, obviously, this is not OK, and it’s not sustainable.

Звісно, це погано, і так не може продовжуватися.

No one should have to risk getting fired

Чому єдиний шлях навчитися майстерності -

to learn the skills they need to do their job.

ризикувати, що тебе виженуть?

But we do need to learn from these people.

Чому можуть навчити нас ці люди?

They took serious risks to learn.

Заради навчання вони дуже ризикували.

They understood they needed to protect struggle and challenge in their work

Вони зрозуміли, що лише перешкоди та складнощі в їхній праці дадуть їм

so that they could push themselves to tackle hard problems

можливість працювати над задачами

right near the edge of their capacity.

на межі їх можливостей.

They also made sure there was an expert nearby

Вони також забезпечили присутність фахівця,

to offer pointers and to backstop against catastrophe.

який порадить шлях та врятує від катастроф.

Let’s build this combination of struggle and expert support

Треба додавати це поєднання важкої праці та підтримки фахівця

into each AI implementation.

під час кожного впровадження ШІ.

Here’s one clear example I could get of this on the ground.

Ось чудовий приклад того, як це вже відбувається.

Before robots,

Коли роботів не було,

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

спеціалісту з розмінування треба було наблизитись до об'єкта і працювати з ним.

A junior officer was hundreds of feet away,

Стажер сидів за сотні метрів

so could only watch and help if you decided it was safe

і міг лише спостерігати. Йому могли дозволити наблизитись,

and invited them downrange.

якщо не було небезпеки.

Now you sit side-by-side in a bomb-proof truck.

Зараз обидва сидять пліч-о-пліч у броньованому фургоні

You both watched the video feed.

і разом дивляться відео

They control a distant robot, and you guide the work out loud.

з камери робота, керуючи ним дистанційно.

Trainees learn better than they did before robots.

Стажерам так навчатися краще, ніж було до роботів.

We can scale this to surgery, start-ups, policing,

Десь так це можна робити і у хірургії, стартапах, поліції,

investment banking, online education and beyond.

інвестиційній сфері і всьому іншому.

The good news is we’ve got new tools to do it.

Добре те, що для цього з'явилися нові можливості.

The internet and the cloud mean we don’t always need one expert for every trainee,

Завдяки інтернету і хмарним технологіям не треба по фахівцю на кожного учня.

for them to be physically near each other or even to be in the same organization.

Їм не обов'язково бути поруч чи навіть в одній організації.

And we can build AI to help:

І тут на допомогу може прийти ШІ:

to coach learners as they struggle, to coach experts as they coach

допомагати учням в їх зусиллях, допомагати фахівцям допомагати

and to connect those two groups in smart ways.

і зв'язувати ці дві групи якнайефективніше.

There are people at work on systems like this,

Над такими системами вже працюють,

but they’ve been mostly focused on formal training.

але більшість уваги приділяють плановому навчанню.

And the deeper crisis is in on-the-job learning.

Криза в навчанні під час роботи значно глибша.

We must do better.

Того, що робиться, замало.

Today’s problems demand we do better

Проблеми сьогодення вимагають створювати

to create work that takes full advantage of AI’s amazing capabilities

робочі місця, що повністю використовують дивовижні можливості ШІ

while enhancing our skills as we do it.

і в той же час розвивають наші уміння.

That’s the kind of future I dreamed of as a kid.

Саме про таке майбутнє я мріяв у дитинстві.

And the time to create it is now.

Прийшов час створювати його.

Thank you.

Дякую.

(Applause)

(Оплески)