How do we learn to work with intelligent machines? | Matt Beane

翻訳: Hiroshi Uchiyama 校正: Yuko Yoshida

It’s 6:30 in the morning,

午前6時30分

and Kristen is wheeling her prostate patient into the OR.

クリスティンは担当の前立腺患者を 手術室に連れて行くところでした

She's a resident, a surgeon in training.

彼女は研修医で 外科専門医を目指しています

It’s her job to learn.

今は学ぶことが仕事です

Today, she’s really hoping to do some of the nerve-sparing,

今日行われる 勃起機能を残すための 非常に繊細な神経温存の摘出手術を

extremely delicate dissection that can preserve erectile function.

彼女はぜひとも自ら 執刀したいと望んでいます

That'll be up to the attending surgeon, though, but he's not there yet.

しかし それができるかは指導医次第で その指導医はまだ来ていません

She and the team put the patient under,

彼女と手術スタッフは患者を麻酔で眠らせ

and she leads the initial eight-inch incision in the lower abdomen.

最初の20センチの下腹部切開を 彼女が主導します

Once she’s got that clamped back, she tells the nurse to call the attending.

切開部をクランプで固定すると 彼女は看護師に指導医を呼ぶように指示します

He arrives, gowns up,

彼が到着し 手術着に着替えると

And from there on in, their four hands are mostly in that patient --

その時点から クリスティンと指導医の ４本の手はほとんど患者の体内で

with him guiding but Kristin leading the way.

指導医の下でクリスティンが 進めていきます

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

前立腺の摘出が終わると― 指導医は神経温存術を少しさせてくれましたー

he rips off his scrubs.

彼は術衣を脱ぎ

He starts to do paperwork.

書類を書き始めます

Kristen closes the patient by 8:15,

8時15分には クリスティンは縫合にかかります

with a junior resident looking over her shoulder.

それを肩越しに覗き込んでいた 若手研修医に

And she lets him do the final line of sutures.

彼女は縫合の最後を任せます

Kristen feels great.

クリスティンは満足です

Patient’s going to be fine,

患者も容態を回復するでしょう

and no doubt she’s a better surgeon than she was at 6:30.

そして外科医として彼女は 6時30分時点より明らかに成長しています

Now this is extreme work.

これは極端な事例でしたが

But Kristin’s learning to do her job the way that most of us do:

仕事の覚え方は多くの場合 クリスティンと同じでしょう

watching an expert for a bit,

熟練者を少し観察し

getting involved in easy, safe parts of the work

仕事の中でも 簡単でリスクの少ないことをやってみて

and progressing to riskier and harder tasks

熟練者が指導して もう大丈夫と判断したら

as they guide and decide she’s ready.

リスクが高く困難な作業に進むのです

My whole life I’ve been fascinated by this kind of learning.

私はずっと こうした学びに 魅了されてきました

It feels elemental, part of what makes us human.

私たちを人間たらしめる 根本的なものと感じていたのです

It has different names: apprenticeship, coaching, mentorship, on the job training.

見習い コーチング メンターシップ OJTなど呼び方は様々です

In surgery, it’s called “see one, do one, teach one.”

外科医の間では「見る、する、教える」 と言われています

But the process is the same,

どれもプロセスは同じで

and it’s been the main path to skill around the globe for thousands of years.

もう何千年も世界中でスキル習得は 主にその方法でされてきました

Right now, we’re handling AI in a way that blocks that path.

でも今 私たちは それを阻むような形でAIを使っています

We’re sacrificing learning in our quest for productivity.

生産性向上のため 自らの学びを犠牲にしているのです

I found this first in surgery while I was at MIT,

MIT研究時代に外科で この事象を初めて確認しました

but now I’ve got evidence it’s happening all over,

しかし現在では様々な産業で 様々なAIにより

in very different industries and with very different kinds of AI.

どこででも起きているとの 確証を得ています

If we do nothing, millions of us are going to hit a brick wall

もし何もしなかったら

AIを扱おうとしている ほとんどの人が壁にぶつかります

as we try to learn to deal with AI.

Let’s go back to surgery to see how.

先ほどの外科手術で考えてみましょう

Fast forward six months.

６か月後

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

同じ午前6時30分に クリスティンが 別の前立腺患者を運び込む先は

but this time to the robotic OR.

ロボット化された手術室です

The attending leads attaching

指導医の主導で

a four-armed, thousand-pound robot to the patient.

４本のアームがある数百キロのロボットを 患者に取り付けます

They both rip off their scrubs,

指導医とクリスティンは２人とも術衣を脱ぎ

head to control consoles 10 or 15 feet away,

３、４メートル離れた制御台に向かいます

and Kristen just watches.

クリスティンは見ているだけです

The robot allows the attending to do the whole procedure himself,

このロボットがあれば 指導医は すべての処置を単独でできますので

so he basically does.

基本的に彼がすべてを行います

He knows she needs practice.

彼女に練習が必要なことは分かっています

He wants to give her control.

彼女にさせたいのですが

But he also knows she’d be slower and make more mistakes,

彼女にさせると時間もかかり ミスが増えるため

and his patient comes first.

患者を優先しているのです

So Kristin has no hope of getting anywhere near those nerves during this rotation.

この担当割では神経近傍の執刀をできる望みは クリスティンにはありませんでした

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

４時間の手術で15分操作できれば ラッキーと言ったところです

And she knows that when she slips up,

彼女がうっかり間違えると 指導医が画面にタッチして

he’ll tap a touch screen, and she’ll be watching again,

また ただ見るだけになってしまい

feeling like a kid in the corner with a dunce cap.

教室の隅に立たされたような 気分になるのです

Like all the studies of robots and work I’ve done in the last eight years,

ロボットと仕事に関する 過去８年に行ったすべての研究は

I started this one with a big, open question:

この重大で未解決の問題に 端を発しています

How do we learn to work with intelligent machines?

知能機械の時代に働く方法を どのように習得するのか？

To find out, I spent two and a half years observing dozens of residents and surgeons

これを探るため ２年半の間 何十人もの研修医と外科医が

doing traditional and robotic surgery, interviewing them

従来の手術とロボット支援手術を するのを観察して聴取し

and in general hanging out with the residents as they tried to learn.

技術習得を目指す研修医と 色々話をしました

I covered 18 of the top US teaching hospitals,

全米のトップ18の教育病院を調べましたが

and the story was the same.

どこでも話は一緒でした

Most residents were in Kristen's shoes.

ほとんどの研修医は クリスティンと同じ状況でした

They got to “see one” plenty,

「見る」機会は多いものの

but the “do one” was barely available.

「する」機会はほとんどありませんでした

So they couldn’t struggle, and they weren’t learning.

実際に苦闘することができず 習得できていなかったのです

This was important news for surgeons, but I needed to know how widespread it was:

これは外科医にはとても重大な事実ですが 一般的な広がりも知る必要がありました

Where else was using AI blocking learning on the job?

AIの利用が仕事の学習を阻害する例は 他にもあるのでしょうか？

To find out, I’ve connected with a small but growing group of young researchers

それを見出すため 私は小規模ながら拡大中の 若手研究者グループと連携しました

who’ve done boots-on-the-ground studies of work involving AI

彼らは AIが使われる仕事について 現場調査をしていました

in very diverse settings like start-ups, policing,

スタートアップ企業や警備 投資銀行 オンライン教育など

investment banking and online education.

多彩な職場環境を対象としたものです

Like me, they spent at least a year and many hundreds of hours observing,

私のように最低でも１年間 何百時間もの観察と聴取を行い

interviewing and often working side-by-side with the people they studied.

調査対象者のそばで一緒に 働くこともしばしばでした

We shared data, and I looked for patterns.

互いのデータを共有し 私は規則性がないか調べました

No matter the industry, the work, the AI, the story was the same.

業界や職種やAIの種類に拠らず 話は一緒でした

Organizations were trying harder and harder to get results from AI,

組織はAIで成果を出そうと 熱心に試みていますが

and they were peeling learners away from expert work as they did it.

結果として学ぼうとする人を 熟練者の仕事から引き剥がしていました

Start-up managers were outsourcing their customer contact.

スタートアップのマネージャーは 顧客対応を外部委託しています

Cops had to learn to deal with crime forecasts without experts support.

警察官は犯罪予測をどう扱うかを 熟練者の支援なしに学ばねばなりませんでした

Junior bankers were getting cut out of complex analysis,

若手の銀行員は 複雑な分析から切り離され

and professors had to build online courses without help.

教授はオンライン講座を 何の助けもなく作らねばなりませんでした

And the effect of all of this was the same as in surgery.

これらすべての効果が 外科手術と同様でした

Learning on the job was getting much harder.

実務を通じて学ぶことが より難しくなっているのです

This can’t last.

そしてこれで話は終わりません

McKinsey estimates that between half a billion and a billion of us

マッキンゼーの推定では 2030年までに５～10億人が

are going to have to adapt to AI in our daily work by 2030.

日常業務でAIを活用しないと いけなくなるとしています

And we’re assuming that on-the-job learning

それまでの間しばらくは 実地での学びも継続するでしょう

will be there for us as we try.

Accenture’s latest workers survey showed that most workers learned key skills

アクセンチュアの最新の労働者調査では ほとんどの労働者は正式な訓練ではなく

on the job, not in formal training.

実務をこなしながら 重要なスキルを学んでいます

So while we talk a lot about its potential future impact,

将来への潜在的な影響について 多く語られますが

the aspect of AI that may matter most right now

AIについて 現時点で 一番大きな影響があると思われるのは

is that we’re handling it in a way that blocks learning on the job

実地での学習が一番必要であるにもかかわらず それを妨げる形で

just when we need it most.

AIを使っているということです

Now across all our sites, a small minority found a way to learn.

どこでも 仕事を学ぶ方法を 見出している人は ごく少数でした

They did it by breaking and bending rules.

彼らはルールを破るか 曲げるかして学んでいます

Approved methods weren’t working, so they bent and broke rules

認められた方法が実効的でないから ルールを曲げるなり破るなりして

to get hands-on practice with experts.

熟練者との実地訓練を 成し遂げているのです

In my setting, residents got involved in robotic surgery in medical school

私の例で言えば 医大で ロボット支援手術をする研修医は

at the expense of their generalist education.

総合診療医となるための教育を 犠牲にしていました

And they spent hundreds of extra hours with simulators and recordings of surgery,

彼らはシミュレータや手術の記録に 何百時間も余分な時間をかけていますが

when you were supposed to learn in the OR.

本来は手術室で学ぶべきことです

And maybe most importantly, they found ways to struggle

そして最も大切なことは 熟練者の限られた監督の下で

in live procedures with limited expert supervision.

苦心して実際の手技をやってみる方法を 見つけていることです

I call all this “shadow learning,” because it bends the rules

そのやり方は ルールを曲げ 表舞台には出ないことから

and learner’s do it out of the limelight.

「影の学習(Shadow Learning)」 と呼んでいます

And everyone turns a blind eye because it gets results.

成果が上がるので 周りの人も黙認します

Remember, these are the star pupils of the bunch.

彼らは選りすぐりの優等生であることを 忘れないでください

Now, obviously, this is not OK, and it’s not sustainable.

明らかにこれは良くないことで ずっと続けられるものでもありません

No one should have to risk getting fired

仕事上で必要な技術を学ぶために

to learn the skills they need to do their job.

解雇のリスクを抱えるべきではありません

But we do need to learn from these people.

一方でそのような人たちから 学ぶ必要があります

They took serious risks to learn.

彼らは学ぶために 重大なリスクを取りました

They understood they needed to protect struggle and challenge in their work

仕事の中でもがき 挑戦することを 続ける必要性を理解し

so that they could push themselves to tackle hard problems

自分の能力をわずかに超えるような 困難な問題に

right near the edge of their capacity.

立ち向かえるようにすべきと 考えたのです

They also made sure there was an expert nearby

彼らはまた熟練者に そばにいてもらうようにし

to offer pointers and to backstop against catastrophe.

ヒントをもらったり 大惨事を防ぐようにしていました

Let’s build this combination of struggle and expert support

苦闘と熟練者の支援という組み合わせを

into each AI implementation.

AIを導入した職場に築きましょう

Here’s one clear example I could get of this on the ground.

分かりやすい実例をご紹介します

Before robots,

ロボットの出現前は

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

爆発物処理技術者は 簡易爆発物を処理すべく近付きます

A junior officer was hundreds of feet away,

若手職員は数十メートル離れたところで

so could only watch and help if you decided it was safe

ただ見守っていて 技術者が安全を確認し 危険区域への立ち入りを

and invited them downrange.

許可して初めて支援に出ます

Now you sit side-by-side in a bomb-proof truck.

現在では爆発物処理車に ２人は隣同士で座ります

You both watched the video feed.

一緒に映像を見て

They control a distant robot, and you guide the work out loud.

離れた場所にいるロボットを操作し 技術者は口頭で作業を誘導します

Trainees learn better than they did before robots.

学習者はロボット出現前より 良く学べます

We can scale this to surgery, start-ups, policing,

この方法は外科やスタートアップ 警備

investment banking, online education and beyond.

投資銀行 オンライン教育 それ以外にも広げられます

The good news is we’ve got new tools to do it.

幸いなことに そのための 新たな道具があります

The internet and the cloud mean we don’t always need one expert for every trainee,

インターネットやクラウドにより 学習者に１人ずつ熟練者がつく必要はなくなり

for them to be physically near each other or even to be in the same organization.

物理的にそばにいなくても 同じ組織にいなくても良くなりました

And we can build AI to help:

また手助けできるAIを作ることもできます

to coach learners as they struggle, to coach experts as they coach

学習者が苦闘できるようにコーチし 熟練者がコーチできるようにコーチし

and to connect those two groups in smart ways.

それらの２つのグループを ネットワークで繋ぐのです

There are people at work on systems like this,

この様なシステムを 使っている人もいますが

but they’ve been mostly focused on formal training.

大抵は正式なトレーニングばかりでした

And the deeper crisis is in on-the-job learning.

でも もっと危機的なのは 実地での学習のほうです

We must do better.

改善できるはずです

Today’s problems demand we do better

今 求められているのは 私たちがAIの驚くべき能力を

to create work that takes full advantage of AI’s amazing capabilities

最大限に生かせる仕事を もっとうまく創っていくと共に

while enhancing our skills as we do it.

それと同時に 自らのスキルも高めることです

That’s the kind of future I dreamed of as a kid.

これこそ 私が子供の頃に 夢見ていた未来です

そして それを創り出すのは今なのです

And the time to create it is now.

Thank you.

ありがとうございました

(Applause)

（拍手）