How do we learn to work with intelligent machines? | Matt Beane

תרגום: Talia Breuer עריכה: Ido Dekkers

It’s 6:30 in the morning,

השעה 6:30 בבוקר,

and Kristen is wheeling her prostate patient into the OR.

וכריסטין מסיעה את המטופל שלה אשר חולה בסרטן הערמונית, אל חדר הניתוח

She's a resident, a surgeon in training.

כריסטין היא מתמחה, מנתחת בהכשרה.

It’s her job to learn.

העבודה שלה היא ללמוד.

Today, she’s really hoping to do some of the nerve-sparing,

היום, היא מקווה מאוד לא לפגוע בעצבים שסביב הרקמות,

extremely delicate dissection that can preserve erectile function.

תהליך עדין ביותר, שבאמצעותו ניתן לשמר את תפקוד הזקפה.

That'll be up to the attending surgeon, though, but he's not there yet.

הפעולה הזו תתבצע על ידי המנתח הבכיר, אמנם, אך הוא לא הגיע עדיין.

She and the team put the patient under,

המתמחה והצוות השכיבו את המטופל,

and she leads the initial eight-inch incision in the lower abdomen.

והיא הובילה את החתך הראשוני, באורך 20 סנטימטרים, בבטן התחתונה.

Once she’s got that clamped back, she tells the nurse to call the attending.

ברגע שהיא מסיימת להדק אותו, היא מבקשת מהאחות לקרוא למנתח הבכיר.

He arrives, gowns up,

הבכיר מגיע, מתלבש,

And from there on in, their four hands are mostly in that patient --

ומרגע זה ואילך, ארבעת הידיים שלהם בעיקר בתוך גוף החולה --

with him guiding but Kristin leading the way.

כאשר הבכיר מדריך אך כריסטין מובילה את הדרך.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

כאשר הערמונית בחוץ (אכן כן, הוא נתן לכריסטין לעבוד על העצבים),

he rips off his scrubs.

הוא תולש את הבגדים הסטריליים שלו.

He starts to do paperwork.

מתחיל לעסוק בניירת.

Kristen closes the patient by 8:15,

כריסטין סוגרת את המטופל בשעה 8:15,

with a junior resident looking over her shoulder.

כאשר מתמחה צעיר מציץ מעבר לכתף שלה.

And she lets him do the final line of sutures.

והיא נותנת לו לבצע את שורת התפרים האחרונה.

Kristen feels great.

כריסטין מרגישה נהדר.

Patient’s going to be fine,

המטופל הולך להיות בסדר,

and no doubt she’s a better surgeon than she was at 6:30.

ואין ספק שהיא מנתחת טובה יותר ממה שהייתה ב6:30.

Now this is extreme work.

זוהי עבודה קיצונית.

But Kristin’s learning to do her job the way that most of us do:

אך כריסטין למדה לעשות את העבודה שלה באותה דרך בה רובנו לומדים:

watching an expert for a bit,

לצפות במומחה לזמן מה,

getting involved in easy, safe parts of the work

להשתלב במשימות קלות עם הצלחה בטוחה

and progressing to riskier and harder tasks

ולהתקדם למשימות קשות בעלות סיכון גבוה יותר

as they guide and decide she’s ready.

כאשר מדריכים אותה ומחליטים מתי היא מוכנה.

My whole life I’ve been fascinated by this kind of learning.

כל חיי הוקסמתי מהסוג הזה של למידה.

It feels elemental, part of what makes us human.

זה מרגיש מובן מאליו, חלק מהיותינו בני אדם.

It has different names: apprenticeship, coaching, mentorship, on the job training.

ויש לכך שמות שונים: חניכה, אימון, הנחיה, למידה מהתנסות.

In surgery, it’s called “see one, do one, teach one.”

בעולם הניתוח, זה נקרא "ראה אחד, עשה אחד, למד אחד."

But the process is the same,

אך התהליך זהה,

and it’s been the main path to skill around the globe for thousands of years.

וזו הייתה הדרך העיקרית ללמידה מסביב לעולם במשך אלפי שנים.

Right now, we’re handling AI in a way that blocks that path.

כעת, אנו מתנהגים כלפי בינה מלאכותית בצורה שחוסמת את הדרך הזו.

We’re sacrificing learning in our quest for productivity.

אנו מקריבים למידה עבור ההתייעלות.

I found this first in surgery while I was at MIT,

הדבר התבהר לי לראשונה בעולם הניתוח כאשר הייתי באמ.איי.טי,

but now I’ve got evidence it’s happening all over,

אך כעת יש לי ראיות לכך שזה קורה בכל עבר,

in very different industries and with very different kinds of AI.

בתעשיות שונות לחלוטין ועם סוגים שונים של בינה מלאכותית.

If we do nothing, millions of us are going to hit a brick wall

אם לא נעשה דבר, מיליונים מאיתנו הולכים להתקל במבוי סתום

as we try to learn to deal with AI.

בנסיון ההתמודדות עם בינה מלאכותית.

Let’s go back to surgery to see how.

בואו נחזור לעולם הניתוח לשם ההדגמה.

Fast forward six months.

הרצה 6 חודשים קדימה.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

השעה שוב 6:30, וכריסטין מכניסה מטופל נוסף,

but this time to the robotic OR.

אך הפעם אל חדר ניתוח רובוטי.

The attending leads attaching

המנתח הבכיר מחבר

a four-armed, thousand-pound robot to the patient.

רובוט במשקל 1000 פאונד, בעל ארבע ידיים, אל המטופל.

They both rip off their scrubs,

שניכם מסירים את הביגוד הסטרילי,

head to control consoles 10 or 15 feet away,

ניגשים את מכשירי השליטה במרחק 3 או 5 מטר מהמטופל,

and Kristen just watches.

וכריסטין רק צופה.

The robot allows the attending to do the whole procedure himself,

הרובוט מאפשר למנתח הבכיר לבצע את ההליך כולו בעצמו,

so he basically does.

ולמעשה כך הוא פועל.

He knows she needs practice.

הוא יודע שהיא זקוקה לאימון.

He wants to give her control.

הוא רוצה להעביר אליה את השליטה.

But he also knows she’d be slower and make more mistakes,

אך הוא גם יודע שהיא תהיה איטית יותר ותעשה יותר טעויות,

and his patient comes first.

והמטופל בעדיפות עליונה.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

לכן לכריסטין אין תקווה אפילו להתקרב לעצבים של המטופל במהלך הניתוח.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

היא תהיה ברת מזל אם תוכל לתפעל מעל 15 דקות בתהליך של 4 שעות.

And she knows that when she slips up,

והיא יודעת שאם תעשה טעות,

he’ll tap a touch screen, and she’ll be watching again,

הוא ילחץ על המסך, והיא תחזור להיות צופה,

feeling like a kid in the corner with a dunce cap.

מרגישה כמו ילד שנשלח לעמוד בפינה עם כובע בושה.

Like all the studies of robots and work I’ve done in the last eight years,

כמו בכל המחקרים על רובוטים והעבודות שביצעתי ב8 השנים האחרונות,

I started this one with a big, open question:

התחלתי את המחקר הזה עם שאלה גדולה, פתוחה:

How do we learn to work with intelligent machines?

כיצד נלמד לעבוד עם מכונות חכמות?

To find out, I spent two and a half years observing dozens of residents and surgeons

כדי למצוא את התשובה, ביליתי שנתיים וחצי בתצפית על מתמחים ומנתחים

doing traditional and robotic surgery, interviewing them

מבצעים ניתוח מסורתי וניתוח באמצעות רובוטים ראיינתי אותם

and in general hanging out with the residents as they tried to learn.

ופשוט ביליתי בחברת מתמחים בתהליך הלמידה שלהם.

I covered 18 of the top US teaching hospitals,

שהיתי ב 18 מבתי החולים הלימודיים הטובים ביותר בארה"ב,

and the story was the same.

והסיפור בכולם היה זהה.

Most residents were in Kristen's shoes.

רוב המתמחים היו בנעליים של כריסטין.

They got to “see one” plenty,

יצא להם "לראות אחד" המון פעמים,

but the “do one” was barely available.

אך ה"לעשות אחד" לא התאפשר לרוב.

So they couldn’t struggle, and they weren’t learning.

כך שלא הייתה להם הזדמנות להתמודד, והם לא למדו.

This was important news for surgeons, but I needed to know how widespread it was:

זו הייתה ידיעה חשובה עבור המנתחים, אך הייתי חייב להבין מה סדר הגודל של הנושא:

Where else was using AI blocking learning on the job?

באילו תחומים נוספים, השימוש בבינה מלאכותית מונע למידה מהתנסות?

To find out, I’ve connected with a small but growing group of young researchers

על מנת לגלות, חברתי לקבוצה קטנה ומתפתחת של חוקרים צעירים

who’ve done boots-on-the-ground studies of work involving AI

שביצעו למידה בשטח על מקצועות משולבי בינה מלאכותית

in very diverse settings like start-ups, policing,

בשדות מגוונים מאוד כמו סטארטאפים, שיטור,

investment banking and online education.

השקעות בנקאיות ולימוד איטרנטי.

Like me, they spent at least a year and many hundreds of hours observing,

כמוני, הם בילו לפחות שנה בשעות תצפות מרובות,

interviewing and often working side-by-side with the people they studied.

ראיינו ועבדו לצד האנשים אותם חקרו.

We shared data, and I looked for patterns.

חלקנו מידע, וחיפשתי אחר דפוסים.

No matter the industry, the work, the AI, the story was the same.

בלי קשר לתעשייה, לעבודה, סוג הבינה המלאכותית, הסיפור היה אותו הדבר.

Organizations were trying harder and harder to get results from AI,

ארגונים ניסו יותר ויותר לקבל תוצאות מבינה מלאכותית,

and they were peeling learners away from expert work as they did it.

ובכך הרחיקו את המתלמדים מעבודת ההתמחות שלהם.

Start-up managers were outsourcing their customer contact.

מנהלי סטארטאפים ייצאו את הקשר עם הלקוחות שלהם.

Cops had to learn to deal with crime forecasts without experts support.

שוטרים נאלצו להתמודד עם תחזיות פשיעה ללא תמיכה של מומחים.

Junior bankers were getting cut out of complex analysis,

בנקאים צעירים הורחקו מביצוע ניתוח נתונים מעמיק,

and professors had to build online courses without help.

ופרופסורים נאלצו לבנות קורסים אינטרנטיים ללא כל עזרה.

And the effect of all of this was the same as in surgery.

וההשפעה של כל אלו היא כמו ברפואה.

Learning on the job was getting much harder.

למידה תוך כדי עבודה נעשתה קשה בהרבה.

This can’t last.

זה לא יוכל להחזיק מעמד.

McKinsey estimates that between half a billion and a billion of us

מקינזי מעריכים כי בין חצי מיליארד למיליארד מאיתנו

are going to have to adapt to AI in our daily work by 2030.

ייאלצו להתרגל לשילוב של בינה מלאכותית בעבודה היומיומית שלנו עד שנת 2030.

And we’re assuming that on-the-job learning

ואנו מניחים כי למידה בהתנסות

will be there for us as we try.

תהיה שם עבורנו כשזה יקרה.

Accenture’s latest workers survey showed that most workers learned key skills

סקר העובדים האחרון של אקסנצ'ור הראה שרוב העובדים למדו כישורים חשובים

on the job, not in formal training.

תוך כדי עבודה, ולא מלמידה פורמלית.

So while we talk a lot about its potential future impact,

אז למרות שאנו דנים המון על ההשפעה הפוטנציאלית שלה,

the aspect of AI that may matter most right now

ההיבט של בינה מלאכותית בעל המשמעות הגדולה ביותר כרגע

is that we’re handling it in a way that blocks learning on the job

הוא שאנו מנהלים אותה בצורה כזו שהיא מונעת מאיתנו ללמוד

just when we need it most.

בדיוק כשאנו זקוקים לכך.

Now across all our sites, a small minority found a way to learn.

כעת בכל האתרים שלנו מיעוט קטן מצא דרך ללמוד.

They did it by breaking and bending rules.

הם עשו זאת על ידי שבירה וכיפוף של החוקים.

Approved methods weren’t working, so they bent and broke rules

שיטות מוכרות לא עבדו, ולכן הם כופפו ושברו את החוקים

to get hands-on practice with experts.

על מנת להשיג אימון מעשי עם מומחים.

In my setting, residents got involved in robotic surgery in medical school

במקום בו הייתי, המתמחים התעסקו בניתוח רובוטי בבית ספר לרפואה

at the expense of their generalist education.

על חשבון ההשכלה הכללית שלהם.

And they spent hundreds of extra hours with simulators and recordings of surgery,

והם בילו מאות של שעות נוספות עם סימולטורים והקלטות של ניתוחים,

when you were supposed to learn in the OR.

כאשר היו אמורים בעצם ללמוד בחדר הניתוח.

And maybe most importantly, they found ways to struggle

ואולי חשוב מכך, הם מצאו דרכים להתמודד

in live procedures with limited expert supervision.

בהליכים אמיתיים עם השגחת מומחה מוגבלת.

I call all this “shadow learning,” because it bends the rules

אני קורא לכל זה ״למידה בצל״, כיוון שהיא מכופפת את החוקים

and learner’s do it out of the limelight.

והתלמידים עושים זאת מאחורי הקלעים.

And everyone turns a blind eye because it gets results.

וכולם מעלימים עין כיוון שזה מניב תוצאות.

Remember, these are the star pupils of the bunch.

זכרו, אלו הם ה״כוכבים״ שבחבורה.

Now, obviously, this is not OK, and it’s not sustainable.

עכשיו, כמובן שזה לא בסדר, וזוהי לא שיטה שתחזיק לאורך זמן.

No one should have to risk getting fired

אף אחד לא צריך להסתכן בפיטורים

to learn the skills they need to do their job.

בשביל ללמוד כישורי עבודה.

But we do need to learn from these people.

אך אנו כן צריכים ללמוד מהאנשים האלו.

They took serious risks to learn.

הם לקחו סיכונים אדירים בשביל ללמוד.

They understood they needed to protect struggle and challenge in their work

הם הבינו שהם צריכים להגן על המאמץ והאתגר בעבודה

so that they could push themselves to tackle hard problems

כדי שיוכלו לדחוף את עצמם להתמודד עם בעיות קשות

right near the edge of their capacity.

עד קצה גבול היכולת שלהם.

They also made sure there was an expert nearby

בנוסף הם וידאו שיש מומחה בקרבת מקום

to offer pointers and to backstop against catastrophe.

שציע נקודות לשיפור ובמידת הצורך למנוע אסון.

Let’s build this combination of struggle and expert support

בואו נבנה את השילוב בין מאמץ לתמיכת מומחים

into each AI implementation.

לתוך כל הטמעה של בינה מלאכותית.

Here’s one clear example I could get of this on the ground.

להלן דוגמה ברורה שיכלתי למצוא לכך במציאות.

Before robots,

לפני הרובוטים,

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

אם היית מהנדס ניטרול פצצות, התמודדת עם פצצה על ידי כך שניגשת אליה.

A junior officer was hundreds of feet away,

שוטר צעיר היה במרחק מאות רגל משם,

so could only watch and help if you decided it was safe

כדי לתצפת ולעזור אם היית מחליט שהאזור בטוח

and invited them downrange.

ומזמין אותו להתקרב.

Now you sit side-by-side in a bomb-proof truck.

כעת הם יושבים זה לצד זה במשאית משוריינת.

You both watched the video feed.

שניכם ראיתם את הסרטון.

They control a distant robot, and you guide the work out loud.

הם שלטו ברובוט מרחוק, ואתה מנהל את העבודה בקול רם.

Trainees learn better than they did before robots.

מתלמדים לומדים טוב יותר מאשר שלמדו טרם הרובוטים.

We can scale this to surgery, start-ups, policing,

נוכל להדגים זאת גם על ניתוח, סטארטאפים, שיטור,

investment banking, online education and beyond.

השקעות בנקאיות, השכלה אינטרנטית ומעבר.

The good news is we’ve got new tools to do it.

החדשות הטובות הן שיש לנו כלים לעשות את זה.

The internet and the cloud mean we don’t always need one expert for every trainee,

האינטרנט והענן משמעם שאיננו צריכים תמיד מומחה לכל מתלמד,

for them to be physically near each other or even to be in the same organization.

שיהיו פיזית קרובים אחד לשני או אפילו שיהיו חלק מאותו ארגון.

And we can build AI to help:

ואנו יכולים ליצור בינה מלאכותית שתעזור:

to coach learners as they struggle, to coach experts as they coach

להדריך תלמידים כאשר הם מתקשים, להדריך מומחים כאשר הם מדריכים

and to connect those two groups in smart ways.

ולחבר בין שתי הקבוצות הללו בדרכים חכמות.

There are people at work on systems like this,

יש אנשים שעובדים על מערכות מסוג זה,

but they’ve been mostly focused on formal training.

אך הם התרכזו בעיקר בלימוד פורמלי.

And the deeper crisis is in on-the-job learning.

והמשבר העמוק יותר הוא למידה מהתנסות.

We must do better.

אנו מוכרחים להשתפר.

Today’s problems demand we do better

הבעיות של היום דורשות שנשתפר

to create work that takes full advantage of AI’s amazing capabilities

שנייצר עבודה שמנצלת את היכולות המדהימות של הבינה המלאכותית במלואן

while enhancing our skills as we do it.

תוך כדי שיפור הכישורים שלנו.

That’s the kind of future I dreamed of as a kid.

זהו העתיד עליו חלמתי כילד.

And the time to create it is now.

והזמן ליצור אותו הוא עכשיו.

Thank you.

תודה.

(Applause)

(מחיאות כפיים)