How do we learn to work with intelligent machines? | Matt Beane

Tłumaczenie: Kinga Zygmunczyk Korekta: Barbara Guzik

It’s 6:30 in the morning,

Poranek 6.30.

and Kristen is wheeling her prostate patient into the OR.

Kristen wprowadza pacjenta z chorą prostatą na salę operacyjną.

She's a resident, a surgeon in training.

Jest lekarzem na stażu na oddziale chirurgii.

It’s her job to learn.

Pracuje, żeby nauczyć się profesji.

Today, she’s really hoping to do some of the nerve-sparing,

Wierzy, że dziś pomoże przy zabiegu zachowania nerwów erekcyjnych,

extremely delicate dissection that can preserve erectile function.

czyli bardzo precyzyjnej dysekcji, która daje szanse na zachowanie erekcji.

That'll be up to the attending surgeon, though, but he's not there yet.

Będzie to jednak zależeć od chirurga, nieobecnego jeszcze na sali.

She and the team put the patient under,

Kristen wraz z zespołem podaje choremu znieczulenie

and she leads the initial eight-inch incision in the lower abdomen.

i dokonuje pierwszego cięcia na 20 centymetrów w dolnej części brzucha.

Po założeniu klamry, pielęgniarka prosi chirurga na salę.

Once she’s got that clamped back, she tells the nurse to call the attending.

He arrives, gowns up,

Chirurg wchodzi, zakłada fartuch

And from there on in, their four hands are mostly in that patient --

i od teraz czwórka ich rąk będzie znajdowała się głównie w pacjencie.

with him guiding but Kristin leading the way.

On wskazuje drogę, ale to ona prowadzi.

When the prostates out (and, yes, he let Kristen do a little nerve sparing),

Wyciągnęli prostatę, Kristen pomogła przy zabiegu zachowania pęczków nerwowych,

he rips off his scrubs.

chirurg odrzucił fartuch na bok

He starts to do paperwork.

i zabrał się za papierkową robotę.

Kristen closes the patient by 8:15,

To Kristen zaszywa pacjenta o 8.15,

a młodszy stażysta stoi za nią i obserwuje jej zmagania.

with a junior resident looking over her shoulder.

And she lets him do the final line of sutures.

Kristen pozwala mu zakończyć ostatnie szwy.

Kristen feels great.

Ogarnia ją zadowolenie.

Patient’s going to be fine,

Pacjent wyzdrowieje, a Kristen jest bez wątpienia

and no doubt she’s a better surgeon than she was at 6:30.

lepszym chirurgiem niż była o 6.30.

Now this is extreme work.

To praca ekstremalna,

But Kristin’s learning to do her job the way that most of us do:

ale Kristen uczy się profesji w ten sam sposób, co większość z nas:

watching an expert for a bit,

obserwuje pracę specjalisty,

getting involved in easy, safe parts of the work

powoli przejmuje pałeczkę, realizując bezpieczne zadania,

and progressing to riskier and harder tasks

a potem wykonuje coraz trudniejsze czynności,

as they guide and decide she’s ready.

aż specjalista uzna, że jest gotowa.

Całe życie fascynował mnie ten sposób nauki.

My whole life I’ve been fascinated by this kind of learning.

It feels elemental, part of what makes us human.

Wydaje się elementarny, typowy dla natury ludzkiej.

It has different names: apprenticeship, coaching, mentorship, on the job training.

Ma wiele nazw: praktyka, trenowanie, mentoring czy szkolenie.

In surgery, it’s called “see one, do one, teach one.”

W chirurgii mówi się: "patrz, rób, naucz".

But the process is the same,

Proces jest taki sam

and it’s been the main path to skill around the globe for thousands of years.

i na całym świecie od tysięcy lat tak kształcono ludzi.

Right now, we’re handling AI in a way that blocks that path.

Zastosowanie sztucznej inteligencji blokuje ten proces.

We’re sacrificing learning in our quest for productivity.

Poświęcamy naukę dla większej produktywności.

I found this first in surgery while I was at MIT,

Zauważyłem to w chirurgii, studiując w Instytucie MIT,

ale teraz mam dowody, że tak jest wszędzie,

but now I’ve got evidence it’s happening all over,

in very different industries and with very different kinds of AI.

w różnych branżach i z różnego rodzaju sztuczną inteligencją.

Jeśli nic z tym nie zrobimy, miliony z nas natrafią na ścianę

If we do nothing, millions of us are going to hit a brick wall

as we try to learn to deal with AI.

podczas prób radzenia sobie ze sztuczną inteligencją.

Wyobraźmy sobie znowu oddział chirurgii,

Let’s go back to surgery to see how.

Fast forward six months.

ale sześć miesięcy później.

It’s 6:30am again, and Kristen is wheeling another prostate patient in,

Poranek 6.30 i Kristen znowu wprowadza pacjenta z chorą prostatą,

ale tym razem do zautomatyzowanej sali operacyjnej.

but this time to the robotic OR.

The attending leads attaching

Chirurg podłącza pacjenta

a four-armed, thousand-pound robot to the patient.

do robota z czterema rękoma, ważącego pół tony.

They both rip off their scrubs,

Chirurg i Kristen ściągają fartuchy,

head to control consoles 10 or 15 feet away,

kierują się do kontrolera stojącego o trzy lub cztery metry dalej.

and Kristen just watches.

Zadanie Kristen sprowadza się tylko do patrzenia.

The robot allows the attending to do the whole procedure himself,

Robot umożliwia chirurgowi samodzielne wykonanie pracy,

so he basically does.

i tak właśnie się dzieje.

He knows she needs practice.

Lekarz wie, że Kristen potrzebuje praktyki.

He wants to give her control.

Chce, żeby ona przejęła stery,

But he also knows she’d be slower and make more mistakes,

ale wie również, że będzie wolniejsza i zrobi więcej błędów,

and his patient comes first.

a pacjent to priorytet.

So Kristin has no hope of getting anywhere near those nerves during this rotation.

Kristen wie, że nie zbliży się nawet do nerwów erekcyjnych.

She’ll be lucky if she operates more than 15 minutes during a four-hour procedure.

Będzie dobrze, jeśli popracuje 15 minut podczas czterogodzinnego zabiegu.

And she knows that when she slips up,

Wie, że jeśli da plamę,

he’ll tap a touch screen, and she’ll be watching again,

chirurg przejmie panel dotykowy, a ona znowu będzie tylko obserwowała,

feeling like a kid in the corner with a dunce cap.

czując się, jakby stała za karę w kącie.

Like all the studies of robots and work I’ve done in the last eight years,

Wszystkie badania nad robotami, które wykonuję przez ostatnie osiem lat,

rozpoczynałem od pytania otwartego:

I started this one with a big, open question:

How do we learn to work with intelligent machines?

Jak nauczyć się pracować ze sztuczną inteligencją?

To find out, I spent two and a half years observing dozens of residents and surgeons

Żeby się dowiedzieć, przez dwa i pół roku obserwowałem wielu stażystów i chirurgów,

doing traditional and robotic surgery, interviewing them

którzy operują tradycyjnie i z pomocą robotów,

przeprowadzałem wywiady

and in general hanging out with the residents as they tried to learn.

i przebywałem z nimi, kiedy uczyli się profesji.

I covered 18 of the top US teaching hospitals,

Byłem w 18 najlepszych szpitalach w USA oferujących staż absolwentom

and the story was the same.

i wszystko wyglądało tak samo.

Most residents were in Kristen's shoes.

Większość stażystów przechodziła przez to samo co Kristen.

They got to “see one” plenty,

Owszem, widzieli dużo,

but the “do one” was barely available.

ale brakowało samego działania.

So they couldn’t struggle, and they weren’t learning.

Nie było wysiłku, więc nie było też nauki.

This was important news for surgeons, but I needed to know how widespread it was:

To ważna informacja dla chirurgów, ale musiałem poznać zasięg tego problemu.

Where else was using AI blocking learning on the job?

Gdzie jeszcze stosowanie sztucznej inteligencji hamuje naukę przy pracy?

To find out, I’ve connected with a small but growing group of young researchers

Żeby to wyjaśnić, nawiązałem kontakt z rozwijającą się ekipą młodych badaczy,

who’ve done boots-on-the-ground studies of work involving AI

którzy dokładnie przebadali pracę ze sztuczną inteligencją

in very diverse settings like start-ups, policing,

w wielu różnych środowiskach, jak start-upy, policja,

investment banking and online education.

banki inwestycyjne czy edukacja online.

Like me, they spent at least a year and many hundreds of hours observing,

Tak jak ja, spędzili przynajmniej rok i setki godzin na obserwacjach,

interviewing and often working side-by-side with the people they studied.

przepytując i często pracując razem z badanymi.

We shared data, and I looked for patterns.

Dzieliliśmy się danymi, a potem szukałem schematów.

No matter the industry, the work, the AI, the story was the same.

Bez względu na branżę, typ pracy, typ robota, wszystko wyglądało tak samo.

Organizacje próbowały wyciągnąć jak najwięcej ze sztucznej inteligencji,

Organizations were trying harder and harder to get results from AI,

and they were peeling learners away from expert work as they did it.

odciągając stażystów od fachowej pracy.

Start-up managers were outsourcing their customer contact.

Menadżerzy start-upów zlecali kontakt z klientem.

Cops had to learn to deal with crime forecasts without experts support.

Policjanci musieli radzić sobie z prognozowaną przestępczością

bez wsparcia ekspertów.

Junior bankers were getting cut out of complex analysis,

Młodsi stażem bankierzy byli odciągani od złożonych analiz,

and professors had to build online courses without help.

a profesorowie mieli tworzyć kursy online bez pomocy.

And the effect of all of this was the same as in surgery.

Skutek był taki sam, jak w przypadku chirurgii.

Learning on the job was getting much harder.

Nauka przy pracy stawała się coraz trudniejsza.

This can’t last.

Tak dalej być nie może.

McKinsey estimates that between half a billion and a billion of us

Spółka McKinsey szacuje, że od pół miliarda do miliarda z nas

are going to have to adapt to AI in our daily work by 2030.

będzie musiało przywyknąć do pracy ze sztuczną inteligencją do 2030 roku.

And we’re assuming that on-the-job learning

Przypuszczamy, że nauka przy pracy będzie dostępna, jeśli się postaramy.

will be there for us as we try.

Accenture’s latest workers survey showed that most workers learned key skills

Ostatnia ankieta firmy Accenture pokazuje, że większość pracowników nauczyła się

on the job, not in formal training.

kluczowych umiejętności w pracy, a nie na uczelniach.

So while we talk a lot about its potential future impact,

Myślimy o wpływie robotów na przyszłość, ale teraz najbardziej liczy się to,

the aspect of AI that may matter most right now

is that we’re handling it in a way that blocks learning on the job

że używając ich w obecny sposób, blokujemy naukę w praktyce,

just when we need it most.

a taka jest najbardziej potrzebna.

Now across all our sites, a small minority found a way to learn.

W każdej jednostce znalazła się grupa osób,

która wpadła na to, jak się uczyć w takich warunkach.

They did it by breaking and bending rules.

Udało się, łamiąc i naginając zasady.

Approved methods weren’t working, so they bent and broke rules

Przyjęte zasady nie sprawdziły się, więc musieli je złamać lub nagiąć,

to get hands-on practice with experts.

żeby zdobyć doświadczenie od ekspertów.

In my setting, residents got involved in robotic surgery in medical school

Widziałem, jak rezydenci angażowali się w zautomatyzowane operacje

na studiach medycznych kosztem podstawowej edukacji.

at the expense of their generalist education.

And they spent hundreds of extra hours with simulators and recordings of surgery,

Spędzili setki dodatkowych godzin,

pracując na symulatorach i z nagraniami z operacji,

when you were supposed to learn in the OR.

zamiast uczyć się na sali operacyjnej.

And maybe most importantly, they found ways to struggle

Może najważniejsze jest to, że nauczyli się radzić sobie

in live procedures with limited expert supervision.

przy prawdziwych zabiegach bez nadzoru eksperckiego.

I call all this “shadow learning,” because it bends the rules

Nazywam to "nauką w cieniu", ponieważ nagina się zasady,

and learner’s do it out of the limelight.

a uczeń znajduje się poza centrum uwagi.

And everyone turns a blind eye because it gets results.

Wszyscy przymykają na to oko, bo przecież to działa.

Remember, these are the star pupils of the bunch.

Pamiętajmy, że to najwybitniejsi uczniowie w grupie.

Now, obviously, this is not OK, and it’s not sustainable.

Oczywiście, to nie jest OK i nie podziała na dłuższą metę.

No one should have to risk getting fired

Chęć nabycia umiejętności zawodowych nie powinna powodować ryzyka utraty pracy.

to learn the skills they need to do their job.

But we do need to learn from these people.

Jednak powinniśmy się uczyć od tych osób.

They took serious risks to learn.

Podjęli ryzyko, żeby zdobyć wiedzę.

They understood they needed to protect struggle and challenge in their work

Wiedzieli, że muszą bronić wysiłku i wyzwań w pracy,

so that they could push themselves to tackle hard problems

żeby umieć zmierzyć się z ciężkimi przypadkami

right near the edge of their capacity.

w granicach swoich kompetencji.

They also made sure there was an expert nearby

Zapewnili też sobie wsparcie eksperta,

to offer pointers and to backstop against catastrophe.

który miał dawać wskazówki i zapobiegać katastrofom.

Let’s build this combination of struggle and expert support

Zastosujmy połączenie wysiłku i wsparcia specjalisty

into each AI implementation.

w każdej pracy ze sztuczną inteligencją.

Here’s one clear example I could get of this on the ground.

Podam przykład na to, jak mogłoby to wyglądać.

Przed erą robotów

Before robots,

saper rozbrajał ładunek wybuchowy, podchodząc do niego.

if you were a bomb disposal technician, you dealt with an IED by walking up to it.

A junior officer was hundreds of feet away,

Młodszy oficer znajdował się setki metrów dalej,

so could only watch and help if you decided it was safe

więc mógł tylko patrzeć i pomóc, jeśli było to bezpieczne

and invited them downrange.

i jeśli technik go zawołał.

Now you sit side-by-side in a bomb-proof truck.

Teraz siedzimy w pancernej ciężarówce.

You both watched the video feed.

Po obejrzeniu podglądu z kamery,

They control a distant robot, and you guide the work out loud.

uczniowie zaczynają kontrolować robota, a ekspert prowadzi pracę.

Trainees learn better than they did before robots.

Teraz praktykanci uczą się lepiej niż przed erą robotów.

We can scale this to surgery, start-ups, policing,

Możemy tę wiedzę przenieść na chirurgię, start-upy, policję,

investment banking, online education and beyond.

banki inwestycyjne, edukację online i na inne dziedziny.

The good news is we’ve got new tools to do it.

Dobrą wiadomością jest to, że nowe narzędzia nam pomogą.

The internet and the cloud mean we don’t always need one expert for every trainee,

Dzięki Internetowi i chmurze nie zawsze potrzebujemy

jednego eksperta na każdego praktykanta,

for them to be physically near each other or even to be in the same organization.

żeby fizycznie byli obok siebie i nawet nie muszą być w tej samej organizacji.

And we can build AI to help:

Możemy wykorzystać sztuczną inteligencję

to coach learners as they struggle, to coach experts as they coach

do wspierania uczniów podczas nauki, a ekspertów, kiedy monitorują uczniów,

and to connect those two groups in smart ways.

i inteligentnie połączyć te dwie grupy.

There are people at work on systems like this,

Są ludzie, którzy pracują nad takimi systemami,

but they’ve been mostly focused on formal training.

ale skupiają się głównie na uczelnianej praktyce,

And the deeper crisis is in on-the-job learning.

a największy kryzys obejmuje szkolenie w pracy.

We must do better.

Musimy się do tego lepiej zabrać.

Today’s problems demand we do better

Dzisiejsze problemy wymagają od nas tego,

to create work that takes full advantage of AI’s amazing capabilities

żeby stworzyć w pracy takie środowisko,

w którym w pełni wykorzystuje się sztuczną inteligencję,

while enhancing our skills as we do it.

jednocześnie rozwijając nasze umiejętności.

That’s the kind of future I dreamed of as a kid.

O takiej przyszłości marzyłem za dziecka.

And the time to create it is now.

Teraz jest moment, żeby to marzenie spełnić.

Thank you.

Dziękuję.

(Applause)

(Brawa)