Ken Goldberg: 4 lessons from robots about being human

Кен Голдберг: 4 истины, созданные роботами и предназначенные для людей

Translator: Morton Bast Reviewer: Thu-Huong Ha

Переводчик: Elizaveta Razgon Редактор: Aliaksandr Autayeu

I know this is going to sound strange,

Я знаю, что это прозвучит странно,

but I think robots can inspire us to be better humans.

но я считаю, что роботы могут

научить нас человечности.

Я вырос в Бетлехеме, штат Пенсильвания,

See, I grew up in Bethlehem, Pennsylvania,

the home of Bethlehem Steel.

где находится Бетлехемский сталелитейный завод.

My father was an engineer,

Мой отец был инженером,

и в процессе моего взросления он показывал мне,

and when I was growing up, he would teach me how things worked.

как устроен мир.

Мы вместе работали над разными проектами:

We would build projects together,

like model rockets and slot cars.

игрушечными ракетами или моделями автомобилей.

Here's the go-kart that we built together.

Вот карт, который мы вместе собрали.

Я за рулём, моя сестра

That's me behind the wheel,

with my sister and my best friend at the time.

и мой лучший друг.

And one day,

Однажды отец пришёл домой,

he came home, when I was about 10 years old,

мне тогда было около десяти лет,

and at the dinner table, he announced

и за ужином объявил,

that for our next project, we were going to build ...

что следующим нашим проектом станет робот.

a robot.

A robot.

Робот!

Я был в восторге,

Now, I was thrilled about this,

because at school, there was a bully named Kevin,

потому что в школе

учился парень по имени Кевин,

который все время донимал меня,

and he was picking on me,

because I was the only Jewish kid in class.

так как я был единственным евреем в классе.

So I couldn't wait to get started to work on this,

Я не мог дождаться начала проекта,

so I could introduce Kevin to my robot.

мне очень хотелось познакомить Кевина с моим роботом. (Смех)

(Laughter)

(Robot noises)

(Механические звуки)

(Laughter)

But that wasn't the kind of robot my dad had in mind.

Но не о таком роботе говорил мой отец,

(Laughter)

See, he owned a chromium-plating company,

Его компания занималась хромированием,

and they had to move heavy steel parts between tanks of chemicals.

и им приходилось перемещать

тяжёлые стальные детали между баками с химикатами.

Отцу нужен был промышленный робот,

And so he needed an industrial robot like this,

that could basically do the heavy lifting.

который мог бы поднимать тяжёлые предметы.

But my dad didn't get the kind of robot he wanted, either.

Но даже такого робота нам создать не удалось.

He and I worked on it for several years,

Мы работали над ним несколько лет,

but it was the 1970s, and the technology that was available to amateurs

но это были 1970 годы,

и технологии ещё не были

в свободном доступе.

just wasn't there yet.

So Dad continued to do this kind of work by hand.

Папе пришлось продолжать всё делать вручную,

And a few years later,

и несколько лет спустя

he was diagnosed with cancer.

ему диагностировали рак.

You see,

Тот робот, над которым мы работали,

what the robot we were trying to build was telling him

мог бы не просто поднимать тяжести вместо отца,

was not about doing the heavy lifting.

It was a warning

но и уберечь его от контакта с токсичными химикатами.

about his exposure to the toxic chemicals.

Тогда он этого не понимал,

He didn't recognize that at the time,

and he contracted leukemia.

и заработал лейкемию.

And he died at the age of 45.

Он умер в 45 лет.

Для меня это было ударом.

I was devastated by this.

And I never forgot the robot that he and I tried to build.

Я не смог забыть робота, которого мы пытались создать.

When I was at college, I decided to study engineering, like him.

Я решил учиться конструированию, и продолжить дело отца.

Я поступил в университет Карнеги-Меллона, и защитил докторскую по робототехнике.

And I went to Carnegie Mellon, and I earned my PhD in robotics.

I've been studying robots ever since.

С тех пор я изучаю роботов.

So what I'd like to tell you about are four robot projects,

Я хочу рассказать вам о четырёх проектах,

связанных с роботами,

и о том, чему они меня научили.

and how they've inspired me to be a better human.

By 1993, I was a young professor at USC,

В 1993 я был молодым профессором университета Южной Калифорнии,

and I was just building up my own robotics lab,

я создавал свою лабораторию по робототехнике.

and this was the year the World Wide Web came out.

В тот же год был создан интернет.

And I remember my students were the ones who told me about it,

Мои студенты рассказали

мне об этом открытии.

and we would -- we were just amazed.

Это было невероятно.

We started playing with this, and that afternoon,

Мы стали собирать идеи, и в тот же день

we realized that we could use this new, universal interface

мы поняли, что можно создать универсальный интерфейс,

to allow anyone in the world to operate the robot in our lab.

который позволит любому человеку

управлять роботом в нашей лаборатории.

Вместо создания робота-бойца, или промышленного робота,

So, rather than have it fight or do industrial work,

we decided to build a planter,

мы создали клумбу,

put the robot into the center of it,

посадили робота в её центр,

and we called it the Telegarden.

и назвали это «Телесад».

And we had put a camera in the gripper of the hand of the robot,

Мы прикрепили камеру к зажиму, установленному

на руке робота, и написали скрипты и программу,

and we wrote some special scripts and software,

с помощью которой любой человек может подключиться

so that anyone in the world could come in,

и, щёлкая на картинки на экране,

and by clicking on the screen,

they could move the robot around and visit the garden.

передвигать робота

и рассматривать сад.

But we also set up some other software

Кроме того, мы создали программу,

that lets you participate and help us water the garden, remotely.

которая позволяла удалённо поливать сад.

После нескольких поливов,

And if you watered it a few times,

we'd give you your own seed to plant.

пользователям предлагалось посадить семя.

Now, this was an engineering project,

Это было инженерным проектом,

and we published some papers on the system design of it,

мы опубликовали несколько статей

по системному дизайну этого робота, но он воспринимался больше

but we also thought of it as an art installation.

как предмет искусства.

It was invited, after the first year,

Спустя год австрийский музей электроники

by the Ars Electronica Museum in Austria,

предложил установить наш Телесад

to have it installed in their lobby.

у себя в лобби.

Я горжусь тем, что проект оставался онлайн

And I'm happy to say, it remained online there, 24 hours a day,

24 часа в сутки в течение 9 лет.

for almost nine years.

That robot was operated by more people

Этим роботом управляло наибольшее

than any other robot in history.

количество людей в истории робототехники.

Now, one day,

Однажды

I got a call out of the blue from a student,

мне неожиданно позвонил

студент,

who asked a very simple but profound question.

который задал простой, но мудрый вопрос.

«Этот робот настоящий?»

He said, "Is the robot real?"

Now, everyone else had assumed it was,

Все остальные не сомневались в его реальности,

and we knew it was, because we were working with it.

и мы знали это, ведь мы над ним работали.

But I knew what he meant,

Но я понял, о чем он говорит,

because it would be possible

ведь можно было разместить несколько

to take a bunch of pictures of flowers in a garden

фотографий садовых цветов в системе так,

and then, basically, index them in a computer system,

чтобы казалось, что есть робот,

such that it would appear that there was a real robot,

даже если бы его на самом деле не существовало.

when there wasn't.

And the more I thought about it,

Чем больше я об этом думал,

I couldn't think of a good answer for how he could tell the difference.

тем сложнее было доказать, что робот существует.

Как раз в это время я получил должность

This was right about the time that I was offered a position

в университете Беркли,

here at Berkeley.

And when I got here,

где я встретил Хьюберта Дрейфуса,

I looked up Hubert Dreyfus,

who's a world-renowned professor of philosophy,

всемирно известного профессора философии.

And I talked with him about this and he said,

Я рассказал ему эту историю, и он ответил:

«Это одна из древнейших и сложнейших проблем

"This is one of the oldest and most central problems in philosophy.

философии. Она обращается к скептицизму

It goes back to the Skeptics and up through Descartes.

и работам Рене Декарта.

It's the issue of epistemology,

Это вопрос эпистемологии,

the study of how do we know that something is true."

учения о том, как распознать правду».

So he and I started working together,

Мы начали работать вместе

and we coined a new term: "telepistemology,"

и создали новый термин: «телепистемология»,

учение о распознании правды на расстоянии.

the study of knowledge at a distance.

We invited leading artists, engineers and philosophers

Мы пригласили лучших художников, инженеров

и философов, чтобы они написали об этом,

to write essays about this,

and the results are collected in this book from MIT Press.

и результаты нашей работы

собраны в этой книге.

So thanks to this student,

Благодаря студенту, который усомнился в том,

who questioned what everyone else had assumed to be true,

в чем другие были уверенны,

this project taught me an important lesson about life,

я усвоил одну очень важную истину:

which is to always question assumptions.

«Подкрепляй предположения фактами».

Now, the second project I'll tell you about

Второй проект, о котором я расскажу,

grew out of the Telegarden.

был следствием Телесада.

As it was operating, my students and I were very interested

В процессе работы мои студенты увлеклись тем,

in how people were interacting with each other,

как люди взаимодействовали друг с другом

and what they were doing with the garden.

и что они делали в саду.

Мы задумались — что если вывести робота из сада

So we started thinking:

what if the robot could leave the garden

и поместить его в другую,

and go out into some other interesting environment?

более интересную обстановку?

Like, for example, what if it could go to a dinner party

Например, отправить его на ужин

в Белый Дом. (Смех)

at the White House?

(Laughter)

So, because we were interested more in the system design

Нас больше интересовал дизайн системы

and the user interface than in the hardware,

и пользовательский интерфейс, а не техника,

we decided that,

мы решили, что будет интереснее

rather than have a robot replace the human to go to the party,

вместо замены человека роботом,

we'd have a human replace the robot.

заменить робота человеком.

We called it the Tele-Actor.

Мы назвали это «Телеактёр».

We got a human,

Мы нашли девушку,

someone who's very outgoing and gregarious,

очень общительную и дружелюбную,

and she was outfitted with a helmet with various equipment,

надели на неё шлем

оснащённый специальным оборудованием, камерами и микрофонами,

cameras and microphones,

and then a backpack with wireless Internet connection.

а в рюкзак встроили беспроводной интернет.

And the idea was that she could go

Мы поместили её в интересную ситуацию,

into a remote and interesting environment,

чтобы пользователи могли через Интернет

and then over the Internet,

people could experience what she was experiencing.

переживать то, что переживает она,

So they could see what she was seeing,

и видеть то, что видит она,

but then, more importantly, they could participate,

и самое главное — они моги участвовать,

by interacting with each other and coming up with ideas

взаимодействовать друг с другом,

чтобы влиять на её поступки

about what she should do next and where she should go,

и передвижения,

and then conveying those to the Tele-Actor.

и передавать свои идеи Телеактёру.

So we got a chance to take the Tele-Actor

Нам представилась возможность отправить Телеактёра

to the Webby Awards in San Francisco.

на вручение премии Вэбби в Сан Франциско. [премия за лучшие интернет-проекты]

And that year, Sam Donaldson was the host.

В тот год ведущим был Сэм Дональдсон,

Перед началом шоу у меня было полминуты,

Just before the curtain went up, I had about 30 seconds

чтобы объяснить ему суть эксперимента,

to explain to Mr. Donaldson what we were going to do.

я сказал: «Телеактёр

And I said, "The Tele-Actor is going to be joining you onstage.

выйдет к Вам на сцену,

This is a new experimental project,

это новый экспериментальный проект,

люди следят за ней через интернет,

and people are watching her on their screens,

there's cameras involved and there's microphones

у неё установлены камеры и микрофоны,

а в ушах у неё наушники-передатчики,

and she's got an earbud in her ear,

and people over the network are giving her advice

и люди через интернет советуют ей,

что делать дальше».

about what to do next."

А он ответил: «Погоди-ка,

And he said, "Wait a second.

That's what I do."

ты только что описал меня». (Смех)

(Laughter)

So he loved the concept,

Ему понравилась наша идея,

and when the Tele-Actor walked onstage, she walked right up to him,

и когда Телеактёр вышла на сцену,

она подошла и поцеловала его

and she gave him a big kiss right on the lips.

прямо в губы. (Смех)

(Laughter)

We were totally surprised -- we had no idea that would happen.

Мы были в шоке.

Никто не думал, что такое произойдёт.

And he was great, he just gave her a big hug in return,

Он молодец, крепко обнял её,

and it worked out great.

смотрелось это отлично.

But that night, as we were packing up,

Позже, когда мы убирали оборудование,

I asked the Tele-Actor, how did the Tele-Directors decide

я спросил Телеактёра, как пользователи

решили, что она должна поцеловать Дональдсона.

that they would give a kiss to Sam Donaldson?

And she said they hadn't.

Она ответила, что они не решали.

She said, when she was just about to walk onstage,

Когда она уже выходила на сцену,

the Tele-Directors still were trying to agree on what to do,

они все ещё не могли решить, что ей делать,

and so she just walked onstage and did what felt most natural.

так что она просто вышла и сделала то,

что показалось естественным. (Смех)

(Laughter)

So, the success of the Tele-Actor that night

Её успех в тот вечер

was due to the fact that she was a wonderful actor.

был обусловлен её артистизмом.

She knew when to trust her instincts.

Она доверилась своим инстинктам,

And so that project taught me another lesson about life,

а я вынес ещё один важный урок:

which is that, when in doubt, improvise.

«Не знаешь, что делать — импровизируй». (Смех)

(Laughter)

Now, the third project grew out of my experience

Третий проект вырос из моих переживаний

тех времён, когда отец лежал в больнице.

when my father was in the hospital.

Он проходил лечение,

He was undergoing a treatment -- chemotherapy treatments --

химиотерапию, а также другой тип,

and there's a related treatment called brachytherapy,

брахитерапию, когда крошечные радиоактивные частицы

where tiny, radioactive seeds are placed into the body

внедряются в тело, чтобы способствовать лечению опухоли.

to treat cancerous tumors.

And the way it's done, as you can see here,

На схеме вы видите, как это происходит:

is that surgeons insert needles into the body

хирурги вставляют в тело иглы,

to deliver the seeds.

чтобы внедрить радиоактивные частицы,

And all these needles are inserted in parallel.

и иглы все вставляются параллельно.

So it's very common that some of the needles penetrate sensitive organs.

Часто бывает, что иглы

задевают чувствительные органы

And as a result, the needles damage these organs, cause damage,

и повреждают их,

which leads to trauma and side effects.

приводя к травмам и побочным эффектам.

So my students and I wondered:

Мы со студентами задумались,

what if we could modify the system,

можно ли изменить систему так,

so that the needles could come in at different angles?

чтобы иглы вставлялась под разными углами.

So we simulated this;

Мы создали модель и несколько

we developed some optimization algorithms and we simulated this.

оптимизированных алгоритмов,

And we were able to show

чтобы было видно, как можно избежать

that we are able to avoid the delicate organs,

поражения чувствительных органов,

and yet still achieve the coverage of the tumors with the radiation.

при этом обработав радиацией опухоль.

So now, we're working with doctors at UCSF

Мы сотрудничали с докторами Калифорнийского Университета

and engineers at Johns Hopkins,

и инженерами из университета Джона Хопкинса.

and we're building a robot that has a number of --

Мы создали робота, основой строения

it's a specialized design with different joints

которого стали шарниры, которые позволили

that can allow the needles to come in at an infinite variety of angles.

иглам проникать в тело под разными углами,

And as you can see here, they can avoid delicate organs

на схеме видно, что чувствительные органы не затронуты,

и при этом иглы проникают в опухоль.

and still reach the targets they're aiming for.

Оспорив убеждение, что иглы должны быть параллельны,

So, by questioning this assumption that all the needles have to be parallel,

этот проект преподал мне

this project also taught me an important lesson:

ещё один важный урок:

When in doubt, when your path is blocked, pivot.

преграды на пути можно обойти.

And the last project also has to do with medical robotics.

Четвёртый проект тоже относится к медицине.

And this is something that's grown out of a system

Он развился из системы

called the da Vinci surgical robot.

«хирургический робот да Винчи».

And this is a commercially available device.

Этот прибор доступен на широком рынке.

It's being used in over 2,000 hospitals around the world.

Он используется в более чем 2 000 больницах по всему миру.

Он позволяет хирургу

The idea is it allows the surgeon to operate comfortably

спокойно оперировать с помощью робота.

in his own coordinate frame.

Многие мелкие действия в хирургии

Many of the subtasks in surgery are very routine and tedious, like suturing,

довольно скучны и рутинны, например, наложение швов,

and currently, all of these are performed

и сейчас они выполняются

under the specific and immediate control of the surgeon.

под внимательным контролем хирурга.

So the surgeon becomes fatigued over time.

Хирург постоянно сосредоточен.

Мы задались вопросом,

And we've been wondering,

what if we could program the robot to perform some of these subtasks,

возможно ли запрограммировать робота так,

чтобы он мог сам выполнять мелкие задачи,

and thereby free the surgeon

тем самым освободив хирургов

to focus on the more complicated parts of the surgery,

для более сложных хирургических действий,

and also cut down on the time that the surgery would take

а также сократить время операции,

if we could get the robot to do them a little bit faster?

научив робота действовать быстро.

Now, it's hard to program a robot to do delicate things like this.

Сложно обучить робота таким изящным действиям,

но мой коллега, Питер Аббель,

But it turns out my colleague Pieter Abbeel, who's here at Berkeley,

работающий в Беркли, разработал

has developed a new set of techniques for teaching robots from example.

систему обучения роботов по определённому образцу.

So he's gotten robots to fly helicopters,

Он научил роботов водить вертолёты,

do incredibly interesting, beautiful acrobatics,

совершая невероятные воздушные трюки,

by watching human experts fly them.

по образцу людей-пилотов.

У нас был один из этих роботов.

So we got one of these robots.

We started working with Pieter and his students.

Мы с Питером и его студентами приступили к работе

And we asked a surgeon to perform a task --

и попросили хирурга продемонстрировать

определённую процедуру,

with the robot.

So what we're doing is asking the surgeon to perform the task,

робот под руководством хирурга

совершает действие,

and we record the motions of the robot.

и мы записываем его движения.

So here's an example.

Например, знак бесконечности.

I'll use tracing out a figure eight as an example.

Написание знака бесконечности.

Вот так выглядит написание

So here's what it looks like when the robot --

this is what the robot's path looks like, those three examples.

бесконечности, совершённое роботом,

эти три образца.

Now, those are much better than what a novice like me could do,

Если бы я сел за аппарат, у меня

получилось бы ещё хуже, но всё же они кривоваты.

but they're still jerky and imprecise.

So we record all these examples, the data,

Мы записали эти образцы в базу данных,

затем проследили последовательность действий.

and then go through a sequence of steps.

Сначала мы применили динамическую деформацию шкалы времени

First, we use a technique called dynamic time warping

from speech recognition.

с распознаванием речи, что позволило

And this allows us to temporally align all of the examples.

временно выровнять образцы,

And then we apply Kalman filtering, a technique from control theory,

а дальше мы применили фильтр Кальмана,

технику из теории управления,

that allows us to statistically analyze all the noise

чтобы статистически проанализировать колебания

и вывести нужную траекторию, уменьшающую их.

and extract the desired trajectory that underlies them.

Now we take those human demonstrations --

То есть мы берём искажённые образцы,

they're all noisy and imperfect --

созданные человеком, вычисляем

and we extract from them an inferred task trajectory

траекторию движения и создаём

and control sequence for the robot.

последовательность действий робота.

We then execute that on the robot,

Дальше мы тестируем её при помощи робота

we observe what happens,

и смотрим на результат.

then we adjust the controls,

Подгоняем движения с помощью техники

using a sequence of techniques called iterative learning.

итеративного обучения.

Then what we do is we increase the velocity a little bit.

Потом увеличиваем скорость.

We observe the results, adjust the controls again,

Смотрим на результат, снова подгоняем скрипт

и снова смотрим на результат.

and observe what happens.

And we go through this several rounds.

После нескольких попыток

And here's the result.

мы получаем конечный результат.

That's the inferred task trajectory,

Это конечная траектория движений,

and here's the robot moving at the speed of the human.

выполняемая роботом со скоростью человека.

Here's four times the speed of the human.

Эта выполнена в четыре раза быстрее человека.

Here's seven times.

В семь раз быстрее.

And here's the robot operating at 10 times the speed of the human.

Вот работа робота в десять раз

превышающая скорость человека.

So we're able to get a robot to perform a delicate task

Мы сумели научить робота выполнять такую тонкую работу,

like a surgical subtask,

как хирургическая процедура,

at 10 times the speed of a human.

в 10 раз быстрее человека.

So this project also,

Благодаря постоянной проработке

because of its involved practicing and learning,

и обучению, повторению действий,

doing something over and over again,

this project also has a lesson, which is:

этот проект вывел ещё один важный урок —

if you want to do something well,

если хочешь добиться успеха,

придётся много тренироваться.

there's no substitute for practice, practice, practice.

Этим четырём истинам я учился

So these are four of the lessons that I've learned from robots

у роботов много лет,

over the years.

и со временем сфера робототехники

And the field of robotics has gotten much better over time.

сильно эволюционировала.

Nowadays, high school students can build robots,

Сегодня школьники могут создать робота,

like the industrial robot my dad and I tried to build.

которого нам с отцом сделать не удалось.

But, it's very -- now ...

У меня есть дочь,

And now, I have a daughter,

named Odessa.

её зовут Одесса.

She's eight years old.

Ей восемь лет,

And she likes robots, too.

и она тоже любит роботов.

Maybe it runs in the family.

Наверное, это семейное. (Смех)

(Laughter)

I wish she could meet my dad.

Я бы хотел познакомить её с моим отцом.

And now I get to teach her how things work,

Теперь я учу её, как устроен мир,

and we get to build projects together.

мы вместе работаем над проектами.

And I wonder what kind of lessons she'll learn from them.

Интересно, чему она научится у роботов.

Robots are the most human of our machines.

Роботы наиболее человечные

из всех механизмов.

They can't solve all of the world's problems,

Они не решат мировые проблемы,

but I think they have something important to teach us.

но они могут многому нас научить.

I invite all of you

Я предлагаю всем вам подумать о технологиях,

to think about the innovations that you're interested in,

которые вам интересны,

the machines that you wish for.

о механизмах, о которых вы мечтаете,

And think about what they might be telling you.

подумайте о том, какой они несут смысл.

Я подозреваю,

Because I have a hunch that many of our technological innovations,

что многие наши высокие технологии,

the devices we dream about,

устройства нашей мечты,

могут научить нас быть лучше.

can inspire us to be better humans.

Thank you.

Спасибо. (Аплодисменты)

(Applause)