What AI is -- and isn't | Sebastian Thrun and Chris Anderson

Переводчик: Elena Malykh Редактор: Pavel Yudaev

Chris Anderson: Help us understand what machine learning is,

Крис Андерсон: Объясните нам, что такое машинное обучение,

because that seems to be the key driver

так как, кажется, это ключевая причина

of so much of the excitement and also of the concern

бурного восторга, а также беспокойства

around artificial intelligence.

вокруг искусственного интеллекта.

How does machine learning work?

Как работает машинное обучение?

Sebastian Thrun: So, artificial intelligence and machine learning

Себастьян Трун: Искусственному интеллекту и машинному обучению

is about 60 years old

около 60-ти лет,

and has not had a great day in its past until recently.

но наилучшее для них время настало совсем недавно.

And the reason is that today,

Причина в том, что сегодня

we have reached a scale of computing and datasets

мы достигли того уровня вычислений и объёма данных,

that was necessary to make machines smart.

который был необходим, чтобы сделать машины умными.

So here's how it works.

Вот как это работает.

If you program a computer today, say, your phone,

Если сегодня вы создаёте программу для компьютера или смартфона,

then you hire software engineers

то нанимаете инженеров-программистов,

that write a very, very long kitchen recipe,

которые пишут длиннющий кулинарный рецепт,

like, "If the water is too hot, turn down the temperature.

например: «Если вода слишком горячая, уменьшите температуру.

If it's too cold, turn up the temperature."

Если слишком холодная, увеличьте температуру».

The recipes are not just 10 lines long.

Только эти рецепты длиной не в 10 строк.

They are millions of lines long.

Они содержат миллионы строк.

A modern cell phone has 12 million lines of code.

У современного мобильного телефона — код в 12 миллионов строк.

A browser has five million lines of code.

У браузера — пять миллионов строк кода.

And each bug in this recipe can cause your computer to crash.

И каждая ошибка в таком рецепте может вызвать сбой в работе компьютера.

That's why a software engineer makes so much money.

Именно поэтому инженер-программист так много зарабатывает.

The new thing now is that computers can find their own rules.

Новизна в том, что сегодня компьютеры сами могут находить свои правила.

So instead of an expert deciphering, step by step,

Поэтому вместо эксперта, пошагово расшифровывающего

a rule for every contingency,

правило для каждого непредвиденного случая,

what you do now is you give the computer examples

теперь вы даёте компьютеру образцы,

and have it infer its own rules.

и он сам делает выводы.

A really good example is AlphaGo, which recently was won by Google.

Хорошим примером является AlphaGo, программа, недавно созданная Google.

Normally, in game playing, you would really write down all the rules,

Обычно, участвуя в игре, вы записывали все правила,

but in AlphaGo's case,

но в случае с AlphaGo

the system looked over a million games

система изучила более миллиона игр,

and was able to infer its own rules

смогла вывести свои правила

and then beat the world's residing Go champion.

и выиграла у действующего чемпиона мира по игре в го.

That is exciting, because it relieves the software engineer

Это замечательно, так как это помогает программисту.

of the need of being super smart,

Ему не нужно быть очень умным;

and pushes the burden towards the data.

всё сводится к данным.

As I said, the inflection point where this has become really possible --

Как я уже сказал, точка перегиба, где это стало реально возможно...

very embarrassing, my thesis was about machine learning.

очень неловко, моя диссертация была о машинном обучении.

It was completely insignificant, don't read it,

Она не заслуживала внимания, не читайте её,

because it was 20 years ago

ведь это было 20 лет назад,

and back then, the computers were as big as a cockroach brain.

когда компьютеры были такими же умными, как тараканы.

Now they are powerful enough to really emulate

Теперь они достаточно мощные, чтобы имитировать

kind of specialized human thinking.

специализированное человеческое мышление.

And then the computers take advantage of the fact

А также компьютеры пользуются тем,

that they can look at much more data than people can.

что они могут изучить гораздо больше данных, чем люди.

So I'd say AlphaGo looked at more than a million games.

Я бы сказал, что AlphaGo изучила более миллиона игр.

No human expert can ever study a million games.

Никакой человек–специалист не может изучить миллион игр.

Google has looked at over a hundred billion web pages.

Google изучил более ста миллиардов веб-страниц.

No person can ever study a hundred billion web pages.

Человек не может изучить сто миллиардов веб-страниц.

So as a result, the computer can find rules

В результате компьютер может найти те правила,

that even people can't find.

которые даже люди найти не могут.

CA: So instead of looking ahead to, "If he does that, I will do that,"

КА: То есть вместо того, чтобы думать: «Если он сделает это, я сделаю то»,

it's more saying, "Here is what looks like a winning pattern,

он, скорее, говорит: «Вот это выглядит лучше всего,

here is what looks like a winning pattern."

вот это выглядит наилучшим образом».

ST: Yeah. I mean, think about how you raise children.

СТ: Да, подумайте, как вы растите детей.

You don't spend the first 18 years giving kids a rule for every contingency

Вы не тратите первые 18 лет, давая детям инструкции по каждому поводу,

and set them free and they have this big program.

вы даёте им свободу без такой подробной программы.

They stumble, fall, get up, they get slapped or spanked,

Они спотыкаются, падают, встают, их ругают или шлёпают;

and they have a positive experience, a good grade in school,

у них появляются и положительный опыт, хорошие оценки в школе,

and they figure it out on their own.

и они понимают всё это сами.

That's happening with computers now,

То же самое сейчас с компьютерами,

which makes computer programming so much easier all of a sudden.

и это неожиданно делает программирование гораздо легче.

Now we don't have to think anymore. We just give them lots of data.

Сейчас нам больше не нужно думать. Мы просто даём им много данных.

CA: And so, this has been key to the spectacular improvement

КА: Это стало ключевым фактором для впечатляющего улучшения

in power of self-driving cars.

способностей беспилотных автомобилей.

I think you gave me an example.

Я думаю, что вы показали мне пример.

Can you explain what's happening here?

Можете ли вы объяснить, что здесь происходит?

ST: This is a drive of a self-driving car

СТ: Это поездка беспилотного автомобиля,

that we happened to have at Udacity

который был у нас на Udacity;

and recently made into a spin-off called Voyage.

его сейчас преобразовали в побочный продукт Voyage.

We have used this thing called deep learning

Мы использовали так называемое глубокое обучение,

to train a car to drive itself,

чтобы обучить машину ездить самой;

and this is driving from Mountain View, California,

и здесь она едет из Маунтин-Вью, Калифорния,

to San Francisco

до Сан-Франциско

on El Camino Real on a rainy day,

по Эль Камино Реал в дождливый день,

with bicyclists and pedestrians and 133 traffic lights.

с велосипедистами, пешеходами и 133-мя светофорами.

And the novel thing here is,

Новизна в том —

many, many moons ago, I started the Google self-driving car team.

давным-давно я основал в Google группу по беспилотным автомобилям.

And back in the day, I hired the world's best software engineers

Тогда я нанял лучших в мире инженеров-программистов,

to find the world's best rules.

чтобы найти наилучшие правила.

This is just trained.

Эту обучили недавно.

We drive this road 20 times,

Мы проехали эту дорогу 20 раз,

we put all this data into the computer brain,

мы внесли все эти данные в мозг компьютера,

and after a few hours of processing,

и после нескольких часов обработки

it comes up with behavior that often surpasses human agility.

он приобрёл характеристики, часто превосходящие способности человека.

So it's become really easy to program it.

Программировать его стало очень легко.

This is 100 percent autonomous, about 33 miles, an hour and a half.

Он автономный на 100% и покрывает 53 километра за полтора часа.

CA: So, explain it -- on the big part of this program on the left,

КА: Итак, объясните мне: в большой, левой части этой программы

you're seeing basically what the computer sees as trucks and cars

вы видите, в общем, то, что компьютер видит как машины и грузовики,

and those dots overtaking it and so forth.

и эти точки, обгоняющие его, и так далее.

ST: On the right side, you see the camera image, which is the main input here,

СТ: Справа вы видите изображение с камеры, являющееся основным источником данных

and it's used to find lanes, other cars, traffic lights.

для поиска полос движения, других машин, светофоров.

The vehicle has a radar to do distance estimation.

У машины есть радар для оценки расстояния.

This is very commonly used in these kind of systems.

Его очень часто используют в системах такого типа.

On the left side you see a laser diagram,

Слева вы видите лазерную диаграмму

where you see obstacles like trees and so on depicted by the laser.

с деревьями и другими препятствиями, изображёнными лазером.

But almost all the interesting work is centering on the camera image now.

Но почти вся интересная работа нынче связана с изображением из камеры.

We're really shifting over from precision sensors like radars and lasers

Мы в самом деле переходим от высокоточных датчиков — радаров и лазеров —

into very cheap, commoditized sensors.

к дешёвым сенсорам массового спроса.

A camera costs less than eight dollars.

Камера стоит менее восьми долларов.

CA: And that green dot on the left thing, what is that?

КА: А эта зелёная точка в левой части, что это такое?

Is that anything meaningful?

Это что-то важное?

ST: This is a look-ahead point for your adaptive cruise control,

СТ: Это точка взгляда вперёд вашего адаптивного круиз–контроля.

so it helps us understand how to regulate velocity

Она помогает ему понять, как отрегулировать скорость,

based on how far the cars in front of you are.

основываясь на расстоянии до автомобилей впереди.

CA: And so, you've also got an example, I think,

КА: Я думаю, у вас заодно есть пример того,

of how the actual learning part takes place.

как в действительности происходит обучение.

Maybe we can see that. Talk about this.

Можем ли мы это увидеть? Расскажите об этом.

ST: This is an example where we posed a challenge to Udacity students

СТ: Это пример сложного задания, которое мы дали студентам Udacity,

to take what we call a self-driving car Nanodegree.

получающим наностепень по управлению беспилотным автомобилем.

We gave them this dataset

Мы дали им этот набор данных

and said "Hey, can you guys figure out how to steer this car?"

и сказали: «Можете ли вы, ребята, понять, как вести эту машину?»

And if you look at the images,

И если вы посмотрите на снимки —

it's, even for humans, quite impossible to get the steering right.

даже для людей практически невозможно правильно ей управлять.

And we ran a competition and said, "It's a deep learning competition,

Мы организовали конкурс и сказали: «Это конкурс по глубокому обучению,

AI competition,"

соревнование в ИИ» —

and we gave the students 48 hours.

и дали студентам 48 часов.

So if you are a software house like Google or Facebook,

Если вы — софтверная компания вроде Google или Facebook,

something like this costs you at least six months of work.

нечто подобное будет стоить вам как минимум полгода работы.

So we figured 48 hours is great.

Поэтому мы решили: 48 часов — это прекрасно.

And within 48 hours, we got about 100 submissions from students,

И в течение 48-ми часов мы получили около 100 решений от студентов.

and the top four got it perfectly right.

У четверых лучших это получилось идеально.

It drives better than I could drive on this imagery,

После глубокого обучения

она в этих условиях едет лучше меня.

using deep learning.

And again, it's the same methodology.

И опять, это тот же метод.

It's this magical thing.

Это волшебная вещь.

When you give enough data to a computer now,

Когда вы даёте компьютеру достаточно данных

and give enough time to comprehend the data,

и достаточно времени, чтобы их понять,

it finds its own rules.

он находит свои правила.

CA: And so that has led to the development of powerful applications

КА: И это привело к развитию мощных приложений

in all sorts of areas.

во всех областях.

You were talking to me the other day about cancer.

На днях вы мне говорили о раке.

Can I show this video?

Можно показать это видео?

ST: Yeah, absolutely, please. CA: This is cool.

СТ: Да, конечно, пожалуйста. КА: Отлично.

ST: This is kind of an insight into what's happening

СТ: Это как бы взгляд на то, что происходит

in a completely different domain.

в абсолютно другой области.

This is augmenting, or competing --

Это дополнение, или соперник —

it's in the eye of the beholder --

в зависимости от точки зрения, —

with people who are being paid 400,000 dollars a year,

для людей, которым платят 400 000 долларов в год:

dermatologists,

дерматологов,

highly trained specialists.

высококвалифицированных специалистов.

It takes more than a decade of training to be a good dermatologist.

Более десятилетия практики уходит на то, чтобы стать хорошим дерматологом.

What you see here is the machine learning version of it.

А здесь вы видите результат работы машинного обучения.

It's called a neural network.

Это называется нейронной сетью.

"Neural networks" is the technical term for these machine learning algorithms.

«Нейронные сети» — это технический термин для алгоритмов машинного обучения.

They've been around since the 1980s.

Они существовали с 1980-х годов.

This one was invented in 1988 by a Facebook Fellow called Yann LeCun,

Вот эта, изобретённая в 1988 году научным сотрудником Facebook Яном ЛеКуном,

and it propagates data stages

преобразует данные во внутренних слоях

through what you could think of as the human brain.

структуры, напоминающей человеческий мозг.

It's not quite the same thing, but it emulates the same thing.

Это не вполне то же самое, но имитирует тот же процесс.

It goes stage after stage.

Данные проходят слой за слоем.

In the very first stage, it takes the visual input and extracts edges

Первый слой берёт входящий визуальный сигнал и выделяет края,

and rods and dots.

штрихи и точки.

And the next one becomes more complicated edges

На следующем слое появляются более сложные очертания

and shapes like little half-moons.

и формы, такие как маленькие полумесяцы.

And eventually, it's able to build really complicated concepts.

И, в конечном счёте, она в состоянии создавать действительно сложные структуры.

Andrew Ng has been able to show

Эндрю Ын смог показать,

that it's able to find cat faces and dog faces

что она в состоянии находить морды кошек и собак

in vast amounts of images.

среди множества изображений.

What my student team at Stanford has shown is that

Моя группа студентов из Стэнфорда показала,

if you train it on 129,000 images of skin conditions,

что если вы тренируете её на 129 000 снимков состояний кожи,

including melanoma and carcinomas,

включая меланомы и карциномы,

you can do as good a job

вы можете достичь такого же хорошего результата,

as the best human dermatologists.

как лучшие специалисты-дерматологи.

And to convince ourselves that this is the case,

И чтобы убедить себя, что это так,

we captured an independent dataset that we presented to our network

мы создали независимую базу данных, которую мы дали нашей нейросети

and to 25 board-certified Stanford-level dermatologists,

и 25-ти сертифицированным врачам-дерматологам уровня Стэнфорда

and compared those.

и сравнили их результаты.

And in most cases,

И в большинстве случаев

they were either on par or above the performance classification accuracy

они были на уровне или выше показателей точности классификации

of human dermatologists.

специалистов–дерматологов.

CA: You were telling me an anecdote.

КА: Вы мне рассказали об одном случае.

I think about this image right here.

Я имею в виду вот это фото.

What happened here?

Что здесь случилось?

ST: This was last Thursday. That's a moving piece.

СТ: Это было в прошлый четверг. Это очень волнующая история.

What we've shown before and we published in "Nature" earlier this year

То, о чём я уже рассказал, мы опубликовали в журнале «Nature» в этом году.

was this idea that we show dermatologists images

Идея была: мы покажем фотографии дерматологам

and our computer program images,

и нашей компьютерной программе

and count how often they're right.

и проверим, часто ли они правы.

But all these images are past images.

Но все эти фотографии — из прошлого.

They've all been biopsied to make sure we had the correct classification.

Была сделана биопсия, чтобы удостовериться в их правильной классификации.

This one wasn't.

Для этой — не была.

This one was actually done at Stanford by one of our collaborators.

Эта была сделана одним из наших коллег из Стэнфорда.

The story goes that our collaborator,

Рассказывают, что один из наших коллег,

who is a world-famous dermatologist, one of the three best, apparently,

известный в мире дерматолог, вероятно, один из тройки лучших,

looked at this mole and said, "This is not skin cancer."

посмотрел на эту родинку и сказал: «Это не рак кожи».

And then he had a second moment, where he said,

И потом, немного подумав, он сказал:

"Well, let me just check with the app."

«Давайте я проверю в этом приложении».

So he took out his iPhone and ran our piece of software,

Итак, он взял свой iPhone и запустил нашу программу,

our "pocket dermatologist," so to speak,

нашего, так сказать, «карманного дерматолога»,

and the iPhone said: cancer.

и iPhone ответил: «Рак».

It said melanoma.

Он ответил: «Меланома».

And then he was confused.

Специалист смутился.

And he decided, "OK, maybe I trust the iPhone a little bit more than myself,"

Он решил: «Может быть, я доверяю устройству немного больше, чем себе»,

and he sent it out to the lab to get it biopsied.

и послал образец в лабораторию для прохождения биопсии.

And it came up as an aggressive melanoma.

И выяснилось, что это агрессивная меланома.

So I think this might be the first time that we actually found,

Возможно, это был первый реальный случай обнаружения болезни

in the practice of using deep learning,

в практике использования глубокого обучения;

an actual person whose melanoma would have gone unclassified,

реальный человек, чья меланома была бы не классифицирована,

had it not been for deep learning.

если бы не глубокое обучение.

CA: I mean, that's incredible.

КА: По-моему, это невероятно.

(Applause)

(Аплодисменты)

It feels like there'd be an instant demand for an app like this right now,

Кажется, что будет резкий спрос на подобные приложения,

that you might freak out a lot of people.

возможно, вы многих заставите занервничать.

Are you thinking of doing this, making an app that allows self-checking?

Думаете ли вы создать приложение, которое позволяло бы делать самопроверку?

ST: So my in-box is flooded about cancer apps,

СТ: Мой почтовый ящик полон писем о приложениях, касающихся рака,

with heartbreaking stories of people.

с душераздирающими рассказами людей.

I mean, some people have had 10, 15, 20 melanomas removed,

Я имею в виду, некоторым людям удалили 10, 15, 20 меланом,

and are scared that one might be overlooked, like this one,

и они боятся, что, возможно, ещё одну пропустили, как эту.

and also, about, I don't know,

Он полон писем о, ну, не знаю,

flying cars and speaker inquiries these days, I guess.

летающих автомобилях и приглашениями на доклады.

My take is, we need more testing.

Моё мнение — нам нужно больше тестов.

I want to be very careful.

Я хочу быть очень осторожным.

It's very easy to give a flashy result and impress a TED audience.

Очень легко рассказать о ярком результате и поразить аудиторию TED.

It's much harder to put something out that's ethical.

Гораздо труднее создать что-то этичное.

And if people were to use the app

Если бы люди воспользовались программой

and choose not to consult the assistance of a doctor

и выбрали бы не прибегать к разъяснениям врача,

because we get it wrong,

потому что мы ответили неверно,

I would feel really bad about it.

я бы очень сожалел о об этом.

So we're currently doing clinical tests,

Сейчас мы проводим клинические испытания,

and if these clinical tests commence and our data holds up,

и если они начнутся и подтвердят наши данные,

we might be able at some point to take this kind of technology

возможно, мы когда-то сможем вооружиться этой технологией,

and take it out of the Stanford clinic

взять её из Стэнфордской клиники

and bring it to the entire world,

и предоставить её всему миру,

places where Stanford doctors never, ever set foot.

в места, куда не ступает нога докторов из Стэнфорда.

CA: And do I hear this right,

КА: Правильно ли я вас понял,

that it seemed like what you were saying,

мне показалось, что вы говорили,

because you are working with this army of Udacity students,

поскольку вы работаете с этой армией студентов Udacity,

that in a way, you're applying a different form of machine learning

в каком-то смысле, вы используете иную форму машинного обучения,

than might take place in a company,

чем та, которую используют компании;

which is you're combining machine learning with a form of crowd wisdom.

а именно, вы сочетаете машинное обучение c мудростью толпы.

Are you saying that sometimes you think that could actually outperform

Не говорите ли вы, что иногда вы считаете, что этот подход может превзойти

what a company can do, even a vast company?

возможности компании, даже огромной?

ST: I believe there's now instances that blow my mind,

СТ: Я верю в то, что есть примеры, которые меня поражают,

and I'm still trying to understand.

и я всё ещё пытаюсь понять их.

What Chris is referring to is these competitions that we run.

Крис имеет в виду наши соревнования.

We turn them around in 48 hours,

Мы ограничиваем их 48–ю часами,

and we've been able to build a self-driving car

и мы смогли построить беспилотный автомобиль,

that can drive from Mountain View to San Francisco on surface streets.

который может ехать от Маунтин–Вью до Сан–Франциско по улицам городов.

It's not quite on par with Google after seven years of Google work,

Он не вполне на уровне Google — после семи лет работы Google, —

but it's getting there.

но уже довольно близок к нему.

And it took us only two engineers and three months to do this.

Нам потребовались только два инженера и три месяца работы.

And the reason is, we have an army of students

Причина в том, что у нас целая армия студентов,

who participate in competitions.

которые участвуют в соревнованиях.

We're not the only ones who use crowdsourcing.

Не только мы одни используем краудсорсинг.

Uber and Didi use crowdsource for driving.

Uber и Didi используют его для вождения.

Airbnb uses crowdsourcing for hotels.

Airbnb использует его для отелей.

There's now many examples where people do bug-finding crowdsourcing

Сегодня есть много примеров, когда люди вместе находят ошибки в программах

or protein folding, of all things, in crowdsourcing.

или, представьте себе, находят фолдинг белков краудсорсингом.

But we've been able to build this car in three months,

Но мы смогли построить эту машину за три месяца,

so I am actually rethinking

и сейчас я переосмысливаю,

how we organize corporations.

как мы организуем корпорации.

We have a staff of 9,000 people who are never hired,

У нас в штате 9 000 человек, которых никогда не нанимали,

that I never fire.

которых я никогда не уволю.

They show up to work and I don't even know.

Они приходят на работу, и я даже не знаю об этом.

Then they submit to me maybe 9,000 answers.

Потом они присылают мне примерно 9 000 ответов.

I'm not obliged to use any of those.

Я не обязан использовать какой-либо из них.

I end up -- I pay only the winners,

В конце концов я плачу только победителям;

so I'm actually very cheapskate here, which is maybe not the best thing to do.

здесь я очень прижимист, и это, возможно, не лучшая практика.

But they consider it part of their education, too, which is nice.

Но они рассматривают это как часть своей учёбы, и это хорошо.

But these students have been able to produce amazing deep learning results.

Но эти студенты смогли добиться прекрасных результатов в области глубокого обучения.

So yeah, the synthesis of great people and great machine learning is amazing.

Да, синтез талантливых людей и замечательных машин поразителен.

CA: I mean, Gary Kasparov said on the first day [of TED2017]

КА: Гарри Каспаров сказал в первый день конференции [TED2017],

that the winners of chess, surprisingly, turned out to be two amateur chess players

что удивительно, как чемпионы по шахматам оказались двумя шахматистами-любителями,

with three mediocre-ish, mediocre-to-good, computer programs,

игравшими с тремя средненькими, чуть лучше средних, компьютерными программами,

that could outperform one grand master with one great chess player,

которые смогли превзойти гроссмейстера и выдающегося шахматиста,

like it was all part of the process.

так, как будто это часть процесса.

And it almost seems like you're talking about a much richer version

Кажется, что как будто вы говорите о более сложной версии

of that same idea.

этой же идеи.

ST: Yeah, I mean, as you followed the fantastic panels yesterday morning,

СТ: Да, когда вчера утром вы следили за фантастическими экспертами

two sessions about AI,

на двух сессиях, касающихся ИИ,

robotic overlords and the human response,

захвата власти роботами и реакции человека,

many, many great things were said.

там было сказано много замечательного.

But one of the concerns is that we sometimes confuse

Но одна из проблем — иногда мы путаем то,

what's actually been done with AI with this kind of overlord threat,

что было реально сделано с помощью ИИ, с этой угрозой мирового господства,

where your AI develops consciousness, right?

где ваш ИИ осознаёт себя, не так ли?

The last thing I want is for my AI to have consciousness.

Меньше всего я хочу, чтобы у моего ИИ было сознание.

I don't want to come into my kitchen

Я не хочу прийти на кухню,

and have the refrigerator fall in love with the dishwasher

где холодильник влюблён в посудомоечную машину

and tell me, because I wasn't nice enough,

и говорит мне, что, поскольку я плохо себя вёл,

my food is now warm.

всё в морозилке растаяло.

I wouldn't buy these products, and I don't want them.

Я бы не купил такие устройства и не хочу их иметь.

But the truth is, for me,

Но мне ясно то,

AI has always been an augmentation of people.

что ИИ всегда был дополнением людей.

It's been an augmentation of us,

Он был нашим дополнением,

to make us stronger.

чтобы сделать нас сильнее.

And I think Kasparov was exactly correct.

Я думаю, что Каспаров был абсолютно прав.

It's been the combination of human smarts and machine smarts

Именно сочетание ума человека и машины

that make us stronger.

делает нас сильнее.

The theme of machines making us stronger is as old as machines are.

Идея того, что машины делают нас сильнее, так же стара, как и сами машины.

The agricultural revolution took place because it made steam engines

Аграрная революция произошла потому, что она создала паровые машины

and farming equipment that couldn't farm by itself,

и орудия фермерского труда, которые не могли сами работать

that never replaced us; it made us stronger.

и не заменили нас; она сделала нас сильнее.

And I believe this new wave of AI will make us much, much stronger

И я верю в то, эта новая волна ИИ сделает нас намного сильнее

as a human race.

как человеческую расу.

CA: We'll come on to that a bit more,

КА: Мы вернёмся к этому немного позже,

but just to continue with the scary part of this for some people,

но для того, чтобы продолжить обсуждать то, что некоторых пугает,

like, what feels like it gets scary for people is when you have

например, похоже, что люди пугаются, когда у вас есть

a computer that can, one, rewrite its own code,

компьютер, который может сам переписывать свой код,

so, it can create multiple copies of itself,

и поэтому он может создавать множество копий самого себя,

try a bunch of different code versions,

пробовать разные версии кода,

possibly even at random,

возможно, даже создавая их случайно,

and then check them out and see if a goal is achieved and improved.

затем проверять их и смотреть, достигнута ли и улучшена ли цель.

So, say the goal is to do better on an intelligence test.

Допустим, цель — это успешнее пройти тест на умственные способности.

You know, a computer that's moderately good at that,

Компьютер, который делает это на среднем уровне,

you could try a million versions of that.

может попробовать миллион версий.

You might find one that was better,

Возможно, он найдёт ту, которая лучше,

and then, you know, repeat.

и потом, знаете ли, повторит.

And so the concern is that you get some sort of runaway effect

Есть опасения, что у вас будет в некотором роде эффект убегания,

where everything is fine on Thursday evening,

когда всё хорошо в четверг вечером,

and you come back into the lab on Friday morning,

вы приходите в лабораторию в пятницу утром,

and because of the speed of computers and so forth,

и из-за скорости работы компьютеров и многого другого

things have gone crazy, and suddenly --

всё пошло кувырком, и вдруг...

ST: I would say this is a possibility,

СТ: Я бы сказал, это возможно,

but it's a very remote possibility.

но очень не скоро.

So let me just translate what I heard you say.

Поэтому позвольте мне перефразировать ваши слова.

In the AlphaGo case, we had exactly this thing:

В случае с AlphaGo мы имели следующее:

the computer would play the game against itself

компьютер вёл игру против себя,

and then learn new rules.

затем учил новые правила.

And what machine learning is is a rewriting of the rules.

Машинное обучение — это переписывание правил.

It's the rewriting of code.

Это переписывание кода.

But I think there was absolutely no concern

Но я думаю, что не было абсолютно никаких опасений,

that AlphaGo would take over the world.

что AlphaGo захватит мир.

It can't even play chess.

Он даже не может играть в шахматы.

CA: No, no, no, but now, these are all very single-domain things.

КА: Нет, нет, нет, сейчас они — очень узкоспециализированные устройства.

But it's possible to imagine.

Но это можно себе представить.

I mean, we just saw a computer that seemed nearly capable

Мы только что видели компьютер, который казался почти способным

of passing a university entrance test,

пройти университетский вступительный тест,

that can kind of -- it can't read and understand in the sense that we can,

который способен — хотя и не может читать и понимать, как это делаем мы, —

but it can certainly absorb all the text

но точно может усвоить весь текст

and maybe see increased patterns of meaning.

и, вероятно, обобщить его смысл.

Isn't there a chance that, as this broadens out,

Нет ли шанса, что при увеличении его способностей

there could be a different kind of runaway effect?

может иметь место другой вид эффекта убегания?

ST: That's where I draw the line, honestly.

СТ: Здесь я провожу черту, честно.

And the chance exists -- I don't want to downplay it --

И вероятность существует — я не хочу это преуменьшать, —

but I think it's remote, and it's not the thing that's on my mind these days,

но я думаю, что она отдалённая, и она не заботит меня сегодня,

because I think the big revolution is something else.

так как я думаю, что большая революция — это другое.

Everything successful in AI to the present date

Всё успешное в области ИИ на сегодняшний день

has been extremely specialized,

было чрезвычайно специализировано

and it's been thriving on a single idea,

и процветало благодаря единственной идее —

which is massive amounts of data.

огромному объёму данных.

The reason AlphaGo works so well is because of massive numbers of Go plays,

Причина такой хорошей работы AlphaGo — это огромное число игр в го,

and AlphaGo can't drive a car or fly a plane.

и AlphaGo не может управлять автомобилем или самолётом.

The Google self-driving car or the Udacity self-driving car

Беспилотный автомобиль Google или беспилотный автомобиль Udacity

thrives on massive amounts of data, and it can't do anything else.

процветают на огромных объёмах данных; и другого они делать не могут.

It can't even control a motorcycle.

Они не могут даже управлять мотоциклом.

It's a very specific, domain-specific function,

Это очень специфическая, касающаяся одной сферы функция.

and the same is true for our cancer app.

Это верно и для приложения по раку.

There has been almost no progress on this thing called "general AI,"

Не было почти никакого прогресса по так называемому общему ИИ,

where you go to an AI and say, "Hey, invent for me special relativity

где вы идёте к ИИ и говорите: «Изобрети-ка для меня СТО

or string theory."

или теорию струн».

It's totally in the infancy.

ИИ ещё полностью в младенчестве.

The reason I want to emphasize this,

Причина, по которой я хочу подчеркнуть это, —

I see the concerns, and I want to acknowledge them.

я вижу опасения и готов их признать.

But if I were to think about one thing,

Но если бы я подумал об одной вещи,

I would ask myself the question, "What if we can take anything repetitive

я бы задал себе вопрос: «А если мы возьмём что-то повторяющееся

and make ourselves 100 times as efficient?"

и сделаем себя в 100 раз эффективнее?»

It so turns out, 300 years ago, we all worked in agriculture

Так получилось 300 лет назад, когда все работали в сельском хозяйстве,

and did farming and did repetitive things.

выполняли монотонную работу.

Today, 75 percent of us work in offices

Сегодня 75 процентов людей работают в офисах

and do repetitive things.

и выполняют монотонную работу.

We've become spreadsheet monkeys.

Мы стали обезьянами, работающими с таблицами.

And not just low-end labor.

И это не только низкооплачиваемый труд.

We've become dermatologists doing repetitive things,

Мы стали дерматологами, которые делают одно и то же,

lawyers doing repetitive things.

юристами, делающими одно и то же.

I think we are at the brink of being able to take an AI,

Думаю, что мы сейчас на пороге того, чтобы взять ИИ,

look over our shoulders,

оглядеться вокруг,

and they make us maybe 10 or 50 times as effective in these repetitive things.

и эти программы позволят нам в 10–50 раз лучше справляться с монотонной работой.

That's what is on my mind.

Вот о чём я думаю.

CA: That sounds super exciting.

КА: Звучит захватывающе!

The process of getting there seems a little terrifying to some people,

Процесс достижения этого кажется немного пугающим для некоторых,

because once a computer can do this repetitive thing

потому что однажды компьютер сможет делать эти рутинные задачи

much better than the dermatologist

намного лучше, чем дерматолог

or than the driver, especially, is the thing that's talked about

или, особенно, водитель, — об этом сейчас

so much now,

так много говорят.

suddenly millions of jobs go,

Мы резко лишимся миллионов рабочих мест,

and, you know, the country's in revolution

и, знаете ли, в стране начнётся революция

before we ever get to the more glorious aspects of what's possible.

прежде, чем мы дойдём до болеe привлекательных аспектов.

ST: Yeah, and that's an issue, and it's a big issue,

СТ: Да, это проблема, это большая проблема,

and it was pointed out yesterday morning by several guest speakers.

и на это было указано вчера утром несколькими выступавшими гостями.

Now, prior to me showing up onstage,

Сейчас, прежде чем выйти на сцену,

I confessed I'm a positive, optimistic person,

я признался, что я оптимист,

so let me give you an optimistic pitch,

и позвольте мне высказаться оптимистически.

which is, think of yourself back 300 years ago.

А именно: представьте себя живущим 300 лет назад.

Europe just survived 140 years of continuous war,

Европа только пережила 140 лет нескончаемых войн,

none of you could read or write,

никто не умеет ни читать, ни писать,

there were no jobs that you hold today,

нет таких рабочих мест, за которые вы держитесь сейчас,

like investment banker or software engineer or TV anchor.

таких как инвестиционный банкир, или программист, или телеведущий.

We would all be in the fields and farming.

Мы все работаем в полях и на фермах.

Now here comes little Sebastian with a little steam engine in his pocket,

И приходит маленький Себастьян с маленькой паровой машиной в кармане

saying, "Hey guys, look at this.

и говорит: «Посмотрите на это.

It's going to make you 100 times as strong, so you can do something else."

Это сделает вас в 100 раз сильнее, и вы сможете сделать что-нибудь ещё».

And then back in the day, there was no real stage,

Тогда, в те времена, не было такой сцены,

but Chris and I hang out with the cows in the stable,

но Крис и я приходим в хлев к коровам,

and he says, "I'm really concerned about it,

и он говорит: «Меня это беспокоит,

because I milk my cow every day, and what if the machine does this for me?"

потому что я каждый день дою свою корову, и что, если машина меня заменит?»

The reason why I mention this is,

Я упомянул это,

we're always good in acknowledging past progress and the benefit of it,

так как мы охотно признаём прошлые достижения и выгоды от них,

like our iPhones or our planes or electricity or medical supply.

например, iPhone, самолёты, электричество, медицинское обеспечение.

We all love to live to 80, which was impossible 300 years ago.

Мы все любим жить до 80-ти лет, что было невозможно 300 лет назад.

But we kind of don't apply the same rules to the future.

Но мы как бы не применяем те же правила к будущему.

So if I look at my own job as a CEO,

Ведь если я посмотрю на свою работу генерального директора,

I would say 90 percent of my work is repetitive,

я скажу, что 90 процентов моей работы — повторяющаяся.

I don't enjoy it,

Я её не люблю,

I spend about four hours per day on stupid, repetitive email.

я трачу около четырёх часов в день на скучные, однотипные письма.

And I'm burning to have something that helps me get rid of this.

И я жажду иметь что-то, что помогло бы мне от этого избавиться.

Why?

Почему?

Because I believe all of us are insanely creative;

Потому что я верю, что все мы — безумно творческие люди;

I think the TED community more than anybody else.

в особенности, я думаю, члены сообщества TED.

But even blue-collar workers; I think you can go to your hotel maid

Даже «синие воротнички»; я думаю, если вы пойдёте к вашей горничной в отеле

and have a drink with him or her,

и выпьете с ним или с ней,

and an hour later, you find a creative idea.

то час спустя у вас возникнет творческая идея.

What this will empower is to turn this creativity into action.

ИИ даст нам возможность превратить это творчество в действие.

Like, what if you could build Google in a day?

Например, что, если бы вы смогли построить Google за один день?

What if you could sit over beer and invent the next Snapchat,

Или, сидя за кружкой пива, вы смогли бы изобрести очередной Snapchat,

whatever it is,

или что-нибудь подобное,

and tomorrow morning it's up and running?

и завтра утром это заработало бы?

And that is not science fiction.

И это не научная фантастика.

What's going to happen is,

Вот что произойдёт:

we are already in history.

мы уже оставили след в истории.

We've unleashed this amazing creativity

Мы высвободили этот замечательный творческий потенциал

by de-slaving us from farming

путём ухода из-под ига фермерства

and later, of course, from factory work

и потом, конечно, от работы на фабриках.

and have invented so many things.

Мы изобрели так много вещей.

It's going to be even better, in my opinion.

По моему мнению, всё идёт к лучшему.

And there's going to be great side effects.

Но также будут и большие побочные эффекты.

One of the side effects will be

Один из них — в том,

that things like food and medical supply and education and shelter

что такие вещи, как питание, медицина, образование, жильё

and transportation

и транспорт —

will all become much more affordable to all of us,

все они будут намного более доступными для всех нас,

not just the rich people.

а не только для богатых.

CA: Hmm.

КА: Хмм.

So when Martin Ford argued, you know, that this time it's different

Хотя Мартин Форд утверждал, что на этот раз происходит что-то другое,

because the intelligence that we've used in the past

потому что интеллекту, которым мы пользовались раньше,

to find new ways to be

чтобы найти новые пути бытия,

will be matched at the same pace

будет соответствовать искусственный интеллект

by computers taking over those things,

компьютеров, овладевающих теми же вещами,

what I hear you saying is that, not completely,

вы сейчас говорите, что это не вполне так,

because of human creativity.

поскольку у людей есть творческий потенциал.

Do you think that that's fundamentally different from the kind of creativity

Вы думаете, что он фундаментально отличается от творчества,

that computers can do?

которое по силам компьютерам?

ST: So, that's my firm belief as an AI person --

СТ: Как человек ИИ, я твёрдо уверен в том,

that I haven't seen any real progress on creativity

что я никогда не видел никакого реального прогресса в творчестве

and out-of-the-box thinking.

и нестандартном мышлении.

What I see right now -- and this is really important for people to realize,

То, что то я вижу сейчас — и важно, чтобы люди это поняли,

because the word "artificial intelligence" is so threatening,

потому что фраза «искусственный интеллект» столь угрожающая,

and then we have Steve Spielberg tossing a movie in,

и когда Стивен Спилберг подбрасывает нам фильм,

where all of a sudden the computer is our overlord,

где вдруг компьютер является нашим господином, —

but it's really a technology.

но это, фактически, технология.

It's a technology that helps us do repetitive things.

Это технология, которая помогает нам делать повторяющиеся вещи.

And the progress has been entirely on the repetitive end.

И прогресс был только в повторяющихся действиях.

It's been in legal document discovery.

Был прогресс в поиске юридических документов.

It's been contract drafting.

В составлении набросков договоров.

It's been screening X-rays of your chest.

В рентгеновской съёмке вашей грудной клетки.

And these things are so specialized,

Эти вещи очень специализированны.

I don't see the big threat of humanity.

Я не вижу в этом большой угрозы для человечества.

In fact, we as people --

На деле мы как люди —

I mean, let's face it: we've become superhuman.

давайте признаем это: мы стали свехлюдьми.

We've made us superhuman.

Мы сделали себя сверхлюдьми.

We can swim across the Atlantic in 11 hours.

Мы можем переплыть Атлантику за 11 часов.

We can take a device out of our pocket

Мы можем взять устройство из нашего кармана

and shout all the way to Australia,

и докричаться до самой Австралии,

and in real time, have that person shouting back to us.

и в реальном времени мы услышим в ответ чей-то крик.

That's physically not possible. We're breaking the rules of physics.

Физически это невозможно. Мы нарушаем законы физики.

When this is said and done, we're going to remember everything

В конце концов мы сможем запомнить всё

we've ever said and seen,

сказанное и виденное нами;

you'll remember every person,

вы запомните каждого человека,

which is good for me in my early stages of Alzheimer's.

и это хорошо при моей ранней стадии болезни Альцгеймера.

Sorry, what was I saying? I forgot.

Извините, о чём я говорил? Я забыл.

CA: (Laughs)

КА: (Смеется)

ST: We will probably have an IQ of 1,000 or more.

СТ: У нас, возможно, будет IQ 1 000 и более баллов.

There will be no more spelling classes for our kids,

Не будет больше занятий по правописанию для наших детей,

because there's no spelling issue anymore.

потому что больше не будет с этим проблем.

There's no math issue anymore.

Больше не будет проблем с математикой.

And I think what really will happen is that we can be super creative.

Думаю, случится то, что мы сможем быть сверхтворческими людьми.

And we are. We are creative.

И мы таковы. Мы — творческие люди.

That's our secret weapon.

Это наше секретное оружие.

CA: So the jobs that are getting lost,

КА: Итак, исчезающие рабочие места,

in a way, even though it's going to be painful,

в какой-то степени, даже если это будет болезненно,

humans are capable of more than those jobs.

люди способны на большее, чем такой труд.

This is the dream.

Это мечта.

The dream is that humans can rise to just a new level of empowerment

Мечта о том, что люди могут подняться на новый уровень возможностей

and discovery.

и открытий.

That's the dream.

Это мечта.

ST: And think about this:

СТ: И подумайте об этом:

if you look at the history of humanity,

если вы взглянете на историю человечества

that might be whatever -- 60-100,000 years old, give or take --

длиной что-то вроде 60–100 тысяч лет, —

almost everything that you cherish in terms of invention,

почти всё, что вы лелеете в отношении изобретений,

of technology, of things we've built,

технологии, созданных нами вещей,

has been invented in the last 150 years.

было изобретено за последние 150 лет.

If you toss in the book and the wheel, it's a little bit older.

Если вы возьмёте книгу или колесо, они чуть постарше.

Or the axe.

Или топор.

But your phone, your sneakers,

Но ваш телефон, кроссовки,

these chairs, modern manufacturing, penicillin --

эти стулья, современное производство, пенициллин —

the things we cherish.

то, что мы ценим.

Now, that to me means

Это означает для меня,

the next 150 years will find more things.

что в следующие 150 лет мы найдём больше вещей.

In fact, the pace of invention has gone up, not gone down, in my opinion.

На деле скорость изобретений выросла, а не уменьшилась, по моему мнению.

I believe only one percent of interesting things have been invented yet. Right?

Я верю, что изобретён только один процент интересных вещей, так?

We haven't cured cancer.

Мы не излечили рак.

We don't have flying cars -- yet. Hopefully, I'll change this.

У нас ещё нет летающих автомобилей — пока. Я надеюсь, я изменю это.

That used to be an example people laughed about. (Laughs)

Это было примером, над которым люди смеялись. (Смеётся)

It's funny, isn't it? Working secretly on flying cars.

Забавно, не правда ли? Втайне работать над летающими машинами.

We don't live twice as long yet. OK?

Мы пока ещё не живём в два раза дольше, не так ли?

We don't have this magic implant in our brain

В нашем мозгу пока нет этого волшебного импланта,

that gives us the information we want.

который даёт искомую информацию.

And you might be appalled by it,

И вы можете ужасаться этому,

but I promise you, once you have it, you'll love it.

но я вам обещаю, получив его, вы сразу его полюбите.

I hope you will.

Я надеюсь на это.

It's a bit scary, I know.

Я знаю, это немного страшно.

There are so many things we haven't invented yet

Мы ещё не изобрели так много вещей —

that I think we'll invent.

думаю, мы их изобретём.

We have no gravity shields.

Нет экранов от гравитации.

We can't beam ourselves from one location to another.

Мы не можем перенестись от одного места к другому.

That sounds ridiculous,

Это звучит смешно,

but about 200 years ago,

но около двухсот лет назад

experts were of the opinion that flight wouldn't exist,

учёные верили в то, что полёт будет невозможен,

even 120 years ago,

даже 120 лет назад,

and if you moved faster than you could run,

и если вы будете двигаться быстрее, чем можете бежать,

you would instantly die.

вы тотчас умрёте.

So who says we are correct today that you can't beam a person

И кто сказал, что мы правы сегодня, что нельзя телепортировать человека

from here to Mars?

отсюда на Марс?

CA: Sebastian, thank you so much

КА: Большое спасибо, Себастьян,

for your incredibly inspiring vision and your brilliance.

за ваше невероятно вдохновляющее видение и ваш талант.

Thank you, Sebastian Thrun.

Спасибо, Себастьян Трун.

That was fantastic. (Applause)

Это было потрясающе. (Аплодисменты)