Don't fear intelligent machines. Work with them | Garry Kasparov

Переводчик: Yulia Kallistratova Редактор: Anna Kotova

This story begins in 1985,

Эта история началась в 1985 году,

when at age 22,

когда в 22-летнем возрасте

I became the World Chess Champion

я стал чемпионом мира по шахматам,

after beating Anatoly Karpov.

победив Анатолия Карпова.

Earlier that year,

В начале того же года

I played what is called simultaneous exhibition

я проводил так называемый сеанс одновременной игры

against 32 of the world's best chess-playing machines

против 32 лучших в мире шахматных вычислительных машин

in Hamburg, Germany.

в Гамбурге, в Германии.

I won all the games,

Я выиграл все партии,

and then it was not considered much of a surprise

и в то время никому не казалось чем-то удивительным,

that I could beat 32 computers at the same time.

что я смог выиграть у 32 компьютеров одновременно.

To me, that was the golden age.

Для меня это было золотое время.

(Laughter)

(Смех)

Machines were weak,

Машины играли слабо,

and my hair was strong.

а волосы держались крепко.

(Laughter)

(Смех)

Just 12 years later,

Но уже 12 годами позже

I was fighting for my life against just one computer

я сражался не на жизнь, а на смерть против одного единственного компьютера

in a match

в матче,

called by the cover of "Newsweek"

названном на обложке «Newsweek»

"The Brain's Last Stand."

«Последним шансом разума».

No pressure.

Без напряга.

(Laughter)

(Смех)

From mythology to science fiction,

И в мифологии, и в научной фантастике

human versus machine

поединок человека против машины

has been often portrayed as a matter of life and death.

зачастую представлялся как вопрос жизни и смерти.

John Henry,

Джон Генри,

called the steel-driving man

«стальной молоток»,

in the 19th century African American folk legend,

легендарный афроамериканский супергерой XIX века,

was pitted in a race

соревновался с паровым молотом,

against a steam-powered hammer

bashing a tunnel through mountain rock.

пробивая тоннель в скале.

John Henry's legend is a part of a long historical narrative

Легенда о Джоне Генри — часть давно сложившейся парадигмы

pitting humanity versus technology.

противоборства человека с технологиями.

And this competitive rhetoric is standard now.

Эта риторика соперничества доминирует и по сей день.

We are in a race against the machines,

Мы участвуем в гонке против машин,

in a fight or even in a war.

это сражение, если не война.

Jobs are being killed off.

Нас лишают работы.

People are being replaced as if they had vanished from the Earth.

Людей заменяют, как будто они уже исчезли с лица Земли.

It's enough to think that the movies like "The Terminator" or "The Matrix"

Достаточно представить, что такие фильмы, как «Терминатор» или «Матрица»,

are nonfiction.

стали реальностью.

There are very few instances of an arena

Есть лишь немного областей,

where the human body and mind can compete on equal terms

где тело и разум человека могут на равных соперничать

with a computer or a robot.

с компьютером или роботом.

Actually, I wish there were a few more.

Мне хотелось бы, чтобы их было больше.

Instead,

Вместо этого

it was my blessing and my curse

я оказался одновременно благословлён и проклят,

to literally become the proverbial man

став олицетворением поражения

in the man versus machine competition

в противоборстве человека и машины,

that everybody is still talking about.

о котором говорят до сих пор.

In the most famous human-machine competition since John Henry,

В самом знаменитом после Джона Генри поединке человека с машиной

I played two matches

я сыграл два матча

against the IBM supercomputer, Deep Blue.

против Deep Blue — суперкомпьютера IBM.

Nobody remembers that I won the first match --

Никто уже не помнит, что первый матч я выиграл.

(Laughter)

(Смех)

(Applause)

(Аплодисменты)

In Philadelphia, before losing the rematch the following year in New York.

Это было в Филадельфии, до проигрыша на следующий год в Нью-Йорке.

But I guess that's fair.

Но, по-моему, это справедливо.

There is no day in history, special calendar entry

Ведь не отмечены же какими-то особыми датами в истории

for all the people who failed to climb Mt. Everest

все провалившиеся попытки покорить Эверест

before Sir Edmund Hillary and Tenzing Norgay

до того, как сэр Эдмунд Хиллари вместе с Тэнцингом Норгеем

made it to the top.

достигли его вершины.

And in 1997, I was still the world champion

Я всё ещё был чемпионом мира в 1997 году,

when chess computers finally came of age.

когда компьютеры наконец «доросли» до шахмат.

I was Mt. Everest,

Я был тогда вершиной Эвереста,

and Deep Blue reached the summit.

которую покорил Deep Blue.

I should say of course, not that Deep Blue did it,

Должен сказать, что, разумеется, это сделал не Deep Blue,

but its human creators --

а его создатели:

Anantharaman, Campbell, Hoane, Hsu.

Анансараман, Кэмпбелл, Хоэн, Сю.

Hats off to them.

Снимаю перед ними шляпу.

As always, machine's triumph was a human triumph,

Как всегда, победа машины была человеческим триумфом,

something we tend to forget when humans are surpassed by our own creations.

о чём мы склонны забывать, когда наше же творение нас превосходит.

Deep Blue was victorious,

Deep Blue победил,

but was it intelligent?

но был ли он при этом умён?

No, no it wasn't,

Нет, не был.

at least not in the way Alan Turing and other founders of computer science

Во всяком случае, не в том смысле, о каком мечтали Алан Тьюринг

и другие основоположники информатики.

had hoped.

It turned out that chess could be crunched by brute force,

Оказалось, что шахматы можно постичь, применив грубую силу,

once hardware got fast enough

то есть при достаточно быстрых процессорах

and algorithms got smart enough.

и достаточно изощрённых алгоритмах.

Although by the definition of the output,

Хотя по факту достижения результата —

grandmaster-level chess,

умению играть в шахматы на гроссмейстерском уровне —

Deep Blue was intelligent.

Deep Blue был умён.

But even at the incredible speed,

Но даже при невероятной скорости

200 million positions per second,

в 200 миллионов комбинаций в секунду

Deep Blue's method

метод Deep Blue

provided little of the dreamed-of insight into the mysteries of human intelligence.

не приблизил нас, как того хотелось, к разгадкам тайн человеческого разума.

Soon,

Очень скоро

machines will be taxi drivers

роботы станут водителями такси,

and doctors and professors,

врачами и профессорами,

but will they be "intelligent?"

но будут ли они «разумны»?

I would rather leave these definitions

Я бы предпочёл оставить этот вопрос

to the philosophers and to the dictionary.

философам и составителям словарей.

What really matters is how we humans

Важно то, какие чувства мы, люди,

feel about living and working with these machines.

испытываем, живя и работая бок о бок с этими машинами.

When I first met Deep Blue in 1996 in February,

Когда мне впервые представили Deep Blue в феврале 1996 года,

I had been the world champion for more than 10 years,

я уже был чемпионом мира более десяти лет,

and I had played 182 world championship games

и я сыграл 182 игры на мировых чемпионатах

and hundreds of games against other top players in other competitions.

и сотни игр против других мастеров в различных состязаниях.

I knew what to expect from my opponents

Я знал, чего ожидать от своих соперников

and what to expect from myself.

и чего ожидать от самого себя.

I was used to measure their moves

Я привык предугадывать их ходы

and to gauge their emotional state

и оценивать их эмоциональное состояние,

by watching their body language and looking into their eyes.

наблюдая за их жестами и поведением, глядя им в глаза.

And then I sat across the chessboard from Deep Blue.

И тут я оказался напротив Deep Blue.

I immediately sensed something new,

Я немедленно ощутил некую новизну,

something unsettling.

некий дискомфорт.

You might experience a similar feeling

Нечто вроде того, что вы почувствовали бы

the first time you ride in a driverless car

во время первой поездки на автомобиле без водителя

or the first time your new computer manager issues an order at work.

или когда ваш новый компьютерный босс отдал бы первое распоряжение.

But when I sat at that first game,

Во время той первой игры

I couldn't be sure

я не был уверен,

what is this thing capable of.

чего ожидать от этой штуковины.

Technology can advance in leaps, and IBM had invested heavily.

Технологии развиваются стремительно, и IBM вложила в это солидные средства.

I lost that game.

Ту игру я проиграл.

And I couldn't help wondering,

И меня не покидала мысль:

might it be invincible?

а можно ли его вообще победить?

Was my beloved game of chess over?

Пришёл ли конец моей излюбленной игре в шахматы?

These were human doubts, human fears,

То были естественные человеческие сомнения и страхи,

and the only thing I knew for sure

и я был совершенно уверен в том,

was that my opponent Deep Blue had no such worries at all.

что у моего оппонента Deep Blue не было никаких беспокойств.

(Laughter)

(Смех)

I fought back

После того сокрушительного удара

after this devastating blow

я сражался снова

to win the first match,

и отыграл первую партию,

but the writing was on the wall.

но написанного не сотрёшь.

I eventually lost to the machine

Пускай я проиграл машине,

but I didn't suffer the fate of John Henry

но я, по крайней мере, не удостоился судьбы Джона Генри,

who won but died with his hammer in his hand.

который, победив, погиб от истощения с молотом в руке.

[John Henry Died with a Hammer in His Hand Palmer C. Hayden]

[«Джон Генри умер с молотом в руке»

Палмер Хайден

[The Museum of African American Art, Los Angeles]

Музей афроамериканского искусства, Лос-Анджелес]

It turned out that the world of chess

Оказалось, что миру шахмат

still wanted to have a human chess champion.

всё ещё нужен был чемпион мира в человеческом обличии.

And even today,

И даже сегодня,

when a free chess app on the latest mobile phone

когда бесплатные шахматные приложения на последних моделях телефонов

is stronger than Deep Blue,

мощнее Deep Blue,

people are still playing chess,

люди всё ещё играют в шахматы

even more than ever before.

и даже больше, чем когда-либо.

Doomsayers predicted that nobody would touch the game

Пессимисты предрекали, что никто не захочет играть в игру,

that could be conquered by the machine,

в которой победила машина,

and they were wrong, proven wrong,

и оказались неправы, и это доказано,

but doomsaying has always been a popular pastime

но мрачные предсказания в отношении технологий всегда были

when it comes to technology.

популярным времяпрепровождением.

What I learned from my own experience

Я на собственном опыте убедился,

is that we must face our fears

что страхам надо смотреть в глаза,

if we want to get the most out of our technology,

если мы хотим извлечь максимум из того, на что способны технологии,

and we must conquer those fears

и что надо побеждать эти страхи,

if we want to get the best out of our humanity.

если мы хотим сохранить всё самое лучшее, на что способно человечество.

While licking my wounds,

Пока я зализывал раны,

I got a lot of inspiration

меня посетило вдохновение

from my battles against Deep Blue.

по поводу поединков против Deep Blue.

As the old Russian saying goes, if you can't beat them, join them.

Как говорится в русской пословице: не можешь победить — присоединяйся!

Then I thought,

Тогда я подумал:

what if I could play with a computer --

а что, если сыграть вместе с компьютером,

together with a computer at my side, combining our strengths,

имея компьютер на своей стороне, объединив наши силы —

human intuition plus machine's calculation,

человеческую интуицию с машинными расчётами,

human strategy, machine tactics,

человеческую стратегию с машинной тактикой,

human experience, machine's memory.

человеческий опыт с машинной памятью?

Could it be the perfect game ever played?

Получилась бы тогда идеальная игра всех времён?

My idea came to life

Моя идея воплотилась в жизнь

in 1998 under the name of Advanced Chess

в 1998 году под названием «адванс», или продвинутые шахматы,

when I played this human-plus-machine competition against another elite player.

когда я играл в состязании человека и машины против другого элитного игрока.

But in this first experiment,

Но в том первом эксперименте

we both failed to combine human and machine skills effectively.

у нас не получилось эффективно сочетать способности человека и машины.

Advanced Chess found its home on the internet,

Адванс занял свою нишу в интернете,

and in 2005, a so-called freestyle chess tournament

а в 2005-м соревнования по так называемым фристайл-шахматам

produced a revelation.

стали настоящим открытием.

A team of grandmasters and top machines participated,

В нём участвовали гроссмейстеры и ведущие шахматные компьютеры,

but the winners were not grandmasters,

однако победителями стали не гроссмейстеры

not a supercomputer.

и не суперкомпьютеры.

The winners were a pair of amateur American chess players

Победителями стали двое американских игроков-любителей,

operating three ordinary PCs at the same time.

одновременно управлявших тремя обычными домашними компьютерами.

Their skill of coaching their machines

Их умелое управление компьютерами

effectively counteracted the superior chess knowledge

превзошло глубочайшие знания шахмат

of their grandmaster opponents

игравших против них гроссмейстеров

and much greater computational power of others.

и намного бóльшие вычислительные мощности других машин.

And I reached this formulation.

Тогда-то я и вывел эту формулу.

A weak human player plus a machine

Слабый игрок плюс компьютер

plus a better process is superior

плюс мастерское управление превосходят

to a very powerful machine alone,

не только более мощную машину,

but more remarkably, is superior to a strong human player

но, что ещё поразительнее, превосходят сильного игрока

plus machine

плюс компьютер

and an inferior process.

при неэффективном управлении.

This convinced me that we would need

Это убедило меня в том, что нам понадобятся

better interfaces to help us coach our machines

более совершенные интерфейсы, чтобы помогать компьютерным процессам

towards more useful intelligence.

становиться более разумными.

Human plus machine isn't the future,

Человек плюс машина — это не будущее,

it's the present.

это настоящее.

Everybody that's used online translation

Любой, кто пользовался автоматическим переводом,

to get the gist of a news article from a foreign newspaper,

чтобы понять суть новостной статьи из иностранной онлайн-газеты,

knowing its far from perfect.

знает, что тот далёк от совершенства.

Then we use our human experience

Но когда мы добавляем собственный опыт,

to make sense out of that,

чтобы придать смысл прочитанному,

and then the machine learns from our corrections.

машина учится на наших исправлениях.

This model is spreading and investing in medical diagnosis, security analysis.

Эта модель распространяется и применяется в медицинской диагностике, в безопасности.

The machine crunches data,

Машины перемалывают данные,

calculates probabilities,

вычисляют вероятности,

gets 80 percent of the way, 90 percent,

доводят точность до 80%, до 90%,

making it easier for analysis

упрощая данные для анализа

and decision-making of the human party.

и процесса принятия решений человеком.

But you are not going to send your kids

Только не думаю, что вы отправите детей

to school in a self-driving car with 90 percent accuracy,

в школу на самоуправляемой машине с 90-процентной точностью

even with 99 percent.

или даже с точностью в 99%.

So we need a leap forward

Поэтому нам необходим скачок,

to add a few more crucial decimal places.

который добавит эти жизненно важные недостающие знаки после запятой.

Twenty years after my match with Deep Blue,

Спустя 20 лет после моего матча против Deep Blue,

second match,

моего второго матча,

this sensational "The Brain's Last Stand" headline

тот сенсационный заголовок: «Последний шанс разума»

has become commonplace

стал избитой истиной

as intelligent machines

в отношении искусственного интеллекта,

move

проникающего

in every sector, seemingly every day.

казалось бы, с каждым днём всё глубже в каждый сектор.

But unlike in the past,

Однако вопреки прошлому,

when machines replaced

когда машины заменяли

farm animals, manual labor,

сельскохозяйственных животных, ручной труд,

now they are coming after people with college degrees

сейчас они угрожают людям с дипломами

and political influence.

и политическим влиянием.

And as someone who fought machines and lost,

И как тот, кто сражался с машиной и проиграл,

I am here to tell you this is excellent, excellent news.

я хочу сказать вам, что это замечательная, отличная новость.

Eventually, every profession

В конце концов любой профессионал

will have to feel these pressures

должен испытать на себе это давление,

or else it will mean humanity has ceased to make progress.

иначе человечество перестанет развиваться.

We don't

Не нам

get to choose

выбирать,

when and where technological progress stops.

где и когда остановится технологический прогресс.

We cannot

Мы не можем

slow down.

замедлиться.

In fact,

Говоря по правде,

we have to speed up.

нам впору ускоряться.

Our technology excels at removing

Технологии отлично справляются с устранением

difficulties and uncertainties from our lives,

сложностей и неопределённостей из нашей жизни,

and so we must seek out

так что мы должны искать

ever more difficult,

ещё более сложные,

ever more uncertain challenges.

ещё более неопределённые задачи.

Machines have

Машины способны

calculations.

на вычисления.

We have understanding.

Мы способны на понимание.

Machines have instructions.

У машин есть инструкции.

We have purpose.

У нас есть цели.

Machines have

Машинам присуща

objectivity.

объективность.

We have passion.

Нам присуща увлечённость.

We should not worry about what our machines can do today.

Нам не следует беспокоиться о том, на что машины способны сегодня.

Instead, we should worry about what they still cannot do today,

Нам следует беспокоиться о том, на что они пока ещё не способны,

because we will need the help of the new, intelligent machines

потому что нам понадобится помощь новых, умных машин,

to turn our grandest dreams into reality.

чтобы воплотить наши величайшие мечты в реальность.

And if we fail,

И если нам это не удастся,

if we fail, it's not because our machines are too intelligent,

если не удастся, то это не потому, что машины окажутся слишком умны

or not intelligent enough.

или недостаточно умны.

If we fail, it's because we grew complacent

Если нам не удастся, то это оттого, что мы избаловались

and limited our ambitions.

и умалили собственные амбиции.

Our humanity is not defined by any skill,

Наше человеческое начало не определяется набором навыков

like swinging a hammer or even playing chess.

вроде махания молотом или даже игры в шахматы.

There's one thing only a human can do.

Единственная вещь, на которую способны только люди, —

That's dream.

это мечтать.

So let us dream big.

Так давайте мечтать о большем.

Thank you.

Спасибо.

(Applause)

(Аплодисменты)