Shyam Sankar: The rise of human-computer cooperation

Шьям Шанкар. Рассвет сотрудничества человека и компьютера

Translator: Joseph Geni Reviewer: Morton Bast

Переводчик: Yevgeniy Yuzhaninov Редактор: Alla Dunaeva

I'd like to tell you about two games of chess.

Я бы хотел рассказать о двух шахматных матчах.

The first happened in 1997, in which Garry Kasparov,

Первый был сыгран в 1997 году, и в нем Гарри Каспаров,

a human, lost to Deep Blue, a machine.

человек, проиграл Дип Блю, компьютеру.

To many, this was the dawn of a new era,

Для многих это было рассветом новой эры,

one where man would be dominated by machine.

в которой машины господствуют над людьми.

But here we are, 20 years on, and the greatest change

Но вот мы здесь, 20 лет спустя, и самое большое изменение

in how we relate to computers is the iPad,

в отношениях с компьютерами — это iPad,

not HAL.

но не HAL.

The second game was a freestyle chess tournament

Второй матч, в турнире по шахматам в вольном стиле,

in 2005, in which man and machine could enter together

прошёл в 2005-м, и в нем человек мог по желанию

as partners, rather than adversaries, if they so chose.

использовать машину в качестве партнёра, а не соперника.

At first, the results were predictable.

Сначала результаты были предсказуемыми.

Even a supercomputer was beaten by a grandmaster

Даже суперкомпьютер был побит гроссмейстером

with a relatively weak laptop.

с относительно слабым ноутбуком.

The surprise came at the end. Who won?

Но сюрприз был в конце. Кто победил?

Not a grandmaster with a supercomputer,

Не гроссмейстер с суперкомпьютером,

but actually two American amateurs

а фактически двое американских любителей

using three relatively weak laptops.

с тремя относительно слабыми ноутбуками.

Their ability to coach and manipulate their computers

Их способность тренировать свои компьютеры и манипулировать ими

to deeply explore specific positions

для глубокого исследования специфических позиций

effectively counteracted the superior chess knowledge

эффективно противостояла превосходящим шахматным

of the grandmasters and the superior computational power

знаниям гроссмейстеров и выдающейся

of other adversaries.

вычислительной способности их соперников.

This is an astonishing result: average men,

Это ошеломительный результат: обычные люди

average machines beating the best man, the best machine.

и средние компьютеры обыгрывают лучшего игрока и лучший компьютер.

And anyways, isn't it supposed to be man versus machine?

И, вообще, разве не предполагалась схватка человека с компьютером?

Instead, it's about cooperation, and the right type of cooperation.

Вместо этого получилось сотрудничество, и правильное сотрудничество.

We've been paying a lot of attention to Marvin Minsky's

За последние 50 лет концепции Марвина Минского

vision for artificial intelligence over the last 50 years.

касательно искусственного интеллекта уделялось много внимания.

It's a sexy vision, for sure. Many have embraced it.

Очень соблазнительная концепция, однозначно. Многие её восприняли.

It's become the dominant school of thought in computer science.

Она стала доминирующей школой мысли в компьютерной науке.

But as we enter the era of big data, of network systems,

Но по мере вхождения в эру большого количества данных, сетевых систем,

of open platforms, and embedded technology,

открытых платформ и встроенных технологий,

I'd like to suggest it's time to reevaluate an alternative vision

я бы предположил, что настало время переоценить альтернативную версию,

that was actually developed around the same time.

которую, в общем-то, разработали почти в то же самое время.

I'm talking about J.C.R. Licklider's human-computer symbiosis,

Я говорю о симбиозе человек-компьютер Дж. К. Р. Ликлайдера,

perhaps better termed "intelligence augmentation," I.A.

возможно, более удачно названное «Усилением интеллекта», УИ.

Licklider was a computer science titan who had a profound

Ликлайдер был титаном компьютерной науки, оказавшим

effect on the development of technology and the Internet.

существенное влияние на развитие технологии и Интернета.

His vision was to enable man and machine to cooperate

Его концепция предполагала сотрудничество человека и компьютера

in making decisions, controlling complex situations

в принятии решений, управлении сложными ситуациями

without the inflexible dependence

без жёсткой зависимости

on predetermined programs.

от заранее предопределённых установок.

Note that word "cooperate."

Обратите внимание на слово «сотрудничать».

Licklider encourages us not to take a toaster

Ликлайдер не воодушевляет нас взять тостер

and make it Data from "Star Trek,"

и сделать его мистером Дэйта из «Стар Трэка»,

but to take a human and make her more capable.

а взять человека и дать ему больше возможностей.

Humans are so amazing -- how we think,

Люди так изумительны — то, как мы мыслим,

our non-linear approaches, our creativity,

наши нестандартные подходы, наша способность творить,

iterative hypotheses, all very difficult if possible at all

плодить гипотезы — всё это очень трудно,

for computers to do.

а может и вовсе невозможно для компьютера.

Licklider intuitively realized this, contemplating humans

Ликлайдер интуитивно осознал это, созерцая, как люди

setting the goals, formulating the hypotheses,

ставят цели, формулируют гипотезы,

determining the criteria, and performing the evaluation.

определяют критерии и выполняют оценку.

Of course, in other ways, humans are so limited.

Конечно, с другой стороны, люди так ограничены.

We're terrible at scale, computation and volume.

Мы слабы в измерениях, вычислениях и по объёмам данных.

We require high-end talent management

Нужен высококлассный отдел управления талантами,

to keep the rock band together and playing.

чтобы заставить играть рок-группу и удержать её вместе.

Licklider foresaw computers doing all the routinizable work

Ликлайдер предвидел, что компьютеры будут делать всю рутинную работу,

that was required to prepare the way for insights and decision making.

требующуюся для проникновения в суть и принятия решений.

Silently, without much fanfare,

Потихоньку, без лишних фанфар,

this approach has been compiling victories beyond chess.

этот подход стал одерживать победы вне шахматных полей.

Protein folding, a topic that shares the incredible expansiveness of chess —

Фолдинг белка, тема, которую объединяет с шахматами невероятная разветвлённость вариантов:

there are more ways of folding a protein than there are atoms in the universe.

способов сворачивания белка существует больше, чем атомов во вселенной.

This is a world-changing problem with huge implications

Это мироизменяющая проблема с огромными

for our ability to understand and treat disease.

перспективами для понимания и лечения болезней.

And for this task, supercomputer field brute force simply isn't enough.

И грубой электронной силы суперкомпьютера недостаточно для этой задачи.

Foldit, a game created by computer scientists,

«Foldit», игра, созданная компьютерными учёными,

illustrates the value of the approach.

демонстрирует ценность данного подхода.

Non-technical, non-biologist amateurs play a video game

Любители, не биологи, не техники, играют в видео-игру,

in which they visually rearrange the structure of the protein,

в которой они визуально перестраивают структуру протеина,

allowing the computer to manage the atomic forces

позволяя компьютеру управлять атомными силами

and interactions and identify structural issues.

и взаимодействиями и определять структурные составляющие.

This approach beat supercomputers 50 percent of the time

Этот подход выигрывает у суперкомпьютера в половине случаев,

and tied 30 percent of the time.

и одерживает ничью в ещё 30%.

Foldit recently made a notable and major scientific discovery

«Foldit» недавно сделала крупное и значительное научное открытие,

by deciphering the structure of the Mason-Pfizer monkey virus.

расшифровав структуру обезьяньего вируса Мэйсона-Пфайзера.

A protease that had eluded determination for over 10 years

Протеаза, которая ускользала от определения более 10 лет,

was solved was by three players in a matter of days,

была рассчитана тремя игроками за несколько дней,

perhaps the first major scientific advance

что, пожалуй, стало первым большим научным прорывом,

to come from playing a video game.

возникшим в результате видео-игры.

Last year, on the site of the Twin Towers,

В прошлом году на месте башен-близнецов

the 9/11 memorial opened.

открылся мемориал 9/11.

It displays the names of the thousands of victims

На нем отображаются имена тысяч жертв

using a beautiful concept called "meaningful adjacency."

с использованием красивой концепции «значимой смежности».

It places the names next to each other based on their

Она располагает имена друг за другом,

relationships to one another: friends, families, coworkers.

основываясь на их взаимоотношениях: друзья, семьи, сотрудники.

When you put it all together, it's quite a computational

Если собрать всё это вместе, получается как раз вычислительная задача:

challenge: 3,500 victims, 1,800 adjacency requests,

3 500 жертв, 1 800 запросов смежности,

the importance of the overall physical specifications

влияние общих физических характеристик

and the final aesthetics.

и конечная эстетика.

When first reported by the media, full credit for such a feat

Как впервые сообщили СМИ, этот подвиг был доверен

was given to an algorithm from the New York City

алгоритму из нью-йоркской дизайнерской фирмы

design firm Local Projects. The truth is a bit more nuanced.

«Local Projects». На самом деле всё немного запутанней.

While an algorithm was used to develop the underlying framework,

В то время как алгоритм был использован для наброски каркасного эскиза,

humans used that framework to design the final result.

люди использовали этот эскиз для создания конечного результата.

So in this case, a computer had evaluated millions

Таким образом, в этом случае компьютер производил оценку

of possible layouts, managed a complex relational system,

миллионов возможных вариантов размещения, управлял сложной системой связей,

and kept track of a very large set of measurements

и следил за очень большим набором

and variables, allowing the humans to focus

величин и переменных, позволяя людям сосредоточиться

on design and compositional choices.

на макетных и композиционных решениях.

So the more you look around you,

И если оглянуться вокруг, мы увидим,

the more you see Licklider's vision everywhere.

как повсюду воплощается концепция Ликлайдера.

Whether it's augmented reality in your iPhone or GPS in your car,

Будь то дополненная реальность в вашем iPhone или GPS в вашем авто,

human-computer symbiosis is making us more capable.

симбиоз человек-компьютер даёт нам больше возможностей.

So if you want to improve human-computer symbiosis,

И если вы хотите усовершенствовать этот симбиоз,

what can you do?

что вы можете сделать?

You can start by designing the human into the process.

Вы можете начать со вписывания человека в этот процесс.

Instead of thinking about what a computer will do to solve the problem,

Вместо размышления на тему, что сделает компьютер для решения некой проблемы,

design the solution around what the human will do as well.

разработайте также варианты того, какую работу выполнит человек.

When you do this, you'll quickly realize that you spent

Когда вы это сделаете, вы сразу поймёте,

all of your time on the interface between man and machine,

что всё своё время уделяете интерфейсу между человеком и машиной,

specifically on designing away the friction in the interaction.

особенно стараясь сгладить возможные трения в процессе взаимодействия.

In fact, this friction is more important than the power

По сути, это трение является более определяющим

of the man or the power of the machine

для общей эффективности, нежели по отдельности

in determining overall capability.

способности человека или мощь машины.

That's why two amateurs with a few laptops

Вот почему двое любителей с двумя ноутбуками

handily beat a supercomputer and a grandmaster.

легко победили суперкомпьютер и гроссмейстера.

What Kasparov calls process is a byproduct of friction.

Как сказал Каспаров, процесс является побочным продуктом трения.

The better the process, the less the friction.

Чем лучше процесс, тем меньше трение.

And minimizing friction turns out to be the decisive variable.

И снижение трения становится решающей переменной.

Or take another example: big data.

Или взять другой пример: большой объем данных.

Every interaction we have in the world is recorded

Каждое наше взаимодействие с окружающим миром

by an ever growing array of sensors: your phone,

записывается всё большим количеством датчиков: ваш телефон,

your credit card, your computer. The result is big data,

ваша кредитка, ваш компьютер. Результат — большое количество данных,

and it actually presents us with an opportunity

и оно фактически даёт нам возможность

to more deeply understand the human condition.

глубже понять состояние человека.

The major emphasis of most approaches to big data

Большинство подходов к большим объёмам данных

focus on, "How do I store this data? How do I search

сосредоточивается на том, «Где хранить? Как искать?

this data? How do I process this data?"

Как обрабатывать эти данные?»

These are necessary but insufficient questions.

Эти вопросы необходимы, но этого недостаточно.

The imperative is not to figure out how to compute,

Необходимо выяснить не только то, как вычислять,

but what to compute. How do you impose human intuition

но и что вычислять. Как вы наложите человеческую интуицию

on data at this scale?

на данные в этом масштабе?

Again, we start by designing the human into the process.

Опять же, мы начинаем вписывать в процесс человека.

When PayPal was first starting as a business, their biggest

Когда PayPal только начинался как бизнес, их главнейшей проблемой

challenge was not, "How do I send money back and forth online?"

было не «Как слать деньги онлайн вперёд и назад?»

It was, "How do I do that without being defrauded by organized crime?"

Вопрос звучал «Как делать это, не став жертвой мошенничества?»

Why so challenging? Because while computers can learn

Почему это так трудно? Потому что, хотя компьютеры и могут научиться

to detect and identify fraud based on patterns,

выявлять и распознавать обман, основываясь на заданной схеме,

they can't learn to do that based on patterns

они не могут сделать этого, основываясь на схеме, которую

they've never seen before, and organized crime

им никто не задавал, а организованная преступность

has a lot in common with this audience: brilliant people,

имеет много общего с этой аудиторией: блестящие люди,

relentlessly resourceful, entrepreneurial spirit — (Laughter) —

неустанно изобретательные, с духом предпринимательства — (Смех)

and one huge and important difference: purpose.

и лишь одно большое и важное различие: цели.

And so while computers alone can catch all but the cleverest

И пока компьютеры в одиночку могут поймать всех, кроме умнейших мошенников,

fraudsters, catching the cleverest is the difference

поимка умнейших является различием

between success and failure.

между успехом и провалом.

There's a whole class of problems like this, ones with

Есть целый класс проблем подобных этой, ситуаций

adaptive adversaries. They rarely if ever present with a

с приспосабливающимся противником. Они крайне редко следуют

repeatable pattern that's discernable to computers.

повторяющейся схеме, улавливаемой компьютером.

Instead, there's some inherent component of innovation or disruption,

Вместо этого, в них обязательно присутствует какая-нибудь примесь новизны, нарушения шаблона,

and increasingly these problems are buried in big data.

и всё чаще эти проблемы погребены в большом объёме данных.

For example, terrorism. Terrorists are always adapting

Например, терроризм. Террористы постоянно приспосабливаются

in minor and major ways to new circumstances, and despite

в мелочах и по-крупному к новым обстоятельствам, и, невзирая на то,

what you might see on TV, these adaptations,

что вы можете увидеть по ТВ, эти приспособления,

and the detection of them, are fundamentally human.

и их распознавание принципиально ложатся на плечи людей.

Computers don't detect novel patterns and new behaviors,

Компьютеры не выявляют новые схемы и непривычное поведение,

but humans do. Humans, using technology, testing hypotheses,

но люди — да. Люди используют технологи, проверяют гипотезы,

searching for insight by asking machines to do things for them.

ищут понимание путём задания задач своим машинам.

Osama bin Laden was not caught by artificial intelligence.

Осама бин Ладен был пойман не искусственным интеллектом.

He was caught by dedicated, resourceful, brilliant people

Он был пойман целеустремлёнными, изобретательными, блестящими людьми

in partnerships with various technologies.

совместно с различными технологиями.

As appealing as it might sound, you cannot algorithmically

Но как бы привлекательно это ни звучало, невозможно

data mine your way to the answer.

вычислить истину путём алгоритма.

There is no "Find Terrorist" button, and the more data

Нет такой кнопки «Найти террориста».

we integrate from a vast variety of sources

И чем больше данных мы собираем из огромного количества источников

across a wide variety of data formats from very

разного формата из совершенно различных систем,

disparate systems, the less effective data mining can be.

тем меньше эффективность поиска решения.

Instead, people will have to look at data

Людям же достаточно посмотреть на данные

and search for insight, and as Licklider foresaw long ago,

и найти догадку. И, как и предвидел Ликлайдер

the key to great results here is the right type of cooperation,

ключом к получению хороших результатов является правильный тип взаимодействия.

and as Kasparov realized,

И, в понимании Каспарова,

that means minimizing friction at the interface.

это означает уменьшить трение в интерфейсе.

Now this approach makes possible things like combing

Так вот, этот подход делает возможным такие вещи как —

through all available data from very different sources,

прочёсывание всех доступных данных из самых разных источников

identifying key relationships and putting them in one place,

для определения ключевых закономерностей и сведения их воедино.

something that's been nearly impossible to do before.

То, что невозможно было сделать раньше.

To some, this has terrifying privacy and civil liberties

Кто-то считает, что это очень плохо скажется на личной и общественной свободах.

implications. To others it foretells of an era of greater

Другие предвещают эру более надёжной

privacy and civil liberties protections,

защиты личной и социальной свобод.

but privacy and civil liberties are of fundamental importance.

Но личная и социальная свободы имеют принципиальное значение.

That must be acknowledged, and they can't be swept aside,

Они должны быть признаны и не могут игнорироваться

even with the best of intents.

даже исходя из самых лучших намерений.

So let's explore, through a couple of examples, the impact

Итак, давайте исследуем на нескольких примерах воздействие,

that technologies built to drive human-computer symbiosis

которое технологии привносят в человеко-компьютерный симбиоз

have had in recent time.

на сегодняшний день.

In October, 2007, U.S. and coalition forces raided

В октябре 2007, США и силы коалиции обыскали

an al Qaeda safe house in the city of Sinjar

конспиративную квартиру Аль-Каиды в городе Синджар

on the Syrian border of Iraq.

на Сирийской границе Ирака.

They found a treasure trove of documents:

Они нашли драгоценные документы:

700 biographical sketches of foreign fighters.

700 биографических очерков иностранных боевиков.

These foreign fighters had left their families in the Gulf,

Эти иностранные боевики оставили свои семьи в Персидском заливе,

the Levant and North Africa to join al Qaeda in Iraq.

Леванте и Северной Африке, чтобы присоединиться к Аль-Каиде в Ираке.

These records were human resource forms.

Эти записи были опросными анкетами.

The foreign fighters filled them out as they joined the organization.

Иностранные боевики заполняли их при вступлении в организацию.

It turns out that al Qaeda, too,

Оказывается, что и в Аль-Каиде тоже

is not without its bureaucracy. (Laughter)

не обошлось без бюрократии. (Смех)

They answered questions like, "Who recruited you?"

Они ответили такие вопросы, как: «Кто вас завербовал?»,

"What's your hometown?" "What occupation do you seek?"

«Какой ваш родной город?», «Какую работу вы ищете?».

In that last question, a surprising insight was revealed.

Последний вопрос раскрыл удивительные подробности.

The vast majority of foreign fighters

Большое число иностранных боевиков

were seeking to become suicide bombers for martyrdom --

хотели стать смертниками-мучениками,

hugely important, since between 2003 and 2007, Iraq

что особенно важно, т.к. приблизительно с 2003-2007 года в Ираке

had 1,382 suicide bombings, a major source of instability.

было совершено 1382 взрыва смертников (основной источник нестабильности).

Analyzing this data was hard. The originals were sheets

Анализировать эти данные было трудно, т.к. оригиналами были

of paper in Arabic that had to be scanned and translated.

листы бумаги на арабском, которые нужно было отсканировать и перевести.

The friction in the process did not allow for meaningful

«Трение» в процессе не позволяло получить значимые результаты

results in an operational time frame using humans, PDFs

в отведённые сроки используя одних лишь людей, PDF-файлы

and tenacity alone.

и упорство.

The researchers had to lever up their human minds

Исследователям нужно было усилить свои людские умы технологией,

with technology to dive deeper, to explore non-obvious

чтобы копнуть глубже и исследовать неочевидные гипотезы,

hypotheses, and in fact, insights emerged.

таким образом открывая новые идеи.

Twenty percent of the foreign fighters were from Libya,

20% иностранных боевиков были из Ливии,

50 percent of those from a single town in Libya,

50% из них из одного городка в Ливии,

hugely important since prior statistics put that figure at

что важно, т.к. до этого в статистике была цифра 3%.

three percent. It also helped to hone in on a figure

Это также помогло обратить внимание

of rising importance in al Qaeda, Abu Yahya al-Libi,

на растущую значимость в Аль-Каиде такой фигуры как Абу Яхья аль-Либи

a senior cleric in the Libyan Islamic fighting group.

старшего священника Ливийской Исламской боевой группы.

In March of 2007, he gave a speech, after which there was

В марте 2007 года он выступил с речью, после которой наблюдался

a surge in participation amongst Libyan foreign fighters.

интенсивный прирост новых участников из ливийских боевиков.

Perhaps most clever of all, though, and least obvious,

Возможно самое умное из всего этого, хотя и наименее очевидное,

by flipping the data on its head, the researchers were

переворачиванием данных с ног на голову исследователи смогли

able to deeply explore the coordination networks in Syria

глубоко исследовать сети взаимодействий в Сирии,

that were ultimately responsible for receiving and

которые были в конечном счёте ответственны за получение

transporting the foreign fighters to the border.

и транспортировку иностранных боевиков на границу.

These were networks of mercenaries, not ideologues,

Это были сети наёмников, а не идеологов,

who were in the coordination business for profit.

которые координировали свои дела для получения прибыли.

For example, they charged Saudi foreign fighters

К примеру, в основном они нанимали больше саудовских боевиков,

substantially more than Libyans, money that would have

чем ливийских. Ведь деньги, в ином случае

otherwise gone to al Qaeda.

ушли бы в Аль-Каиду.

Perhaps the adversary would disrupt their own network

Возможно, противник нарушил бы свои сети

if they knew they cheating would-be jihadists.

если бы знал, что обманывают будущих джихадистов.

In January, 2010, a devastating 7.0 earthquake struck Haiti,

В январе 2010 года по Гаити ударило разрушительное землетрясение,

third deadliest earthquake of all time, left one million people,

третье в списке самых смертоносных землетрясений за все времена, оставившее один миллион людей,

10 percent of the population, homeless.

10% всего населения, без домов.

One seemingly small aspect of the overall relief effort

Один, казалось бы, небольшой аспект общих усилий по оказанию помощи

became increasingly important as the delivery of food

становился всё более важным по мере нарушения

and water started rolling.

доставки еды и воды.

January and February are the dry months in Haiti,

Январь и Февраль на Гаити — это самые сухие месяцы,

yet many of the camps had developed standing water.

и в это время, во многих лагерях вода застоялась.

The only institution with detailed knowledge of Haiti's

Единственное учреждение, обладающее детальным знанием пойм Гаити,

floodplains had been leveled

было разрушено в результате землетрясения

in the earthquake, leadership inside.

вместе со своим руководством.

So the question is, which camps are at risk,

Итак, вопрос был в том, какие лагеря в опасности,

how many people are in these camps, what's the

сколько людей в этих лагерях,

timeline for flooding, and given very limited resources

каково время затопления, и как организовать переселение

and infrastructure, how do we prioritize the relocation?

имея ограниченные ресурсы.

The data was incredibly disparate. The U.S. Army had

Данные были невероятно разрозненные. Армия США

detailed knowledge for only a small section of the country.

обладала детальным знанием лишь небольшой части страны.

There was data online from a 2006 environmental risk

В интернете были данные с конференции по экологическим рискам 2006 года

conference, other geospatial data, none of it integrated.

и другие геопространственные данные. Но ничто из этого не было объединено.

The human goal here was to identify camps for relocation

Задачей для человека здесь стало определение лагеря для перемещения

based on priority need.

на основе приоритета потребностей.

The computer had to integrate a vast amount of geospacial

Компьютеру же предстояло объединить огромное количество геопространственной информации,

information, social media data and relief organization

данных средств массовой информации и организаций по оказанию помощи

information to answer this question.

для получения ответа на этот вопрос.

By implementing a superior process, what was otherwise

Осуществление улучшенного процесса, который в ином случае

a task for 40 people over three months became

потребовал бы трёх месяцев работы 40 человек,

a simple job for three people in 40 hours,

стало простым заданием для трёх человек и 40 часов

all victories for human-computer symbiosis.

и в итоге победой человеко-компьютерного симбиоза.

We're more than 50 years into Licklider's vision

Сейчас мы, находясь более 50 лет в концепции будушего Ликлайдера

for the future, and the data suggests that we should be

и данные предполагают, что мы должны быть

quite excited about tackling this century's hardest problems,

очень рады тому, что можем решить труднейшие задачи этого века

man and machine in cooperation together.

силами сотрудничества человека и машины.

Thank you. (Applause)

Спасибо. (Аплодисменты)

(Applause)

(Аплодисменты)