How will AI change the world?

Переводчик: Natalia Savvidi Редактор: Rostislav Golod

В обозримом будущем искусственный интеллект,

In the coming years, artificial intelligence

возможно, изменит не только вашу жизнь, но и всего мира.

is probably going to change your life, and likely the entire world.

Но людям трудно прийти к согласию,

But people have a hard time agreeing on exactly how.

как это будет происходить.

The following are excerpts from an interview

Мы приведём отрывки из интервью для Всемирного экономического форума,

where renowned computer science professor and AI expert Stuart Russell

в котором известный профессор информатики

и специалист по ИИ Стюарт Рассел поможет отделить разумные мысли от вздора.

helps separate the sense from the nonsense.

There’s a big difference between asking a human to do something

Существует большая разница между тем, когда человека просят сделать что-то,

and giving that as the objective to an AI system.

и тем, когда это поручается системе ИИ.

When you ask a human to get you a cup of coffee,

Когда вы просите человека принести чашку кофе,

вы не имеете в виду, что это должно стать задачей его жизни

you don’t mean this should be their life’s mission,

and nothing else in the universe matters.

и ничто другое во вселенной не имеет значения.

Even if they have to kill everybody else in Starbucks

Даже если нужно убить всех остальных в «Старбаксе»

to get you the coffee before it closes— they should do that.

и добыть вам кофе, прежде чем кафе закроется,

он должен это сделать.

No, that’s not what you mean.

Нет, не это имеется в виду.

All the other things that we mutually care about,

Всё, что имеет ценность для нас обоих,

должно учитываться в том числе и в вашем поведении.

they should factor into your behavior as well.

And the problem with the way we build AI systems now

Проблема в том, как мы сегодня создаём системы ИИ, —

is we give them a fixed objective.

мы ставим перед ними фиксированную цель.

The algorithms require us to specify everything in the objective.

Алгоритмы требуют, чтобы мы задавали цель в точности.

And if you say, can we fix the acidification of the oceans?

Допустим, мы задаёмся вопросом: можно ли остановить закисление океана?

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Да, благодаря каталитической реакции это можно сделать очень эффективно,

but it consumes a quarter of the oxygen in the atmosphere,

но для этого потребуется четверть атмосферного кислорода,

which would apparently cause us to die fairly slowly and unpleasantly

что приведёт к медленной и мучительной гибели людей

over the course of several hours.

за каких-то несколько часов.

So, how do we avoid this problem?

Как же разрешить эту проблему?

You might say, okay, well, just be more careful about specifying the objective—

Можно было бы предложить тщательнее определить цель,

don’t forget the atmospheric oxygen.

не забывая об атмосферном кислороде.

And then, of course, some side effect of the reaction in the ocean

Кроме того, конечно же, побочный эффект этой реакции в океане —

poisons all the fish.

отравление всей рыбы.

Okay, well I meant don’t kill the fish either.

Ладно, я имел виду также не убивать рыбу.

And then, well, what about the seaweed?

А водоросли?

Don’t do anything that’s going to cause all the seaweed to die.

Не делать ничего такого, что погубит водоросли.

And on and on and on.

И так далее и тому подобное.

And the reason that we don’t have to do that with humans is that

Причина, по которой нет нужды проделывать это с людьми, состоит в том,

humans often know that they don’t know all the things that we care about.

что люди часто знают, что они не знают обо всём, что важно для нас.

If you ask a human to get you a cup of coffee,

Если вы попросите человека принести вам чашку кофе,

and you happen to be in the Hotel George Sand in Paris,

находясь в отеле «Жорж Санд» в Париже,

where the coffee is 13 euros a cup,

где чашка кофе стоит 13 евро,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

будет разумно, если он вернётся и скажет:

«Здесь кофе стоит 13 евро.

are you sure you want it, or I could go next door and get one?

Будете пить за такие деньги или я мог бы купить его в другом месте?»

And it’s a perfectly normal thing for a person to do.

Для человека такой вопрос был бы совершенно нормальным.

To ask, I’m going to repaint your house—

Нормально также спросить:

«Я собираюсь покрасить ваш дом.

is it okay if I take off the drainpipes and then put them back?

Можно, я вначале сниму водосточные трубы, а потом верну их на место?»

We don't think of this as a terribly sophisticated capability,

Мы не считаем это чем-то исключительно сложным,

but AI systems don’t have it because the way we build them now,

но в настоящее время системы ИИ не обладают такой способностью.

they have to know the full objective.

Они должны знать цель в точности.

If we build systems that know that they don’t know what the objective is,

Если создавать системы, знающие о том, что они не знают цели,

then they start to exhibit these behaviors,

их поведение изменится и они станут спрашивать разрешение,

like asking permission before getting rid of all the oxygen in the atmosphere.

прежде чем избавляться от атмосферного кислорода.

In all these senses, control over the AI system

В этом смысле контроль над системами ИИ

comes from the machine’s uncertainty about what the true objective is.

возникает из-за неопределённости у машины относительно настоящей цели.

And it’s when you build machines that believe with certainty

Когда создаются машины, знающие наверняка,

that they have the objective,

что у них есть цель,

that’s when you get this sort of psychopathic behavior.

они демонстрируют подобие «психопатического поведения».

And I think we see the same thing in humans.

Думаю, что то же самое наблюдается и у людей.

What happens when general purpose AI hits the real economy?

Что произойдёт,

когда в массовое производство поступят универсальные устройства ИИ?

How do things change? Can we adapt?

Как изменится ситуация и сможем ли мы приспособиться?

This is a very old point.

Это очень старый вопрос.

Amazingly, Aristotle actually has a passage where he says,

Удивительно, но Аристотель сделал такое утверждение:

look, if we had fully automated weaving machines

«Если бы у нас были полностью автоматизированные ткацкие машины

and plectrums that could pluck the lyre and produce music without any humans,

и плектры были бы способны играть на лире и создавать музыку без участия человека,

then we wouldn’t need any workers.

нам были бы не нужны работники».

That idea, which I think it was Keynes

По-моему, об этом высказывался Кейнс,

who called it technological unemployment in 1930,

называвший это технологической безработицей в 1930 году,

is very obvious to people.

и это очевидно для людей.

They think, yeah, of course, if the machine does the work,

Они думают, что, конечно же, если машина будет делать работу,

then I'm going to be unemployed.

тогда я окажусь безработным.

You can think about the warehouses that companies are currently operating

Подумайте о магазинах, через которые компании торгуют в интернете, —

for e-commerce, they are half automated.

они наполовину автоматизированы.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Раньше на полках в оптовых складах лежали тонны товаров,

all over the place and humans go and rummage around

а работники шли, находили нужный товар,

and then bring it back and send it off—

приносили его и отправляли покупателям.

there’s a robot who goes and gets the shelving unit

А сейчас есть роботы, которые берут с полки некие контейнеры,

that contains the thing that you need,

содержащие нужный товар,

but the human has to pick the object out of the bin or off the shelf,

но человек должен всё равно достать товар из контейнера или снять с полки:

because that’s still too difficult.

это всё ещё слишком сложно для робота.

But, at the same time,

Однако создадите ли вы робот,

would you make a robot that is accurate enough to be able to pick

который с достаточной точностью сможет

выбрать конкретный товар

pretty much any object within a very wide variety of objects that you can buy?

из широкого ассортимента товаров, доступных для покупки?

That would, at a stroke, eliminate 3 or 4 million jobs?

Если да, то это изобретение одним махом

уничтожит от трёх до четырёх миллионов рабочих мест.

There's an interesting story that E.M. Forster wrote,

Эдвард Морган Форстер написал интересный рассказ «Машина останавливается»,

where everyone is entirely machine dependent.

в котором каждый полностью зависит от Машины.

The story is really about the fact that if you hand over

Рассказ на самом деле о том,

что если вы передадите машинам управление своей цивилизацией,

the management of your civilization to machines,

you then lose the incentive to understand it yourself

вы потеряете потребность понимать, как управляют миром,

or to teach the next generation how to understand it.

или обучать этому следующее поколение.

You can see “WALL-E” actually as a modern version,

Мультфильм «ВАЛЛ-И» можно считать современной версией этой идеи —

where everyone is enfeebled and infantilized by the machine,

в этом мире все стали хилыми и инфантильными из-за машин.

and that hasn’t been possible up to now.

Но до сих пор такое было невозможно.

We put a lot of our civilization into books,

Наша цивилизация очень подробно описана нами в книгах,

but the books can’t run it for us.

но книги не могут управлять ею вместо нас.

And so we always have to teach the next generation.

Мы всегда вынуждены обучать следующее поколение.

If you work it out, it’s about a trillion person years of teaching and learning

Если разобраться, мы потратили где-то триллион человеко-лет на обучение и учёбу,

and an unbroken chain that goes back tens of thousands of generations.

и эта непрерывная цепочка уходит в прошлое на десятки тысяч поколений.

What happens if that chain breaks?

Что произойдёт, если эта цепочка прервётся?

I think that’s something we have to understand as AI moves forward.

Думаю, что это надо понимать, развивая ИИ.

The actual date of arrival of general purpose AI—

Невозможно указать точную дату появления универсальных устройств ИИ.

you’re not going to be able to pinpoint, it isn’t a single day.

Невозможно указать какой-то определённый день.

It’s also not the case that it’s all or nothing.

К тому же, это не случится за один день.

The impact is going to be increasing.

Влияние будет постепенно возрастать.

So with every advance in AI,

При каждом новом достижении в сфере ИИ

it significantly expands the range of tasks.

будет существенно расширяться спектр задач.

So in that sense, I think most experts say by the end of the century,

Большинство экспертов считают, что в этом смысле к концу века,

we’re very, very likely to have general purpose AI.

скорее всего, появятся универсальные устройства ИИ.

The median is something around 2045.

По средней оценке экспертов, где-то около 2045 года.

I'm a little more on the conservative side.

Я придерживаюсь более консервативного мнения.

I think the problem is harder than we think.

Я считаю, что эта задача сложнее, чем мы думаем.

I like what John McAfee, he was one of the founders of AI,

Мне нравится, как ответил на этот вопрос

Джон Макафи, один из первых разработчиков ИИ,

when he was asked this question, he said, somewhere between five and 500 years.

он сказал, что на это уйдёт от 5 до 500 лет.

And we're going to need, I think, several Einsteins to make it happen.

И чтобы это произошло, понадобится несколько Эйнштейнов.