How will AI change the world?

Перекладач: Dariia Berestiuk Утверджено: Ilya Rozenberg

У найближчі роки штучний інтелект,

In the coming years, artificial intelligence

ймовірно, змінить ваше життя, а ймовірно, і весь світ.

is probably going to change your life, and likely the entire world.

Але людям важко вирішити, як саме.

But people have a hard time agreeing on exactly how.

Далі ми покажемо уривки з інтерв’ю Всесвітнього економічного форуму,

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

де відомий професор інформатики та експерт зі штучного інтелекту Стюарт Рассел

helps separate the sense from the nonsense.

допомагає відокремити сенс від нісенітниці.

There’s a big difference between asking a human to do something

Існує велика різниця між тим, щоб попросити людину щось зробити

and giving that as the objective to an AI system.

та поставити це завданням системі ШІ.

When you ask a human to get you a cup of coffee,

Коли ви просите людину принести вам чашку кави,

you don’t mean this should be their life’s mission,

ви не маєте на увазі, що це має бути місією усього їхного життя,

and nothing else in the universe matters.

і ніщо інше у світі не має значення.

Even if they have to kill everybody else in Starbucks

Навіть якщо їй потрібно вбити всіх людей у Старбакс,

to get you the coffee before it closes— they should do that.

щоб купити вам каву до закриття — вона мусить це зробити.

No, that’s not what you mean.

Ні, ви не це маєте на увазі.

All the other things that we mutually care about,

Як і усі інші чинники, які нам не байдужі,

they should factor into your behavior as well.

вона також має враховувати вашу поведінку.

And the problem with the way we build AI systems now

І проблема у створенні сучасної системи ШІ полягає в тому,

is we give them a fixed objective.

що ми ставимо перед нею фіксовану ціль.

Алгоритми вимагають, щоб ми формулювали все бажане.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

І якщо ви запитаєте: чи можемо ми зупинити окиснення океанів?

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Так, каталітична реакція, вирішить все надзвичайно ефективно,

but it consumes a quarter of the oxygen in the atmosphere,

але вона споживатиме чверть кисню в атмосфері,

which would apparently cause us to die fairly slowly and unpleasantly

що, очевидно, призведе до того, що ми помиратимемо досить повільно та неприємно

over the course of several hours.

впродовж наступних кількох годин.

So, how do we avoid this problem?

Отже, як нам уникнути цієї проблеми?

You might say, okay, well, just be more careful about specifying the objective—

Ви можете сказати: гаразд, просто будьте обережнішимив описі цілі —

don’t forget the atmospheric oxygen.

не забудьте згадати про атмосферний кисень.

And then, of course, some side effect of the reaction in the ocean

І тоді, безперечно, якийсь побічний ефект цієї реакції в океані

poisons all the fish.

отруює всю рибу.

Okay, well I meant don’t kill the fish either.

Гаразд, я також не хотів вбивати рибу.

And then, well, what about the seaweed?

Ну, а як щодо водоростей?

Don’t do anything that’s going to cause all the seaweed to die.

Не роби те, що спричинить загибель усіх водоростей.

And on and on and on.

І так далі, і далі, і далі.

And the reason that we don’t have to do that with humans is that

І причина, чому нам не потрібно пояснювати це людям, полягає в тому,

humans often know that they don’t know all the things that we care about.

що самі люди знають, що вони не знають усього, про що потрібно хвилюватись.

If you ask a human to get you a cup of coffee,

Якщо ви попросите людину принести вам чашку кави,

and you happen to be in the Hotel George Sand in Paris,

і ви, наприклад, знаходитесь в готелі Жорж Санд у Парижі,

where the coffee is 13 euros a cup,

де кава коштує 13 євро,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

буде цілком логічно повернутись і сказати: ем, кава коштує 13 євро,

are you sure you want it, or I could go next door and get one?

ти точно хочеш саме цю каву, чи взяти дешевше тут недалеко?

And it’s a perfectly normal thing for a person to do.

І це абсолютно нормальна річ для людини.

To ask, I’m going to repaint your house—

Як і перепитати, наприклад, я фарбуватиму ваш будинок —

is it okay if I take off the drainpipes and then put them back?

нічого, якщо я для цього зніму ринви, а потім поставлю їх назад?

We don't think of this as a terribly sophisticated capability,

Ми не вбачаємо в цьому чогось надзвичайно складного,

but AI systems don’t have it because the way we build them now,

проте системи ШІ на це не спроможні, тому що ми їх створюємо такими,

they have to know the full objective.

щоб вони сприймали ціль у повному обсязі.

If we build systems that know that they don’t know what the objective is,

Якщо ми створюємо системи, які знають, що вони не знають свою ціль,

then they start to exhibit these behaviors,

тоді вони починають демонструвати таку поведінку як,

like asking permission before getting rid of all the oxygen in the atmosphere.

наприклад, запитувати дозвіл перед тим, як позбутися всього кисню в атмосфері.

In all these senses, control over the AI system

У всіх цих сенсах контроль над системою ШІ

comes from the machine’s uncertainty about what the true objective is.

походить від невпевненості машини щодо справжньої цілі.

And it’s when you build machines that believe with certainty

І коли ви створюєте машини, які з упевненістю вірять,

that they have the objective,

що вони мають ціль,

that’s when you get this sort of psychopathic behavior.

саме тоді ви отримуєте таку психопатичну поведінку.

And I think we see the same thing in humans.

І я думаю, що ми бачимо те саме в людях.

What happens when general purpose AI hits the real economy?

Що відбувається, коли ШІ загального призначення потрапляє в реальну економіку?

How do things change? Can we adapt?

Як змінюється ситуація? Чи можемо ми адаптуватися?

This is a very old point.

Ця теза вже існує дуже давно.

Amazingly, Aristotle actually has a passage where he says,

Як не дивно, але в Аристотеля насправді є уривок, де він каже,

look, if we had fully automated weaving machines

дивіться, якби у нас були повністю автоматизовані ткацькі верстати

and plectrums that could pluck the lyre and produce music without any humans,

та медіатори, що защипували б струни ліри та створювали музику без допомоги людини,

then we wouldn’t need any workers.

то нам би не потрібні були працівники.

That idea, which I think it was Keynes

Ця ідея, я думаю, що це був Кейнс,

who called it technological unemployment in 1930,

який у 1930 році назвав це технологічним безробіттям,

is very obvious to people.

для людей є дуже очевидною.

They think, yeah, of course, if the machine does the work,

Люди думають: так, звичайно, якщо машина виконуватиме всю роботу,

then I'm going to be unemployed.

тоді я залишуся без роботи.

You can think about the warehouses that companies are currently operating

Ви можете подумати про склади, якими зараз керують компанії

for e-commerce, they are half automated.

для інтернет-торгівлі, що вони наполовину автоматизовані.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Це працює так: це старий склад, де нагромаджено купу речей,

all over the place and humans go and rummage around

де люди ходять і порпаються навколо, потім повертаються з товаром

and then bring it back and send it off—

і відправляють.

there’s a robot who goes and gets the shelving unit

А є ще робот, який дістає стелажний блок,

that contains the thing that you need,

в якому знаходиться те, що вам потрібно,

but the human has to pick the object out of the bin or off the shelf,

Але саме працівник дістає товар з блоку чи з полиці,

because that’s still too difficult.

тому що для робота це все ще важко.

Та, водночас, чи створили би ви робота,

But, at the same time,

would you make a robot that is accurate enough to be able to pick

який був би достатньо точним, щоб мати можливість вибирати

pretty much any object within a very wide variety of objects that you can buy?

майже будь-який предмет із дуже широкого вибору предметів, які ви хочете купити?

That would, at a stroke, eliminate 3 or 4 million jobs?

Який миттєво ліквідує 3-4 мільйони робочих місць?

There's an interesting story that E.M. Forster wrote,

У Едварда Форстера є цікава повість,

where everyone is entirely machine dependent.

в якій люди повністю залежать від машин.

The story is really about the fact that if you hand over

Ця історія насправді про те, що

якщо ви передаєте машинам управління цивілізацією,

the management of your civilization to machines,

you then lose the incentive to understand it yourself

то ви втрачаєте стимул вивчати цю цивілізацію самостійно

or to teach the next generation how to understand it.

або навчати наступне покоління її розуміти.

You can see “WALL-E” actually as a modern version,

Власне, мультфільм «ВОЛЛ-І» - це сучасна версія цієї історії,

where everyone is enfeebled and infantilized by the machine,

де всі ослаблені та зіпсовані впливом машин;

and that hasn’t been possible up to now.

те, що здавалося неможливим — цілком реальне.

We put a lot of our civilization into books,

Ми фіксуємо знання про нашу цивілізацію в книгах,

but the books can’t run it for us.

але книги не можуть керувати нею.

And so we always have to teach the next generation.

І тому саме ми завжди маємо навчати наступне покоління.

If you work it out, it’s about a trillion person years of teaching and learning

Якщо розібратися, це приблизно трильйон людино-років викладання та навчання,

and an unbroken chain that goes back tens of thousands of generations.

та безперервний ланцюг, який тягнеться десятки тисяч поколінь.

What happens if that chain breaks?

Що буде, якщо цей ланцюжок розірветься?

I think that’s something we have to understand as AI moves forward.

Я думаю, що ми мусимо розуміти це в ході розвитку ШІ.

The actual date of arrival of general purpose AI—

Справжню дату появи ШІ загального призначення

you’re not going to be able to pinpoint, it isn’t a single day.

точно не знатиме ніхто, це відбудеться не за один день.

It’s also not the case that it’s all or nothing.

Це також не той випадок, коли все або нічого.

The impact is going to be increasing.

Цей вплив буде зростати.

So with every advance in AI,

Тож із кожним поліпшенням, ШІ

it significantly expands the range of tasks.

значно розширюватиме спектр завдань, які він зможе виконувати.

So in that sense, I think most experts say by the end of the century,

Тож у цьому сенсі, я думаю більшість експертів погодяться, що до кінця століття

we’re very, very likely to have general purpose AI.

ми швидше за все матимемо ШІ загального призначення.

The median is something around 2045.

2045 рік стане медіаною його розвитку.

I'm a little more on the conservative side.

Я все ж більш консервативнивної думки.

I think the problem is harder than we think.

Я думаю, що це завдання складніше, ніж ми уявляємо.

I like what John McAfee, he was one of the founders of AI,

Мені подобається відповідь Джона Макафі, одного із засновників ШІ,

when he was asked this question, he said, somewhere between five and 500 years.

на це ж запитання; він сказав, що це займе від 5 до 500 років.

And we're going to need, I think, several Einsteins to make it happen.

І нам знадобиться, напевно, кілька Ейнштейнів, щоб це сталося.