How will AI change the world?

Аудармашы: Акнур Жумабай Редактор: Bakytgul Salykhova

Болашақта жасанды интелект

In the coming years, artificial intelligence

Сіздің өміріңізді және бүкіл әлемді өзгертуі мүмкін

is probably going to change your life, and likely the entire world.

Бірақ бұл қалай болатындығы туралы келіспеушіліктер көп.

But people have a hard time agreeing on exactly how.

Атақты информатика профессоры

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

және ЖИ сарапшысы Стюарт Расселдің сұхбатынан үзінді келтіреміз,

helps separate the sense from the nonsense.

ол ненің дұрыс-бұрыс екенін түсінуге көмектеседі.

There’s a big difference between asking a human to do something

Адамнан бірнәрсе жасауын сұрау мен фасадны интеллектке команда

and giving that as the objective to an AI system.

берудің арасында үлкен айырмашылық бар.

When you ask a human to get you a cup of coffee,

Адамнан кофе алып беруін сұрағанда оны

you don’t mean this should be their life’s mission,

өмірлік миссиясына айналдырсын және одан маңызды

and nothing else in the universe matters.

ешнәрсе жоқ дегенді білдірмейді.

Even if they have to kill everybody else in Starbucks

Старбакстағы барлық адамды сізге кофе

to get you the coffee before it closes— they should do that.

алу үшін өлтіруі керек болса да оны жасауы керек.

No, that’s not what you mean.

Жоқ, сіз мұны айтқыңыз келген жоқ.

All the other things that we mutually care about,

Бізді алаңдататын басқа да нәрселер

they should factor into your behavior as well.

іс-әрекетіңізге қатысты болуы керек

And the problem with the way we build AI systems now

ЖИ-ді қазір жасап жатқан тәсілдің минусы

is we give them a fixed objective.

біз оларға нақты мақсат береміз.

The algorithms require us to specify everything in the objective.

Алгоритмде мақсаттың әр қадамын көрсету керек.

And if you say, can we fix the acidification of the oceans?

Мұхиттың қышқылдануын тоқтата аламыз ба? деп сұраңызшы.

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Иә, сіз өте тиімді каталитикалық реакцияны айтуыңыз мүмкін,

but it consumes a quarter of the oxygen in the atmosphere,

бірақ ол атмосферадағы оттегінің 1/4-ін қолданады

which would apparently cause us to die fairly slowly and unpleasantly

және біздің бірнеше сағат бойы баяу

over the course of several hours.

өлуімізге себеп болады.

So, how do we avoid this problem?

Енді, бұл мәселені қалай шешеміз?

You might say, okay, well, just be more careful about specifying the objective—

Мақсатты айқындауда абай болуды ұмытпаңыз деуіңіз мүмкін —

don’t forget the atmospheric oxygen.

атмосфералық оттегін ұмытпаңыз.

And then, of course, some side effect of the reaction in the ocean

Және, әрине, мұхитқа жасалған әрекет әсері

poisons all the fish.

барлық балықты улайды.

Okay, well I meant don’t kill the fish either.

Жақсы, бірақ мен балықты өлтіруге бұйрық бермедім ғой.

And then, well, what about the seaweed?

Сонан соң теңіз балдырлары ше?

Don’t do anything that’s going to cause all the seaweed to die.

Балдырды жоятын ештеңе істеме

And on and on and on.

т.с.с

And the reason that we don’t have to do that with humans is that

Және мұны істеудің қажеті жоқ екенінің себебі мынада: адамдар көбінесе

humans often know that they don’t know all the things that we care about.

бізді қызықтыратын нәрселерді өздерінің білмейтінін біледі.

If you ask a human to get you a cup of coffee,

Адамнан кофе әкелуін сұрасаңыз

and you happen to be in the Hotel George Sand in Paris,

және Париждегі George Sand отельінде болсаңыз,

where the coffee is 13 euros a cup,

онда кофе 13 евро тұрады,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

ол қайтып келіп, кофе 13 евро екен

are you sure you want it, or I could go next door and get one?

“алайын ба әлде келесісіне барайын ба?” деп сұрайды.

And it’s a perfectly normal thing for a person to do.

Бұл адамдар үшін қалыпты жағдай.

To ask, I’m going to repaint your house—

Егер үйіңізді бояп жатсам,

is it okay if I take off the drainpipes and then put them back?

“су құбырларын алып, кейін қайта салсам бола ма?” деп сұраймын.

We don't think of this as a terribly sophisticated capability,

Мұны өте қиын қабілет деп санамаймыз.

but AI systems don’t have it because the way we build them now,

Бірақ ЖИ жүйесінде ол жоқ, себебі оны жасау тәселінде

they have to know the full objective.

олар мақсатты түгел білуі керек.

If we build systems that know that they don’t know what the objective is,

Егер мақсатты білмейтінін білетін жүйе құрсақ

then they start to exhibit these behaviors,

олар сол әрекеттерге барады,

like asking permission before getting rid of all the oxygen in the atmosphere.

ауадағы барлық оттегіден құтылуға рұқсат сұраған секілді.

In all these senses, control over the AI system

ЖИ-ді бақылау қажеттігі

comes from the machine’s uncertainty about what the true objective is.

машинаның дұрыс мақсатты білмеуінен туындайды.

And it’s when you build machines that believe with certainty

Мақсаты бар екеніне сенімді машиналар

that they have the objective,

жасағанда

that’s when you get this sort of psychopathic behavior.

осы секілді ақылға сыйымсыз әрекет жасалады.

And I think we see the same thing in humans.

Осыны адамдарда да көреміз деп ойлаймын.

What happens when general purpose AI hits the real economy?

Егер ЖИ экономикаға зиян әкелсе ше?

How do things change? Can we adapt?

Не өзгереді? Біз оны икемдей аламыз ба?

This is a very old point.

Бұл бұрыннан кете жатқан мәселе.

Amazingly, Aristotle actually has a passage where he says,

Таңғаларлығы Аристотель бір еңбегінде былай жазған:

look, if we had fully automated weaving machines

егер бізде толық автоматтандырылған тоқыма құрылғылары және

and plectrums that could pluck the lyre and produce music without any humans,

адамсыз музыка шығаратын плектумдар болса

then we wouldn’t need any workers.

бізге ешқандай жұмысшы керек емес.

That idea, which I think it was Keynes

Бұл идея Кейнестікі

who called it technological unemployment in 1930,

ол мұны 1930-дағы технологиялық жұмыссыздық деп атады,

is very obvious to people.

адамдар мұны анық біледі.

They think, yeah, of course, if the machine does the work,

Адамдар машина жұмыс жасайды, ал мен

then I'm going to be unemployed.

жұмыссыз қаламын деп ойлайды.

You can think about the warehouses that companies are currently operating

Қазір компаниялар қолданысындағы эл.қызметке арналған жартылай

for e-commerce, they are half automated.

автоматтандырылған қойманы қарасаңыз болады.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Жұмыс жасау тәртібі: барлық жерінде тонналап зат тұратын

all over the place and humans go and rummage around

ескі қоймадан адамдар

and then bring it back and send it off—

заттарды алып, басқа жерге жөнелтеді.

there’s a robot who goes and gets the shelving unit

ондағы робот сізге қажет зат бар

that contains the thing that you need,

сөрені тауып, затты көрсетіп береді

but the human has to pick the object out of the bin or off the shelf,

Бірақ адам сөредегі не жәшіктегі затты алуы керек.

because that’s still too difficult.

Себебі мұны жасау әлі өте қиын.

But, at the same time,

Бірақ сонымен бірге

would you make a robot that is accurate enough to be able to pick

сіз сатып алатын затты өте көп зат арасынан таба алатын

pretty much any object within a very wide variety of objects that you can buy?

робот жасайтын ба едіңіз?

That would, at a stroke, eliminate 3 or 4 million jobs?

Бұл 3-4 милион жұмыс орнын азайтатын еді.

There's an interesting story that E.M. Forster wrote,

E.M.Froster-дің жазған қызық оқиғасы бар,

where everyone is entirely machine dependent.

онда барлығы машинаға тәуелді.

The story is really about the fact that if you hand over

Бұл оқиғада, егер халықты басқаруды машиналардың

the management of your civilization to machines,

қолына берсеңіз

you then lose the incentive to understand it yourself

оны өзіңіз түсінуге және келер ұрпаққа үйретуге

or to teach the next generation how to understand it.

деген ниетіңізді жоғалтатыңыз туралы айтылады.

You can see “WALL-E” actually as a modern version,

Заманауи үлгі ретінде “WALL-E”ні алсақ

where everyone is enfeebled and infantilized by the machine,

Онда бәрі әлсіз және машиналар бәрін жасайды,

and that hasn’t been possible up to now.

бүгінге дейін бұл мүмкін болмаған еді.

We put a lot of our civilization into books,

Кітаптарға өркениетімізді енгіздік, бірақ

but the books can’t run it for us.

олар оны біз үшін жүргізе алмайды.

And so we always have to teach the next generation.

Сондықтан біз әрқашан келер ұрпақты үйретуіміз керек.

If you work it out, it’s about a trillion person years of teaching and learning

Бұл трилиондаған жылдар бойы келе жатқан үйрету мен үйрену,

and an unbroken chain that goes back tens of thousands of generations.

бұл он мыңдаған ұрпақ бойы жалғасқан тізбек.

What happens if that chain breaks?

Бұл тізбекті бұзсақ не болмақ?

I think that’s something we have to understand as AI moves forward.

ЖИ дамуымен бірнәрсені түсінуіміз керек

The actual date of arrival of general purpose AI—

ЖИ-дің пайда болуының мақсатын

you’re not going to be able to pinpoint, it isn’t a single day.

анықтай алмайсыз. Бұл бір күндік жұмыс емес.

It’s also not the case that it’s all or nothing.

Сондай-ақ бәрі не ештеңе деген таңдау да емес.

The impact is going to be increasing.

Бұл әсер көбейе түседі.

So with every advance in AI,

ЖИ-дағы әр жаңалық

it significantly expands the range of tasks.

тапсырманы кәдімгідей көбейтеді.

So in that sense, I think most experts say by the end of the century,

Сондықтан көптеген сарапшылар осы ғасырдың аяғында

we’re very, very likely to have general purpose AI.

ЖИ-дің жалпы мақсатына жетуіміз мүмкін дейді.

The median is something around 2045.

Ортасы, 2045 жылдың айналасында

I'm a little more on the conservative side.

мен көбіне консервативті жағын қолдаймын.

I think the problem is harder than we think.

Мәселе біз ойлағаннан да қиын сияқты.

I like what John McAfee, he was one of the founders of AI,

ЖИ негізін салушылардың бірі Жон McAfee-дің осы сұраққа жауабы:

when he was asked this question, he said, somewhere between five and 500 years.

“Шамамен 5-500 жыл аралығында.

And we're going to need, I think, several Einsteins to make it happen.

Мұны жүзеге асыру үшін бізге бірнеше Айнштайн керек.