Don't fear intelligent machines. Work with them | Garry Kasparov

Prevodilac: Tijana Mihajlović Lektor: Ivana Krivokuća

This story begins in 1985,

Прича почиње 1985. године,

when at age 22,

када сам са 22 године

I became the World Chess Champion

постао светски првак у шаху

after beating Anatoly Karpov.

након што сам победио Анатолија Карпова.

Earlier that year,

Раније те године,

I played what is called simultaneous exhibition

играо сам нешто под називом симултанка

against 32 of the world's best chess-playing machines

против 32 најбоље машине на свету које играју шах

in Hamburg, Germany.

у Хамбургу, у Немачкој.

Победио сам у свим партијама,

I won all the games,

and then it was not considered much of a surprise

а тада се није сматрало великим изненађењем

that I could beat 32 computers at the same time.

то што сам успео да победим 32 компјутера у исто време.

To me, that was the golden age.

За мене је то било златно доба.

(Смех)

(Laughter)

Machines were weak,

Машине су биле слабе,

and my hair was strong.

а моја коса јака.

(Смех)

(Laughter)

Just 12 years later,

Само 12 година касније,

I was fighting for my life against just one computer

борио сам се за живот против само једног компјутера

in a match

у партији

called by the cover of "Newsweek"

која је према наслову из „Њузвика“

"The Brain's Last Stand."

названа „Последње упориште мозга“.

No pressure.

Без притиска.

(Laughter)

(Смех)

Од митологије до научне фантастике,

From mythology to science fiction,

human versus machine

борба човека и машине

has been often portrayed as a matter of life and death.

приказивана је често као питање живота и смрти.

John Henry,

Џон Хенри,

called the steel-driving man

називан човеком који управља челиком

in the 19th century African American folk legend,

у афроамеричкој народној легенди из деветнаестог века,

бачен је у трку

was pitted in a race

against a steam-powered hammer

против чекића који покреће пара

bashing a tunnel through mountain rock.

док су пробијали тунел кроз стену.

John Henry's legend is a part of a long historical narrative

Легенда о Џону Хенрију је део дугог историјског наратива

pitting humanity versus technology.

који човечанство супротставља технологији.

And this competitive rhetoric is standard now.

Ова такмичарска реторика је сада стандард.

We are in a race against the machines,

У трци смо против машина,

in a fight or even in a war.

у борби, па чак и у рату.

Jobs are being killed off.

Послови нестају.

People are being replaced as if they had vanished from the Earth.

Људи се смењују као да су нестали са лица земље.

It's enough to think that the movies like "The Terminator" or "The Matrix"

То је довољно је да помислимо да филмови попут „Терминатора“ или „Матрикса“

are nonfiction.

нису фикција.

There are very few instances of an arena

Постоји само неколико подручја у арени

where the human body and mind can compete on equal terms

где се људско тело и ум могу такмичити под истим условима

with a computer or a robot.

са компјутером или роботом.

Actually, I wish there were a few more.

Заправо, волео бих да их има више.

Instead,

Уместо тога,

it was my blessing and my curse

мој благослов и проклетство

to literally become the proverbial man

били су да сам буквално постао човек из пословице

in the man versus machine competition

у такмичењу човека и машине

that everybody is still talking about.

о ком сви још увек причају.

У најпознатијем такмичењу између човека и машине од Џона Хенрија,

In the most famous human-machine competition since John Henry,

играо сам две партије

I played two matches

against the IBM supercomputer, Deep Blue.

против Ај-Би-Емовог суперкоmпјутера, Дип Блуа.

Нико се не сећа да сам победио у првој партији.

Nobody remembers that I won the first match --

(Laughter)

(Смех)

(Applause)

(Аплауз)

In Philadelphia, before losing the rematch the following year in New York.

У Филаделфији, пре него што сам изгубио реванш наредне године у Њујорку.

But I guess that's fair.

Али, ваљда је то поштено.

There is no day in history, special calendar entry

Не постоји дан у историји, специјални дан у календару

for all the people who failed to climb Mt. Everest

за све људе који нису успели да се попну на Монт Еверест

before Sir Edmund Hillary and Tenzing Norgay

пре него што су Сер Едмунд Хилари и Тензинг Норгеј

made it to the top.

успели у томе.

And in 1997, I was still the world champion

А 1997. године, и даље сам био светски првак

when chess computers finally came of age.

када су се компјутери за шах коначно усавршили.

I was Mt. Everest,

Био сам Монт Еверест,

and Deep Blue reached the summit.

а Дип Блу је достигао врхунац.

I should say of course, not that Deep Blue did it,

Требало би да кажем, наравно, не да је Дип Блу то урадио,

but its human creators --

већ људи који су га створили -

Anantharaman, Campbell, Hoane, Hsu.

Анантараман, Кемпбел, Хоан, Хсу.

Hats off to them.

Скидам им капу.

As always, machine's triumph was a human triumph,

Као и увек, успех машине био је људски успех,

something we tend to forget when humans are surpassed by our own creations.

а то је нешто што обично заборавимо када људе престигну сопствене творевине.

Deep Blue was victorious,

Дип Блу је био односио победе,

but was it intelligent?

али да ли је био интелигентан?

No, no it wasn't,

Не, није,

at least not in the way Alan Turing and other founders of computer science

бар не онако како су надали Алан Тјуринг и други оснивачи рачунарства.

had hoped.

It turned out that chess could be crunched by brute force,

Испоставило се да шах може да се прорачуна сировом снагом,

када је хардвер постао довољно брз,

once hardware got fast enough

and algorithms got smart enough.

а алгоритми довољно паметни.

Although by the definition of the output,

Иако је према дефиницији резултата

grandmaster-level chess,

шаха на велемајсторском нивоу

Deep Blue was intelligent.

Деп Блу био интелигентан.

But even at the incredible speed,

Међутим, чак и поред невероватне брзине,

200 million positions per second,

200 милиона позиција у секунди,

Deep Blue's method

метод Дип Блуа

provided little of the dreamed-of insight into the mysteries of human intelligence.

није давао довољно жељеног увида у мистерију људске интелигенције.

Soon,

Ускоро,

machines will be taxi drivers

машине ће бити таксисти,

and doctors and professors,

доктори и професори,

but will they be "intelligent?"

али да ли ће бити „интелигентне“?

I would rather leave these definitions

Радије бих препустио ове дефиниције

to the philosophers and to the dictionary.

филозофима и речнику.

What really matters is how we humans

Оно што је заиста важно је шта ми људи

feel about living and working with these machines.

осећамо везано за живот и рад са овим машинама.

Када сам се први пут сусрео са Дип Блуом фебруара 1996. године,

When I first met Deep Blue in 1996 in February,

I had been the world champion for more than 10 years,

био сам светски шампион више од 10 година

и одиграо сам 182 партије за светско првенство

and I had played 182 world championship games

и хиљаде партија против других врхунских играча

and hundreds of games against other top players in other competitions.

у другим такмичењима.

I knew what to expect from my opponents

Знао сам шта да очекујем од својих противника

and what to expect from myself.

и од себе.

I was used to measure their moves

Навикао сам на то да им одмеравам потезе

and to gauge their emotional state

и одређујем емотивно стање

by watching their body language and looking into their eyes.

кроз посматрање говора тела и погледа.

And then I sat across the chessboard from Deep Blue.

Затим сам сео са друге стране шаховске табле, насупрот Дип Блуу.

I immediately sensed something new,

Одмах сам осетио нешто ново,

something unsettling.

нешто узнемирујуће.

You might experience a similar feeling

Можда ћете се осетити слично

the first time you ride in a driverless car

први пут када се возите у аутомобилу без возача

or the first time your new computer manager issues an order at work.

или први пут када вам компјутерски менаџер изда наређење на послу.

But when I sat at that first game,

Али, када сам сео да одиграм ту прву партију,

нисам био сигуран у то

I couldn't be sure

what is this thing capable of.

шта ова ствар може да уради.

Technology can advance in leaps, and IBM had invested heavily.

Технологија може веома брзо да напредује, а Ај-Би-Ем је много уложио.

I lost that game.

Изгубио сам партију.

And I couldn't help wondering,

Нисам могао а да се не запитам

да ли је можда непобедив.

might it be invincible?

Was my beloved game of chess over?

Да ли је моја вољена игра, шах, стигла до краја?

These were human doubts, human fears,

Биле су ово људске сумње, људски страхови,

and the only thing I knew for sure

а једина ствар коју сам знао засигурно

was that my opponent Deep Blue had no such worries at all.

била је да мој противник, Дип Блу, уопште нема таквих брига.

(Laughter)

(Смех)

I fought back

Узвратио сам

after this devastating blow

након овог разарајућег удара

тако што сам добио прву партију,

to win the first match,

but the writing was on the wall.

али је натпис стајао на зиду.

I eventually lost to the machine

На крају ме је машина победила,

but I didn't suffer the fate of John Henry

али нисам доживео судбину Џона Хенрија

who won but died with his hammer in his hand.

који је победио, али умро са чекићем у руци.

[John Henry Died with a Hammer in His Hand Palmer C. Hayden]

[The Museum of African American Art, Los Angeles]

It turned out that the world of chess

Испоставило се да свет шаха

still wanted to have a human chess champion.

и даље жели шаховског првака који је човек.

And even today,

Чак и данас,

када је бесплатна апликација за шах на најновијем мобилном телефону

when a free chess app on the latest mobile phone

is stronger than Deep Blue,

јача од Дип Блуа,

people are still playing chess,

људи и даље играју шах,

even more than ever before.

чак и више него раније.

Doomsayers predicted that nobody would touch the game

Они који су причали о судњем дану предвидели су да нико неће играти игру

у којој их може победити машина

that could be conquered by the machine,

and they were wrong, proven wrong,

и нису били у праву; доказано је да су погрешили,

but doomsaying has always been a popular pastime

али прорицање судњег дана је увек била популарна разбибрига

када се ради о технологији.

when it comes to technology.

What I learned from my own experience

Из сопственог искуства сам научио

да се морамо суочити са својим страховима

is that we must face our fears

if we want to get the most out of our technology,

ако желимо да добијемо што је више могуће од наше технологије,

and we must conquer those fears

и морамо савладати ове страхове

if we want to get the best out of our humanity.

ако желимо да добијемо што је више могуће из своје човечности.

Док сам видао своје ране,

While licking my wounds,

I got a lot of inspiration

добио сам велику инспирацију

из својих битака против Дип Блуа.

from my battles against Deep Blue.

As the old Russian saying goes, if you can't beat them, join them.

Као што стара руска пословица каже:

„Ако не можеш да их победиш, придружи им се.“

Then I thought,

Онда сам помислио:

what if I could play with a computer --

„Шта ако бих могао играти са компјутером?“,

together with a computer at my side, combining our strengths,

са компјутером на мојој страни, уз удружене снаге,

људска интуиција уз машинско рачунање,

human intuition plus machine's calculation,

human strategy, machine tactics,

људска стратегија, машинска тактика,

human experience, machine's memory.

људско искуство, машинска меморија.

Да ли би то била савршена игра свих времена?

Could it be the perfect game ever played?

Моја идеја је оживела 1998. године

My idea came to life

in 1998 under the name of Advanced Chess

под именом „Напредни шах“,

when I played this human-plus-machine competition against another elite player.

када сам одиграо партију човека и машине против другог елитног играча.

But in this first experiment,

Али, у овом првом експерименту,

we both failed to combine human and machine skills effectively.

није нам успело да ефикасно укомбинујемо способности људи и машина.

Advanced Chess found its home on the internet,

„Напредни шах“ је нашао себи место на интернету,

а 2005. године је такозвани шаховски турнир слободног стила

and in 2005, a so-called freestyle chess tournament

довео до откровења.

produced a revelation.

A team of grandmasters and top machines participated,

Учествовао је тим велемајстора и суперкомпјутера,

but the winners were not grandmasters,

али победници нису били велемајстори,

not a supercomputer.

нити суперкомпјутери.

The winners were a pair of amateur American chess players

Победио је пар америчких шаховских аматера

радећи уз три обична рачунара истовремено.

operating three ordinary PCs at the same time.

Their skill of coaching their machines

Њихове вештине у навођењу њихових машина

effectively counteracted the superior chess knowledge

ефикасно су се супротставиле напредном шаховском знању

of their grandmaster opponents

њихових противника велемајстора

и много већој снази туђих компјутера.

and much greater computational power of others.

And I reached this formulation.

И дошао сам до овог закључка.

A weak human player plus a machine

Слаб људски играч уз машину

plus a better process is superior

и бољи процес је супериорнији

to a very powerful machine alone,

од веома снажне машине,

but more remarkably, is superior to a strong human player

али, што је још интересантније, супериорнији је од доброг људског играча

plus machine

уз машину

и инфериорнији процес.

and an inferior process.

This convinced me that we would need

Ово ме је убедило да нам требају

бољи интерфејси да нам помогну да научимо машине

better interfaces to help us coach our machines

towards more useful intelligence.

да користе кориснију интелигенцију.

Human plus machine isn't the future,

Људи уз машине нису будућност,

it's the present.

већ садашњост.

Everybody that's used online translation

Сви су користили онлајн превођење

да би стекли представу о чланку из страних новина,

to get the gist of a news article from a foreign newspaper,

knowing its far from perfect.

знајући да је далеко од савршеног.

Then we use our human experience

Затим користимо људско искуство

to make sense out of that,

да бисмо то смисаоно уобличили,

and then the machine learns from our corrections.

а онда машина учи из наших исправки.

This model is spreading and investing in medical diagnosis, security analysis.

Овај модел се шири и улаже

у медицинске дијагнозе, безбедносне анализе.

The machine crunches data,

Машина обрађује гомилу података,

calculates probabilities,

прорачунава вероватноћу,

дође до 80 или 90 посто пута,

gets 80 percent of the way, 90 percent,

making it easier for analysis

што олакшава анализу

и доношење одлуке од стране људи.

and decision-making of the human party.

But you are not going to send your kids

Али, нећете послати своју децу

у школу у аутомобилу без возача уз прецизност од 90 посто,

to school in a self-driving car with 90 percent accuracy,

even with 99 percent.

чак ни 99 посто.

So we need a leap forward

Зато треба да корачамо напред

to add a few more crucial decimal places.

да бисмо додали још неколико кључних децимала.

Двадесет година након партије са Дип Блуом,

Twenty years after my match with Deep Blue,

second match,

друге по реду партије,

this sensational "The Brain's Last Stand" headline

сензационални наслов „Последње упориште мозга“

постао је уобичајен

has become commonplace

as intelligent machines

док интелигентне машине

move

напредују

in every sector, seemingly every day.

у сваком подручју, наизглед сваког дана.

Међутим, за разлику од прошлости,

But unlike in the past,

when machines replaced

када су машине замењивале

farm animals, manual labor,

животиње на фарми, физички рад,

now they are coming after people with college degrees

сада су дошле по факултетски образоване људе

and political influence.

и политички утицај.

Као неко ко се борио против машина и изгубио,

And as someone who fought machines and lost,

I am here to tell you this is excellent, excellent news.

овде сам да бих вам рекао да су ово сјајне новости.

На крају ће свака професија

Eventually, every profession

will have to feel these pressures

морати да осети овај притисак

or else it will mean humanity has ceased to make progress.

или ће у супротном то значити да је човечанство престало да напредује.

We don't

Ми не можемо

get to choose

да бирамо

when and where technological progress stops.

када и где престаје технолошки напредак.

Не можемо

We cannot

slow down.

да успоримо.

In fact,

У ствари,

we have to speed up.

морамо да убрзамо.

Our technology excels at removing

Наша технологија сјајно отклања

difficulties and uncertainties from our lives,

потешкоће и неизвесност из наших живота,

па и ми морамо да трагамо

and so we must seek out

ever more difficult,

за још тежим,

ever more uncertain challenges.

још неизвеснијим изазовима.

Machines have

Машине имају

calculations.

прорачуне.

We have understanding.

Ми имамо разумевање.

Machines have instructions.

Машине имају инструкције.

We have purpose.

Ми имамо сврху.

Machines have

Машине имају

објективност.

objectivity.

We have passion.

Ми имамо страст.

We should not worry about what our machines can do today.

Не треба да бринемо о томе шта наше машине могу да ураде данас.

Instead, we should worry about what they still cannot do today,

Уместо тога, треба да нас брине то шта не могу да ураде данас,

because we will need the help of the new, intelligent machines

јер ће нам требати помоћ нових, интелигентних машина

to turn our grandest dreams into reality.

да своје највеће снове претворимо у стварност.

А ако не успемо,

And if we fail,

if we fail, it's not because our machines are too intelligent,

ако не успемо, то није због тога што су машине сувише интелигентне

or not intelligent enough.

или нису довољно интелигентне.

If we fail, it's because we grew complacent

Ако не успемо, то је зато што смо постали немарни

and limited our ambitions.

и ограничили своје амбиције.

Our humanity is not defined by any skill,

Наше човечанство не дефинише нека вештина,

like swinging a hammer or even playing chess.

као што је замахивање чекићем или чак и играње шаха.

There's one thing only a human can do.

Постоји једна ствар коју само људи могу да раде.

That's dream.

То је сањање.

Сањајмо велике снове.

So let us dream big.

Thank you.

Хвала вам.

(Applause)

(Аплауз)