Can we build AI without losing control over it? | Sam Harris

Translator: Levan Lashauri Reviewer: Tamta Makharadze

I'm going to talk about a failure of intuition

ვაპირებ იმ ინტუიციურ სისუსტეზე ვისაუბრო,

that many of us suffer from.

რომელიც ბევრ ჩვენგანს ახასიათებს.

It's really a failure to detect a certain kind of danger.

ეს გარკვეული საფრთხის ამოცნობის უუნარობაა.

I'm going to describe a scenario

ვაპირებ აღვწერო სცენარი,

that I think is both terrifying

რომელიც ერთდროულად შემაძრწუნებელიცაა

and likely to occur,

და მოსალოდნელიც.

and that's not a good combination,

რაც, როგორც ირკვევა

as it turns out.

არაა კარგი კომბინაცია.

And yet rather than be scared, most of you will feel

მიუხედავად ამისა, საშიშის ნაცვლად უმეტესობა

that what I'm talking about is kind of cool.

სახალისოდ აღიქვამს იმას, რაზეც ვაპირებ ვისაუბრო.

I'm going to describe how the gains we make

ვაპირებ აღვწერო, თუ როგორ შეიძლება

in artificial intelligence

ხელოვნური ინტელექტის სფეროში წინსვლამ

could ultimately destroy us.

საბოლოოდ გაგვანადგუროს.

And in fact, I think it's very difficult to see how they won't destroy us

პრინციპში, ვფიქრობ, ძნელი წარმოსადგენიც კია,

როგორ შეიძლება არ გაგვანადგუროს, ან არ გვიბიძგოს თვითგანადგურებისკენ.

or inspire us to destroy ourselves.

And yet if you're anything like me,

თუმცა, თუ თქვენც ჩემნაირი ხართ,

you'll find that it's fun to think about these things.

გეგონებათ, რომ ასეთ რამეებზე ფიქრი სახალისოა.

And that response is part of the problem.

თავად ასეთი რეაქციაც პრობლემის ნაწილია.

OK? That response should worry you.

ამ რეაქციამ უნდა შეგაწუხოთ.

And if I were to convince you in this talk

ახლა, ამ საუბარში, თუ დაგაწრმუნებთ,

that we were likely to suffer a global famine,

რომ კლიმატის ცვლილებით, ან სხვა რამე კატასტროფით გამოწვეული

either because of climate change or some other catastrophe,

გლობალური შიმშილობაა მოსალონდელი

and that your grandchildren, or their grandchildren,

და რომ თქვენმა შვილიშვილებმა, ან მათმა შვილიშვილებმა

are very likely to live like this,

დიდი შანსია ამ პირობებში იცხოვრონ,

you wouldn't think,

თქვენ არ იფიქრებთ:

"Interesting.

"საინტერესოა,

I like this TED Talk."

მომწონს ეს TED talk-ი"

Famine isn't fun.

შიმშილობა არაა სახალისო.

Death by science fiction, on the other hand, is fun,

სამეცნიერო ფანტასტიკის ხელით სიკვდილი კი სახალისოა.

and one of the things that worries me most about the development of AI at this point

ერთ-ერთი, რაც ხელოვნური ინტელექტის შექმნასთან დაკავშირებით მაწუხებს ისაა,

is that we seem unable to marshal an appropriate emotional response

რომ ჩვენ თითქოს არ შეგვწევს უნარი გვქონდეს ადექვატური ემოციური რეაქცია

to the dangers that lie ahead.

მოსალოდნელ საფრთხეებზე.

I am unable to marshal this response, and I'm giving this talk.

არც მე ძალმიძს ამ რეაქიის გამომუშავება, თუმცა ამ თემაზე გამოვდივარ.

It's as though we stand before two doors.

თითქოს ორი კარის წინ ვდგავართ.

Behind door number one,

პირველ კარს მიღმა,

we stop making progress in building intelligent machines.

ხელოვნური ინტელექტის განვითარების პროგრესი ჩერდება.

Our computer hardware and software just stops getting better for some reason.

ჩვენი კოპიუტერების აპარატული და პროგრამული საშუალებები რატომღაც აღარ უმჯობესდება.

Now take a moment to consider why this might happen.

ერთი წამით დაფიქრდით, რატომ შეიძლება ეს მოხდეს.

I mean, given how valuable intelligence and automation are,

იმის გათვალისწინებით, თუ რა ფასეულია მანქანური ინტელექტი და ავტომატიზაცია,

we will continue to improve our technology if we are at all able to.

ჩვენ აუცილებლად განვაგრძობთ ტექნოლოგიურ წინსვლას, თუ შეგვეძლება.

What could stop us from doing this?

რამ შეიძლება ეს შეაჩეროს?

A full-scale nuclear war?

სრულმასშტაბიანმა ბირთვულმა ომმა?

A global pandemic?

გლობალურმა პანდემიამ?

An asteroid impact?

ასტეროიდის დაჯახებამ?

Justin Bieber becoming president of the United States?

ჯასტინ ბიბერის პრეზიდენტობამ?

(Laughter)

(სიცილი)

The point is, something would have to destroy civilization as we know it.

მოკლედ, რაღაც ისეთი უნდა იყოს, რაც არსებულ ცივილიზაციას დაანგრევს.

You have to imagine how bad it would have to be

წარმოიდგინეთ, რა ცუდი რამ უნდა იყოს,

to prevent us from making improvements in our technology

რომ ტექნოლოგიური პროგრესი შეაჩეროს

permanently,

სამუდამოდ,

generation after generation.

თაობიდან თაობამდე.

განმარტებიდან გამომდინარე, ეს ყველაზე უარესი რამეა,

Almost by definition, this is the worst thing

that's ever happened in human history.

რაც კი ოდესმე მომხდარა კაცობრიობის ისტორიაში.

So the only alternative,

ამის ერთადერთი ალტერნატივა,

and this is what lies behind door number two,

რომელიც მეორე კარს მიღმაა, არის რეალობა,

is that we continue to improve our intelligent machines

რომლის მიხედვით ჩვენ ვაგძელებთ გონიერი მანქანების გაუმჯობესებას

year after year after year.

წლიდან წლამდე.

At a certain point, we will build machines that are smarter than we are,

რაღაც მომენტში, ჩვენ შევქმნით მანქანებს, რომლებიც ჩვენზე ჭკვიანები იქნებიან

და რა დროსაც ეს მოხდება,

and once we have machines that are smarter than we are,

they will begin to improve themselves.

ისინი საკუთარი თავების გაუმჯობესებას შეუდგებიან

And then we risk what the mathematician IJ Good called

და დავდგებით, როგორც ამას ი. დ. გუდმა უწოდა,

an "intelligence explosion,"

"ინტელექტის აფეთქების" საფრთხის წინაშე,

that the process could get away from us.

რითიც შეიძლება პროცესები ხელიდან გაგვექცეს.

Now, this is often caricatured, as I have here,

ხშირად ეს მსგავსი კარიკატურების სახითაა გამოსახული.

as a fear that armies of malicious robots

როგორც ბოროტი რობოტების არმიები,

will attack us.

რომლებიც თავს გვესხმიან,

But that isn't the most likely scenario.

მაგრამ ეს არაა ყველაზე სავარაუდო სცენარი.

It's not that our machines will become spontaneously malevolent.

ჩვენი მანქანები, მყისიერად კი არ გაბოროტდებიან.

სინამდვილეში წუხილი იმაზეა, რომ ჩვენ ისეთ მანქანებს შევქმნით,

The concern is really that we will build machines

that are so much more competent than we are

რომლებიც ჩვენზე იმდენად უფრო კომპეტენტურები იქნებიან,

that the slightest divergence between their goals and our own

რომ ჩვენსა და მათ მიზნებს შორის მცირედმა უთანხმოებამაც კი

could destroy us.

შეიძლება გაგვანადგუროს.

Just think about how we relate to ants.

დაფიქრდით, რა აზრის ვართ ჭიანჭველებზე.

We don't hate them.

ჩვენ ისინი არ გვძულს.

We don't go out of our way to harm them.

ჩვენ მიზანი არაა მათ ვავნოთ.

In fact, sometimes we take pains not to harm them.

პრინციპში ზოგჯერ ვცდილობთ კიდეც არ ვავნოთ.

We step over them on the sidewalk.

ფეხს არ ვადგამთ ტროტუარზე.

But whenever their presence

მაგრამ როცა კი მათი არსებობა,

seriously conflicts with one of our goals,

ჩვენს მიზნებს სერიოზულად ეწინააღმდეგება,

let's say when constructing a building like this one,

მაგალითად ამნაირი შენობის აგებისას,

we annihilate them without a qualm.

ჩვენ ყოყმანის გარეშე ვანადგურებთ მათ.

The concern is that we will one day build machines

მე ის მაწუხებს, რომ ერთ დღესაც ჩვენ შევქმნით მანქანებს,

that, whether they're conscious or not,

რომელებიც, ცნობიერები იქნებიან თუ არა,

could treat us with similar disregard.

შეიძლება მსგავსი გულგრილობით მოგვეკიდონ.

Now, I suspect this seems far-fetched to many of you.

ეჭვი მაქვს ბევრ თქვენგანს, ეს ზედმეტ გაზვიადებად ეჩვენება.

I bet there are those of you who doubt that superintelligent AI is possible,

დარმწუნებული ვარ ზოგი თქვენგანი, ზეგონიერი ხელოვნური ინტელექტის შექმნის

არათუ გარდაუვალობას, არამედ შესაძლებლობასაც კი ეჭვქვეშ აყენებს,

much less inevitable.

But then you must find something wrong with one of the following assumptions.

მაგრამ მაშინ თქვენ პრობლემა უნდა იპოვოთ შემდეგი დაშვებებიდან ერთ-ერთში.

And there are only three of them.

სულ სამია ასეთი.

Intelligence is a matter of information processing in physical systems.

ინტელექტი ფიზიკურ სისტემებში ინფორმაციის დამუშავებას წარმოადგენს.

Actually, this is a little bit more than an assumption.

პრინციპში, ეს დაშვებაზე ცოტა უფრო მეტიცაა.

We have already built narrow intelligence into our machines,

ჩვენ უკვე შევქმენით მანქანები ვიწრო ინტელექტით

and many of these machines perform

და ბევრი მათქგანი მუშაობს კიდეც

at a level of superhuman intelligence already.

ზეადამიანის შესაბამისი ინტელექტის დონეზე.

And we know that mere matter

ასევე ვიცით, რომ მატერიას

can give rise to what is called "general intelligence,"

შეუძლია წამოქმნას ე.წ. "ზოგადი ინტელექტი",

an ability to think flexibly across multiple domains,

სხვადასხვა სფეროებაში მოქნილად აზროვნების უნარი,

because our brains have managed it. Right?

რადგან ჩვენი ტვინები ახერხებენ ამას.

I mean, there's just atoms in here,

აქ ხომ მხოლოდ ატომებია

and as long as we continue to build systems of atoms

და თუ ატომებისგან შემდგარი ისეთი სისტემების შექმნას განვაგრძობთ,

that display more and more intelligent behavior,

რომლებიც სულ უფრო მეტ გონიერ საქციელს გამოავლენენ,

we will eventually, unless we are interrupted,

რაღაცამ თუ არ შეგვაჩერა,

we will eventually build general intelligence

საბოლოოდ ზოგადი ინტელექტის მქონე

into our machines.

მანქანებს შევქმნით.

It's crucial to realize that the rate of progress doesn't matter,

მნიშვნელოვანია გავიაზროთ, რომ პროგრესის ტემპს არ აქვს მნიშვნელობა,

because any progress is enough to get us into the end zone.

რადგან ნებისმიერი ტემპი საკმარისია, რომ ბოლოში გავიდეთ.

We don't need Moore's law to continue. We don't need exponential progress.

ჩვენ არ გვჭირდება მურის კანონი ამისთვის. არ გვჭირდება ექსპონენციალური პროგრესი.

We just need to keep going.

ჩვენ მხოლოდ წინსვლა გვჭირდება.

The second assumption is that we will keep going.

მეორე დაშვება ისაა, რომ ჩვენ განვაგრძობთ პროგრესს.

We will continue to improve our intelligent machines.

განვაგრძობთ გონიერი მანქანების შექმნას.

And given the value of intelligence --

თუ ინტელექტის ფასს გავითვალისწინებთ...

I mean, intelligence is either the source of everything we value

ინტელექტი, ან ყველაფერ იმის წყაროა რასაც ვაფასებთ,

or we need it to safeguard everything we value.

ან გვჭირდება იმისთვის, რომ დავიცვათ ყველაფერი ის რასაც ვაფასებთ.

It is our most valuable resource.

ის ჩვენი ყველაზე ფასეული რესურსია.

So we want to do this.

ამიტომ გვინდა ამის კეთება.

We have problems that we desperately need to solve.

ჩვენ გვაქვს პრობლემები, რომელთა გადაწყვეტა აუცილებელია.

We want to cure diseases like Alzheimer's and cancer.

ჩვენ გვინდა ალცჰაიმერის და კიბოს მაგვარი დაავადებების განკურნება.

We want to understand economic systems. We want to improve our climate science.

გვინდა ეკონომიკური სისტემებში გარკვევა. და კლიმატური მეცნიერების გაუმჯობესება.

So we will do this, if we can.

ამიტომ თუ შევძელით, ამას აუცილებლად ვიზამთ.

The train is already out of the station, and there's no brake to pull.

მატარებელი უკვე დაიძრა და მას მუხრუჭი არ აქვს.

Finally, we don't stand on a peak of intelligence,

ბოლოს, ჩვენ არ წარმოვადგენთ ინტელექტის პიკს.

or anywhere near it, likely.

მასთან ახლოსაც კი არ ვართ.

And this really is the crucial insight.

ეს მართლაც საკვანძო აზრია.

This is what makes our situation so precarious,

ეს არის ის, რაც ჩვენს მდგომარეობას ასე არასაიმედოს

and this is what makes our intuitions about risk so unreliable.

და რისკების მიმართ ჩვენს ინტუიციას, ასე არასანდოს ხდის.

Now, just consider the smartest person who has ever lived.

განვიხილოთ ყველა დროის უჭკვიანესი ადამიანი.

On almost everyone's shortlist here is John von Neumann.

ერთ-ერთ ასეთად თითქმის ყველა ჯონ ვან ნოიმანს დაასახელებს.

I mean, the impression that von Neumann made on the people around him,

შთაბეჭდილება, რომელიც ვან ნოიმანმა მის გარშემომყოფებზე მოახდინა,

and this included the greatest mathematicians and physicists of his time,

მისი თანამედროვე უდედესი მათემატიკოსების და ფიზიკოსების ჩათვლით,

is fairly well-documented.

კარგადაა დოკუმენტირებული.

If only half the stories about him are half true,

ამ ისტორიების მხოლოდ ნახევარიც რომ იყოს ნახევრად მართალი,

there's no question

ეჭვგარეშეა,

he's one of the smartest people who has ever lived.

რომ ის ყველა დროის ერთ-ერთი უჭკვიანესი ადამიანი იყო.

So consider the spectrum of intelligence.

განვიხილოთ ინტელექტის სპექტრი.

Here we have John von Neumann.

აქ არის ჯონ ვან ნოიმანი.

And then we have you and me.

აქ კი, ვართ მე და თქვენ

And then we have a chicken.

და აქ კი - ქათამია.

(Laughter)

(სიცილი)

Sorry, a chicken.

უკაცრავად, ქათამი.

(Laughter)

(სიცილი)

There's no reason for me to make this talk more depressing than it needs to be.

საჭირო არაა ეს საუბარი, კიდევ უფრო დეპრესიული გავხადოთ.

(Laughter)

(სიცილი)

It seems overwhelmingly likely, however, that the spectrum of intelligence

დიდად სავარაუდოა, რომ ინტელექტის სპექტრი,

extends much further than we currently conceive,

ბევრად უფრო შორს მიდის, ვიდრე ჩვენ ამჟამად წარმოგვიდგენია

and if we build machines that are more intelligent than we are,

და თუ ჩვენ შევქმნით მანქანებს, რომლებსაც ჩვენზე დიდი ინტელექტი აქვთ,

they will very likely explore this spectrum

დიდი ალბათობით ისინი ამ სპექტრის

in ways that we can't imagine,

ჩვენთვის წარმოუდგენელ სივრცეებს აითვისებენ

and exceed us in ways that we can't imagine.

და ისე გვაჯობებენ, რომ ვერც კი წარმოვიდგენთ.

And it's important to recognize that this is true by virtue of speed alone.

მნიშვნელოვანია ვხვდებოდეთ, რომ ეს ასეა მხოლოდ სისწრაფის შემთხვევაშიც კი.

Right? So imagine if we just built a superintelligent AI

წარმოიდგინეთ, რომ შევქმენით ზეგონიერი ხელოვნური ინტელექტი,

that was no smarter than your average team of researchers

რომელიც სტენფორდის, ან MIT-ის

at Stanford or MIT.

საშუალო დონის მკვლევართა ჯგუფზე ჭკვიანი არაა.

Well, electronic circuits function about a million times faster

ელექტრონული სქემები დაახლოებით მილიონჯერ უფრო სწრაფად ფუნქციონირებენ,

than biochemical ones,

ვიდრე ბიოქიმიური.

so this machine should think about a million times faster

ამიტომ ეს მანქანა იაზროვნებს დაახლოებით მილიონჯერ სწრაფად,

than the minds that built it.

ვიდრე ტვინები რომლებმაც ის შექმნეს.

So you set it running for a week,

თუ მას ერთი კვირა ვამუშვებთ,

and it will perform 20,000 years of human-level intellectual work,

ის შეასრულებს ადამიანის დონის 20 000 წლის ინტელეტქუალურ სამუშაოს

week after week after week.

კვირიდან კვირამდე.

How could we even understand, much less constrain,

ამის შემდეგ, არათუ როგორ შევზღუდავთ, არამედ როგორ გავუგებთ ტვინს,

a mind making this sort of progress?

რომელიც ასე პროგრესირებს?

The other thing that's worrying, frankly,

კიდევ ერთი რამ, რაც გულწრფელად მაწუხებს ისაა

is that, imagine the best case scenario.

რომ საუკეთესო ვარიანტში,

წარმოიდგინეთ დავაპროექტეთ ისეთი ზეგონიერი ხელოვნური ინტელექტი,

So imagine we hit upon a design of superintelligent AI

that has no safety concerns.

რომელსაც უსაფრთხოების პრობლემა არ აქვს.

We have the perfect design the first time around.

ჩვენ პირველივე ჯერზე გვაქვს იდეალური პროექტი.

It's as though we've been handed an oracle

თითქოს ზეციდან გვებოძა პროექტი,

that behaves exactly as intended.

რომელიც ისე მუშაობს როგორც ჩავიფიქრეთ.

Well, this machine would be the perfect labor-saving device.

ასეთი მანქანა იდეალური იქნებოდა შრომის შესამსუბუქებლად.

It can design the machine that can build the machine

მან შეიძლება დააპროექტოს მანქანა, რომელიც შექმნის მანქანას,

that can do any physical work,

რომელსაც შეუძლია

powered by sunlight,

ნებისმიერი ფიზიკური სამუშაოს შესრულება მზის ენერგიით,

more or less for the cost of raw materials.

მეტ-ნაკლებად ნედლეულის ფასად.

So we're talking about the end of human drudgery.

ანუ ლაპარაკია ადამიანის დამქანცველი შრომის დასასრულზე.

We're also talking about the end of most intellectual work.

ლაპარაკია ასევე უმეტესი ინტელექტულაური შრომის დასასრულზე.

So what would apes like ourselves do in this circumstance?

მაშ, რას გააკეთებენ ჩვენნაირი პრიმატები ამ სიტუაციაში?

Well, we'd be free to play Frisbee and give each other massages.

თავისუფლად შევძლებთ ვითამაშოთ ფრისბი და მასაჟი ვუკეთოთ ერთმანეთს.

Add some LSD and some questionable wardrobe choices,

დავამატოთ ცოტა LSD, ცოტა უცნაური ტანსაცმელი

and the whole world could be like Burning Man.

და მთელი მსოფლიო "Burning Man"-ის ფესტივალს დაემსგავსება.

(Laughter)

(სიცილი)

Now, that might sound pretty good,

ეს შეიძლება მშვენივრად ჟღერდეს,

but ask yourself what would happen

მაგრამ ჰკითხეთ საკუთარ თავებს,

under our current economic and political order?

რა მოხდება არსებულ ეკონომიკურ და პოლიტიკურ წყობაში?

It seems likely that we would witness

სავარაუდოა, რომ მივიღოთ

a level of wealth inequality and unemployment

უთანასწორობის და უმუშევრობის ისეთი დონე,

that we have never seen before.

როგორიც არასდროს გვინახავს.

Absent a willingness to immediately put this new wealth

ამ ახალი სიმდიდრის მთელი კაცობირობის სასარგებლოდ

to the service of all humanity,

გაღების სურვილის არ ქონის პირობებში,

a few trillionaires could grace the covers of our business magazines

მილიარდელების მცირე ჯგუფი, დაამშვენებს ბიზნესჟურნალების გარეკანებს,

while the rest of the world would be free to starve.

მაშინ როცა დანარჩენები იშიმშილებენ.

And what would the Russians or the Chinese do

რას იზამენ რუსები, ან ჩინელები,

if they heard that some company in Silicon Valley

თუ გაიგებენ, რომ სილიკონის ველზე რომელიღაც კომპანია,

was about to deploy a superintelligent AI?

აპირებს ზეგონიერი ხელოვნური ინტელექტი აამუშაოს?

This machine would be capable of waging war,

ამ მანქანას არნახული ძალით შეეძლება

whether terrestrial or cyber,

აწარმოოს ომი,

with unprecedented power.

როგორც სახმელეთო, ისე კიბერომი.

This is a winner-take-all scenario.

ეს ის სცენარია, რომელშიც გამარჯვებული იღებს ყველაფერს.

To be six months ahead of the competition here

ამ შეჯიბრში 6 თვით წინ ყოფნა,

is to be 500,000 years ahead,

მინიმუმ 500 000 წლით წინ ყოფნას ნიშნავს.

at a minimum.

So it seems that even mere rumors of this kind of breakthrough

ამიტომ, ასეთი გარღვევის შესახებ ჭირებმაც კი,

could cause our species to go berserk.

შეიძლება გადარიოს ჩვენი სახეობა.

Now, one of the most frightening things,

ერთ-ერთი ყველაზე საშიში რამ,

in my view, at this moment,

ამჟამად, ჩემი აზრით

are the kinds of things that AI researchers say

არის ის რასაც ხელოვნური ინტელექტის მკვლევარები ამბობენ,

when they want to be reassuring.

როცა უნდათ, რომ იმედი მოგვცენ.

And the most common reason we're told not to worry is time.

ყველაზე ხშირად ნათქვამი მიზეზი იმისა, რომ არ ვიღელვოთ, არის დრო.

This is all a long way off, don't you know.

ხომ იცით, იქამდე ჯერ კიდევ შორია.

This is probably 50 or 100 years away.

სავარაუდოდ სადღაც 50 -100 წელია იქამდე.

One researcher has said,

ერთმა მკვლევარმა თქვა:

"Worrying about AI safety

"ხელოვნურ ინტელექტზე ნერვიულობა,

is like worrying about overpopulation on Mars."

იგივეა რაც ინერვიულოთ მარსის გადამეტდასახლებულობაზე"

ეს, "ამაზე ფიქრით ტვინს ნუ დაიღლით "-ის

This is the Silicon Valley version

of "don't worry your pretty little head about it."

სილიკონის ველისეული ვერსიაა

(Laughter)

(სიცილი)

No one seems to notice

თითქოს ვერავინ ამჩნევს,

that referencing the time horizon

რომ დროითი ფაქტორის მოყვანა

is a total non sequitur.

სრულიად უადგილოა.

If intelligence is just a matter of information processing,

თუ ინტელექტი მხოლოდ ინფორმაციის დამუშავების ამბავია

and we continue to improve our machines,

და ჩვენ განვაგრძობთ მანქანების გაუმჯობესებას,

we will produce some form of superintelligence.

მაშინ მივიღებთ რაღაც ტიპის სუპერინტელექტს

And we have no idea how long it will take us

და ჩვენ წარმოდგენა არ გვაქვს, რა დრო დაგვჭირდება იმისთვის,

to create the conditions to do that safely.

რომ მივიღოთ შესაბამისი უსაფრთხოების ზომები.

ნება მომეცით, კიდევ გავიმეორო.

Let me say that again.

We have no idea how long it will take us

ჩვენ წარმოდგენა არ გვაქვს, რა დრო დაგვჭირდება იმისთვის,

to create the conditions to do that safely.

რომ მივიღოთ შესაბამისი უსაფრთხოების ზომები.

And if you haven't noticed, 50 years is not what it used to be.

თუ ვერ შეამჩნიეთ, გეტყვით, რომ ეს ის 50 წელი არ არის, რაც უწინ იყო.

This is 50 years in months.

ეს არის 50 წელი თვეებში.

This is how long we've had the iPhone.

ამდენი ხანია რაც აიფონები გვაქვს.

This is how long "The Simpsons" has been on television.

ამდენი ხანია რაც "სიმფსონები" გადის.

Fifty years is not that much time

50 წელი არც ისე დიდი დროა იმისთვის,

to meet one of the greatest challenges our species will ever face.

რომ ჩვენი სახეობისთვის ერთ-ერთ უდიდეს გამოწვევას შევეგებოთ.

Once again, we seem to be failing to have an appropriate emotional response

კიდევ ერთხელ, თითქოს არ შეგვწევს უნარი გვქონდეს ადექვატური ემოციური რეაქცია,

to what we have every reason to believe is coming.

იმის მიმართ, რაც აშკარად მოსალოდნელია.

The computer scientist Stuart Russell has a nice analogy here.

კომპიუტერულმა მეცნიერმა სტიურატ რასელმა კარგი ანალოგია გააკეთა.

He said, imagine that we received a message from an alien civilization,

მან თქვა, წარმოიდგინეთ, რომ უცხოპლანეტელი ცივილიზაციისგან მივიღეთ გზავნილი,

which read:

რომელიც ამბობს:

"People of Earth,

"დედამიწის მოსახლეობავ,

we will arrive on your planet in 50 years.

ჩვენ გეწვევით თქვენ პლანეტაზე 50 წელიწადში.

Get ready."

მოემზადეთ"

And now we're just counting down the months until the mothership lands?

და ამის შემდეგ თვეების თვლას დავიწყებთ, სანამ ხომალდი არ ჩამოვა?

We would feel a little more urgency than we do.

ალბათ, ამაზე ცოტა უფრო მეტ გადაუდებლობას ვიგრძნობდით.

კიდევ ერთი მიზეზი, რასაც დასამშვიდებლად ამბობენ,

Another reason we're told not to worry

is that these machines can't help but share our values

არის რომ ამ მანქანებს ჩვენი ფასეულობების გაზიარების გარდა სხვა გზა არ ექნებათ,

because they will be literally extensions of ourselves.

რადგან ისინი ჩვენი გაგრძელებები იქნებიან.

They'll be grafted onto our brains,

ისინი ჩვენს ტვინს მიუერთდებიან,

and we'll essentially become their limbic systems.

ჩვენ კი მათი ლიმბური სისტემა გავხდებით.

Now take a moment to consider

ერთი წამით დავფიქრდეთ,

that the safest and only prudent path forward,

რომ ყველაზე უსაფრთხო და ერთადერთი წინდახედული,

recommended,

რეკომენდებული გზა,

is to implant this technology directly into our brains.

არის ამ ტექნოლოგიების პირდაპირ ჩვენ ტვინში ჩანერგვა.

Now, this may in fact be the safest and only prudent path forward,

ეს შეიძლება მართლაც ყველაზე უსაფრთხო და ერთადერთი წინდახედული გზა იყოს,

but usually one's safety concerns about a technology

მაგრამ როგორც წესი, ტექნოლოგიის უსაფრთხოებაზე ზრუნვა,

have to be pretty much worked out before you stick it inside your head.

მანამ უნდა იყოს დამთავრებული, სანამ მას თავში შევიტენით.

(Laughter)

(სიცილი)

The deeper problem is that building superintelligent AI on its own

უფრო სიღრმისეული პრობლემა ისაა, რომ ზეგონიერი ხელოვნური ინტელექტის შექმნა,

seems likely to be easier

თავისთავად უფრო მარტივი ჩანს,

than building superintelligent AI

ვიდრე მისი შექმნა

and having the completed neuroscience

და შემდეგ ნეირომეცნიერების სრული შესწავლა,

that allows us to seamlessly integrate our minds with it.

რაც საშუალებას მოგვცემს მოვახდინოთ ჩვენ ტვინში მისი ინტეგრაცია.

And given that the companies and governments doing this work

იმის გათვალისწინებით, რომ კომპანიები და მთავრობები,

are likely to perceive themselves as being in a race against all others,

რომლებიც ამას აკეთებენ, თავს ყველა დანარჩენთან შეჯიბრში აღიქვამენ

given that to win this race is to win the world,

და რომ ამ შეჯიბრის მოგება, მსოფლიოს მოგებას ნიშნავს,

provided you don't destroy it in the next moment,

თუ მეორე წამს ამ მსოფლიოს არ გაანადგურებენ,

then it seems likely that whatever is easier to do

მაშინ სავარაუდოა, რომ პირველ რიგში იმას გააკეთებენ,

will get done first.

რისი გაკეთებაც ყველაზე მარტივია.

Now, unfortunately, I don't have a solution to this problem,

სამწუხაროდ მე არ მაქვს ამ პრობლემაზე პასუხი,

apart from recommending that more of us think about it.

გარდა რჩევისა, რომ უფრო მეტმა ჩვენგანმა იფიქროს ამაზე.

ვფიქრობ, რაღაც "მანჰეტენის პროექტის" მაგვარი გვჭირდება

I think we need something like a Manhattan Project

on the topic of artificial intelligence.

ხელოვნური ინტელექტის მიმართულებით.

Not to build it, because I think we'll inevitably do that,

არა იმისთვის, რომ ის შევქმნათ, რადგან ვფიქრობ ეს გარდაუვლად მოხდება,

but to understand how to avoid an arms race

არამედ, რომ გავარკვიოთ, თუ როგორ ავიცილოთ თავიდან სამხედრო შეჯიბრი

and to build it in a way that is aligned with our interests.

და შევქმნათ ეს მანქანა ისე, რომ ის თანხვედრაში იყოს, ჩვენ ინტერესთან.

When you're talking about superintelligent AI

როცა ვლაპარაკობთ ზეგონიერ ხელოვნურ ინტელექტზე,

that can make changes to itself,

რომელსაც საკუთარი თავის შეცვლა შეუძლია,

it seems that we only have one chance to get the initial conditions right,

მგონია, რომ ერთი შანსი გვაქვს, სწორ საწყის პირობებს მივაგნით

and even then we will need to absorb

და ამ შემთხვევაშიც დაგვჭირდება,

the economic and political consequences of getting them right.

რომ ამის პოლიტიკური და ეკონომიკური შედეგები გადავხარშოთ.

But the moment we admit

თუმცა, როგორც კი ვაღიარებთ,

that information processing is the source of intelligence,

რომ ინტელექტის წყარო ინფორმაციის დამუშავებაა,

that some appropriate computational system is what the basis of intelligence is,

რომ რაღაც შესაბამისი გამოთვლითი სისტემა წარმოდაგენს ინტელექტის ბაზისს,

and we admit that we will improve these systems continuously,

ვაღიარებთ, რომ ჩვენ უწყვეტად გავაუმჯობესებთ ამ სისტემებს

and we admit that the horizon of cognition very likely far exceeds

და ვაღიარებთ, რომ გონებრივი შესაძლებლობის ჰორიზონტი იმაზე ბევრად უფრო შორს მიდის,

what we currently know,

ვიდრე ჩვენ დღეს წარმოგვიდგენია,

then we have to admit

მაშინ უნდა ვაღიაროთ,

that we are in the process of building some sort of god.

რომ ჩვენ ვართ რაღაც ტიპის ღმერთის შექმნის პროცესში.

ახლა ის დროა, ვიზრუნოთ იმაზე, რომ ეს ისეთი ღმერთი იყოს,

Now would be a good time

to make sure it's a god we can live with.

რომელთანაც შევძლებთ თანაცხოვრებას.

Thank you very much.

დიდი მადლობა.

(Applause)

(აპლოდისმენტები)