Don't fear superintelligent AI | Grady Booch

Translator: Adil Aliyev Reviewer: Ziyaddin Sadigov

When I was a kid, I was the quintessential nerd.

Mən uşaq ikən, hədsiz dərəcədə "nerd" idim.

I think some of you were, too.

Düşünürəm ki, elə bəziləriniz də.

(Laughter)

(Gülüş)

And you, sir, who laughed the loudest, you probably still are.

Və siz, yüksəkdən gülən cənab, böyük ehtimal hələ də eləsiniz.

(Laughter)

(Gülüş)

I grew up in a small town in the dusty plains of north Texas,

Mən Teksasın şimalında tozlu düzənliklərdə yerləşən kiçik qəsəbədə böyümüşəm.

the son of a sheriff who was the son of a pastor.

Babam keşiş, atam isə şerif idi.

Getting into trouble was not an option.

Başıma dərd açmaq kimi bir seçimim yox idi.

And so I started reading calculus books for fun.

Ona görə də məzə üçün riyaziyyat kitablarını oxumağa başladım.

(Laughter)

(Gülüş)

You did, too.

Siz də elə etmisiniz.

That led me to building a laser and a computer and model rockets,

Bu mənim lazer, kompüter və raket modelləri düzəltməyimə gətirib çıxardı.

and that led me to making rocket fuel in my bedroom.

Ona gətirib çıxardı ki, mən öz yataq otağımda raket yanacağı düzəltdim.

Now, in scientific terms,

İndi, elmi nöqteyi-nəzərdən

we call this a very bad idea.

biz bunu "pis fikir" adlandırırıq.

(Laughter)

(Gülüş)

Around that same time,

Təxminən həmin zaman,

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

Stenli Kubrik-in "2001: Kosmik Odissey" filmi kinoteatr ekranlarına gəldi

and my life was forever changed.

və mənim həyatım həmişəlik dəyişdi.

I loved everything about that movie,

Mən filmdəki hər şeyi sevdim,

especially the HAL 9000.

xüsusilə də HAL 9000-i.

Now, HAL was a sentient computer

Deməli, HAL ağıllı kompüter idi.

designed to guide the Discovery spacecraft

Discovery kosmik gəmisinə

from the Earth to Jupiter.

Yerdən Yupiterə qədər bələdçilik üçün dizayn olunmuşdu.

HAL was also a flawed character,

HAL həmçinin qüsurlu bir personaj idi.

for in the end he chose to value the mission over human life.

Məqsəd üçün o öz missiyasını insan həyatından daha üstün tutdu.

Now, HAL was a fictional character,

HAL uydurma bir personaj olsa da,

but nonetheless he speaks to our fears,

bizim qorxularımızdan bəhs edir.

our fears of being subjugated

Hansısa hissiyyatı olmayan süni intellektə

by some unfeeling, artificial intelligence

tabe edilmə qorxularımızdan bəhs edir.

who is indifferent to our humanity.

O bizim insanlığa yad biridir.

I believe that such fears are unfounded.

Bu qorxuların əsassız olduğu qənaətindəyəm.

Indeed, we stand at a remarkable time

Biz insanlıq tarixinin gözəl bir

in human history,

zamanındayıq.

where, driven by refusal to accept the limits of our bodies and our minds,

Öz vücud və ağlımızın məhdudiyyətlərini qəbul etməyərək

we are building machines

maşınlar düzəldirik.

of exquisite, beautiful complexity and grace

İncə, gözəl və qəliz maşınlar

that will extend the human experience

insanın imkanlarını düşündüyümüzdən də

in ways beyond our imagining.

artıq genişləndirir.

After a career that led me from the Air Force Academy

Hava Qüvvələri Akademiyasındakı

to Space Command to now,

Kosmik Əməliyyatlar fəaliyyətindən sonra

I became a systems engineer,

Mən sistem mühəndisi oldum.

and recently I was drawn into an engineering problem

Bu yaxınlarda yeni bir mühəndislik layihəsinə qoşuldum ki,

associated with NASA's mission to Mars.

NASA-nın Mars missiyası ilə əlaqəlidir.

Now, in space flights to the Moon,

Beləliklə, Aya uçuş üçün

we can rely upon mission control in Houston

biz Hyustondakı uçuşa nəzarət məntəqəsinə arxayın ola bilərik,

to watch over all aspects of a flight.

uçuşun bütün aspektlərini izləyə bilərik.

However, Mars is 200 times further away,

Lakin, Mars 200 dəfə daha uzaqdır

and as a result it takes on average 13 minutes

və nəticə etibarilə bir siqnalın Yerdən Marsa çatması üçün

for a signal to travel from the Earth to Mars.

orta hesabla 13 dəqiqə vaxt lazımdır.

If there's trouble, there's not enough time.

Hər hansı bir problem olarsa, zaman bəs etməz.

And so a reasonable engineering solution

Ona görə də uyğun bir mühəndis həlli tələb edir ki,

calls for us to put mission control

Orion kosmik gəmisində

inside the walls of the Orion spacecraft.

nəzarət məntəqəsi yerləşdirək.

Another fascinating idea in the mission profile

Uçuş missiyasındakı başqa bir maraqlı ideya də odur ki,

places humanoid robots on the surface of Mars

Marsın səthinə humanoid robotları göndərilsin ki,

before the humans themselves arrive,

insanların özlərinin oraya gəlib çatmasından

first to build facilities

öncə şərait qursunlar

and later to serve as collaborative members of the science team.

və sonra tədqiqat komandasının üzvləri kimi çalışsınlar.

Now, as I looked at this from an engineering perspective,

Beləliklə, bu məsələyə mühəndis gözü ilə baxdıqda

it became very clear to me that what I needed to architect

aydın oldu ki, mən elə bir sistem inşa etməliyəm ki,

was a smart, collaborative,

ağıllı, əməkdaşlıq edən,

socially intelligent artificial intelligence.

sosial məsuliyyətli süni intellekt olsun.

In other words, I needed to build something very much like a HAL

Başqa sözlə, mən HAL-a bənzər bir şey qurmalıyam, amma

but without the homicidal tendencies.

adam öldürməyə meyli olmayan birini.

(Laughter)

(Gülüş)

Let's pause for a moment.

Bir qədər fasilə verək.

Is it really possible to build an artificial intelligence like that?

Həqiqətən belə bir süni intellekt yaratmaq mükündürmü?

Actually, it is.

Əslində, mümkündür.

In many ways,

Ümumiyyətlə, bu qəliz

this is a hard engineering problem

bir mühəndislik problemidir ki,

with elements of AI,

süni intellekt elementlərinə malikdir.

not some wet hair ball of an AI problem that needs to be engineered.

Heç də qurulması bəsit bir süni intellekt məsələsi deyil.

To paraphrase Alan Turing,

Alan Türinqdən sitat gətirsək,

I'm not interested in building a sentient machine.

Hissiyatlı bir maşın düzəltmək fikrində deyiləm.

I'm not building a HAL.

Mən HAL robotu yaratmıram.

All I'm after is a simple brain,

İstədiyim yalnız sadə bir beyindir,

something that offers the illusion of intelligence.

nə cürsə intellektin illüziyalarını yaratsın.

The art and the science of computing have come a long way

HAL ekranlara çıxandan bəri İnformatika elmi uzun

since HAL was onscreen,

bir yol keçmişdir.

and I'd imagine if his inventor Dr. Chandra were here today,

Təsəvvür edin onun ixtiraçısı Dr. Çandra burada olsaydı

he'd have a whole lot of questions for us.

bizə çoxlu suallar verərdi.

Is it really possible for us

Həqiqətən də mümkündürmü ki,

to take a system of millions upon millions of devices,

milyonlarla qurğudan ibarət bir sistem quraq və

to read in their data streams,

məlumatları oxuyaraq

to predict their failures and act in advance?

xətaları müəyyən etsin və öncədən tədbir görsün?

Yes.

Bəli.

Can we build systems that converse with humans in natural language?

Elə bir sistem qura bilərik ki, insanların dilində danışsın?

Yes.

Bəli.

Can we build systems that recognize objects, identify emotions,

Elə sistem qura bilərik ki, obyektləri tanısın, hisləri anlasın,

emote themselves, play games and even read lips?

öz emosiyalarını ifadə etsin, oyun oynasın və hətta dodaqlarımızı oxusun?

Yes.

Bəli.

Can we build a system that sets goals,

Elə sistem qura bilərik ki, özünə hədəflər

that carries out plans against those goals and learns along the way?

qoyub onlara çatmaq üçün plan qursun və öyrənsin?

Yes.

Bəli.

Can we build systems that have a theory of mind?

Şüuru olan sistem qura bilərik?

This we are learning to do.

Hazırda bunu öyrənirik.

Can we build systems that have an ethical and moral foundation?

Etik və mənəvi əsasları anlayan sistem qura bilərik?

This we must learn how to do.

Bunu necə edəcəyimizi öyrənməliyik.

So let's accept for a moment

Bir anlığa qəbul edək ki,

that it's possible to build such an artificial intelligence

belə bir süni intellektin bu kimi missiyalar üçün

for this kind of mission and others.

yaradılması mümkündür.

The next question you must ask yourself is,

Özünüzə verəcəyiniz növbəti sual belədir ki,

should we fear it?

biz bundan qorxmalıyıqmı?

Now, every new technology

Ümumiyyətlə, hər bir yeni texnologiya

brings with it some measure of trepidation.

özü ilə müəyyən qədər narahatlıq gətirir.

When we first saw cars,

İlk dəfə avtomobilləri görəndə

people lamented that we would see the destruction of the family.

insanlar narahatçılıq keçirdilər ki, ailələr dağılacaq.

When we first saw telephones come in,

Biz ilk dəfə telefonları görəndə insanlar

people were worried it would destroy all civil conversation.

narahat oldular ki, bütün insan müzakirələrini məhv edəcək.

At a point in time we saw the written word become pervasive,

Nə vaxtsa gördük ki, yazı kəşf edildi

people thought we would lose our ability to memorize.

insanlar hafizələrinin itəcəyini düşündülər.

These things are all true to a degree,

Bütün bunlar müəyyən dərəcədə həqiqətdir,

but it's also the case that these technologies

amma eyni zamanda, bu texnologiyalar

brought to us things that extended the human experience

özləri ilə müəyyən mənada imkanlarımızı

in some profound ways.

genişləndirən şeylərə gətirib çıxardı.

So let's take this a little further.

Bir az da irəli gedək.

I do not fear the creation of an AI like this,

Mən bu cür Sİ yaradılmasından qorxmuram,

because it will eventually embody some of our values.

çünki zamanla bizim bəzi dəyərlərimizi təcəssüm etdirəcək.

Consider this: building a cognitive system is fundamentally different

Bunu düşünün: süni intellekt sistemi yaratmaq fundamental olaraq

than building a traditional software-intensive system of the past.

ənənəvi proqram təminatı sistemləri yaratmaqdan fərqlidir.

We don't program them. We teach them.

Biz onları proqramlaşdırmırıq. Onları öyrədirik.

In order to teach a system how to recognize flowers,

Sistemin çiçəkləri tanıması üçün

I show it thousands of flowers of the kinds I like.

ona xoşladığım minlərlə çiçək göstərməliyəm.

In order to teach a system how to play a game --

Sistemə oyun oynamağı öyrətmək üçün --

Well, I would. You would, too.

Bəli, edərdim. Elə siz də edərdiniz.

I like flowers. Come on.

Mən gülləri sevirəm. Yaxşı görək.

To teach a system how to play a game like Go,

Sistemi Go oyununu oynamağı öyrətmək üçün

I'd have it play thousands of games of Go,

mən min dəfələrlə Go oyunu oynamalıyam.

but in the process I also teach it

Eyni zamanda öyrənmə vaxtı

how to discern a good game from a bad game.

izah etməliyəm ki, yaxşı və pis oyunu necə ayırsın.

If I want to create an artificially intelligent legal assistant,

Əgər mən süni intellektli hüquq məsləhətçisi yaratmaq istəsəm,

I will teach it some corpus of law

mən ona qanunvericiliyi öyrədəcəm.

but at the same time I am fusing with it

Eyni zamanda öyrədəcəyim həm də

the sense of mercy and justice that is part of that law.

mərhəmət və ədalətdir ki, bu da hüququn bir hissəsidir.

In scientific terms, this is what we call ground truth,

Elmi olaraq, buna əsas istinad həqiqətləri deyirik.

and here's the important point:

Burada əsas məqam odur ki:

in producing these machines,

onları yaradan zaman

we are therefore teaching them a sense of our values.

biz onlara öz dəyərlərimizi də aşılayırıq.

To that end, I trust an artificial intelligence

Bu səbəbdən mən süni intellektə inanıram.

the same, if not more, as a human who is well-trained.

Çox da yox, amma yaxşı öyrədilmiş bir insan kimi.

But, you may ask,

Soruşa bilərsiniz ki,

what about rogue agents,

bəs yaramaz casuslar,

some well-funded nongovernment organization?

maliyyələşdirilmiş bəzi qeyri-hökumət təşkilatları necə?

I do not fear an artificial intelligence in the hand of a lone wolf.

Belə tənhaların əlində olan süni intellektdən qorxmuram.

Clearly, we cannot protect ourselves against all random acts of violence,

Daha dəqiq desək, biz özümüzü bütün təsadüfi zorakılıqlardan qoruya bilmərik.

but the reality is such a system

Həqiqət ondan ibarətdir ki, belə bir sistem

requires substantial training and subtle training

fərdi resurslardan qat-qat artıq olan

far beyond the resources of an individual.

əsaslı təlim və ciddi hazırlıq tələb edir.

And furthermore,

Həm də bu,

it's far more than just injecting an internet virus to the world,

dünyaya bir internet virusunu yoluxdurmağa oxşar bir şey deyil.

where you push a button, all of a sudden it's in a million places

Necə ki, bir düyməyə basmaqla milyonlarla yerə yayılsın

and laptops start blowing up all over the place.

və laptoplar hər yerdə partlamağa başlasın.

Now, these kinds of substances are much larger,

Bu cür şeylər daha qlobaldır

and we'll certainly see them coming.

və zamanla biz onlarla tanış olacağıq.

Do I fear that such an artificial intelligence

Elə bir süni intellektdən qorxurammı ki,

might threaten all of humanity?

o insanlığa təhlükə yarada bilər?

If you look at movies such as "The Matrix," "Metropolis,"

"Matrix", "Metropolis", "Terminator" kimi filmlərdə və ya

"The Terminator," shows such as "Westworld,"

"Westworld" kimi seriallarda bu kimi

they all speak of this kind of fear.

qorxudan bəhs edilir.

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

Təbii ki, filosof Nik Bostromun "Superinellekt" kitabında

he picks up on this theme

bunlardan bəhs edilir

and observes that a superintelligence might not only be dangerous,

və o, superintellektin yalnız təhlükəli olduğunu deyil,

it could represent an existential threat to all of humanity.

hətta insan varlığına böyük təhlükə gətirə biləcəyini qeyd edir.

Dr. Bostrom's basic argument

Dr. Bostrumun əsas arqumenti odur ki,

is that such systems will eventually

bu cür sistemlərdə zamanla

have such an insatiable thirst for information

elə informasiyalara hərislik yaranacaq ki,

that they will perhaps learn how to learn

onlar öyrənməyi də öyrənəcəklər

and eventually discover that they may have goals

və zamanla anlayacaqlar ki, onların hədəfləri

that are contrary to human needs.

insanların əleyhinə ola bilər.

Dr. Bostrom has a number of followers.

Dr. Bostromun çoxlu izləyiciləri var.

He is supported by people such as Elon Musk and Stephen Hawking.

Onu Elon Musk və Stiven Haukinq kimi şəxslər də izləyir.

With all due respect

Bu şəxslərə dərin hörmətim var.

to these brilliant minds,

Buna baxmayaraq inanıram ki,

I believe that they are fundamentally wrong.

onlar fundamental olaraq səhv edirlər.

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

Dr. Bostromun bir çox arqumentlərini sadalamaq olardı,

and I don't have time to unpack them all,

amma buna mənim indi vaxtım çatmaz.

but very briefly, consider this:

Ümumi olaraq onu deyim ki:

super knowing is very different than super doing.

super bilik və super bacarıq tamam fərqli şeylərdir.

HAL was a threat to the Discovery crew

HAL Discovery heyəti üçün təhlükə idi

only insofar as HAL commanded all aspects of the Discovery.

çünki HAL Discoverinin bütün idarəsinə məsul idi.

So it would have to be with a superintelligence.

Superintellekt ilə də belədir.

It would have to have dominion over all of our world.

Bütün dünyanı nəzarətinə götürməli idi.

This is the stuff of Skynet from the movie "The Terminator"

Bu eynilə "Terminator" filmindəki Skynetdir.

in which we had a superintelligence

O superintellekt

that commanded human will,

insanları idarə edirdi,

that directed every device that was in every corner of the world.

bütün dünyada olan hər bir qurğunu idarə edirdi.

Practically speaking,

Praktiki baxımdan,

it ain't gonna happen.

bu baş verməyəcək.

We are not building AIs that control the weather,

Biz elə bir Sİ yaratmırıq ki, havanı idarə etsin,

that direct the tides,

axınları yönləndirsin,

that command us capricious, chaotic humans.

bizim kimi, nazlı, xaotik insanları idarə etsin.

And furthermore, if such an artificial intelligence existed,

Hətta, əgər belə bir Sİ olsaydı,

it would have to compete with human economies,

o, insan iqtisadiyyatı ilə rəqabətə girməli olardı

and thereby compete for resources with us.

və bizimlə resurslar uğrunda yarışardı.

And in the end --

Sonda onu deyim ki, --

don't tell Siri this --

bunu Siri-yə söyləməyin --

we can always unplug them.

biz hər zaman onları söndürə bilərik.

(Laughter)

(Gülüş)

We are on an incredible journey

Biz öz maşınlarımızla birgə

of coevolution with our machines.

həyəcanlı bir səyahətdəyik.

The humans we are today

Bu günkü insanlar

are not the humans we will be then.

gələcəkdəkilər kimi deyil.

To worry now about the rise of a superintelligence

Superintellektin yüksəlişi barədə hazırda narahat olmaq

is in many ways a dangerous distraction

təhlükəli bir fikir dağınıqlığıdır.

because the rise of computing itself

Çünki kompüterləşmənin yüksəlişi

brings to us a number of human and societal issues

özü ilə ilə birgə çoxlu fərdi və sosial suallar gətirir ki,

to which we must now attend.

biz onları indi həll etməliyik.

How shall I best organize society

İnsan əməyinə tələbat azaldığı halda

when the need for human labor diminishes?

cəmiyyəti necə idarə edəcəyik?

How can I bring understanding and education throughout the globe

Anlayışı və təhsili bütün dünyaya necə aşılayaq və eyni zamanda

and still respect our differences?

fərqliliklərimizə də hörmət edək?

How might I extend and enhance human life through cognitive healthcare?

Zehni səhiyyə ilə insan həyatını necə uzadaq və yaxşılaşdıraq?

How might I use computing

İnformatikanı necə istifadə edək ki,

to help take us to the stars?

bizi ulduzlara aparsın?

And that's the exciting thing.

Bu çox həyəcanvericidir.

The opportunities to use computing

İnformatikanın insan həyatını

to advance the human experience

yaxşılaşdırmaq üçün imkanları

are within our reach,

bizim əlimizdədir.

here and now,

Bu gün və burada.

and we are just beginning.

Biz hələ başlanğıcdayıq.

Thank you very much.

Təşəkkür edirəm.

(Applause)

(Alqışlar)