Don't fear superintelligent AI | Grady Booch

Traducător: Denise RQ Corector: Bianca-Ioanidia Mirea

When I was a kid, I was the quintessential nerd.

Când eram copil, eram tocilar prin chintesență.

I think some of you were, too.

Cred că și unii dintre voi ați fost la fel.

(Laughter)

(Râsete)

And you, sir, who laughed the loudest, you probably still are.

Și dumneavoastră domnule, care ați râs cel mai tare,

(Laughter)

probabil că încă mai sunteți.

(Râsete)

I grew up in a small town in the dusty plains of north Texas,

Am crescut într-un mic oraș în câmpiile prăfuite din nordul Texasului,

the son of a sheriff who was the son of a pastor.

fiu de șerif care a fost fiul unui pastor.

Getting into trouble was not an option.

A intra în belele nu era o opțiune.

And so I started reading calculus books for fun.

Așa că am început să citesc cărți cu calcule ca sursă de distracție.

(Laughter)

(Râsete)

You did, too.

Și tu la fel.

That led me to building a laser and a computer and model rockets,

Și asta m-a făcut să construiesc un laser și un computer și să modelez rachete,

and that led me to making rocket fuel in my bedroom.

iar apoi să fac combustibil pentru rachete în dormitorul meu.

Now, in scientific terms,

Acum, în termeni științifici, numim asta o idee foarte proastă.

we call this a very bad idea.

(Laughter)

(Râsete)

Around that same time,

Cam pe atunci, „2001: Odiseea spațială” a lui Stanley Kubrick

Stanley Kubrick's "2001: A Space Odyssey" came to the theaters,

apăruse în cinematografe,

and my life was forever changed.

iar viața mi s-a schimbat pentru totdeauna.

I loved everything about that movie,

Am iubit absolut totul legat de acel film, în special pe HAL 9000.

especially the HAL 9000.

Now, HAL was a sentient computer

HAL era un computer dotat cu conștiință,

designed to guide the Discovery spacecraft

conceput pentru a ghida nava spațială Discovery

from the Earth to Jupiter.

de la Pământ până la Jupiter.

HAL was also a flawed character,

HAL avea de asemenea un caracter imperfect,

for in the end he chose to value the mission over human life.

întrucât a ales să prețuiască mai mult misiunea, în defavoarea vieții umane.

Now, HAL was a fictional character,

HAL a fost un personaj fictiv,

but nonetheless he speaks to our fears,

dar cu toate acestea,

el vorbește despre temerile noastre, temerile noastre de a fi subjugați

our fears of being subjugated

by some unfeeling, artificial intelligence

de o inteligență artificială fără sentimente,

who is indifferent to our humanity.

care este indiferentă în fața omenirii.

I believe that such fears are unfounded.

Cred că astfel de temeri sunt nefondate.

Indeed, we stand at a remarkable time

Într-adevăr, ne aflăm într-un moment remarcabil în istoria omenirii,

in human history,

where, driven by refusal to accept the limits of our bodies and our minds,

când, motivați de refuzul de a accepta limitele corpurilor și minților noastre,

we are building machines

construim mașinării de un rafinament și o grație frumoasă și complexă

of exquisite, beautiful complexity and grace

that will extend the human experience

care va extinde cunoașterea umană

in ways beyond our imagining.

dincolo de imaginația noastră.

După o carieră care mi-a purtat pașii de la Academia Forțelor Aeriene

After a career that led me from the Air Force Academy

to Space Command to now,

la Space Command în prezent,

I became a systems engineer,

am devenit inginer de sisteme

and recently I was drawn into an engineering problem

și recent am fost implicat într-o problemă de inginerie

associated with NASA's mission to Mars.

în legătură cu misiunea NASA către Marte.

Now, in space flights to the Moon,

În zborurile spațiale către Lună

we can rely upon mission control in Houston

ne putem baza că cei de la controlul misiunii din Houston

to watch over all aspects of a flight.

urmăresc toate aspectele unui zbor.

However, Mars is 200 times further away,

Însă Marte e de 200 de ori mai departe

and as a result it takes on average 13 minutes

și în consecință, e nevoie în medie de 13 minute

for a signal to travel from the Earth to Mars.

ca un sunet să parcurgă distanța dintre Pământ și Marte.

If there's trouble, there's not enough time.

Dacă apare o problemă, nu există suficient timp.

And so a reasonable engineering solution

Astfel, o soluție rezonabilă de inginerie

calls for us to put mission control

ne determină să punem controlul misiunii între pereții navetei spațiale Orion.

inside the walls of the Orion spacecraft.

Another fascinating idea in the mission profile

O altă idee fascinantă din profilul misiunii

places humanoid robots on the surface of Mars

e plasarea de roboți humanoizi pe suprafața planetei Marte

before the humans themselves arrive,

înaintea sosirii oamenilor,

first to build facilities

mai întâi pentru a construi echipamente și instalații

and later to serve as collaborative members of the science team.

și apoi pentru a servi ca membri colaboratori ai echipei științifice.

Now, as I looked at this from an engineering perspective,

Pe măsură ce priveam asta dintr-o perspectivă inginerească,

it became very clear to me that what I needed to architect

devenea foarte clar pentru mine că ceea ce aveam nevoie să creez

was a smart, collaborative,

era o inteligență artificială

socially intelligent artificial intelligence.

abilă, cooperantă și dotată cu inteligență socială.

In other words, I needed to build something very much like a HAL

Cu alte cuvinte, aveam nevoie să construiesc ceva asemănător lui HAL,

but without the homicidal tendencies.

dar fără tendințele sale ucigătoare.

(Laughter)

(Râsete)

Let's pause for a moment.

Să facem o mică pauză.

Is it really possible to build an artificial intelligence like that?

Este oare posibil să construim o asemenea inteligență artificială?

Actually, it is.

De fapt, chiar este.

In many ways,

În multe feluri, aceasta este o problemă grea de inginerie

this is a hard engineering problem

with elements of AI,

cu elemente de inteligență artificială,

not some wet hair ball of an AI problem that needs to be engineered.

și nu o problemă inextricabilă de IA care necesită inginerie.

To paraphrase Alan Turing,

Ca să-l parafrazez pe Alan Turing:

„Nu sunt interesat să construiesc o mașinărie dotată cu conștiință”.

I'm not interested in building a sentient machine.

I'm not building a HAL.

Nu construiesc un HAL.

All I'm after is a simple brain,

Tot ce vreau este un creier simplu, ceva ce oferă iluzia inteligenței.

something that offers the illusion of intelligence.

The art and the science of computing have come a long way

Arta și știința informatică au parcurs un drum lung

since HAL was onscreen,

de când HAL a fost adus pe ecran

and I'd imagine if his inventor Dr. Chandra were here today,

și-mi imaginez că dacă inventatorul său, Dr. Chandra, ar fi fost aici azi,

he'd have a whole lot of questions for us.

ar fi avut o listă întreagă de întrebări pentru noi.

Is it really possible for us

E într-adevăr posibil pentru noi

to take a system of millions upon millions of devices,

să folosim un sistem de milioane și milioane de dispozitive,

to read in their data streams,

ca să citim în fluxurile lor de date,

to predict their failures and act in advance?

pentru a le prezice erorile și a acționa înainte?

Yes.

Da.

Can we build systems that converse with humans in natural language?

Putem construi sisteme care să converseze cu oamenii în limba lor naturală?

Yes.

Can we build systems that recognize objects, identify emotions,

Da.

Putem construi sisteme care să recunoască obiecte, să identifice emoții,

emote themselves, play games and even read lips?

să arate emoții, să joace jocuri și chiar să citească de pe buze?

Yes.

Da.

Can we build a system that sets goals,

Putem construi sisteme care să stabilească obiective,

that carries out plans against those goals and learns along the way?

să realizeze planuri pentru îndeplinirea acestor obiective și să învețe pe parcurs?

Yes.

Can we build systems that have a theory of mind?

Da.

Putem construi sisteme care să aibă o gândire empatică?

This we are learning to do.

Asta învățăm să facem.

Can we build systems that have an ethical and moral foundation?

Putem construi sisteme care să aibă o baza etică și morală?

This we must learn how to do.

Asta trebuie să învățăm cum se face.

So let's accept for a moment

Așa că haideți să acceptăm pentru moment

that it's possible to build such an artificial intelligence

că este posibil să construim o astfel de inteligență artificială

for this kind of mission and others.

pentru acest tip de misiuni și pentru altele.

The next question you must ask yourself is,

Următoarea întrebare pe care trebuie să v-o puneți e:

should we fear it?

Now, every new technology

ar trebui să ne fie frică de ea?

brings with it some measure of trepidation.

Ei bine, fiecare tehnologie nouă

ne dă palpitații într-o anumită măsură.

When we first saw cars,

Când au apărut pentru prima oară automobilele,

people lamented that we would see the destruction of the family.

oamenii s-au lamentat că vom asista la destrămarea familiei.

When we first saw telephones come in,

Când au apărut pentru prima oară telefoanele,

people were worried it would destroy all civil conversation.

oamenii erau îngrijorați că vor distruge complet conversația.

At a point in time we saw the written word become pervasive,

La un moment dat am văzut cum cuvântul scris a devenit omniprezent,

people thought we would lose our ability to memorize.

iar oamenii au crezut că vom pierde abilitatea de a memora.

These things are all true to a degree,

Toate acestea sunt adevărate până la un anumit punct,

but it's also the case that these technologies

dar de asemenea este adevărat și că aceste tehnologii

brought to us things that extended the human experience

ne-au adus lucruri care ne-au lărgit cunoașterea umană

in some profound ways.

în câteva moduri profunde.

So let's take this a little further.

Așa că hai să mergem un pic mai departe.

I do not fear the creation of an AI like this,

Eu nu mă tem de crearea unei astfel de inteligențe artificiale

because it will eventually embody some of our values.

pentru că în final ea va îngloba câteva dintre valorile noastre.

Consider this: building a cognitive system is fundamentally different

Luați în considerare acest lucru:

construirea unui sistem cognitiv este fundamental diferită

than building a traditional software-intensive system of the past.

de construirea unui sistem software-intensiv tradițional, din trecut.

We don't program them. We teach them.

Nu le programăm. Le învățăm.

In order to teach a system how to recognize flowers,

Pentru a învăța un sistem cum să recunoască florile,

I show it thousands of flowers of the kinds I like.

îi arăt mii de flori din diverse tipuri care-mi plac.

In order to teach a system how to play a game --

Pentru a învăța un sistem cum să joace un joc...

Well, I would. You would, too.

Ei bine, eu aș face-o. Și tu la fel.

I like flowers. Come on.

Îmi plac florile. Pe bune!

To teach a system how to play a game like Go,

Ca să înveți un sistem cum se joacă un joc de GO,

I'd have it play thousands of games of Go,

ar trebui să joc mii de partide de GO,

but in the process I also teach it

dar în acest proces aș învăța de asemenea

how to discern a good game from a bad game.

cum să discern între un joc bun și unul prost.

If I want to create an artificially intelligent legal assistant,

Dacă vreau să creez IA care să ofere asistență juridică,

I will teach it some corpus of law

o s-o învăț corpusul legislativ, dar în același timp voi integra

but at the same time I am fusing with it

the sense of mercy and justice that is part of that law.

și simțul clemenței și al dreptății ca parte a legii respective.

In scientific terms, this is what we call ground truth,

În termeni științifici, asta este ceea ce numim adevărul de bază,

and here's the important point:

și asta e ce contează cu adevărat: când producem aceste mașinării,

in producing these machines,

we are therefore teaching them a sense of our values.

le învățăm o parte din valorile noastre.

To that end, I trust an artificial intelligence

În acest scop, mă încred în inteligență artificială

the same, if not more, as a human who is well-trained.

la fel, dacă nu și mai mult decât într-un om care este bine instruit.

But, you may ask,

Dar ați putea întreba: ce ne facem cu agenții necinstiți,

what about rogue agents,

some well-funded nongovernment organization?

cu anumite ONG-uri bine finanțate?

I do not fear an artificial intelligence in the hand of a lone wolf.

Nu mă tem de o inteligență artificială aflată în mâinile unui lup singuratic.

Clearly, we cannot protect ourselves against all random acts of violence,

Cu certitudine, nu ne putem proteja

împotriva tuturor actelor aleatorii de violență,

but the reality is such a system

dar realitatea e că un asemenea sistem

requires substantial training and subtle training

necesită o instruire substanțială și subtilă,

far beyond the resources of an individual.

cu mult peste resursele unui singur individ.

And furthermore,

În plus, înseamnă mult mai mult

it's far more than just injecting an internet virus to the world,

decât să introduci un virus informatic în societate,

where you push a button, all of a sudden it's in a million places

unde apeși pe un buton deodată și se răspândește în milioane de locuri

and laptops start blowing up all over the place.

și laptopurile explodează pretutindeni.

Now, these kinds of substances are much larger,

Ei bine, acest fel de conținut este mult mai amplu

and we'll certainly see them coming.

și cu siguranță ne așteptam la el.

Do I fear that such an artificial intelligence

Să mă tem că o astfel de inteligență artificială

might threaten all of humanity?

ar putea amenința întreaga umanitate?

If you look at movies such as "The Matrix," "Metropolis,"

Dacă vă uitați la filme

precum „Matrix”, „Metropolis” „Terminatorul”, seriale ca „Westworld”

"The Terminator," shows such as "Westworld,"

they all speak of this kind of fear.

toate vorbesc despre acest tip de teamă.

Indeed, in the book "Superintelligence" by the philosopher Nick Bostrom,

Într-adevăr, în cartea „Superinteligență”, filozoful Nick Bostrom

he picks up on this theme

abordează această temă

and observes that a superintelligence might not only be dangerous,

și observă că superinteligența poate fi nu doar periculoasă,

it could represent an existential threat to all of humanity.

ci poate reprezenta o amenințare existențială la adresa întregii omeniri.

Dr. Bostrom's basic argument

Argumentul de bază al Dr. Bostrom

is that such systems will eventually

este că astfel de sisteme vor sfârși

have such an insatiable thirst for information

prin a avea o nestăvilită sete de informație

that they will perhaps learn how to learn

așa încât, probabil, vor învăța cum să învețe

and eventually discover that they may have goals

și în final să descopere că pot avea interese

that are contrary to human needs.

care sunt contrarii nevoilor umanității.

Dr. Bostrom has a number of followers.

Dr. Bostrom are un număr de persoane care-l urmăresc.

He is supported by people such as Elon Musk and Stephen Hawking.

El este sprijinit de persoane ca Elon Musk și Stephen Hawking.

With all due respect

Cu tot respectul pentru aceste minți luminate,

to these brilliant minds,

I believe that they are fundamentally wrong.

cred că greșesc fundamental.

Now, there are a lot of pieces of Dr. Bostrom's argument to unpack,

Există numeroase aspecte de disecat la argumentul Dr. Bostrom

and I don't have time to unpack them all,

și nu am timp să le expun pe toate,

but very briefly, consider this:

dar foarte pe scurt, luați în considerare asta:

super knowing is very different than super doing.

super cunoașterea este foarte diferită de super acțiunea.

HAL was a threat to the Discovery crew

HAL a fost o amenințare pentru echipajul Discovery

only insofar as HAL commanded all aspects of the Discovery.

doar în măsura în care HAL avea comanda tuturor aspectelor legate de Discovery.

So it would have to be with a superintelligence.

Așa ar trebui să fie și în cazul unei superinteligențe.???

It would have to have dominion over all of our world.

ar trebui să stăpânească toată lumea noastră.

This is the stuff of Skynet from the movie "The Terminator"

Aceste idei provin de la Skynet din filmul „Terminatorul”

in which we had a superintelligence

în care avem o superinteligență care comanda voința umană,

that commanded human will,

that directed every device that was in every corner of the world.

care controla fiecare dispozitiv aflat în orice colț al lumii.

Practically speaking,

Practic vorbind, asta nu se va întâmpla.

it ain't gonna happen.

We are not building AIs that control the weather,

Nu vom construi inteligențe artificiale care să controleze vremea,

that direct the tides,

să direcționeze valurile,

that command us capricious, chaotic humans.

care să ne comande pe noi, oameni capricioși și haotici.

And furthermore, if such an artificial intelligence existed,

Și mai mult decât atât, dacă astfel de inteligență artificială ar exista,

it would have to compete with human economies,

ar trebui să concureze cu economiile oamenilor,

and thereby compete for resources with us.

și astfel să concureze pentru resurse cu noi.

And in the end --

Și la sfârșit... Nu-i spuneți asta lui Siri...

don't tell Siri this --

we can always unplug them.

Noi putem oricând să-i scoatem din priză.

(Laughter)

(Râsete)

We are on an incredible journey

Suntem într-o incredibilă călătorie de evoluție comună cu mașinăriile noastre.

of coevolution with our machines.

The humans we are today

Oamenii de azi nu sunt oamenii de mâine.

are not the humans we will be then.

To worry now about the rise of a superintelligence

Să îți faci griji acum de ascensiunea superinteligenței

is in many ways a dangerous distraction

este într-o mulțime de feluri, o periculoasă distragere a atenției,

because the rise of computing itself

deoarece însăși ascensiunea computerelor

brings to us a number of human and societal issues

ne aduce o serie de probleme umane și sociale

to which we must now attend.

la care trebuie să participăm acum.

How shall I best organize society

Cum să organizez societatea cel mai bine

when the need for human labor diminishes?

când nevoia de munci executate de oameni se diminuează?

How can I bring understanding and education throughout the globe

Cum să aduc înțelegere și educație de-a lungul globului

and still respect our differences?

și totuși să respect diferențele dintre noi?

How might I extend and enhance human life through cognitive healthcare?

Cum aș putea să prelungesc și să îmbunătățesc

viața prin asistență medicală cognitivă?

How might I use computing

Cum aș putea utiliza informatica pentru a ne ajuta să ajungem la stele?

to help take us to the stars?

And that's the exciting thing.

Și acesta este lucrul interesant.

The opportunities to use computing

Oportunitățile de a utiliza informatica

to advance the human experience

pentru a îmbunătăți cunoașterea umană stă în puterea noastră,

are within our reach,

here and now,

aici și acum și suntem doar la început.

and we are just beginning.

Thank you very much.

Vă mulțumesc foarte mult.

(Applause)

(Aplauze)