The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Traducător: Mihaela Niță Corector: Claudia Pravat

You've all experienced the progress of artificial intelligence.

Ați asistat cu toții la progresul inteligenței artificiale.

Many of you may have spoken with a computer,

Mulți dintre voi poate ați vorbit cu un computer

and a computer understood you

și computerul v-a înțeles

and spoke back to you.

și v-a răspuns.

With the rate of progress being that it is,

În actualul ritm în care se progresează,

it's not difficult to imagine that at some point in the future,

nu-i greu să ne imaginăm că la un moment dat în viitor

our intelligent computers will become as smart or smarter than people.

computerele noastre inteligente vor fi la fel sau mai deștepte decât noi.

And it's also not difficult to imagine that when that happens,

Și nu-i greu să ne imaginăm nici că atunci când se va întâmpla,

the impact of such artificial intelligence

efectul acestei inteligențe artificiale

is going to be truly, truly vast.

va fi nespus de vast.

And you may wonder:

Poate vă întrebați:

Is it going to be OK when technology is so impactful?

e bine ca tehnologia să aibă un astfel de efect?

And here my goal is to point out the existence of a force

Scopul meu aici e să punctez existența unei forțe

that many of you may have not noticed,

pe care mulți poate n-ați observat-o,

that gives me hope that indeed,

care-mi dă speranța că într-adevăr

we will be happy with the result.

vom fi mulțumiți de rezultat.

So artificial intelligence.

Inteligența artificială,

What is it, and how does it work?

ce este și cum funcționează?

Well, it turns out that it's very easy to explain

E de fapt foarte ușor de explicat

how artificial intelligence works.

cum funcționează inteligența artificială.

Just one sentence.

O singură propoziție.

Artificial intelligence is nothing but digital brains

Inteligența artificială nu e nimic altceva decât creiere digitale

inside large computers.

în computere mari.

That's what artificial intelligence is.

Asta e inteligența artificială.

Every single interesting AI that you've seen

Fiecare IA interesantă pe care ați văzut-o

is based on this idea.

are la bază conceptul ăsta.

Over the decades,

De-a lungul deceniilor,

scientists and engineers have been figuring out

oamenii de știință și inginerii au reușit să înțeleagă

how such digital brains should work

cum pot funcționa aceste creiere digitale

and how to build them, how to engineer them.

și cum să le construiască, să le proiecteze.

Now, I find it interesting

Mi se pare interesant

that the seat of intelligence in human beings is our biological brain.

că sediul inteligenței umane e în creierul nostru biologic.

It is fitting that the seat of intelligence

Se cuvine ca sediul inteligenței

in artificial intelligence

din inteligența artificială

is an artificial brain.

să fie un creier artificial.

Here, I'd like to take a digression and tell you about how I got into AI.

Aș vrea să fac aici o paranteză, să vă zic cum am ajuns eu în IA.

There were three forces that pulled me into it.

Sunt trei forțe care m-au atras în domeniu.

The first one was that when I was a little child,

Prima a fost când eram mic,

at around the age of five or six,

pe la cinci sau șase ani,

I was very struck by my own conscious experience,

m-a impresionat mult propria mea experiență conștientă,

by the fact that I am me and I am experiencing things.

faptul că eu sunt eu și percep lucrurile.

That when I look at things, I see them.

Că atunci când mă uit la lucruri, le văd.

Like, this feeling over time went away, though,

Senzația asta a dispărut cu timpul,

deși doar pomenind-o acum, o simt iar.

by simply mentioning it to you right now it comes back.

But this this feeling of ...

Dar această senzație...

That I am me, that you are you,

că eu sunt eu, tu ești tu,

I found it very strange and very disturbing almost.

mi s-a părut tare ciudată și aproape tulburătoare.

And so when I learned about artificial intelligence,

Când am aflat de inteligența artificială,

I thought, wow, if we could build a computer

mi-am zis, uau, cum ar fi să putem construi un computer

that is intelligent,

care e inteligent?

maybe we will learn something about ourselves,

Poate vom învăța ceva despre noi înșine,

about our own consciousness.

despre propria conștiință.

That was my first motivation that pulled me towards AI.

Ăsta a fost primul motiv care m-a atras către IA.

The second motivation was more pedestrian in a way.

Al doilea motiv a fost oarecum banal.

I was simply curious about how intelligence works.

Eram doar curios să știu cum funcționează inteligența.

And when I was a teenager, an early teenager in the late '90s,

Când eram adolescent, spre sfârșitul anilor ’90,

the sense that I got is that science simply did not know

aveam impresia că știința nu știa deloc

how intelligence worked.

cum funcționează inteligența.

There was also a third reason,

A fost și al treilea motiv,

which is that it was clear to me back then

anume că mi-era clar atunci

that artificial intelligence,

că inteligența artificială,

if it worked, it would be incredibly impactful.

dacă ar funcționa, ar avea un efect incredibil.

Now, it wasn't at all obvious

Nu era deloc clar

that it will be possible to make progress in artificial intelligence,

că se vor putea face progrese în inteligența artificială,

but if it were possible to make progress in artificial intelligence,

dar dacă ar fi fost posibil să se progreseze în IA,

that would be incredibly impactful.

efectul ar fi fost incredibil.

So these were the three reasons that pulled me towards AI.

Acestea sunt cele trei motive ce m-au atras către IA.

That's why I thought that's a great area to spend all my efforts on.

De aceea mi s-a părut un domeniu grozav în care să mă specializez.

So now let's come back to our artificial intelligence,

Să revenim la inteligența noastră artificială,

the digital brains.

creierul digital.

Today, these digital brains

În prezent, aceste creiere digitale

are far less smart than our biological brains.

sunt mult mai puțin inteligente decât creierul nostru biologic.

When you speak to an AI chat bot,

Când vorbiți cu un chatbot,

you very quickly see that it's not all there,

vă dați seama destul de repede că încă nu e capabil,

that it's, you know,

asta înseamnă

it understands mostly, sort of.

că înțelege doar într-o anumită măsură.

But you can clearly see that there are so many things it cannot do

Dar e clar că sunt atâtea lucruri pe care nu le poate face

and that there are some strange gaps.

și că are niște lacune ciudate.

But this situation, I claim, is temporary.

Dar situația asta, zic eu, e temporară.

As researchers and engineers continue to work on AI,

Cum cercetătorii și inginerii continuă lucrul la IA,

the day will come when the digital brains that live inside our computers

va veni ziua când creierele digitale din computerele noastre

will become as good and even better than our own biological brains.

vor deveni la fel și chiar mai bune decât creierele noastre biologice.

Computers will become smarter than us.

Computerele vor fi mai inteligente decât noi.

We call such an AI an “AGI,” artificial general intelligence.

Acest tip de IA îl numim IAG, inteligență artificială generală,

When we can say that the level at which we can teach the AI to do anything

când putem spune că e nivelul la care putem învăța IA

that, for example, I can do, or someone else.

să facă orice pot eu sau altcineva.

So although AGI does not exist today,

Deși IAG încă nu există,

we can still gain a little bit of an insight

putem totuși întrezări

into the impact of AGI once it's built.

efectul IAG odată construită.

It is completely obvious

E absolut clar

that such an AGI will have a dramatic impact

că o astfel de IAG va avea un efect drastic

on every area of life, of human activity and society.

asupra fiecărui aspect al vieții, al activității umane și al societății.

And I want to go over a quick case study.

Să vă prezint un scurt studiu de caz.

This is a narrow example of a very, very broad technology.

E un exemplu restrâns al unei tehnologii extrem de vaste.

The example I want to present is health care.

Exemplul ce vreau să-l prezint e asistența medicală.

Many of you may have had the experience of trying to go to a doctor.

Mulți dintre voi ați încercat să ajungeți la un doctor.

You need to wait for many months sometimes,

Ai de așteptat luni întregi uneori,

and then when you do get to see a doctor, you get a small,

iar când ajungi la doctor, ai un mic,

very limited amount of time with the doctor

foarte scurt interval cu doctorul,

and furthermore, the doctor, being only human,

și în plus, doctorul, om fiind,

can have only limited knowledge of all this,

poate avea cunoștințe limitate despre toate aceste lucruri,

all the medical knowledge that exists.

toate cunoștințele medicale.

And then by the end of it, you get a very large bill.

Iar la sfârșit, ai o factură foarte mare.

(Laughter)

(Râsete)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Dacă aveți un computer inteligent, o IAG construită să fie doctor,

it will have complete and exhaustive knowledge of all medical literature.

va avea cunoștințe complete și exhaustive despre toată literatura medicală.

It will have billions of hours of clinical experience,

Va avea miliarde de ore de experiență clinică,

and it will be always available and extremely cheap.

va fi mereu disponibilă și extrem de ieftină.

When this happens,

Când se va întâmpla asta,

we will look back at today's health care

ne vom uita la asistența medicală de azi

similarly to how we look at 16th century dentistry.

cu aceiași ochi cu care privim stomatologia din secolul XVI.

(Laughter)

(Râsete)

You know, when they tied people with belts and then have this drill,

Când legau oamenii în chingi și foloseau burghiul ăla,

that's how today's health care will look like.

așa va părea asistența medicală de azi.

And again, to emphasize, this is just one example.

Din nou, subliniez, e doar un exemplu.

This is just one example.

E un singur exemplu.

AGI will have dramatic and incredible impact

IAG va avea un efect drastic și incredibil

on every single area of human activity.

asupra fiecărui aspect al activității umane.

But when you see impact this large, you may wonder, "Gosh,

Când vedeți un efect așa de amplu, poate vă întrebați:

isn't this technology too impactful?"

„N-are tehnologia un efect prea mare?”

And indeed, for every positive application of AGI,

Într-adevăr, pentru fiecare aplicare pozitivă a IAG,

there will be a negative application as well.

va fi și o aplicare negativă.

This technology is also going to be different

Această tehnologie va fi altfel

decât cele cu care ne-am obișnuit,

from technologies that we are used to,

because it will have the ability to improve itself.

pentru că se va putea auto-îmbunătăți.

It is possible to build an AGI

E posibil să construiești o IAG

that will work on the next generation of AGI.

care să lucreze la următoarea generație de IAG.

The closest analogue we have to this kind of rapid technological improvement

Cel mai bună analogie pentru un progres tehnologic așa de rapid

is when the Industrial Revolution has taken place, where humans,

e revoluția industrială, când oamenii,

the material condition of human society, was very, very constant.

condiția materială a societății era constantă,

And then it was a rapid increase, rapid growth.

iar apoi a urmat o creștere rapidă.

With AGI,

Cu IAG,

something like this could happen again, but on a shorter timescale.

ceva similar s-ar putea întâmpla iar, dar într-un interval mai scurt.

And then furthermore,

În plus,

there are concerns around

sunt motive de îngrijorare

if an AGI ever becomes very, very powerful,

că dacă o IAG va deveni vreodată foarte puternică,

which is possible,

ceea ce e posibil,

maybe it will want to go rogue being that it is an agent.

poate va dori să iasă de sub control, dat fiind că e un agent.

So this is a concern that exists with this unprecedented,

E un motiv de îngrijorare

cu această tehnologie fără precedent, ce încă nu există.

not yet existing technology.

And indeed,

Într-adevăr,

you look at all the positive potential of AGI

privind tot potențialul pozitiv al IAG

and all the concerning possibilities of AGI as well,

și toate posibilitățile sale îngrijorătoare,

and you may say, "Gosh, where is this all headed?"

ați putea zice: „Unde vom ajunge?”.

One of my motivations in creating OpenAI was,

Unul dintre motivele mele pentru crearea OpenAI a fost,

in addition to developing this technology,

pe lângă dezvoltarea acestei tehnologii,

was also to address the questions

și abordarea întrebărilor

that are posed by AGI, the difficult questions,

legate de IAG, întrebările dificile,

the concerns that we raised.

motivele de îngrijorare pomenite.

In addition to working with governments

Pe lângă faptul că lucrăm cu guverne

and helping them understand what is coming and prepare for it,

și le ajutăm să înțeleagă ce urmează, ca să se pregătească,

we are also doing a lot of research

facem și o mulțime de cercetări

on addressing the technological side of things,

ce vizează partea tehnologică,

so that the AI will never want to go rogue.

ca IA să nu-și dorească vreodată să iasă de sub control.

And this is something which I’m working on as well.

Iar la asta lucrez și eu.

But I think, the thing to note,

Cred că e de reținut,

because AI and AGI is really the only area of the economy

pentru că IA și IAG sunt de fapt singurul domeniu al economiei

where there is a lot of excitement, a lot of investment,

cu o mulțime de entuziasm și investiții,

everyone is working on it,

toți lucrează la asta,

there's a huge number of labs in the world trying to build the same thing.

sunt multe laboratoare ce încearcă să construiască același lucru.

Even if OpenAI takes these desirable steps that I mentioned,

Chiar dacă OpenAI face pașii necesari de care vorbeam,

what about the rest of the companies and the rest of the world?

cum rămâne cu celelalte companii și restul lumii?

And this is where I want to make my observation

Aici vreau să fac observația

about the force that exists.

despre forța ce există.

The observation is this: consider the world one year ago,

Observația e următoarea: gândiți-vă la lumea de acum un an,

as recently as one year ago.

cu doar un an în urmă.

People weren't really talking about AI, not in the same way at all.

Oamenii nu prea vorbeau despre IA, nu în același fel.

What happened?

Ce s-a întâmplat?

We all experienced what it's like to talk to a computer and to be understood.

Am văzut cu toții cum e să vorbești cu un computer și să fii înțeles.

The idea that computers will become really intelligent

Ideea că computerele vor deveni foarte inteligente

and eventually more intelligent than us is becoming widespread.

și chiar mai inteligente decât noi e tot mai răspândită.

It used to be a niche idea that only a few enthusiasts

Era o idee de nișă la care doar câțiva entuziaști,

and hobbyists and people who were very into AI were thinking about.

amatori și oameni foarte preocupați de AI reflectau.

But now everyone is thinking about it.

Acum toată lumea se gândește la asta.

And as the AI continues to make progress,

Pe măsură ce IA continuă să progreseze,

as technology continues to advance,

tehnologia continuă să avanseze,

as more and more people see what AI can do

tot mai mulți oameni văd ce poate face IA

and where it is headed towards,

și încotro se îndreaptă,

then it will become clear just how dramatic,

va deveni clar cât de drastică,

incredible and ...

incredibilă și...

almost fantastical AGI is going to be

aproape fantastică va fi IAG

and how much trepidation is appropriate.

și cât e nevoie să ne îngrijorăm.

And what I claim will happen is that people will start to act

Ce cred eu că se va întâmpla e că oamenii vor începe

in unprecedentedly collaborative way out of their own self-interest.

să colaboreze în mod nemaiîntâlnit din interes propriu.

It's already happening right now.

Deja se întâmplă.

You see the leading AGI companies starting to collaborate

Vedeți companiile de IAG de top începând să colaboreze,

for a specific example, through the Frontier Model Forum.

un exemplu fiind Forumul Frontier Model.

And we will expect that companies that are competitors

Ne vom aștepta ca firmele concurente

will share technical information to make their AIs safe.

să schimbe informații tehnice pentru IA sigure.

We may even see governments do this.

Și guvernele ar putea face asta.

For another example,

Alt exemplu:

at OpenAI, we really believed in how dramatic AGI is going to be.

la OpenAI chiar am crezut că IAG va fi foarte drastică.

So one of the ideas that we were operating by,

Unul din principiile după care funcționăm,

and it's been written on our website for five years now,

care e pe site-ul nostru de cinci ani,

that when technology gets such that we are very, very close to AGI,

e că dacă tehnologia ajunge la punctul când suntem foarte aproape de IAG,

to computers smarter than humans,

de computere mai inteligente decât noi,

and if some other company is far ahead of us,

și dacă altă companie e cu mult înaintea noastră,

then rather than compete with them,

în loc să concurăm cu ea,

we will help them out, join them, in a sense.

o vom ajuta, ne vom alătura ei într-un fel.

And why do that?

De ce să facem asta?

Because we feel, we appreciate

Pentru că ne dăm bine seama

how incredibly dramatic AGI is going to be.

cât de incredibil de drastică va fi IAG.

And my claim is that with each generation of capability advancements,

Cred că cu fiecare generație de progrese ale capacităților,

as AI gets better

cu cât IA se îmbunătățește

and as all of you experience what AI can do,

și vedeți cu toții ce poate face IA,

as people who run AI efforts and AGI efforts

iar cei ce conduc eforturile IA și IAG

and people who work on them will experience it as well,

și oamenii care lucrează la ele vor vedea și ei,

this will change the way we see AI and AGI,

ne vom schimba părerea despre IA și IAG,

and that will change collective behavior.

iar asta va schimba comportamentul colectiv.

And this is an important reason

Acesta e un motiv important

why I'm hopeful

pentru care nădăjduiesc,

that despite the great challenges that's posed by this technology,

în ciuda provocărilor majore ale acestei tehnologii,

we will overcome them.

că le vom depăși.

Thank you.

Mulțumesc.

(Applause)

(Aplauze)