How will AI change the world?

Traducător: Ioana Dobre Corector: Mirel-Gabriel Alexa

În anii următori, inteligența artificială (IA)

In the coming years, artificial intelligence

îți va schimba probabil viața, dar și întreaga lume.

is probably going to change your life, and likely the entire world.

Dar oamenii încă dezbat în ce fel.

But people have a hard time agreeing on exactly how.

Ideile următoare sunt dintr-un interviu de la Forumul Economic Mondial

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

în care Stuart Russell, profesor renumit de informatică și expert în IA

helps separate the sense from the nonsense.

ne ajută să distingem ideile plauzibile de fantezii.

There’s a big difference between asking a human to do something

E o mare diferență între a-i cere unui om să facă ceva

și a da același obiectiv unui sistem de IA.

and giving that as the objective to an AI system.

When you ask a human to get you a cup of coffee,

Când ceri unui om să îți aducă o cafea,

nu vrei să spui că ar trebuie să fie misiunea vieții lui,

you don’t mean this should be their life’s mission,

and nothing else in the universe matters.

și că nimic altceva pe lume nu mai contează.

Even if they have to kill everybody else in Starbucks

Chiar dacă ar trebui să-i ucidă pe toți din Starbucks

to get you the coffee before it closes— they should do that.

pentru a-ți aduce cafeaua înainte de închidere, să o facă.

Nu, nu la asta te referi.

No, that’s not what you mean.

All the other things that we mutually care about,

Ci că toate celelalte lucruri de care ne pasă tuturor

they should factor into your behavior as well.

trebuie incluse și în comportamentul tău.

And the problem with the way we build AI systems now

Iar problema cu modul în care construim sistemele de IA acum

is we give them a fixed objective.

este că le setăm obiective fixe.

Algoritmii ne solicită să specificăm totul în obiectiv.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

Dacă spui, spre exemplu, putem rezolva acidificarea oceanelor?

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Da, poți obține o reacție catalitică care rezolvă asta extrem de eficient,

dar care consumă un sfert din oxigenul prezent în atmosferă,

but it consumes a quarter of the oxygen in the atmosphere,

which would apparently cause us to die fairly slowly and unpleasantly

ceea ce ne-ar provoca o moarte lentă și neplăcută,

over the course of several hours.

în decurs de câteva ore.

So, how do we avoid this problem?

Așadar, cum evităm această problemă?

You might say, okay, well, just be more careful about specifying the objective—

Ai putea spune, păi, fii mai atent la specificarea obiectivului

don’t forget the atmospheric oxygen.

și nu uita de oxigenul din atmosferă.

And then, of course, some side effect of the reaction in the ocean

Dar apoi, bineînțeles, un efect secundar al reacției din oceane

poisons all the fish.

otrăvește toți peștii.

Okay, well I meant don’t kill the fish either.

Păi, voiam să spun să nu omorî nici peștii.

And then, well, what about the seaweed?

Dar cum rămâne cu algele?

Don’t do anything that’s going to cause all the seaweed to die.

Să nu faci nimic ce ar putea cauza dispariția tuturor algelor.

And on and on and on.

Și așa mai departe.

And the reason that we don’t have to do that with humans is that

Motivul pentru care nu trebuie să facem asta cu oamenii

e pentru că adesea ei știu că nu știu toate lucrurile care contează pentru noi.

humans often know that they don’t know all the things that we care about.

If you ask a human to get you a cup of coffee,

Dacă ceri unui om să îți aducă o cafea,

and you happen to be in the Hotel George Sand in Paris,

și ești la Hotelul George Sand din Paris,

where the coffee is 13 euros a cup,

unde cafeaua costă 13 euro,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

e perfect normal ca el să se întoarcă și să spună: „Păi, e 13 euro,

are you sure you want it, or I could go next door and get one?

ești sigur că vrei de aici sau mă duc să iau vizavi?”

And it’s a perfectly normal thing for a person to do.

E ceva perfect normal pentru un om.

Sau să întrebe: „O să îți zugrăvesc casa,

To ask, I’m going to repaint your house—

is it okay if I take off the drainpipes and then put them back?

e în regulă dacă scot burlanele și apoi le pun la loc?”

We don't think of this as a terribly sophisticated capability,

Nu ni se pare asta o abilitate prea sofisticată,

but AI systems don’t have it because the way we build them now,

dar sistemele de IA nu o au, întrucât așa cum le proiectăm acum,

they have to know the full objective.

trebuie să știe obiectivul complet.

If we build systems that know that they don’t know what the objective is,

Dacă am construi sisteme care știu că nu știu care este obiectivul,

then they start to exhibit these behaviors,

atunci vor începe să manifeste aceste comportamente,

like asking permission before getting rid of all the oxygen in the atmosphere.

cum ar fi a cere permisiunea înainte de a lua tot oxigenul din atmosferă.

In all these senses, control over the AI system

În toate aceste privințe, controlul asupra sistemului de IA

comes from the machine’s uncertainty about what the true objective is.

vine din incertitudinea mașinii legată de care e obiectivul real.

And it’s when you build machines that believe with certainty

Și abia atunci când construiești mașini care au certitudinea

that they have the objective,

că au un obiectiv,

that’s when you get this sort of psychopathic behavior.

apare acest comportament psihopatic.

And I think we see the same thing in humans.

Și cred că putem vedea același lucru și la oameni.

What happens when general purpose AI hits the real economy?

Ce se va întâmpla când IA de uz general se va lovi de economia reală?

How do things change? Can we adapt?

Cum se vor schimbă lucrurile? Ne vom putea adapta?

This is a very old point.

Aceasta e o idee foarte veche.

Amazingly, Aristotle actually has a passage where he says,

Surprinzător, Aristotel chiar are un pasaj în care spune

look, if we had fully automated weaving machines

că dacă am avea mașini de cusut automate

and plectrums that could pluck the lyre and produce music without any humans,

și plectre ce ar putea ciupi lirele producând muzică fără ajutorul oamenilor,

then we wouldn’t need any workers.

atunci nu am mai avea nevoie de muncitori.

That idea, which I think it was Keynes

Această idee, care cred că îi aparține lui Keynes,

who called it technological unemployment in 1930,

pe care a numit-o șomaj tehnologic în 1930,

is very obvious to people.

e foarte evidentă pentru oameni.

They think, yeah, of course, if the machine does the work,

Se gândesc: „Da, sigur dacă mașina face toată treaba,

then I'm going to be unemployed.

atunci o să rămân șomer.”

You can think about the warehouses that companies are currently operating

Te poți gândi la depozitele pe care companiile le operează

for e-commerce, they are half automated.

pentru comerțul online, care sunt jumătate automatizate.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

Într-un depozit tradițional unde ai tone de lucruri peste tot,

all over the place and humans go and rummage around

iar oamenii merg și le caută

and then bring it back and send it off—

și apoi le aduc înapoi și le trimit,

there’s a robot who goes and gets the shelving unit

există un robot care aduce unitatea de depozitare

that contains the thing that you need,

ce conține lucrul de care ai nevoie,

but the human has to pick the object out of the bin or off the shelf,

dar omul trebuie să îl ia din coș sau de pe raft,

because that’s still too difficult.

pentru că asta e încă prea dificil.

But, at the same time,

Dar, în același timp,

would you make a robot that is accurate enough to be able to pick

ai crea un robot atât de precis încât să poată lua

pretty much any object within a very wide variety of objects that you can buy?

aproape orice obiect dintr-o varietate de obiecte pe care le poți cumpăra,

That would, at a stroke, eliminate 3 or 4 million jobs?

care ar elimina imediat 3 sau chiar 4 milioane de locuri de muncă?

E o poveste interesantă scrisă de E.M. Forster,

There's an interesting story that E.M. Forster wrote,

where everyone is entirely machine dependent.

în care toată lumea e dependentă de mașini.

The story is really about the fact that if you hand over

Povestea e de fapt despre faptul că dacă lași

the management of your civilization to machines,

conducerea civilizației pe mâna mașinilor,

you then lose the incentive to understand it yourself

pierzi impulsul de a o înțelege tu însuți,

or to teach the next generation how to understand it.

sau de a educa următoarea generație să o înțeleagă.

Poți vedea filmul „WALL-E” ca pe o versiune modernă,

You can see “WALL-E” actually as a modern version,

where everyone is enfeebled and infantilized by the machine,

în care toată lumea e slăbită și infantilizară de mașini,

and that hasn’t been possible up to now.

iar asta nu a fost posibil până acum.

We put a lot of our civilization into books,

Am pus mult din civilizația noastră în cărți,

but the books can’t run it for us.

dar ele nu ne pot înlocui.

And so we always have to teach the next generation.

Așa că trebuie mereu să educăm generația următoare.

If you work it out, it’s about a trillion person years of teaching and learning

Dacă faci un calcul, sunt aproape un trilion de ani de predare și învățare

and an unbroken chain that goes back tens of thousands of generations.

într-un lanț neîntrerupt care dăinuie de zeci de mii de generații.

What happens if that chain breaks?

Ce se întâmplă dacă acel lanț se rupe?

I think that’s something we have to understand as AI moves forward.

Cred că asta e ceva ce trebuie să înțelegem pe măsură ce IA avansează.

The actual date of arrival of general purpose AI—

Data exactă a apariției IA de uz general

you’re not going to be able to pinpoint, it isn’t a single day.

nu se poate știi cu precizie, deoarece nu e o singură zi.

It’s also not the case that it’s all or nothing.

Nu e nici cazul unui scenariu de totul sau nimic.

The impact is going to be increasing.

Impactul va fi din ce în ce mai mare.

So with every advance in AI,

Pe măsură ce IA avansează,

it significantly expands the range of tasks.

își extinde semnificativ gama de sarcini. Deci în sensul acesta,

So in that sense, I think most experts say by the end of the century,

cred că majoritatea experților spun că până la finalul secolului

we’re very, very likely to have general purpose AI.

e foarte probabil să avem IA de uz general.

The median is something around 2045.

Media ar fi undeva prin anul 2045.

I'm a little more on the conservative side.

Eu sunt ceva mai conservator.

I think the problem is harder than we think.

Cred că problema e mai dificilă decât credem.

I like what John McAfee, he was one of the founders of AI,

Îmi place ce a spus John McAfee, unul din fondatorii IA,

when he was asked this question, he said, somewhere between five and 500 years.

când a fost întrebat același lucru, a spus că între cinci și cinci sute de ani.

And we're going to need, I think, several Einsteins to make it happen.

Și cred că vom avea nevoie de câțiva Einsteini ca să se întâmple asta.