How will AI change the world?

Traduttore: Lucilla Formentini Revisore: Chiara Polesinanti

Nei prossimi anni,

In the coming years, artificial intelligence

l’intelligenza artificiale cambierà probabilmente la tua vita

is probably going to change your life, and likely the entire world.

e anche quella dell’intero pianeta.

Ma sul come non tutti sono d’accordo.

But people have a hard time agreeing on exactly how.

Quelli che seguono sono passi di un’intervista del World Economic Forum

The following are excerpts from an interview

where renowned computer science professor and AI expert Stuart Russell

in cui il noto professore d’informatica esperto di IA Stuart Russel

helps separate the sense from the nonsense.

cerca di distinguere il possibile dall’impossibile.

There’s a big difference between asking a human to do something

C’è una grande differenza tra chiedere a un umano di fare qualcosa

and giving that as the objective to an AI system.

e dare un obiettivo a un sistema d’intelligenza artificiale.

When you ask a human to get you a cup of coffee,

Quando chiedi a un essere umano di prenderti un caffè,

you don’t mean this should be their life’s mission,

non intendi che dovrebbe essere il suo scopo nella vita

and nothing else in the universe matters.

e non conti nient’altro al mondo.

Even if they have to kill everybody else in Starbucks

O che debba uccidere chiunque si trovi da Starbucks

to get you the coffee before it closes— they should do that.

per prenderti il caffè prima che chiuda.

Non è ciò che intendi.

No, that’s not what you mean.

All the other things that we mutually care about,

Anche tutte le altre cose che tutti noi riteniamo importanti

they should factor into your behavior as well.

andrebbero incluse nel comportamento.

Il problema con i sistemi di IA che creiamo ora

And the problem with the way we build AI systems now

è che diamo loro un obiettivo stabilito.

is we give them a fixed objective.

Con gli algoritmi occorre specificare ogni dettaglio dell’obiettivo.

The algorithms require us to specify everything in the objective.

And if you say, can we fix the acidification of the oceans?

Ad esempio, proviamo a risolvere l’acidificazione degli oceani.

Yeah, you could have a catalytic reaction that does that extremely efficiently,

Si potrebbe creare una reazione catalitica efficace,

but it consumes a quarter of the oxygen in the atmosphere,

ma consumerebbe un quarto dell’ossigeno nell’atmosfera,

which would apparently cause us to die fairly slowly and unpleasantly

cosa che per noi significherebbe una morte lenta e alquanto spiacevole

over the course of several hours.

che durerebbe ore.

So, how do we avoid this problem?

Allora come evitiamo questo problema?

You might say, okay, well, just be more careful about specifying the objective—

Potremmo specificare l’obiettivo in maniera più precisa

don’t forget the atmospheric oxygen.

e tenere conto dell’ossigeno nell’atmosfera.

And then, of course, some side effect of the reaction in the ocean

Ma ecco che qualche effetto collaterale della reazione nell’oceano

poisons all the fish.

avvelena tutti i pesci.

Okay, well I meant don’t kill the fish either.

Ma non si voleva neanche uccidere i pesci.

And then, well, what about the seaweed?

E allora le alghe?

Specifichiamo di non fare nulla che possa uccidere le alghe.

Don’t do anything that’s going to cause all the seaweed to die.

E si andrebbe avanti così all’infinito.

And on and on and on.

And the reason that we don’t have to do that with humans is that

La ragione per cui non dobbiamo specificare con gli esseri umani

humans often know that they don’t know all the things that we care about.

è che loro sanno di non sapere tutte le cose che riteniamo importanti.

If you ask a human to get you a cup of coffee,

Se chiedi a un essere umano di prenderti un caffè

and you happen to be in the Hotel George Sand in Paris,

e sei all’Hotel George Sand a Parigi,

where the coffee is 13 euros a cup,

dove un caffè costa 13 euro,

it’s entirely reasonable to come back and say, well, it’s 13 euros,

è del tutto ragionevole che ti dica:

“Costa 13 euro, va bene? Oppure posso prenderlo nel bar vicino”.

are you sure you want it, or I could go next door and get one?

And it’s a perfectly normal thing for a person to do.

È una cosa del tutto naturale per una persona,

To ask, I’m going to repaint your house—

quando sta per ridipingerti casa, chiedere se può togliere le grondaie

is it okay if I take off the drainpipes and then put them back?

e poi rimontarle.

We don't think of this as a terribly sophisticated capability,

Non le consideriamo delle abilità super sofisticate,

but AI systems don’t have it because the way we build them now,

ma i sistemi di IA non le hanno per via del modo in cui li creiamo,

they have to know the full objective.

devono conoscere l’intero obiettivo.

If we build systems that know that they don’t know what the objective is,

Se costruissimo sistemi consapevoli di non sapere quale sia l’obiettivo,

then they start to exhibit these behaviors,

allora inizierebbero a mostrare questi comportamenti,

like asking permission before getting rid of all the oxygen in the atmosphere.

come chiedere il premesso

prima di eliminare l’ossigeno dall’atmosfera.

In all these senses, control over the AI system

Stando a questo, il controllo sui sistemi di IA

comes from the machine’s uncertainty about what the true objective is.

è dato dall’incertezza della macchina riguardo al suo vero obiettivo.

And it’s when you build machines that believe with certainty

Ed è quando si costruisce una macchina sicura del proprio obiettivo

that they have the objective,

that’s when you get this sort of psychopathic behavior.

che si riscontra questa specie di comportamento psicopatico.

And I think we see the same thing in humans.

E credo accada lo stesso agli esseri umani.

What happens when general purpose AI hits the real economy?

Cosa succede quando una IA forte entra nell’economia reale?

How do things change? Can we adapt?

Come cambiano le cose? Possiamo adattarci?

This is a very old point.

È una questione molto antica.

Amazingly, Aristotle actually has a passage where he says,

Addirittura Aristotele in un suo passaggio dice che se avessimo telai automatizzati

look, if we had fully automated weaving machines

and plectrums that could pluck the lyre and produce music without any humans,

e plettri in grado di suonare la lira facendo musica senza l’intervento umano,

then we wouldn’t need any workers.

non avremmo bisogno di operai.

That idea, which I think it was Keynes

Questa idea, che credo sia stato Keynes a chiamarla disoccupazione tecnologica,

who called it technological unemployment in 1930,

nel 1930,

is very obvious to people.

è evidente alle persone.

They think, yeah, of course, if the machine does the work,

Sanno che se la macchina fa il loro lavoro

then I'm going to be unemployed.

allora saranno disoccupati.

You can think about the warehouses that companies are currently operating

Pensa ai magazzini moderni usati dalle società di e-commerce,

for e-commerce, they are half automated.

che sono per metà automatizzati.

The way it works is that an old warehouse— where you’ve got tons of stuff piled up

In questi vecchi magazzini,

dove ci sono tonnellate di roba accatastata ovunque

all over the place and humans go and rummage around

e persone che vanno a rovistare

and then bring it back and send it off—

e prendono la roba e la spediscono,

there’s a robot who goes and gets the shelving unit

ora c’è un robot che va a trovare lo scaffale

that contains the thing that you need,

che contiene l’oggetto richiesto,

but the human has to pick the object out of the bin or off the shelf,

ma è ancora compito dell’uomo prendere l’oggetto dal contenitore,

perché per il robot è ancora troppo difficile.

because that’s still too difficult.

But, at the same time,

Allo stesso tempo, però,

would you make a robot that is accurate enough to be able to pick

creeresti un robot capace di selezionare accuratamente

pretty much any object within a very wide variety of objects that you can buy?

qualsiasi oggetto in una vasta varietà di prodotti?

That would, at a stroke, eliminate 3 or 4 million jobs?

Che eliminerebbe in un colpo solo 3 o 4 milioni di posti di lavoro?

There's an interesting story that E.M. Forster wrote,

C’è un racconto interessante di E.M. Forster,

where everyone is entirely machine dependent.

dove si è tutti completamente dipendenti dalle macchine.

The story is really about the fact that if you hand over

Secondo il racconto, se affidi la gestione della civiltà alle macchine,

the management of your civilization to machines,

you then lose the incentive to understand it yourself

perdi la spinta a capirla tu stesso,

or to teach the next generation how to understand it.

o a insegnare come capirla alla generazione futura.

You can see “WALL-E” actually as a modern version,

Il film “WALL-E” ne è una versione moderna,

where everyone is enfeebled and infantilized by the machine,

dove tutti sono indeboliti e resi infantili dalle macchine,

and that hasn’t been possible up to now.

e ciò non è accaduto fino ad ora.

We put a lot of our civilization into books,

Mettiamo molto della nostra civiltà nei libri,

but the books can’t run it for us.

ma loro non possono gestirla per noi.

And so we always have to teach the next generation.

Quindi dobbiamo sempre insegnare alla generazione futura.

If you work it out, it’s about a trillion person years of teaching and learning

A conti fatti, sono circa mille miliardi di anni di insegnamento e apprendimento

and an unbroken chain that goes back tens of thousands of generations.

e una catena ininterrotta che va avanti da decine di migliaia di generazioni.

What happens if that chain breaks?

Cosa accadrebbe se la catena si rompesse?

Penso sia ciò che dovremmo capire ora che l’IA sta facendo progressi.

I think that’s something we have to understand as AI moves forward.

The actual date of arrival of general purpose AI—

Il giorno in cui l’IA forte sarà una realtà,

you’re not going to be able to pinpoint, it isn’t a single day.

non possiamo determinarlo, non accadrà in un singolo giorno.

It’s also not the case that it’s all or nothing.

Non accadrà neppure con un salto tutto o niente.

The impact is going to be increasing.

Il suo impatto aumenterà sempre di più.

So with every advance in AI,

Perciò con ogni progresso dell’IA

it significantly expands the range of tasks.

aumenterà in maniera significativa la varietà di compiti.

So in that sense, I think most experts say by the end of the century,

In base a questo, quasi tutti gli esperti affermano che per la fine del secolo

we’re very, very likely to have general purpose AI.

avremo probabilmente l’IA forte.

The median is something around 2045.

Indicativamente intorno al 2045.

I'm a little more on the conservative side.

Io sono un po’ più cauto.

I think the problem is harder than we think.

Credo che sia più difficile di quanto si pensi.

I like what John McAfee, he was one of the founders of AI,

Condivido il pensiero di John McAfee, uno dei fondatori dell’IA,

when he was asked this question, he said, somewhere between five and 500 years.

che a questa domanda ha risposto: “Tra i prossimi 5 e 500 anni”.

And we're going to need, I think, several Einsteins to make it happen.

E credo avremo bisogno di molti Einstein per riuscire a farlo.