How AI Is Unlocking the Secrets of Nature and the Universe | Demis Hassabis | TED

Traduttore: Matteo Casarin Revisore: Maria Pericleous

Chris Anderson: Demis, so good to have you here.

CHRIS ANDERSON: Demis, è bello averti qui.

Demis Hassabis: It's fantastic to be here, thanks, Chris.

DEMIS HASSABIS: È fantastico. Grazie, Chris.

CA: Hai raccontato a Time Magazine:

Now, you told Time Magazine,

"I want to understand the big questions,

«Voglio rispondere alle grandi, grandissime domande,

the really big ones that you normally go into philosophy or physics

quelle che, approfondendole, sfociano nella filosofia o nella fisica.

if you're interested in them.

I thought building AI

Ho pensato che sviluppare l’IA

would be the fastest route to answer some of those questions."

fosse la strada più breve per rispondere ad alcune di queste domande.»

Why did you think that?

Come ti è venuto in mente?

DH: (Laughs)

DH: (Ride)

Well, I guess when I was a kid,

Forse perché da piccolo la mia materia preferita era la fisica,

my favorite subject was physics,

and I was interested in all the big questions,

ed ero interessato a tutte le grandi domande:

fundamental nature of reality,

la natura fondamentale della realtà, cos’è la coscienza.

what is consciousness,

you know, all the big ones.

Insomma, le grandi domande.

And usually you go into physics, if you're interested in that.

E di solito questo interesse sfocia nella fisica.

But I read a lot of the great physicists,

Ma leggendo molti grandi fisici

some of my all-time scientific heroes like Feynman and so on.

– alcuni dei miei eroi della scienza, come Feynman –

And I realized, in the last, sort of 20, 30 years,

mi resi conto che negli ultimi 20 o 30 anni

we haven't made much progress

non avevamo fatto grandi progressi

in understanding some of these fundamental laws.

nella comprensione di queste leggi fondamentali.

So I thought, why not build the ultimate tool to help us,

Quindi pensai che servisse l’aiuto di uno strumento definitivo,

which is artificial intelligence.

ovvero l’intelligenza artificiale.

And at the same time,

E contemporaneamente

we could also maybe better understand ourselves

forse riusciremmo a capire meglio noi stessi e il nostro cervello.

and the brain better, by doing that too.

Uno strumento incredibile,

So not only was it incredible tool,

it was also useful for some of the big questions itself.

utile anche per rispondere ad alcune grandi domande.

CA: Super interesting.

CA: Molto interessante.

So obviously AI can do so many things,

Ovviamente l’IA può fare moltissime cose

but I think for this conversation,

ma vorrei che la conversazione si concentrasse su questo aspetto,

I'd love to focus in on this theme of what it might do

su come potrebbe rispondere alle grandi domande,

to unlock the really big questions, the giant scientific breakthroughs,

sui grandi progressi scientifici,

because it's been such a theme driving you and your company.

perché è un tema importante per te e la tua azienda.

DH: So I mean, one of the big things AI can do,

DH: Ho sempre pensato che l’IA potesse essere determinante.

and I've always thought about,

is we're getting, you know, even back 20, 30 years ago,

Nel corso degli ultimi 20 o 30 anni,

the beginning of the internet era and computer era,

con l’inizio dell’era informatica e di Internet,

the amount of data that was being produced

la quantità di dati prodotta

– anche dati scientifici –

and also scientific data,

just too much for the human mind to comprehend in many cases.

in molti casi è semplicemente fuori portata per la mente umana.

And I think one of the uses of AI is to find patterns and insights

E penso che uno degli usi dell’IA sia trovare schemi e insight

in huge amounts of data and then surface that

in enormi quantità di dati da trasmettere agli scienziati

to the human scientists to make sense of

che li interpreteranno, formulando nuove ipotesi e congetture.

and make new hypotheses and conjectures.

So it seems to me very compatible with the scientific method.

Mi sembra un approccio compatibile col metodo scientifico.

CA: Right.

CA: È vero.

But game play has played a huge role in your own journey

E ci sei riuscito anche grazie al contributo determinante del gioco.

in figuring this thing out.

Who is this young lad on the left there?

Chi è quel ragazzino a sinistra?

Who is that?

DH: So that was me, I think I must have been about around nine years old.

DH: Sono io, a circa nove anni.

I'm captaining the England Under 11 team,

Ero il capitano della squadra inglese under 11.

and we're playing in a Four Nations tournament,

Era un torneo del Quattro Nazioni, per quello siamo vestiti di rosso.

that's why we're all in red.

I think we're playing France, Scotland and Wales, I think it was.

Credo che stessimo affrontando Francia, Scozia e Galles.

CA: That is so weird, because that happened to me too.

CA: È stranissimo, perché è successo anche a me!

In my dreams.

Nei miei sogni.

(Laughter)

(Risate)

And it wasn't just chess,

E non c’erano solo gli scacchi, amavi ogni genere di gioco.

you loved all kinds of games.

DH: I loved all kinds of games, yeah.

DH: Proprio così.

CA: E quando hai lanciato DeepMind,

CA: And when you launched DeepMind,

pretty quickly, you started having it tackle game play.

poco dopo...

lo hai sottoposto ai giochi, perché?

Why?

DH: Well, look, I mean, games actually got me into AI in the first place

DH: In realtà sono stati proprio i giochi a farmi conoscere l’IA

because while we were doing things like,

perché in occasioni del genere

we used to go on training camps with the England team and so on.

facevamo dei ritiri con la nazionale inglese.

And actually back then,

E infatti all’epoca, credo fosse la metà degli anni ’80,

I guess it was in the mid '80s,

we would use the very early chess computers,

usavamo i primissimi computer scacchistici – forse li ricordi –

if you remember them, to train against,

come allenamento e per giocare l’uno contro l’altro.

as well as playing against each other.

Erano delle grosse scacchiere di plastica – forse ve le ricordate –

And they were big lumps of plastic,

you know, physical boards that you used to,

some of you remember, used to actually press the squares down

dove si premevano le caselle e si accendevano dei LED.

and there were LED lights, came on.

E mi ricordo che non pensavo solo agli scacchi.

And I remember actually, not just thinking about the chess,

I was actually just fascinated by the fact that this lump of plastic,

Ero affascinato dal fatto che quel pezzo di plastica

someone had programmed it to be smart

fosse stato programmato per essere intelligente

and actually play chess to a really high standard.

e giocare a scacchi a livelli altissimi.

And I was just amazed by that.

Ero sbalordito.

And that got me thinking about thinking.

Mi aveva portato a ragionare sull’atto del ragionare

And how does the brain come up with these thought processes,

e su come fa il cervello ad elaborare i processi mentali, le idee,

these ideas,

and then maybe how we could mimic that with computers.

e come potremmo imitarlo con i computer.

So yeah, it's been a whole theme for my whole life, really.

Quindi sì, è un tema che mi accompagna da tutta la vita.

CA: But you raised all this money to launch DeepMind,

CA: Hai raccolto tantissimi soldi per lanciare DeepMind

and pretty soon you were using it to do, for example, this.

e li hai subito investiti, ad esempio, per cose del genere.

I mean, this is an odd use of it.

Non me lo sarei aspettato: cosa stavate facendo?

What was going on here?

DH: Well, we started off with games at the beginning of DeepMind.

DH: I giochi sono stati l’inizio di Deep Mind.

Erano gli anni ’10, un decennio fa, la prima grande svolta.

This was back in 2010, so this is from about 10 years ago,

it was our first big breakthrough.

Abbiamo iniziato con i classici giochi per Atari degli anni ’70,

Because we started off with classic Atari games from the 1970s,

the simplest kind of computer games there are out there.

i giochi per computer più semplici in circolazione.

And one of the reasons we used games is they're very convenient

Uno dei motivi è che i videogiochi sono l’ideale

to test out your ideas and your algorithms.

per testare idee e algoritmi.

They're really fast to test.

Sono rapidissimi da testare.

And also, as your systems get more powerful,

Inoltre, con il potenziamento dei sistemi,

you can choose harder and harder games.

si può passare a giochi sempre più difficili.

And this was actually the first time ever that our machine surprised us,

E qui la nostra macchina ci ha sorpreso per la prima volta,

the first of many times,

la prima di molte.

which, it figured out in this game called Breakout,

Ha capito che in “Breakout” si può mandare la palla dietro al muro

that you could send the ball round the back of the wall,

e che era il modo più efficace per eliminare i mattoni del muro.

and actually, it would be much safer way to knock out all the tiles of the wall.

It's a classic Atari game there.

È un classico gioco per Atari

ed è stato il nostro primo vero momento “eureka!“

And that was our first real aha moment.

CA: So this thing was not programmed to have any strategy.

CA: Quindi la sua programmazione era priva di strategia.

It was just told, try and figure out a way of winning.

Le avete solo detto: «Cerca di capire come vincere.»

You just move the bat at the bottom and see if you can find a way of winning.

«Muovi la mazza e vedi se capisci come vincere.»

DH: It was a real revolution at the time.

DH: È stata una vera rivoluzione, si parla del 2012 o del 2013,

So this was in 2012, 2013

quando abbiamo coniato termini come ”apprendimento per rinforzo profondo”.

where we coined these terms "deep reinforcement learning."

And the key thing about them is that those systems were learning

Il punto chiave è che quei sistemi imparavano direttamente dai pixel,

directly from the pixels, the raw pixels on the screen,

dai pixel grezzi sullo schermo, senza che gli dicessimo altro.

but they weren't being told anything else.

So they were being told, maximize the score,

Gli dicevamo di massimizzare il punteggio

here are the pixels on the screen,

sfruttando i pixel a schermo, 30.000 pixel.

30,000 pixels.

The system has to make sense on its own from first principles

Il sistema doveva farsi un’idea partendo dalle regole di base:

what’s going on, what it’s controlling,

cosa succede, cosa controlla, come fare punti.

how to get points.

And that's the other nice thing about using games to begin with.

È un altro vantaggio dell’iniziare dai giochi.

Hanno obiettivi chiari – vincere, fare punti –

They have clear objectives, to win, to get scores.

So you can kind of measure very easily that your systems are improving.

quindi è facilissimo misurare il miglioramento dei sistemi.

CA: But there was a direct line from that to this moment

CA: C’è un filo diretto che ci lega ad un momento,

a few years later,

qualche anno dopo,

where country of South Korea and many other parts of Asia

in cui la Corea del Sud e molte altre zone dell’Asia

and in fact the world went crazy over -- over what?

– e di fatto il mondo – impazzirono per cosa?

DH: Yeah, so this was the pinnacle of -- this is in 2016 --

DH: Sì, è stato il culmine – siamo nel 2016 –

the pinnacle of our games-playing work,

del nostro lavoro nel campo dei giochi.

where, so we'd done Atari,

Dopo aver finito con gli Atari e dopo aver finito giochi più complessi,

we'd done some more complicated games.

And then we reached the pinnacle, which was the game of Go,

avevamo raggiunto la cima con il gioco Go,

which is what they play in Asia instead of chess,

il corrispettivo asiatico agli scacchi

but it's actually more complex than chess.

anche se molto più complesso.

And the actual brute force algorithms

Gli algoritmi di forza bruta

that were used to kind of crack chess were not possible with Go

usati per “risolvere” gli scacchi non erano efficaci per Go

because it's a much more pattern-based game,

perché è un gioco molto più intuitivo e basato sugli schemi.

much more intuitive game.

So even though Deep Blue beat Garry Kasparov in the '90s,

Quindi, mentre Deep Blue ha battuto Garry Kasparov negli anni ’90,

it took another 20 years for our program, AlphaGo,

sono dovuti passare altri venti anni

prima che il nostro programma, AlphaGo, battesse il campione del mondo di Go.

to beat the world champion at Go.

And we always thought,

Noi che abbiamo lavorato per anni a questo progetto, abbiamo sempre pensato

myself and the people working on this project for many years,

if you could build a system that could beat the world champion at Go,

che un sistema capace di battere il campione del mondo di Go

it would have had to have done something very interesting.

avrebbe avuto capacità fuori dal comune.

In questo caso, AlphaGo ha di fatto imparato da solo

And in this case, what we did with AlphaGo,

is it basically learned for itself,

giocando milioni di partite contro se stesso,

by playing millions and millions of games against itself,

ideas about Go, the right strategies.

i concetti e le migliori strategie per il Go.

And in fact invented its own new strategies

E infatti ha inventato strategie proprie

that the Go world had never seen before,

inedite nel mondo del Go,

even though we've played Go for more than,

nonostante il Go sia giocato da più di 2.000 anni.

you know, 2,000 years,

it's the oldest board game in existence.

È il gioco da tavolo più antico ancora esistente.

So, you know, it was pretty astounding.

Quindi è stato sbalorditivo: non solo ha vinto delle partite,

Not only did it win the match,

it also came up with brand new strategies.

ha anche ideato nuove strategie.

CA: And you continued this with a new strategy

CA: E hai continuato con una nuova strategia

of not even really teaching it anything about Go,

che non prevedeva l’insegnamento del Go ma solo l’implementazione di sistemi

but just setting up systems

that just from first principles would play

che, partendo da principi di base,

so that they could teach themselves from scratch, Go or chess.

imparassero da soli e da zero a giocare a Go o a scacchi.

Talk about AlphaZero and the amazing thing that happened in chess then.

Parlaci allora di AlphaZero e della cosa incredibile accaduta con gli scacchi.

DH: So following this, we started with AlphaGo

DH: Il passo successivo è stato partire da AlphaGo

by giving it all of the human games that are being played on the internet.

e dargli tutti i giochi umani giocati su Internet.

So it started that as a basic starting point for its knowledge.

Fungevano da base per il suo bagaglio di conoscenze.

And then we wanted to see what would happen if we started from scratch,

E poi abbiamo voluto vedere cosa accadeva partendo da zero,

from literally random play.

giocando letteralmente a caso.

So this is what AlphaZero was.

Questo era AlphaZero, il perché dello “zero” nel nome:

That's why it's the zero in the name,

because it started with zero prior knowledge

perché aveva cominciato senza conoscenze pregresse.

And the reason we did that is because then we would build a system

Lo scopo era costruire un sistema più generale.

that was more general.

So AlphaGo could only play Go,

AlphaGo sapeva giocare solo a Go,

but AlphaZero could play any two-player game,

ma AlphaZero poteva giocare a qualsiasi gioco a due giocatori

and it did it by playing initially randomly

e lo faceva iniziando a giocare in modo casuale

and then slowly, incrementally improving.

migliorando lentamente, sempre di più.

Well, not very slowly, actually, within the course of 24 hours,

Beh, non così lentamente, in realtà nel giro di 24 ore

going from random to better than world-champion level.

è passato dal giocare a casaccio a battere il campione del mondo.

CA: And so this is so amazing to me.

CA: È veramente incredibile.

So I'm more familiar with chess than with Go.

Conosco più gli scacchi che il Go,

And for decades,

e per decenni migliaia di esperti di IA

thousands and thousands of AI experts worked on building

hanno lavorato ai computer scacchistici

incredible chess computers.

Eventually, they got better than humans.

che alla fine sono diventati più bravi degli umani.

You had a moment a few years ago,

Poi c’è stato un momento, pochi anni fa,

where in nine hours,

in cui, in nove ore,

AlphaZero taught itself to play chess better than any of those systems ever did.

AlphaZero ha imparato da solo a giocare a scacchi

meglio di qualsiasi altro sistema mai esistito.

Talk about that.

Parlacene.

DH: It was a pretty incredible moment, actually.

DH: In effetti è stato incredibile.

So we set it going on chess.

Lo avevamo impostato sugli scacchi.

Come hai detto, c’è una lunga storia tra gli scacchi e l’IA

And as you said, there's this rich history of chess and AI

where there are these expert systems that have been programmed

dove i sistemi venivano programmati con concetti e algoritmi scacchistici.

with these chess ideas, chess algorithms.

And you have this amazing, you know,

E poi succede che… sai, ricordo benissimo quel giorno.

I remember this day very clearly, where you sort of sit down with the system

Ti siedi ad osservare i sistemi,

starting off random, you know, in the morning,

è mattina, inizia tutto casualmente,

you go for a cup of coffee, you come back.

vai a prendere un caffè e torni.

All’ora di pranzo forse riesco ancora a batterlo.

I can still just about beat it by lunchtime, maybe just about.

And then you let it go for another four hours.

Lo lasci fare per altre quattro ore e per l’ora di cena

And by dinner,

it's the greatest chess-playing entity that's ever existed.

è la più grande entità scacchistica che sia mai esistita.

And, you know, it's quite amazing,

È davvero incredibile

like, looking at that live on something that you know well,

vederlo accadere in tempo reale su qualcosa che conosci bene,

you know, like chess, and you're expert in

di cui sei esperto, come gli scacchi,

and actually just seeing that in front of your eyes.

vederlo accadere davanti ai tuoi occhi.

And then you extrapolate to what it could then do in science or something else,

E poi ipotizzi ciò che potrebbe fare per la scienza o altro ancora,

which of course, games were only a means to an end.

perché ovviamente i giochi erano solo un mezzo per un fine.

They were never the end in themselves.

Non sono mai stati un fine in sé,

erano solo il campo di addestramento per le nostre idee

They were just the training ground for our ideas

and to make quick progress in a matter of, you know,

e per fare rapidi progressi nel giro di…

less than five years actually went from Atari to Go.

Sono passati meno di cinque anni tra gli Atari e il Go.

CA: I mean, this is why people are in awe of AI

CA: È per questo che le persone sono sbalordite dall’IA

and also kind of terrified by it.

e anche un po’ terrorizzate.

I mean, it's not just incremental improvement.

Dal miglioramento incrementale e dal fatto che nel giro di poche ore

The fact that in a few hours you can achieve

può realizzare quello che milioni di umani

what millions of humans over centuries have not been able to achieve.

per secoli non sono stati in grado di realizzare.

That gives you pause for thought.

È qualcosa su cui fermarsi a riflettere.

DH: It does, I mean, it's a hugely powerful technology.

DH: Sì, è una tecnologia estremamente potente,

It's going to be incredibly transformative.

porterà un grandissimo cambiamento

And we have to be very thoughtful about how we use that capability.

e dobbiamo riflettere bene su come usare tale capacità.

CA: So talk about this use of it because this is again,

CA: Parliamo allora di come la usate.

this is another extension of the work you've done,

Questa è un’altra ramificazione del vostro lavoro,

where now you're turning it to something incredibly useful for the world.

la state trasformando in qualcosa di estremamente utile per tutti.

What are all the letters on the left, and what’s on the right?

Cosa sono le lettere a sinistra e cosa vediamo a destra?

DH: This was always my aim with AI from a kid,

DH: Questo è stato il mio obiettivo con l’IA fin da bambino,

which is to use it to accelerate scientific discovery.

ovvero utilizzarla per accelerare la ricerca scientifica.

And actually, ever since doing my undergrad at Cambridge,

E sin dalla mia laurea a Cambridge

I had this problem in mind one day for AI,

avevo tenuto in serbo questo problema per l’IA.

it's called the protein-folding problem.

È il ripiegamento delle proteine,

And it's kind of like a 50-year grand challenge in biology.

una sfida negli ultimi 50 anni nel campo della biologia.

And it's very simple to explain.

È molto semplice da spiegare.

Proteins are essential to life.

Le proteine sono essenziali per la vita, sono i suoi elementi costitutivi.

They're the building blocks of life.

Everything in your body depends on proteins.

Nel vostro corpo tutto dipende dalle proteine.

A protein is sort of described by its amino acid sequence,

Una proteina è descritta da una sequenza di amminoacidi,

which you can think of as roughly the genetic sequence

una “sequenza genetica” che descrive la proteina, ovvero quelle lettere.

describing the protein, so that are the letters.

CA: And each of those letters represents in itself a complex molecule?

CA: E ognuna di quelle lettere rappresenta una molecola complessa?

DH: That's right, each of those letters is an amino acid.

DH: Esatto, ognuna di esse è un amminoacido.

Potete immaginarle come fili di perle, che vedete in basso a sinistra.

And you can think of them as a kind of string of beads

there at the bottom, left, right?

But in nature, in your body or in an animal,

Ma in natura, nel vostro corpo o in quello di un animale,

this string, a sequence,

questo filo, questa sequenza,

turns into this beautiful shape on the right.

diventa la bellissima forma che vedete a destra.

That's the protein.

Quella è la proteina, le lettere ne descrivono la forma.

Those letters describe that shape.

And that's what it looks like in nature.

Ed è così che appare in natura.

And the important thing about that 3D structure is

La cosa importante della struttura 3D di una proteina

the 3D structure of the protein goes a long way to telling you

è che dice molto sulla sua funzione, su cosa fa nel vostro corpo.

what its function is in the body, what it does.

And so the protein-folding problem is:

Il problema del ripiegamento delle proteine è:

Can you directly predict the 3D structure just from the amino acid sequence?

è possibile prevedere la struttura 3D dalla sola sequenza degli amminoacidi?

So literally if you give the machine, the AI system,

Dando alla macchina, al sistema IA, le lettere a sinistra,

the letters on the left,

can it produce the 3D structure on the right?

si può produrre la struttura 3D a destra?

And that's what AlphaFold does, our program does.

Ed è quello che fa il programma AlphaFold.

CA: It's not calculating it from the letters,

CA: Non lo calcola partendo dalla lettere

it's looking at patterns of other folded proteins that are known about

ma osserva i pattern di altre proteine ripiegate che conosciamo.

and somehow learning from those patterns

Imparare da quei pattern potrebbe essere la soluzione?

that this may be the way to do this?

DH: Quando abbiamo iniziato questo progetto, subito dopo AlphaGo,

DH: So when we started this project, actually straight after AlphaGo,

pensavo che fossimo pronti.

I thought we were ready.

Once we'd cracked Go,

Una volta risolto Go, sentivo che eravamo finalmente pronti

I felt we were finally ready after, you know,

– dopo quasi 20 anni di lavoro su questa materia –

almost 20 years of working on this stuff

to actually tackle some scientific problems,

per affrontare dei problemi scientifici, compreso il ripiegamento delle proteine.

including protein folding.

And what we start with is painstakingly,

Siamo partiti da un lavoro scrupoloso durato oltre 40 anni,

over the last 40-plus years,

experimental biologists have pieced together

quello dei biologi sperimentali che hanno ricostruito

around 150,000 protein structures

circa 150 mila strutture proteiche

using very complicated, you know, X-ray crystallography techniques

tramite la complicatissima tecnica della cristallografia a raggi X

and other complicated experimental techniques.

e altre tecniche sperimentali altrettanto complicate.

E la regola generale

And the rule of thumb is

that it takes one PhD student their whole PhD,

prevede che uno studente impieghi l’intero dottorato

so four or five years, to uncover one structure.

– quindi quattro o cinque anni – per scoprire una struttura.

But there are 200 million proteins known to nature.

Peccato che ci siano 200 milioni di proteine conosciute in natura,

So you could just, you know, take forever to do that.

e che quindi consista in un lavoro senza fine.

And so we managed to actually fold, using AlphaFold, in one year,

Ma in un anno, usando AlphaFold, siamo riusciti a ripiegare

all those 200 million proteins known to science.

tutte le 200 milioni di proteine note alla scienza.

So that's a billion years of PhD time saved.

Abbiamo risparmiato un miliardo di anni di dottorato.

(Applause)

(Applausi)

CA: So it's amazing to me just how reliably it works.

CA: Mi stupisce la sua affidabilità.

I mean, this shows, you know,

Dimostra che, dato un modello, si può partire con l’esperimento.

here's the model and you do the experiment.

And sure enough, the protein turns out the same way.

E le proteine si rivelano corrette, 200 milioni di volte.

Times 200 million.

DH: And the more deeply you go into proteins,

DH: E più si comprendono le proteine,

you just start appreciating how exquisite they are.

più si riesce ad apprezzarne l’eleganza.

I mean, look at how beautiful these proteins are.

Guardate quanto sono belle.

In natura ognuna di esse ha una precisa funzione.

And each of these things do a special function in nature.

And they're almost like works of art.

Sembrano delle opere d’arte.

And it's still astounds me today that AlphaFold can predict,

E tuttora le capacità predittive di AlphaFold mi sbalordiscono.

the green is the ground truth, and the blue is the prediction,

In verde vedete la struttura reale, in blu la previsione.

how well it can predict, is to within the width of an atom on average,

In media la tolleranza della previsione è pari al diametro di un atomo.

is how accurate the prediction is,

Questa è l’accuratezza delle previsioni,

which is what is needed for biologists to use it,

ed è necessaria per l’uso che ne fanno i biologi,

and for drug design and for disease understanding,

la progettazione di farmaci e lo studio delle malattie.

which is what AlphaFold unlocks.

Ecco cosa permette AlphaFold.

CA: You made a surprising decision,

CA: Hai preso una decisione sorprendente,

which was to give away the actual results of your 200 million proteins.

ovvero rendere pubblici i risultati sui 200 milioni di proteine.

DH: We open-sourced AlphaFold and gave everything away

DH: Abbiamo reso open source AlphaFold e distribuito tutto

on a huge database with our wonderful colleagues,

su un enorme database con i meravigliosi colleghi

the European Bioinformatics Institute.

dello European Bioinformatics Institute.

(Applause)

(Applausi)

CA: I mean, you're part of Google.

CA: Però fate parte di Google.

Was there a phone call saying, "Uh, Demis, what did you just do?"

C’è stata una telefonata del tipo: «Demis, cos’è che avete fatto?»

DH: You know, I'm lucky we have very supportive,

DH: Fortunatamente abbiamo un grande supporto,

Google's really supportive of science

Google supporta davvero la scienza

and understand the benefits this can bring to the world.

e sa quali sono i benefici che può donare al mondo.

And, you know, the argument here

E questo dimostra

was that we could only ever have even scratched the surface

che potremmo aver solo intravisto il potenziale di questo strumento.

of the potential of what we could do with this.

This, you know, maybe like a millionth

È forse un milionesimo di quello che potrebbe dare alla comunità scientifica.

of what the scientific community is doing with it.

There's over a million and a half biologists around the world

Nel mondo, oltre un milione e mezzo di biologi hanno utilizzato AlphaFold.

have used AlphaFold and its predictions.

Pensiamo che quasi tutti i biologi del mondo lo stiano usando,

We think that's almost every biologist in the world

is making use of this now, every pharma company.

tutte le aziende farmaceutiche.

Probabilmente non sapremo mai che impatto ha avuto.

So we'll never know probably what the full impact of it all is.

CA: But you're continuing this work in a new company

CA: Stai proseguendo il lavoro in una società spin-off di Google

that's spinning out of Google called Isomorph.

chiamata “Isomorph”.

DH: Isomorphic.

DH: “Isomorphic”. CA: Isomorphic.

CA: Isomorphic.

Give us just a sense of the vision there.

Raccontaci la sua visione.

What's the vision?

DH: AlphaFold è una sorta di strumento base per la biologia.

DH: AlphaFold is a sort of fundamental biology tool.

Like, what are these 3D structures,

“Cosa sono queste strutture 3D

and then what might they do in nature?

e quale potrebbe essere la loro funzione in natura?”

And then if you, you know,

La ragione del mio entusiasmo nei confronti di questo progetto

the reason I thought about this and was so excited about this,

is that this is the beginnings of understanding disease

è la possibilità di iniziare a comprendere le malattie

and also maybe helpful for designing drugs.

e l’aiuto che potrebbe dare nella progettazione dei farmaci.

So if you know the shape of the protein,

Se si conosce la forma di una proteina,

and then you can kind of figure out

è possibile capire quale parte della superficie della proteina

which part of the surface of the protein

you're going to target with your drug compound.

fungerà da bersaglio per il farmaco.

And Isomorphic is extending this work we did in AlphaFold

Isomorphic porta il lavoro di AlphaFold nel dominio della chimica,

into the chemistry space,

where we can design chemical compounds

dove progettiamo composti chimici

that will bind exactly to the right spot on the protein

che si legheranno ad un punto preciso della proteina

and also, importantly, to nothing else in the body.

senza coinvolgere, ed è importante, altre parti del corpo.

So it doesn't have any side effects and it's not toxic and so on.

Quindi saranno atossici, privi di effetti collaterali e così via.

And we're building many other AI models,

E stiamo creando molti altri modelli di IA

sort of sister models to AlphaFold

– dei modelli gemelli di AlphaFold –

to help predict,

utili a fare previsioni nel dominio della chimica.

make predictions in chemistry space.

CA: So we can expect to see

CA: Quindi possiamo aspettarci

some pretty dramatic health medicine breakthroughs

grandi progressi nel campo della medicina nei prossimi anni.

in the coming few years.

DH: I think we'll be able to get down drug discovery

DH: Penso che la scoperta di nuovi farmaci richiederà mesi e non anni.

from years to maybe months.

CA: OK. Demis, I'd like to change direction a bit.

CA: Ok.

Demis, vorrei cambiare argomento.

Our mutual friend, Liv Boeree, gave a talk last year at TEDAI

Una nostra amica comune, Liv Boeree, è intervenuta al TEDAI dell’anno scorso

that she called the “Moloch Trap.”

con un talk dedicato alla “trappola del Moloch”.

The Moloch Trap is a situation

La trappola di Moloch è una situazione per cui…

where organizations,

organizzazioni e aziende in un contesto competitivo

companies in a competitive situation can be driven to do things

possono essere spinte a fare cose

that no individual running those companies would by themselves do.

che le singole persone alla loro guida non oserebbero mai fare.

I was really struck by this talk,

L’intervento mi ha colpito moltissimo,

and it's felt, as a sort of layperson observer,

e, da osservatore profano, ho avuto l’impressione

that the Moloch Trap has been shockingly in effect in the last couple of years.

che la trappola del Moloch sia stata onnipresente negli ultimi due anni.

So here you are with DeepMind,

Ci siete voi di DeepMind,

sort of pursuing these amazing medical breakthroughs

che mirate a compiere grandi progressi nella scienza e nella medicina.

and scientific breakthroughs,

E poi, all’improvviso, in modo abbastanza inaspettato,

and then suddenly, kind of out of left field,

OpenAI with Microsoft releases ChatGPT.

OpenAI insieme a Microsoft rilascia ChatGPT.

And the world goes crazy and suddenly goes, “Holy crap, AI is ...”

E all’improvviso il mondo impazzisce: «Santo cielo, l’IA è…»

you know, everyone can use it.

e all’improvviso tutti possono usarla.

And there’s a sort of, it felt like the Moloch Trap in action.

C’è una sorta di…

È la trappola del Moloch.

I think Microsoft CEO Satya Nadella actually said,

Mi pare che il CEO di Microsoft, Satya Nadella, abbia detto:

"Google is the 800-pound gorilla in the search space.

«Nel campo della ricerca, Google è il gorilla dominante.

We wanted to make Google dance."

Volevamo farlo ballare un po’.»

How ...?

Come...?

And it did, Google did dance.

E così è stato, Google ha ballato, ha reagito con decisione.

There was a dramatic response.

Your role was changed,

Hai cambiato ruolo, diventando il capo di tutta Google AI.

you took over the whole Google AI effort.

Products were rushed out.

I prodotti sono usciti in fretta.

You know, Gemini, some part amazing, part embarrassing.

Come Gemini, in parte meravigliosa, in parte imbarazzante.

I’m not going to ask you about Gemini because you’ve addressed it elsewhere.

Non ti chiederò di Gemini perché ne hai parlato altrove.

But it feels like this was the Moloch Trap happening,

Sembra proprio che la trappola del Moloch

that you and others were pushed to do stuff

vi abbia spinto a fare delle cose

that you wouldn't have done without this sort of catalyzing competitive thing.

che non avreste fatto senza questa…

sorta di catalizzatore competitivo.

Meta did something similar as well.

Anche Meta ha fatto qualcosa di simile.

They rushed out an open-source version of AI,

Hanno lanciato in fretta un’IA open source,

which is arguably a reckless act in itself.

probabilmente un atto avventato di per sé.

This seems terrifying to me.

Mi sembra terrificante, ma lo è davvero?

Is it terrifying?

DH: Look, it's a complicated topic, of course.

DH: Ovviamente è un argomento complesso,

And, first of all, I mean, there are many things to say about it.

partendo dal fatto che ci sono molte cose da dire.

First of all, we were working on many large language models.

Innanzitutto, stavamo lavorando su molti modelli linguistici di grandi dimensioni.

And in fact, obviously, Google research actually invented Transformers,

Come sapete, la ricerca di Google ha portato ai trasformatori

as you know,

which was the architecture that allowed all this to be possible,

– l’architettura che ha reso possibile tutto questo –

five, six years ago.

cinque o sei anni fa.

And so we had many large models internally.

E così abbiamo sviluppato vari grandi modelli.

The thing was, I think what the ChatGPT moment did that changed was,

Il punto è che con ChatGPT c’è stato un cambiamento,

and fair play to them to do that, was they demonstrated,

e bisogna render loro merito perché hanno dimostrato

I think somewhat surprisingly to themselves as well,

– credo con loro stessa sorpresa –

that the public were ready to,

che il pubblico era pronto,

you know, the general public were ready to embrace these systems

che il pubblico generale era pronto ad adottare e apprezzare questi sistemi.

and actually find value in these systems.

Per quanto siano impressionanti, quando lavoriamo su questi sistemi

Impressive though they are, I guess, when we're working on these systems,

mostly you're focusing on the flaws and the things they don't do

ci concentriamo sui difetti, sulle cose che non riescono a fare,

and hallucinations and things you're all familiar with now.

sulle allucinazioni e sugli aspetti che ormai conoscete.

Ci chiediamo se tutte quelle capacità saranno davvero utili a qualcuno.

We're thinking, you know,

would anyone really find that useful given that it does this and that?

And we would want them to improve those things first,

E ci assicuriamo di migliorarle, prima di rilasciare il tutto.

before putting them out.

But interestingly, it turned out that even with those flaws,

Ma, curiosamente, abbiamo visto che nonostante quei difetti

many tens of millions of people still find them very useful.

decine di milioni di persone li trovano utilissimi.

And so that was an interesting update on maybe the convergence of products

Abbiamo quindi assistito ad una nuova

ed interessante convergenza tra scienza e prodotto,

and the science that actually,

dove tutte queste cose straordinarie che sviluppiamo nei laboratori

all of these amazing things we've been doing in the lab, so to speak,

are actually ready for prime time for general use,

sono pronte per l’uso nel grande pubblico,

beyond the rarefied world of science.

oltre il ristretto mondo della scienza.

And I think that's pretty exciting in many ways.

Credo sia entusiasmante per molti aspetti.

CA: So at the moment, we've got this exciting array of products

CA: E infatti al momento disponiamo di un’entusiasmante gamma di prodotti,

which we're all enjoying.

And, you know, all this generative AI stuff is amazing.

e tutta l’IA generativa è straordinaria.

But let's roll the clock forward a bit.

Ma spostiamo un po’ avanti l’orologio.

Microsoft and OpenAI are reported to be building

Si dice che Microsoft e OpenAI stiano costruendo

or investing like 100 billion dollars

o investendo qualcosa come 100 miliardi di dollari

into an absolute monster database supercomputer

in un portentoso database supercomputer

that can offer compute at orders of magnitude

con una capacità di calcolo superiore di vari ordini di grandezza

more than anything we have today.

a qualsiasi cosa oggi esistente.

It takes like five gigawatts of energy to drive this, it's estimated.

Si stima che per alimentarlo servano circa 5 gigawatt:

That's the energy of New York City to drive a data center.

l’energia di New York City per alimentare un data center.

So we're pumping all this energy into this giant, vast brain.

Tutta questa energia viene riversata in un un cervello gigantesco.

Google, I presume is going to match this type of investment, right?

Immagino che Google farà investimenti analoghi, giusto?

DH: Well, I mean, we don't talk about our specific numbers,

DH: Non parliamo mai di cifre precise,

but you know, I think we're investing more than that over time.

ma penso che nel corso del tempo investiremo anche di più.

So, and that's one of the reasons

Ed è uno dei motivi per cui ci siamo uniti a Google nel 2014.

we teamed up with Google back in 2014,

is kind of we knew that in order to get to AGI,

Sapevamo che sviluppare un’AGI richiede molta potenza di calcolo.

we would need a lot of compute.

And that's what's transpired.

Ed è quello che è successo.

And Google, you know, had and still has the most computers.

Google aveva ed ha ancora la maggior parte dei computer.

CA: Quindi stiamo costruendo questi computer giganteschi,

CA: So Earth is building these giant computers

that are going to basically, these giant brains,

cervelli giganteschi che saranno alla base di gran parte dell’economia futura.

that are going to power so much of the future economy.

And it's all by companies that are in competition with each other.

Ed è tutto in mano ad aziende in competizione tra loro.

How will we avoid the situation where someone is getting a lead,

Come possiamo evitare uno scenario in cui qualcuno è in vantaggio

someone else has got 100 billion dollars invested in their thing.

e qualcun altro ottiene 100 miliardi di dollari di investimenti.

Isn't someone going to go, "Wait a sec.

Prima o poi qualcuno dirà: «Un attimo, se usassimo l’apprendimento per rinforzo

If we used reinforcement learning here

to maybe have the AI tweak its own code

consentendo all’IA di modificare il suo stesso codice

and rewrite itself and make it so [powerful],

e di riscrivere se stessa diventando più potente,

we might be able to catch up in nine hours over the weekend

colmeremmo il ritardo in nove ore, entro il fine settimana.

with what they're doing.

Dobbiamo rischiare, non abbiamo scelta,

Roll the dice, dammit, we have no choice.

Otherwise we're going to lose a fortune for our shareholders."

altrimenti ci costerà una fortuna in azioni.»

Come possiamo evitarlo?

How are we going to avoid that?

DH: Yeah, well, we must avoid that, of course, clearly.

DH: Chiaramente non deve accadere.

And my view is that as we get closer to AGI,

La mia opinione è che, man mano che ci avviciniamo all’AGI,

we need to collaborate more.

serve collaborare di più.

And the good news is that most of the scientists involved in these labs

La buona notizia è che la maggior parte degli scienziati di questi laboratori

know each other very well.

si conoscono molto bene

And we talk to each other a lot at conferences and other things.

e si parlano molto durante le conferenze e in altre occasioni.

And this technology is still relatively nascent.

Ed è una tecnologia relativamente nuova,

So probably it's OK what's happening at the moment.

quindi credo che per ora vada bene così.

But as we get closer to AGI, I think as a society,

Ma man mano che ci avviciniamo all’AGI, pensando come società,

we need to start thinking about the types of architectures that get built.

dobbiamo iniziare a pensare ai tipi di architettura da costruire.

So I'm very optimistic, of course,

Ovviamente sono molto ottimista,

that's why I spent my whole life working on AI and working towards AGI.

è per questo che lavoro da sempre sull’IA e in prospettiva sull’AGI,

But I suspect there are many ways to build the architecture safely, robustly,

ma immagino che esistano molti modi per costruire un’architettura

sicura, robusta, affidabile e comprensibile.

reliably and in an understandable way.

And I think there are almost certainly going to be ways of building architectures

E penso che quasi sicuramente si potranno costruire architetture

per certi versi pericolose o rischiose.

that are unsafe or risky in some form.

Credo che dovremo condurre l’umanità attraverso un collo di bottiglia,

So I see a sort of,

a kind of bottleneck that we have to get humanity through,

which is building safe architectures as the first types of AGI systems.

facendo in modo che i primi sistemi AGI

siano architetture sicure.

And then after that, we can have a sort of,

Dopodiché, potremo avere una sorta di proliferazione

a flourishing of many different types of systems

di vari tipi di sistemi derivanti da quelle architetture sicure

that are perhaps sharded off those safe architectures

that ideally have some mathematical guarantees

che idealmente offrono garanzie matematiche

or at least some practical guarantees around what they do.

o quantomeno garanzie pratiche riguardo ciò che fanno.

CA: Do governments have an essential role here

CA: I governi hanno un ruolo essenziale

to define what a level playing field looks like

nel definire cos’è assolutamente vietato in una competizione alla pari?

and what is absolutely taboo?

DH: Penso che non si tratti solo di…

DH: Yeah, I think it's not just about --

Penso che governo, società civile, mondo accademico

actually I think government and civil society

and academia and all parts of society have a critical role to play here

e tutta la società abbiano un ruolo fondamentale

nel plasmare, insieme ai laboratori del settore,

to shape, along with industry labs,

what that should look like as we get closer to AGI

questa competizione man mano che ci avviciniamo all’AGI,

and the cooperation needed and the collaboration needed,

oltre alla cooperazione e alla collaborazione necessarie

to prevent that kind of runaway race dynamic happening.

per prevenire la dinamica della corsa sfrenata.

CA: OK, well, it sounds like you remain optimistic.

CA: Beh, sembri comunque ottimista. Cosa vediamo in questa immagine?

What's this image here?

DH: That's one of my favorite images, actually.

DH: In effetti è una delle mie immagini preferite.

I call it, like, the tree of all knowledge.

La chiamo “l’albero della conoscenza”.

So, you know, we've been talking a lot about science,

Abbiamo parlato molto di scienza,

and a lot of science can be boiled down to

e se spesso la scienza può essere condensata

if you imagine all the knowledge that exists in the world

nell’immagine di un albero della conoscenza globale,

as a tree of knowledge,

and then maybe what we know today as a civilization is some, you know,

allora forse tutto ciò che sappiamo oggi, come civiltà,

ne è un piccolo sottoinsieme.

small subset of that.

And I see AI as this tool that allows us,

E vedo l’IA come uno strumento che ci consentirà, come scienziati,

as scientists, to explore, potentially, the entire tree one day.

di esplorare, un giorno, potenzialmente, l’intero albero.

Abbiamo questo concetto dei “problemi del nodo radice”

And we have this idea of root node problems

that, like AlphaFold, the protein-folding problem,

– come AlphaFold e il ripiegamento delle proteine –

where if you could crack them,

che, se risolti,

it unlocks an entire new branch of discovery or new research.

sbloccheranno un intero nuovo ramo di scoperte e ricerche.

And that's what we try and focus on at DeepMind

È su questo che cerchiamo di concentrarci noi di Deep Mind e Google DeepMind.

and Google DeepMind to crack those.

And if we get this right, then I think we could be, you know,

E se ci riuscissimo penso che potremmo entrare

in this incredible new era of radical abundance,

in un’incredibile, nuova era di grande abbondanza,

curing all diseases,

di cura di tutte le malattie e di estrema diffusione della conoscenza.

spreading consciousness to the stars.

You know, maximum human flourishing.

L’apice della prosperità umana.

CA: We're out of time,

CA: Il tempo è scaduto, ma ti chiedo se hai un sogno,

but what's the last example of like, in your dreams,

this dream question that you think there is a shot

facendo una profezia, riguardo ad un possibile traguardo

that in your lifetime AI might take us to?

a cui potrebbe condurci l’IA nel corso della tua vita.

DH: I mean, once AGI is built,

DH: Una volta creata l’AGI,

what I'd like to use it for is to try and use it to understand

vorrei provare ad usarla per comprendere

the fundamental nature of reality.

la natura fondamentale della realtà.

So do experiments at the Planck scale.

Fare esperimenti nella scala di Planck,

You know, the smallest possible scale, theoretical scale,

la più piccola scala teoricamente possibile,

which is almost like the resolution of reality.

che è quasi come il confine ultimo della realtà.

CA: You know, I was brought up religious.

CA: Sai, sono cresciuto in un ambiente religioso

And in the Bible, there’s a story about the tree of knowledge

e nella Bibbia c’è la storia dell’albero della conoscenza

that doesn't work out very well.

e non finisce benissimo.

(Laughter)

(Risate)

Is there any scenario

Può esserci uno scenario in cui…

where we discover knowledge that the universe says,

di fronte alla nostra conoscenza, l’Universo ci dice:

"Humans, you may not know that."

«Umani, questo va al di là della vostra comprensione.»

DH: Potentially.

DH: Potenzialmente potrebbe esserci qualcosa di inconoscibile,

I mean, there might be some unknowable things.

But I think scientific method is the greatest sort of invention

ma penso che il metodo scientifico

sia la più grande “invenzione” nella storia dell’umanità.

humans have ever come up with.

You know, the enlightenment and scientific discovery.

Ha portato all’illuminismo e alla ricerca scientifica.

That's what's built this incredible modern civilization around us

È alla base della straordinaria civiltà moderna in cui viviamo

and all the tools that we use.

e degli strumenti che usiamo.

So I think it's the best technique we have

Quindi penso che sia la tecnica migliore che abbiamo

for understanding the enormity of the universe around us.

per comprendere l’enormità dell’Universo che ci circonda.

CA: Well, Demis, you've already changed the world.

CA: Demis, hai già cambiato il mondo.

Penso che tutti i presenti ti sosterranno

I think probably everyone here will be cheering you on

in your efforts to ensure that we continue to accelerate

nello sforzo volto a garantire che l’accelerazione continui

in the right direction.

nella giusta direzione.

DH: Thank you.

DH: Grazie.

CA: Demis Hassabis.

CA: Demis Hassabis.

(Applausi)

(Applause)