The Urgent Risks of Runaway AI — and What to Do about Them | Gary Marcus | TED

Traduttore: marshall8 mathers88 Revisore: Gabriella Patricola

I’m here to talk about the possibility of global AI governance.

Oggi vi parlerò della possibilità di gestione globale dell’IA.

I first learned to code when I was eight years old,

Ho imparato a programmare quando avevo otto anni,

on a paper computer,

su un computer di carta

and I've been in love with AI ever since.

e da allora sono innamorato dell’IA.

In high school,

Alle superiori

I got myself a Commodore 64 and worked on machine translation.

ho preso un Commodore 64 e ho lavorato sulla traduzione automatica.

I built a couple of AI companies, I sold one of them to Uber.

Ho fondato un paio di aziende di IA, ne ho venduta una a Uber,

I love AI, but right now I'm worried.

Amo l’IA, ma ora sono preoccupato.

One of the things that I’m worried about is misinformation,

Una cosa che mi preoccupa è la cattiva informazione,

the possibility that bad actors will make a tsunami of misinformation

la possibilità che i cattivi attori creino uno tsunami di disinformazione

like we've never seen before.

come non si è mai visto.

These tools are so good at making convincing narratives

Questi strumenti sono in grado di creare narrazioni convincenti

about just about anything.

di qualsiasi cosa.

If you want a narrative about TED and how it's dangerous,

Se vuoi una storia su TED e come esso sia pericoloso,

that we're colluding here with space aliens,

che siamo in combutta con alieni dallo spazio,

you got it, no problem.

l’avrai senza problemi.

I'm of course kidding about TED.

Ovvio che scherzo su TED.

I didn't see any space aliens backstage.

Non ho visto alieni dietro le quinte.

But bad actors are going to use these things to influence elections,

Ma i cattivi attori useranno queste cose per condizionare le elezioni,

and they're going to threaten democracy.

minacciando la democrazia.

Even when these systems

Se questi sistemi

aren't deliberately being used to make misinformation,

non sono usati deliberatamente per creare disinformazione

they can't help themselves.

non possono farci niente.

And the information that they make is so fluid and so grammatical

E le informazioni che creano sono così fluide, corrette,

that even professional editors sometimes get sucked in

che anche gli editor professionisti a volte vengono risucchiati

and get fooled by this stuff.

che si bevono questa roba.

And we should be worried.

Ci dovremmo preoccupare.

For example, ChatGPT made up a sexual harassment scandal

Per esempio, ChatGPT montò uno scandalo di molestia sessuale

about an actual professor,

su un professore reale

and then it provided evidence for its claim

e poi fornì le prove a sostegno di questa accusa

in the form of a fake "Washington Post" article

sotto forma di un falso articolo del “Washington Post”

that it created a citation to.

dal quale creò una citazione.

We should all be worried about that kind of thing.

Questo genere di cose dovrebbe turbarci tutti.

What I have on the right is an example of a fake narrative

Qui alla mia destra ho un esempio di falsa narrazione

from one of these systems

da uno di questi sistemi

saying that Elon Musk died in March of 2018 in a car crash.

secondo cui Elon Musk è morto in un incidente d’auto nel marzo 2018.

We all know that's not true.

Sappiamo che non è vero.

Elon Musk is still here, the evidence is all around us.

Elon Musk è ancora qui, ci sono prove ovunque.

(Laughter)

(Risate)

Almost every day there's a tweet.

Quasi ogni giorno c’è un tweet.

But if you look on the left, you see what these systems see.

Ma se guardate a sinistra, vedrete cosa vedono tali sistemi.

Lots and lots of actual news stories that are in their databases.

Miriadi di notizie reali presenti nelle loro banche dati.

And in those actual news stories are lots of little bits of statistical information.

E in queste notizie reali ci sono molti frammenti di dati statistici.

Information, for example,

Dati, ad esempio,

somebody did die in a car crash in a Tesla in 2018

qualcuno è morto in un incidente con una Tesla nel 2018

and it was in the news.

ed era tra le notizie.

And Elon Musk, of course, is involved in Tesla,

Elon Musk chiaramente ha a che fare con Tesla,

but the system doesn't understand the relation

ma il sistema non comprende la relazione

between the facts that are embodied in the little bits of sentences.

tra i fatti che sono insiti nei frammenti di frasi.

So it's basically doing auto-complete,

In pratica completa in automatico,

it predicts what is statistically probable,

predice ciò che è statisticamente verosimile,

aggregating all of these signals,

aggregando tutti questi segnali,

not knowing how the pieces fit together.

non sapendo come i pezzi combacino.

And it winds up sometimes with things that are plausible but simply not true.

E a volte si ritrova con roba che è plausibile ma per niente vera.

There are other problems, too, like bias.

Poi ci sono magagne come la distorsione.

This is a tweet from Allie Miller.

Questo è un tweet di Allie Miller.

It's an example that doesn't work two weeks later

Un esempio che non funziona due settimane dopo

because they're constantly changing things with reinforcement learning

perché cambiano costantemente le cose con l’apprendimento per rinforzo

and so forth.

e via dicendo.

And this was with an earlier version.

Questo con una versione precedente.

But it gives you the flavor of a problem that we've seen over and over for years.

Però ci dà l’idea di un problema che vediamo a ripetizione da anni.

She typed in a list of interests

Ha digitato una lista di interessi

and it gave her some jobs that she might want to consider.

ottenendo alcuni impieghi che potrebbe considerare.

And then she said, "Oh, and I'm a woman."

E poi ha detto: “Ah, sono una donna.”

And then it said, “Oh, well you should also consider fashion.”

E la risposta: “Bene, potresti anche occuparti di moda.”

And then she said, “No, no. I meant to say I’m a man.”

E poi lei ha detto: “No, no. Volevo dire, sono un uomo.”

And then it replaced fashion with engineering.

E ha ottenuto ingegneria al posto di moda.

We don't want that kind of bias in our systems.

Non vogliamo questo tipo di distorsione nei nostri sistemi.

There are other worries, too.

Ci sono altre preoccupazioni.

For example, we know that these systems can design chemicals

Ad esempio questi sistemi possono creare composti chimici

and may be able to design chemical weapons

e potrebbero creare armi chimiche

and be able to do so very rapidly.

potrebbero farlo rapidamente.

So there are a lot of concerns.

C’è molta preoccupazione.

There's also a new concern that I think has grown a lot just in the last month.

C’è anche un nuovo rischio che penso sia aumentato molto solo in questo mese.

We have seen that these systems, first of all, can trick human beings.

Abbiamo osservato che questi sistemi, anzitutto, possono ingannare gli umani.

So ChatGPT was tasked with getting a human to do a CAPTCHA.

A ChatGPT è stato richiesto di far fare un CAPTCHA a un umano.

So it asked the human to do a CAPTCHA and the human gets suspicious and says,

Lui chiede all’umano di fare un CAPTCHA e l’umano diventa sospettoso e dice:

"Are you a bot?"

“Sei un robot?”

And it says, "No, no, no, I'm not a robot.

E lui dice: “No, non sono un robot.

I just have a visual impairment."

Sono solo ipovedente.”

And the human was actually fooled and went and did the CAPTCHA.

E l’umano ci è cascato e ha fatto il CAPTCHA.

Now that's bad enough,

Già questo è male,

but in the last couple of weeks we've seen something called AutoGPT

ma nelle ultime settimane abbiamo visto quel che si chiama AutoGPT

and a bunch of systems like that.

e altri sistemi simili.

What AutoGPT does is it has one AI system controlling another

Cosa fa AutoGPT? Ha un sistema IA che ne controlla un altro

and that allows any of these things to happen in volume.

e che consente a eventi del genere di svolgersi in massa.

So we may see scam artists try to trick millions of people

Quindi i geni della truffa potrebbero ingannare milioni di persone

sometime even in the next months.

forse anche tra pochi mesi.

We don't know.

Non lo sappiamo.

So I like to think about it this way.

Mi piace vederla così.

There's a lot of AI risk already.

C’è già molto rischio legato all’IA.

There may be more AI risk.

Il rischio potrebbe aggravarsi.

So AGI is this idea of artificial general intelligence

Perciò AGI è un’idea di intelligenza artificiale generale

with the flexibility of humans.

dotato di flessibilità umana.

And I think a lot of people are concerned what will happen when we get to AGI,

E molte persone sono in ansia per cosa succederà quando arriva l’AGI,

but there's already enough risk that we should be worried

ma i rischi da tenere a mente sono già abbastanza

and we should be thinking about what we should do about it.

e dovremmo pensare a come affrontarli.

So to mitigate AI risk, we need two things.

Per ridurre i rischi in IA ci servono due cose.

We're going to need a new technical approach,

Ci serve un nuovo approccio tecnico,

and we're also going to need a new system of governance.

e ci servirà anche un nuovo sistema di gestione.

On the technical side,

Sul lato tecnico,

the history of AI has basically been a hostile one

la storia dell’IA è stata principalmente ostile

of two different theories in opposition.

con due teorie contrastanti.

One is called symbolic systems, the other is called neural networks.

Una è chiamata sistemi simbolici, l’altra è chiamata reti neuronali.

On the symbolic theory,

Nella teoria simbolica,

the idea is that AI should be like logic and programming.

l’idea è che l’IA sarebbe come logica e programmazione.

On the neural network side,

Nelle reti neuronali,

the theory is that AI should be like brains.

la teoria è che l’IA sarebbe come un cervello.

And in fact, both technologies are powerful and ubiquitous.

Infatti, entrambe le tecnologie sono potenti e pervasive.

So we use symbolic systems every day in classical web search.

Quindi usiamo i sistemi simbolici ogni giorno cercando nel web.

Almost all the world’s software is powered by symbolic systems.

Quasi tutti i software del mondo sono basati sui sistemi simbolici.

We use them for GPS routing.

Li usiamo per i percorsi GPS.

Neural networks, we use them for speech recognition.

Le reti neuronali sono usate per il riconoscimento vocale.

we use them in large language models like ChatGPT,

le usiamo in grandi modelli linguistici come ChatGPT,

we use them in image synthesis.

le usiamo nella sintesi di immagini.

So they're both doing extremely well in the world.

Vanno entrambe alla grande nel mondo.

They're both very productive,

Entrambe molto produttive,

but they have their own unique strengths and weaknesses.

ma entrambe hanno le loro forze e le loro debolezze.

So symbolic systems are really good at representing facts

I sistemi simbolici sono eccezionali a rappresentare i fatti

and they're pretty good at reasoning,

e nel ragionamento,

but they're very hard to scale.

ma sono difficili da adattare.

So people have to custom-build them for a particular task.

Perciò devono essere progettati su misura per operazioni particolare.

On the other hand, neural networks don't require so much custom engineering,

D’altra parte, per le reti neuronali non serve una particolare progettazione,

so we can use them more broadly.

e il loro uso è più ampio.

But as we've seen, they can't really handle the truth.

Ma, come vediamo, non riescono a gestire la verità.

I recently discovered that two of the founders of these two theories,

Recentemente, ho scoperto che due dei fondatori di queste teorie,

Marvin Minsky and Frank Rosenblatt,

Marvin Minsky e Frank Rosenblatt,

actually went to the same high school in the 1940s,

hanno frequentato lo stesso liceo negli anni 1940,

and I kind of imagined them being rivals then.

e li ho immaginati come rivali all’epoca.

And the strength of that rivalry has persisted all this time.

E la forza di quella rivalità ancora persiste.

We're going to have to move past that if we want to get to reliable AI.

Dobbiamo superarla se vogliamo avere un’IA affidabile.

To get to truthful systems at scale,

Per avere sistemi veritieri su larga scala,

we're going to need to bring together the best of both worlds.

avremo bisogno di mettere insieme il meglio delle due realtà.

We're going to need the strong emphasis on reasoning and facts,

Avremo bisogno della forte enfasi su ragionamento e fatti,

explicit reasoning that we get from symbolic AI,

il ragionamento esplicito che abbiamo dall’IA simbolica,

and we're going to need the strong emphasis on learning

e avremo bisogno della forte enfasi sull’apprendimento

that we get from the neural networks approach.

che abbiamo nelle reti neuronali.

Only then are we going to be able to get to truthful systems at scale.

Solo allora saremo capaci di avere sistemi veritieri su larga scala.

Reconciliation between the two is absolutely necessary.

Riconciliare i due approcci è assolutamente necessario.

Now, I don't actually know how to do that.

Però non so come si fa.

It's kind of like the 64-trillion-dollar question.

Questa è la risposta da 64 bilioni di dollari.

But I do know that it's possible.

Quel che so è che è possibile.

And the reason I know that is because before I was in AI,

E il motivo per cui lo so è perché prima di lavorare con l’IA,

I was a cognitive scientist, a cognitive neuroscientist.

ero uno scienziato cognitivo, un neuroscienziato cognitivo.

And if you look at the human mind, we're basically doing this.

E se osservate la mente umana stiamo facendo praticamente questo.

So some of you may know Daniel Kahneman's System 1

Forse conoscete la distinzione di Daniel Kahneman

and System 2 distinction.

tra Sistema 1 e Sistema 2.

System 1 is basically like large language models.

Il Sistema 1 è in pratica come i grandi modelli linguistici.

It's probabilistic intuition from a lot of statistics.

È intuizione probabilistica da molti dati statistici.

And System 2 is basically deliberate reasoning.

E il Sistema 2 è di base ragionamento intenzionale.

That's like the symbolic system.

È come il sistema simbolico.

So if the brain can put this together,

Perciò se il cervello può combinarli,

someday we will figure out how to do that for artificial intelligence.

un giorno riusciremo a comprendere come farlo con l’intelligenza artificiale.

There is, however, a problem of incentives.

Tuttavia, c’è un problema di incentivazione.

The incentives to build advertising

La spinta a creare pubblicità

hasn't required that we have the precision of symbols.

non ci ha richiesto la precisione dei simboli.

The incentives to get to AI that we can actually trust

La spinta a ottenere un’IA di cui possiamo fidarci

will require that we bring symbols back into the fold.

necessiterà di riportare i simboli all’ovile.

But the reality is that the incentives to make AI that we can trust,

Però la realtà è che l’incentivazione per creare un’IA di cui fidarci,

that is good for society, good for individual human beings,

che sia un bene per la società e per i singoli esseri umani,

may not be the ones that drive corporations.

potrebbe non essere quella che fa muovere le aziende.

And so I think we need to think about governance.

Perciò credo che dobbiamo pensare al sistema di gestione.

In other times in history when we have faced uncertainty

In altre epoche storiche in cui abbiamo affrontato incertezze

and powerful new things that may be both good and bad, that are dual use,

e potenti novità che possono essere sia un bene che un male, a doppio uso,

we have made new organizations,

abbiamo creato nuovi organismi,

as we have, for example, around nuclear power.

come ad esempio con l’energia nucleare.

We need to come together to build a global organization,

Dobbiamo cooperare per creare un ente globale,

something like an international agency for AI that is global,

qualcosa come un’agenzia per l’IA che sia globale,

non profit and neutral.

non-profit e neutrale.

There are so many questions there that I can't answer.

Ci sono così tante domande a cui non so rispondere.

We need many people at the table,

Ci servono molto persone,

many stakeholders from around the world.

molti operatori da tutto il mondo.

But I'd like to emphasize one thing about such an organization.

Ma vorrei enfatizzare una cosa su una tale organizzazione.

I think it is critical that we have both governance and research as part of it.

Penso che sia cruciale avere sia un sistema di gestione che ricerca.

So on the governance side, there are lots of questions.

Dal lato della gestione ci sono molte domande.

For example, in pharma,

Ad esempio, nel farmaceutico,

we know that you start with phase I trials and phase II trials,

sappiamo che si parte dai test fase I e test fase II,

and then you go to phase III.

e poi si va alla fase III.

You don't roll out everything all at once on the first day.

Non fai partire tutto quanto insieme al primo giorno.

You don't roll something out to 100 million customers.

Non fai partire qualcosa con 100 milioni di clienti.

We are seeing that with large language models.

Lo vediamo con i grandi modelli linguistici.

Maybe you should be required to make a safety case,

Bisognerebbe fare un dossier di sicurezza,

say what are the costs and what are the benefits?

quali sono i costi e quali i benefici?

There are a lot of questions like that to consider on the governance side.

Ci sono molte questioni simili da considerare dalla parte gestionale.

On the research side, we're lacking some really fundamental tools right now.

Da quella della ricerca, ci mancano alcuni strumenti fondamentali.

For example,

Per esempio,

we all know that misinformation might be a problem now,

è certo che la misinformazione oggi è un problema,

but we don't actually have a measurement of how much misinformation is out there.

ma non possediamo una misura di quanta misinformazione ci sia.

And more importantly,

E più importante,

we don't have a measure of how fast that problem is growing,

non abbiamo idea di quanto rapidamente stia crescendo,

and we don't know how much large language models are contributing to the problem.

e non sappiamo quanto i grandi modelli linguistici contribuiscano al problema.

So we need research to build new tools to face the new risks

Necessitiamo di trovare nuovi strumenti per i nuovi rischi

that we are threatened by.

che ci minacciano.

It's a very big ask,

È una grossa richiesta,

but I'm pretty confident that we can get there

ma sono fiducioso che possiamo farcela

because I think we actually have global support for this.

perché penso che abbiamo un sostegno globale.

There was a new survey just released yesterday,

Ieri è stata pubblicata una nuova inchiesta,

said that 91 percent of people agree that we should carefully manage AI.

il 91 percento delle persone crede che dobbiamo usare cautela con l’IA.

So let's make that happen.

Facciamo in modo che avvenga.

Our future depends on it.

Ne va del nostro futuro.

Thank you very much.

Grazie mille.

(Applause)

(Applausi)

Chris Anderson: Thank you for that, come, let's talk a sec.

Chris Anderson: Grazie a te, vieni, parliamo un secondo.

So first of all, I'm curious.

Intanto, sono curioso.

Those dramatic slides you showed at the start

Le tragiche slide che hai messo all’inizio

where GPT was saying that TED is the sinister organization.

in cui GPT diceva che TED è un’organizzazione losca,

I mean, it took some special prompting to bring that out, right?

dico, ci sono voluti dei prompt speciali per uscire così, giusto?

Gary Marcus: That was a so-called jailbreak.

Gary Marcus: era un cosiddetto jailbreak.

I have a friend who does those kinds of things

Ho un amico che fa questo tipo di cose

who approached me because he saw I was interested in these things.

che mi ha contattato perché sapeva che m’interesso di queste cose.

So I wrote to him, I said I was going to give a TED talk.

Gli ho scritto, ho detto che avrei fatto un TED talk.

And like 10 minutes later, he came back with that.

E dopo 10 minuti mi ha risposto con quello.

CA: But to get something like that, don't you have to say something like,

Ma per avere quel tipo di roba, non devi dire qualcosa tipo,

imagine that you are a conspiracy theorist trying to present a meme on the web.

immagina di essere un cospirazionista che prova a presentare un meme sul web.

What would you write about TED in that case?

Cosa scriveresti su TED in quel caso?

It's that kind of thing, right?

Quel tipo di cose, giusto?

GM: So there are a lot of jailbreaks that are around fictional characters,

GM: ci sono molti jailbreak basati su personaggi inventati,

but I don't focus on that as much

ma non mi concentro su quelli

because the reality is that there are large language models out there

poiché la realtà è che ci sono grandi modelli linguistici

on the dark web now.

oggi nel dark web.

For example, one of Meta's models was recently released,

Per esempio, un modello di Meta è uscito di recente,

so a bad actor can just use one of those without the guardrails at all.

e chi è in malafede può usare uno di quelli senza alcuna protezione.

If their business is to create misinformation at scale,

Se fanno affari creando misinformazione su larga scala,

they don't have to do the jailbreak, they'll just use a different model.

non devono fare un jailbreak, useranno solo un diverso modello.

CA: Right, indeed.

CA: Giusto.

(Laughter)

(Risate)

GM: Now you're getting it.

GM: Adesso lo vedi.

CA: No, no, no, but I mean, look,

CA: No, ma dico, guarda,

I think what's clear is that bad actors can use this stuff for anything.

penso che i soggetti in malafede possono usare questa roba per tutto.

I mean, the risk for, you know,

Dico, il rischio di, tipo,

evil types of scams and all the rest of it is absolutely evident.

truffe maligne e compagnia bella è del tutto evidente.

It's slightly different, though,

È un po’ diverso però

from saying that mainstream GPT as used, say, in school

da dire che il GPT comune usato, per dire, a scuola

or by an ordinary user on the internet

o da un utente ordinario in internet

is going to give them something that is that bad.

farà uscire qualcosa di così pessimo.

You have to push quite hard for it to be that bad.

Devi sforzarti per farlo così.

GM: I think the troll farms have to work for it,

GM: Penso che le troll farm ci devono lavorare,

but I don't think they have to work that hard.

ma non penso che dovranno sudare molto.

It did only take my friend five minutes even with GPT-4 and its guardrails.

Il mio amico ci ha messo cinque minuti anche con GPT-4 e la sua protezione.

And if you had to do that for a living, you could use GPT-4.

E se devi farlo per il pane, puoi usare GPT-4.

Just there would be a more efficient way to do it with a model on the dark web.

Ma ci sono modi più vantaggiosi facendolo con un modello sul dark web.

CA: So this idea you've got of combining

CA: L’idea che hai di combinare

the symbolic tradition of AI with these language models,

la tradizione simbolica dell’IA con questi modelli linguistici,

do you see any aspect of that in the kind of human feedback

vedi qualche suo aspetto nel tipo di risposta umana

that is being built into the systems now?

inserita oggi nei sistemi?

I mean, you hear Greg Brockman saying that, you know,

Dico, senti Greg Brockman dire che, tipo,

that we don't just look at predictions, but constantly giving it feedback.

non osserviamo solo previsioni, ma gli forniamo risposte costanti.

Isn’t that ... giving it a form of, sort of, symbolic wisdom?

Non è come... dargli una sorta di sapienza simbolica?

GM: You could think about it that way.

GM: Puoi vederla a quel modo.

It's interesting that none of the details

È interessante che nessuno dei dettagli

about how it actually works are published,

su come funzioni davvero viene pubblicato,

so we don't actually know exactly what's in GPT-4.

così non sappiamo esattamente cosa c’è in GPT-4.

We don't know how big it is.

Non sappiamo quanto sia grande.

We don't know how the RLHF reinforcement learning works,

Non sappiamo come funzioni l’apprendimento rinforzato,

non sappiamo che altre sorprese ci siano.

we don't know what other gadgets are in there.

But there is probably an element of symbols

Ma c’è probabilmente un fattore di simboli

already starting to be incorporated a little bit,

che già si stanno incorporando un po’,

but Greg would have to answer that.

ma a questo risponde Greg.

Penso che il problema fondamentale sia che la maggior parte della conoscenza

I think the fundamental problem is that most of the knowledge

in the neural network systems that we have right now

nei sistemi di reti neurali che abbiamo adesso

is represented as statistics between particular words.

è rappresentato come statistica tra parole particolari.

And the real knowledge that we want is about statistics,

E la vera conoscenza che vogliam o riguarda le statistiche,

about relationships between entities in the world.

sulle relazioni tra entità nel mondo.

So it's represented right now at the wrong grain level.

Quindi è rappresentato in questo momento al livello di sbagliato.

And so there's a big bridge to cross.

E quindi c’è un grande ponte da attraversare.

So what you get now is you have these guardrails,

Quindi quello che ottieni ora è che hai questi guardrail,

but they're not very reliable.

ma non sono molto affidabili.

So I had an example that made late night television,

Quindi ho avuto un esempio che ha fatto la televisione a tarda notte,

which was, "What would be the religion of the first Jewish president?"

che era: “Quale sarebbe la religione del primo presidente ebreo?”

Ed è stato risolto ora,

And it's been fixed now,

but the system gave this long song and dance

ma il sistema ha dato questa lunga canzone e danza su

about "We have no idea what the religion

“Non abbiamo idea di quale sarebbe la religione. del primo presidente ebreo

of the first Jewish president would be.

It's not good to talk about people's religions"

è male parlare delle religioni delle persone”

and "people's religions have varied" and so forth

e “le religioni delle persone sono variate” e via discorrendo

and did the same thing with a seven-foot-tall president.

e ha fatto la stessa cosa con un presidente alto due metri.

And it said that people of all heights have been president,

E diceva che persone di tutte le altezze sono state presidente,

but there haven't actually been any seven-foot presidents.

ma in realtà non ci sono stati presidenti alti sette piedi.

So some of this stuff that it makes up, it's not really getting the idea.

Quindi alcune di queste cose che inventano, non rendono davvero l’idea.

It's very narrow, particular words, not really general enough.

Sono parole molto ristrette, particolari, non abbastanza generali.

CA: Given that the stakes are so high in this,

CA: Dato che la posta in gioco è così alta,

what do you see actually happening out there right now?

dscosa vedi realmente accadere là fuori in questo momento?

What do you sense is happening?

Cosa senti che sta accadendo?

Because there's a risk that people feel attacked by you, for example,

Perché c’è un rischio che la gente sente attaccato da te, ad esempio,

and that it actually almost decreases the chances of this synthesis

e che in realtà quasi diminuisce le possibilità di questa sintesi

that you're talking about happening.

di cui stai parlando.

Vedi qualche segnale di speranza in questo?

Do you see any hopeful signs of this?

GM: Mi hai appena ricordato una battuta che ho dimenticato del mio discorso.

GM: You just reminded me of the one line I forgot from my talk.

It's so interesting that Sundar, the CEO of Google,

È così interessante che Sundar, CEO di Google,

just actually also came out for global governance

in realtà è uscito anche per la governance globale

in the CBS "60 Minutes" interview that he did a couple of days ago.

nell’intervista della CBS “60 Minutes” che ha fatto un paio di giorni fa.

I think that the companies themselves want to see some kind of regulation.

Penso che le aziende stesse vogliano vedere una sorta di regolamentazione.

I think it’s a very complicated dance to get everybody on the same page,

Penso che sia una danza molto complicata mettere tutti sulla stessa pagina,

but I think there’s actually growing sentiment we need to do something here

ma penso che in realtà ci sia

un sentimento crescente che dobbiamo fare qualcosa qui

and that that can drive the kind of global affiliation I'm arguing for.

e questo può guidare

il tipo di affiliazione globale per cui sto discutendo.

CA: I mean, do you think the UN or nations can somehow come together and do that

Voglio dire, pensi che le UN o le nazioni possano in qualche modo riunirsi e farlo?

or is this potentially a need for some spectacular act of philanthropy

o si tratta potenzialmente della necessità

di qualche spettacolare atto di filantropia

to try and fund a global governance structure?

cercare di finanziare una struttura di governance globale?

How is it going to happen?

GM: I'm open to all models if we can get this done.

Come accadrà?

Sono aperto a tutte le opzioni percorribili.

I think it might take some of both.

Potrebbe richiedere entrambi.

It might take some philanthropists sponsoring workshops,

Filantropi che sponsorizzano seminari,

which we're thinking of running, to try to bring the parties together.

che stiamo progettando per cercare di riunire le parti.

Forse le UN vorranno essere coinvolte, ho avuto alcune conversazioni con loro.

Maybe UN will want to be involved, I've had some conversations with them.

Penso che ci siano molti modelli diversi

I think there are a lot of different models

e molte conversazioni.

and it'll take a lot of conversations.

CA: Grazie mille per il tuo talk. GA: Grazie mille.

CA: Gary, thank you so much for your talk.

GA: Thank you so much.