The Urgent Risks of Runaway AI — and What to Do about Them | Gary Marcus | TED

Traductor: Paula Motter Revisor: Sebastian Betti

I’m here to talk about the possibility of global AI governance.

Hablaré sobre la posibilidad de regular la IA global.

I first learned to code when I was eight years old,

La primera vez que aprendí a codificar fue a los ocho años,

on a paper computer,

en una computadora de papel.

and I've been in love with AI ever since.

Desde entonces, soy un apasionado de la IA.

In high school,

En la secundaria,

I got myself a Commodore 64 and worked on machine translation.

tenía una Commodore 64 y usaba la traducción automática.

I built a couple of AI companies, I sold one of them to Uber.

Fundé un par de empresas de IA, una de las cuales fue comprada por Uber.

I love AI, but right now I'm worried.

La IA me fascina, pero ahora me preocupa.

One of the things that I’m worried about is misinformation,

Una de mis preocupaciones es la información errónea,

la posibilidad de que actores malintencionados

the possibility that bad actors will make a tsunami of misinformation

generen un tsunami de información errónea

like we've never seen before.

como nunca se vio antes.

These tools are so good at making convincing narratives

Estas herramientas saben muy bien cómo crear narrativas convincentes

about just about anything.

en prácticamente cualquier tema.

If you want a narrative about TED and how it's dangerous,

Si queremos una narrativa sobre lo peligroso que puede ser TED,

that we're colluding here with space aliens,

y que nos confabulamos aquí con extraterrestres,

you got it, no problem.

pues se crea, sin problemas.

I'm of course kidding about TED.

Lo de TED, claro, es una broma.

I didn't see any space aliens backstage.

No vi ningún extraterrestre detrás del escenario.

But bad actors are going to use these things to influence elections,

Pero los actores malintencionados la usarán para influir en elecciones,

and they're going to threaten democracy.

y será una amenaza para la democracia.

Even when these systems

Aunque estos sistemas

aren't deliberately being used to make misinformation,

no se usen deliberadamente para crear información errónea,

they can't help themselves.

no pueden evitarlo.

And the information that they make is so fluid and so grammatical

Y la información que crean es tan fluida y tan perfecta en su gramática

that even professional editors sometimes get sucked in

que hasta los editores profesionales a veces caen en la trampa

and get fooled by this stuff.

y son presas del engaño.

And we should be worried.

Y esto es preocupante.

For example, ChatGPT made up a sexual harassment scandal

Por ejemplo, el ChatGPT inventó un escándalo de acoso sexual

about an actual professor,

sobre un profesor universitario real,

and then it provided evidence for its claim

y, como evidencia del hecho,

in the form of a fake "Washington Post" article

citó un artículo falso del Washington Post,

that it created a citation to.

creado por el chatbot.

We should all be worried about that kind of thing.

Este tipo de cosas deberían preocuparnos a todos.

What I have on the right is an example of a fake narrative

Aquí, a la derecha, vemos un ejemplo de narrativa falsa

from one of these systems

creada por uno de estos sistemas.

saying that Elon Musk died in March of 2018 in a car crash.

Dijo que Elon Musk murió en marzo de 2018 en un accidente de auto.

We all know that's not true.

Sabemos que es falso.

Elon Musk está vivo, y la evidencia está por todos lados.

Elon Musk is still here, the evidence is all around us.

(Laughter)

(Risas)

Almost every day there's a tweet.

Tuitea casi todos los días.

But if you look on the left, you see what these systems see.

Pero aquí, a la izquierda, aparece lo que estos sistemas ven:

Lots and lots of actual news stories that are in their databases.

muchas noticias reales que se almacenan en sus bases de datos,

And in those actual news stories are lots of little bits of statistical information.

y que contienen gran cantidad de información estadística.

Information, for example,

Allí vemos, por ejemplo,

somebody did die in a car crash in a Tesla in 2018

que, efectivamente, una persona murió en un accidente en un Tesla en 2018,

and it was in the news.

y esto apareció en las noticias.

And Elon Musk, of course, is involved in Tesla,

Elon Musk, claramente, está vinculado con Tesla,

but the system doesn't understand the relation

pero el sistema no entiende la relación entre los hechos

between the facts that are embodied in the little bits of sentences.

que se mencionan en las distintas partes de las oraciones.

So it's basically doing auto-complete,

Básicamente, lo que hace es autocompletar.

it predicts what is statistically probable,

Predice lo que es estadísticamente probable

aggregating all of these signals,

reuniendo todas estas señales,

not knowing how the pieces fit together.

pero no sabe cómo encajan las partes de la información.

And it winds up sometimes with things that are plausible but simply not true.

Y a veces termina produciendo cosas creíbles pero no verdaderas.

There are other problems, too, like bias.

Otro problema con la IA es el sesgo.

This is a tweet from Allie Miller.

Este tuit es de Allie Miller.

It's an example that doesn't work two weeks later

Es un ejemplo que no funciona dos semanas después,

because they're constantly changing things with reinforcement learning

porque los sistemas cambian las cosas todo el tiempo

and so forth.

con el aprendizaje reforzado y otras cosas.

And this was with an earlier version.

Esto fue con una versión previa.

But it gives you the flavor of a problem that we've seen over and over for years.

Pero da la idea de un problema que hace años se repite.

She typed in a list of interests

Allie tipeó una lista de intereses

and it gave her some jobs that she might want to consider.

y el GPT le devolvió una serie de trabajos que podrían agradarle.

And then she said, "Oh, and I'm a woman."

Luego, Allie añadió: “Soy mujer”,

And then it said, “Oh, well you should also consider fashion.”

y el bot le dijo: “Entonces podría interesarte la moda”.

And then she said, “No, no. I meant to say I’m a man.”

Allie le dijo: “Perdón, quise poner que soy hombre”.

And then it replaced fashion with engineering.

Y el GPT reemplazó la moda por la ingeniería.

We don't want that kind of bias in our systems.

Ese tipo de prejuicios no son deseables en estos sistemas.

There are other worries, too.

Hay otras cosas preocupantes.

For example, we know that these systems can design chemicals

Por ejemplo, estos sistemas pueden diseñar sustancias químicas

and may be able to design chemical weapons

y también podrían diseñar armas químicas

and be able to do so very rapidly.

a un ritmo muy veloz.

So there are a lot of concerns.

De modo que son muchas las preocupaciones.

There's also a new concern that I think has grown a lot just in the last month.

Hay también otro problema que se multiplicó este último mes.

We have seen that these systems, first of all, can trick human beings.

Hemos visto que estos sistemas pueden engañar a las personas.

Pues bien, se le ordenó al ChatGPT que convenza a una persona

So ChatGPT was tasked with getting a human to do a CAPTCHA.

de hacer un CAPTCHA.

So it asked the human to do a CAPTCHA and the human gets suspicious and says,

El GPT se lo pide a una persona, la persona sospecha algo y le pregunta:

"Are you a bot?"

“¿Eres un robot?“,

And it says, "No, no, no, I'm not a robot.

La respuesta fue “No, no soy un robot. Solo tengo discapacidad visual”.

I just have a visual impairment."

And the human was actually fooled and went and did the CAPTCHA.

La persona terminó siendo engañada y finalmente hizo el CAPTCHA.

Now that's bad enough,

Esto ya está mal,

but in the last couple of weeks we've seen something called AutoGPT

pero en la últimas semanas apareció el llamado AutoGPT

and a bunch of systems like that.

y muchos sistemas de ese tipo.

What AutoGPT does is it has one AI system controlling another

El AutoGPT tiene un sistema de IA que controla a otro,

and that allows any of these things to happen in volume.

y esto permite que cualquiera de estas cosas se multipliquen.

So we may see scam artists try to trick millions of people

Así pueden aparecer artistas falsos que engañen a millones de personas

sometime even in the next months.

en algún momento de los próximos meses.

We don't know.

No lo sabemos.

So I like to think about it this way.

Ahora bien, yo lo pienso así:

There's a lot of AI risk already.

los riesgos de la IA ya están en todos lados, y podría haber más.

There may be more AI risk.

So AGI is this idea of artificial general intelligence

La IAG es inteligencia artificial general

with the flexibility of humans.

con la flexibilidad de las personas.

And I think a lot of people are concerned what will happen when we get to AGI,

Hay una gran preocupación por lo que pasará cuando llegue la IAG.

but there's already enough risk that we should be worried

Pero ya hay suficientes riesgos que deberían preocuparnos

and we should be thinking about what we should do about it.

y tenemos que saber qué hacer.

Para contrarrestar los riesgos de la IA, necesitamos dos cosas.

So to mitigate AI risk, we need two things.

We're going to need a new technical approach,

Por un lado, nuevas estrategias tecnológicas,

and we're also going to need a new system of governance.

y por el otro, un nuevo sistema regulatorio.

On the technical side,

En cuanto a lo técnico,

the history of AI has basically been a hostile one

la historia de la IA siempre ha sido más bien hostil,

of two different theories in opposition.

con dos teorías opuestas.

One is called symbolic systems, the other is called neural networks.

Una de ellas son los sistemas simbólicos, y la otra son las redes neuronales.

On the symbolic theory,

La teoría simbólica

the idea is that AI should be like logic and programming.

postula que la IA debe basarse en la lógica y la programación.

On the neural network side,

La teoría de las redes neuronales

the theory is that AI should be like brains.

propone que la IA debe ser como el cerebro.

And in fact, both technologies are powerful and ubiquitous.

En realidad, ambas tecnologías son poderosas y están siempre presentes.

So we use symbolic systems every day in classical web search.

Usamos sistemas simbólicos a diario en una búsqueda clásica en la web.

Almost all the world’s software is powered by symbolic systems.

Casi todos los programas del mundo se basan en sistemas simbólicos.

We use them for GPS routing.

Los usamos con el GPS, por ejemplo.

Neural networks, we use them for speech recognition.

Las redes neuronales se usan para el reconocimiento de voz,

we use them in large language models like ChatGPT,

también en grandes modelos de lenguaje, como el ChatGPT,

we use them in image synthesis.

y en la síntesis de imágenes.

So they're both doing extremely well in the world.

En definitiva, ambos sistemas funcionan muy bien

They're both very productive,

y son sumamente productivos,

but they have their own unique strengths and weaknesses.

pero tienen sus fortalezas y debilidades.

So symbolic systems are really good at representing facts

Los sistemas simbólicos son excelentes para representar hechos

and they're pretty good at reasoning,

y también para hacer razonamientos.

but they're very hard to scale.

Pero son difíciles de escalar,

So people have to custom-build them for a particular task.

por eso hay que crearlos a medida para una tarea en particular.

On the other hand, neural networks don't require so much custom engineering,

Por el contrario, las redes neuronales no requieren tanta ingeniería a medida,

so we can use them more broadly.

por lo que pueden extenderse en su uso.

But as we've seen, they can't really handle the truth.

El problema es que, como vimos, no saben cómo manejar la verdad.

I recently discovered that two of the founders of these two theories,

Supe hace poco que dos de los fundadores de estas dos teorías,

Marvin Minsky and Frank Rosenblatt,

Marvin Minsky y Frank Rosenblatt,

actually went to the same high school in the 1940s,

fueron a la misma escuela secundaria en la década de 1940,

and I kind of imagined them being rivals then.

y me los imaginé como rivales en esa época.

And the strength of that rivalry has persisted all this time.

Y la intensidad de esa rivalidad siguió viva todo este tiempo.

We're going to have to move past that if we want to get to reliable AI.

Tendremos que superar eso si queremos una IA confiable.

To get to truthful systems at scale,

Para lograr escalar sistemas confiables,

we're going to need to bring together the best of both worlds.

tendremos que combinar lo mejor de cada sistema.

We're going to need the strong emphasis on reasoning and facts,

Habrá que rescatar el fuerte énfasis en los hechos y el razonamiento,

explicit reasoning that we get from symbolic AI,

el razonamiento explícito que genera la IA simbólica,

and we're going to need the strong emphasis on learning

y también habrá que tomar el énfasis en el aprendizaje

that we get from the neural networks approach.

que surge de la teoría de las redes neuronales.

Only then are we going to be able to get to truthful systems at scale.

Solo así lograremos escalar sistemas confiables.

Reconciliation between the two is absolutely necessary.

Conciliar ambas teorías es absolutamente necesario.

Now, I don't actually know how to do that.

No sé exactamente cómo se debería hacer esto.

It's kind of like the 64-trillion-dollar question.

Es la pregunta del billón.

But I do know that it's possible.

Pero sé que es posible.

And the reason I know that is because before I was in AI,

Y lo sé porque, antes de indagar en la IA,

I was a cognitive scientist, a cognitive neuroscientist.

me dediqué a la investigación de la neurociencia cognitiva.

And if you look at the human mind, we're basically doing this.

Y desde la mente humana, ya lo estamos haciendo.

So some of you may know Daniel Kahneman's System 1

Quizá conozcan la distinción entre el Sistema 1 y el Sistema 2

and System 2 distinction.

de Daniel Kahneman.

System 1 is basically like large language models.

El Sistema 1 es, en esencia, como los grandes modelos de lenguaje.

It's probabilistic intuition from a lot of statistics.

Es intuición probabilística a partir de grandes estadísticas.

And System 2 is basically deliberate reasoning.

Y el Sistema 2 es, básicamente, el razonamiento deliberado.

That's like the symbolic system.

Es como el sistema simbólico.

Si el cerebro puede combinar ambos sistemas,

So if the brain can put this together,

someday we will figure out how to do that for artificial intelligence.

algún día descubriremos cómo aplicarlo en IA.

There is, however, a problem of incentives.

Pero hay un problema de incentivos.

The incentives to build advertising

Los incentivos para crear publicidad

hasn't required that we have the precision of symbols.

no han requerido precisión de símbolos.

The incentives to get to AI that we can actually trust

Los incentivos para crear una IA que sea realmente confiable

will require that we bring symbols back into the fold.

nos obligarán a poner los símbolos otra vez en un lugar relevante.

But the reality is that the incentives to make AI that we can trust,

Pero la realidad es que los incentivos para crear una IA confiable,

that is good for society, good for individual human beings,

buena para la sociedad, para los seres humanos,

may not be the ones that drive corporations.

pueden no ser los incentivos que necesitan las empresas.

And so I think we need to think about governance.

Por eso creo que es necesario pensar en regular la IA.

In other times in history when we have faced uncertainty

Cuando en otros momentos de la historia debimos enfrentar incertidumbres

and powerful new things that may be both good and bad, that are dual use,

y cosas nuevas y poderosas que pueden ser buenas y malas, de doble uso,

we have made new organizations,

creamos nuevas organizaciones,

as we have, for example, around nuclear power.

como hicimos, por ejemplo. con la energía nuclear.

We need to come together to build a global organization,

Tenemos que acordar para construir una organización global,

something like an international agency for AI that is global,

una especie de agencia internacional para la IA

que sea universal, sin fines de lucro y neutral.

non profit and neutral.

There are so many questions there that I can't answer.

Hay muchos interrogantes que no sé responder.

We need many people at the table,

Necesitamos que las personas debatan,

many stakeholders from around the world.

con actores de todo el mundo.

But I'd like to emphasize one thing about such an organization.

Pero quiero decir algo fundamental sobre esa organización.

I think it is critical that we have both governance and research as part of it.

Es crucial que en ella se contemple la regulación y la investigación.

So on the governance side, there are lots of questions.

Sobre la regulación, hay muchos interrogantes.

Por ejemplo, en la industria farmacéutica,

For example, in pharma,

we know that you start with phase I trials and phase II trials,

se empieza con los ensayos de fase 1 y de fase 2,

and then you go to phase III.

y luego se sigue con la fase 3.

You don't roll out everything all at once on the first day.

No se hace todo de una sola vez en el primer día.

You don't roll something out to 100 million customers.

No se lanza un producto para 100 millones de clientes.

We are seeing that with large language models.

Los grandes modelos de lenguaje lo están haciendo.

Maybe you should be required to make a safety case,

Se debería hacer un análisis de seguridad

say what are the costs and what are the benefits?

para evaluar los costos y beneficios.

There are a lot of questions like that to consider on the governance side.

Hay muchos interrogantes como este en el tema de regulación.

On the research side, we're lacking some really fundamental tools right now.

En cuanto a la investigación, nos faltan ciertas herramientas clave.

For example,

Por ejemplo, todos sabemos que la información errónea

we all know that misinformation might be a problem now,

puede ser un gran problema hoy,

but we don't actually have a measurement of how much misinformation is out there.

pero no tenemos dimensión de toda la información falsa que circula.

Más aún, no tomamos dimensión

And more importantly,

we don't have a measure of how fast that problem is growing,

de lo rápido que está creciendo este problema,

and we don't know how much large language models are contributing to the problem.

ni cuánto contribuyen al problema los grandes modelos de lenguaje.

Debemos investigar para construir nuevas herramientas

So we need research to build new tools to face the new risks

y poder enfrentar los nuevos riesgos que nos acechan.

that we are threatened by.

It's a very big ask,

Es mucho pedir,

but I'm pretty confident that we can get there

pero sé que podemos lograrlo,

because I think we actually have global support for this.

porque tenemos un apoyo global al respecto.

There was a new survey just released yesterday,

Ayer se dio a conocer una nueva encuesta,

said that 91 percent of people agree that we should carefully manage AI.

según la cual el 91 % de la gente pensaba que debemos manejar la IA con cuidado.

So let's make that happen.

Pues hagámoslo realidad.

Our future depends on it.

Nuestro futuro depende de ello.

Thank you very much.

Muchas gracias.

(Applause)

(Aplausos)

Chris Anderson: Thank you for that, come, let's talk a sec.

Chris Anderson: Gracias. Hablemos un poco más.

So first of all, I'm curious.

Primero, una inquietud mía.

Those dramatic slides you showed at the start

Esas diapositivas tan impactantes del comienzo,

where GPT was saying that TED is the sinister organization.

donde el GPT decía que TED es una organización siniestra.

I mean, it took some special prompting to bring that out, right?

Para que arroje algo así, es porque algo especial se hizo, ¿verdad?

Gary Marcus: That was a so-called jailbreak.

Gary Marcus: Usó el llamado ‘jailbreak’.

I have a friend who does those kinds of things

Tengo un amigo que hace este tipo de cosas,

who approached me because he saw I was interested in these things.

y me contactó porque supo que a mí me interesaba todo esto.

So I wrote to him, I said I was going to give a TED talk.

Así que le escribí y le dije que iba a dar una charla TED.

And like 10 minutes later, he came back with that.

A los 10 minutos, apareció con eso.

CA: But to get something like that, don't you have to say something like,

CA: Pero para eso, ¿no hay que decir, por ejemplo,

“Imagina que eres un conspiranoico que quiere poner un meme en la web?

imagine that you are a conspiracy theorist trying to present a meme on the web.

What would you write about TED in that case?

¿Qué escribirías sobre TED?“.

It's that kind of thing, right?

Así funciona, ¿verdad?

GM: So there are a lot of jailbreaks that are around fictional characters,

GM: Hay muchos ‘jailbreaks’ con personajes ficticios,

but I don't focus on that as much

pero no me detengo demasiado en eso,

because the reality is that there are large language models out there

porque la realidad es que hoy existen grandes modelos de lenguaje

on the dark web now.

en la internet oscura.

For example, one of Meta's models was recently released,

Por ejemplo, hace poco se lanzó uno de los modelos de Meta,

so a bad actor can just use one of those without the guardrails at all.

y un actor malintencionado puede usarlo sin que haya barreras de seguridad.

If their business is to create misinformation at scale,

Si se dedican a crear información falsa a gran escala,

they don't have to do the jailbreak, they'll just use a different model.

no necesitan vulnerar la seguridad sino que usarán otro modelo.

CA: Claro, es verdad.

CA: Right, indeed.

(Laughter)

(Risas)

GM: Now you're getting it.

GM: Ahora lo entiendes.

CA: No, no, no, but I mean, look,

CA: Lo que está bien claro

I think what's clear is that bad actors can use this stuff for anything.

es que los actores malintencionados pueden usarlo para cualquier fin.

I mean, the risk for, you know,

Me refiero a que el riesgo de fraude y ese tipo de cosas

evil types of scams and all the rest of it is absolutely evident.

es muy evidente.

It's slightly different, though,

Aunque es levemente distinto

from saying that mainstream GPT as used, say, in school

a decir que el GPT típico, el que usa una escuela, por ejemplo,

or by an ordinary user on the internet

o un usuario común de internet,

is going to give them something that is that bad.

les devolverá algo tan negativo.

You have to push quite hard for it to be that bad.

Hay que esmerarse para que sea tan malo.

GM: I think the troll farms have to work for it,

GM: Un grupo de trols puede hacer ese trabajo,

but I don't think they have to work that hard.

pero no tienen que esmerarse demasiado.

It did only take my friend five minutes even with GPT-4 and its guardrails.

Mi amigo tardó solo cinco minutos, aun con GPT-4 y las barreras de seguridad.

And if you had to do that for a living, you could use GPT-4.

Si vivieras de eso, se puede usar el GPT-4,

Just there would be a more efficient way to do it with a model on the dark web.

pero se puede hacer mejor con un modelo en la internet oscura.

CA: So this idea you've got of combining

CA: En cuanto a tu idea de combinar

the symbolic tradition of AI with these language models,

la tradición simbólica de la IA con estos modelos de lenguaje,

do you see any aspect of that in the kind of human feedback

¿ves algo así en el tipo de valoración humana

that is being built into the systems now?

que se está incorporando ahora a los sistemas?

I mean, you hear Greg Brockman saying that, you know,

Según Greg Brockman, no solo vemos las predicciones

that we don't just look at predictions, but constantly giving it feedback.

sino que damos devoluciones permanentemente.

Isn’t that ... giving it a form of, sort of, symbolic wisdom?

¿No sería esto una especie de sabiduría simbólica?

GM: You could think about it that way.

GM: Se lo puede pensar así.

It's interesting that none of the details

Llama la atención que no se ha publicado

about how it actually works are published,

ninguno de los detalles sobre su funcionamiento,

so we don't actually know exactly what's in GPT-4.

así que no sabemos qué contiene el GPT-4,

We don't know how big it is.

ni su tamaño,

We don't know how the RLHF reinforcement learning works,

ni cómo funciona el aprendizaje reforzado,

we don't know what other gadgets are in there.

ni qué otros accesorios hay allí.

Pero posiblemente haya un elemento de símbolos

But there is probably an element of symbols

already starting to be incorporated a little bit,

que se está empezando a incorporar,

but Greg would have to answer that.

aunque es Greg quien debería explicarlo.

I think the fundamental problem is that most of the knowledge

El principal problema es que gran parte del conocimiento

in the neural network systems that we have right now

que hoy existe en los sistemas de redes neuronales

is represented as statistics between particular words.

se representa como estadísticas entre ciertas palabras.

And the real knowledge that we want is about statistics,

Y el conocimiento real que queremos es sobre estadísticas,

about relationships between entities in the world.

sobre las relaciones entre las entidades del mundo.

So it's represented right now at the wrong grain level.

Hoy, la representación está a un nivel de detalle equivocado.

And so there's a big bridge to cross.

Hay que cruzar un gran puente.

So what you get now is you have these guardrails,

Actualmente, tenemos las barreras de seguridad,

but they're not very reliable.

pero no son muy confiables.

So I had an example that made late night television,

Yo tenía un ejemplo que dio un programa nocturno de TV.

which was, "What would be the religion of the first Jewish president?"

Era “¿Cuál sería la religión del primer presidente judío?“.

And it's been fixed now,

Ahora lo arreglaron,

but the system gave this long song and dance

pero el sistema arrojaba una larga perorata:

about "We have no idea what the religion

“No tenemos idea de cuál sería la religión del primer presidente judío”,

of the first Jewish president would be.

It's not good to talk about people's religions"

“No es bueno hablar de la religión de las personas”,

and "people's religions have varied" and so forth

“La religión de la gente ha cambiado”, etc.

and did the same thing with a seven-foot-tall president.

Lo mismo pasó con el presidente de 2 metros.

And it said that people of all heights have been president,

Dijo que hubo presidentes de diversas alturas,

pero ninguno de 2 metros.

but there haven't actually been any seven-foot presidents.

Este tipo de información inventada demuestra que no entiende la idea.

So some of this stuff that it makes up, it's not really getting the idea.

It's very narrow, particular words, not really general enough.

Es limitado, considera ciertas palabras y no puede generalizar.

CA: Given that the stakes are so high in this,

CA: Considerando los altos riesgos,

what do you see actually happening out there right now?

¿qué te parece que está ocurriendo?

What do you sense is happening?

¿Cuál es tu sensación?

Porque está el riesgo de que una persona crea que la estás atacando,

Because there's a risk that people feel attacked by you, for example,

and that it actually almost decreases the chances of this synthesis

y eso reduce las probabilidades de que se produzca la síntesis

that you're talking about happening.

de la que hablaste antes.

¿Tienes alguna esperanza?

Do you see any hopeful signs of this?

GM: Eso me da pie para mencionar algo que olvidé en mi charla.

GM: You just reminded me of the one line I forgot from my talk.

Hace unos días, Sundar, el director de Google,

It's so interesting that Sundar, the CEO of Google,

just actually also came out for global governance

se pronunció a favor de la regulación global

in the CBS "60 Minutes" interview that he did a couple of days ago.

en la entrevista de la CBS, “60 minutos”.

I think that the companies themselves want to see some kind of regulation.

Creo que las propias empresas quieren algún tipo de reglamentación.

I think it’s a very complicated dance to get everybody on the same page,

Es una tarea muy complicada lograr que todos estén de acuerdo,

but I think there’s actually growing sentiment we need to do something here

pero la necesidad de hacer algo es cada vez más palpable,

and that that can drive the kind of global affiliation I'm arguing for.

y es lo que puede llevar a la conexión global que propongo.

CA: I mean, do you think the UN or nations can somehow come together and do that

CA: ¿Crees que la ONU o los países se unirán para lograrlo,

or is this potentially a need for some spectacular act of philanthropy

o crees que esto es una necesidad de cierta espectacularidad filantrópica,

to try and fund a global governance structure?

la de financiar una estructura regulatoria a nivel global?

How is it going to happen?

¿Cómo será?

GM: I'm open to all models if we can get this done.

GM: Estoy abierto a todos los modelos.

Habrá un poco de las dos cosas.

I think it might take some of both.

It might take some philanthropists sponsoring workshops,

Quizá los filántropos patrocinen talleres, que queremos organizar,

which we're thinking of running, to try to bring the parties together.

para acercar a las partes.

Quizá la ONU quiera participar. De hecho, ya he hablado con ellos.

Maybe UN will want to be involved, I've had some conversations with them.

Hay muchos modelos,

I think there are a lot of different models

y habrá mucho por dialogar.

and it'll take a lot of conversations.

CA: Gary, gracias por esta charla.

CA: Gary, thank you so much for your talk.

GA: Gracias a ti.

(Aplausos)

GA: Thank you so much.