How AI Could Hack Democracy | Lawrence Lessig | TED

Traductor: Sebastian Betti

So on January 6, 2021

El 6 de enero de 2021

mi nación sufrió un pequeño ataque al corazón de la democracia.

my nation suffered a little bit of a democracy heart attack.

Thousands of Americans had been told that the election had been stolen,

A miles de estadounidenses se les informó de un robo electoral

and tens of thousands of them showed up

y decenas de miles de ellos se presentaron

because they believed the election had been stolen.

porque creían que las elecciones habían sido robadas.

And indeed, in polling immediately after January 6,

Y de hecho, en las encuestas inmediatamente después del 6 de enero,

“The Washington Post” found 70 percent of Republicans believed

"The Washington Post" encontró que el 70 % de los republicanos creía

the election had been stolen,

que ocurrió un robo electoral,

and a majority of college-educated Republicans believed

y una mayoría de los republicanos con educación universitaria creía

the election had been stolen.

que ocurrió un robo electoral.

That was their perception.

Esa era su percepción.

And I don't know what the right way to act on that perception is.

Y no sé cuál es la forma correcta de actuar sobre esa percepción.

They thought the right way was to defend

Ellos pensaron que la forma correcta era defender

what they thought was a democracy stolen.

lo que creían que era una democracia robada.

Now, these numbers were astonishing:

Ahora, estos números son asombrosos:

30 percent or two thirds of Republicans believing the election was stolen.

El 30 % o dos tercios de los republicanos creen que hubo robo electoral.

But even more extraordinary are these numbers.

Pero aún más extraordinarios son estos números.

The fact that in the three years since that astonishing event,

El hecho de que en los tres años desde ese acontecimiento asombroso,

the numbers have not changed.

los números no han cambiado.

The same number believe today that the election was stolen

El mismo número cree hoy que hubo robo electoral

as believed it was stolen three years ago,

que creía que hubo un robo hace tres años,

despite the fact that we've had investigations

a pesar de investigaciones

and overwhelming evidence that there was no fraud

y pruebas abrumadoras de que no hubo fraude

sufficient to ever change even a single state.

suficiente para cambiar ni siquiera un solo estado.

This is something new.

Esto es algo nuevo.

When Richard Nixon went through the Watergate scandal,

Cuando Richard Nixon pasó por el escándalo de Watergate,

as the news was being reported,

mientras se informaba de las noticias,

Nixon's popularity collapsed not just among Democrats,

la popularidad de Nixon colapsó no solo entre los demócratas,

but among independents and Republicans.

sino entre independientes y republicanos.

But we're at a stage where it doesn't matter what happens.

Pero estamos en una etapa donde no importa lo que suceda.

This is Donald Trump's popularity over the course of his administration.

Esta es la popularidad de Donald Trump a lo largo de su administración.

Nothing changes.

Nada cambia.

The facts don't matter.

Los hechos no importan.

Now I think this truth should bother us a lot.

Ahora creo que esta verdad debería molestarnos mucho.

I think we need to develop a kind of paranoia

Creo que necesitamos desarrollar una especie de paranoia

about what produces this reality.

sobre lo que produce esta realidad.

A particular paranoia, the paranoia of the hunted.

Una paranoia particular, la paranoia de la persona cazada.

Think of the kids in "The Birds"

Piensa en los niños en "Los pájaros" [de Hitchcock]

first realizing that those crows were attacking them,

Al darse cuenta por primera vez del ataque de los cuervos,

or "Black Mirror's" Metalheads,

o los drones asesinos de "Black Mirror",

when you see these creatures chasing and surrounding you.

esas criaturas que te persiguen y te rodean.

The point is, we need to recognize

Necesitamos reconocer

that there is an intelligence out there to get us.

que hay una inteligencia que intenta atraparnos.

Because our perceptions,

Porque nuestras percepciones,

our collective perceptions,

nuestras percepciones colectivas,

our collective misimpressions

nuestras impresiones colectivas erróneas

are not accidental.

no son accidentales.

They are expected, they are intended,

Son esperadas, son intencionadas,

they are the product of the thing.

son el producto de “la cosa”.

(Laughter)

(Risas)

OK, I want to be careful introducing the thing.

Quiero ser cuidadoso al presentar “la cosa”.

I'm going to talk a little bit about AI, but I'm not going to slag on AI.

Hablaré un poco de IA, pero no voy a criticar a la IA.

I think AI is the most extraordinary technology

Creo que la IA es la tecnología más extraordinaria

humanity has ever even conceived of.

que la humanidad ha concebido jamás.

But I also think it has the potential to end humanity.

Pero también creo que tiene el potencial de acabar con la humanidad.

But I'm not going to slag on AI,

Pero no voy a criticar a la IA,

porque estoy bastante seguro de que nuestra entidad robótica

because I'm pretty sure that our robot overlord

is going to be listening to these TED talks someday,

estará escuchando estas charlas TED algún día,

and I don't want to be on the wrong side of the overlord.

y no quiero estar del lado equivocado de la entidad.

So AI is just fine.

Así que la IA está bien.

I'm not going to talk about this AI first.

No voy a hablar sobre esta IA primero.

I want to instead put AI in a little bit of a perspective,

En cambio, quiero poner la IA en perspectiva,

because I think that we're too obsessed with the new,

porque creo que estamos demasiado obsesionados con lo nuevo,

and we fail to recognize the significance of AI in the old.

y no reconocemos la importancia de la IA en lo antiguo.

We think about intelligence,

Pensamos en la inteligencia,

and we're distinguishing between artificial and natural intelligence.

y estamos distinguiendo entre inteligencia artificial y natural.

And we, of course, as humans,

Y nosotros, por supuesto, como humanos,

claim pride of kingdom in the world of natural intelligence.

reclamamos el orgullo del reino en el mundo de la inteligencia natural.

And then we build artificial intelligence.

Y luego construimos inteligencia artificial.

It's intelligence that we make.

Es inteligencia que nosotros creamos.

But here's the critical point.

Pero aquí está el punto crítico.

We have already, for a long time,

Ya hemos vivido, durante mucho tiempo,

lived with systems of artificial intelligence.

con sistemas de inteligencia artificial.

I don't mean digital AI,

No me refiero a la IA digital,

I mean analog AI.

me refiero a la IA analógica.

Any entity or institution that we build with a purpose

Cualquier entidad o institución que construimos con un propósito

that acts instrumentally in the world is in this sense an AI.

que actúa de manera instrumental en el mundo es en este sentido una IA.

It is an instrumentally rational entity that's mapping how it should behave,

Es una entidad racional instrumental que está mapeando cómo debe comportarse,

given the way the world evolves and responds to it.

dada la forma en que el mundo evoluciona y responde a ello.

So think about democracy as an AI.

Piensen la democracia como una IA.

It has institutions, elections, parliaments, constitutions

Tiene instituciones, elecciones, parlamentos, constituciones

for the purpose of some collective ends.

con el propósito de algunos fines colectivos.

Our Constitution says it's for the common good.

Nuestra Constitución dice que es para el bien común.

So the democracy in our Constitution is an analog artificial intelligence

Así que la democracia en nuestra Constitución es una IA analógica

devoted to the common good.

dedicada al bien común.

Or think about corporations as an AI.

Piensen las corporaciones como una IA.

They have institutions, boards, management, finance,

Tienen instituciones, juntas, gestión, finanzas,

for the purpose of making money, or at least conceived of narrowly,

para ganar dinero, o al menos concebidas de manera estrecha,

today, that’s the way it is.

hoy en día, así es como son.

There corporation is an analog intelligence devoted to maximizing

La corporación es una inteligencia analógica dedicada a maximizar

shareholder value.

el valor para los accionistas.

These are AIs.

Estas son IAs.

They have purposes and objectives sometimes complementing each other.

Tienen propósitos y objetivos que a veces se complementan entre sí.

El propósito de una empresa de autobuses escolares

So the purpose of a school bus company

complements the purpose of a school board

complementa el propósito de una junta escolar

to produce school bus transportation in a district.

para producir transporte en autobús escolar en un distrito.

That's just beautiful.

Eso es simplemente hermoso.

But sometimes they're competing.

Pero a veces están compitiendo.

The purpose of a government and having a clean environment

El propósito de un gobierno y tener un ambiente limpio

conflicts with the purpose of a coal company

entra en conflicto con el propósito de una empresa de carbón

designing to produce electricity

diseñada para producir electricidad

by spewing carbon and soot into the environment.

arrojando carbono y hollín al medioambiente.

And when they conflict, we tell ourselves this happy story.

Y cuando hay un conflicto, nos contamos esta historia feliz.

We tell ourselves the story that democracy is going to stand up

Nos contamos la historia de que la democracia va a levantarse

and discipline that evil corporation.

y disciplinar a esa malvada corporación.

To get the corporation to do the right thing,

Para hacer que la corporación haga lo correcto,

to do the thing that's in the interest of all of us.

para hacer lo que está en el interés de todos nosotros.

That's our happy story.

Esa es nuestra historia feliz.

It's also a fantasy.

También es una fantasía.

Because at least in my country,

Porque al menos en mi país,

corporations are more effective AIs than democracy.

las corporaciones son IAs más efectivas que la democracia.

Piénsenlo un poco así.

Think about it a little bit like this.

En un gráfico, pensemos la racionalidad instrumental en el eje Y,

If we think about instrumental rationality along one axis of this graph

y el tiempo en el eje X,

and time across the other,

humans, of course, are the first instrumentally rational entity

los humanos, por supuesto, somos la primera entidad racional instrumental

we care about, we're better than cows.

que nos importa, somos mejores que las vacas.

Maybe not as good as ants, but the point is,

Quizás no tan buenos como las hormigas,

we're pretty good as individuals

pero la idea es que somos bastante buenos como individuos

figuring out how to do things strategically.

para hacer las cosas estratégicamente.

And then we built democracy to do that a little bit better,

Y luego construimos la democracia para hacerlo un poco mejor,

to act collectively for all of us.

para actuar colectivamente por todos nosotros.

And that's a more instrumentally rational entity

Y esa es una entidad racional instrumentalmente

than we, individual humans, can be.

más que nosotros, los humanos individuales.

Then we created corporations.

Luego creamos corporaciones.

And it turns out, they have become, at least in corrupted political regimes —

Y resulta que se han convertido, al menos en regímenes políticos corruptos,

which, I’ll just submit, my political regime is —

que, solo lo someto, mi régimen político es...

better than democracy

mejor que la democracia

in bringing about their objective ends.

en lograr sus fines objetivos.

Now, of course, in this system,

Por supuesto, en este sistema,

each of these layers has an aspiration to control the higher layer.

cada una de estas capas tiene una aspiración de controlar la capa superior.

So humans try to control democracy through elections.

Los humanos tratamos de controlar la democracia a través de elecciones.

Democracy tries to control corporations through regulation.

La democracia trata de controlar a las corporaciones

a través de la regulación.

But the reality of control is, of course, a little bit different.

Pero la realidad del control es, por supuesto, un poco diferente.

In the United States, corporations control democracy

En EE. UU., las corporaciones controlan la democracia

through the extraordinary amount of money they pour into elections,

a través de la extraordinaria cantidad de dinero que vierten en las elecciones,

making our representatives dependent not on us, but on them.

haciendo que nuestros representantes dependan no de nosotros, sino de ellos.

And democracy then controls the humans

Y la democracia entonces controla a los humanos

by making representation,

al hacer representación,

not actually representation, corrupting representation.

no realmente representación, corrompiendo la representación.

Now, this structure, this layer of higher order intelligence

Ahora, esta estructura, esta capa de inteligencia de orden superior

or instrumental rationality might evoke,

o racionalidad instrumental puede evocar,

for those of you who think about AI,

para aquellos que piensan en IA,

a statement by the godfather of AI, Geoffrey Hinton.

una declaración del padrino de la IA, Geoffrey Hinton.

Hinton warns us,

Hinton nos advierte,

"There are a few examples of a more intelligent thing

“Hay unos pocos ejemplos de algo más inteligente

being controlled by a less intelligent thing."

controlado por algo menos inteligente”.

Or we could say,

O podríamos decir,

a more instrumentally rational thing

una cosa más racionalmente instrumental

being controlled by a less instrumentally rational thing.

siendo controlada por una cosa menos racionalmente instrumental.

And that is consistent with this picture of AIs.

Y eso es consistente con esta imagen de las IAs.

And then we add digital AI into this mix.

Y luego añadimos la IA digital a esta mezcla.

And here too, once again,

Y aquí también, una vez más,

we have corporations attempting to control their digital AI.

tenemos corporaciones intentando controlar su IA digital.

But the reality of that control is not quite perfect.

Pero la realidad de ese control no es del todo perfecta.

Facebook, in September of 2017,

Facebook, en septiembre de 2017,

was revealed to have a term in their ad system

se reveló que tenía un término en su sistema de anuncios

called "Jew Haters."

llamado “odiadores de judíos”.

You could buy ads targeting Jew haters.

Podías comprar anuncios dirigidos a odiadores de judíos.

Now, nobody in Facebook created that category.

Ahora, nadie en Facebook creó esa categoría.

There was not a human in Facebook who decided

No había un humano en Facebook que decidiera

"We're going to start targeting Jew haters."

“Vamos a empezar a dirigirnos a los odiadores de judíos”.

Its AI created that category

Su IA creó esa categoría

because its AI figured Jew haters would be a profitable category

porque determinó que los odiadores de judíos serían una categoría rentable

for them to begin to sell ads to,

para comenzar a vender anuncios,

and the company was, of course, embarrassed

y la empresa, por supuesto, se avergonzó

that it turned out they didn't actually have control

de no tener realmente control

over the machine that ran their machines that run our lives.

sobre la máquina que controla sus máquinas que dirigen nuestras vidas.

The real difference in this story, though,

La verdadera diferencia en esta historia, sin embargo,

is the extraordinary potential

es el extraordinario potencial

of this instrumentally rational entity

de esta entidad racionalmente instrumental

versus us.

versus nosotros.

This massively better instrumentally rational entity

Esta entidad racionalmente instrumental enormemente mejor

versus even corporations and certainly democracies,

versus incluso las corporaciones y ciertamente las democracias,

because it's going to be more efficient at achieving its objective than we are.

porque va a ser más eficiente para lograr su objetivo que nosotros.

And here's where we cue the paranoia I began to seed

Y aquí comenzamos la paranoia que empecé a sembrar

because our collective perceptions, our collective misperceptions

porque nuestras percepciones colectivas, nuestras percepciones erróneas colectivas

are not accidental.

no son accidentales.

They are expected, intended, the product of this AI.

Son esperadas, intencionadas, el producto de esta IA.

We could think of it as the AI perception machine.

Podríamos pensarlo como la máquina de percepción de IA.

We are its targets.

Nosotros somos sus objetivos.

Now, the first contact we had with this AI,

Ahora, el primer contacto que tuvimos con esta IA,

as Tristan Harris described it,

como lo describió Tristan Harris,

came from social media.

vino de las redes sociales.

Tristan Harris, who started the Center for Humane Technology,

Tristan Harris, quien fundó el Centro para la Tecnología Humana,

cofounded it, famous in this extraordinary documentary,

lo cofunda, famoso en este extraordinario documental,

"The Social Dilemma,"

"El dilema social",

before he was famous, he was just an engineer at Google.

antes de ser famoso, era solo un ingeniero en Google.

And at Google, he was focused on the science of attention

Y en Google, se centraba en la ciencia de la atención

using AI to engineer attention,

usando IA para diseñar atención,

to overcome resistance,

para superar la resistencia,

to increase human engagement with the platform

para aumentar la interacción humana con la plataforma

because engagement is the business model.

porque la interacción es el modelo de negocio.

Compare this to, think of it as brain hacking.

Comparen esto con, piénsenlo como, un hackeo al cerebro.

We could compare it to what we could call body hacking.

Podríamos compararlo con un hackeo corporal.

Esto es la explotación de la ciencia de la alimentación.

This is the exploiting of food science.

Scientists engineer food to exploit our evolution,

Los científicos diseñan alimentos para explotar nuestra evolución,

our mix of salt, fat and sugar,

nuestra mezcla de sal, grasa y azúcar,

to overcome the natural resistance

para superar la resistencia natural

so you can't stop eating food.

para que no puedas dejar de comer.

So that they can sell food or sell, "food" more profitably.

Para vender “alimentos” de manera más rentable.

Brain hacking is the same, but focused on attention.

El hackeo cerebral es lo mismo, pero enfocado en la atención.

It's exploiting evolution.

Está explotando la evolución.

The fact that we have an irrational response to random rewards,

El hecho de que tenemos una respuesta irracional a recompensas aleatorias,

or can't stop consuming bottomless pits of content

o no podemos dejar de consumir ingentes volúmenes de contenido

with the aim to increase engagement,

para aumentar el engagement,

to sell more ads.

para vender más anuncios.

And it just so happens, too bad for us,

Y resulta que, desafortunadamente para nosotros,

that we engage more

nos comprometemos más

the more extreme, the more polarizing,

cuanto más extremo, más polarizante,

the more hate-filled this content is.

y más lleno de odio sea ese contenido.

So that is what we're fed by these AIs.

De eso nos alimentan estas IA.

With the consequence

Con la consecuencia

that we produce a people more polarized and ignorant and angry

de que producimos un pueblo más polarizado, ignorante y enojado

than at any time in democracy's history in America

que en cualquier momento de la historia de la democracia en EE. UU.

since the Civil War

desde la Guerra Civil

and democracy is thereby weakened.

y la democracia se debilita.

They give us what we want.

Nos dan lo que queremos.

What we want makes us into this.

Lo que queremos nos convierte en esto.

OK, but recognize something really critically important.

Está bien, pero reconozcan algo realmente crítico.

This is not because AI is so strong.

Esto no es porque la IA sea muy fuerte.

It's because we are so weak.

Es porque nosotros somos muy débiles.

Here's Tristan Harris describing this.

Tristan Harris lo describe así.

(Video) "We're all looking out for the moment

(Video) "Todos estamos esperando el momento

when technology would overwhelm human strengths and intelligence.

en que la tecnología sobrepase las fortalezas e inteligencia humanas.

When is it going to cross the singularity,

¿Cuándo va a cruzar la singularidad,

replace our jobs,

reemplazar nuestros trabajos, ser más inteligente que los humanos?

be smarter than humans?

But there's this much earlier moment

Pero hay un momento mucho más temprano

when technology exceeds and overwhelms human weaknesses.

cuando la tecnología excede y abruma las debilidades humanas.

This point being crossed is at the root of addiction, polarization,

Este punto que se cruza está en la raíz de la adicción, la polarización,

radicalization, outrage-ification, vanity-ification, the entire thing.

la radicalización, la indignación, la vanidad, todo eso.

This is overpowering human nature.

Esto está dominando la naturaleza humana.

And this is checkmate on humanity."

Y esto es jaque mate para la humanidad".

Lawrence Lessig: So Tristan’s point is we’re always focused

Lawrence Lessig: La idea de Tristan es que siempre estamos enfocados

on this corner, when AGI comes,

en esta esquina, cuando llega la IGA,

when it's super intelligent,

cuando sea superinteligente,

when it's more intelligent than any of us.

cuando sea más inteligente que cualquiera de nosotros.

And that's what we now fear.

Y eso es lo que ahora tememos.

Whether we will get there in three years or 20 years,

Si llegaremos allí en tres años o 20 años,

what will happen then?

¿qué sucederá entonces?

But his point is, it's actually this place

Pero su idea es, en realidad, que es en este lugar

that we must begin to worry,

donde debemos comenzar a preocuparnos,

because at this place, it can overcome our weaknesses.

porque en este lugar, puede superar nuestras debilidades.

"The Social Dilemma"

"El dilema social"

was about the individual weaknesses we have,

se trataba de las debilidades individuales que tenemos:

not to be able to turn away from our phones,

no poder alejarnos de nuestros teléfonos,

or to convince our children to turn away from their phones.

o convencer a nuestros hijos de que se alejen de sus teléfonos.

But I want you to see that there's also a collective human weakness.

Pero quiero que vean que también hay una debilidad humana colectiva.

That this technology drives us to disable our capacity to act collectively

La tecnología deshabilita nuestra acción colectiva

in ways that any of us would want.

de maneras que cualquiera de nosotros querría.

So we are surrounded individually by these metalheads,

Estamos rodeados individualmente por estos drones asesinos,

and we are also surrounded as a people

y también estamos rodeados como pueblo

by these metalheads

por estos drones asesinos

long before AGI is anywhere on the horizon.

mucho antes de que la IAG esté en cualquier horizonte.

It overwhelms us.

Nos abruma.

AI gets us to do what it seeks,

La IA nos hace hacer lo que busca,

which is engagement,

que es engagement,

and we get democracy hacked in return.

y nosotros recibimos a cambio una democracia hackeada.

Now, if the first contact that we had gave us that,

Ahora, si el primer contacto que tuvimos nos dio eso,

if social media circa 2020 gave us that,

si las redes sociales alrededor de 2020 nos dieron eso,

what's this second contact with AI going to produce?

¿qué va a producir este segundo contacto con la IA?

When AI is capable, not just in figuring out how to target you

Cuando la IA sea capaz, no solo de averiguar cómo dirigirte

with the content it knows will elicit the most reaction

con el contenido que sabe que provocará la mayor reacción

and engagement from you,

y compromiso de tu parte,

but can create content

sino que puede crear contenido

that it knows will react or get you to engage more directly,

que sabe que reaccionará o te hará comprometerte más directamente,

whether true or false,

sea verdadero o falso,

whether slanderous or not.

sean calumnias o no".

What does that contact do?

¿Qué produce ese contacto?

I so hate the writers of "Game of Thrones"

Detesto a los guionistas de "Juego de tronos".

because their last season,

Porque en su última temporada,

they so completely ruined the whole series.

arruinaron por completo toda la serie.

(Laughter and applause)

(Risas y aplausos)

We can't use memes from "Game of Thrones" anymore.

Ya no podemos usar memes de "Juego de tronos".

But if we could, I would say winter is coming, friends,

Pero si pudiéramos, diría que se acerca el invierno, amigos,

I'm just going to say it anyway.

lo diré de todos modos.

Winter is coming, friends.

Se acerca el invierno, amigos.

And these AIs are the source that we have to worry about.

Y estas IA son la fuente de la que debemos preocuparnos.

So then, what is to be done?

Entonces, ¿qué se debe hacer?

Well, you know, if there's a flood, what you do is you turn around and run.

Bueno, si hay una inundación, das la vuelta y corres.

You move.

Te mueves.

You move to higher ground or protected ground.

Te mueves a un terreno más alto o protegido.

You find a way to insulate democracy

Encuentras una manera de aislar la democracia

or to shelter democracy from AI's force

o de proteger la democracia de la fuerza de la IA

or from AI's harmful force.

o de la fuerza dañina de la IA.

And, you know, the law does this in America with juries.

Y, la ley hace esto en EE. UU. con los jurados.

We have juries.

Tenemos jurados.

They deliberate,

Deliberan,

but they are protected in the types of information

pero están protegidos en los tipos de información

that they're allowed to hear or talk about or deliberate upon,

que se les permite escuchar o hablar o deliberar,

because we know we need to protect them

porque sabemos que necesitamos protegerlos

if they're to reach a judgment that is just.

si van a llegar a un juicio que sea justo.

And democracy reformers, especially across Europe,

Y los reformadores de la democracia, sobre todo en Europa,

están tratando de hacer esto ahora mismo.

are trying to do this right now.

Reformers building citizen assemblies,

La reformulación mediante asambleas ciudadanas,

across Europe mainly, in Japan as well.

principalmente en Europa, también en Japón.

And the citizen assemblies are these random, representative,

Las asambleas ciudadanas son estos cuerpos aleatorios, representativos,

informed and deliberative bodies

informados y deliberativos

that take on particular democratic questions

que abordan preguntas democráticas particulares

and address them in a way that could be protected

y las tratan de una manera que podría ser protegida

from this corruption of the AI.

de esta corrupción de la IA.

So Iceland was able to craft a constitution out of a process like this.

Islandia pudo elaborar una constitución a partir de un proceso como este.

Ireland was able to approve gay marriage and deregulation of abortion

Irlanda pudo aprobar el matrimonio gay y la desregulación del aborto

a través de un proceso como este.

through a process like this.

France has addressed climate change

Francia ha abordado el cambio climático

and also end-of-life decisions.

y también decisiones de fin de vida.

And across Germany there are many of these entities

Y en Alemania hay muchas de estas entidades

that are boiling up to find ways for a different democratic voice,

que están surgiendo para encontrar maneras de dar una voz democrática diferente,

to find voice.

para encontrar voz.

But here's the point.

Pero este es el quid.

These are extraordinarily hopeful and exciting, no doubt.

Estas son extraordinariamente esperanzadoras y emocionantes, sin duda.

But they are not just a good idea.

Pero no son solo una buena idea.

They are existential for democracy.

Son existenciales para la democracia.

They are security for democracy.

Son una seguridad para la democracia.

They are a way to protect us from this AI hacking

Son una forma de protegernos de este hackeo de IA

that steers against a public will.

que se opone a la voluntad pública.

This is change not just to make democracy better,

Este es un cambio no solo para mejorar la democracia,

a tweak to just make it a little bit more democratic.

un ajuste para hacerla un poco más democrática.

It's a change to let democracy survive,

Es un cambio para permitir que la democracia sobreviva,

given what we know technology will become.

dado lo que sabemos que la tecnología se convertirá.

This is a terrifying moment.

Este es un momento aterrador.

It's an exhilarating moment.

Es un momento emocionante.

Long before superintelligence, long before AGI threatens us,

Mucho antes de la superinteligencia, mucho antes de que la IAG nos amenace,

a different AI threatens us.

una IA diferente nos amenaza.

But there is something to do while we still can do something.

Pero hay algo que hacer mientras todavía podemos hacer algo.

We should know enough now

Deberíamos saber lo suficiente ahora

to know we can't trust democracy just now.

para saber que no podemos confiar en la democracia ahora.

We should see that we still have time to build something different.

Deberíamos ver que aún tenemos tiempo para construir algo diferente.

We should act with the love that makes anything possible,

Deberíamos actuar con el amor que hace que cualquier cosa sea posible,

not because we know we will succeed.

no porque sepamos que tendremos éxito.

I'm pretty sure we won't.

Estoy bastante seguro de que no lo haremos.

But because this is what love means.

Pero porque eso es lo que significa el amor.

You do whatever you can,

Haces lo que puedas,

whatever the odds, for your children,

cualesquiera que sean las probabilidades, por tus hijos,

for your family, for your country, for humanity

por tu familia, por tu país, por la humanidad

while there is still time,

mientras aún haya tiempo,

while our robot overlord is still just a sci-fi fantasy.

mientras la entidad suprema robótica sea solo ficción.

Thank you very much.

Muchas gracias.

(Applause)

(Aplausos)