How AI and Democracy Can Fix Each Other | Divya Siddarth | TED

Traductor: Sebastian Betti Revisor: Alicia Brito-Antequera

Recently I told someone my work is on democracy and technology.

Hace poco le dije a alguien que mi trabajo

se centra en la democracia y la tecnología.

He turned to me and said,

Se volvió hacia mí y me dijo:

“Wow...

"Vaya...

I’m sorry.”

Lo siento".

(Laughter)

(Risas)

But I love my work.

Pero me encanta mi trabajo.

I know that we can build a world

Sé que podemos construir un mundo en el que

where technological marvels are directed towards people's benefit,

las maravillas tecnológicas se dirijan hacia el beneficio de las personas,

using their input.

utilizando sus aportaciones.

We have gotten so used to seeing democracy as a problem to be solved.

Nos hemos acostumbrado a ver la democracia como un problema que hay que resolver.

But I see democracy as a solution,

Pero veo la democracia como una solución,

not as a problem.

no como un problema.

Democracy was once a radical political project,

La democracia alguna vez fue un proyecto político radical,

itself a cutting-edge social technology,

en sí misma una tecnología social de vanguardia,

a new way to answer the very question we are faced with now,

una nueva forma de responder a la pregunta a la que nos enfrentamos ahora,

in the era of artificial intelligence:

en la era de la inteligencia artificial:

how do we use our capabilities to live well together?

¿cómo utilizamos nuestras capacidades para vivir bien juntos?

We are told that transformative technologies like AI are too complicated,

Se nos dice que las tecnologías transformadoras como la IA

son demasiado complicadas, demasiado arriesgadas

or too risky

or too important to be governed democratically.

o demasiado importantes para gobernarse democráticamente.

But this is precisely why they must be.

Pero esa es precisamente la razón por la que deben serlo.

If existing democracy is unequal to the task,

Si la democracia actual no está a la altura de la tarea,

our job is not to give up on it.

nuestro trabajo no es darnos por vencidos.

Our job is to evolve it.

Nuestro trabajo consiste en desarrollarla.

And to use technology as an asset to help us do so.

Y utilizar la tecnología como un activo que nos ayude a hacerlo.

Still, I understand his doubts.

Aun así, comprendo sus dudas.

I never meant to build my life around new forms of democracy.

Nunca quise basar mi vida en torno a nuevas formas de democracia.

I started out just really believing in the power of science.

Empecé creyendo realmente en el poder de la ciencia.

I was modifying DNA in my kitchen at 12,

Estaba modificando el ADN en mi cocina a los 12 años,

and when I got to Stanford as a computational biology major,

y cuando llegué a Stanford para estudiar biología computacional,

I was converted to a new belief -- technology.

me adapté a una nueva creencia: la tecnología.

I truly believed in the power of tech to change the world.

Creía en el poder de la tecnología para cambiar el mundo.

Maybe, like many of you.

Tal vez, como muchos de Uds.

But I saw that the technologies that really made a difference

Pero me di cuenta de que las tecnologías que marcaban la diferencia

were the ones that were built with and for the collective.

eran las que se construían con y para el colectivo.

Not the billions of dollars

No los miles de millones de dólares invertidos

pumped into the 19th addiction-fueling social app.

en la 19a aplicación social que fomenta las adicciones.

But the projects that combine creating something truly new

Sino los proyectos que combinan la creación de algo verdaderamente nuevo

with building in ways for people to access,

con la creación de formas que permitan a las personas acceder a él,

benefit from and direct it.

beneficiarse de él y dirigirlo.

Instead of social media, think of the internet.

En lugar de las redes sociales, piensen en Internet.

Built with public resources on open standards.

Construido con recursos públicos sobre estándares abiertos.

This is what brought me to democracy.

Esto es lo que me llevó a la democracia.

Technology expands what we are capable of.

La tecnología amplía lo que somos capaces de hacer.

Democracy is how we decide what to do with that capability.

La democracia es la forma en que decidimos qué hacer con esa capacidad.

Desde entonces, he trabajado para utilizar la democracia como solución

Since then, I've worked on using democracy as a solution

in India, the US, the UK, Taiwan.

en India, EE. UU., Reino Unido y Taiwán.

I've worked alongside incredible collaborators

He trabajado junto a increíbles colaboradores

para usar la democracia para ayudar a resolver la COVID,

to use democracy to help solve COVID,

to help solve data rights.

para ayudar a resolver los derechos de los datos.

And as I'll tell you today,

Y, como les voy a contar,

to help solve AI governance with policymakers around the world

para ayudar a resolver la gobernanza de la IA

con los responsables políticos de todo el mundo

and cutting-edge technology companies like OpenAI and Anthropic.

y con empresas de tecnología de vanguardia como OpenAI y Anthropic.

How?

¿Cómo?

By recognizing that democracy is still in its infancy.

Reconociendo que la democracia aún está en pañales.

It is an early form of collective intelligence,

Es una forma temprana de inteligencia colectiva,

a way to put together decentralized input from diverse sources

una forma de reunir información descentralizada de diversas fuentes

and produce decisions that are better than the sum of their parts.

y producir decisiones que sean mejores que la suma de sus partes.

That’s why, when my fantastic cofounder Saffron Huang and I

Por eso, cuando mi fantástica cofundadora Saffron Huang y yo

left our jobs at Google DeepMind and Microsoft

dejamos nuestros trabajos en Google DeepMind y Microsoft

to build new democratic governance models for transformative tech,

para crear nuevos modelos de gobernanza democrática

I named our nonprofit the Collective Intelligence Project,

lo hicimos con el Proyecto de Inteligencia Colectiva,

as a nod to the ever-evolving project of building collective intelligence

como guiño a la evolución del desarrollo de la inteligencia colectiva

for collective flourishing.

para el florecimiento colectivo.

Since then we've done just that,

Desde entonces, hemos hecho precisamente eso:

building new collective intelligence models to direct artificial intelligence,

crear nuevos modelos de inteligencia colectiva

para dirigir la IA y los procesos democráticos.

to run democratic processes.

And we've incorporated the voices of thousands of people into AI governance.

Y hemos incorporado las voces de miles de personas en la gobernanza de la IA.

Estas son algunas de las cosas que hemos aprendido.

Here are a few of the things we've learned.

First, people are willing and able to have difficult,

Primero, las personas están dispuestas a conversaciones difíciles y complejas

complex conversations on nuanced topics.

sobre temas matizados.

When we asked people about the risks of AI they were most concerned about,

Cuando preguntamos sobre los riesgos de la IA que más les preocupaban,

they didn't reach for easy answers.

no buscaron respuestas fáciles.

Out of more than 100 risks put forward,

De los más de 100 riesgos presentados,

the top-cited one: overreliance on systems we don't understand.

el más citado fue la dependencia excesiva de sistemas que no entendemos.

We talked to people across the country,

Hablamos con personas de todo el país,

from a veteran in the Midwest to a young teacher in the South.

desde un veterano del Medio Oeste hasta un joven profesor del Sur.

People were excited about the possibilities of this technology,

La gente estaba entusiasmada con las posibilidades de esta tecnología,

but there were specific things they wanted to understand

pero había cosas específicas que querían entender

about what models were capable of before seeing them deployed in the world.

de los modelos antes de verlos desplegados en el mundo.

A lot more reasonable than many of the policy conversations that we're in.

Es mucho más razonable que muchas de las conversaciones políticas actuales.

And importantly, we saw very little of the polarization

Y lo más importante, vimos muy poca polarización,

we're always hearing about.

de la que siempre oímos hablar.

En promedio, solo unas pocas declaraciones divisorias

On average, just a few divisive statements

por cientos de declaraciones consensuadas.

for hundreds of consensus statements.

Incluso en los temas polémicos del momento,

Even on the contentious issues of the day,

como la libertad de expresión o la raza y el género,

like free speech or race and gender,

we saw far more agreement than disagreement.

vimos muchos más acuerdos que desacuerdos.

Casi las tres cuartas partes de las personas están de acuerdo

Almost three quarters of people agree that AI should protect free speech.

en que la IA debe proteger la libertad de expresión.

Ninety percent agree that AI should not be racist or sexist.

El 90 % está de acuerdo en que la IA no debe ser racista o sexista.

Only around 50 percent think that AI should be funny though,

Sin embargo, solo un 50 % piensa que la IA debería ser divertida,

so they are still contentious issues out there.

por lo que siguen siendo temas polémicos.

These last statistics

Estas últimas estadísticas

provienen de nuestro proyecto de constitución colectiva con Anthropic,

are from our collective constitution project with Anthropic,

donde volvimos a capacitar a uno de los modelos lingüísticos

where we retrained one of the world's most powerful language models

más potentes del mundo

on principles written by 1,000 representative Americans.

sobre la base de principios escritos por 1000 estadounidenses representativos.

Not AI developers or regulators or researchers at elite universities.

No son desarrolladores de IA, reguladores

o investigadores de universidades de élite.

Empleamos una forma de entrenar a la IA

We built on a way of training AI

con base en un conjunto escrito de principios o en una constitución,

that relies on a written set of principles or a constitution,

we asked ordinary people to cowrite this constitution,

pedimos a la gente común que colaborara en la redacción de esta constitución

we compared it to a model that researchers had come up with.

y la comparamos con un modelo ideado por los investigadores.

When we started this project, I wasn't sure what to expect.

Cuando empezamos este proyecto, no estaba segura de qué esperar.

Maybe the naysayers were right.

Quizá los detractores tenían razón.

AI is complicated.

La IA es complicada.

Maybe people wouldn't understand what we were asking them.

Quizá la gente no entendería lo que les preguntamos.

Maybe we'd end up with something awful.

Quizá acabemos con algo horrible.

But the people’s model, trained on the cowritten constitution,

Pero el modelo popular, basado en la constitución coescrita,

was just as capable and more fair

era igual de competente

y más justo que el modelo ideado por los investigadores.

than the model the researchers had come up with.

A las personas con poca o ninguna experiencia en IA

People with little to no experience in AI

did better than researchers, who work on this full-time,

les fue mejor que a los investigadores, que trabajan en ello a tiempo completo,

in building a fairer chatbot.

a la hora de crear un chatbot más justo.

Maybe I shouldn't have been surprised.

Quizá no debería haberme sorprendido.

As one of our participants from another process said,

Como dijo uno de nuestros participantes de otro proceso:

"They may be experts in AI, but I have eight grandchildren.

“Puede que sean expertos en IA, pero tengo ocho nietos.

I know how to pick good values."

Sé cómo elegir buenos valores".

If technology expands what we are capable of

Si la tecnología amplía lo que somos capaces de hacer

and democracy is how we decide what to do with that capability,

y la democracia es la forma en que decidimos qué hacer con esa capacidad,

here is early evidence that democracy can do a good job deciding.

aquí tenemos las primeras pruebas

de que la democracia puede hacer un buen trabajo a la hora de decidir.

Por supuesto, estos procesos no son suficientes.

Of course, these processes aren't enough.

Collective intelligence requires a broader reimagining of technology

La inteligencia colectiva requiere

una reinvención más amplia de la tecnología y la democracia.

and democracy.

That’s why we’re also working on co-ownership models

También trabajamos en modelos de copropiedad de los datos

for the data that AI is built on -- which, after all, belongs to all of us --

en los que se basa la IA, que, al fin y al cabo, nos pertenecen a todos,

y utilizamos la propia IA para crear nuevos y mejores

and using AI itself to create new and better decision-making processes.

procesos de toma de decisiones.

Taking advantage of the things

Aprovechar las cosas que los modelos lingüísticos pueden hacer

that language models can do that humans can’t,

y que los humanos no,

like processing huge amounts of text input.

como procesar enormes cantidades de texto.

Our work in Taiwan has been an incredible test bed for all of this.

Nuestro trabajo en Taiwán ha sido un increíble banco de pruebas para todo esto.

Along with Minister Audrey Tang and the Ministry of Digital Affairs,

Junto con la ministra Audrey Tang y el Ministerio de Asuntos Digitales,

we are working on processes to ask Taiwan's millions of citizens

trabajamos en procesos para preguntar a los millones de ciudadanos de Taiwán

what they actually want to see as a future with AI.

qué es lo que realmente quieren ver como futuro con la IA.

And using that input not just to legislate,

Y utilizamos esa información no solo para legislar,

but to build.

sino también para construir.

Because one thing that has already come out of these processes

Porque uno de los resultados de estos procesos

is that people are truly excited about a public option for AI,

es que las personas están entusiasmadas con una opción pública de IA,

one that is built on shared public data that is reliably safe,

que se base en datos públicos compartidos que sean seguros y confiables,

that allows communities to access, benefit from

que permita a las comunidades acceder a ellos, beneficiarse de ellos

and adjust it to their needs.

y ajustarlos a sus necesidades.

This is what the world of technology could look like.

Así es como podría ser el mundo de la tecnología.

Steered by the many for the many.

Dirigido por muchos para muchos.

I often find that we accept unnecessary trade-offs

A menudo me doy cuenta de que aceptamos concesiones innecesarias

when it comes to transformative tech.

en tecnologías transformadoras.

We are told that we might need to sacrifice democracy

Nos dicen que es posible que tengamos que sacrificar la democracia

for the sake of technological progress.

en aras del progreso tecnológico.

We have no choice but to concentrate power to keep ourselves safe

No tenemos más opción que concentrar el poder para mantenernos a salvo

from possible risks.

de los posibles riesgos.

This is wrong.

Esto está mal.

It is impossible to have any one of these things --

Es imposible tener ninguna de estas cosas,

progress, safety or democratic participation --

progreso, seguridad o participación democrática,

without the others.

sin las demás.

If we resign ourselves to only two of the three,

Si nos resignamos a solo dos de las tres,

we will end up with either centralized control or chaos.

acabaremos con un control centralizado o con el caos.

Either a few people get to decide or no one does.

O unas pocas personas pueden decidir o nadie lo hace.

These are both terrible outcomes,

Ambos son resultados terribles,

and our work shows that there is another way.

y nuestro trabajo demuestra que hay otro camino.

Each of our projects advanced progress,

Cada uno de nuestros proyectos promovió el progreso,

safety and democratic participation

la seguridad y la participación democrática

by building cutting-edge democratic AI models,

mediante la creación de modelos de IA democráticos de vanguardia,

by using public expertise as a way to understand diffuse risks

el uso de la experiencia pública como una forma de entender los riesgos difusos

and by imagining co-ownership models for the digital commons.

y la imaginación de modelos de copropiedad de bienes comunes digitales.

We are so far from the best collective intelligence systems we could have.

Estamos muy lejos de tener los mejores sistemas de inteligencia colectiva.

If we started over on building a decision-making process for the world,

De volver a empezar a construir un proceso de toma de decisiones para el mundo,

what would we choose?

¿qué elegiríamos?

Maybe we'd be better at separating financial power from political power.

Tal vez separaríamos mejor el poder financiero del poder político.

Maybe we'd create thousands of new models of corporations

Tal vez crearíamos miles de nuevos modelos de corporaciones

or bureaucracies.

o burocracias.

Maybe we'd build in the voices of natural elements

Tal vez podríamos aprovechar las voces de los elementos naturales

or future generations.

o de las generaciones futuras.

Here's a secret.

He aquí un secreto.

In some ways, we are always starting from scratch.

En cierto modo, siempre partimos de cero.

New technologies usher in new paradigms

Las nuevas tecnologías introducen nuevos paradigmas

that can come with new collective intelligence systems.

que pueden venir acompañados de nuevos sistemas de inteligencia colectiva.

We can create new ways of living well together

Podemos crear nuevas formas de vivir bien juntos

if we use these brief openings for change.

si aprovechamos estas breves oportunidades de cambio.

The story of technology and democracy is far from over.

La historia de la tecnología y la democracia está lejos de terminar.

It doesn't have to be this way.

No tiene por qué ser así.

Things could be unimaginably better.

Las cosas podrían estar inimaginablemente mejor.

As the Indian author Arundhati Roy once said,

Como dijo una vez la autora india Arundhati Roy:

"Another world is not only possible,

"Otro mundo no solo es posible,

she is on her way.

sino que ella está en camino.

On a quiet day, I can hear her breathing."

En un día tranquilo, puedo oírla respirar".

I can hear our new world breathing.

Puedo escuchar la respiración de nuestro nuevo mundo.

One in which we shift the systems we have

Uno en el que cambiemos los sistemas que tenemos

towards using the solution of democracy to build the worlds we want to see.

para utilizar la solución de la democracia

para construir los mundos que queremos ver.

The future is up to us.

El futuro depende de nosotros.

We have a world to win.

Tenemos un mundo que ganar.

Thank you.

Gracias.

(Applause)

(Aplausos)