How AI and Democracy Can Fix Each Other | Divya Siddarth | TED

Traducteur: laure veyrier Relecteur: Claire Ghyselen

Recently I told someone my work is on democracy and technology.

Il y a peu, j’ai parlé à quelqu’un de mon travail

sur la démocratie et la technologie.

He turned to me and said,

Il s’est tourné vers moi et m’a dit : « Waouh... je suis navrée. »

“Wow...

I’m sorry.”

(Laughter)

(Rires)

But I love my work.

Mais j'adore mon travail.

I know that we can build a world

Je sais que nous pouvons construire un monde

where technological marvels are directed towards people's benefit,

où les prouesses technologiques bénéficieront aux gens,

using their input.

sur bases de leurs propres données.

We have gotten so used to seeing democracy as a problem to be solved.

Nous nous sommes tellement habitués à voir la démocratie comme un problème à régler.

But I see democracy as a solution,

Mais je considère la démocratie comme une solution

not as a problem.

et non comme un problème.

Democracy was once a radical political project,

La démocratie était autrefois un projet politique radical,

itself a cutting-edge social technology,

une technologie sociale de pointe en soi,

a new way to answer the very question we are faced with now,

une nouvelle façon de répondre à la question à laquelle

nous sommes confrontés aujourd’hui,

in the era of artificial intelligence:

à l'ère de l'intelligence artificielle :

how do we use our capabilities to live well together?

comment utiliser nos compétences pour bien vivre ensemble ?

We are told that transformative technologies like AI are too complicated,

On nous dit que les technologies transformatrices comme l’IA

sont trop compliquées, ou trop risquées,

or too risky

or too important to be governed democratically.

ou trop importantes pour être gouvernées démocratiquement.

But this is precisely why they must be.

Mais c’est précisément pour cela qu’elles doivent l’être.

Si la démocratie existante n’ est pas à la hauteur de la tâche,

If existing democracy is unequal to the task,

our job is not to give up on it.

notre travail n’est pas de baisser les bras.

Our job is to evolve it.

Notre travail consiste à la faire évoluer

And to use technology as an asset to help us do so.

en nous épaulant de la technologie pour y parvenir.

Still, I understand his doubts.

Je comprends tout de même ces doutes.

I never meant to build my life around new forms of democracy.

Je n’ai jamais voulu construire ma vie autour de nouvelles formes de démocratie.

I started out just really believing in the power of science.

Au début, je croyais vraiment au pouvoir de la science.

I was modifying DNA in my kitchen at 12,

À 12 ans, je modifiais l’ADN dans ma cuisine

and when I got to Stanford as a computational biology major,

et quand j’ai intégré Stanford en biologie computationnelle,

I was converted to a new belief -- technology.

on m’a convertie à une nouvelle croyance : la technologie.

I truly believed in the power of tech to change the world.

Je croyais vraiment au pouvoir de la technologie pour changer le monde.

Maybe, like many of you.

Sans doute comme beaucoup d’entre vous.

But I saw that the technologies that really made a difference

Mais j’ai constaté que les technologies qui avaient un vrai impact

were the ones that were built with and for the collective.

étaient celles qui étaient conçues avec et pour le collectif.

Pas les milliards de dollars investis dans la 19e appli sociale

Not the billions of dollars

pumped into the 19th addiction-fueling social app.

alimentant la dépendance.

Mais les projets qui combinent la création de quelque chose de vraiment nouveau

But the projects that combine creating something truly new

with building in ways for people to access,

et la mise en place de moyens permettant aux gens d’y accéder,

benefit from and direct it.

d’en bénéficier et de les gérer.

Instead of social media, think of the internet.

Plutôt que les réseaux sociaux, pensez à Internet.

Built with public resources on open standards.

Construit avec des ressources publiques sur des normes ouvertes.

This is what brought me to democracy.

C'est ce qui m'a amené à la démocratie.

Technology expands what we are capable of.

La technologie enrichit ce dont nous sommes capables.

Democracy is how we decide what to do with that capability.

La démocratie c’est la façon dont nous décidons d’utiliser cette ressource.

Since then, I've worked on using democracy as a solution

Depuis, j'ai travaillé sur l'utilisation de la démocratie comme solution

in India, the US, the UK, Taiwan.

en Inde, aux États-Unis, au Royaume-Uni et à Taïwan.

I've worked alongside incredible collaborators

J’ai travaillé avec des collaborateurs incroyables

afin d’utiliser la démocratie pour aider à résoudre le COVID,

to use democracy to help solve COVID,

to help solve data rights.

les problèmes des droits relatifs aux données.

And as I'll tell you today,

Et comme je vais vous le dire aujourd’hui,

to help solve AI governance with policymakers around the world

pour aider à résoudre la question de la gouvernance de l’IA

avec les décideurs politiques du monde entier

and cutting-edge technology companies like OpenAI and Anthropic.

et des entreprises technologiques de pointe comme OpenAI et Anthropic.

How?

Comment ?

By recognizing that democracy is still in its infancy.

En reconnaissant que la démocratie n'en est qu'à ses balbutiements.

It is an early form of collective intelligence,

Il s'agit d'une forme précoce d'intelligence collective,

a way to put together decentralized input from diverse sources

un moyen de rassembler des informations décentralisées issues de diverses sources

and produce decisions that are better than the sum of their parts.

et de prendre des décisions qui sont meilleures que la somme de leurs parties.

That’s why, when my fantastic cofounder Saffron Huang and I

C’est pourquoi quand mon fantastique cofondateur Saffron Huang et moi

left our jobs at Google DeepMind and Microsoft

avons quitté nos fonctions chez Google DeepMind et Microsoft

pour créer de nouveaux modèles de gouvernance démocratique

to build new democratic governance models for transformative tech,

pour les technologies transformatrices,

I named our nonprofit the Collective Intelligence Project,

j’ai baptisé notre organisation à but non lucratif Collective Intelligence Project,

as a nod to the ever-evolving project of building collective intelligence

clin d’œil au projet en constante évolution

consistant à développer l’intelligence collective pour le bien-être commun.

for collective flourishing.

Since then we've done just that,

C’est exactement ce que nous avons fait depuis lors,

building new collective intelligence models to direct artificial intelligence,

créer de nouveaux modèles d’intelligence collective

pour encadrer l’intelligence artificielle et gérer les processus démocratiques.

to run democratic processes.

And we've incorporated the voices of thousands of people into AI governance.

Et nous avons intégré les voix de milliers de personnes dans la gouvernance de l'IA.

Here are a few of the things we've learned.

Voici quelques-unes des leçons que nous avons apprises.

First, people are willing and able to have difficult,

Tout d’abord, les gens sont disposés et capables

d’avoir des conversations difficiles et complexes sur des sujets nuancés.

complex conversations on nuanced topics.

When we asked people about the risks of AI they were most concerned about,

Quand nous avons demandé aux gens quels étaient les risques liés à l’IA

qui les préoccupaient le plus, ils n’ont pas trouvé de réponses faciles.

they didn't reach for easy answers.

Out of more than 100 risks put forward,

Parmi plus de 100 risques avancés,

the top-cited one: overreliance on systems we don't understand.

le plus cité est le recours excessif à des systèmes que nous ne comprenons pas.

We talked to people across the country,

Nous avons discuté avec des gens dans tout le pays,

from a veteran in the Midwest to a young teacher in the South.

d’un ancien combattant du Midwest à un jeune enseignant du Sud.

People were excited about the possibilities of this technology,

Les gens étaient enthousiasmés par les possibilités de cette technologie,

but there were specific things they wanted to understand

mais ils souhaitaient comprendre certaines choses spécifiques

about what models were capable of before seeing them deployed in the world.

sur les capacités des modèles avant de les déployer dans le monde.

A lot more reasonable than many of the policy conversations that we're in.

C’est bien plus raisonnable que la plupart des discussions politiques que nous avons.

And importantly, we saw very little of the polarization

Et surtout, nous avons très peu remarqué la polarisation

we're always hearing about.

dont nous entendons toujours parler.

On average, just a few divisive statements

En moyenne, quelques déclarations clivantes

for hundreds of consensus statements.

contre des centaines de déclarations consensuelles.

Even on the contentious issues of the day,

Même sur les sujets sensibles à l’époque,

like free speech or race and gender,

tels que la liberté d’expression ou la race et le genre,

we saw far more agreement than disagreement.

nous avons constaté beaucoup plus d'accord que de désaccord.

Almost three quarters of people agree that AI should protect free speech.

Près de trois quarts des gens pensent que

l’IA devrait garantir la liberté d’expression.

Ninety percent agree that AI should not be racist or sexist.

90% conviennent que l’IA ne devrait pas être raciste ou sexiste.

Only around 50 percent think that AI should be funny though,

Cependant, environ 50 % seulement pensent que l’IA devrait être drôle,

so they are still contentious issues out there.

c’est donc encore une question sensible.

These last statistics

Ces dernières statistiques

are from our collective constitution project with Anthropic,

sont issues de notre projet de constitution collective avec Anthropic,

où nous avons reformé l'un des modèles linguistiques les plus puissants du monde

where we retrained one of the world's most powerful language models

on principles written by 1,000 representative Americans.

sur des principes écrits par 1 000 représentants américains.

Not AI developers or regulators or researchers at elite universities.

Pas des développeurs d'IA, des régulateurs ou des chercheurs d'universités d'élite.

We built on a way of training AI

Nous nous sommes appuyés sur une formation de l’IA

that relies on a written set of principles or a constitution,

qui repose sur un ensemble de principes écrits ou une constitution,

we asked ordinary people to cowrite this constitution,

nous avons demandé à des gens lambdas de coécrire cette constitution,

we compared it to a model that researchers had come up with.

nous l’avons comparée à un modèle élaboré par des chercheurs.

When we started this project, I wasn't sure what to expect.

Lorsque nous avons commencé ce projet, je ne savais pas trop à quoi m’attendre.

Maybe the naysayers were right.

Peut-être que les détracteurs avaient raison.

AI is complicated.

L'IA est complexe.

Maybe people wouldn't understand what we were asking them.

Peut-être que les gens ne comprendraient pas ce que nous leur demandions.

Maybe we'd end up with something awful.

Peut-être qu’on finirait avec quelque chose de terrible.

But the people’s model, trained on the cowritten constitution,

Mais le modèle populaire, basé sur la constitution co-écrite,

was just as capable and more fair

était tout aussi performant et plus équitable

than the model the researchers had come up with.

que le modèle mis au point par les chercheurs.

People with little to no experience in AI

Les personnes ayant peu ou pas d’expérience en matière d’IA

did better than researchers, who work on this full-time,

ont obtenu de meilleurs résultats que les chercheurs y travaillant à plein temps,

in building a fairer chatbot.

pour créer un chatbot plus équitable.

Maybe I shouldn't have been surprised.

Je n’aurais peut-être pas dû être surprise,

As one of our participants from another process said,

comme l’a dit l’un de nos participants à un autre processus :

"They may be experts in AI, but I have eight grandchildren.

« Ils sont peut-être des experts en IA, mais j’ai huit petits-enfants.

I know how to pick good values."

Je sais comment choisir les bonnes valeurs. »

If technology expands what we are capable of

Si la technologie élargit ce dont nous sommes capables

and democracy is how we decide what to do with that capability,

et la démocratie est la façon dont nous décidons d’utiliser cette capacité,

here is early evidence that democracy can do a good job deciding.

voici une preuve que la démocratie est efficace pour prendre une décision.

Bien entendu, ces processus sont insuffisants.

Of course, these processes aren't enough.

Collective intelligence requires a broader reimagining of technology

L’intelligence collective nécessite une refonte plus large

de la technologie et de la démocratie.

and democracy.

That’s why we’re also working on co-ownership models

C'est pourquoi nous travaillons également sur des modèles de copropriété

for the data that AI is built on -- which, after all, belongs to all of us --

pour les données sur lesquelles repose l’IA qui, après tout, appartient à tous,

et utilisons l’IA elle-même pour créer

and using AI itself to create new and better decision-making processes.

de nouveaux et meilleurs processus de prise de décision.

Taking advantage of the things

Exploiter ce que les modèles de langage sont capables de faire,

that language models can do that humans can’t,

contrairement à nous, comme traiter d’énormes quantités de texte.

like processing huge amounts of text input.

Our work in Taiwan has been an incredible test bed for all of this.

Notre travail à Taïwan a constitué un banc d’essai incroyable pour tout cela.

Along with Minister Audrey Tang and the Ministry of Digital Affairs,

Aux côtés de la ministre Audrey Tang et du ministère des Affaires numériques,

we are working on processes to ask Taiwan's millions of citizens

nous travaillons sur des processus pour inviter les millions de citoyens taïwanais

what they actually want to see as a future with AI.

à dire ce qu’ils souhaitent réellement pour l’avenir de l’IA.

And using that input not just to legislate,

Et pour utiliser cette contribution non seulement pour légiférer,

but to build.

mais aussi pour construire.

Because one thing that has already come out of these processes

Parce que ces processus ont déjà mis en évidence

que les gens sont vraiment engoués par une solution publique pour l’IA,

is that people are truly excited about a public option for AI,

one that is built on shared public data that is reliably safe,

une solution qui repose sur des données publiques partagées, sûres et fiables,

that allows communities to access, benefit from

qui permet aux communautés d'y accéder, d'en bénéficier

and adjust it to their needs.

et de les adapter en fonction de leurs besoins.

This is what the world of technology could look like.

Voici à quoi pourrait ressembler le monde de la technologie.

Steered by the many for the many.

Dirigé par le plus grand nombre pour le plus grand nombre.

I often find that we accept unnecessary trade-offs

Je constate souvent que nous acceptons des compromis inutiles

when it comes to transformative tech.

quand il s’agit de technologies transformatrices.

We are told that we might need to sacrifice democracy

On nous dit que nous devrons peut-être sacrifier la démocratie

for the sake of technological progress.

au profit du progrès technologique.

We have no choice but to concentrate power to keep ourselves safe

Nous n’avons pas d’autre choix que de concentrer nos forces

pour nous protéger des risques éventuels.

from possible risks.

This is wrong.

C'est faux.

It is impossible to have any one of these things --

Il est impossible d’avoir l’un de ces éléments,

progress, safety or democratic participation --

à savoir le progrès, la sécurité ou la participation démocratique,

without the others.

sans les autres.

If we resign ourselves to only two of the three,

Si nous nous résignons à ne retenir que deux des trois,

we will end up with either centralized control or chaos.

nous nous retrouverons soit avec un contrôle centralisé, soit avec le chaos.

Either a few people get to decide or no one does.

Soit quelques personnes décident, soit personne ne le fait.

These are both terrible outcomes,

Ces deux issues sont terribles,

and our work shows that there is another way.

et nos travaux montrent qu'il existe une autre solution.

Each of our projects advanced progress,

Chacun de nos projets a fait avancer le progrès, la sécurité

safety and democratic participation

et la participation démocratique

by building cutting-edge democratic AI models,

en élaborant des modèles d’IA démocratiques de pointe,

by using public expertise as a way to understand diffuse risks

en utilisant l'expertise publique pour comprendre les risques diffus

and by imagining co-ownership models for the digital commons.

et en imaginant des modèles de copropriété pour l’agora numérique.

We are so far from the best collective intelligence systems we could have.

Nous sommes loin des meilleurs systèmes d’intelligence collective.

If we started over on building a decision-making process for the world,

Si nous recommencions à bâtir un processus de prise de décisions pour le monde,

what would we choose?

que choisirions-nous ?

Maybe we'd be better at separating financial power from political power.

Nous ferions peut-être mieux de séparer le pouvoir financier du pouvoir politique.

Maybe we'd create thousands of new models of corporations

Peut-être créerons-nous des milliers de nouveaux modèles de sociétés

or bureaucracies.

ou de bureaucraties.

Maybe we'd build in the voices of natural elements

Peut-être pourrions-nous intégrer les voix des éléments naturels

ou des générations futures.

or future generations.

Here's a secret.

Voici un secret.

In some ways, we are always starting from scratch.

D'une certaine façon, nous partons toujours de zéro.

New technologies usher in new paradigms

Les nouvelles technologies conduisent à de nouveaux paradigmes

that can come with new collective intelligence systems.

qui peuvent générer de nouveaux systèmes d’intelligence collective.

We can create new ways of living well together

Nous pouvons créer de nouvelles façons de bien vivre ensemble

if we use these brief openings for change.

si nous exploitons ces brèches pour apporter des changements.

The story of technology and democracy is far from over.

L'histoire de la technologie et de la démocratie est loin d'être terminée.

It doesn't have to be this way.

Ca n’est pas une fatalité.

Things could be unimaginably better.

Les choses pourraient être tellement meilleures.

As the Indian author Arundhati Roy once said,

Comme l'a dit un jour l'auteure indienne Arundhati Roy :

"Another world is not only possible,

« Un autre monde n’est pas seulement possible,

she is on her way.

il est en route.

On a quiet day, I can hear her breathing."

Par temps calme, je peux l’entendre respirer. »

I can hear our new world breathing.

J'entends notre nouveau monde respirer.

One in which we shift the systems we have

Un monde dans lequel nous ferions bouger les lignes en utilisant la solution

towards using the solution of democracy to build the worlds we want to see.

de la démocratie pour construire les mondes que nous voulons voir.

The future is up to us.

L'avenir ne dépend que de nous.

We have a world to win.

Nous avons un monde à gagner.

Thank you.

Merci.

(Applause)

(Applaudissements)