How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Traduttore: Alessia Peraro Revisore: Chiara Mondini

When I talk to people about artificial intelligence,

Quando parlo con le persone di intelligenza artificiale,

something I hear a lot from non-experts is “I don’t understand AI.”

qualcosa che gli inesperti mi dicono spesso è «Non capisco l’IA».

But when I talk to experts, a funny thing happens.

Ma quando parlo con esperti, succede una cosa divertente.

They say, “I don’t understand AI, and neither does anyone else.”

Dicono: «Non capisco l’IA e nessuno ci riesce».

This is a pretty strange state of affairs.

È una situazione piuttosto strana.

Normally, the people building a new technology

Normalmente, le persone che realizzano una nuova tecnologia

understand how it works inside and out.

capiscono come funziona dentro e fuori.

But for AI, a technology that's radically reshaping the world around us,

Ma per l’IA, una tecnologia che sta rimodellando radicalmente il mondo,

that's not so.

non è così.

Experts do know plenty about how to build and run AI systems, of course.

Gli esperti sanno molto su come creare e gestire sistemi di IA, ovviamente.

But when it comes to how they work on the inside,

Ma per quanto riguarda il loro funzionamento interno,

there are serious limits to how much we know.

ci sono seri limiti in merito a quanto ne sappiamo.

And this matters because without deeply understanding AI,

E questo è importante perché senza una profonda comprensione dell’IA,

it's really difficult for us to know what it will be able to do next,

è davvero difficile sapere cosa sarà in grado di fare dopo,

or even what it can do now.

o anche cosa possa fare ora.

And the fact that we have such a hard time understanding

E il fatto che abbiamo difficoltà a capire

what's going on with the technology and predicting where it will go next,

cosa stia succedendo con la tecnologia e a prevedere dove si arriverà in futuro

is one of the biggest hurdles we face in figuring out how to govern AI.

è uno dei maggiori ostacoli da affrontare nel capire come governare l’IA.

But AI is already all around us,

Ma l’IA è già intorno a noi,

so we can't just sit around and wait for things to become clearer.

quindi non possiamo restare seduti ad aspettare che le cose siano più chiare.

We have to forge some kind of path forward anyway.

Dobbiamo comunque creare una sorta di percorso da seguire.

I've been working on these AI policy and governance issues

Lavoro su questi problemi di politica e governance dell’IA

for about eight years,

da circa otto anni,

First in San Francisco, now in Washington, DC.

prima a San Francisco, ora a Washington D.C.

Along the way, I've gotten an inside look

Durante il mio percorso, ho potuto vedere dall’interno

at how governments are working to manage this technology.

come i governi stiano lavorando per gestire questa tecnologia.

And inside the industry, I've seen a thing or two as well.

E anche all’interno del settore, ho osservato un paio di cose.

So I'm going to share a couple of ideas

Quindi condividerò alcune idee

for what our path to governing AI could look like.

su come potrebbe essere il nostro percorso per governare l’IA.

But first, let's talk about what actually makes AI so hard to understand

Ma prima, parliamo di cosa renda l’IA così difficile da capire

and predict.

e da prevedere.

One huge challenge in building artificial "intelligence"

Una grande sfida nella costruzione dell’ «intelligenza» artificiale

is that no one can agree on what it actually means

è che nessuno sia d’accordo su cosa significhi davvero

to be intelligent.

essere intelligenti.

This is a strange place to be in when building a new tech.

Ed è una cosa un po’ scomoda quando sviluppi una nuova tecnologia.

When the Wright brothers started experimenting with planes,

Quando i fratelli Wright iniziarono a sperimentare con gli aerei,

they didn't know how to build one,

non sapevano come costruirne uno,

but everyone knew what it meant to fly.

ma tutti sapevano cosa significasse volare.

With AI on the other hand,

Per quanto riguarda l’IA, invece,

different experts have completely different intuitions

diversi esperti hanno intuizioni completamente diverse

about what lies at the heart of intelligence.

su ciò che sta alla base dell’intelligenza.

Is it problem solving?

È la capacità di risolvere problemi?

Is it learning and adaptation,

Capacità di apprendimento e adattamento,

are emotions,

le emozioni

or having a physical body somehow involved?

o l’avere un corpo fisico c’entrano qualcosa?

We genuinely don't know.

Non lo sappiamo con certezza.

But different answers lead to radically different expectations

Ma risposte diverse portano ad aspettative radicalmente diverse

about where the technology is going and how fast it'll get there.

su dove si stia dirigendo la tecnologia e quanto velocemente ci arriverà.

An example of how we're confused is how we used to talk

Un esempio della nostra confusione è come parlavamo

about narrow versus general AI.

di IA ristretta e IA generale.

For a long time, we talked in terms of two buckets.

Per molto tempo ne abbiamo parlato in termini separati.

A lot of people thought we should just be dividing between narrow AI,

Molte persone pensavano bisognasse semplicemente distinguere un’IA ristretta,

trained for one specific task,

addestrata per un compito specifico,

like recommending the next YouTube video,

come consigliare il prossimo video di YouTube,

versus artificial general intelligence, or AGI,

da un’IA generale o AGI,

that could do everything a human could do.

che potrebbe fare ciò che può fare un essere umano.

We thought of this distinction, narrow versus general,

Consideravamo questa distinzione, ristretta vs. generale,

as a core divide between what we could build in practice

come una divisione fondamentale tra ciò che potremmo costruire concretamente

and what would actually be intelligent.

e ciò che sarebbe realmente intelligente.

But then a year or two ago, along came ChatGPT.

Ma poi un anno o due fa, è arrivata ChatGPT.

If you think about it,

Pensandoci bene,

you know, is it narrow AI, trained for one specific task?

si tratta di un’IA ristretta, addestrata per un compito specifico?

Or is it AGI and can do everything a human can do?

Oppure è un’ AGI che può fare tutto ciò che fa un essere umano?

Clearly the answer is neither.

In realtà è nessuna delle due.

It's certainly general purpose.

È certamente di uso generico.

It can code, write poetry,

Può programmare, scrivere poesie,

analyze business problems, help you fix your car.

analizzare problemi aziendali, aiutarti a riparare l’auto.

But it's a far cry from being able to do everything

Ma è ben lontano dall’essere in grado di fare le cose

as well as you or I could do it.

così come possiamo farle noi.

So it turns out this idea of generality

Quindi questa idea di generalità in realtà

doesn't actually seem to be the right dividing line

non sembra essere la giusta linea di demarcazione

between intelligent and not.

tra intelligente e non intelligente.

And this kind of thing

E questo genere di cose

is a huge challenge for the whole field of AI right now.

sono ad oggi una grande sfida per il campo dell’IA.

We don't have any agreement on what we're trying to build

Non c’è alcun accordo su ciò che cerchiamo di costruire

or on what the road map looks like from here.

o su come sarà la road map da qui in poi.

We don't even clearly understand the AI systems that we have today.

Non capiamo nemmeno del tutto i sistemi di IA di cui disponiamo oggi.

Why is that?

Come mai?

Researchers sometimes describe deep neural networks,

I ricercatori a volte descrivono le reti neurali profonde,

the main kind of AI being built today,

il principale tipo di IA costruito oggi,

as a black box.

come una scatola nera.

But what they mean by that is not that it's inherently mysterious

Ma ciò che intendono con questo non è che sia intrinsecamente misterioso

and we have no way of looking inside the box.

e che non abbiamo modo di guardare dentro la scatola.

The problem is that when we do look inside,

Il problema è che quando guardiamo all'interno,

what we find are millions,

troviamo milioni,

billions or even trillions of numbers

miliardi o addirittura trilioni di numeri

that get added and multiplied together in a particular way.

che vengono sommati e moltiplicati in un modo particolare.

What makes it hard for experts to know what's going on

Per gli esperti è difficile sapere cosa succede

is basically just, there are too many numbers,

perché ci sono troppi numeri

and we don't yet have good ways of teasing apart what they're all doing.

e non abbiamo ancora mezzi validi per distinguere cosa faccia ognuno di essi.

There's a little bit more to it than that, but not a lot.

È un po’ più complicato di così, ma non molto.

So how do we govern this technology

Quindi, come possiamo controllare questa tecnologia

that we struggle to understand and predict?

che facciamo fatica a comprendere e prevedere?

I'm going to share two ideas.

Condividerò due idee.

One for all of us and one for policymakers.

Una per tutti noi e una per i responsabili politici.

First, don't be intimidated.

Primo, non lasciatevi intimidire.

Either by the technology itself

Né dalla tecnologia stessa

or by the people and companies building it.

né dalle persone e dalle aziende che la costruiscono.

On the technology,

Stando alla tecnologia,

AI can be confusing, but it's not magical.

l’IA può creare confusione, ma non è magia.

There are some parts of AI systems we do already understand well,

Ci sono alcune parti dei sistemi di IA che conosciamo già bene,

and even the parts we don't understand won't be opaque forever.

e anche le parti che non comprendiamo non rimarranno oscure per sempre.

An area of research known as “AI interpretability”

Un'area di ricerca nota come «interpretabilità dell'IA»

has made quite a lot of progress in the last few years

ha fatto molti progressi negli ultimi anni

in making sense of what all those billions of numbers are doing.

nel dare un senso a ciò che fanno tutti quei miliardi di numeri.

One team of researchers, for example,

Un team di ricercatori, ad esempio,

found a way to identify different parts of a neural network

ha trovato un modo per identificare diverse parti di una rete neurale

that they could dial up or dial down

che potevano comporre o diminuire

to make the AI's answers happier or angrier,

per rendere le risposte dell’IA più felici o arrabbiate,

more honest,

più oneste,

more Machiavellian, and so on.

più machiavelliche e così via.

If we can push forward this kind of research further,

Se riusciamo a portare avanti questo tipo di ricerca,

then five or 10 years from now,

tra cinque o 10 anni,

we might have a much clearer understanding of what's going on

potremmo avere una idea molto più chiara di cosa succeda

inside the so-called black box.

all’interno della cosiddetta scatola nera.

And when it comes to those building the technology,

E quando si tratta di chi costruisce la tecnologia,

technologists sometimes act as though

i tecnici a volte vogliono far credere

if you're not elbows deep in the technical details,

che chi non conosce a fondo i dettagli tecnici,

then you're not entitled to an opinion on what we should do with it.

non abbia il diritto di avere un’opinione su cosa dovremmo farne.

Expertise has its place, of course,

L’esperienza ha il suo valore, ovviamente,

but history shows us how important it is

ma la storia dimostra quanto sia importante

that the people affected by a new technology

che le persone influenzate da una nuova tecnologia

get to play a role in shaping how we use it.

contribuiscano nel plasmare il modo in cui la utilizziamo.

Like the factory workers in the 20th century who fought for factory safety,

Come gli operai del XX secolo che si batterono per la sicurezza in fabbrica,

or the disability advocates

o i difensori della disabilità

who made sure the world wide web was accessible.

che hanno fatto sì che il World Wide Web fosse accessibile.

You don't have to be a scientist or engineer to have a voice.

Non devi essere uno scienziato o un ingegnere per avere voce in capitolo.

(Applause)

(Applausi)

Second, we need to focus on adaptability, not certainty.

In secondo luogo, dobbiamo concentrarci sull’adattabilità, non sulla certezza.

A lot of conversations about how to make policy for AI

Molte conversazioni su come definire una politica per l’IA

get bogged down in fights between, on the one side,

finisce per impantanarsi in scontri tra chi, da un lato,

people saying, "We have to regulate AI really hard right now

dice: «Dobbiamo regolamentare l’IA con fermezza

because it's so risky."

perché è molto rischiosa».

And on the other side, people saying,

Dall’altro lato, c’è chi dice:

“But regulation will kill innovation, and those risks are made up anyway.”

«Ma la regolamentazione uccide l’innovazione, e i rischi sono inventati».

But the way I see it,

Ma per come la vedo io,

it’s not just a choice between slamming on the brakes

non si tratta solo di scegliere tra tirare il freno

or hitting the gas.

o premere sull’acceleratore.

If you're driving down a road with unexpected twists and turns,

Se state percorrendo una strada con curve inaspettate,

then two things that will help you a lot

due cose vi aiuteranno molto:

are having a clear view out the windshield

avere una visuale chiara dal parabrezza

and an excellent steering system.

e un ottimo sterzo.

In AI, this means having a clear picture of where the technology is

Nell’IA, ciò significa avere un quadro chiaro di dove si trovi la tecnologia,

and where it's going,

quale strada stia prendendo

and having plans in place for what to do in different scenarios.

e disporre di piani d’azione per diversi scenari.

Concretely, this means things like investing in our ability to measure

Concretamente, ciò significa investire nella nostra capacità di misurare

what AI systems can do.

ciò che i sistemi di IA possono fare.

This sounds nerdy, but it really matters.

Può sembrare un po’ nerd, ma è davvero importante.

Right now, if we want to figure out

In questo momento, se vogliamo capire

whether an AI can do something concerning,

se un’IA possa fare cose preoccupanti,

like hack critical infrastructure

come hackerare infrastrutture critiche

or persuade someone to change their political beliefs,

o persuadere qualcuno a cambiare le proprie convinzioni politiche,

our methods of measuring that are rudimentary.

i nostri metodi di misurazione sono rudimentali.

We need better.

Abbiamo bisogno di altro.

We should also be requiring AI companies,

Dovremmo inoltre richiedere alle aziende di IA,

especially the companies building the most advanced AI systems,

soprattutto alle aziende che costruiscono i sistemi di IA più avanzati,

to share information about what they're building,

di condividere informazioni su ciò che stanno costruendo,

what their systems can do

su cosa possono fare i loro sistemi

and how they're managing risks.

e su come gestiscono i rischi.

And they should have to let in external AI auditors to scrutinize their work

E dovrebbero ammettere dei revisori esterni di IA per esaminare il loro lavoro

so that the companies aren't just grading their own homework.

così che non siano solo le aziende a valutare i propri compiti.

(Applause)

(Applausi)

A final example of what this can look like

Un ultimo esempio di ciò che si potrebbe fare

is setting up incident reporting mechanisms,

è la creazione di meccanismi di segnalazione degli incidenti,

so that when things do go wrong in the real world,

in modo che quando le cose vanno male nel mondo reale,

we have a way to collect data on what happened

abbiamo un modo per raccogliere dati su ciò che è successo

and how we can fix it next time.

e su come risolverlo la prossima volta.

Just like the data we collect on plane crashes and cyber attacks.

Proprio come i dati che raccogliamo sugli incidenti aerei e gli attacchi informatici

None of these ideas are mine,

Nessuna di queste idee è mia

and some of them are already starting to be implemented in places like Brussels,

e alcune di esse stanno già iniziando a essere implementate a Bruxelles,

London, even Washington.

Londra e persino Washington.

But the reason I'm highlighting these ideas,

Ma il motivo per cui sto rimarcando queste idee,

measurement, disclosure, incident reporting,

misurazione, divulgazione e segnalazione degli incidenti,

is that they help us navigate progress in AI

è che esse ci aiutano a orientarci nel progresso dell’IA

by giving us a clearer view out the windshield.

offrendoci una visione più chiara fuori dal parabrezza.

If AI is progressing fast in dangerous directions,

Se l'IA sta progredendo rapidamente in direzioni pericolose,

these policies will help us see that.

queste politiche ci aiuteranno a capirlo.

And if everything is going smoothly, they'll show us that too,

E se tutto procede senza intoppi, ci dimostreranno anche questo

and we can respond accordingly.

e potremo rispondere di conseguenza.

What I want to leave you with

Ciò che voglio trasmettervi

is that it's both true that there's a ton of uncertainty

è che è vero che c’è molta incertezza

and disagreement in the field of AI.

e disaccordo nel campo dell'IA.

And that companies are already building and deploying AI

E che le aziende stanno già sviluppando e implementando l'IA

all over the place anyway in ways that affect all of us.

ovunque, in modi che riguardano tutti noi.

Left to their own devices,

Lasciate a se stesse,

it looks like AI companies might go in a similar direction

pare che le aziende di IA potrebbero seguire una strada simile

to social media companies,

a quella delle società di social media,

spending most of their resources on building web apps

usando gran parte delle risorse nella creazione di App

and for users' attention.

e nell’accaparrarsi gli utenti.

And by default, it looks like the enormous power of more advanced AI systems

E da default, sembra che l’enorme potenza di sistemi di IA più avanzati

might stay concentrated in the hands of a small number of companies,

potrebbe rimanere concentrata nelle mani di un piccolo numero di aziende

or even a small number of individuals.

o di un piccolo numero di individui.

But AI's potential goes so far beyond that.

Ma il potenziale dell’IA va ben oltre.

AI already lets us leap over language barriers

L’IA ci consente già di superare barriere linguistiche

and predict protein structures.

e prevedere le strutture proteiche.

More advanced systems could unlock clean, limitless fusion energy

Sistemi più avanzati potrebbero sbloccare energia da fusione pulita e illimitata

or revolutionize how we grow food

o rivoluzionare il modo in cui coltiviamo il cibo

or 1,000 other things.

o mille altre cose.

And we each have a voice in what happens.

E ognuno di noi ha voce in capitolo su ciò che accade.

We're not just data sources,

Non siamo solo fonti di dati,

we are users,

siamo utenti,

we're workers,

siamo lavoratori,

we're citizens.

siamo cittadini.

So as tempting as it might be,

Quindi, per quanto sia allettante,

we can't wait for clarity or expert consensus

non vediamo l'ora che arrivino chiarimenti o il consenso degli esperti

to figure out what we want to happen with AI.

per capire cosa vogliamo che accada con l'IA.

AI is already happening to us.

L’IA è già intorno a noi.

What we can do is put policies in place

Ciò che possiamo fare è mettere in atto politiche

to give us as clear a picture as we can get

che ci forniscano un quadro il più chiaro possibile

of how the technology is changing,

di come la tecnologia stia cambiando,

and then we can get in the arena and push for futures we actually want.

e poi possiamo entrare nell’arena e lottare per il futuro che vogliamo.

Thank you.

Grazie.

(Applause)

(Applausi)