AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

Traduttore: Martina Abrami Revisore: Gabriella Patricola

So I've been an AI researcher for over a decade.

Da più di 10 anni, sono una ricercatrice in ambito IA.

And a couple of months ago, I got the weirdest email of my career.

Un paio di mesi fa, ho ricevuto l’email più strana della mia carriera.

A random stranger wrote to me

Uno sconosciuto a caso mi ha scritto

saying that my work in AI is going to end humanity.

che il mio lavoro nell’IA porrà fine all’umanità.

Now I get it, AI, it's so hot right now.

Lo capisco, l’IA è un tema caldo in questo momento.

(Laughter)

(Risate)

It's in the headlines pretty much every day,

Fa notizia praticamente ogni giorno,

sometimes because of really cool things

a volte per cose interessanti,

come la scoperta di nuove molecole in medicina

like discovering new molecules for medicine

or that dope Pope in the white puffer coat.

o quel deepfake del Papa con indosso il piumino bianco.

But other times the headlines have been really dark,

Altre volte, per cose negative,

like that chatbot telling that guy that he should divorce his wife

come quel chatbot che suggerì a un tizio di divorziare dalla moglie

or that AI meal planner app proposing a crowd pleasing recipe

o quando un'app per pianificare i pasti proponeva una ricetta con gas di cloro.

featuring chlorine gas.

And in the background,

Abbiamo sentito parlare tutti di scenari apocalittici,

we've heard a lot of talk about doomsday scenarios,

existential risk and the singularity,

di rischi individuali e collettivi

with letters being written and events being organized

con eventi organizzati e lettere pubbliche per assicurarsi che ciò non accada.

to make sure that doesn't happen.

Now I'm a researcher who studies AI's impacts on society,

Lo studio l'impatto dell’IA sulla società.

and I don't know what's going to happen in 10 or 20 years,

Non so cosa succederà tra 10 o 20 anni,

and nobody really does.

nessuno lo sa.

But what I do know is that there's some pretty nasty things going on right now,

Ma quello che so, è che stanno succedendo cose brutte

because AI doesn't exist in a vacuum.

perché l’IA non è una realtà a sé.

It is part of society, and it has impacts on people and the planet.

Fa parte della società e ha un impatto sulle persone e sul pianeta.

AI models can contribute to climate change.

I modelli di IA contribuiscono al cambiamento climatico.

Their training data uses art and books created by artists

I dati di addestramento usano opere d’arte e libri

di artisti e autori senza il loro consenso.

and authors without their consent.

And its deployment can discriminate against entire communities.

Inoltre, la sua diffusione può discriminare intere comunità.

But we need to start tracking its impacts.

Dobbiamo iniziare a monitorarne gli effetti.

We need to start being transparent and disclosing them and creating tools

Con trasparenza, dobbiamo divulgare i dati

e creare strumenti per permettere alle persone di capire meglio l’IA.

so that people understand AI better,

so that hopefully future generations of AI models

Così facendo, le future generazioni di IA saranno più affidabili, sostenibili,

are going to be more trustworthy, sustainable,

maybe less likely to kill us, if that's what you're into.

forse meno propense a ucciderci, se è questo a preoccuparvi.

But let's start with sustainability,

Partiamo dalla sostenibilità,

because that cloud that AI models live on is actually made out of metal, plastic,

dato che il cloud dove vivono i modelli di IA

è fatto di metallo, plastica

and powered by vast amounts of energy.

ed è alimentato da enormi quantità di energia.

And each time you query an AI model, it comes with a cost to the planet.

Ogni volta che interroghiamo l’IA, ciò comporta un costo per il pianeta.

Last year, I was part of the BigScience initiative,

L’anno scorso ho partecipato all’iniziativa BigScience,

which brought together a thousand researchers

che ha riunito migliaia di ricercatori da tutto il mondo per creare Bloom,

from all over the world to create Bloom,

the first open large language model, like ChatGPT,

il primo modello linguistico aperto di grandi dimensioni, come ChatGPT,

but with an emphasis on ethics, transparency and consent.

ma con un’enfasi su etica, trasparenza e consenso.

And the study I led that looked at Bloom's environmental impacts

Il mio studio ha esaminato l'impatto ambientale di Bloom

e ha rilevato che il solo addestramento

found that just training it used as much energy

consuma la stessa energia di 30 case in un anno intero

as 30 homes in a whole year

and emitted 25 tons of carbon dioxide,

ed emette 25 tonnellate di anidride carbonica,

l'equivalente del fare cinque volte il giro del pianeta in auto.

which is like driving your car five times around the planet

just so somebody can use this model to tell a knock-knock joke.

Tutto questo affinché lo si possa interrogare per una barzelletta.

And this might not seem like a lot,

Potrebbe non sembrare molto,

but other similar large language models,

ma altri modelli linguistici come GPT-3,

like GPT-3,

emit 20 times more carbon.

emettono 20 volte più carbonio.

But the thing is, tech companies aren't measuring this stuff.

Le aziende tecnologiche non misurano queste cose, non le rivelano.

They're not disclosing it.

And so this is probably only the tip of the iceberg,

Questa è solo la punta di un iceberg anche se è uno che si sta sciogliendo.

even if it is a melting one.

And in recent years we've seen AI models balloon in size

Negli ultimi anni abbiamo visto modelli di IA crescere a dismisura

because the current trend in AI is "bigger is better."

perché la tendenza attuale è: "più grande è, meglio è".

But please don't get me started on why that's the case.

Non fatemi iniziare a spiegare perché è così.

Abbiamo osservato soprattutto modelli linguistici di grandi dimensioni

In any case, we've seen large language models in particular

grow 2,000 times in size over the last five years.

diventare 2.000 volte più grandi negli ultimi cinque anni.

And of course, their environmental costs are rising as well.

Anche i costi ambientali aumentano.

The most recent work I led, found that switching out a smaller,

Di recente, ho scoperto che passare da un modello piccolo e efficiente

more efficient model for a larger language model

a un modello linguistico più grande emette 14 volte più carbonio,

emits 14 times more carbon for the same task.

a parità di compito, tipo chiedere una barzelletta.

Like telling that knock-knock joke.

And as we're putting in these models into cell phones and search engines

Con l'integrazione di questi modelli nei cellulari, nei motori di ricerca,

and smart fridges and speakers,

nei frigoriferi e negli altoparlanti intelligenti,

the environmental costs are really piling up quickly.

i costi ambientali aumentano rapidamente.

So instead of focusing on some future existential risks,

Quindi, invece di concentrarci su alcuni rischi esistenziali futuri,

let's talk about current tangible impacts

parliamo degli effetti attuali e tangibili

and tools we can create to measure and mitigate these impacts.

e degli strumenti che possiamo creare per mitigare tali effetti.

I helped create CodeCarbon,

Ho contribuito a creare CodeCarbon,

a tool that runs in parallel to AI training code

uno strumento che durante l'esecuzione del codice

that estimates the amount of energy it consumes

è in grado di stimare la quantità di energia consumata e di carbonio emessa.

and the amount of carbon it emits.

And using a tool like this can help us make informed choices,

Uno strumento così può aiutarci a fare scelte informate,

like choosing one model over the other because it's more sustainable,

come scegliere un modello perché è più sostenibile

or deploying AI models on renewable energy,

o implementare modelli di IA alle energie rinnovabili

which can drastically reduce their emissions.

per ridurre drasticamente le emissioni.

But let's talk about other things

Ma parliamo di altro,

because there's other impacts of AI apart from sustainability.

perché la sostenibilità non è l'unico aspetto da analizzare.

For example, it's been really hard for artists and authors

Ad esempio, è stato davvero difficile per artisti e autori

to prove that their life's work has been used for training AI models

dimostrare che il lavoro di una vita è stato usato per addestrare modelli di IA

without their consent.

senza il loro consenso.

And if you want to sue someone, you tend to need proof, right?

Per denunciare qualcuno, servono le prove, giusto?

So Spawning.ai, an organization that was founded by artists,

Per questo Spawning.ai, un'organizzazione fondata da artisti,

created this really cool tool called “Have I Been Trained?”

ha creato uno strumento chiamato "Have I Been Trained?",

And it lets you search these massive data sets

per consentirci di consultare enormi set di dati

to see what they have on you.

per vedere se hanno qualcosa di nostro.

Now, I admit it, I was curious.

Lo ammetto, ero curiosa.

I searched LAION-5B,

Ho cercato il LAION-5B, un enorme dataset di immagini e testo,

which is this huge data set of images and text,

to see if any images of me were in there.

per vedere se c'erano delle mie immagini.

Now those two first images,

Nelle prime due immagini, sono io agli eventi dove ho partecipato.

that's me from events I've spoken at.

But the rest of the images, none of those are me.

Nel resto delle immagini, non sono io.

They're probably of other women named Sasha

Forse sono di altre di nome Sasha che hanno pubblicato loro foto nel web.

who put photographs of themselves up on the internet.

And this can probably explain why,

Questo forse spiega perché se interrogo un modello

when I query an image generation model

to generate a photograph of a woman named Sasha,

per generare la foto di una "Sasha",

more often than not I get images of bikini models.

il più delle volte ottengo immagini di modelle in bikini.

Sometimes they have two arms,

A volte hanno due braccia, a volte tre braccia,

sometimes they have three arms,

but they rarely have any clothes on.

ma raramente indossano vestiti.

And while it can be interesting for people like you and me

Per persone come noi sicuramente è interessante

to search these data sets,

cercare in questi set di dati,

for artists like Karla Ortiz,

ma per artisti come Karla Ortiz

this provides crucial evidence that her life's work, her artwork,

questi forniscono una prova concreta del fatto che il lavoro della sua vita,

was used for training AI models without her consent,

viene usato senza il suo consenso per addestrare modelli di IA.

and she and two artists used this as evidence

Lei e altri due artisti hanno usato queste prove

to file a class action lawsuit against AI companies

per intentare una causa collettiva contro le società di AI

for copyright infringement.

per violazione del copyright.

And most recently --

Più recentemente,

(Applause)

(Applausi)

And most recently Spawning.ai partnered up with Hugging Face,

Spawning.ai ha collaborato con la società per cui lavoro, Hugging Face,

the company where I work at,

to create opt-in and opt-out mechanisms for creating these data sets.

per creare meccanismi di opt-in e opt-out per la creazione di questi set di dati,

Because artwork created by humans shouldn’t be an all-you-can-eat buffet

perché le opere d'arte umane non dovrebbero essere un "all you can eat"

for training AI language models.

per l'addestramento dei modelli di IA.

(Applause)

(Applausi)

The very last thing I want to talk about is bias.

Infine, voglio parlare di bias. Probabilmente ne avete sentito parlare.

You probably hear about this a lot.

Formally speaking, it's when AI models encode patterns and beliefs

Ossia quando i modelli di IA codificano strutture e idee

that can represent stereotypes or racism and sexism.

che possono tradursi in stereotipi, razzismo e sessismo.

One of my heroes, Dr. Joy Buolamwini, experienced this firsthand

La dott.ssa Joy Buolamwini, lo ha sperimentato in prima persona

when she realized that AI systems wouldn't even detect her face

perché i sistemi di IA non rilevavano il suo viso

unless she was wearing a white-colored mask.

finché non ha indossato una maschera bianca.

Digging deeper, she found that common facial recognition systems

Indagando, scoprì che i comuni sistemi di riconoscimento facciale

were vastly worse for women of color compared to white men.

sono peggiori per le donne POC che per uomini bianchi.

And when biased models like this are deployed in law enforcement settings,

Quando modelli tendenziosi come questo vengono usati dalle forze dell'ordine,

this can result in false accusations, even wrongful imprisonment,

si possono concretizzare in false accuse e perfino detenzioni illegittime,

which we've seen happen to multiple people in recent months.

come abbiamo visto accadere a più persone negli ultimi mesi.

Porcha Woodruff è stata accusata di furto d'auto ingiustamente,

For example, Porcha Woodruff was wrongfully accused of carjacking

at eight months pregnant

incinta di otto mesi,

because an AI system wrongfully identified her.

perché un sistema di IA l'ha erroneamente identificata.

But sadly, these systems are black boxes,

Purtroppo, questi sistemi sono scatole nere

and even their creators can't say exactly why they work the way they do.

e persino i creatori non sanno per certo perché funzionano in quel modo.

And for example, for image generation systems,

Ad esempio, i sistemi generativi di immagini,

if they're used in contexts like generating a forensic sketch

se vengono usati per realizzare un identikit

based on a description of a perpetrator,

basato sulla descrizione di un criminale,

they take all those biases and they spit them back out

prendono tutti questi bias e li restituiscono

for terms like dangerous criminal, terrorists or gang member,

sotto termini come criminale pericoloso, terrorista o membro di una gang,

which of course is super dangerous

il che rende molto pericoloso usare questi strumenti nella società.

when these tools are deployed in society.

And so in order to understand these tools better,

Per comprendere al meglio questi strumenti,

I created this tool called the Stable Bias Explorer,

ho creato questo strumento chiamato "Stable Bias Explorer,"

which lets you explore the bias of image generation models

che consente di scoprire i bias dei modelli generativi di immagini

through the lens of professions.

per quanto riguarda le professioni.

So try to picture a scientist in your mind.

Provate a immaginare uno scienziato.

Don't look at me.

Non guardate me.

What do you see?

Cosa avete immaginato?

A lot of the same thing, right?

Forse in tanti avete pensato a uomini con occhiali e camici da laboratorio

Men in glasses and lab coats.

And none of them look like me.

e nessuno di loro mi somiglia.

And the thing is,

Abbiamo esaminato diversi modelli e trovato un pattern ricorrente:

is that we looked at all these different image generation models

and found a lot of the same thing:

significant representation of whiteness and masculinity

una predominanza di uomini bianchi

in tutte le 150 professioni che abbiamo esaminato.

across all 150 professions that we looked at,

even if compared to the real world,

Anche confrontando con il mondo reale, con lo "US Labor Bureau of Statistics,"

the US Labor Bureau of Statistics.

These models show lawyers as men,

questi modelli mostrano avvocati uomini e AD uomini,

and CEOs as men, almost 100 percent of the time,

quasi il 100% delle volte,

even though we all know not all of them are white and male.

anche se sappiamo che non tutti sono bianchi e uomini.

And sadly, my tool hasn't been used to write legislation yet.

Purtroppo, il mio strumento non è stato ancora usato per scrivere leggi,

But I recently presented it at a UN event about gender bias

ma di recente l'ho presentato a un evento dell'ONU sui pregiudizi di genere

as an example of how we can make tools for people from all walks of life,

come esempio di strumenti che permettono a chiunque,

even those who don't know how to code,

anche a chi non sa programmare,

to engage with and better understand AI because we use professions,

di confrontarsi con l'IA e di comprenderla.

Noi abbiamo usato le professioni, si può usare qualsiasi cosa.

but you can use any terms that are of interest to you.

And as these models are being deployed,

Man mano che questi modelli vengono utilizzati,

are being woven into the very fabric of our societies,

entrano a far parte della nostra società,

our cell phones, our social media feeds,

dai cellulari ai feed,

even our justice systems and our economies have AI in them.

e persino i sistemi giudiziari e l'economia usano l'IA.

And it's really important that AI stays accessible

È davvero importante che l'IA rimanga accessibile,

so that we know both how it works and when it doesn't work.

per sapere sia come funziona sia quando non funziona.

And there's no single solution for really complex things like bias

Non esiste una soluzione semplice a questioni complesse come i bias,

or copyright or climate change.

il copyright o il cambiamento climatico.

But by creating tools to measure AI's impact,

Ma creando strumenti per misurare gli effetti dell'IA,

we can start getting an idea of how bad they are

possiamo iniziare a farci un'idea di quanto siano gravi

and start addressing them as we go.

e affrontarli man mano che procediamo.

Start creating guardrails to protect society and the planet.

Iniziamo a creare barriere per proteggere la società e il pianeta.

And once we have this information,

Una volta ottenute queste informazioni, le aziende possono usarle per dire:

companies can use it in order to say,

OK, we're going to choose this model because it's more sustainable,

"Sceglieremo questo modello perché è più sostenibile

e questo modello perché rispetta il copyright".

this model because it respects copyright.

Legislators who really need information to write laws,

I legislatori che necessitano informazioni per redigere leggi

can use these tools to develop new regulation mechanisms

possono usarli per sviluppare

nuovi meccanismi di regolamentazione o di governance per l'IA

or governance for AI as it gets deployed into society.

man mano che trova impiego nella società.

And users like you and me can use this information

Noi utenti possiamo usare queste informazioni

to choose AI models that we can trust,

per scegliere modelli di IA di cui fidarsi,

not to misrepresent us and not to misuse our data.

che non travisino informazioni e abusino dei nostri dati.

But what did I reply to that email

Cosa ho risposto a quell'e-mail che diceva che il mio lavoro distruggerà l'umanità?

that said that my work is going to destroy humanity?

I said that focusing on AI's future existential risks

Ho detto che concentrarsi sui rischi esistenziali futuri dell'IA

is a distraction from its current,

distrae dagli impatti presenti e tangibili

very tangible impacts

and the work we should be doing right now, or even yesterday,

e dal lavoro che dovremmo fare oggi, o ieri,

for reducing these impacts.

per ridurre questi effetti.

Because yes, AI is moving quickly, but it's not a done deal.

Sì, l'IA si sta muovendo rapidamente, ma non è una questione chiusa.

We're building the road as we walk it,

Stiamo costruendo la strada mentre la percorriamo

and we can collectively decide what direction we want to go in together.

e possiamo decidere insieme in quale direzione vogliamo andare.

Thank you.

Grazie.

(Applause)

(Applausi)