How we can build AI to help humans, not hurt us | Margaret Mitchell

Traduttore: Valeria Cossu Revisore: Gabriella Patricola

I work on helping computers communicate about the world around us.

Il mio lavoro è aiutare i computer a descrivere il mondo intorno a noi

There are a lot of ways to do this,

Ci sono diversi modi per farlo,

and I like to focus on helping computers

mi concentro sull'aiutare i computer

to talk about what they see and understand.

a parlare di quello che vedono e capiscono.

Given a scene like this,

Prendendo una scena come questa,

a modern computer-vision algorithm

un moderno algoritmo di visione artificiale

can tell you that there's a woman and there's a dog.

può dirvi che c'è una donna e c'è un cane.

It can tell you that the woman is smiling.

Può dirvi che la donna sta sorridendo.

It might even be able to tell you that the dog is incredibly cute.

Potrebbe anche dirvi che il cane è molto carino.

I work on this problem

Lavoro su questo problema

thinking about how humans understand and process the world.

pensando al modo in cui gli umani capiscono e processano il mondo.

The thoughts, memories and stories

I pensieri, ricordi e storie

that a scene like this might evoke for humans.

che una scena come questa può suscitare negli umani.

All the interconnections of related situations.

Tutte le interconnessioni di situazioni correlate.

Maybe you've seen a dog like this one before,

Forse avete visto un cane come questo,

or you've spent time running on a beach like this one,

o avete passato del tempo a correre su una spiaggia come questa

and that further evokes thoughts and memories of a past vacation,

e quindi evoca pensieri e ricordi di una vacanza passata,

past times to the beach,

tempi passati in spiaggia,

times spent running around with other dogs.

tempi passati a correre con altri cani.

One of my guiding principles is that by helping computers to understand

Uno dei miei principi guida è che aiutando i computer a capire

what it's like to have these experiences,

com'è avere queste esperienze,

to understand what we share and believe and feel,

a capire cosa condividiamo e crediamo e sentiamo,

then we're in a great position to start evolving computer technology

allora siamo in un'ottima posizione per far evolvere la tecnologia informatica

in a way that's complementary with our own experiences.

in modo complementare con le nostre esperienze.

So, digging more deeply into this,

Quindi, andando più in profondità,

a few years ago I began working on helping computers to generate human-like stories

alcuni anni fa mi occupavo di far generare ai computer storie verosimili

from sequences of images.

partendo da sequenze di immagini.

So, one day,

Così un giorno,

I was working with my computer to ask it what it thought about a trip to Australia.

lavoravo al computer chiedendogli cosa pensasse di un viaggio in Australia.

It took a look at the pictures, and it saw a koala.

Diede un'occhiata alle fotografie e vide un koala.

It didn't know what the koala was,

Non sapeva cosa fosse un koala,

but it said it thought it was an interesting-looking creature.

ma disse che era una creatura dall'aspetto interessante.

Then I shared with it a sequence of images about a house burning down.

Poi condivisi una serie di immagini di una casa che stava bruciando.

It took a look at the images and it said,

Diede un'occhiata alle immagini e disse:

"This is an amazing view! This is spectacular!"

"È una vista fantastica! È spettacolare!"

It sent chills down my spine.

Mi sono venuti i brividi.

It saw a horrible, life-changing and life-destroying event

Ha visto un evento orribile, che cambia la vita, che la distrugge

and thought it was something positive.

e pensava che fosse qualcosa di positivo.

I realized that it recognized the contrast,

Capii che riconosceva il contrasto,

the reds, the yellows,

i rossi, i gialli,

and thought it was something worth remarking on positively.

e pensava che fosse qualcosa da commentare positivamente.

And part of why it was doing this

Un motivo per cui faceva così

was because most of the images I had given it

era perché la maggior parte delle immagini che gli avevo dato

were positive images.

erano positive.

That's because people tend to share positive images

Perché le persone tendono a condividere immagini positive

when they talk about their experiences.

quando parlano delle loro esperienze.

When was the last time you saw a selfie at a funeral?

Quando mai avete visto un selfie a un funerale?

I realized that, as I worked on improving AI

Capii che lavorando al miglioramento dell'IA

task by task, dataset by dataset,

compito dopo compito, dataset dopo dataset,

that I was creating massive gaps,

stavo creando enormi lacune,

holes and blind spots in what it could understand.

buchi e punti ciechi in ciò che poteva capire.

And while doing so,

E nel fare ciò,

I was encoding all kinds of biases.

stavo codificando tutti i tipi di preconcetti.

Biases that reflect a limited viewpoint,

Preconcetti che riflettono un punto di vista limitato,

limited to a single dataset --

limitato a un singolo dataset.

biases that can reflect human biases found in the data,

Preconcetti che riflettono quelli umani trovati nei dati,

such as prejudice and stereotyping.

come pregiudizi e stereotipi.

I thought back to the evolution of the technology

Ho ripensato all'evoluzione della tecnologia

that brought me to where I was that day --

che mi ha portata dove ero quel giorno,

how the first color images

come le prime immagini a colori

were calibrated against a white woman's skin,

fossero state calibrate sulla pelle di una donna bianca,

meaning that color photography was biased against black faces.

quindi la fotografia a colori penalizzava i volti neri.

And that same bias, that same blind spot

E quello stesso pregiudizio, quello stesso punto cieco

continued well into the '90s.

persisteva negli anni '90.

And the same blind spot continues even today

E lo stesso punto cieco persiste anche oggi

in how well we can recognize different people's faces

nel modo in cui riconosciamo volti di persone diverse

in facial recognition technology.

nella tecnologia del riconoscimento facciale.

I though about the state of the art in research today,

Ho pensato allo stato dell'arte nella ricerca di oggi,

where we tend to limit our thinking to one dataset and one problem.

tendiamo a limitare il nostro pensiero a un dataset e un problema.

And that in doing so, we were creating more blind spots and biases

E facendo ciò, creiamo più punti ciechi e preconcetti

that the AI could further amplify.

che l'IA potrebbe amplificare.

I realized then that we had to think deeply

Ho capito quindi che dovremmo pensare di più

about how the technology we work on today looks in five years, in 10 years.

a come la tecnologia a cui lavoriamo oggi sarà tra 5, 10 anni.

Humans evolve slowly, with time to correct for issues

Gli umani si evolvono lentamente nel tempo, per correggere errori

in the interaction of humans and their environment.

nell'interazione tra loro e il loro ambiente.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Mentre l'intelligenza artificiale si evolve a ritmi velocissimi,

And that means that it really matters

quindi è molto importante

that we think about this carefully right now --

che ci ragioniamo attentamente adesso,

that we reflect on our own blind spots,

che riflettiamo sui nostri punti ciechi,

our own biases,

sui nostri preconcetti,

and think about how that's informing the technology we're creating

e pensiamo a come ciò modella la tecnologia che stiamo creando

and discuss what the technology of today will mean for tomorrow.

e parliamo di cosa la tecnologia di oggi rappresenterà un domani.

CEOs and scientists have weighed in on what they think

Amministratori delegati e scienziati hanno detto la loro

the artificial intelligence technology of the future will be.

su ciò che sarà la tecnologia dell'IA del futuro.

Stephen Hawking warns that

Stephen Hawking avverte che

"Artificial intelligence could end mankind."

"l'intelligenza artificiale potrebbe porre fine all'umanità".

Elon Musk warns that it's an existential risk

Elon Musk dice che è un rischio esistenziale

and one of the greatest risks that we face as a civilization.

e uno dei maggiori rischi che affrontiamo in quanto civiltà.

Bill Gates has made the point,

Bill Gates ha affermato:

"I don't understand why people aren't more concerned."

"Non capisco perché le persone non siano più preoccupate di così".

But these views --

Ma questi punti di vista

they're part of the story.

fanno parte della storia.

The math, the models,

La matematica, i modelli,

the basic building blocks of artificial intelligence

le fondamenta su cui si basa l'intelligenza artificiale

are something that we call access and all work with.

sono cose a cui possiamo accedere e con cui possiamo lavorare.

We have open-source tools for machine learning and intelligence

Abbiamo strumenti open-source per il machine learning e IA

that we can contribute to.

ai quali possiamo contribuire.

And beyond that, we can share our experience.

Inoltre possiamo condividere la nostra esperienza.

We can share our experiences with technology and how it concerns us

Possiamo condividere la nostra esperienza con la tecnologia, come ci riguarda

and how it excites us.

e come ci affascina.

We can discuss what we love.

Possiamo discutere su ciò che amiamo.

We can communicate with foresight

Possiamo prevedere

about the aspects of technology that could be more beneficial

quali aspetti possono essere più benefici

or could be more problematic over time.

o più problematici col tempo.

If we all focus on opening up the discussion on AI

Se ci concentriamo nell'apertura della discussione sull'IA

with foresight towards the future,

con lungimiranza verso il futuro,

this will help create a general conversation and awareness

ci aiuterà a creare una conversazione e consapevolezza generali

about what AI is now,

su ciò che è ora l'IA,

what it can become

su ciò che può diventare

and all the things that we need to do

e su ciò che dobbiamo ancora fare

in order to enable that outcome that best suits us.

per avere i migliori risultati possibili.

We already see and know this in the technology that we use today.

Vediamo e conosciamo già la tecnologia che usiamo oggi.

We use smart phones and digital assistants and Roombas.

Usiamo smartphone e assistenti digitali e robot aspirapolvere.

Are they evil?

Sono malvagi?

Maybe sometimes.

Forse a volte.

Are they beneficial?

Sono benefici?

Yes, they're that, too.

Sì, sono anche questo.

And they're not all the same.

E non sono tutti uguali.

And there you already see a light shining on what the future holds.

E potete già vedere un futuro brillante davanti a noi.

The future continues on from what we build and create right now.

Il futuro prosegue da ciò che costruiamo e creiamo adesso.

We set into motion that domino effect

Mettiamo in moto quell'effetto domino

that carves out AI's evolutionary path.

che costituisce il percorso evolutivo dell'IA.

In our time right now, we shape the AI of tomorrow.

Nel nostro tempo, ora, plasmiamo l'IA di domani.

Technology that immerses us in augmented realities

La tecnologia che ci immerge nelle realtà aumentate

bringing to life past worlds.

e porta in vita mondi remoti.

Technology that helps people to share their experiences

La tecnologia che aiuta la gente a condividere le esperienze

when they have difficulty communicating.

quando hanno difficoltà a comunicare.

Technology built on understanding the streaming visual worlds

La tecnologia costruita per capire i flussi di immagini

used as technology for self-driving cars.

usata per le vetture autonome.

Technology built on understanding images and generating language,

La tecnologia costruita per capire le immagini e generare linguaggio,

evolving into technology that helps people who are visually impaired

si trasforma in tecnologia che aiuta coloro che hanno la vista compromessa

be better able to access the visual world.

ad avere accesso al mondo visivo.

And we also see how technology can lead to problems.

E sappiamo anche come la tecnologia possa portare problemi.

We have technology today

Esiste la tecnologia

that analyzes physical characteristics we're born with --

che analizza le caratteristiche fisiche con cui siamo nati,

such as the color of our skin or the look of our face --

come il colore della pelle o la nostra espressione,

in order to determine whether or not we might be criminals or terrorists.

per determinare se possiamo essere o no criminali o terroristi.

We have technology that crunches through our data,

Esiste la tecnologia che usa i nostri dati,

even data relating to our gender or our race,

anche dati riguardanti il nostro genere o la nostra etnia,

in order to determine whether or not we might get a loan.

per determinare se possiamo ottenere o meno un prestito.

All that we see now

Quello che vediamo ora

is a snapshot in the evolution of artificial intelligence.

è uno spaccato dell'evoluzione dell'intelligenza artificiale.

Because where we are right now,

Perché noi ci troviamo ora

is within a moment of that evolution.

a un passo da quell'evoluzione.

That means that what we do now will affect what happens down the line

Quello che facciamo ora influenzerà ciò che accade lungo il cammino

and in the future.

e nel futuro.

If we want AI to evolve in a way that helps humans,

Se vogliamo che l'IA si evolva per aiutare gli umani,

then we need to define the goals and strategies

allora dobbiamo definire gli obiettivi e le strategie

that enable that path now.

che abilitano quel percorso adesso.

What I'd like to see is something that fits well with humans,

Ciò che vorrei vedere è qualcosa che si adatti agli umani,

with our culture and with the environment.

alla nostra cultura e all'ambiente.

Technology that aids and assists those of us with neurological conditions

Tecnologia che assista la gente con problemi neurologici

or other disabilities

o altre disabilità

in order to make life equally challenging for everyone.

per rendere le sfide della vita uguali per tutti.

Technology that works

La tecnologia che lavori

regardless of your demographics or the color of your skin.

a prescindere dai vostri dati demografici o dal colore della pelle.

And so today, what I focus on is the technology for tomorrow

Oggi, quello su cui mi concentro è la tecnologia per domani

and for 10 years from now.

e per i prossimi 10 anni.

AI can turn out in many different ways.

L'IA può diventare molte cose.

But in this case,

Ma in questo caso

it isn't a self-driving car without any destination.

non è una vettura automatica senza destinazione.

This is the car that we are driving.

Questa è una vettura che guidiamo noi.

We choose when to speed up and when to slow down.

Scegliamo noi quando accelerare e quando rallentare.

We choose if we need to make a turn.

Scegliamo noi se svoltare.

We choose what the AI of the future will be.

Scegliamo noi quale sarà l'IA del futuro.

There's a vast playing field

C'è una vasta scelta

of all the things that artificial intelligence can become.

di tutto ciò che l'IA può diventare.

It will become many things.

Diventerà molte cose.

And it's up to us now,

E dipende da noi adesso,

in order to figure out what we need to put in place

al fine di capire cosa dobbiamo mettere in atto

to make sure the outcomes of artificial intelligence

per assicurarci che gli esiti dell'intelligenza artificiale

are the ones that will be better for all of us.

saranno i migliori per tutti noi.

Thank you.

Grazie

(Applause)

(Applausi)