How we can build AI to help humans, not hurt us | Margaret Mitchell

Vertaald door: Rik Delaet Nagekeken door: Axel Saffran

I work on helping computers communicate about the world around us.

Ik help computers communiceren over de wereld om ons heen.

There are a lot of ways to do this,

Er zijn veel manieren om dit te doen

and I like to focus on helping computers

en ik help computers

to talk about what they see and understand.

om te praten over wat ze zien en begrijpen.

Given a scene like this,

In een scène als deze

a modern computer-vision algorithm

kan een modern computer-visie-algoritme

can tell you that there's a woman and there's a dog.

je vertellen dat er een vrouw en een hond is te zien.

It can tell you that the woman is smiling.

Het kan je vertellen dat de vrouw lacht.

It might even be able to tell you that the dog is incredibly cute.

Het kan je misschien vertellen dat de hond ongelooflijk schattig is.

I work on this problem

Ik werk aan dit probleem

thinking about how humans understand and process the world.

door na te denken over hoe mensen de wereld begrijpen en verwerken.

The thoughts, memories and stories

De gedachten, herinneringen en verhalen

that a scene like this might evoke for humans.

die een scène als deze voor de mens zou kunnen oproepen.

All the interconnections of related situations.

Al de verwevenheid van verwante situaties.

Maybe you've seen a dog like this one before,

Misschien heb je een hond als deze al eerder gezien

or you've spent time running on a beach like this one,

of was je ooit op een strand als dit,

and that further evokes thoughts and memories of a past vacation,

wat dan weer gedachten en herinneringen aan een voorbije vakantie oproept,

past times to the beach,

tijd doorgebracht op het strand

times spent running around with other dogs.

of tijd doorgebracht met andere honden.

One of my guiding principles is that by helping computers to understand

Een van mijn uitgangspunten is computers helpen begrijpen

what it's like to have these experiences,

hoe het is om deze ervaringen te hebben,

to understand what we share and believe and feel,

om te begrijpen wat we delen, geloven en voelen.

then we're in a great position to start evolving computer technology

We kunnen dan computertechnologie ontwikkelen

in a way that's complementary with our own experiences.

op een manier die complementair is met onze eigen ervaringen.

So, digging more deeply into this,

Ik verdiepte me hier verder in

a few years ago I began working on helping computers to generate human-like stories

en begon een paar jaar geleden computers te helpen

om menselijke verhalen te genereren vanuit beeldsequenties.

from sequences of images.

So, one day,

Op een dag

I was working with my computer to ask it what it thought about a trip to Australia.

vroeg ik mijn computer wat hij dacht over een reis naar Australië.

It took a look at the pictures, and it saw a koala.

Hij bekeek de foto's en zag een koala.

It didn't know what the koala was,

Het wist niet wat een koala was,

but it said it thought it was an interesting-looking creature.

maar vond het een interessant uitziend wezen.

Then I shared with it a sequence of images about a house burning down.

Toen toonde ik een opeenvolging van beelden over een afbrandend huis.

It took a look at the images and it said,

Hij bekeek de beelden en zei:

"This is an amazing view! This is spectacular!"

"Dit is een geweldig uitzicht! Dit is spectaculair!"

It sent chills down my spine.

Dat gaf me koude rillingen.

It saw a horrible, life-changing and life-destroying event

Hij zag een afschuwelijke, ingrijpende, het leven vernietigende gebeurtenis

and thought it was something positive.

en dacht dat het iets positiefs was.

I realized that it recognized the contrast,

Ik besefte dat hij het contrast herkende,

the reds, the yellows,

het rood, het geel,

and thought it was something worth remarking on positively.

en vond dat hij er positief op moest reageren.

And part of why it was doing this

Voor een deel kwam dat

was because most of the images I had given it

omdat de meeste beelden die ik had getoond

were positive images.

over positieve zaken gingen.

That's because people tend to share positive images

Dat komt omdat mensen de neiging hebben om positieve beelden te delen

when they talk about their experiences.

als ze praten over hun ervaringen.

When was the last time you saw a selfie at a funeral?

Wanneer zag je de laatste keer een selfie op een begrafenis?

I realized that, as I worked on improving AI

Ik realiseerde me dat, terwijl ik werkte aan het verbeteren van AI,

task by task, dataset by dataset,

taak voor taak, dataset voor dataset,

that I was creating massive gaps,

ik enorme gaten creëerde,

holes and blind spots in what it could understand.

gaten en blinde vlekken in wat hij zou kunnen begrijpen.

And while doing so,

En zodoende codeerde ik allerlei vooroordelen.

I was encoding all kinds of biases.

Biases that reflect a limited viewpoint,

Vooroordelen die een beperkt standpunt weergaven,

limited to a single dataset --

beperkt tot één enkele dataset --

biases that can reflect human biases found in the data,

vooroordelen die menselijke vooroordelen in de data kunnen reflecteren,

such as prejudice and stereotyping.

zoals vooringenomenheid en stereotypering.

I thought back to the evolution of the technology

Ik overdacht de evolutie van de technologie

that brought me to where I was that day --

die me zover had gebracht --

how the first color images

hoe de eerste afbeeldingen in kleur

were calibrated against a white woman's skin,

werden geijkt op de huid van een blanke vrouw,

meaning that color photography was biased against black faces.

wat betekende dat de kleurenfotografie vooringenomen was tegen zwarte gezichten.

And that same bias, that same blind spot

Datzelfde vooroordeel, diezelfde blinde vlek

continued well into the '90s.

duurde voort tot in de jaren 90.

And the same blind spot continues even today

En dezelfde blinde vlek werkt zelfs vandaag nog door

in how well we can recognize different people's faces

in hoe goed we de gezichten van verschillende mensen kunnen herkennen

in facial recognition technology.

met gezichtsherkenningtechnologie.

I though about the state of the art in research today,

Ik dacht na over de stand van de techniek in hedendaags onderzoek,

where we tend to limit our thinking to one dataset and one problem.

waar we ons denken neigen te beperken tot één dataset en één probleem.

And that in doing so, we were creating more blind spots and biases

Daardoor creëren we meer blinde vlekken en vooroordelen

that the AI could further amplify.

die de AI dan verder kan versterken.

I realized then that we had to think deeply

Ik realiseerde me dat we diep moesten nadenken

about how the technology we work on today looks in five years, in 10 years.

over hoe de technologie waar we vandaag aan werken

er over vijf of tien jaar zal uitzien.

Humans evolve slowly, with time to correct for issues

Mensen evolueren langzaam met tijd om problemen te corrigeren

in the interaction of humans and their environment.

bij de interactie tussen mensen en hun omgeving.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Kunstmatige intelligentie daarentegen ontwikkelt zich ongelooflijk snel.

And that means that it really matters

Daarom is het echt belangrijk

that we think about this carefully right now --

dat we er zorgvuldig over nadenken –

that we reflect on our own blind spots,

dat we nadenken over onze eigen blinde vlekken,

our own biases,

onze eigen vooroordelen,

and think about how that's informing the technology we're creating

en nadenken over hoe dat inwerkt op de technologie die we maken,

and discuss what the technology of today will mean for tomorrow.

en dat we bespreken wat de technologie van vandaag zal betekenen voor morgen.

CEOs and scientists have weighed in on what they think

CEO's en wetenschappers hebben laten weten hoe ze dachten

the artificial intelligence technology of the future will be.

over de kunstmatige intelligentie technologie van de toekomst.

Stephen Hawking warns that

Stephen Hawking waarschuwt:

"Artificial intelligence could end mankind."

"Kunstmatige intelligentie kan het einde van de mensheid betekenen."

Elon Musk warns that it's an existential risk

Elon Musk waarschuwt dat het een existentieel risico is

and one of the greatest risks that we face as a civilization.

en een van de grootste risico's waarmee wij als beschaving worden geconfronteerd.

Bill Gates has made the point,

Bill Gates maakte het punt:

"I don't understand why people aren't more concerned."

"Ik begrijp niet waarom dit de mensen niet méér bezighoudt."

But these views --

Maar deze opvattingen --

they're part of the story.

maken deel uit van het verhaal.

The math, the models,

De wiskunde, de modellen,

the basic building blocks of artificial intelligence

de bouwstenen van kunstmatige intelligentie,

are something that we call access and all work with.

we hebben er allemaal toegang toe en kunnen ermee werken.

We have open-source tools for machine learning and intelligence

We hebben opensourcesoftware

voor machinaal leren en kunstmatige intelligentie,

that we can contribute to.

waar we aan kunnen bijdragen.

And beyond that, we can share our experience.

Daarenboven kunnen we onze ervaring delen.

We can share our experiences with technology and how it concerns us

Onze ervaringen met de technologie,

hoe we ermee te maken hebben en hoe ze ons boeit.

and how it excites us.

We can discuss what we love.

We kunnen bespreken waar we van houden.

We can communicate with foresight

We kunnen communiceren met vooruitziende blik

about the aspects of technology that could be more beneficial

over aspecten van de technologie die mettertijd ofwel gunstiger

or could be more problematic over time.

ofwel problematischer zouden kunnen uitvallen.

If we all focus on opening up the discussion on AI

Als we ons allemaal focussen op het opentrekken van de discussie over AI

with foresight towards the future,

met vooruitziende blik naar de toekomst,

this will help create a general conversation and awareness

zal dit bijdragen aan het creëren van een algemeen gesprek en bewustwording

about what AI is now,

over wat AI nu is,

what it can become

wat het kan worden

and all the things that we need to do

en alle dingen die we moeten doen

in order to enable that outcome that best suits us.

om het resultaat te krijgen dat ons het beste past.

We already see and know this in the technology that we use today.

We zien en kennen dit al in de technologie van vandaag.

We use smart phones and digital assistants and Roombas.

We maken gebruik van smartphones, pda's en Roomba’s.

Are they evil?

Zijn ze kwaadaardig?

Maybe sometimes.

Misschien af en toe.

Are they beneficial?

Zijn ze nuttig?

Yes, they're that, too.

Ja, dat ook.

And they're not all the same.

En ze zijn niet allemaal hetzelfde.

And there you already see a light shining on what the future holds.

Daar zie je al wat de toekomst belooft.

The future continues on from what we build and create right now.

De toekomst bouwt verder op wat we op dit moment maken.

We set into motion that domino effect

We hebben een domino-effect in gang gezet

that carves out AI's evolutionary path.

dat het evolutionaire pad van AI uitzet.

In our time right now, we shape the AI of tomorrow.

Nu geven we vorm aan de AI van morgen.

Technology that immerses us in augmented realities

Technologie die ons onderdompelt in toegevoegde realiteit

bringing to life past worlds.

die vergane werelden tot leven brengen.

Technology that helps people to share their experiences

Technologie die mensen helpt om hun ervaringen te delen

wanneer ze moeite hebben om te communiceren.

when they have difficulty communicating.

Technology built on understanding the streaming visual worlds

Technologie gebouwd op het begrijpen van continu veranderende beeldsituaties,

used as technology for self-driving cars.

die gebruikt wordt als technologie voor zelfrijdende auto's.

Technology built on understanding images and generating language,

Technologie gebouwd voor het begrijpen van beelden en het genereren van taal,

evolving into technology that helps people who are visually impaired

evoluerend naar technologie die mensen met een visuele beperking

be better able to access the visual world.

betere toegang verschaft tot de visuele wereld.

And we also see how technology can lead to problems.

Daarnaast zien we hoe technologie tot problemen kan leiden.

We have technology today

We hebben vandaag technologie

that analyzes physical characteristics we're born with --

die fysieke kenmerken waarmee we zijn geboren analyseert --

such as the color of our skin or the look of our face --

zoals de kleur van onze huid of hoe ons gezicht eruitziet --

in order to determine whether or not we might be criminals or terrorists.

om te bepalen of we misschien criminelen of terroristen zijn.

We have technology that crunches through our data,

We hebben technologie die onze data doorspit,

even data relating to our gender or our race,

zelfs gegevens die betrekking hebben op geslacht of ras,

in order to determine whether or not we might get a loan.

om te bepalen of we al dan niet een lening kunnen krijgen.

All that we see now

Alles wat we nu zien

is a snapshot in the evolution of artificial intelligence.

is een momentopname in de ontwikkeling van kunstmatige intelligentie.

Because where we are right now,

Want waar we nu zijn,

is within a moment of that evolution.

is één moment in die evolutie.

That means that what we do now will affect what happens down the line

Dat betekent dat wat we nu doen beïnvloedt wat als volgende gebeurt,

and in the future.

en in de toekomst.

If we want AI to evolve in a way that helps humans,

Als we willen dat AI evolueert op een manier die de mens helpt,

then we need to define the goals and strategies

moeten we nu de doelstellingen en strategieën definiëren

that enable that path now.

die dat mogelijk zullen maken.

What I'd like to see is something that fits well with humans,

Wat ik graag zou willen zien is iets dat goed past bij de mens,

with our culture and with the environment.

bij onze cultuur en onze omgeving.

Technology that aids and assists those of us with neurological conditions

Technologie die mensen met neurologische aandoeningen

or other disabilities

of andere handicaps helpt en begeleidt

in order to make life equally challenging for everyone.

om het leven voor iedereen even uitdagend te maken.

Technology that works

Technologie die werkt

regardless of your demographics or the color of your skin.

ongeacht je demografie of de kleur van je huid.

And so today, what I focus on is the technology for tomorrow

Vandaag richt ik mij op de technologie voor morgen

en voor over tien jaar.

and for 10 years from now.

AI can turn out in many different ways.

AI kan zich op veel verschillende manieren realiseren.

But in this case,

Maar in dit geval

it isn't a self-driving car without any destination.

is het geen zelfrijdende auto zonder bestemming.

This is the car that we are driving.

Het is een auto die wij zelf besturen.

We choose when to speed up and when to slow down.

Wij kiezen wanneer we gaan versnellen of vertragen.

We choose if we need to make a turn.

Wij beslissen om een ​​bocht te maken.

We choose what the AI of the future will be.

Wij kiezen wat de AI van de toekomst zal zijn.

There's a vast playing field

Er is een groot speelveld

of all the things that artificial intelligence can become.

van alle dingen die kunstmatige intelligentie kan worden.

It will become many things.

Het zal véél dingen worden.

And it's up to us now,

Het is nu aan ons

in order to figure out what we need to put in place

om te bepalen wat we moeten regelen

to make sure the outcomes of artificial intelligence

om ervoor te zorgen dat kunstmatige intelligentie

zo uitpakt dat we er allemaal beter van worden.

are the ones that will be better for all of us.

Thank you.

Dank je.

(Applause)

(Applaus)