How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Fordító: Zsuzsa Viola Lektor: Reka Lorinczy

How many decisions have been made about you today,

Hány döntést hozott önökről

or this week or this year,

ma, ezen a héten, ebben az évben

by artificial intelligence?

a mesterséges intelligencia (MI) ?

I build AI for a living

Abból élek, hogy az MI-t építem.

so, full disclosure, I'm kind of a nerd.

Szóval, hogy értsék, kocka vagyok.

And because I'm kind of a nerd,

És kocka voltom miatt

wherever some new news story comes out

ha bármikor felbukkan egy új sztori arról,

about artificial intelligence stealing all our jobs,

hogy az MI ellopja az állásainkat,

or robots getting citizenship of an actual country,

vagy robotok kapnak állampolgárságot egy országban,

I'm the person my friends and followers message

én vagyok az az ember, akit barátai és követői

freaking out about the future.

nyaggatnak a jövőről.

We see this everywhere.

Ezt látjuk mindenfelé.

This media panic that our robot overlords are taking over.

Ezt a médiapánikot, hogy a robotok átveszik az uralmat.

We could blame Hollywood for that.

Hollywoodot hibáztathatjuk ezért.

But in reality, that's not the problem we should be focusing on.

De a valóságban nem erre a problémára kéne összpontosítanunk.

There is a more pressing danger, a bigger risk with AI,

Van egy sürgetőbb veszély, egy nagyobb kockázat az MI-vel,

that we need to fix first.

először azt kéne megoldani.

So we are back to this question:

Ezért visszatérek erre a kérdésre:

How many decisions have been made about you today by AI?

Hány döntést hozott önökkel kapcsolatban ma az MI?

And how many of these

És ezek közül mennyi alapult

were based on your gender, your race or your background?

a nemükön, a fajukon, vagy a hátterükön?

Algorithms are being used all the time

Folyamatosan használnak algoritmusokat arra,

to make decisions about who we are and what we want.

hogy döntsenek arról, kik vagyunk és mit akarunk.

Some of the women in this room will know what I'm talking about

Néhány nő a teremben tudja, miről beszélek,

if you've been made to sit through those pregnancy test adverts on YouTube

ha kénytelenek voltak végignézni terhességiteszt-reklámokat a YouTube-on,

like 1,000 times.

nagyjából ezerszer,

Or you've scrolled past adverts of fertility clinics

vagy termékenységi klinikák reklámjait görgették át

on your Facebook feed.

Facebook-csatornájukon,

Or in my case, Indian marriage bureaus.

vagy esetemben indiai házasságközvetítőkét.

(Laughter)

(Nevetés)

But AI isn't just being used to make decisions

De az MI nem csak arról dönt,

about what products we want to buy

mit akarunk vásárolni,

or which show we want to binge watch next.

vagy mit szeretnénk legközelebb megnézni.

I wonder how you'd feel about someone who thought things like this:

Vajon mi lenne a véleményük valakiről, aki így gondolkodik:

"A black or Latino person

"Egy fekete vagy latin ember

is less likely than a white person to pay off their loan on time."

kisebb eséllyel fizeti vissza időben a hitelét, mint egy fehér."

"A person called John makes a better programmer

"Egy John nevű ember jobb programozó lehet,

than a person called Mary."

mint akit Marynek hívnak."

"A black man is more likely to be a repeat offender than a white man."

"Egy fekete nagyobb valószínűséggel válik visszaeső bűnözővé, mint egy fehér."

You're probably thinking,

Valószínűleg azt gondolják:

"Wow, that sounds like a pretty sexist, racist person," right?

"Hú, ez elég szexista és rasszista ember!" Igaz?

These are some real decisions that AI has made very recently,

Ez néhány, MI által mostanában hozott tényleges döntés,

based on the biases it has learned from us,

ami a tőlünk tanult előítéleteken alapul.

from the humans.

Tőlünk, emberektől.

AI is being used to help decide whether or not you get that job interview;

Az MI-t használják annak eldöntésére, ki kaphat állásinterjút,

how much you pay for your car insurance;

mennyit kell fizetnünk az autóbiztosításunkért,

how good your credit score is;

mennyire jó a hitelképességünk,

and even what rating you get in your annual performance review.

és még arról is, milyen értékelést kapunk éves teljesítményünkre.

But these decisions are all being filtered through

De minden ilyen döntést a hovatartozásunkkal, rasszunkkal,

its assumptions about our identity, our race, our gender, our age.

nemünkkel, korunkkal kapcsolatos feltételezések befolyásolnak.

How is that happening?

Hogy lehetséges ez?

Now, imagine an AI is helping a hiring manager

Képzeljék el, hogy az MI egy humánerőforrás-menedzsernek segít

find the next tech leader in the company.

megtalálni a következő informatikai vezetőt a cég számára.

So far, the manager has been hiring mostly men.

Idáig a menedzser főleg férfiakat alkalmazott.

So the AI learns men are more likely to be programmers than women.

Így az MI azt tanulja, hogy férfiak inkább válnak programozóvá, mint nők.

And it's a very short leap from there to:

Innen már csak egy kis ugrás,

men make better programmers than women.

hogy a férfiak jobb programozók, mint a nők.

We have reinforced our own bias into the AI.

Betápláltuk előítéletünket az MI-be,

And now, it's screening out female candidates.

és az most kiszűri a nőket.

Hang on, if a human hiring manager did that,

Várjunk csak, ha egy humánerőforrás-menedzser tenné ezt,

we'd be outraged, we wouldn't allow it.

dühösek lennénk, nem engednénk.

This kind of gender discrimination is not OK.

Ez egyfajta nemi diszkrimináció, ami nem jó.

And yet somehow, AI has become above the law,

És mégis, valahogy az MI törvény felettivé vált,

because a machine made the decision.

mert egy gép hozta a döntést.

That's not it.

Nem csak erről van szó.

We are also reinforcing our bias in how we interact with AI.

Az MI-vel való kapcsolatteremtés is előítéleteinket erősíti.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

Milyen gyakran használunk olyan hangasszisztenseket,

mint Siri, Alexa és Cortana?

They all have two things in common:

Két dologban mind megegyeznek: nem tudják helyesen kiejteni a nevem,

one, they can never get my name right,

and second, they are all female.

és valamennyien nők.

They are designed to be our obedient servants,

Arra tervezték őket, hogy engedelmes szolgáink legyenek.

turning your lights on and off, ordering your shopping.

Felgyújtsák és leoltsák a lámpáinkat, vásároljanak számunkra.

You get male AIs too, but they tend to be more high-powered,

Férfi MI-k is vannak, de rendszerint nagyobb hatalmúak:

like IBM Watson, making business decisions,

Mint az IBM Watsonja, amely üzleti döntéseket hoz,

Salesforce Einstein or ROSS, the robot lawyer.

A Salesforce Einsteinje, vagy ROSS, a robotügyvéd.

So poor robots, even they suffer from sexism in the workplace.

Szóval még a szegény robotok is szexizmustól szenvednek a munkahelyen.

(Laughter)

(Nevetés)

Think about how these two things combine

Gondoljanak bele, hogy függ össze ez a két dolog,

and affect a kid growing up in today's world around AI.

és hogyan hat egy gyerekre, aki napjaink MI-vel teli világában nő fel.

So they're doing some research for a school project

Például kutatást végeznek egy iskolai projekthez,

and they Google images of CEO.

és Google-képeket keresnek vezérigazgatókról.

The algorithm shows them results of mostly men.

Az algoritmus főleg férfiakról mutat nekik képeket.

And now, they Google personal assistant.

Aztán személyi asszisztenst gugliznak,

As you can guess, it shows them mostly females.

Mint kitalálhatják, főleg nőket látnak.

And then they want to put on some music, and maybe order some food,

Majd valami zenét szeretnének, és talán ételt rendelnek,

and now, they are barking orders at an obedient female voice assistant.

és ekkor odavetnek pár parancsot egy engedelmes női hangú asszisztensnek.

Some of our brightest minds are creating this technology today.

Ezt a technológiát napjaink legkiválóbb elméi hozzák létre.

Technology that they could have created in any way they wanted.

Egy technológiát, amelyet bárhogy létrehozhatnának, ahogy csak akarják.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

És mégis, az 1950-es évek "Mad Man" titkár stílusában teszik ezt.

Yay!

Hurrá!

But OK, don't worry,

De ne aggódjanak!

this is not going to end with me telling you

Nem fejezem be azzal, hogy azt mondom önöknek,

that we are all heading towards sexist, racist machines running the world.

mindnyájan egy szexista, rasszista gépek által vezetett világ felé tartunk.

The good news about AI is that it is entirely within our control.

A jó hír az MI-ről, hogy teljesen az irányításunk alatt áll.

We get to teach the right values, the right ethics to AI.

Valós értékeket és erkölcsöt kell tanítanunk neki.

So there are three things we can do.

Három dolgot tehetünk:

One, we can be aware of our own biases

Az első, hogy tudatában lehetünk saját előítéleteinknek,

and the bias in machines around us.

és a gépekben lévő előítéletnek is.

Two, we can make sure that diverse teams are building this technology.

A második: változatos összetételű csapatot biztosítunk a technológia építésére.

And three, we have to give it diverse experiences to learn from.

És a harmadik: megoldjuk, hogy sokrétűbb tapasztalatokra építhesse tudását.

I can talk about the first two from personal experience.

Az első kettőről személyes tapasztalataim alapján is beszélhetek.

When you work in technology

Ha a műszaki tudományok területén dolgozunk,

and you don't look like a Mark Zuckerberg or Elon Musk,

és nem hasonlítunk Mark Zuckerberghez vagy Elon Muskhoz,

your life is a little bit difficult, your ability gets questioned.

az életünk kissé bonyolult, képességeinket megkérdőjelezik.

Here's just one example.

Itt egy példa:

Like most developers, I often join online tech forums

Mint a legtöbb fejlesztő, gyakran csatlakozom online tech fórumokhoz,

and share my knowledge to help others.

hogy tudásommal másokat segítsek.

And I've found,

És rájöttem,

when I log on as myself, with my own photo, my own name,

hogy amikor saját nevem alatt, saját fotómmal teszem ezt,

I tend to get questions or comments like this:

rendszeresen kapok ilyen kérdéseket és kommenteket, mint:

"What makes you think you're qualified to talk about AI?"

"Miből gondolod, hogy elég képzett vagy ahhoz, hogy az MI-ről beszélj?"

"What makes you think you know about machine learning?"

"Miből gondolod, hogy értesz a gépi tanuláshoz?

So, as you do, I made a new profile,

Így tehát csináltam egy új profilt,

and this time, instead of my own picture, I chose a cat with a jet pack on it.

és a saját képem helyett egy macskát választottam sugárhajtású felszereléssel.

És olyan nevet választottam, amely nem fedi fel a nememet.

And I chose a name that did not reveal my gender.

You can probably guess where this is going, right?

Valószínűleg kitalálják, hova akarok kilyukadni, ugye?

So, this time, I didn't get any of those patronizing comments about my ability

Szóval ezúttal nem kaptam egy leereszkedő kommentet sem a képességeimről,

and I was able to actually get some work done.

és lehetővé vált, hogy némi munkát végezzek.

And it sucks, guys.

Baromság, srácok.

I've been building robots since I was 15,

15 éves korom óta építek robotokat.

I have a few degrees in computer science,

Van néhány diplomám informatikából,

and yet, I had to hide my gender

és mégis, el kellett rejtenem a nememet,

in order for my work to be taken seriously.

azért, hogy a munkámat komolyan vegyék.

So, what's going on here?

Szóval, mi folyik itt?

Are men just better at technology than women?

Jobbak a férfiak a nőknél a technikában?

Another study found

Egy másik tanulmány kimutatta,

that when women coders on one platform hid their gender, like myself,

hogy amikor női programozók egy platformon nemüket rejtve dolgoznak,

their code was accepted four percent more than men.

programjaik 4 százalékkal nagyobb arányban kerültek elfogadásra a férfiakénál.

So this is not about the talent.

Úgyhogy ez nem a tehetségről szól,

This is about an elitism in AI

hanem a megkülönböztetésről az MI területén,

that says a programmer needs to look like a certain person.

mely behatárolja, hogy néz ki egy programozó.

What we really need to do to make AI better

Amit mindenképpen meg kell tennünk, hogy az MI jobbá váljon,

is bring people from all kinds of backgrounds.

hogy eltérő hátterű embereket kell előtérbe hoznunk,

Szükségünk van olyan emberekre, akik történeteket mondanak és írnak,

We need people who can write and tell stories

to help us create personalities of AI.

melyekkel segítenek bennünket MI személyiségek létrehozásában.

We need people who can solve problems.

Problémamegoldó emberekre van szükségünk.

We need people who face different challenges

Emberekre, akik különféle kihívásokkal néznek szembe,

and we need people who can tell us what are the real issues that need fixing

akik elmondják nekünk, melyek a valódi, javítást igénylő hibák,

and help us find ways that technology can actually fix it.

és segítenek megtalálni a kijavításukhoz szükséges technikai módszereket.

Because, when people from diverse backgrounds come together,

Mert amikor különböző hátterű emberek jönnek össze,

when we build things in the right way,

amikor megfelelően építjük a dolgokat,

the possibilities are limitless.

a lehetőségek határtalanok.

And that's what I want to end by talking to you about.

Erről kívánok beszélni befejezésül,

Less racist robots, less machines that are going to take our jobs --

nem annyira a rasszista robotokról, vagy a munkánkat elvevő gépekről,

and more about what technology can actually achieve.

hanem inkább arról, mit lehet a technológiával elérni.

So, yes, some of the energy in the world of AI,

Szóval, igen, az MI energiáinak egy része,

in the world of technology

a technológia világának bizonyos hányada arról szól,

is going to be about what ads you see on your stream.

milyen reklámokat látunk a csatornánkon.

But a lot of it is going towards making the world so much better.

De nagy része abba az irányba halad, hogy a világot sokkal jobbá tegyük.

Think about a pregnant woman in the Democratic Republic of Congo,

Gondoljunk egy terhes nőre, aki a Kongói Demokratikus Köztársaságban

who has to walk 17 hours to her nearest rural prenatal clinic

17 órát sétál a legközelebbi vidéki szülészeti klinikára,

to get a checkup.

hogy kivizsgálják.

What if she could get diagnosis on her phone, instead?

Mi lenne, ha ehelyett telefonon kaphatna diagnózist?

Or think about what AI could do

Vagy gondoljunk arra, mit jelenthetne az MI

for those one in three women in South Africa

minden harmadik nőnek Dél-Afrikában,

who face domestic violence.

akik családon belüli erőszakkal szembesülnek.

If it wasn't safe to talk out loud,

Ha nem volna biztonságos hangosan kiabálni,

they could get an AI service to raise alarm,

kaphatnak egy MI szolgáltatást a riasztáshoz,

get financial and legal advice.

pénzügyi vagy jogi tanácshoz.

These are all real examples of projects that people, including myself,

Ezek mind olyan, projektekből vett valódi példák,

amelyeken éppen dolgozunk, az MI-t használva.

are working on right now, using AI.

So, I'm sure in the next couple of days there will be yet another news story

Biztos vagyok benne, hogy pár napon belül megint felröppen egy újabb hír

about the existential risk,

az egzisztenciális kockázatról,

robots taking over and coming for your jobs.

hogy jönnek a robotok, és átveszik a munkánkat.

(Laughter)

(Nevetés)

And when something like that happens,

És amikor ilyesmi történik,

I know I'll get the same messages worrying about the future.

tudom, hogy ugyanazokat a jövő miatt aggódó üzeneteket fogom kapni,

But I feel incredibly positive about this technology.

de nagyon pozitívan gondolok erre a technológiára.

This is our chance to remake the world into a much more equal place.

Ez az esélyünk egyenlőbb új világot alkotni.

But to do that, we need to build it the right way from the get go.

De azért, hogy így legyen, a kezdetektől jól kell felépíteni.

We need people of different genders, races, sexualities and backgrounds.

Kellenek különféle nemű, fajú, nemi identitású és hátterű emberek.

We need women to be the makers

Szükségünk van nőkre, akik alkotnak,

and not just the machines who do the makers' bidding.

és nem csak gépek, akik végrehajtják az alkotók parancsát.

We need to think very carefully what we teach machines,

Nagyon meg kell gondolnunk, mit tanítunk a gépeknek,

what data we give them,

milyen adatokkal látjuk el őket,

so they don't just repeat our own past mistakes.

hogy ne csupán múltbéli hibáink megismétlői legyenek.

So I hope I leave you thinking about two things.

Remélem, később majd elgondolkoznak két dolgon:

First, I hope you leave thinking about bias today.

Először is napjaink előítéleteiről.

And that the next time you scroll past an advert

És hogy legközelebb, amikor egy reklámot görgetnek át,

that assumes you are interested in fertility clinics

amely feltételezi, hogy érdeklik önöket a termékenységi klinikák

or online betting websites,

vagy az online fogadó oldalak,

that you think and remember

gondolnak majd arra, és emlékezni fognak rá,

that the same technology is assuming that a black man will reoffend.

hogy ugyanez a technológia feltételezi, hogy egy néger ember visszaeső lehet,

Or that a woman is more likely to be a personal assistant than a CEO.

vagy egy nő esetében valószínűbb, hogy személyi asszisztens lesz,

nem pedig vezérigazgató.

And I hope that reminds you that we need to do something about it.

És remélem, ez emlékezteti majd önöket, hogy valamit tennünk kell ebben az ügyben.

And second,

Másodszor: remélem, elgondolkodnak arról,

I hope you think about the fact

that you don't need to look a certain way

hogy nem kell egy bizonyos módon kinéznünk,

or have a certain background in engineering or technology

vagy bizonyos háttérrel rendelkeznünk a tervezésben és a technikában,

to create AI,

hogy olyan MI-t hozzunk létre,

which is going to be a phenomenal force for our future.

amely rendkívüli erővé válik a jövőben.

You don't need to look like a Mark Zuckerberg,

Nem kell Mark Zuckerberghez hasonlítanunk.

you can look like me.

Nézhet ki valaki hozzám hasonlóan is.

And it is up to all of us in this room

Ebben a teremben mindenkin múlik,

to convince the governments and the corporations

hogy meggyőzzük a kormányokat és a vállalkozókat,

to build AI technology for everyone,

hogy az MI technológiát az összes ember számára építsük,

including the edge cases.

beleértve a kirívó eseteket is.

And for us all to get education

És hogy mindnyájan kapjunk képzést

about this phenomenal technology in the future.

erről a rendkívüli jövőbeni technológiáról.

Because if we do that,

Mert ha így lesz,

then we've only just scratched the surface of what we can achieve with AI.

akkor csak épphogy belekóstoltunk abba, amit az MI-vel elérhetünk.

Thank you.

Köszönöm.

(Applause)

(Taps)