How to keep human bias out of AI | Kriti Sharma

Translator: Ivana Korom Reviewer: Joanna Pietrulewicz

Übersetzung: Nina Held Lektorat: Andreas Herzog

How many decisions have been made about you today,

Wie viele Entscheidungen wurden heute über Sie getroffen,

or this week or this year,

oder diese Woche, dieses Jahr,

by artificial intelligence?

von künstlicher Intelligenz?

I build AI for a living

Ich entwickle beruflich KI,

so, full disclosure, I'm kind of a nerd.

ja, ich gebe zu, ich bin ein Sonderling.

And because I'm kind of a nerd,

Und weil ich ein Sonderling bin,

wherever some new news story comes out

immer wenn Nachrichten darüber veröffentlicht werden,

about artificial intelligence stealing all our jobs,

wie künstliche Intelligenz all unsere Arbeitsplätze stielt,

or robots getting citizenship of an actual country,

oder Roboter die Staatsbürgerschaft eines echten Landes erhalten,

I'm the person my friends and followers message

kontaktieren Freunde und Follower mich

freaking out about the future.

und verzweifeln über die Zukunft.

We see this everywhere.

Wir sehen es überall.

This media panic that our robot overlords are taking over.

Diese Panik der Medien, dass Roboter die Weltherrschaft übernehmen.

We could blame Hollywood for that.

Wir könnten Hollywood die Schuld dafür geben.

But in reality, that's not the problem we should be focusing on.

Aber eigentlich ist das nicht das Problem, auf das wir uns konzentrieren sollten.

There is a more pressing danger, a bigger risk with AI,

Es gibt eine größere Gefahr, ein höheres Risiko bei der KI,

that we need to fix first.

die wir zuerst lösen müssen.

So we are back to this question:

Also zurück zu der Frage:

How many decisions have been made about you today by AI?

Wie viele Entscheidungen über Sie wurden heute von KI getroffen?

And how many of these

Und wie viele davon

were based on your gender, your race or your background?

basierten auf Ihrem Geschlecht, Ihrer Hautfarbe oder Herkunft?

Algorithms are being used all the time

Algorithmen werden ständig benutzt,

to make decisions about who we are and what we want.

um Entscheidungen darüber zu treffen, wer wir sind und was wir wollen.

Some of the women in this room will know what I'm talking about

Manche Frauen hier wissen, worüber ich spreche,

if you've been made to sit through those pregnancy test adverts on YouTube

wenn sie mal auf YouTube diese Schwangerschaftstest-Werbungen

über sich ergehen lassen mussten,

like 1,000 times.

um die 1000 mal.

Or you've scrolled past adverts of fertility clinics

Oder auf Facebook an Werbung für Fruchtbarkeitskliniken vorbeiscrollten,

on your Facebook feed.

Or in my case, Indian marriage bureaus.

Oder, in meinem Fall, indische Ehevermittlungen.

(Laughter)

(Gelächter)

But AI isn't just being used to make decisions

Aber KI wird nicht nur genutzt, um zu entscheiden,

about what products we want to buy

welche Produkte wir kaufen wollen

or which show we want to binge watch next.

oder welche Serie wir als nächstes verschlingen wollen.

I wonder how you'd feel about someone who thought things like this:

Ich frage mich, wie Sie es wohl fänden,

wenn jemand Sachen denkt wie:

"A black or Latino person

"Eine dunkelhäutige oder lateinamerikanische Person

is less likely than a white person to pay off their loan on time."

zahlt Schulden weniger zuverlässig zurück als eine weiße Person."

"A person called John makes a better programmer

"Eine Person namens John ist ein besserer Programmierer

than a person called Mary."

als eine Person namens Mary."

"A black man is more likely to be a repeat offender than a white man."

"Ein dunkelhäutiger Mann ist mit größerer Wahrscheinlichkeit

ein Wiederholungstäter als ein weißer."

You're probably thinking,

Sie denken wahrscheinlich:

"Wow, that sounds like a pretty sexist, racist person," right?

"Wow, das klingt nach

einer sehr sexistischen und rassistischen Person", oder?

These are some real decisions that AI has made very recently,

Dies sind einige reale Entscheidungen von KI in letzter Zeit,

based on the biases it has learned from us,

basierend auf Vorurteilen, die sie von uns übernahm,

from the humans.

von den Menschen.

AI is being used to help decide whether or not you get that job interview;

KI wird genutzt, um bei der Entscheidung zu helfen,

ob Sie zum Vorstellungsgespräch eingeladen werden;

how much you pay for your car insurance;

wie viel Sie für die Autoversicherung zahlen;

how good your credit score is;

wie gut Ihre Kreditwürdigkeit ist;

and even what rating you get in your annual performance review.

und sogar wie Ihre jährliche Leistungsbeurteilung ausfällt.

But these decisions are all being filtered through

Aber all diese Entscheidungen werden gefiltert,

its assumptions about our identity, our race, our gender, our age.

durch Annahmen über unsere Identität, Hautfarbe, unser Geschlecht und Alter.

How is that happening?

Wie kann das passieren?

Now, imagine an AI is helping a hiring manager

Stellen Sie sich vor, eine KI hilft einem Personalchef,

find the next tech leader in the company.

den nächsten technischen Leiter der Firma zu finden.

So far, the manager has been hiring mostly men.

Bisher stellte der Personalchef vor allem Männer ein.

So the AI learns men are more likely to be programmers than women.

Also lernt die KI, dass Männer eher Programmierer sind als Frauen.

And it's a very short leap from there to:

Von dort ist es nicht weit zu:

men make better programmers than women.

Männer sind bessere Programmierer als Frauen.

We have reinforced our own bias into the AI.

Wir haben unser eigenes Vorurteil in die KI infiltriert.

And now, it's screening out female candidates.

Und nun werden weibliche Kandidaten aussortiert.

Hang on, if a human hiring manager did that,

Wenn ein menschlicher Manager dies tun würde,

we'd be outraged, we wouldn't allow it.

wären wir entsetzt, würden es nicht erlauben.

This kind of gender discrimination is not OK.

Diese Form von Diskriminierung ist nicht in Ordnung.

And yet somehow, AI has become above the law,

Dennoch hat sich KI irgendwie über das Gesetz gestellt,

because a machine made the decision.

weil eine Maschine die Entscheidung traf.

That's not it.

Aber das ist nicht alles.

We are also reinforcing our bias in how we interact with AI.

Wir lassen unsere Vorurteile auch bei der Interaktion mit KI einfließen.

How often do you use a voice assistant like Siri, Alexa or even Cortana?

Wie oft benutzen wir einen Sprachassistenten,

wie Siri, Alexa oder Cortana?

They all have two things in common:

Alle haben zwei Dinge gemein:

one, they can never get my name right,

erstens, sie sprechen meinen Namen nie richtig aus

and second, they are all female.

und zweitens, sie sind alle weiblich.

They are designed to be our obedient servants,

Sie wurden entwickelt, um unsere gehorsamen Dienerinnen zu sein,

turning your lights on and off, ordering your shopping.

das Licht ein und aus zu schalten, Einkäufe zu bestellen.

You get male AIs too, but they tend to be more high-powered,

Es gibt auch männliche KI, aber diese sind eher leistungsstärker,

like IBM Watson, making business decisions,

wie IBM Watson,

der Business-Entscheidungen trifft,

Salesforce Einstein or ROSS, the robot lawyer.

Salesforce Einstein oder ROSS, der Roboter-Jurist.

So poor robots, even they suffer from sexism in the workplace.

Arme Roboter, sogar sie sind von Sexismus am Arbeitsplatz betroffen.

(Laughter)

(Gelächter)

Think about how these two things combine

Überlegen Sie, wie diese beiden Dinge zusammenspielen

and affect a kid growing up in today's world around AI.

und Kinder beeinflussen, die in der heutigen Welt aufwachsen,

umgeben von KI.

So they're doing some research for a school project

Sie führen dann ein Forschungsprojekt für die Schule durch

and they Google images of CEO.

und suchen Bilder von Vorstandsvorsitzenden auf Google.

The algorithm shows them results of mostly men.

Der Algorithmus zeigt ihnen hauptsächlich welche von Männern.

And now, they Google personal assistant.

Dann suchen sie nach persönlichen Assistenten

As you can guess, it shows them mostly females.

und finden, wie man sich denken kann, hauptsächlich Frauen.

And then they want to put on some music, and maybe order some food,

Dann wollen sie Musik hören und vielleicht Essen bestellen

and now, they are barking orders at an obedient female voice assistant.

und geben Anweisungen an gehorsame weibliche Sprachassistentinnen.

Some of our brightest minds are creating this technology today.

Einige unsere schlausten Köpfe entwickeln diese Technologien heute.

Technology that they could have created in any way they wanted.

Sie hätten sie in jeder beliebigen Form

entwickeln können.

And yet, they have chosen to create it in the style of 1950s "Mad Man" secretary.

Doch sie nahmen die Sekretärin aus "Mad Man" aus den 50ern als Vorbild.

Yay!

Hurra!

But OK, don't worry,

Aber keine Sorge,

this is not going to end with me telling you

es läuft nicht darauf hinaus, dass ich Ihnen sage,

that we are all heading towards sexist, racist machines running the world.

dass uns sexistische, rassistische Roboter beherrschen werden.

The good news about AI is that it is entirely within our control.

Der Vorteil von KI ist, dass wir sie kontrollieren können.

We get to teach the right values, the right ethics to AI.

Wir können sie die richtigen Werte, die richtige Ethik lehren.

So there are three things we can do.

Wir können drei Dinge tun.

One, we can be aware of our own biases

Erstens können wir uns unserer eigenen Vorurteile

and the bias in machines around us.

und derer der Maschinen um uns herum bewusst sein.

Two, we can make sure that diverse teams are building this technology.

Zweitens können wir sicherstellen,

dass bunt gemischte Teams diese Technologien entwickeln.

And three, we have to give it diverse experiences to learn from.

Und drittens müssen wir ihr vielfältige Erfahrungen geben,

von denen sie lernen kann.

I can talk about the first two from personal experience.

Die ersten beiden kenne ich aus persönlicher Erfahrung.

When you work in technology

Wenn man in der Technologie arbeitet,

and you don't look like a Mark Zuckerberg or Elon Musk,

und nicht wie ein Mark Zuckerberg oder Elon Musk aussieht,

your life is a little bit difficult, your ability gets questioned.

ist das Leben ein wenig schwierig, Fähigkeiten werden hinterfragt.

Here's just one example.

Hier nur ein Beispiel.

Like most developers, I often join online tech forums

Wie die meisten Entwickler trete ich online vielen Technik-Foren bei,

and share my knowledge to help others.

um anderen mit meinem Wissen zu helfen.

And I've found,

Ich stellte fest,

when I log on as myself, with my own photo, my own name,

wenn ich mich anmelde, mit meinem Foto, meinem Namen,

I tend to get questions or comments like this:

werden viele Fragen oder Kommentare, wie diese, gepostet:

"What makes you think you're qualified to talk about AI?"

"Wieso denkst du, dass du qualifiziert bist über KI zu sprechen?"

"What makes you think you know about machine learning?"

"Wieso denkst du, dass du etwas über maschinelles Lernen weißt?"

So, as you do, I made a new profile,

Also erstellte ich, wie viele, ein neues Profil,

and this time, instead of my own picture, I chose a cat with a jet pack on it.

diesmal mit einem lustigen Katzenbild anstelle eines Bildes von mir.

And I chose a name that did not reveal my gender.

Ich benutzte einen Namen, der mein Geschlecht nicht verriet.

You can probably guess where this is going, right?

Sie ahnen wahrscheinlich, wohin das führt, oder?

So, this time, I didn't get any of those patronizing comments about my ability

Diesmal bekam ich keine dieser

herablassenden Kommentare über meine Fähigkeiten

and I was able to actually get some work done.

und konnte tatsächlich produktiv arbeiten.

And it sucks, guys.

Das kotzt mich an!

I've been building robots since I was 15,

Ich baue Roboter seit ich 15 bin,

I have a few degrees in computer science,

ich habe ein paar Abschlüsse in Informatik,

and yet, I had to hide my gender

und dennoch musste ich mein Geschlecht verheimlichen,

in order for my work to be taken seriously.

um Anerkennung für meine Arbeit zu erlangen.

So, what's going on here?

Wie kann das sein?

Are men just better at technology than women?

Sind Männer einfach besser in der Technologie als Frauen?

Another study found

Eine andere Studie fand heraus,

that when women coders on one platform hid their gender, like myself,

dass, wenn Programmiererinnen

ihr Geschlecht auf Plattformen vertuschten, so wie ich,

their code was accepted four percent more than men.

war die Anerkennungsrate ihrer Codes vier Prozent höher als die von Männern.

So this is not about the talent.

Es geht also nicht um Talent.

This is about an elitism in AI

Es geht um das Elitedenken bei KI,

that says a programmer needs to look like a certain person.

das besagt, dass Programmierer bestimmte Merkmale haben müssen.

What we really need to do to make AI better

Was wir tun müssen, um KI zu verbessern,

is bring people from all kinds of backgrounds.

ist Leute unterschiedlicher Herkunft zusammen zu bringen.

We need people who can write and tell stories

Wir brauchen Leute, die Geschichten schreiben und erzählen können,

to help us create personalities of AI.

um zu helfen KI einen Charakter zu geben.

We need people who can solve problems.

Wir brauchen Leute, die Probleme lösen können,

Leute, die sich unterschiedlichen Herausforderungen stellen können

We need people who face different challenges

and we need people who can tell us what are the real issues that need fixing

und wir brauchen Leute, die uns die wahren Probleme aufzeigen,

die gelöst werden müssen,

and help us find ways that technology can actually fix it.

und uns helfen Wege zu finden, wie Technologie diese lösen kann.

Because, when people from diverse backgrounds come together,

Denn wenn Menschen verschiedener Herkunft zusammenkommen,

when we build things in the right way,

wenn wir Dinge auf die richtige Art und Weise aufbauen,

the possibilities are limitless.

dann sind die Möglichkeiten unbegrenzt.

And that's what I want to end by talking to you about.

Darüber möchte ich abschließend sprechen.

Less racist robots, less machines that are going to take our jobs --

Weniger über rassistische Roboter oder Maschinen,

die uns unsere Jobs wegnehmen --

and more about what technology can actually achieve.

und mehr darüber, was Technologie tatsächlich leisten kann.

So, yes, some of the energy in the world of AI,

Ja, ein Teil der Welt der KI,

in the world of technology

der Welt der Technologie,

is going to be about what ads you see on your stream.

wird sich damit beschäftigen, welche Werbung Ihnen angezeigt wird.

But a lot of it is going towards making the world so much better.

Aber vieles wird helfen, die Welt sehr viel besser zu machen.

Think about a pregnant woman in the Democratic Republic of Congo,

Denken Sie an eine schwangere Frau in der Republik Kongo,

who has to walk 17 hours to her nearest rural prenatal clinic

die 17 Stunden zur nächstgelegenen pränatalen Klinik laufen muss,

to get a checkup.

um untersucht zu werden.

What if she could get diagnosis on her phone, instead?

Was, wenn sie stattdessen die Diagnose auf ihrem Smartphone empfangen könnte?

Or think about what AI could do

Oder denken Sie was KI tun könnte,

for those one in three women in South Africa

für das Drittel der Frauen in Südafrika,

who face domestic violence.

das von häuslicher Gewalt betroffen ist.

If it wasn't safe to talk out loud,

Wenn sie nicht öffentlich darüber sprechen könnten,

they could get an AI service to raise alarm,

könnte eine KI einen Alarm auslösen,

get financial and legal advice.

finanzielle oder rechtliche Hilfe geben.

These are all real examples of projects that people, including myself,

Das sind alles Beispiele realer Projekte, an denen Leute, auch ich,

are working on right now, using AI.

aktuell mit KI arbeiten.

So, I'm sure in the next couple of days there will be yet another news story

Ich bin mir sicher,

dass in den nächsten Tagen eine neue Meldung kommen wird,

about the existential risk,

über das existentielle Risiko,

robots taking over and coming for your jobs.

dass Roboter die Welt übernehmen und auf unsere Jobs aus sind.

(Laughter)

(Gelächter)

And when something like that happens,

Und wenn das passiert,

I know I'll get the same messages worrying about the future.

bekomme ich sicherlich die gleichen Nachrichten,

mit Sorgen über die Zukunft.

But I feel incredibly positive about this technology.

Aber ich stehe dieser Technologie sehr positiv gegenüber.

This is our chance to remake the world into a much more equal place.

Es ist unsere Chance, die Welt in einen gerechteren Ort zu verwandeln.

But to do that, we need to build it the right way from the get go.

Aber wir müssen sie von Grund auf richtig bilden.

We need people of different genders, races, sexualities and backgrounds.

Wir brauchen dafür Leute verschiedener Geschlechter, Sexualität und Herkunft.

We need women to be the makers

Frauen müssen Produzentinnen sein

and not just the machines who do the makers' bidding.

und nicht nur Handlangerinnen von Produzenten.

We need to think very carefully what we teach machines,

Wir müssen aufpassen, was wir Maschinen beibringen,

what data we give them,

welche Informationen wir ihnen geben,

so they don't just repeat our own past mistakes.

so dass sie nicht nur unsere Fehler der Vergangenheit wiederholen.

So I hope I leave you thinking about two things.

Ich hoffe, dass Sie nun über zwei Dinge nachdenken werden.

First, I hope you leave thinking about bias today.

Erstens hoffe ich, dass Sie über Vorurteile nachdenken.

And that the next time you scroll past an advert

Und dass, wenn Sie das nächste Mal eine Anzeige sehen,

that assumes you are interested in fertility clinics

die annimmt, dass Sie an Fruchtbarkeitskliniken interessiert sind,

or online betting websites,

oder an Online-Wetten,

that you think and remember

dass sie sich erinnern,

that the same technology is assuming that a black man will reoffend.

dass die gleiche Technologie annimmt,

dass ein schwarzer Mann Wiederholungstäter ist.

Or that a woman is more likely to be a personal assistant than a CEO.

Oder, dass eine Frau eher Sekretärin als Vorstandsvorsitzende ist.

And I hope that reminds you that we need to do something about it.

Ich hoffe, das erinnert Sie daran, dass wir etwas ändern müssen.

And second,

Zweitens hoffe ich, dass Sie daran denken,

I hope you think about the fact

that you don't need to look a certain way

dass Sie keinem Ideal entsprechen müssen,

or have a certain background in engineering or technology

oder Erfahrung im Ingenieurwesen oder Technologie haben müssen,

to create AI,

um KI zu entwickeln,

which is going to be a phenomenal force for our future.

was einen unglaublichen Einfluss auf die Zukunft haben wird.

You don't need to look like a Mark Zuckerberg,

Sie müssen nicht wie Mark Zuckerberg aussehen,

you can look like me.

Sie können aussehen wie ich.

And it is up to all of us in this room

Es ist die Aufgabe von uns allen hier im Raum

to convince the governments and the corporations

die Regierungen und Konzerne zu überzeugen

to build AI technology for everyone,

KI für alle zu entwickeln,

including the edge cases.

auch für die Randgruppen.

And for us all to get education

Und dass wir uns zukünftig alle

about this phenomenal technology in the future.

über diese wunderbare Technologie informieren.

Because if we do that,

Denn wenn wir das tun,

then we've only just scratched the surface of what we can achieve with AI.

dann haben wir bisher nur an der Oberfläche dessen gekratzt,

was wir mit KI erreichen können.

Thank you.

Danke.

(Applause)

(Applaus)