How we can build AI to help humans, not hurt us | Margaret Mitchell

Çeviri: Fatih Yürekli Gözden geçirme: Figen Ergürbüz

I work on helping computers communicate about the world around us.

Bilgisayarların çevremizdeki dünya ile iletişim kurmasına yardım etmek

There are a lot of ways to do this,

üzerine çalışıyorum ve bunu yapmanın birçok yolu var

and I like to focus on helping computers

ben bilgisayarlara gördükleri ve anladıkları hakkında konuşmaları için

to talk about what they see and understand.

yardım etme üzerine odaklanmayı tercih ettim.

Given a scene like this,

Böyle bir sahneyi göz önüne alın,

a modern computer-vision algorithm

modern bilgisayar-vizyonu algoritması

can tell you that there's a woman and there's a dog.

burada bir kadın var ve bir köpek var diyebilir.

It can tell you that the woman is smiling.

Kadının gülümsediğini size söyleyebilir.

It might even be able to tell you that the dog is incredibly cute.

Hatta köpeğin inanılmaz bir şekilde sevimli olduğunu söyleyebilir.

I work on this problem

Benim üzerinde çalıştığım problem yapay zekânın insanların dünyayı

thinking about how humans understand and process the world.

nasıl anladığını ve nasıl değerlendirdiğini düşünmesi.

The thoughts, memories and stories

Düşünceler, anılar ve hikâyeler.

that a scene like this might evoke for humans.

bu gibi sahneler insanlara hatırlatılabilir.

All the interconnections of related situations.

İlgili durumların tüm bağlantıları.

Maybe you've seen a dog like this one before,

Belki de daha önce bunun gibi bir köpek görmüşsünüzdür

or you've spent time running on a beach like this one,

veya bunun gibi sahilde koşarak zaman geçirmişsinizdir

and that further evokes thoughts and memories of a past vacation,

ve ayrıca eski bir tatile ait anı ve düşünceleri anımsatmaktadır,

past times to the beach,

sahildeki geçmiş zamanlar,

times spent running around with other dogs.

başka köpeklerle beraber etrafta beraber koşarak geçen zamanlar.

One of my guiding principles is that by helping computers to understand

Bana ışık tutan prensiplerimden bir tanesi de bu tecrübeye sahip olmanın

nasıl bir şey olduğunu bilgisayarın anlamasını sağlarsak

what it's like to have these experiences,

to understand what we share and believe and feel,

ne paylaştığımızı, neye inandığımızı ve ne hissettiğimizi anlamasını sağlarsak

then we're in a great position to start evolving computer technology

bilgisayar teknolojisini bizim tecrübelerimizle uyumlu bir şekilde

in a way that's complementary with our own experiences.

geliştirmeye başlamak için harika bir yerdeyiz demektir.

So, digging more deeply into this,

Bu nedenle, bunu daha derinlemesine araştırırken,

a few years ago I began working on helping computers to generate human-like stories

birkaç yıl önce bir dizi fotoğraftan bilgisayarların insan benzeri hikâyeler

üretmesine yardımcı olmak üzere çalışmaya başladım.

from sequences of images.

So, one day,

Ve bir gün,

I was working with my computer to ask it what it thought about a trip to Australia.

bilgisayarımla Avustralya gezisi hakkında ne düşündüğünü sormak için çalışıyordum.

It took a look at the pictures, and it saw a koala.

Resme baktı ve bir koala gördü.

It didn't know what the koala was,

Koala'nın ne olduğunu bilmiyor

but it said it thought it was an interesting-looking creature.

fakat ilginç görünümlü bir yaratık olduğunu düşündüğünü söyledi.

Then I shared with it a sequence of images about a house burning down.

Ardından onunla bir dizi yanan ev resmi paylaştım.

It took a look at the images and it said,

Resimlere baktı ve dedi ki,

"This is an amazing view! This is spectacular!"

" Bu hayret verici bir görüntü, bu olağanüstü."

It sent chills down my spine.

Ürperdim.

It saw a horrible, life-changing and life-destroying event

O korkunç, hayatı değiştiren ve hayatı yok eden olay gördü

and thought it was something positive.

ve bir şeylerin olumlu olduğunu düşündü.

I realized that it recognized the contrast,

Bence, kırmızı sarı zıtlığını

the reds, the yellows,

algıladı

and thought it was something worth remarking on positively.

ve olumlu bakmaya değer bir şey olarak düşündü.

And part of why it was doing this

Ve kısmen bunu yapmasının nedeni

was because most of the images I had given it

ona vermiş olduğum resimlerin çoğunluğunun

were positive images.

olumlu görüntüler olmasıydı.

That's because people tend to share positive images

Bunun nedeni insanlar kendi tecrübelerinden bahsederken

when they talk about their experiences.

olumlu resimleri paylaşmaya meyillidirler.

When was the last time you saw a selfie at a funeral?

En son ne zaman cenaze töreninde paylaşılan bir selfie gödünüz?

I realized that, as I worked on improving AI

Anladım ki yapay zekâyı geliştirmek üzere çalışıyorken

task by task, dataset by dataset,

görevden göreve, veri setinden veri setine,

that I was creating massive gaps,

çok büyük boşluklar,

holes and blind spots in what it could understand.

delikler ve onun anlayabileceği kör noktalar yaratıyordum.

And while doing so,

Ve bunu yaparken,

I was encoding all kinds of biases.

her türlü ön yargıyı kodluyordum.

Biases that reflect a limited viewpoint,

Kısıtlı bir bakış açısını yansıtan ön yargılar,

limited to a single dataset --

tek veri seti ile sınırlanmış--

biases that can reflect human biases found in the data,

insan ön yargılarını yansıtabilen ön yargılar verilerde de bulunur,

such as prejudice and stereotyping.

ön yargı ve basma kalıp düşünceler gibi.

I thought back to the evolution of the technology

Beni o gün olduğum yere getiren teknolojinin

that brought me to where I was that day --

evrimini düşündüm--

how the first color images

ilk renkli resmin nasıl

were calibrated against a white woman's skin,

beyaz kadının tenine uyarlandığını

meaning that color photography was biased against black faces.

renkli fotoğrafçılığın siyah yüzlere karşı ön yargılı olduğu anlamına geliyordu.

And that same bias, that same blind spot

Ve bu benzer ön yargı, bu aynı kör nokta

continued well into the '90s.

90'larda da devam etti.

And the same blind spot continues even today

Hatta aynı kör nokta yüz tanıma teknolojisinde farklı insanların

in how well we can recognize different people's faces

yüzlerini ne kadar iyi tanıdığımız konusunda

in facial recognition technology.

bugün de devam etmektedir.

I though about the state of the art in research today,

Bugünkü araştırmalardaki gelişmişlik seviyesini düşündüm, kendi düşüncemizi

where we tend to limit our thinking to one dataset and one problem.

bir veri setinde ve bir problemde sınırlamaya meyilli olduğumuz yerde.

And that in doing so, we were creating more blind spots and biases

Ve bunu yaparken, yapay zekânın daha fazla büyüteceği

birçok kör nokta ve ön yargı yarattım.

that the AI could further amplify.

I realized then that we had to think deeply

Ardından anladım ki, bugün üzerinde çalıştığımız teknolojinin

about how the technology we work on today looks in five years, in 10 years.

beş yıl içresinde, 10 yıl içerisinde nasıl görüneceğini derinlemesine düşünmeliydik.

Humans evolve slowly, with time to correct for issues

İnsan zamanla insanlarla ve çevresiyle etkileşimindeki

in the interaction of humans and their environment.

meseleleri düzelterek yavaş yavaş evrimleşir.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Aksine, yapay zekâ inanılmaz bir hızla evrimleşmektedir.

And that means that it really matters

Ve bu şu anlama gelir, bu hemen şimdi

that we think about this carefully right now --

dikkatli bir şekilde düşünmemiz gereken bir konudur --

that we reflect on our own blind spots,

ki biz bunun üzerine kendi kör noktamızı

our own biases,

kendi ön yargılarımızı yansıtıyoruz

and think about how that's informing the technology we're creating

ve bu bilgi teknolojilerini nasıl yarattığımız hakkında düşünmeliyiz

and discuss what the technology of today will mean for tomorrow.

ve bugünün teknolojisinin yarın için ne ifade edeceğini tartışmalıyız.

CEOs and scientists have weighed in on what they think

CEO'lar ve bilim insanları geleceğin yapay zekâ teknolojilerinin

the artificial intelligence technology of the future will be.

ne olacağını düşünmek üzerine ağırlıklarını koydular.

Stephen Hawking warns that

Stephen Hawking,

"Artificial intelligence could end mankind."

"Yapay zekâ insanların sonu olabilir" uyarısını yaptı.

Elon Musk warns that it's an existential risk

Elon Musk, bunun bir varoluşsal risk olduğu ve toplum olarak

and one of the greatest risks that we face as a civilization.

karşı karşıya olduğumuz en büyük risklerden biri olduğu konusunda uyardı.

Bill Gates has made the point,

Bill Gates bir noktaya işaret etti;

"I don't understand why people aren't more concerned."

"İnsanların niçin daha fazla alakadar olmadığını anlamıyorum."

But these views --

Fakat bu görüşler--

they're part of the story.

hikâyenin sadece bir bölümü.

The math, the models,

Matematik, modeller

the basic building blocks of artificial intelligence

yapay zekânın temel yapı taşları

are something that we call access and all work with.

erişim olarak tanımladığımız ve bununla alakadar şeylerdir.

We have open-source tools for machine learning and intelligence

Machine Learning ve katkıda bulunduğumuz zekâ için

açık kaynak araçlarına sahibiz.

that we can contribute to.

And beyond that, we can share our experience.

Ve bunun ötesinde, tecrübelerimizi paylaşabiliyoruz.

We can share our experiences with technology and how it concerns us

Tecrübelerimizi teknolojiyle paylaşabiliyoruz ve bizi nasıl

and how it excites us.

alakadar ettiği bizi nasıl cezbettiği

We can discuss what we love.

Neyi sevdiğimizi tartışabiliriz.

We can communicate with foresight

Daha faydalı olabilecek veya zamanla

about the aspects of technology that could be more beneficial

daha sorunlu olabilecek teknolojinin görünümleri hakkında

or could be more problematic over time.

ön görü ile iletişim kurabiliriz.

If we all focus on opening up the discussion on AI

Eğer geleceğe yönelik öngörü ile beraber yapay zekâ üzerine tartışma

with foresight towards the future,

açmak üzerine odaklanırsak

this will help create a general conversation and awareness

bu şimdi yapay zekânın ne olduğu,

about what AI is now,

ne olabileceği

ve bize en uygun sonucu mümkün kılması için

what it can become

and all the things that we need to do

yapmamız gereken her şey hakkında

in order to enable that outcome that best suits us.

genel bir tartışma ve farkındalık yaratmamıza yardım edecektir.

We already see and know this in the technology that we use today.

Bunu bugün kullandığımız teknolojide zaten gördük ve anladık.

We use smart phones and digital assistants and Roombas.

Akıllı telefon, dijital asistan ve Roombas kullanıyoruz.

Are they evil?

Bunlar kötü mü?

Maybe sometimes.

Belki bazen.

Are they beneficial?

Faydalı mı?

Yes, they're that, too.

Evet, ayrıca faydalı.

And they're not all the same.

Ve bunların hepsi aynı değil.

And there you already see a light shining on what the future holds.

Ve burada geleceğin getireceklerinin ışığını şimdiden görüyorsun.

The future continues on from what we build and create right now.

Gelecek şimdi yarattığımız ve inşa ettiğimiz şeyden devam ediyor.

We set into motion that domino effect

Yapay zekânın evrimsel yolunu açan

that carves out AI's evolutionary path.

domino etkisi yaratan hareketi başlattık.

In our time right now, we shape the AI of tomorrow.

Bizim zamanımızda şimdi, yarının yapay zekâsını şekillendiriyoruz.

Technology that immerses us in augmented realities

Bizi artırılmış gerçekliğin içine daldıran teknoloji

bringing to life past worlds.

geçmiş dünyaları canlandırıyor.

Technology that helps people to share their experiences

İrtibat kurmakta zorluk çektiklerinde kendi tecrübelerini paylaşmalarında

when they have difficulty communicating.

insanlara yardımcı olan teknoloji.

Technology built on understanding the streaming visual worlds

Akan görsel dünyaları anlamak üzerine inşa edilmiş olan teknoloji

sürücüsüz arabalarda kullanıyor.

used as technology for self-driving cars.

Technology built on understanding images and generating language,

Resimleri anlama ve dil üretmeyi anlama üzerine inşa edilmiş olan teknoloji

evolving into technology that helps people who are visually impaired

görme engelli insanların görsel dünyaya daha iyi ulaşmalarına

be better able to access the visual world.

yardım eden teknolojiye evriliyor.

And we also see how technology can lead to problems.

Aynı zamanda teknolojinin nasıl sorunlara yol açabileceğini de görüyoruz.

We have technology today

Bugün, ten rengimiz veya yüzümüzün görüntüsü gibi doğuştan gelen

that analyzes physical characteristics we're born with --

fiziksel özelliklerimizi analiz ederek

such as the color of our skin or the look of our face --

bizim suçlu veya terörist olma ya da olmama ihtimalimizi belirlemek için

in order to determine whether or not we might be criminals or terrorists.

kullanan teknolojilere sahibiz.

We have technology that crunches through our data,

Kredi alıp alamayacağımıza karar vermek için verilerimizi

even data relating to our gender or our race,

hatta cinsiyetimiz veya ırkımızla ilgili verileri kullanarak

in order to determine whether or not we might get a loan.

hesaplamalar yapan bir teknolojiye sahibiz.

All that we see now

Şimdi gördüğümüz her şey

is a snapshot in the evolution of artificial intelligence.

yapay zekânın evriminde anlık bir görüntüdür.

Because where we are right now,

Çünkü şimdi olduğumuz yer

is within a moment of that evolution.

bu evrimin içinde kısa bir an.

That means that what we do now will affect what happens down the line

Bunun anlamı, şu anda yaptığımız şey gelecekte olacak

and in the future.

şeyleri etkileyecektir.

If we want AI to evolve in a way that helps humans,

Eğer yapay zekânın insanlığa yardım etme yolunda evrimleşmesini istiyorsak

then we need to define the goals and strategies

bize bu yolu sağlayacak hedef ve stratejileri belirlemeye

that enable that path now.

ihtiyacımız var.

What I'd like to see is something that fits well with humans,

Görmek istediğim şey

insanlar ile, bizim kültürümüz ve çevremiz ile uyumlu bir şeylerdir.

with our culture and with the environment.

Technology that aids and assists those of us with neurological conditions

Hayatı herkes için eşit derecede zorlayıcı yapmak için

or other disabilities

nörolojik hastalıkları olanlar

in order to make life equally challenging for everyone.

ya da diğer engelli olanlarımıza yardımcı ve destekleyici olacak teknoloji.

Technology that works

Demografik yapı veya

regardless of your demographics or the color of your skin.

ten rengine bakmaksızın çalışan teknoloji.

And so today, what I focus on is the technology for tomorrow

Ve bugün, odaklandığım şey gelecek için, bundan 10 yıl sonrası için

and for 10 years from now.

teknoloji.

AI can turn out in many different ways.

Yapay zekâ farklı şekillerde ortaya çıkabilir.

But in this case,

Fakat bu durumda,

it isn't a self-driving car without any destination.

varış noktası olmayan bir sürücüsüz araba değildir.

This is the car that we are driving.

Burada bizim sürdüğümüz bir araba vardır.

We choose when to speed up and when to slow down.

Ne zaman hızlanacağını veya yavaşlayacağını biz seçeriz.

We choose if we need to make a turn.

Dönüş yapmamız gerekiyorsa biz seçeriz.

We choose what the AI of the future will be.

Gelecekteki yapay zekânın ne olacağını biz belirleriz.

There's a vast playing field

Yapay zekânın olabileceği

of all the things that artificial intelligence can become.

her şeyin geniş oyun alanları vardır.

It will become many things.

Birçok şey olacaktır.

And it's up to us now,

Ve şimdi bu bize kaldı,

in order to figure out what we need to put in place

bunu halletmek adına

yapay zekanın sonuçlarından emin olmak için

to make sure the outcomes of artificial intelligence

are the ones that will be better for all of us.

yerine koymamız gereken şey hepimiz için daha iyi olanlardır.

Thank you.

Teşekkür ederim.

(Applause)

(Alkış)