How we can build AI to help humans, not hurt us | Margaret Mitchell

Translator: Leila Ataei Reviewer: Nima Pourreza

I work on helping computers communicate about the world around us.

کار من کمک به برقراری ارتباط رایانه‌ها در‌باره جهان اطراف ما است.

There are a lot of ways to do this,

را‌ه‌های مختلفی برای این کار هست

and I like to focus on helping computers

و من دوست دارم تمرکزم روی کمک به کامپیوترها

to talk about what they see and understand.

برای صحبت درباره این باشد که آن‌ها چه می‌بینند و می‌فهمند.

Given a scene like this,

برای مثال منظره‌ای مثل این،

a modern computer-vision algorithm

یک الگوریتم مدرن بینایی-ماشین

can tell you that there's a woman and there's a dog.

می‌تواند به شما بگوید که یک زن و یک سگ وجود دارد.

It can tell you that the woman is smiling.

می‌تواند به شما بگوید آن زن لبخند می‌زند.

It might even be able to tell you that the dog is incredibly cute.

حتی شاید قادر باشد به شما بگوید آن سگ بی‌نهایت با نمک است.

I work on this problem

همچنین روی این موضوع که

thinking about how humans understand and process the world.

انسان‌ها چطور دنیا را می‌فهمند و پردازش می‌کنند، کار می‌کنم.

The thoughts, memories and stories

افکار، خاطرات و داستان‌هایی

that a scene like this might evoke for humans.

که یک منظره مثل این شاید برای انسان‌ها تداعی کند:

All the interconnections of related situations.

همه تنیدگی‌های خاطراتی در شرایط مشابه.

Maybe you've seen a dog like this one before,

شاید سگی مثل این را قبلا دیده باشید،

or you've spent time running on a beach like this one,

یا قبلا در ساحلی مثل این قبلا دویده باشید،

and that further evokes thoughts and memories of a past vacation,

و در ادامه افکار و خاطرات تعطیلات گذشته را بیدار می‌کند،

past times to the beach,

دفعات قبلی در ساحل،

times spent running around with other dogs.

زمان‌های سپری شده با دویدن با سگ‌هایی دیگر در آن اطراف.

One of my guiding principles is that by helping computers to understand

یکی از اصول هدایتی من از طریق کمک به کامپیوتر‌ها برای درک

what it's like to have these experiences,

این است که داشتن چنین تجربه‌هایی چه شکلی است،

to understand what we share and believe and feel,

برای فهم این آنچه به اشتراک می‌گذاریم و باور داریم و حس می‌کنیم

then we're in a great position to start evolving computer technology

تا بعد این موقعیت عالی را داشته باشیم که شروع به تکامل فناوری رایانه‌ای

in a way that's complementary with our own experiences.

به طریقی نماییم که مکمل تجربه‌های خود ما باشد.

So, digging more deeply into this,

بنابراین، بیشتر در موضوع وارد شدم،

a few years ago I began working on helping computers to generate human-like stories

چند سال قبل شروع به کار روی کمک به رایانه‌ها برای تولید داستان‌های بشر‌-وار

from sequences of images.

بر اساس توالی تصاویر کردم.

So, one day,

بنابراین یک روز

I was working with my computer to ask it what it thought about a trip to Australia.

که داشتم نظر کامپیوترم درباره سفر به استرالیا را می‌پرسیدم

It took a look at the pictures, and it saw a koala.

نگاهی به تصویر‌ها انداخت و کوآلایی را دید.

It didn't know what the koala was,

نمی‌دانست کوآلا چیست،

but it said it thought it was an interesting-looking creature.

اما گفت که فکر می‌کند موجود به ظاهر جالبی است.

Then I shared with it a sequence of images about a house burning down.

سپس چند تصویر از یک خانه در حال سوختن را به کامپیوتر دادم.

It took a look at the images and it said,

نگاهی به تصویر‌ها انداخت و گفت،

"This is an amazing view! This is spectacular!"

«منظره اعجاب آوریه، دیدنیه!»

It sent chills down my spine.

پشتم تیر کشید.

It saw a horrible, life-changing and life-destroying event

حادثه ای ویرانگر، سرنوشت ساز و هولناک را دید

and thought it was something positive.

و فکر کرد چیز مثبتی است.

I realized that it recognized the contrast,

متوجه شدم که تضادها،

the reds, the yellows,

شامل قرمز‌ها و زرد‌ها را دیده و فکر کرده که

and thought it was something worth remarking on positively.

ارزش این را دارد که چیز مثبتی درباره‌ آن بگوید.

And part of why it was doing this

و بخشی از علت این کارش

was because most of the images I had given it

عمدتاً بخاطر این بود که تصویر‌هایی که به آن داده بودم

were positive images.

مثبت بودند.

That's because people tend to share positive images

چون مردم عادت به اشتراک گذاشتن تصویر‌های مثبت دارند

when they talk about their experiences.

وقتی درباره تجربه‌های خود حرف می‌زنند.

When was the last time you saw a selfie at a funeral?

اخرین باری کی شاهد عکس سلفی در تشییع جنازه‌ای بودید؟

I realized that, as I worked on improving AI

متوجه شدم وقتی مشغول بهبود هوش مصنوعی بصورت

task by task, dataset by dataset,

فرآیند به فرآیند و دیتاست به دیتاست بودم،

that I was creating massive gaps,

شکاف‌ها، نقاط کور و گودال‌های عظیمی

holes and blind spots in what it could understand.

در آنچه می‌توانست درک کند، خلق می‌کردم‌.

And while doing so,

و در حین انجام آن،

I was encoding all kinds of biases.

انواع و اقسام آن تعصبات را کدنویسی می‌کردم.

Biases that reflect a limited viewpoint,

تعصباتی که دیدگاه محدودی را منعکس می‌کند،

limited to a single dataset --

و محدود به یک دیتاست--

biases that can reflect human biases found in the data,

تعصباتی که منعکس کننده تعصبات بشری یافته شده در داده‌ها است،

such as prejudice and stereotyping.

از قبیل پیش‌داوری و یک‌نواختی بودن.

I thought back to the evolution of the technology

فکر کردم باید برگردم سر وقت تکامل فناوری

that brought me to where I was that day --

که من را به آنجایی که آن روز بودم آورد --

how the first color images

چطور تصاویر رنگی اولیه

were calibrated against a white woman's skin,

در تضاد با رنگ پوست سفید زنی تنظیم شده،

meaning that color photography was biased against black faces.

و این یعنی، آن عکاسی رنگی بر علیه چهره‌های سیاه متعصب خواهد شد.

And that same bias, that same blind spot

و آن تعصب، آن نقطه کور

continued well into the '90s.

وارد دهه ۹۰ میلادی شده بود.

And the same blind spot continues even today

و آن نقطه کور حتی تا امروز در اینکه

in how well we can recognize different people's faces

چطور می‌توانیم چهره‌های مختلف را

in facial recognition technology.

با بکارگیری فناوری تشخیص چهره تشخیص دهیم ادامه دارد.

I though about the state of the art in research today,

درباره وضعیت هنر در جستجو‌های امروزی فکر کردم

where we tend to limit our thinking to one dataset and one problem.

جایی که مایلیم افکار خویش را به یک دیتاست و یک موضوع محدود کنیم.

And that in doing so, we were creating more blind spots and biases

و با انجام آن ، تعصبات و نقاط کور بیشتری را خلق می‌کردیم

that the AI could further amplify.

که هوش مصنوعی می‌توانست به آن نقاط کور بیشتر شدت دهد.

I realized then that we had to think deeply

بعد تشخیص دادم باید به این عمیق‌تر فکر کنیم

about how the technology we work on today looks in five years, in 10 years.

که چطور فناوری که امروز روی آن کار می‌کنیم طی ۵ یا ۱۰ سال آینده به نظر خواهید رسید.

Humans evolve slowly, with time to correct for issues

تکامل در انسان‌ها کند است، مستلزم زمانی است برای اصلاح مسائل

in the interaction of humans and their environment.

در تعامل با انسان‌ها و محیط‌شان.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

در مقابل، هوش مصنوعی با ضریب سرعت باورنکردنی در حال تکامل است.

And that means that it really matters

و این یعنی واقعا اهمیت دارد

that we think about this carefully right now --

که ما الان درباره آن با دقت فکر کنیم --

that we reflect on our own blind spots,

که به نقاط کور خود،

our own biases,

تعصباتمان فکر کنیم،

and think about how that's informing the technology we're creating

و به این فکر کنیم که چطور به فناوری که خلق می‌کنیم

and discuss what the technology of today will mean for tomorrow.

و بحث درباره این که فناوری امروز برای فردا چه معنایی خواهد داشت.

CEOs and scientists have weighed in on what they think

مدیرعامل‌ها و دانشمندان به اظهارنظر درباره این پرداخته‌اند که

the artificial intelligence technology of the future will be.

فناوری هوش مصنوعی در آینده چگونه خواهد بود.

Stephen Hawking warns that

استفان هاوکینگ اخطار می‌دهد

"Artificial intelligence could end mankind."

«هوش مصنوعی می‌تواند به بشریت خاتمه دهد.»

Elon Musk warns that it's an existential risk

الون ماسک هشدار می‌دهد که آن خطری حیاتی است

and one of the greatest risks that we face as a civilization.

و یکی از بزرگترین خطر‌هایی که ما بعنوان یک تمدن با آن روبرویم.

Bill Gates has made the point,

بیل گیتس گفته است که

"I don't understand why people aren't more concerned."

«درک نمی‌کنم چرا نگرانی مردم در این قضیه بیشتر نیست.»

But these views --

اما این دیدگاه‌ها --

they're part of the story.

آن‌ها بخشی از داستان هستند.

The math, the models,

ریاضیات، الگوها،

the basic building blocks of artificial intelligence

واحد‌های اساسی سازنده هوش مصنوعی

are something that we call access and all work with.

چیز‌هایی هستند که برای همه قابل دسترس و کار کردن هستند.

We have open-source tools for machine learning and intelligence

ما ابزار منبع آزاد برای هوش و یادگیری ماشین داریم

that we can contribute to.

که می‌توان به آن کمک کرد.

And beyond that, we can share our experience.

و ورای آن، ما قادر به اشتراک گذاری تجربه خود هستیم.

We can share our experiences with technology and how it concerns us

می‌توانیم تجارب خود با فناوری و این که چطور دغدغه و هیجان‌ در ما

and how it excites us.

ایجاد می‌کند را به اشتراک بگذاریم.

We can discuss what we love.

می‌توانیم درباره آنچه دوست داریم بحث کنیم.

We can communicate with foresight

ما با آینده‌نگری قادر به بحث

about the aspects of technology that could be more beneficial

درباره زوایای فناوری که می‌تواند با گذر زمان

مفیدتر یا مشکل آفرین‌تر باشد، هستیم.

or could be more problematic over time.

If we all focus on opening up the discussion on AI

ما همگی اگر سر بحث درباره هوش مصنوعی را باز کنیم

with foresight towards the future,

با نگاهی آینده‌نگر،

this will help create a general conversation and awareness

به ما کمک خواهد کرد گفتگو و آگاهی عمومی را خلق کنیم

about what AI is now,

درباره اینکه الان هوش مصنوعی در کجا قرار دارد

what it can become

و قرار است بکجا برسد،

and all the things that we need to do

و همه چیز‌هایی که لازم است انجام دهیم

in order to enable that outcome that best suits us.

تا نتیجه‌ای حاصل شود که از همه برای ما بهتر است.

We already see and know this in the technology that we use today.

ما همین الان شاهد این موضوع در فناوری هستیم که بکار می‌بریم .

We use smart phones and digital assistants and Roombas.

از تلفن‌های هوشمند و دستیاران دیجیتالی و رومبا‌ها [جاروبرقی رباتی] استفاده می‌کنیم.

Are they evil?

آیا آن‌ها ذات بدی دارند؟

Maybe sometimes.

شاید گاهی اوقات.

Are they beneficial?

آیا نفعی دارند؟

Yes, they're that, too.

بله، فایده هم دارند.

And they're not all the same.

و همه آن‌ها مثل هم نیستند.

And there you already see a light shining on what the future holds.

وهمین الان شاهد این بودید که آینده درخشانی هم می‌تواند داشته باشد.

The future continues on from what we build and create right now.

آن‌ها بر مبنای چیزی که الان می‌سازیم و خلق می‌کنیم ادامه پیدا می‌کند.

We set into motion that domino effect

ما آن اثر دومینویی را که مسیر تکاملی هوش مصنوعی

that carves out AI's evolutionary path.

را می‌سازد به حرکت در می‌آوریم.

In our time right now, we shape the AI of tomorrow.

در این زمان حال ما، هوش مصنوعی فردا را شکل می‌دهیم.

Technology that immerses us in augmented realities

فناوری که ما در واقعیت‌های افزوده فرو می‌رود

bringing to life past worlds.

تا به دنیا‌های گذشته زندگی ببخشد.

Technology that helps people to share their experiences

فناوری که کمک می‌کند مردم تجربه‌هایشان را به اشتراک گذارند

when they have difficulty communicating.

وقتی که مشکل برقراری ارتباط دارند.

Technology built on understanding the streaming visual worlds

فناوری ساخته شده بر پایه درک جهان‌های پویای بصری

used as technology for self-driving cars.

که بعنوان فناوری اتومبیل‌های خودران استفاده می‌شود.

Technology built on understanding images and generating language,

فناوری ساخته شده بر پایه درک تصویرها و تولید کننده زبان،

evolving into technology that helps people who are visually impaired

به شکل فناوریکه به افراد مبتلا به مشکلات بینایی

be better able to access the visual world.

برای دسترسی بهتر به جهان بصری کمک می‌کند، در می‌آید.

And we also see how technology can lead to problems.

و ما همچنین می‌بینیم که فناوری چطور به حل مشکلات منتهی می‌شود.

We have technology today

فناوری امروز داریم

that analyzes physical characteristics we're born with --

که ویژگی‌های فیزیکی را که با آن متولد شده‌ایم را آنالیز می‌کند--

such as the color of our skin or the look of our face --

مثل رنگ پوستمان یا حالت چهره--

in order to determine whether or not we might be criminals or terrorists.

برای تعیین کردن این که شاید خرابکار یا جانی هستیم.

We have technology that crunches through our data,

فناوری داریم که در بین داده‌های ما

even data relating to our gender or our race,

حتی داده‌های مرتبط به جنسیت یا نژاد‌ ما،

in order to determine whether or not we might get a loan.

می‌گردد تا تعیین کند که می‌توانیم وامی بگیریم یا نه.

All that we see now

همه آنچه الان می‌بینیم

is a snapshot in the evolution of artificial intelligence.

گوشه‌ای از تحولات هوش مصنوعی قلمداد می‌شود.

Because where we are right now,

زیرا جایی که الان قرار دادیم

is within a moment of that evolution.

در لحظه‌ای از آن تحول قرار دارد.

That means that what we do now will affect what happens down the line

این یعنی کاری که الان می‌کنیم بر آنچه قبل از این و در آینده

and in the future.

اتفاق می‌افتد اثر می‌گذارد.

If we want AI to evolve in a way that helps humans,

اگر می‌خواهیم هوش مصنوعی طوری تکامل یابد که به بشر کمک کند،

then we need to define the goals and strategies

پس لازم است اهداف و استراتژی‌هایی را تعریف کنیم

that enable that path now.

که راه آن مسیر را هموار کند.

What I'd like to see is something that fits well with humans,

آنچه مایلم ببینیم چیزی است که در خور انسان‌ها،

with our culture and with the environment.

فرهنگ و محیط ما باشد.

Technology that aids and assists those of us with neurological conditions

فناوری که به آدم‌های با شرایط عصبی یا ناتوانایی‌های دیگر

or other disabilities

کمک و یاری می‌کند

in order to make life equally challenging for everyone.

برای این که زندگی را برای همه بطور برابر چالشی کند.

Technology that works

فناوری که فارغ از

regardless of your demographics or the color of your skin.

جمعیت شناسی‌های شما یا رنگ پوستی‌ شما کار می‌کند.

And so today, what I focus on is the technology for tomorrow

و بناراین امروز، بر آن‌چیزی که تمرکز داریم فناوریی برای فردا و ده سال بعد

and for 10 years from now.

از الان است.

AI can turn out in many different ways.

هوش مصنوعی می‌تواند به روش‌های بسیار مختلفی پدیدار شود.

But in this case,

اما در این مورد،

it isn't a self-driving car without any destination.

این یک خوردو-خودران بدون هیچ مقصدی نیست.

This is the car that we are driving.

این ماشینی هست که می‌رانیم.

We choose when to speed up and when to slow down.

ما انتخاب می‌کنیم چه وقت سرعت بالا باشد چه وقت آهسته.

We choose if we need to make a turn.

ما انتخاب می‌کنیم چه وقت دور بزنیم.

We choose what the AI of the future will be.

ما انتخاب می‌کنیم که هوش مصنوعی آینده چه شکلی باشد.

There's a vast playing field

حوزه‌هایی وسیع از

of all the things that artificial intelligence can become.

همه چیز‌هایی که هوش مصنوعی می‌تواند بشود وجود دارد.

It will become many things.

در خیلی چیز‌ها استفاده خواهد شد.

And it's up to us now,

و این الان به ما بستگی دارد،

in order to figure out what we need to put in place

تا بفهمیم کارهایی که لازم است انجام دهیم

to make sure the outcomes of artificial intelligence

تا مطمئن شویم نتایج هوش مصنوعی

are the ones that will be better for all of us.

آن‌هایی شود که برای کل ما بهتر باشد.

Thank you.

متشکرم.

(Applause)

(تشویق)