How we can build AI to help humans, not hurt us | Margaret Mitchell

Translator: Amol P. Pachchhapurkar Reviewer: Arvind Patil

I work on helping computers communicate about the world around us.

मैं कम्प्यूटर्स को हमारी दुनिया के बारे में बातचीत करने में मदद करती हूँ.

There are a lot of ways to do this,

ये करने के कई सारे तरीके हैं,

and I like to focus on helping computers

मैं कम्प्यूटर्स को उन चीजों के बारे में

to talk about what they see and understand.

बात करना सिखाती हूँ, जिन्हें वे देखते और समझते हैं.

Given a scene like this,

ये तस्वीर दिखाने पर, एक आधुनिक

a modern computer-vision algorithm

कम्प्यूटर का दृष्टि अल्गोरिदम आपको

can tell you that there's a woman and there's a dog.

ये बता सकता है कि तस्वीर में एक महिला और कुत्ता हैं.

It can tell you that the woman is smiling.

ये आपको बता सकता है कि वह महिला मुस्कुरा रही है.

It might even be able to tell you that the dog is incredibly cute.

ये आपको बता सकता है कि वह कुत्ता बहुत क्यूट है.

I work on this problem

मैं इस प्रश्न पर विचार करती

thinking about how humans understand and process the world.

हूँ, कि मनुष्य विश्व को कैसे देखते और समझते हैं.

The thoughts, memories and stories

ऐसे चित्र को देखकर इंसान को किस तरह

that a scene like this might evoke for humans.

के विचार, यादें और कहानियां याद आएँगी.

All the interconnections of related situations.

इससे ताल्लुक रखने वाली सब परिस्थितियाँ.

Maybe you've seen a dog like this one before,

शायद आपने ऐसा कुत्ता कहीं देखा हो,

or you've spent time running on a beach like this one,

या बीच पर ऐसे दौड़ लगायी हो,

and that further evokes thoughts and memories of a past vacation,

और पुरानी छुट्टियों की यादें ताज़ा हो गयी हों,

past times to the beach,

बीच पर बिताया हुआ समय,

times spent running around with other dogs.

दूसरे कुत्तों के साथ भागते हुए.

One of my guiding principles is that by helping computers to understand

मेरा एक निर्देशक सिद्धांत ये है कि, अगर हम कंप्यूटर को इन अनुभवों

what it's like to have these experiences,

को समझने के काबिल बना सकें, और ये सिखा सकें

to understand what we share and believe and feel,

कि हमारे विचार और भावनाएं क्या हैं, और हम क्या साझा करना चाहते हैं,

then we're in a great position to start evolving computer technology

तो हम कम्प्यूटर तकनीक को उस तरह से विकसित करने की स्तिथि में होंगे

in a way that's complementary with our own experiences.

जो हमारे अनुभवों के लिए पूरक सिद्ध होगी.

So, digging more deeply into this,

इस विषय पर गहराई में जाने के लिए,

a few years ago I began working on helping computers to generate human-like stories

कुछ साल पहले, मैंने कम्प्यूटर को, तस्वीरों की श्रृंखला से, मनुष्यों जैसे

from sequences of images.

कहानियां बनाना सिखाया.

So, one day,

एक दिन,

I was working with my computer to ask it what it thought about a trip to Australia.

मैंने अपने कम्प्यूटर से पुछा कि उसका, ऑस्ट्रेलिया जाने के बारेमें क्या विचार है.

It took a look at the pictures, and it saw a koala.

उसने तस्वीरों में कोआला को देखा.

It didn't know what the koala was,

उसे नहीं पता था कि कोआला क्या है

but it said it thought it was an interesting-looking creature.

पर उसने कहा कि यह एक दिलचस्प जीव है.

Then I shared with it a sequence of images about a house burning down.

फिर मैंने एक जलते हुए घर की तस्वीर दिखाई.

It took a look at the images and it said,

उसको देखकर उसने कहा,

"This is an amazing view! This is spectacular!"

"ये एक विस्मयकारी एवं विहंगम दृश्य है!"

It sent chills down my spine.

यह सुनकर मुझे बहुत डर लगा.

It saw a horrible, life-changing and life-destroying event

ये एक भयानक, जीवन-विध्वंसक, जीवन-परिवर्तक घटना को

and thought it was something positive.

देखकर सोच रहा है कि यह सकारात्मक है.

I realized that it recognized the contrast,

मुझे समझ आया कि उसने तस्वीर के कंट्रास्ट

the reds, the yellows,

को देखा, लाल और पीले रंग, और सोचा

and thought it was something worth remarking on positively.

कि इस पर सकारात्मक बोलना चाहिए.

And part of why it was doing this

और ये ऐसे इसलिए कर रहा था क्यूँकि

was because most of the images I had given it

मैंने जो भी तस्वीरें उसको दी थीं, ज्यादातर

were positive images.

सकारात्मक थीं.

That's because people tend to share positive images

लोग हमेशा अपने अनुभवों पर बात करते हुए,

when they talk about their experiences.

सकारात्मक तस्वीरें ही साझा करते हैं.

When was the last time you saw a selfie at a funeral?

क्या आपने कभी शवयात्रा पर ली हुई सेल्फी देखी है?

I realized that, as I worked on improving AI

मैंने जाना कि जैसे मैं AI के विकास पर

task by task, dataset by dataset,

कार्य कर रही थी, मैं उसमें पाठ-दर-पाठ,

that I was creating massive gaps,

बड़ी कमियाँ पैदा कर रही थी,

holes and blind spots in what it could understand.

उसकी समझने की क्षमता में बड़ी कमी छोड़ रही थी.

And while doing so,

ऐसा करते हुए, मैं उसमे

I was encoding all kinds of biases.

कई तरह के पूर्वाग्रह डाल रही थी.

Biases that reflect a limited viewpoint,

पूर्वाग्रह जो सीमित दृष्टिकोण दर्शाते हैं,

limited to a single dataset --

जो सिर्फ़ एक तथ्य तक सीमित हैं -

biases that can reflect human biases found in the data,

लोगों के पूर्वाग्रह दर्शाते हैं, जो डेटा से मिलते हैं, जैसे कि

such as prejudice and stereotyping.

पक्षपात और विचार बद्धता.

I thought back to the evolution of the technology

मैंने विचार किया कि तकनीकि विकास

that brought me to where I was that day --

कैसे हुआ

how the first color images

और कैसे, प्रथम रंगीन तस्वीरों में

were calibrated against a white woman's skin,

त्वचा के रंग को पश्चिमी देशोंकी गोरी महिला के रंग से नापा गया,

meaning that color photography was biased against black faces.

मतलब, रंगीन तस्वीरें काली चमड़ी के हिसाब से नहीं बनायी गयीं थी.

And that same bias, that same blind spot

और यह पूर्वाग्रह,

continued well into the '90s.

90 के दशक में भी विद्यमान था.

And the same blind spot continues even today

और यही पूर्वाग्रह आज भी मौजूद है,

in how well we can recognize different people's faces

चेहरा पहचान करनेवाली तकनीक में, कैसे

in facial recognition technology.

विभिन्न रंग के चेहरों की पहचान होती है.

I though about the state of the art in research today,

मैंने सोचा - कैसे हम आधुनिक खोजों में भी,

where we tend to limit our thinking to one dataset and one problem.

अपनी सोच को एक समस्या के हिसाब से सीमित रखते हैं.

And that in doing so, we were creating more blind spots and biases

ऐसे में, हम कई कमियों और पूर्वाग्रहों को छोड़ रहे हैं

that the AI could further amplify.

जो AI से अधिक विस्तारित हो जायेंगी.

I realized then that we had to think deeply

मुझे लगा कि हमें यह विचार करना चाहिए

about how the technology we work on today looks in five years, in 10 years.

कि जिस तकनीक को हम आज विकसित कर रहे हैं, वह 5-10 साल बाद कैसी होगी.

Humans evolve slowly, with time to correct for issues

मनुष्य का विकास धीरे होता है, और पर्यावरण के साथ सामंजस्य बिठाने

in the interaction of humans and their environment.

में होने वाली समस्याओं को सुलझाने का पर्याप्त समय होता है.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

इसके विपरीत, AI तेजी से विकसित हो रहा है.

And that means that it really matters

इसका मतलब यह है कि, हमें आज

that we think about this carefully right now --

ही इस विषय पर ध्यान देने की जरुरत है -

that we reflect on our own blind spots,

कि हम अपने पूर्वाग्रहों के बारे में

our own biases,

सोच विचार करें, और देखें कि

and think about how that's informing the technology we're creating

कैसे हम आज विकसित होने वाली तकनीक में इसको सम्मिलित कर रहे हैं,

and discuss what the technology of today will mean for tomorrow.

और तर्क करें कि भविष्य में इस तकनीक का कैसे इस्तेमाल होगा.

CEOs and scientists have weighed in on what they think

वैज्ञानिकों और CEOs ने AI तकनीक पर

the artificial intelligence technology of the future will be.

गहन चिंतन किया हुआ है.

Stephen Hawking warns that

स्टीफन हौकिंग सावधान करते हैं -

"Artificial intelligence could end mankind."

"AI मानव जाति को खत्म कर सकती है"

Elon Musk warns that it's an existential risk

एलोन मस्क इसे अस्तित्व सम्बन्धी

and one of the greatest risks that we face as a civilization.

सबसे बड़ा खतरा बताते हैं.

Bill Gates has made the point,

बिल गेट्स का कहना है -

"I don't understand why people aren't more concerned."

"मुझे समझ नहीं आता की लोग इस बारे में चिंतित क्यों नहीं हैं."

But these views --

यह सब विचार -

they're part of the story.

इस प्रक्रिया का भाग हैं.

The math, the models,

वह गणित, वह तंत्र, जो AI

the basic building blocks of artificial intelligence

तकनीक के मूलभूत खंड हैं, जिनपर हमारी पहुँच है

are something that we call access and all work with.

और जिसपर हम काम कर रहे हैं.

We have open-source tools for machine learning and intelligence

मशीनों को सिखाने के लिए ओपन-सोर्स सॉफ्टवेर

that we can contribute to.

में हम सब योगदान दे सकते हैं.

And beyond that, we can share our experience.

और हम अपने अनुभव साझा कर सकते हैं.

We can share our experiences with technology and how it concerns us

तकनीक को लेकर हमारे अनुभव साझा कर सकते हैं कि हमें कैसे चिंतित करता है,

and how it excites us.

अथवा कैसे हमें जोश दिलाता है.

We can discuss what we love.

पसंद के विषय पर संवाद कर सकते हैं.

We can communicate with foresight

दूरदृष्टि रखते हुए, तकनीक के

about the aspects of technology that could be more beneficial

फायदेमंद और समस्याजनक पहलुओं

or could be more problematic over time.

पर विचार कर सकते हैं.

If we all focus on opening up the discussion on AI

भविष्य के बारे में सोचते हुए

with foresight towards the future,

अगर हम AI पर संवाद करें

this will help create a general conversation and awareness

तो सामान्यजन को इस तकनीक

about what AI is now,

के आज के स्वरुप और भविष्य

what it can become

की संभावनाओ से अवगत कराया जा सकता है,

and all the things that we need to do

और विचार किया जा सकता है

in order to enable that outcome that best suits us.

कि कैसे उपयोगी परिणाम खोजे जाएँ.

We already see and know this in the technology that we use today.

हम समझते हैं कि कैसे इस तकनीक का आज इस्तेमाल हो रहा है.

We use smart phones and digital assistants and Roombas.

हम स्मार्ट फोन, डिजिटल असिस्टेंट (सीरी) और रूम्बा का इस्तेमाल करते हैं.

Are they evil?

क्या वे बुरे हैं?

Maybe sometimes.

कभी कभी, शायद हाँ.

Are they beneficial?

क्या वे फायदेमंद हैं?

Yes, they're that, too.

हाँ, वह भी है.

And they're not all the same.

और ये पहले जैसे नहीं हैं.

And there you already see a light shining on what the future holds.

आप सोच सकते हैं कि भविष्य में ये कैसे होंगे.

The future continues on from what we build and create right now.

हम आज जो निर्माण कर रहे हैं, भविष्य उसपर निर्भर करता है.

We set into motion that domino effect

हमें आगे की चाल तय करनी है,

that carves out AI's evolutionary path.

कि AI तकनीक में आगे क्या होगा.

In our time right now, we shape the AI of tomorrow.

हम आज तय करेंगे कि, भविष्य में AI कैसा होगा.

Technology that immerses us in augmented realities

वह तकनीक जो संवर्धित सत्यता (ऑगमेंटेड रियलिटी)

bringing to life past worlds.

से पुरानी दुनिया से हमें अवगत कराती है.

Technology that helps people to share their experiences

वह तकनीक जो लोगों को अनुभव साझा करने में मदद करती है,

when they have difficulty communicating.

जब वह बात करने कि स्थिति में नहीं होते.

Technology built on understanding the streaming visual worlds

वह तकनीक, जो कैमरे से दुनिया को समझ कर,

used as technology for self-driving cars.

बिना ड्राईवर के चलने वाली कार का निर्माण करने में मदद करती है.

Technology built on understanding images and generating language,

वह तकनीक, जो तस्वीरों को समझ कर,

evolving into technology that helps people who are visually impaired

भाषा में परिवर्तित करती है,

be better able to access the visual world.

जिससे नेत्रहीन व्यक्तियों का जीवन आसान हो पायेगा.

And we also see how technology can lead to problems.

हम ये देख रहे हैं कि तकनीक समस्याएं भी पैदा कर रही है.

We have technology today

हमारे पास तकनीक है

that analyzes physical characteristics we're born with --

जो हमारी पैदाईशी प्राकृतिक गुणों, जैसे -

such as the color of our skin or the look of our face --

चमड़ी का रंग या चेहरे की बनावट - का अध्ययन

in order to determine whether or not we might be criminals or terrorists.

करके बताती है कि हम अपराधी या आतंकवादी तो नहीं.

We have technology that crunches through our data,

हमारे पास तकनीक है जो हमारे व्यक्तिगत आंकड़ों से

even data relating to our gender or our race,

जैसे- लिंग अथवा प्रजाति- से यह तय करती है,

in order to determine whether or not we might get a loan.

कि हम लोन के हकदार हैं या नहीं.

All that we see now

आज जैसे आप जनते हो ,

is a snapshot in the evolution of artificial intelligence.

वह भविष्य में इसके विकास का संकेतक है.

Because where we are right now,

क्यूँकि हम आज जहाँ हैं, वहाँ से

is within a moment of that evolution.

कृत्रिम बुद्धिमत्ता का विकास तेजी से होगा.

That means that what we do now will affect what happens down the line

इसलिए आज हम जो करेंगे वह भविष्य के लिए

and in the future.

अत्यंत महत्त्वपूर्ण होगा.

If we want AI to evolve in a way that helps humans,

अगर हम AI को मानवता की भलाई के लिए

then we need to define the goals and strategies

इस्तेमाल होता देखना चाहते हैं तो हमें इसके लक्ष्य और रणनीति

that enable that path now.

अभी तय करने होंगे.

What I'd like to see is something that fits well with humans,

मैं देखना पसंद करुँगी कि AI, मानवता,

with our culture and with the environment.

सभ्यता और पर्यावरण के साथ घुलमिल जाए.

Technology that aids and assists those of us with neurological conditions

AI वह तकनीक हो, जो गंभीर रूप से

or other disabilities

बीमार या विकलांगों

in order to make life equally challenging for everyone.

का जीवन सहज कर सके.

Technology that works

AI वह तकनीक हो, जो चमड़ी के

regardless of your demographics or the color of your skin.

रंग या प्रजाति के आधार पर भेद किये बिना काम करे.

And so today, what I focus on is the technology for tomorrow

आज मेरा ध्यान है कि यह तकनीक 10 साल

and for 10 years from now.

बाद कैसे इस्तेमाल होगी.

AI can turn out in many different ways.

AI कई दिशाओं में विकसित हो सकती है.

But in this case,

पर यह ऐसी अपने-आप

it isn't a self-driving car without any destination.

चलनेवाली कार न हो, जिसकी कोई मंजिल नहीं.

This is the car that we are driving.

इस कार को हम चला रहे हैं.

We choose when to speed up and when to slow down.

हम तय करेंगे कि कब तेज या धीरे चलानी है.

We choose if we need to make a turn.

हम तय करेंगे कि कब मुड़ना है.

We choose what the AI of the future will be.

हम तय करेंगे कि AI का भविष्य कैसा होगा.

There's a vast playing field

भविष्य में AI

of all the things that artificial intelligence can become.

कैसा होगा, इसकी कई संभावनाएं हैं.

It will become many things.

ये कई रूप ले सकता है.

And it's up to us now,

और ये हमें तय करना है,

in order to figure out what we need to put in place

कि AI का उपयोग कैसे हो,

to make sure the outcomes of artificial intelligence

और इसके परिणाम ऐसे हों,

are the ones that will be better for all of us.

जो हम सबके लिए बेहतर हो.

Thank you.

धन्यवाद.

(Applause)

(तालियाँ और प्रशंसा)