Is AI Progress Stuck? | Jennifer Golbeck | TED

Translator: Imran Khan Reviewer: Shivanshi Rohatgi

We've built artificial intelligence already

हमने पहले से ही कृत्रिम बुद्धिमत्ता का निर्माण किया है

that, on specific tasks, performs better than humans.

जो विशिष्ट कार्यों पर, मनुष्यों की तुलना में बेहतर प्रदर्शन करता है।

There's AI that can play chess and beat human grandmasters.

यहाँ AI है जो शतरंज खेल सकता है और ग्रैंडमास्टर्स को हरा सकता है।

But since the introduction of generative AI

लेकिन कुछ साल पहले जनरेटिव एआई को

to the general public a couple years ago,

आम जनता के लिए पेश किए जाने के बाद से,

there's been more talk about artificial general intelligence, or AGI,

आर्टिफिशियल जनरल इंटेलिजेंस या एजीआई के बारे में अधिक चर्चा हुई है,

and that describes the idea

और यह इस विचार को बताता है

that there's AI that can perform at or above human levels

कि एआई है जो विभिन्न प्रकार के कार्यों पर मानव स्तर

on a wide variety of tasks, just like we humans are able to do.

पर या उससे ऊपर के कार्यों को कर सकता है, ठीक उसी तरह जैसे हम इंसान कर सकते हैं।

And people who think about AGI are worried about what it means

और जो लोग AGI के बारे में सोचते हैं, वे इस बात को लेकर चिंतित हैं कि

if we reach that level of performance in the technology.

अगर हम तकनीक में प्रदर्शन के उस स्तर तक पहुँच जाते हैं तो इसका क्या मतलब है।

Right now, there's people from the tech industry

अभी, तकनीकी उद्योग के लोग बाहर

coming out and saying

आ रहे हैं और कह रहे हैं

"The AI that we're building is so powerful and dangerous

“हम जो AI बना रहे हैं वह इतना शक्तिशाली और खतरनाक है

that it poses a threat to civilization.”

कि यह सभ्यता के लिए खतरा बन गया है।”

And they’re going to government and saying,

और वे सरकार के पास जा कर कह रहे हैं,

"Maybe you need to regulate us."

“आपको हमें नियंत्रित चाहिए”

Now normally when an industry makes a powerful new tool,

आम तौर पर जब कोई उद्योग एक शक्तिशाली नया उपकरण बनाता है, तो

they don't say it poses an existential threat to humanity

वे यह नहीं कहते कि यह मानवता के अस्तित्व के लिए खतरा है

and that it needs to be limited, so why are we hearing that language?

और इसे सीमित करने की आवश्यकता है, तो हम उस भाषा को क्यों सुन रहे हैं?

And I think there's two main reasons.

और मुझे लगता है कि इसके दो मुख्य कारण हैं।

One is if your technology is so powerful

एक तो यह

that it can destroy civilization, between now and then,

कि अगर आपकी तकनीक इतनी शक्तिशाली है कि वह सभ्यता को नष्ट कर सकती है,

there's an awful lot of money to be made with that.

तो अभी और तब के बीच, इससे बहुत सारा पैसा कमाया जा सकता है।

And what better way to convince your investors

और अपने निवेशकों को अपने साथ पैसे रखने के इससे अच्छा

to put some money with you

तरीका क्या हो सकता है

than to warn that your tool is that dangerous?

कि यह चेतावनी दी जाए कि आपका टूल इतना खतरनाक है?

The other is that the idea of AI overtaking humanity

दूसरी बात यह है कि एआई का मानवता से आगे निकलने का विचार

is truly a cinematic concept.

वास्तव में एक सिनेमाई अवधारणा है।

We’ve all seen those movies.

हम सभी ने उन फ़िल्मों को देखा है।

And it’s kind of entertaining to think about what that would mean now

और यह सोचना मनोरंजक है कि अब ऐसे टूल के

with tools that we're actually able to put our hands on.

साथ इसका क्या मतलब होगा, जिन पर हमारे हाथ में हैं ।

In fact, it’s so entertaining that it’s a very effective distraction

वास्तव में, यह इतना मनोरंजक है कि AI की वजह से दुनिया में पहले

from the real problems already happening in the world because of AI.

से हो रही वास्तविक समस्याओं से ध्यान भटकाना बहुत प्रभावी है।

The more we think about these improbable futures,

जितना अधिक हम इन असंभव भविष्य के बारे में सोचते हैं,

the less time we spend thinking about how do we correct deepfakes

उतना ही कम समय हम यह सोचने में बिताते हैं कि हम डीपफेक को कैसे ठीक करते हैं

or the fact that there's AI right now being used to decide

या यह तथ्य कि अभी एआई का इस्तेमाल यह तय करने के लिए किया जा रहा है

whether or not people are let out of prison,

कि लोगों को जेल से बाहर निकाला जाए या नहीं,

and we know it’s racially biased.

और हम जानते हैं कि यह नस्लीय पक्षपाती है।

But are we anywhere close to actually achieving AGI?

लेकिन क्या हम वास्तव में एजीआई हासिल करने के करीब हैं?

Some people think so.

कुछ लोग ऐसा सोचते हैं।

Elon Musk said that we'll achieve it within a year.

एलोन मस्क ने कहा कि इसे एक साल में हासिल कर लेंगे।

I think he posted this a few weeks ago.

मेरे ख़्याल से ऐसी कुछ हफ़्ते पूर्व की पोस्ट थी।

But like at the same time

लेकिन ठीक उसी समय

Google put out their eye search tool that's supposed to give you the answer

Google ने अपना आई सर्च टूल जारी किया, जो आपको जवाब देने वाला है,

so you don’t have to click on a link,

ताकि आपको एक लिंक पर क्लिक न करना पड़े,

and it's not going super well.

और यह बहुत अच्छा नहीं चल रहा है।

["How many rocks should I eat?"]

[मुझे कितनी चट्टान खानी चाहिए?]

["... at least a single serving of pebbles, geodes or gravel ..."]

[... कंकड़, जियोड या बजरी की कम से कम एक सर्विंग... ]

Please don't eat rocks.

कृपया चट्टानें न खाएं।

(Laughter)

(हँसी)

Now of course these tools are going to get better.

अब बेशक ये उपकरण बेहतर होने वाले हैं।

But if we're going to achieve AGI

लेकिन अगर हम AGI हासिल करने जा रहे हैं

or if they're even going to fundamentally change the way we work,

या फिर वे हमारे काम करने के तरीके को मूलभूत रूप से बदलने जा रहे हैं, तो

we need to be in a place where they are continuing

हमें ऐसी जगह पर रहना होगा,

on a sharp upward trajectory in terms of their abilities.

जहाँ वे अपनी क्षमताओं के मामले में तेज़ी से ऊपर की ओर बढ़ रहे हों।

And that may be one path.

और यह एक रास्ता हो सकता है।

But there's also the possibility that what we're seeing

लेकिन यह भी संभावना है कि हम जो देख रहे हैं वह

is that these tools have basically achieved

यह है कि इन उपकरणों ने मूल रूप से वह हासिल किया है

what they're capable of doing,

जो वे करने में सक्षम हैं,

and the future is incremental improvements in a plateau.

और भविष्य में तेज़ी से वृद्धिशील सुधार होंगे।

So to understand the AI future,

इसलिए AI के भविष्य को समझने के लिए,

we need to look at all the hype around it and get under there

हमें इसके सभी प्रचार को देखना होगा और इसके तह तक पहुंचना होगा

and see what's technically possible.

और यह कि तकनीकी रूप से क्या संभव है।

And we also need to think about where are the areas that we need to worry

और सूचना है कि वे कौनसे क्षेत्र हैं जिनके बारे में चिंता की ज़रूरत है

and where are the areas that we don't.

और वे क्षेत्र जिनकी नहीं है।

So if we want to realize the hype around AI,

इसलिए यदि हम AI के सारे प्रचार को साकार करना चाहते हैं,

the one main challenge that we have to solve is reliability.

तो एक मुख्य चुनौती जो हमें हल करनी है, वह है विश्वसनीयता।

These algorithms are wrong all the time, like we saw with Google.

ये एल्गोरिदम हर समय गलत होते हैं, जैसा कि हमने Google के साथ देखा था।

And Google actually came out and said,

और Google ने वास्तव में सामने आकर कहा,

after these bad search results were popularized,

इन खराब खोज परिणामों के लोकप्रिय होने के बाद, उन्हें

that they don't know how to fix this problem.

नहीं पता कि इस समस्या को कैसे दूर करें।

I use ChatGPT every day.

मैं रोज़ ChatGPT काम लेता हूं

I write a newsletter that summarizes discussions on far-right message boards,

मैं एक न्यूज़लेटर लिखता हूं जो संदेश बोर्डों का सार बनाता है,

and so I download that data,

और मैं डेटा डाउनलोड करता हूं

ChatGPT helps me write a summary.

ChatGPT मुझे सार लिखने में मदद करता है.

And it makes me much more efficient than if I had to do it by hand.

और यह मुझे हाथ से करने की तुलना में बहुत अधिक कुशल बनाता है।

But I have to correct it every day

लेकिन मुझे इसे हर दिन सुधारना पड़ता है

because it misunderstands something,

क्योंकि यह किसी चीज को गलत समझता है,

it takes out the context.

यह संदर्भ को हटा देता है।

And so because of that,

और इसलिए इस वजह से,

I can't just rely on it to do the job for me.

मैं अपना काम करने के लिए सिर्फ इस पर भरोसा नहीं कर सकता।

And this reliability is really important.

और यह विश्वसनीयता वास्तव में महत्वपूर्ण है।

Now a subpart of reliability in this space is AI hallucination,

अब इस क्षेत्र में विश्वसनीयता का एक हिस्सा एआई हेलुसिनेशन है, जो इस तथ्य के लिए

a great technical term for the fact that AI just makes stuff up

एक महान तकनीकी शब्द है कि एआई बहुत समय के लिए चीजें बनाता है.

a lot of the time.

कई बार ऐसा

I did this in my newsletter.

मैंने न्यूज़लेटर में किया है

I said, ChatGPT are there any people threatening violence?

मैंने कहा, ChatGPT क्या कुछ लोग हिंसा की धमकी दे रहे हैं?

If so, give me the quotes.

यदि ऐसा है तो मुझे हवाला दें

And it produced these three really clear threats of violence

और इसने हिंसा के इन तीन स्पष्ट खतरों को जन्म दिया,

that didn't sound anything like people talk

जो ऐसा नहीं लगता था कि लोग इन संदेशबोर्डों

on these message boards.

पर बात करते हैं।

And I went back to the data, and nobody ever said it.

और मैं डेटा पर वापस गया, और किसी ने भी यह नहीं कहा।

It just made it up out of thin air.

यह बस हवा में ही बना लिया था ।

And you may have seen this if you've used an AI image generator.

यदि आपने AI इमेज जनरेटर का उपयोग किया है तो आपने इसे देखा होगा।

I asked it to give me a close up of people holding hands.

मैंने इसे लोगों का नज़दीक से हाथ पकड़ने के लिए कहा था।

That's a hallucination and a disturbing one at that.

यह एक भ्रम है और इससे परेशानी होती है।

(Laughter)

(हँसी)

We have to solve this hallucination problem

अगर यह AI प्रचार पर खरा उतरने वाला है, तो

if this AI is going to live up to the hype.

हमें इस मतिभ्रम की समस्या को हल करना होगा।

And I don't think it's a solvable problem.

और मुझे नहीं लगता कि यह हल करने योग्य समस्या है।

With the way this technology works, there are people who say,

जिस तरह से यह तकनीक काम करती है, ऐसे लोग हैं जो कहते हैं,

we're going to have it taken care of in a few months,

हम कुछ महीनों में इस पर ध्यान देने जा रहे हैं,

but there’s no technical reason to think that’s the case.

लेकिन ऐसा सोचने का कोई तकनीकी कारण नहीं है।

Because generative AI always makes stuff up.

क्योंकि जनरेटिव AI हमेशा चीजें बनाता है।

When you ask it a question,

जब आप इससे प्रश्न पूछते हैं

it's creating that answer or creating that image from scratch

तो यह उस उत्तर को बना रहा है या आपके पूछने पर शुरुआत से

when you ask.

उस चित्र को बना रहा है।

It's not like a search engine that goes and finds the right answer on a page.

यह एक सर्च इंजन की तरह नहीं है जो जाकर किसी पेज पर सही उत्तर ढूंढता है।

And so because its job is to make things up every time,

और इसलिए क्योंकि इसका काम हर बार चीजों को तैयार करना है,

I don't know that we're going to be able to get it to make up correct stuff

मुझे नहीं पता कि हम इसे सही चीजें बनाने में सक्षम होने जा रहे हैं

and then not make up other stuff.

और फिर दूसरी चीजें नहीं बनाएंगे।

That's not what it's trained to do,

इसे इसके लिए प्रशिक्षि नहीं किया गया है

and we're very far from achieving that.

और हम इसे हासिल करने से बहुत दूर हैं।

And in fact, there are spaces where they're trying really hard.

और वास्तव में, ऐसी जगहें हैं जहाँ वे वास्तव में कड़ी मेहनत कर रहे हैं।

One space that there's a lot of enthusiasm for AI

एक जगह जहां AI के लिए बहुत उत्साह है,

is in the legal area

वह कानूनी क्षेत्र में है,

where they hope it will help write legal briefs or do research.

जहां उन्हें उम्मीद है कि यह कानूनी सार लिखने या शोध में मदद करेगा।

Some people have found out the hard way

कुछ लोगों को यह मुश्किल तरीका पता चल गया है

that they should not write legal briefs right now with ChatGPT

कि उन्हें अभी ChatGPT के साथ कानूनी ब्रीफ़ नहीं लिखना चाहिए, और

and send them to federal court,

फ़ेडरल कोर्ट नहीं भेजना चाहिए,

because it just makes up cases that sound right.

क्योंकि इससे सिर्फ़ ऐसे केस बनते हैं जो सही लगते हैं।

And that's a really fast way to get a judge mad at you

और किसी जज को आप पर तेज़ी से गुस्सा दिलाने और

and to get your case thrown out.

केस को खारिज कराने का तरीका है।

Now there are legal research companies right now

अब ऐसी कानूनी शोध कंपनियां हैं

that advertise hallucination-free

जो मतिभ्रम मुक्त जनरेटिव एआई

generative AI.

का विज्ञापन करती हैं।

And I was really dubious about this.

और मुझे इस बारे में बहुत संदेह था।

And researchers at Stanford actually went in and checked it,

और स्टैनफोर्ड के शोधकर्ताओं ने वास्तव में अंदर जाकर इसकी जाँच की,

and they found the best-performing of these hallucination-free tools

और पाया कि इन मतिभ्रम मुक्त उपकरणों का सबसे अच्छा प्रदर्शन करने वाला उपकरण

still hallucinates 17 percent of the time.

अभी भी 17 प्रतिशत मतिभ्रम करता है।

So like on one hand,

तो एक तरफ,

it's a great scientific achievement that we have built a tool

यह एक महान वैज्ञानिक उपलब्धि है कि हमने एक ऐसा टूल बनाया है

that we can pose basically any query to,

जिससे हम मूल रूप से कोई भी प्रश्न पूछ सकते हैं,

and 60 or 70 or maybe even 80 percent of the time

और 60 या 70 या शायद 80 प्रतिशत बार भी

it gives us a reasonable answer.

यह हमें उचित उत्तर देता है।

But if we're going to rely on using those tools

लेकिन अगर हम उन उपकरणों का उपयोग करने पर भरोसा

and they're wrong 20 or 30 percent of the time,

करने जा रहे हैं और वे 20 या 30 प्रतिशत समय गलत हैं, तो

there's no model where that's really useful.

ऐसा कोई मॉडल नहीं है जहां यह वास्तव में उपयोगी हो।

And that kind of leads us into

और यह हमें इस बात की ओर ले जाता है कि हम

how do we make these tools that useful?

इन टूल्स को इतना उपयोगी कैसे कर सकते हैं

Because even if you don't believe me

क्योंकि यदि आपको मुझ पर विश्वास न हो

and think we're going to solve this hallucination problem,

और लगता कि हम इस मतिभ्रम की समस्या को हल करने जा रहे हैं,

we're going to solve the reliability problem,

विश्वसनीयता की समस्या को हल करने जा रहे हैं

the tools still need to get better than they are now.

तो उपकरणों को अभी की तुलना में बेहतर होना चाहिए ।

And there's two things they need to do that.

और ऐसा करने के लिए दो चीज़ों की ज़रूरत है।

One is lots more data

एक तो बहुत अधिक डेटा है

and two is the technology itself has to improve.

और दूसरा यह है कि तकनीक को खुद ही सुधारना है।

So where are we going to get that data?

तो हमें वह डेटा कहाँ से मिलने वाला है?

Because they've kind of taken all the reliable stuff online already.

क्योंकि वे पहले से ही सभी विश्वसनीय चीजें ऑनलाइन ले चुके हैं।

And if we were to find twice as much data as they've already had,

और अगर हमें पहले से दोगुना डेटा मिल जाए, तो इसका मतलब यह नहीं है

that doesn't mean they're going to be twice as smart.

कि वे दोगुने स्मार्ट होने जा रहे हैं।

I don't know if there's enough data out there,

मुझे नहीं पता कि पर्याप्त डेटा है या नहीं,

and it's compounded by the fact

और यह इस तथ्य से जटिल है

that one way the generative AI has been very successful

कि एक तरह से जनरेटिव AI बहुत सफल रहा है, वह

is at producing low-quality content online.

निम्न-गुणवत्ता वाली सामग्री का ऑनलाइन उत्पादन कर रहा है ।

That's bots on social media, misinformation,

ये सोशल मीडिया पर बॉट्स हैं, गलत सूचनाएं हैं,

and these SEO pages that don't really say anything

और ये SEO पेज हैं जो वास्तव में कुछ नहीं कहते हैं,

but have a lot of ads and come up high in the search results.

पर इनमें बहुत से विज्ञापन होते हैं और खोज परिणामों में ऊपर आते हैं

And if the AI starts training on pages that it generated,

और अगर AI अपने द्वारा बनाए गए पेजों पर प्रशिक्षण देना शुरू करता है, तो

we know from decades of AI research that they just get progressively worse.

हम दशकों के AI शोध से जानते हैं कि वे उत्तरोत्तर बदतर होते जाते हैं।

It's like the digital version of mad cow disease.

यह पागल गाय रोग के डिजिटल संस्करण की तरह है।

(Laughter)

(हँसी)

Let's say we solve the data problem.

मान लें कि हम डेटा की समस्या का समाधान करते हैं।

You still have to get the technology better.

आपको अभी भी तकनीक को बेहतर बनाना है।

And we've seen 50 billion dollars in the last couple years

और हमने पिछले कुछ वर्षों में जनरेटिव AI को बेहतर बनाने के लिए

invested in improving generative AI.

50 बिलियन डॉलर का निवेश देखा है।

And that's resulted in three billion dollars in revenue.

और इससे तीन बिलियन डॉलर का राजस्व प्राप्त हुआ।

So that's not sustainable.

इसलिए यह टिकाऊ नहीं है। लेकिन,

But of course it's early, right?

निश्चित रूप से यह जल्दी है ना?

Companies may find ways to start using this technology.

कंपनियां इस तकनीक का प्रयोग शुरू करने के तरीके खोज सकती हैं।

But is it going to be valuable enough

लेकिन क्या यह उन दसियों और शायद सैकड़ों अरबों डॉलर

to justify the tens and maybe hundreds of billions of dollars

के हार्डवेयर को सही ठहराने के लिए

of hardware that needs to be bought

पर्याप्त मूल्य होगा, जिन्हें इन मॉडलों को बेहतर

to make these models get better?

बनाने के लिए खरीदा जाना चाहिए?

I don't think so.

मुझे ऐसा नहीं लगता।

And we can kind of start looking at practical examples to figure that out.

और हम इसका पता लगाने के लिए व्यावहारिक उदाहरण देखना शुरू कर सकते हैं।

And it leads us to think about where are the spaces we need to worry and not.

और सोचने को मजबूर करता है जिनके बारे में हमें चिंता करने की ज़रूरत है या नहीं

Because one place that everybody's worried with this

क्योंकि एक जगह जहां हर कोई इससे चिंतित है, वह यह है

is that AI is going to take all of our jobs.

कि AI हमारी सारी नौकरियां लेने जा रहा है।

Lots of people are telling us that’s going to happen,

बहुत से लोग हमें बता रहे हैं कि ऐसा होने वाला है,

and people are worried about it.

और लोग इसके बारे में चिंतित हैं।

And I think there's a fundamental misunderstanding at the heart of that.

और मुझे लगता है कि इसके मूल में एक मूलभूत गलतफहमी है, तो

So imagine this scenario.

इस दृश्य की कल्पना करें।

We have a company,

हमारे पास एक कंपनी है,

and they can afford to employ two software engineers.

और वे दो सॉफ़्टवेयर इंजीनियरों को नियुक्त कर सकते हैं।

And if we were to give those engineers some generative AI to help write code,

और अगर हम उन इंजीनियरों को कोड लिखने में मदद करने के लिए कुछ जनरेटिव AI दें,

which is something it's pretty good at,

जो कि काफी अच्छा काम है,

let's say they're twice as efficient.

मान लीजिए कि वे दोगुने कुशल हैं।

That's a big overestimate, but it makes the math easy.

यह बहुत बड़ा अनुमान है, लेकिन इससे गणित आसान हो जाता है।

So in that case, the company has two choices.

तो ऐसे में, कंपनी के पास दो विकल्प हैं।

They could fire one of those software engineers

वे सॉफ़्टवेयर इंजीनियरों में से एक को निकाल सकते हैं

because the other one can do the work of two people now,

क्योंकि दूसरा अब दो लोगों का काम कर सकता है,

or they already could afford two of them,

या वे दोनों को वहन कर सकते हैं,

and now they're twice as efficient,

और अब वे दोगुने कुशल हैं,

so they're bringing in more money.

इसलिए वे और पैसा ला रहे हैं।

So why not keep both of them and take that extra profit?

तो क्यों न उन दोनों को ही रखा जाए और उस अतिरिक्त लाभ को लिया जाए?

The only way this math fails is if the AI is so expensive

इस गणित के विफल होने का एकमात्र तरीका यह है कि अगर AI इतना महंगा है

that it's not worth it.

कि यह इसके लायक नहीं है।

But that would be like the AI is 100,000 dollars a year

लेकिन यह ऐसा होगा जैसे एक व्यक्ति के काम के लायक काम

to do one person's worth of work.

करने के लिए AI के पास सालाना 100,000 डॉलर हो।

So that sounds really expensive.

तो यह बहुत महंगा लगता है।

And practically,

और व्यावहारिक रूप से,

there are already open-source versions of these tools

इन उपकरणों के पहले से ही ओपन-सोर्स संस्करण हैं

that are low-cost, that companies can install and run themselves.

जो कम लागत वाले हैं, जिन्हें कंपनियां खुद इंस्टॉल और चला सकती हैं।

Now they don’t perform as well as the flagship models,

अब वे फ्लैगशिप मॉडल की तरह अच्छा प्रदर्शन नहीं करते हैं,

but if they're half as good and really cheap,

लेकिन अगर वे आधे अच्छे और वास्तव में सस्ते हैं,

wouldn't you take those over the one that costs 100,000 dollars a year

तो क्या आप एक व्यक्ति का काम करने के लिए सालाना 100,000 डॉलर खर्च वाले

to do one person's work?

के बजाय नहीं लेंगे ?

Of course you would.

बेशक आप करेंगे।

And so even if we solve reliability, we solve the data problem,

अतः चाहे विश्वसनीयता का समाधान कर लें डेटा की समस्या को हल कर लें

we make the models better,

हम मॉडल को बेहतर बनाते हैं,

the fact that there are cheap versions of this available

यह तथ्य कि इसके सस्ते संस्करण उपलब्ध हैं, यह

suggests that companies aren't going to be spending

बताता है कि कंपनियां अपने कर्मचारियों की

hundreds of millions of dollars to replace their workforce with AI.

संख्या को AI से बदलने के लिए करोड़ों डॉलर खर्च नहीं करने वाली हैं।

There are areas that we need to worry, though.

हालांकि ऐसे क्षेत्र हैं जहां चिंता की ज़रूरत है

Because if we look at AI now,

क्योंकि अगर हम अभी AI को देखें,

there are lots of problems that we haven't been able to solve.

तो बहुत सारी समस्याएं हैं जिन्हें हम हल नहीं कर पाए हैं।

I've been building artificial intelligence for over 20 years,

मैं 20 से अधिक वर्षों से आर्टिफिशियल इंटेलिजेंस बना रही हूं,

and one thing we know

और एक बात जो हम जानते हैं वह

is that if we train AI on human data,

यह है कि यदि हम मानव डेटा पर AI को प्रशिक्षित करते हैं,

the AI adopts human biases,

तो AI मानवीय पूर्वाग्रहों को अपनाता है,

and we have not been able to fix that.

और हम इसे ठीक नहीं कर पाए हैं।

We've seen those biases start showing up in generative AI,

हमने देखा है कि वे पूर्वाग्रह जनरेटिव एआई में दिखना शुरू हो जाते हैं,

and the gut reaction is always, well,

व अंतःप्रज्ञा की प्रतिक्रिया हमेशा होती है,

let's just put in some guardrails to stop the AI from doing the biased thing.

आइए एआई को पक्षपाती काम करने से रोकने के लिए बस कुछ पहरे लगाते हैं लेकिन

But one, that never fixes the bias because the AI finds a way around it.

एक जो कभी पूर्वाग्रह को ठीक नहीं करता है क्योंकि AI इससे रास्ता खोज लेता है

And two, the guardrails themselves can cause problems.

और दूसरा पहरा खुद समस्याएं पैदा कर सकता हैं।

So Google has an AI image generator,

इसलिए Google के पास AI इमेज जनरेटर है,

and they tried to put guardrails in place to stop the bias in the results.

और इसमें परिणामों में पूर्वाग्रह को रोकने के लिए पहरा लगाने की कोशिश की।

And it turned out it made it wrong.

और यह पता चला कि इससे यह गलत हो गया है।

This is a request for a picture

यह स्वतंत्रता की घोषणा पर

of the signing of the Declaration of Independence.

हस्ताक्षर करने की तस्वीर के लिए अनुरोध है।

And it's a great picture, but it is not factually correct.

और यह एक बेहतरीन तस्वीर है, लेकिन यह तथ्यात्मक रूप से सही नहीं है।

And so in trying to stop the bias,

और इसलिए पूर्वाग्रह को रोकने की कोशिश में,

we end up creating more reliability problems.

हम और अधिक विश्वसनीयता की समस्याएं पैदा करते हैं।

We haven't been able to solve this problem of bias.

हम पूर्वाग्रह की इस समस्या को हल नहीं कर पाए हैं।

And if we're thinking about deferring decision making,

और अगर हम निर्णय लेने को टालने, मानव निर्णय लेने वालों

replacing human decision makers and relying on this technology

को बदलने और इस तकनीक पर भरोसा करने के बारे में सोच रहे हैं

and we can't solve this problem,

और इस समस्या को हल नहीं कर सकते हैं

that's a thing that we should worry about

तो यह इसके बारे में चिंता करनी चाहिए और

and demand solutions to

इसके हल की मांग करनी चाहिए,

before it's just widely adopted and employed because it's sexy.

इससे पहले कि इसे व्यापक रूप से अपनाया जाए और उपयोग किया जाए क्योंकि यह सेक्सी है।

And I think there's one final thing that's missing here,

और मुझे लगता है कि यहाँ एक अंतिम चीज़ है जो गायब है,

which is our human intelligence

वह है हमारी मानवीय बुद्धिमत्ता

is not defined by our productivity at work.

जो कार्यस्थल पर हमारी उत्पादकता से परिभाषित नहीं होती है।

At its core, it's defined by our ability to connect with other people.

इसके मूल में, यह अन्य लोगों के साथ जुड़ने की हमारी क्षमता से परिभाषित होती है।

Our ability to have emotional responses,

भावनात्मक प्रतिक्रिया देने अपने अतीत को साथ ले जाने

to take our past and integrate it with new information

और उसे नई जानकारी के साथ एकीकृत करने

and creatively come up with new things.

और रचनात्मक रूप से नई चीजें लाने की हमारी क्षमता

And that’s something that artificial intelligence is not now

और यह कुछ ऐसा है जिसे आर्टिफिशियल इंटेलिजेंस अभी नहीं है और

nor will it ever be capable of doing.

न ही यह कभी कर पाएगा।

It may be able to imitate it

यह इसका अनुकरण कर सकता है

and give us a cheap facsimile of genuine connection

और हमें वास्तविक संबंध और सहानुभूति

and empathy and creativity.

और रचनात्मकता का एक सस्ता नमूना दे सकता है।

But it can't do those core things to our humanity.

लेकिन यह हमारी मानवता के लिए उन मूल चीजों को नहीं कर सकता है।

And that's why I'm not really worried about AGI taking over civilization.

और यही वजह है कि मैं वास्तव में एजीआई के सभ्यता पर कब्ज़ा करने से चिंतित नहीं हूँ।

But if you come away from this disbelieving everything I have told you,

लेकिन अगर आप मेरे द्वारा बताई गई हर बात को अविश्वास से दूर कर देते हैं,

and right now you're worried

और अभी आप AI अधिपतियों द्वारा

about humanity being destroyed by AI overlords,

मानवता को नष्ट किए जाने के बारे में चिंतित हैं,

the one thing to remember is,

तो एक बात याद रखें कि

despite what the movies have told you,

फिल्मों ने जो बताया है उसके बावजूद अगर

if it gets really bad,

यह बुरी तरह खराब हो जाता है

we still can always just turn it off.

तो भी हम इसे हमेशा बंद कर सकते हैं।

(Laughter)

(हँसी)

Thank you.

धन्यवाद

(Applause)

(तालियाँ)