The Dark Side of Competition in AI | Liv Boeree | TED

Translator: Dang Thu Reviewer: Ngọc Quỳnh Đặng

Competition.

Sự cạnh tranh.

It's a fundamental part of human nature.

Nó là căn bản trong bản tính con người.

I was a professional poker player for 10 years,

Tôi là một tay chơi poker chuyên nghiệp trong 10 năm,

so I've very much seen all the good, bad and ugly ways it can manifest.

và nó đã cho tôi thấy rất nhiều điều, cả những điều tốt đẹp, tệ hại và xấu xí.

When it's done right,

Khi làm đúng,

it can drive us to incredible feats in sports and innovation,

nó sẽ đưa đến những kỳ tích thể thao và cải tiến phi thường,

like when car companies compete over who can build the safest cars

như khi các hãng xe cạnh tranh xem ai có thể tạo những chiếc xe an toàn nhất

or the most efficient solar panels.

hoặc các tấm pin mặt trời hiệu quả nhất.

Those are all examples of healthy competition,

Đó là những ví dụ về cạnh tranh lành mạnh,

because even though individual companies might come and go,

bởi vì mặc dù các doanh nghiệp tư nhân có thể đến và đi,

in the long run,

về lâu dài,

the game between them creates win-win outcomes

cuộc đua giữa họ tạo ra kết quả đôi bên cùng có lợi

where everyone benefits in the end.

mà cuối cùng mọi người đều được hưởng lợi.

But sometimes competition is not so great

Có lúc cạnh tranh cũng không quá tuyệt,

and can create lose-lose outcomes where everyone's worse off than before.

nó có thể khiến cả 2 bên đều bị tổn thất, thậm chí còn khiến họ tệ hơn trước.

Take these AI beauty filters, for example.

Ví dụ như các bộ lọc làm đẹp AI.

As you can see, they're a very impressive technology.

Như bạn thấy đó, chúng là một công nghệ rất ấn tượng.

They can salvage almost any picture.

Chúng có thể cứu vãn mọi bức ảnh.

They can even make Angelina and Margot more beautiful.

Chúng còn có thể khiến cho Angelina và Margot đẹp hơn nữa.

So they're very handy,

Vì thế, chúng rất hữu dụng,

especially for influencers who, now, at the click of a button,

nhất là với người có tầm ảnh hưởng, giờ đây chỉ bằng một cú nhấp,

can transform into the most beautiful Hollywood versions of themselves.

là họ có thể biến thành những phiên bản Hollywood đẹp nhất.

But handy doesn't always mean healthy.

Nhưng tiện dụng không có nghĩa là lành mạnh.

And I've personally noticed how quickly these things can train you

Và cá nhân tôi nhận thấy những thứ này có thể nhanh chóng khiến bạn

to hate your natural face.

ghét khuôn mặt tự nhiên của mình.

And there's growing evidence that they're creating issues

Và càng có nhiều bằng chứng rằng chúng tạo ra các vấn đề

like body dysmorphia, especially in young people.

như rối loạn mặc cảm ngoại hình, nhất là ở giới trẻ.

Nonetheless, these things are now endemic to social media

Tuy nhiên, những thứ này lại là thuộc tính của mạng xã hội.

because the nature of the game demands it.

vì bản chất của trò chơi cần nó.

The platforms are incentivized to provide them

Các nền tảng được khuyến khích cung cấp chúng

because hotter pictures means more hijacked limbic systems,

vì bức ảnh càng nóng bỏng thì hệ viền sẽ càng bị kích thích,

which means more scrolling and thus more ad revenue.

dẫn tới lướt mạng nhiều hơn và tăng doanh thu quảng cáo.

And users are incentivized to use them

Và người dùng được khuyến khích dùng bộ lọc

because hotter pictures get you more followers.

vì ảnh đẹp hơn sẽ giúp bạn có nhiều người theo dõi hơn.

But this is a trap,

Nhưng đây là một cái bẫy,

because once you start using these things,

Vì một khi bạn bắt đầu dùng những thứ ấy,

it's really hard to go back.

thì sẽ khó để từ bỏ.

Plus, you don't even get a competitive advantage from them anymore

Hơn nữa, bạn sẽ không còn được ưu thế cạnh tranh từ nó nữa

because everyone else is already using them too.

bởi vì người khác cũng dùng nó rồi.

So influencers are stuck using these things

Vì vậy, người có tầm ảnh hưởng bị mắc kẹt trong những thứ này

with all the downsides

đi cùng với cả tá khuyết điểm

and very little upside.

và chút ít ưu điểm.

A lose-lose game.

Hai bên đều bị tổn thất.

A similar kind of trap is playing out in our news media right now,

Trên truyền thông đại chúng đã xuất hiện một cái bẫy tương tự,

but with much worse consequences.

nhưng để lại hậu quả còn tồi tệ hơn.

You'd think since the internet came along

Từ khi internet xuất hiện, ta cứ nghĩ

that the increased competition between news outlets

rằng sự cạnh tranh gia tăng giữa các hãng truyền thông

would create a sort of positive spiral,

sẽ tạo ra một vòng xoáy tích cực,

like a race to the top of nuanced, impartial, accurate journalism.

như cuộc chạy đua đến đỉnh cao của báo chí đa chiều, khách quan và chuẩn xác.

Instead, we're seeing a race to the bottom of clickbait and polarization,

Trái lại, ta lại thấy một cuộc đua của mồi nhấp chuột và sự phân cực,

where even respectable papers are increasingly leaning

ngay cả những tờ báo có tiếng cũng ngày càng hướng về

into these kind of low-brow partisan tactics.

loại chiến thuật thiên vị hạ tiện này.

Again, this is due to crappy incentives.

Nguyên nhân là do những động lực tồi tệ.

Today, we no longer just read our news.

Ngày nay, chúng ta không chỉ đọc tin tức.

We interact with it by sharing and commenting.

Chúng ta còn tương tác bằng cách chia sẻ và bình luận.

And headlines that trigger emotions like fear or anger

Và các tiêu đề khơi dậy những cảm xúc như sợ hãi hoặc tức giận

are far more likely to go viral than neutral or positive ones.

dễ lan truyền hơn các tiêu đề mang tính trung lập hoặc tích cực.

So in many ways, news editors are in a similar kind of trap

Các biên tập viên tin tức đang rơi vào một cái bẫy tương tự

as the influencers,

như người có ảnh hưởng,

where, the more their competitors lean into clickbaity tactics,

khi mà các đối thủ càng dùng chiến thuật mồi nhấp chuột,

the more they have to as well.

thì họ càng phải làm nhiều hơn.

Otherwise, their stories just get lost in the noise.

Nếu không, đoạn tin ngắn của họ sẽ chìm nghỉm.

But this is terrible for everybody,

Nhưng điều này đều tệ hại với tất cả,

because now the media get less trust from the public,

bởi vì bây giờ công chúng ít tin tưởng truyền thông hơn,

but also it becomes harder and harder for anyone to discern truth from fiction,

cũng ngày càng khó mà phân biệt đâu là thật và đâu là giả,

which is a really big problem for democracy.

gây ra một vấn đề lớn đối với nền dân chủ.

Now, this process of competition gone wrong

Quá trình cạnh tranh lầm lạc này

is actually the driving force behind so many of our biggest issues.

là lực thúc đẩy rất nhiều vấn đề lớn nhất hiện nay.

Plastic pollution,

Ô nhiễm nhựa,

deforestation,

nạn phá rừng,

antibiotic overuse in farming,

lạm dụng kháng sinh nông nghiệp,

arms races,

chạy đua vũ trang,

greenhouse gas emissions.

khí thải nhà kính.

These are all a result of crappy incentives,

Đây đều là kết quả từ những động lực tệ hại

of poorly designed games that push their players --

từ các trò chơi bị thiết kế kém đã đẩy người chơi --

be them people, companies or governments --

gồm các công dân, công ty hay chính phủ --

into taking strategies and tactics that defer costs and harms to the future.

vào các chiến lược và chiến thuật vừa tốn tiền vừa gây hại cho tương lai.

And what's so ridiculous is that most of the time,

Và nực cười thay là hầu như mọi lúc,

these guys don't even want to be doing this.

người chơi thậm chí còn chẳng muốn làm điều này.

You know, it's not like packaging companies

Bạn biết đấy, không phải là các công ty bao bì

want to fill the oceans with plastic

muốn lấy nhựa lấp biển

or farmers want to worsen antibiotic resistance.

hay nông dân muốn tình trạng kháng kháng sinh tồi tệ hơn.

But they’re all stuck in the same dilemma of:

Nhưng họ đều bị kẹt trong 1 tình thế tiến thoái lưỡng nan:

"If I don't use this tactic,

“Nếu mình không dùng chiêu này,

I’ll get outcompeted by all the others who do.

thì những người làm như vậy sẽ vượt mặt mình.

So I have to do it, too.”

Cho nên, mình cũng phải làm.”

This is the mechanism we need to fix as a civilization.

Đây là cơ chế mà chúng ta cần sửa đổi với tư cách người văn minh.

And I know what you're probably all thinking, "So it's capitalism."

Và tôi biết điều các bạn đang nghĩ, “Vậy là do chủ nghĩa tư bản.”

No, it's not capitalism.

Không, không phải do nó đâu.

Which, yes, can cause problems,

Đúng là nó có thể gây ra vấn đề,

but it can also solve them and has been fantastic in general.

nhưng nó cũng có thể giải quyết chúng và nhìn chung là hiệu quả.

It's something much deeper.

Nguyên nhân nằm sâu hơn nhiều.

It's a force of misaligned incentives of game theory itself.

Đó chính là động lực lệch lạc của bản thân lý thuyết trò chơi.

So a few years ago, I retired from poker,

Một vài năm trước, tôi đã nghỉ chơi poker,

in part because I wanted to understand this mechanism better.

một phần vì tôi muốn hiểu cơ chế này tốt hơn.

Because it takes many different forms, and it goes by many different names.

Bởi vì nó có nhiều hình thức khác nhau, và có nhiều tên khác nhau.

These are just some of those names.

Đây chỉ là một vài trong số đó.

You can see they're a little bit abstract and clunky, right?

Bạn có thể thấy chúng hơi trừu tượng và rườm rà, phải không?

They don't exactly roll off the tongue.

Chúng nói không được thuận miệng lắm.

And given how insidious and connected all of these problems are,

Và hiểu được độ xảo quyệt và liên quan của những vấn đề này,

it helps to have a more visceral way of recognizing them.

sẽ giúp chúng ta nhận biết chúng một cách trực quan hơn.

So this is probably the only time

Đây có lẽ là lần duy nhất

you're going to hear about the Bible at this conference.

mà bạn sẽ nghe về Kinh thánh tại hội thảo này.

But I want to tell you a quick story from it,

Bởi tôi muốn kể cho bạn 1 mẩu chuyện ngắn,

because allegedly, back in the Canaanite days,

tương truyền rằng vào thời Ca-na-an,

there was a cult who wanted money and power so badly,

có một giáo phái thèm khát tiền bạc và quyền lực tới mức

they were willing to sacrifice their literal children for it.

thực sự sẵn lòng hiến tế con cái chính mình vì nó.

And they did this by burning them alive in an effigy

Và họ làm thật, bằng cách thiêu sống chúng trong hình nhân

of a God that they believed would then reward them

của vị thần mà họ tin rằng sau đó sẽ ban thưởng

for this ultimate sacrifice.

cho họ vì màn hiến tế này.

And the name of this god was Moloch.

Và tên của vị thần này là Moloch.

Bit of a bummer, as stories go.

Hơi tệ là truyện diễn ra như vậy.

But you can see why it's an apt metaphor,

Nhưng ta có thể thấy được đây là 1 ẩn ý thích hợp ,

because sometimes we get so lost in winning the game right in front of us,

bởi vì đôi khi chúng ta lạc lối chỉ để chiến thắng trò chơi trước mắt,

we lose sight of the bigger picture

mà không thấy được bức tranh toàn cảnh

and sacrifice too much in our pursuit of victory.

và hy sinh quá nhiều để theo đuổi theo chiến thắng.

So just like these guys were sacrificing their children for power,

Vậy, giống những kẻ đã hy sinh con cái vì quyền lực này,

those influencers are sacrificing their happiness for likes.

người có ảnh hưởng đang đánh đổi hạnh phúc để lấy luợt thích.

Those news editors are sacrificing their integrity for clicks,

Biên tập viên tin tức đang đánh đổi sự chính trực để lấy lượt xem

and polluters are sacrificing the biosphere for profit.

và những người gây ô nhiễm đang đánh đổi sinh quyển để thu lợi nhuận.

In all these examples,

Trong tất cả những ví dụ này,

the short-term incentives of the games themselves are pushing,

chính những động lực ngắn hạn của trò chơi đang thúc đẩy

they're tempting their players

và cám dỗ những người chơi

to sacrifice more and more of their future,

hy sinh tương lai của họ ngày một nhiều hơn,

trapping them in a death spiral where they all lose in the end.

níu kéo họ trong các bẫy chết người mà chẳng ai được lợi gì cả.

That's Moloch's trap.

Đó là cái bẫy của Moloch.

The mechanism of unhealthy competition.

Cơ chế của cạnh tranh không lành mạnh.

And the same is now happening in the AI industry.

Và điều tương tự hiện đang xảy ra trong ngành công nghiệp AI.

We're all aware of the race that's heating up

Chúng ta đều thấy được sức nóng của cuộc đua

between companies right now

giữa các công ty hiện nay

over who can score the most compute,

về ai đạt được tài nguyên nhiều nhất,

who can get the biggest funding round or get the top talent.

ai gọi vốn được cao nhất hay ai có được tài năng hàng đầu.

Well, as more and more companies enter this race,

Khi càng có nhiều công ty tham gia cuộc đua này,

the greater the pressure for everyone to go as fast as possible

thì áp lực buộc mọi người phải đi càng nhanh càng tốt

and sacrifice other important stuff like safety testing.

và hy sinh những thứ quan trọng khác như kiểm tra an toàn.

This has all the hallmarks of a Moloch trap.

Nó có đủ các đặc điểm của cái bẫy Moloch.

Because, like, imagine you're a CEO who, you know, in your heart of hearts,

Bởi vì, giả sử bạn là một CEO và thực sự trong lòng bạn,

believes that your team is the best

bạn tin rằng đội ngũ của mình là những người

to be able to safely build extremely powerful AI.

hoàn toàn có khả năng dựng lên AI cực mạnh.

Well, if you go too slowly, then you run the risk of other,

Nếu bạn đi quá chậm, thì bạn có nguy cơ

much less cautious teams getting there first

bị các nhóm khác ít thận trọng hơn vượt mặt

và đưa hệ thống của họ vào hoạt động trước bạn.

and deploying their systems before you can.

So that in turn pushes you to be more reckless yourself.

Điều đó khiến bạn trở nên liều lĩnh hơn.

And given how many different experts and researchers,

Bởi lẽ rất nhiều các chuyên gia và nhà nghiên cứu khác nhau,

both within these companies

cả trong các công ty này

but also completely independent ones,

lẫn các đơn vị hoàn toàn độc lập,

have been warning us about the extreme risks of rushed AI,

đã cảnh báo về những rủi ro nguy hiểm của gấp rút phát triển AI,

this approach is absolutely mad.

cách tiếp cận này là hết sức điên rồ.

Plus, almost all AI companies

Hơn nữa, hầu như tất cả các công ty AI

are beholden to satisfying their investors,

đều bị buộc phải thỏa mãn các nhà đầu tư,

a short-term incentive which, over time, will inevitably start to conflict

một động lực ngắn hạn mà theo thời gian, sẽ nảy sinh mâu thuẫn

with any benevolent mission.

với bất kỳ sứ mệnh nhân từ nào.

And this wouldn't be a big deal

Đây sẽ không là điều to tác

if this was really just toasters we're talking about here.

nếu thứ mà chúng ta nói đến ở đây là máy nướng bánh mì.

But AI, and especially AGI,

Nhưng đây là AI, và đặc biệt là AGI,

is set to be a bigger paradigm shift

dự tính sẽ là sự chuyển đổi mô thức

than the agricultural or industrial revolutions.

lớn hơn các cuộc cách mạng nông nghiệp hoặc công nghiệp.

A moment in time so pivotal,

Một khoảnh khắc rất then chốt như vậy

it's deserving of reverence and reflection,

đáng được trân trọng và suy ngẫm,

not something to be reduced to a corporate rat race

chứ không nên bị hạ thấp thành cuộc chay đua doanh nghiệp

of who can score the most daily active users.

về khía cạnh lượng người dùng hoạt động hàng ngày cao nhất.

I'm not saying I know

Tôi không nói là tôi biết

what the right trade-off between acceleration and safety is,

đâu là sự đánh đổi đúng đắn giữa tăng tốc và an toàn,

but I do know that we'll never find out what that right trade-off is

nhưng tôi biết chúng ta sẽ không bao giờ tìm ra sự đánh đổi đúng đắn đó là gì

if we let Moloch dictate it for us.

nếu để Moloch chỉ đạo chúng ta.

So what can we do?

Vậy chúng ta có thể làm gì?

Well, the good news is we have managed to coordinate

Tin tốt là chúng ta đã thành công trong việc phối hợp

to escape some of Moloch's traps before.

để thoái khỏi vài cái bẫy Moloch trước đó.

We managed to save the ozone layer from CFCs

Chúng ta đã giải cứu tầng ozone khỏi CFC

with the help of the Montreal Protocol.

nhờ sự giúp đỡ của Nghị định thư Montreal.

We managed to reduce the number of nuclear weapons on Earth

Chúng ta đã giảm số lượng vũ khí hạt nhân trên Trái Đất

by 80 percent,

tới 80%,

with the help of the Strategic Arms Reduction Treaty in 1991.

với sự trợ giúp của Hiệp ước Giảm Vũ khí Chiến lược năm 1991.

So smart regulation may certainly help with AI too,

Vì vậy, quy chế khôn ngoan cũng có thể giúp ích cho AI,

but ultimately,

nhưng cuối cùng thì

it's the players within the game who have the most influence on it.

chính những người trong cuộc chơi mới có ảnh hưởng nhất đến nó.

So we need AI leaders to show us

Những doanh nghiệp AI dẫn đầu cần thể hiện

that they're not only aware of the risks their technologies pose,

rằng họ không chỉ nhận thức được những rủi ro công nghệ,

but also the destructive nature of the incentives

mà còn bản chất tàn phá của các động lực

that they're currently beholden to.

mà họ đang phải cam kết đáp ứng.

As their technological capabilities reach towards the power of gods,

Khi khả năng công nghệ của họ sánh được với sức mạnh của các vị thần,

they're going to need the godlike wisdom to know how to wield them.

họ sẽ cần trí tuệ thần thánh để sử dụng chúng.

So it doesn't fill me with encouragement

Vì vậy, tôi không cảm thấy hứng khởi

when I see a CEO of a very major company saying something like,

khi thấy CEO của một công ty khổng lồ nói điều gì đó như,

"I want people to know we made our competitor dance."

“Phải cho mọi người biết đối thủ bị chúng tôi vờn như thế nào.”

That is not the type of mindset we need here.

Đó không phải là lối tư duy mà ta cần.

We need leaders who are willing to flip Moloch's playbook,

Ta cần những nhà lãnh đạo sẵn lòng bài trừ chiến thuật Moloch,

who are willing to sacrifice their own individual chance of winning

những người sẵn sàng từ bỏ cơ hội chiến thắng của mình

for the good of the whole.

vì lợi ích của toàn thể.

Now, fortunately, the three leading labs are showing some signs of doing this.

May mắn là hiện tại ba phòng thí nghiệm hàng đầu cho thấy dấu hiệu thay đổi.

Anthropic recently announced their responsible scaling policy,

Anthropic mới đây công bố chính sách mở rộng có trách nhiệm,

which pledges to only increase capabilities

cam kết chỉ đẩy mạnh năng lực AI

once certain security criteria have been met.

khi một vài tiêu chí an toàn nhất định được đáp ứng.

OpenAI have recently pledged

OpenAI gần đây đã cam kết

to dedicate 20 percent of their compute purely to alignment research.

đóng góp 20% tài nguyên của họ hoàn toàn cho nghiên cứu đồng bộ.

And DeepMind have shown a decade-long focus

Và DeepMind đã thể hiện trọng tâm suốt thập kỷ

of science ahead of commerce,

đặt khoa học lên trên thương mại,

like their development of AlphaFold,

qua sự phát triển của AlphaFold,

which they gave away to the science community for free.

phần mềm mà họ tặng miễn phí cho cộng đồng khoa học.

These are all steps in the right direction,

Đây đều là những bước đi đúng hướng,

but they are still nowhere close to being enough.

nhưng chúng vẫn chưa thể coi là đủ.

I mean, most of these are currently just words,

Ý tôi là, hầu hết những cam kết hiện chỉ là lời nói,

they're not even proven actions.

còn chưa phải là hành động được kiểm chứng.

So we need a clear way to turn the AI race into a definitive race to the top.

Vì vậy, ta cần một cách thức rõ ràng để đưa cuộc đua AI lên đỉnh cao thực thụ.

Perhaps companies can start competing over who can be within these metrics,

Có lẽ các công ty nên bắt đầu cạnh tranh về những số liệu kể trên,

over who can develop the best security criteria.

về khía cạnh phát triển tiêu chí bảo mật tốt nhất.

A race of who can dedicate the most compute to alignment.

Một cuộc đua về khía cạnh cống hiến nhiều tài nguyên nhất cho đồng bộ.

Now that would truly flip the middle finger to Moloch.

Điều này giống như giơ ngón tay giữa vào Moloch vậy.

Competition can be an amazing tool,

Cạnh tranh có thể là 1 công cụ tuyệt vời,

provided we wield it wisely.

miễn là ta áp dụng nó một cách khôn ngoan.

And we're going to need to do that

Và chúng ta cần phải làm như vậy

because the stakes we are playing for are astronomical.

vì rủi ro mà ta đặt cược vào là vô cùng lớn.

If we get AI, and especially AGI, wrong,

Nếu chúng ta hiểu sai AI, đặc biệt là AGI,

it could lead to unimaginable catastrophe.

nó có thể dẫn đến thảm họa không thể tưởng tượng được.

But if we get it right,

Nhưng nếu chúng ta làm đúng,

it could be our path out of many of these Moloch traps

nó có thể là con đường thoát khỏi nhiều cái bẫy Moloch

that I've mentioned today.

mà tôi đã đề cập ngày hôm nay.

And as things get crazier over the coming years,

Khi mọi thứ trở nên điên rồ hơn trong những năm tới,

which they're probably going to,

và có lẽ sẽ là vậy,

it's going to be more important than ever

điều quan trọng hơn bao giờ hết

that we remember that it is the real enemy here, Moloch.

là chúng ta phải nhớ rằng Moloch mới là kẻ thù thực sự ở đây.

Not any individual CEO or company, and certainly not one another.

Không phải bất kỳ vị CEO hay công ty nào, và chắc chắn không phải lẫn nhau.

So don't hate the players,

Vì vậy, đừng ghét bỏ người chơi,

change the game.

hãy thay đổi trò chơi.

(Applause)

(Vỗ tay)