The Inside Story of ChatGPT’s Astonishing Potential | Greg Brockman | TED

Translator: Lunouse Trịnh Reviewer: Gia Bảo Nguyễn

We started OpenAI seven years ago

Chúng tôi bắt đầu lập ra OpenAI vào bảy năm trước

because we felt like something really interesting was happening in AI

bởi chúng tôi thấy có gì đó khá thú vị đang diễn ra với AI

and we wanted to help steer it in a positive direction.

và chúng tôi muốn phát triển nó theo hướng tích cực.

It's honestly just really amazing to see

Kể từ lúc ấy thật sự thú vị khi được thấy

how far this whole field has come since then.

cả lĩnh vực này đã đi xa đến mức này.

And it's really gratifying to hear from people like Raymond

Và thật hài lòng khi được nghe từ những người như ông Raymond

who are using the technology we are building, and others,

người đang dùng công nghệ mà chúng tôi phát triển,

for so many wonderful things.

để làm những điều tuyệt vời.

We hear from people who are excited,

Chúng tôi không chỉ lắng nghe từ những người hứng thú

we hear from people who are concerned,

mà còn từ những ai đang quan ngại nữa,

we hear from people who feel both those emotions at once.

và cả những người đang trải nghiệm cả 2 loại cảm xúc ấy.

And honestly, that's how we feel.

Thật lòng, đó là điều mà chúng tôi cảm nhận được.

Above all, it feels like we're entering an historic period right now

Hơn thế nữa, cảm giác như ngay lúc này đây bọn tôi đang viết nên lịch sử

where we as a world are going to define a technology

1 thế giới mà ta đang dần định hình về 1 thứ công nghệ

that will be so important for our society going forward.

sẽ trở nên cực quan trọng cho sự phát triển của xã hội.

And I believe that we can manage this for good.

Và tôi tin là chúng tôi đủ sức hướng nó đến những điều tốt đẹp

So today, I want to show you the current state of that technology

Vậy nên hôm nay, tôi muốn cho mọi người thấy hiện trạng của công nghệ này

and some of the underlying design principles that we hold dear.

cũng như vài nguyên tắc thiết kế cơ bản mà chúng tôi nắm giữ.

So the first thing I'm going to show you

Thứ đầu tiên tôi muốn cho mọi người thấy

is what it's like to build a tool for an AI

đó là việc xây dựng công cụ cho AI khác với

rather than building it for a human.

việc xây dựng công cụ cho con người.

So we have a new DALL-E model, which generates images,

Bọn tôi có mô hình DALL-E tiên tiến để tạo ra hình ảnh,

and we are exposing it as an app for ChatGPT to use on your behalf.

và bọn tôi đang cơ cấu nó dưới dạng app nhằm để các bạn sử dụng ChatGPT tiện hơn.

And you can do things like ask, you know,

Và bạn có thể làm mấy thứ như hỏi nè, bạn biết mà,

suggest a nice post-TED meal and draw a picture of it.

đề xuất một bữa ăn sau bài TED này và vẽ hình nó ra luôn nhe

(Laughter)

(Cười)

Now you get all of the, sort of, ideation and creative back-and-forth

Giờ thì bạn sẽ có mọi thứ, phân mục, ý tưởng và cả sáng tạo qua lại

and taking care of the details for you that you get out of ChatGPT.

hãy lưu tâm đến các chi tiết mà bạn nhận được từ ChatGPT.

And here we go, it's not just the idea for the meal,

Và đây, đó không đơn thuần chỉ là ý tưởng cho bữa ăn,

but a very, very detailed spread.

mà còn là những cách thức cực, cực chi tiết

So let's see what we're going to get.

Giờ hãy xem chúng ta sẽ nhận được gì nhé.

But ChatGPT doesn't just generate images in this case --

Nhưng ChatGPT không chỉ tạo ra các hình ảnh trong trường hợp này --

sorry, it doesn't generate text, it also generates an image.

xin lỗi, không chỉ tạo văn bản, mà còn tạo hình ảnh.

And that is something that really expands the power

Và đó chính là thứ tạo ra bước đột phá

of what it can do on your behalf in terms of carrying out your intent.

trong việc nó có thể làm thay bạn lẫn hiện thực hóa những dự tính của bạn.

And I'll point out, this is all a live demo.

Tôi nói rõ luôn, đây là buổi demo trực tiếp.

This is all generated by the AI as we speak.

Tất cả đều do AI tạo ra như đã nói.

So I actually don't even know what we're going to see.

Nên tôi thật sự không biết chúng ta sẽ xem gì.

This looks wonderful.

Cái này trông tuyệt thật ha.

(Applause)

(Vỗ tay)

I'm getting hungry just looking at it.

Nhìn thôi cũng cảm thấy đói rồi.

Now we've extended ChatGPT with other tools too,

Giờ chúng ta đã mở rộng ChatGPT với các công cụ khác,

for example, memory.

như là, bộ nhớ.

You can say "save this for later."

Bạn có thể bảo nó là “lưu lại dùng sau.”

And the interesting thing about these tools

Và điều thú vị ở những công cụ này là

is they're very inspectable.

chúng rất dễ kiểm tra.

So you get this little pop up here that says "use the DALL-E app."

Bạn sẽ thấy 1 dòng chữ nhỏ ở đây ghi “dùng app Dall -E.”

And by the way, this is coming to you, all ChatGPT users, over upcoming months.

Tiện đây, tính năng này sẽ sớm ra mắt,

đến người dùng Chat vài tháng tới.

Bạn có thể xem chi tiết cách hoạt động và thấy điều mà nó thực sự làm

And you can look under the hood and see that what it actually did

was write a prompt just like a human could.

là viết ra câu hỏi y như con người vậy.

And so you sort of have this ability to inspect

Nên là bạn có thể phần nào đó kiểm tra

how the machine is using these tools,

cách mà cỗ máy đang dùng các công cụ trên,

which allows us to provide feedback to them.

điều này cho phép ta đưa ra phản hồi cho chúng.

Now it's saved for later,

Giờ nó đã được lưu rồi,

and let me show you what it's like to use that information

giờ để tôi cho bạn thấy cách nó sử dụng thông tin đó

and to integrate with other applications too.

để phối hợp tương tác với các ứng dụng khác.

You can say,

Bạn có thể ghi là,

“Now make a shopping list for the tasty thing

“Giờ hãy lên danh sách mua sắm vài thứ ngon ghẻ

I was suggesting earlier.”

mà tôi đã đề xuất khi nãy.”

And make it a little tricky for the AI.

Và để làm khó con AI một chút.

"And tweet it out for all the TED viewers out there."

“Nhớ đăng lên Twitter cho những người xem TED ở ngoài kia coi nhé.”

(Laughter)

(Cười)

So if you do make this wonderful, wonderful meal,

Nếu bạn là người đã soạn cái bữa ăn tuyệt vời kía

I definitely want to know how it tastes.

thì tôi rất muốn biết mùi vị của nó đấy.

But you can see that ChatGPT is selecting all these different tools

Nhưng bạn thấy đó ChatGPT đang tập hợp nhiều công cụ khác nhau

without me having to tell it explicitly which ones to use in any situation.

mà tôi không hề nói rõ cái nào nên dùng cho tình huống nào.

Và cái này, theo tôi, sẽ tạo ra

And this, I think, shows a new way of thinking about the user interface.

1 tư duy mới về cái mà ta gọi là giao diện người dùng

Like, we are so used to thinking of, well, we have these apps,

Kiểu như, chúng ta hay quen là, ừm, mình có các ứng dụng này,

we click between them, we copy/paste between them,

bấm vào, copy/paste chúng,

and usually it's a great experience within an app

và thường sử dụng ứng dụng đó rất sướng tay

as long as you kind of know the menus and know all the options.

một khi bạn thuộc thanh công cụ và hiểu tất cả tùy chọn.

Yes, I would like you to.

Vâng, mong bạn sẽ như vậy.

Yes, please.

Vâng, hãy như vậy.

Always good to be polite.

Tốt nhất là nên lịch sự.

(Laughter)

(Cười)

And by having this unified language interface on top of tools,

Và việc trang bị giao diện ngôn ngữ thống nhất này ở đầu các công cụ,

the AI is able to sort of take away all those details from you.

AI sẽ có thể phần nào hiểu được một cách chi tiết

tất cả những câu lệnh của bạn.

So you don't have to be the one

Cho nên bạn không cần phải

who spells out every single sort of little piece

đánh vần từng chữ hay chi tiết nhỏ

of what's supposed to happen.

về yêu cầu mà bạn muốn.

And as I said, this is a live demo,

Và như đã nói, đây là buổi demo trực tiếp,

so sometimes the unexpected will happen to us.

nên đôi lúc sẽ có vài thứ bất ngờ xảy đến đấy.

But let's take a look at the Instacart shopping list while we're at it.

Nhưng nhân tiện hãy nhìn vào danh sách mua sắm ở Instacart nào.

And you can see we sent a list of ingredients to Instacart.

Như bạn thấy, chúng tôi đã gửi danh sách nguyên liệu đến Instacart.

Here's everything you need.

Đây là những gì bạn cần.

And the thing that's really interesting

Và điều thú vị ở đây là

is that the traditional UI is still very valuable, right?

nó vẫn đang sử dụng giao diện người dùng truyền thống, đúng chứ?

If you look at this,

Nếu bạn nhìn vào đây,

you still can click through it and sort of modify the actual quantities.

bạn có thể bấm vào và sửa đổi số lượng sản phẩm hiện tại.

And that's something that I think shows

Và giao diện người dùng truyền thống

that they're not going away, traditional UIs.

là thứ mà tôi nghĩ rằng sẽ không bao giờ mất đi.

It's just we have a new, augmented way to build them.

Chỉ là chúng ta sẽ có hướng bổ sung mới để phát triển nó thôi.

And now we have a tweet that's been drafted for our review,

Giờ bọn tôi có 1 bài tweet nháp để dành cho buổi hôm nay,

which is also a very important thing.

cũng là 1 cái cực kỳ quan trọng.

We can click “run,” and there we are, we’re the manager, we’re able to inspect,

Bấm “chạy,” và đây, nếu là quản trị viên thì ta có thể kiểm tra ha,

we're able to change the work of the AI if we want to.

chúng ta có thể thay đổi hành động của AI nếu muốn.

And so after this talk, you will be able to access this yourself.

Và sau buổi diễn thuyết này, bạn sẽ có thể tự mình truy cập thử.

And there we go.

Và đây.

Cool.

Tuyệt vời.

Thank you, everyone.

Cảm ơn mọi người.

(Applause)

(Vỗ tay)

So we’ll cut back to the slides.

Giờ ta sẽ quay lại phần trình bày.

Now, the important thing about how we build this,

Rồi, điều quan trọng về việc bọn tôi phát triển thứ này,

it's not just about building these tools.

không đơn thuần chỉ là để phát triển các công cụ.

It's about teaching the AI how to use them.

Mà còn là dạy AI cách để sử dụng chúng.

Like, what do we even want it to do

kiểu, liệu ta muốn nó làm gì

when we ask these very high-level questions?

khi hỏi những câu hỏi lắc léo như vậy?

And to do this, we use an old idea.

Và để làm thế, chúng tôi đã áp dụng một ý tưởng cũ.

If you go back to Alan Turing's 1950 paper on the Turing test, he says,

Xem lại bài báo năm 1950 về bài kiểm tra Turing, Alan Turing nói,

you'll never program an answer to this.

bạn không thể lập trình đáp án cho việc này.

Instead, you can learn it.

Thay vào đó, bạn có thể học.

You could build a machine, like a human child,

Bạn có thể xây dựng cỗ máy như 1 đứa trẻ,

and then teach it through feedback.

và dạy nó thông qua việc nhận phản hồi.

Have a human teacher who provides rewards and punishments

Thầy giáo là con người sẽ trao thưởng hoặc trách phạt

as it tries things out and does things that are either good or bad.

tùy vào việc nó đang làm là tốt hay xấu.

Đó chính là cách chúng tôi huấn luyện ChatGPT.

And this is exactly how we train ChatGPT.

It's a two-step process.

Quá trình có hai bước.

First, we produce what Turing would have called a child machine

Đầu tiên, chúng tôi tạo ra một cỗ máy cái mà Turing gọi là em bé á

through an unsupervised learning process.

thông qua quá trình học không giám sát.

We just show it the whole world, the whole internet

Chỉ cho nó về toàn bộ thế giới và internet

and say, “Predict what comes next in text you’ve never seen before.”

và nói, “Dự đoán điều tiếp theo bằng những chữ mà mày chưa thấy bao giờ xem.”

And this process imbues it with all sorts of wonderful skills.

Và quá trình này sẽ thấm nhuần với tất cả các kĩ năng tuyệt vời.

For example, if you're shown a math problem,

Ví dụ, nếu đưa bạn một bài toán,

the only way to actually complete that math problem,

cách duy nhất để hoàn thành bài toán đó là,

to say what comes next,

nói xem nó ra cái gì,

that green nine up there,

số chín màu xanh ở trên,

is to actually solve the math problem.

đó chính là cách giải quyết bài toán.

But we actually have to do a second step, too,

Nhưng chúng ta cũng phải làm bước thứ hai,

which is to teach the AI what to do with those skills.

đó là dạy AI làm gì với những kĩ năng đó.

And for this, we provide feedback.

Và ở đây, ta đưa ra phản hồi.

We have the AI try out multiple things, give us multiple suggestions,

Ta để cho AI thử nghiệm nhiều thứ, đưa ra nhiều đề xuất,

and then a human rates them, says “This one’s better than that one.”

và sẽ có người đánh giá chúng, bảo, “Cái này tốt hơn cái kia.”

And this reinforces not just the specific thing that the AI said,

Điều này củng cố không chỉ những điều AI đã nói,

but very importantly, the whole process that the AI used to produce that answer.

mà quan trọng là toàn bộ quá trình mà AI đã dùng để tạo ra câu trả lời.

Và điều này cho phép AI cơ cấu.

And this allows it to generalize.

It allows it to teach, to sort of infer your intent

Cho phép AI dạy, suy luận ra mục đích của bạn

và áp dụng vào nhiều hoàn cảnh mà AI chưa từng thấy,

and apply it in scenarios that it hasn't seen before,

that it hasn't received feedback.

mà AI chưa từng nhận phản hồi.

Now, sometimes the things we have to teach the AI

Hiện nay, đôi lúc những điều chúng ta phải dạy AI

are not what you'd expect.

lại không như bạn dự đoán.

For example, when we first showed GPT-4 to Khan Academy,

Ví dụ, khi lần đầu tiên mang GPT-4 đến học viện Khan,

they said, "Wow, this is so great,

họ bảo, “Chà, cái này tuyệt quá,

We're going to be able to teach students wonderful things.

chúng tôi sẽ có thể dạy học sinh nhiều thứ hay ho đây.

Only one problem, it doesn't double-check students' math.

Có một vấn đề là, nó không hề kiểm tra lại bài toán của học sinh.

If there's some bad math in there,

Nếu có lỗi sai trong bài toán đó,

it will happily pretend that one plus one equals three and run with it."

nó sẽ vui vẻ giả vờ rằng một cộng một bằng ba và chấp nhận đáp án đó.”

So we had to collect some feedback data.

Nên chúng tôi đã phải tập hợp một vài dữ liệu phản hồi.

Sal Khan himself was very kind

Anh Sal Khan đã rất tốt bụng

and offered 20 hours of his own time to provide feedback to the machine

và dành 20 tiếng của mình để cung cấp phản hồi cho cái máy

alongside our team.

cùng với nhóm của chúng tôi.

And over the course of a couple of months we were able to teach the AI that,

Và xuyên suốt vài tháng trời chúng tôi đã có thể dạy cho AI rằng,

"Hey, you really should push back on humans

“Này, mày cần phải phản đối lại con người

in this specific kind of scenario."

trong loại hoàn cảnh này này.”

And we've actually made lots and lots of improvements to the models this way.

Và chúng tôi đã cải thiện rất rất nhiều cho mô hình bằng cách này.

And when you push that thumbs down in ChatGPT,

Và khi bạn phản đối lại ChatGPT,

that actually is kind of like sending up a bat signal to our team to say,

nó giống như là đang gửi tín hiệu cho đội ngũ của chúng tôi rằng,

“Here’s an area of weakness where you should gather feedback.”

“Đây là khía cạnh còn yếu mà mày cần tập hợp phản hồi này.”

And so when you do that,

Và khi bạn làm thế,

that's one way that we really listen to our users

đó là cách cho thấy chúng tôi biết lắng nghe

and make sure we're building something that's more useful for everyone.

và đảm bảo rằng chúng tôi đang phát triển một thứ hữu ích với mọi người.

Now, providing high-quality feedback is a hard thing.

Hiện giờ việc đưa ra phản hồi chất lượng cao là rất khó.

If you think about asking a kid to clean their room,

Nếu nghĩ về việc bắt một đứa trẻ dọn phòng của nó,

if all you're doing is inspecting the floor,

và nếu bạn chỉ kiểm tra sàn nhà,

you don't know if you're just teaching them to stuff all the toys in the closet.

bạn sẽ không biết liệu bạn có dạy chúng dồn tất cả đồ chơi vào tủ đồ không.

This is a nice DALL-E-generated image, by the way.

Đây là một bức ảnh đẹp do DALL-E tạo ra, tiện khoe luôn.

And the same sort of reasoning applies to AI.

Và lập luận tương tự cũng áp dụng cho AI.

As we move to harder tasks,

Khi ta giao những nhiệm vụ khó hơn,

we will have to scale our ability to provide high-quality feedback.

Ta sẽ phải cân nhắc khả năng đưa ra phản hồi chất lượng cao của mình.

But for this, the AI itself is happy to help.

Nhưng vì thế, chính AI lại rất sẵn lòng hỗ trợ.

It's happy to help us provide even better feedback

Nó vui vẻ giúp ta đưa ra phản hồi tốt hơn

and to scale our ability to supervise the machine as time goes on.

và khuyến khích ta nhằm tối ưu hóa nó theo thời gian

And let me show you what I mean.

Và để tôi cho các bạn thấy.

For example, you can ask GPT-4 a question like this,

Ví dụ, bạn có thể hỏi GPT-4 câu hỏi như thế này,

of how much time passed between these two foundational blogs

đã qua bao lâu kể từ lúc bạn học tự túc

từ 2 nền tảng blog kiến thức

on unsupervised learning

và từ phản hồi của con người.

and learning from human feedback.

And the model says two months passed.

Và nó sẽ nói rằng hai tháng đã trôi qua.

But is it true?

Nhưng có đúng không?

Like, these models are not 100-percent reliable,

Kiểu như, những mô hình này không đáng tin 100%,

although they’re getting better every time we provide some feedback.

mặc dù chúng đang dần tốt hơn mỗi khi chúng tôi đưa thêm phản hồi.

But we can actually use the AI to fact-check.

Nhưng chúng ta thật sự có thể dùng AI để kiểm tra sự thật.

And it can actually check its own work.

Và nó thật sự có thể tự kiểm tra kết quả.

You can say, fact-check this for me.

Nhập là, kiểm tra nhanh cái này dùm.

Now, in this case, I've actually given the AI a new tool.

Trong trường hợp này, tôi thật sự có thể cho AI một công cụ mới.

This one is a browsing tool

Cái này là công cụ tìm kiếm

where the model can issue search queries and click into web pages.

nơi mẫu thử có thể ra lệnh truy vấn tìm kiếm và bấm vào các trang web.

And it actually writes out its whole chain of thought as it does it.

Và nó cũng sẽ thật sự tự viết ra một chuỗi suy nghĩ.

It says, I’m just going to search for this and it actually does the search.

Nó nói, tôi sẽ thử tìm cái này và nó có tìm kiếm thật.

It then it finds the publication date and the search results.

Sau đó nó tìm ngày phát hành và kết quả tìm kiếm.

It then is issuing another search query.

Sau đó nó lại truy vấn tìm kiếm tiếp.

It's going to click into the blog post.

Nó sẽ bấm vào bài đăng trên blog.

And all of this you could do, but it’s a very tedious task.

Và bạn chỉ có thể làm nhiêu đó, quả là chán phèo luôn ha.

It's not a thing that humans really want to do.

Nó không phải việc mà con người muốn làm.

It's much more fun to be in the driver's seat,

Bạn sẽ thấy cái này vui nếu đang ngồi lái xe

to be in this manager's position where you can, if you want,

hay khi ở vị trí quản lý, có thể chứ, nếu bạn muốn,

triple-check the work.

kiểm đi kiểm lại 3 lần.

Và đưa ra dẫn chứng

And out come citations

so you can actually go

giờ bạn có thể yên tâm

and very easily verify any piece of this whole chain of reasoning.

cũng như dễ dàng xác minh bất kỳ phần nào của toàn bộ lập luận này.

And it actually turns out two months was wrong.

Và thực ra hai tháng là sai rồi.

Two months and one week,

Hai tháng và một tuần,

that was correct.

mới chính xác.

(Applause)

(Vỗ tay)

And we'll cut back to the side.

Giờ trở lại phần trình bày nè.

And so thing that's so interesting to me about this whole process

Và với tôi thứ thật sự thú vị trong cả quá trình này là

is that it’s this many-step collaboration between a human and an AI.

sự cộng tác nhiều lần giữa một con người và một AI.

Because a human, using this fact-checking tool

Bởi vì con người, sử dụng công cụ kiểm tra nhanh này

is doing it in order to produce data

nhằm tạo ra dữ liệu

for another AI to become more useful to a human.

cho 1 AI khác nhằm giúp nó hữu dụng hơn với con người.

And I think this really shows the shape of something

Và tôi nghĩ điều này đã định hình về 1 thứ

that we should expect to be much more common in the future,

mà chúng tôi kỳ vọng sẽ trở nên cực phổ biến trong tương lai,

where we have humans and machines kind of very carefully

khi mà chúng ta có con người và máy móc được thiết kế

and delicately designed in how they fit into a problem

rất cẩn trọng và tỉ mỉ ở cái cách chúng thích nghi với một vấn đề

and how we want to solve that problem.

và cái cách chúng ta muốn giải quyết nó.

We make sure that the humans are providing the management, the oversight,

Chúng tôi cam đoan rằng con người sẽ hỗ trợ quản lý, giám sát, phản hồi

the feedback,

và máy móc sẽ hoạt động theo hướng có thể dễ dàng kiểm tra và đáng tin.

and the machines are operating in a way that's inspectable

and trustworthy.

Và chúng ta có thể cùng nhau tạo ra nhiều máy móc đáng tin cậy hơn.

And together we're able to actually create even more trustworthy machines.

Và tôi nghĩ theo thời gian, nếu quá trình đi đúng hướng,

And I think that over time, if we get this process right,

ta sẽ có thể gỡ rối cả những vấn đề tưởng như bất khả thi

we will be able to solve impossible problems.

Và để bạn hiểu rõ về cái vấn đề gọi là bất khả thi mà tôi đang đề cập,

And to give you a sense of just how impossible I'm talking,

I think we're going to be able to rethink almost every aspect

tôi nghĩ chúng ta sẽ cần suy xét lại ở hầu hết khía cạnh

of how we interact with computers.

về cách mà chúng ta tương tác với máy tính.

For example, think about spreadsheets.

Ví dụ, hãy nghĩ tới những bảng tính.

They've been around in some form since, we'll say, 40 years ago with VisiCalc.

Chúng đã tồn tại dưới nhiều dạng kể từ 40 năm trước khi còn ở thời của ViciCalc.

I don't think they've really changed that much in that time.

Tôi không nghĩ chúng thật sự thay đổi quá nhiều kể từ đó.

And here is a specific spreadsheet of all the AI papers on the arXiv

Và đây là bảng tính cụ thể của tất cả các bài báo AI trên arXiv

for the past 30 years.

trong suốt 30 năm qua.

There's about 167,000 of them.

Có khoảng 167000 bài báo.

And you can see there the data right here.

Và bạn có thể thấy dữ liệu nằm ở đây.

But let me show you the ChatGPT take on how to analyze a data set like this.

Nhưng để tôi cho bạn thấy cách ChatGPT phân tích bộ dữ liệu kiểu này nhé.

So we can give ChatGPT access to yet another tool,

Chúng tôi cho ChatGPT truy cập vào một công cụ khác,

this one a Python interpreter,

là trình thông dịch Python,

so it’s able to run code, just like a data scientist would.

từ đó nó có thể chạy code, giống như một nhà khoa học dữ liệu.

And so you can just literally upload a file

Và bạn có thể chỉ cần đăng tải một tệp tin

and ask questions about it.

và đặt câu hỏi về nó.

And very helpfully, you know, it knows the name of the file and it's like,

Và rất hữu dụng, nó biết tên của tệp tin đó và nó kiểu,

"Oh, this is CSV," comma-separated value file,

“Ồ, đây là CSV,” một tệp tin được tách bằng dấu phẩy

"I'll parse it for you."

“Tôi sẽ phân tích nó.”

The only information here is the name of the file,

Thông tin duy nhất ở đây là tên của tệp tin,

the column names like you saw and then the actual data.

các tên cột như bạn đã thấy và sau đó là dữ liệu thực.

And from that it's able to infer what these columns actually mean.

Và từ đó nó có thể suy luận những cột này có nghĩa thật sự là gì.

Like, that semantic information wasn't in there.

Kiểu, thông tin ngữ nghĩa đó không có ở đây.

It has to sort of, put together its world knowledge of knowing that,

Nó phải kiểu, kết hợp toàn bộ tri thức thế giới để biết rằng,

“Oh yeah, arXiv is a site that people submit papers

“À, arXiv là một trang mà mọi người nộp bài báo

and therefore that's what these things are and that these are integer values

rằng đó là bản chất rằng đó là những giá trị số nguyên

suy ra nó chính là số các tác giả trong tờ báo,”

and so therefore it's a number of authors in the paper,"

kiểu vậy á hả, công việc của con người là vậy à,

like all of that, that’s work for a human to do,

và AI rất vui vẻ mà hỗ trợ họ.

and the AI is happy to help with it.

Giờ tôi không biết tôi cần hỏi gì nữa.

Now I don't even know what I want to ask.

May mắn là, bạn có thể hỏi cái máy này thử,

So fortunately, you can ask the machine,

"Can you make some exploratory graphs?"

“Bạn có thể tạo đồ thị thăm dò không?”

And once again, this is a super high-level instruction with lots of intent behind it.

Một lần nữa, lại là 1 câu hỏi có độ khó siêu cao với nhiều ý định đằng sau.

But I don't even know what I want.

Nhưng tôi không biết tôi muốn gì

Và AI sẽ phải đoán cái mà tôi đang đề cập tới.

And the AI kind of has to infer what I might be interested in.

Rồi nó sẽ đưa ra vài ý kiến hay ho, tôi nghĩ vậy.

And so it comes up with some good ideas, I think.

Một biểu đồ với số tác giả trên từng bài báo,

So a histogram of the number of authors per paper,

time series of papers per year, word cloud of the paper titles.

thời gian của bài báo theo năm, biểu đồ từ của tiêu đề báo.

All of that, I think, will be pretty interesting to see.

Nhưng thứ này, theo tôi, cũng khá thú vị đấy chứ.

Và điều tuyệt vời là, nó có thể làm được.

And the great thing is, it can actually do it.

Here we go, a nice bell curve.

Và đây, một đường cong tuyệt đẹp.

Bạn thấy đó, cột thứ 3 là cột phổ biến nhất

You see that three is kind of the most common.

Sau đó nó lại đưa ra các bài báo tiêu biểu theo từng năm.

It's going to then make this nice plot of the papers per year.

Hình như có điều gì đó khủng khiếp diễn ra vào 2023.

Something crazy is happening in 2023, though.

Looks like we were on an exponential and it dropped off the cliff.

Kiểu ta đang ở trên đỉnh xong cái tự nhiên ngã cái bịch vậy.

What could be going on there?

Là chuyện gì đây trời?

By the way, all this is Python code, you can inspect.

À mà mấy cái này đều là mã Python, bạn có thể kiểm chứng.

And then we'll see word cloud.

Và giờ đến biểu đồ từ nhe.

So you can see all these wonderful things that appear in these titles.

Bạn có thể thấy mấy cái sặc sỡ này trên tiêu đề của các bài báo.

Nhưng tôi cảm thấy rất buồn về năm 2023 này.

But I'm pretty unhappy about this 2023 thing.

Nó khiến năm này cứ kiểu u ám thế nào ấy.

It makes this year look really bad.

Of course, the problem is that the year is not over.

Dĩ nhiên, vấn đề là năm này vẫn chưa kết thúc.

So I'm going to push back on the machine.

Nên tôi sẽ phản đối cái máy.

[Waitttt that's not fair!!!

[Chờ đã, thấy sai sai!!!

2023 isn't over.

2023 đã kết thúc đâu.

Phần trăm số bài báo vào năm 2022 đã đăng trước ngày 13 tháng 4 là bao nhiêu]

What percentage of papers in 2022 were even posted by April 13?]

So April 13 was the cut-off date I believe.

Ngày 13 tháng 4 chính là điểm giao, tôi tin vậy

Can you use that to make a fair projection?

Bạn có thể dùng nó để đưa ra dự đoán tốt hơn không?

So we'll see, this is the kind of ambitious one.

Xem thử nhe, chứ thằng nhãi này hiếu thắng lắm.

(Laughter)

(Cười)

So you know,

Bạn biết đó,

again, I feel like there was more I wanted out of the machine here.

một lần nữa, tôi cảm thấy cái máy này cần cung cấp cấp thêm nhiều thông tin hơn.

I really wanted it to notice this thing,

Tôi rất muốn nó phát hiện điều này,

maybe it's a little bit of an overreach for it

có vẻ hơi quá giới hạn của nó

to have sort of, inferred magically that this is what I wanted.

khi phải suy luận về cái nhu cầu cực ảo diệu của tôi.

But I inject my intent,

Nhưng tôi có nói đến mục đích nhe,

I provide this additional piece of, you know, guidance.

tôi cung cấp thêm 1 số thông tin, kiểu như, hướng dẫn á.

And under the hood,

Và dựa vào đó,

the AI is just writing code again, so if you want to inspect what it's doing,

AI sẽ viết lại code, và nếu bạn muốn kiểm tra xem nó đang làm gì,

it's very possible.

thì được luôn nhe.

And now, it does the correct projection.

Và giờ nó đã dự đoán chính xác rồi này.

(Applause)

(Vỗ tay)

If you noticed, it even updates the title.

Nếu bạn để ý, nó còn cập nhật tiêu đề nữa.

I didn't ask for that, but it know what I want.

Tôi không hề yêu cầu, nhưng nó biết tôi muốn gì.

Now we'll cut back to the slide again.

Giờ thì nhìn lên cái slide trên màn hình nào.

This slide shows a parable of how I think we ...

Slide trên cho thấy 1 gợi ý về cái cách mà tôi nghĩ

A vision of how we may end up using this technology in the future.

Một góc nhìn về cách sử dụng công nghệ này trong tương lai.

A person brought his very sick dog to the vet,

Một người đã mang chú chó bị bệnh nặng đến thú y,

and the veterinarian made a bad call to say, “Let’s just wait and see.”

và bác sĩ thú y đã phạm sai lầm khi nói rằng, “Hãy cứ đợi mà xem.”

And the dog would not be here today had he listened.

Và chú chó sẽ chẳng sống đến hôm nay nếu anh ta làm theo lời bác sĩ.

In the meanwhile, he provided the blood test,

Trong lúc đó, anh ta kiểm tra máu,

like, the full medical records, to GPT-4,

kiểu, hồ sơ y tế đầy đủ hết, theo GPT-4,

which said, "I am not a vet, you need to talk to a professional,

nói, “tôi không phải cơ sở thú y, bạn cần nói chuyện với chuyên gia,

here are some hypotheses."

đây là một số giả thuyết.”

He brought that information to a second vet

Anh ấy đã đem thông tin đó đến trạm thú y thứ hai

who used it to save the dog's life.

họ đã dùng nó để cứu mạng chú chó.

Now, these systems, they're not perfect.

Hiện nay, những hệ thống này, không hề hoàn hảo.

You cannot overly rely on them.

Bạn không thể quá phụ thuộc vào chúng.

But this story, I think, shows

Nhưng qua câu chuyện này, thể hiện rằng

that a human with a medical professional

một người với chuyên môn y tế

and with ChatGPT as a brainstorming partner

có thể dùng ChatGPT như 1 đối tác động não

was able to achieve an outcome that would not have happened otherwise.

qua đó có thể đạt tới những thứ chưa từng có tiền lệ.

I think this is something we should all reflect on,

Tôi nghĩ đó là thứ mà chúng ta nên suy ngẫm

think about as we consider how to integrate these systems

rằng nên cân nhắc khi sáp nhập những hệ thống này vào đời sống.

into our world.

And one thing I believe really deeply,

Và một điều mà tôi rất tin tưởng,

đó là để AI chính xác hơn, sự giúp đỡ từ mọi người là cần thiết.

is that getting AI right is going to require participation from everyone.

And that's for deciding how we want it to slot in,

Đó là quyết định cách để áp dụng thực tiễn thứ này,

that's for setting the rules of the road,

đó là đặt ra những quy luật,

for what an AI will and won't do.

mà AI sẽ và không được vượt qua.

And if there's one thing to take away from this talk,

Và nếu có một điều để rút ra sau buổi nói chuyện này,

it's that this technology just looks different.

đó là công nghệ này rất khác biệt.

Just different from anything people had anticipated.

Rất khác so với những gì mà người ta từng dự kiến.

And so we all have to become literate.

Vậy nên chúng ta phải biết đọc viết.

And that's, honestly, one of the reasons we released ChatGPT.

Chính nó, là 1 trong những lí do mà bọn tôi tạo ra ChatGPT.

Together, I believe that we can achieve the OpenAI mission

Tôi tin rằng chúng ta có thể cùng nhau thực hiện sứ mệnh của OpenAI

of ensuring that artificial general intelligence

để đảm bảo rằng trí tuệ nhân tạo tổng hợp

benefits all of humanity.

mang đến lợi ích cho toàn nhân loại.

Thank you.

Cảm ơn.

(Applause)

(Vỗ tay)

(Applause ends)

(Kết thúc vỗ tay)

Chris Anderson: Greg.

Chris Anderson: Greg.

Wow.

Chà.

I mean ...

Ý tôi là ...

I suspect that within every mind out here

Tôi nghĩ là tất cả bộ não của các thính giả ở đây

there's a feeling of reeling.

hầu như sẽ thấy choáng váng chứ hả.

Like, I suspect that a very large number of people viewing this,

Kiểu, tôi nghi là có phần lớn người xem cái này,

you look at that and you think, “Oh my goodness,

sẽ nhìn và nghĩ, “Ôi lạy chúa trên cao,

pretty much every single thing about the way I work, I need to rethink."

tôi cần phải xem xét lại toàn bộ cách tôi làm việc.”

Kiểu như, sẽ có những tính năng mới được tạo ra.

Like, there's just new possibilities there.

Đúng không mọi người?

Am I right?

Who thinks that they're having to rethink the way that we do things?

Có ai đang nghĩ mình sẽ phải xem lại cách mà mình làm việc không?

Yeah, I mean, it's amazing,

Phải, theo tôi, nó rất tuyệt,

but it's also really scary.

nhưng mà cũng rất đáng sợ nữa.

So let's talk, Greg, let's talk.

Nên nói chuyện tí nào, Greg, nói chuyện tí.

I mean, I guess my first question actually is just

Thì là, câu hỏi đầu tiên của tôi là

thế quái nào mà anh làm được vậy?

how the hell have you done this?

(Laughter)

(Cười)

OpenAI has a few hundred employees.

OpenAi có vài trăm nhân viên.

Google has thousands of employees working on artificial intelligence.

Google thì có vài ngàn nhân viên làm về lĩnh vực trí tuệ nhân tạo.

Why is it you who's come up with this technology

Lí do nào khiến anh lại nghĩ ra được một thứ công nghệ

that shocked the world?

gây sửng sốt như thế này?

Greg Brockman: I mean, the truth is,

Ừ thì, sự thật là,

chúng tôi xây trên vai những gã khổng lồ, thật vậy

we're all building on shoulders of giants, right, there's no question.

Nếu để ý sẽ thấy sự tiến bộ của máy tính, thuật toán, dữ liệu,

If you look at the compute progress,

những thứ này đều thuộc chuyên nghành.

the algorithmic progress, the data progress,

Nhưng tôi nghĩ với OpenAI,

all of those are really industry-wide.

chúng tôi từ đầu đã đưa ra rất nhiều lựa chọn có cân nhắc.

But I think within OpenAI,

we made a lot of very deliberate choices from the early days.

Và lựa chọn đầu tiên đó là đối diện với thực tế.

And the first one was just to confront reality as it lays.

Và chúng tôi cũng suy nghĩ rất nhiều như là:

And that we just thought really hard about like:

Cần phải làm gì để đưa nó phát triển đây?

What is it going to take to make progress here?

We tried a lot of things that didn't work, so you only see the things that did.

Chúng tôi thất bại rất nhiều, và chỉ có cái này là thành công.

Và tôi nghĩ điều quan trọng nhất chính là tạo ra 1 đội với những con người

And I think that the most important thing has been to get teams of people

tưởng chừng rất khác nhau nhưng rồi lại có thể làm việc cùng nhau.

who are very different from each other to work together harmoniously.

CA: Can we have the water, by the way, just brought here?

CA: Cho chúng tôi chai nước với, để đây nè?

Tôi nghĩ chúng ta sẽ cần, vì chủ đề này tốn nhiều nước bọt lắm.

I think we're going to need it, it's a dry-mouth topic.

But isn't there something also just about the fact

Nhưng mà chẳng phải sự thật là

that you saw something in these language models

anh đã thấy gì đó ở trong các mô hình ngôn ngữ này

that meant that if you continue to invest in them and grow them,

rằng nếu anh tiếp tục đầu tư và phát triển chúng

that something at some point might emerge?

tới một lúc nào đó 1 thứ đột phá sẽ được tạo ra đúng chứ?

GB: Yes.

GB: Đúng.

And I think that, I mean, honestly,

Và tôi nghĩ, thật ra thì,

I think the story there is pretty illustrative, right?

tôi nghĩ là câu chuyện khá là truyền cảm hứng đấy chứ?

I think that high level, deep learning,

Tôi nghĩ việc học lên cao, chuyên sâu,

ai cũng biết bọn tôi dang dự định xây

like we always knew that was what we wanted to be,

một phòng thí nghiệm chuyên sâu, vậy thì làm cách nào?

was a deep learning lab, and exactly how to do it?

Lúc mới ban đầu thì bọn tôi đâu có biết.

I think that in the early days, we didn't know.

Chúng tôi thử đủ thứ,

We tried a lot of things,

và có 1 người khi đó đang huấn luyện cho 1 mô hình

and one person was working on training a model

to predict the next character in Amazon reviews,

để dự đoán chữ cái tiếp theo trong bài đánh giá trên Amazon,

and he got a result where -- this is a syntactic process,

và kết quả mà anh ta nhận là -- cú pháp được xử lí,

you expect, you know, the model will predict where the commas go,

bạn biết đó, mô hình đoán được cả chỗ đặt dấu phẩy luôn

where the nouns and verbs are.

chỗ nào đặt danh và động từ.

But he actually got a state-of-the-art sentiment analysis classifier out of it.

Anh ta thực sự đã có được bộ phân loại phân tích tâm lý hiện đại nhất từ nó.

This model could tell you if a review was positive or negative.

Mô hình này có thể cho bạn biết đó là đánh giá tốt hay xấu.

I mean, today we are just like, come on, anyone can do that.

Ý tôi là, giờ thì ai cũng kiểu, thôi nào, ai cũng làm được mà.

But this was the first time that you saw this emergence,

Nhưng đây là lần đầu bạn chứng kiến điều này,

this sort of semantics that emerged from this underlying syntactic process.

một loại ngữ nghĩa đã xuất hiện từ quá trình của cú pháp trên.

Đó là lúc cả bọn nhận ra, phải phát triển cái này,

And there we knew, you've got to scale this thing,

you've got to see where it goes.

phải xem nó đi tới đâu.

CA: Vậy điều này đã giải thích cho

CA: So I think this helps explain

the riddle that baffles everyone looking at this,

những băn khoăn của mọi người khi thấy thứ này

because these things are described as prediction machines.

bởi ban đầu chúng được mô tả là những cỗ máy dự đoán mà.

And yet, what we're seeing out of them feels ...

Và những gì chúng ta đang thấy đây mang lại cảm giác ...

it just feels impossible that that could come from a prediction machine.

hơi khá khó tin khi tất cả chỉ bắt đầu từ một cỗ máy dự đoán.

Just the stuff you showed us just now.

Chính là cái anh vừa cho chúng tôi xem.

And the key idea of emergence is that when you get more of a thing,

Và điểm mấu chốt ở đây là khi bạn phát hiện thêm thứ gì đó,

suddenly different things emerge.

thì cả đống thứ khác cũng hiện ra.

It happens all the time, ant colonies, single ants run around,

Nó giống như là, có 1 bầy kiến, một con kiến chạy quanh,

khi bạn đem đủ số kiến lại với nhau,

when you bring enough of them together,

bạn sẽ có 1 bầy kiến với những cá thế có biểu hiện, tính cách khác nhau.

you get these ant colonies that show completely emergent, different behavior.

Or a city where a few houses together, it's just houses together.

Hay một đô thi với vài căn nhà liền kề, thì chả có gì đặc biệt.

Nhưng khi bạn tăng số căn nhà lên,

But as you grow the number of houses,

things emerge, like suburbs and cultural centers and traffic jams.

thì sẽ có thêm những thứ như ngoại ô, trung tâm văn hóa rồi cả tắc đường.

Anh có thể kể cho tôi về 1 trường hợp mà khi anh khám phá ra cái gì đó

Give me one moment for you when you saw just something pop

that just blew your mind

khiến anh bất ngờ

mà anh không nghĩ là nó sẽ tới.

that you just did not see coming.

GB: Yeah, well,

GB: Vâng, thì,

so you can try this in ChatGPT, if you add 40-digit numbers --

bạn có thể thử trên ChatGPT, nếu bạn thêm vào 40 ký tự số

CA: 40-digit?

CA: 40 ký tự số?

GB: 40-digit numbers, the model will do it,

40 ký tự số, máy sẽ làm điều đó,

which means it's really learned an internal circuit for how to do it.

có nghĩa là nó đã học về mạch trong để biết mình phải làm gì.

And the really interesting thing is actually,

Và điều thật sự thú vị đó là,

if you have it add like a 40-digit number plus a 35-digit number,

Nếu bạn yêu cầu thêm 40 kí tự số cộng 35 kí tự số,

it'll often get it wrong.

kết quả thường sẽ sai liền.

And so you can see that it's really learning the process,

Và bạn thấy đó nó sẽ học từ chính quá trình đó

but it hasn't fully generalized, right?

chỉ là chưa khái quát được hết, vậy á?

It's like you can't memorize the 40-digit addition table,

Kiểu như bạn đâu thể nhớ hết bảng 40 kí tự số thêm vào,

that's more atoms than there are in the universe.

nó nhiều hơn số nguyên tử có trong vũ trụ cơ mà

So it had to have learned something general,

Vậy nên nó phải được học khái quát,

but that it hasn't really fully yet learned that,

nhưng mà kiểu nó học chưa tới ấy,

Oh, I can sort of generalize this to adding arbitrary numbers

À tôi có thể tổng hợp cái này để thêm vài số tùy ý

với độ dài tùy ý.

of arbitrary lengths.

CA: So what's happened here

CA: Vậy vấn đề ở đây là

is that you've allowed it to scale up

anh cho phép nó mở rộng

and look at an incredible number of pieces of text.

và xem xét đến những mảnh kí tự dồi dào khác.

And it is learning things

Và nó cứ thế học những thứ

that you didn't know that it was going to be capable of learning.

mà anh thậm chí không biết là nó có tiếp thu nổi hay không.

GB Well, yeah, and it’s more nuanced, too.

GB: Ừ, phải, và nó cũng tinh vi hơn chứ.

So one science that we’re starting to really get good at

Nên là bọn tôi đang cố phát triển khoa học đến 1 trình độ

is predicting some of these emergent capabilities.

dự đoán được cả những khả năng có thể xảy ra luôn.

And to do that actually,

Và để làm được điều đó,

one of the things I think is very undersung in this field

thứ mà tôi nghĩ đang bị đánh giá thấp trong lĩnh vực này

là chất lượng kỹ thuật.

is sort of engineering quality.

Like, we had to rebuild our entire stack.

Ta cần phải xây dựng lại toàn bộ hệ thống cơ.

When you think about building a rocket,

Khi bạn nghĩ về việc phóng 1 cái tên lửa,

every tolerance has to be incredibly tiny.

thì toàn bộ dung sai phải cực kỳ nhỏ.

Same is true in machine learning.

Tương tự như lúc cái máy học.

You have to get every single piece of the stack engineered properly,

Bạn phải đảm bảo từng mảnh kiến thức được lập trình chuẩn xác,

and then you can start doing these predictions.

thì sau đó nó mới có thể bắt đầu dự đoán

There are all these incredibly smooth scaling curves.

Chúng là thứ được sắp xếp theo 1 đường cong mịn màng.

Chúng cho bạn nhận thức cơ bản về trí tuệ.

They tell you something deeply fundamental about intelligence.

Nếu bạn đọc bài blog về GPT-4 của bọn tôi,

If you look at our GPT-4 blog post,

bạn có thể thấy những đường cong ấy.

you can see all of these curves in there.

And now we're starting to be able to predict.

Và giờ chúng tôi có thể bắt đầu dự đoán rồi đấy.

Chúng tôi có thể dự đoán, ví dụ, hiệu xuất các vấn đề về lập trình.

So we were able to predict, for example, the performance on coding problems.

We basically look at some models

Chúng tôi cũng có xem qua vài mô hình mẫu

that are 10,000 times or 1,000 times smaller.

có kích thước nhỏ hơn 10.000 hoặc 1.000 lần.

And so there's something about this that is actually smooth scaling,

Và quá trình của chúng tôi phần nào diễn ra khá mượt mà,

mặc dù tất cả vẫn còn khá sơ khai.

even though it's still early days.

CA: So here is, one of the big fears then,

CA: Vậy hóa ra, một trong những nỗi sợ lớn của anh,

that arises from this.

là từ đây mà ra.

If it’s fundamental to what’s happening here,

Nếu nó là nền tảng cho những gì đang diễn ra,

that as you scale up,

thì khi anh mở rộng quy mô,

things emerge that

nhiều vấn đề sẽ xảy ra

you can maybe predict in some level of confidence,

có lẽ anh đã dự đoán được phần nào với sự tự tin nhất định,

but it's capable of surprising you.

nhưng nó lại cứ thế khiến anh bất ngờ.

Why isn't there just a huge risk of something truly terrible emerging?

Sao anh không nghĩ là quá trình đó sẽ tạo tiền đề cho 1 thứ kinh khủng trỗi dậy?

GB: Well, I think all of these are questions of degree

À, tôi nghĩ vấn đề của những câu hỏi đó nằm ở trình độ

and scale and timing.

quy mô và thời gian.

Và tôi nghĩ mọi người đều bỏ lỡ một thứ

And I think one thing people miss, too,

is sort of the integration with the world is also this incredibly emergent,

phần nào đó sự cộng hưởng với thế giới cũng có thể xem là 1 thành công,

sort of, very powerful thing too.

và kiểu, nó cũng rất tối tân.

Và đó là một trong những lí do mà ta nghĩ là rất quan trọng để phát triển từ từ.

And so that's one of the reasons that we think it's so important

to deploy incrementally.

Và chắc ai cũng nhận ra, nếu bạn chú ý nãy giờ,

And so I think that what we kind of see right now, if you look at this talk,

tôi hay nhấn mạnh vào việc cung cấp phản hồi chất lượng cao.

a lot of what I focus on is providing really high-quality feedback.

Hiện tại, nghĩa vụ của bọn tôi là gì, bạn kiểm tra được mà, đúng chứ?

Today, the tasks that we do, you can inspect them, right?

Không khó khi nhìn vào 1 bài toán và kiểu không, không, không,

It's very easy to look at that math problem and be like, no, no, no,

này máy, câu trả lời đúng là bảy.

machine, seven was the correct answer.

Nhưng còn việc tóm tắt sách thì sao, kiểu, nó khó đánh giá lắm.

But even summarizing a book, like, that's a hard thing to supervise.

Kiểu, sao anh biết được bài tóm tắt đủ tốt?

Like, how do you know if this book summary is any good?

Anh phải đọc hết cuốn sách cơ.

You have to read the whole book.

Nhưng có ai muốn vậy đâu.

No one wants to do that.

(Cười)

(Laughter)

And so I think that the important thing will be that we take this step by step.

Vậy nên tôi nghĩ điều quan trọng là chúng ta cần từ từ thực hiện nó.

And that we say, OK, as we move on to book summaries,

Và từ đó, ta thấy Ok, thì mới nói tới tóm tắt sách được,

we have to supervise this task properly.

ta cần giám sát việc này cẩn thận.

We have to build up a track record with these machines

Ta cần phải lập hồ sơ theo dõi với những cái máy này,

that they're able to actually carry out our intent.

đảm bảo chúng triển khai tốt các dự định của ta.

And I think we're going to have to produce even better, more efficient,

Tôi tin rằng ta sẽ cơ cấu để khiến nó tốt hơn, hiệu quả hơn,

more reliable ways of scaling this,

đáng tin cậy hơn nhằm phát triển quy mô,

sort of like making the machine be aligned with you.

kiểu như tạo ra một cỗ máy được kết nối với con người.

CA: Lát nữa chúng ta sẽ được nghe,

CA: So we're going to hear later in this session,

về nhận định của những nhà phê bình,

there are critics who say that,

you know, there's no real understanding inside,

bạn biết không, cái máy thật ra chẳng hiểu gì cả,

the system is going to always --

hệ thống sẽ luôn luôn --

we're never going to know that it's not generating errors,

chúng ta không bao giờ biết rằng kiến thức của nó có sai lệch không,

that it doesn't have common sense and so forth.

rằng nó không có trực giác, v...v

Is it your belief, Greg, that it is true at any one moment,

Nhận định của anh thế nào, Greg, liệu điều đó có đúng ở 1 vài thời điểm,

but that the expansion of the scale and the human feedback

bởi việc mở rộng quy mô và cung cấp phản hồi từ con người

that you talked about is basically going to take it on that journey

mà anh đề cập là thứ sẽ đi theo xuyên suốt cả lộ trình

of actually getting to things like truth and wisdom and so forth,

nhằm hướng đến những phạm trù về sự thực và trí tuệ, v...v,

with a high degree of confidence.

với một sự tự tin nhất định.

Can you be sure of that?

Anh có dám chắc về nó không?

GB: Yeah, well, I think that the OpenAI, I mean, the short answer is yes,

GB: Có, tôi nghĩ OpenAI, ý tôi là, ngắn gọn là có đó,

I believe that is where we're headed.

tôi tin đó là cái chúng tôi hướng tới.

And I think that the OpenAI approach here has always been just like,

Và tôi nghĩ mục tiêu trước giờ của OpenAI vẫn luôn là vậy,

nó rành rành trước mặt anh luôn, đúng chứ?

let reality hit you in the face, right?

Kiểu lĩnh vực này vốn đầy rẫy những lời thất hứa

It's like this field is the field of broken promises,

với đầy những gã chuyên gia lúc thì nói X, lúc thì hứa Y.

of all these experts saying X is going to happen, Y is how it works.

Ai cũng nói mạng lưới thần kinh sẽ không hoạt động quá 70 năm.

People have been saying neural nets aren't going to work for 70 years.

Thật ra là nó chưa đúng.

They haven't been right yet.

Nó có thể sẽ đúng tầm 70 năm cộng 1

They might be right maybe 70 years plus one

hoặc đai loại vậy, đó là thứ bạn cần.

or something like that is what you need.

Nhưng mục tiêu của bọn tôi vẫn luôn là,

But I think that our approach has always been,

bạn phải đẩy thứ công nghệ này đến cực hạn

you've got to push to the limits of this technology

để thấy cách nó hoạt động,

bởi nó có thể nói cho bạn biết, ồ, hóa ra đây là cách để phát triển mô hình mới.

to really see it in action,

because that tells you then, oh, here's how we can move on to a new paradigm.

Và bọn tôi vẫn chưa khai thác hết tiềm năng đâu.

And we just haven't exhausted the fruit here.

CA: Ý tôi là, lập trường của anh đang gây tranh cãi,

CA: I mean, it's quite a controversial stance you've taken,

rằng ta phải phô bày mọi thứ với công chúng

that the right way to do this is to put it out there in public

and then harness all this, you know,

và sau đó khai thác tất cả,

thay vì chỉ có nhóm anh cho phản hồi thôi,

instead of just your team giving feedback,

the world is now giving feedback.

thì giờ cả thế giới sẽ cho phản hồi.

But ...

Nhưng ...

If, you know, bad things are going to emerge,

kiểu, anh biết mà, khi vấn đề xấu xảy đến,

it is out there.

thì là chuyện của chung rồi.

So, you know, the original story that I heard on OpenAI

Anh biết không, trước tôi cũng có nghe chuyện về OpenAI

lúc thành lập vốn là 1 cty phi lợi nhuận,

when you were founded as a nonprofit,

well you were there as the great sort of check on the big companies

anh ở đó và đóng vai trò là nhà kiểm định lên các công ty lớn

doing their unknown, possibly evil thing with AI.

làm những chuyện mờ ám, xấu xa liên quan tới AI.

And you were going to build models that sort of, you know,

Và anh sắp sửa tạo ra những mô hình kiểu, anh biết đó.

phần nào có khả năng tính toán

somehow held them accountable

and was capable of slowing the field down, if need be.

và đủ sức hạn chế cả lĩnh vực, nếu cần.

Or at least that's kind of what I heard.

Hoặc ít nhất đó là những gì tôi nghe được.

And yet, what's happened, arguably, is the opposite.

Để rồi, những gì xảy ra, đang chứng minh điều ngược lại

That your release of GPT, especially ChatGPT,

Khi anh công khai GPT, đặt biệt là ChatGPT,

nó đã gây chấn động lớn tới giới công nghệ

sent such shockwaves through the tech world

that now Google and Meta and so forth are all scrambling to catch up.

mà giờ đây Google, Meta và các cty khác đang chạy đua để bắt kịp.

And some of their criticisms have been,

Một số lời chỉ trích của họ là,

you are forcing us to put this out here without proper guardrails or we die.

Anh buộc ta phải công khai mà không có biện pháp đúng đắng, ta sẽ chết cho xem.

You know, how do you, like,

Anh biết đó, làm thế nào mà anh, kiểu,

make the case that what you have done is responsible here and not reckless.

chịu trách nhiệm và không phớt lờ trước những gì mà anh đã làm.

GB: Yeah, we think about these questions all the time.

GB: Vâng, đó là câu hỏi mà bọn tôi luôn trăn trở.

Like, seriously all the time.

Hầu như mọi lúc luôn ấy.

And I don't think we're always going to get it right.

Và tôi không nghĩ lúc nào chúng tôi cũng làm đúng.

But one thing I think has been incredibly important,

Nhưng có một điều tôi nghĩ là rất quan trọng,

from the very beginning, when we were thinking

lúc bắt đầu, bọn tôi nghĩ

việc phát triển trí tuệ nhân tạo tổng quát,

about how to build artificial general intelligence,

sẽ mang lại lợi ích cho toàn nhân loại,

actually have it benefit all of humanity,

nhưng, làm thế nào đây, vấn đề đấy?

like, how are you supposed to do that, right?

Và kế hoạch ban đầu là, phát triển nó trong bí mật,

And that default plan of being, well, you build in secret,

bạn có 1 thứ công nghệ tối tân,

you get this super powerful thing,

và khi cảm thấy mọi thứ an toàn thì bạn để nó “triển”,

and then you figure out the safety of it and then you push “go,”

và bạn mong là nó sẽ đúng.

and you hope you got it right.

Tôi cũng không biết triển khai ra sao nữa.

I don't know how to execute that plan.

Có thể ai đó sẽ biết.

Maybe someone else does.

Với tôi, điều đó không ổn, tôi thấy thế.

But for me, that was always terrifying, it didn't feel right.

Nên tôi nghĩ rằng cách tiếp cận khác này

And so I think that this alternative approach

là con đường duy nhất mà tôi thấy,

is the only other path that I see,

which is that you do let reality hit you in the face.

bạn sẽ để thực tế đập vào mặt mình.

And I think you do give people time to give input.

Và mọi người vẫn có thể đưa thông tin vào.

bạn có thể, trước khi những cỗ máy được hoàn thiện,

You do have, before these machines are perfect,

before they are super powerful, that you actually have the ability

trước khi chúng lớn mạnh, bạn vẫn có đủ khả năng

để thấy chúng vận hành.

to see them in action.

And we've seen it from GPT-3, right?

Và chúng ta đã thấy ở GPT-3 rồi ha?

GPT-3, chúng tôi e rằng

GPT-3, we really were afraid

that the number one thing people were going to do with it

điều duy nhất mọi người sẽ làm với nó sẽ là

tạo thông tin sai lệch, cố đề xuất nó lên.

was generate misinformation, try to tip elections.

Instead, the number one thing was generating Viagra spam.

Thay vì đẩy những mục đó vào spam như Viagra.

(Laughter)

(Cười)

CA: thư rác Viagram thì ghê đó, nhưng có cái còn kinh khủng hơn.

CA: So Viagra spam is bad, but there are things that are much worse.

Tôi có thí nghiệm này cho anh đây.

Here's a thought experiment for you.

Suppose you're sitting in a room,

Giả sử anh đang ngồi trong phòng,

there's a box on the table.

có một cái hộp trên bàn.

You believe that in that box is something that,

Anh tin là trong chiếc hộp có thứ gì đó,

there's a very strong chance it's something absolutely glorious

có khả năng rất cao nó là thứ gì đó rất thú vị

that's going to give beautiful gifts to your family and to everyone.

mà anh có thể dùng làm quà cho gia đình và mọi người.

But there's actually also a one percent thing in the small print there

Nhưng có 1% trong chiếc hộp đó sẽ là 1 mảnh giấy nhỏ

that says: “Pandora.”

ghi là: “Pandora.”

And there's a chance

Và có khả năng

that this actually could unleash unimaginable evils on the world.

nó thật sự có thể giải phóng những thứ xấu xa đến khó tin ra bên ngoài.

Do you open that box?

Anh có mở cái hộp không?

GB: Well, so, absolutely not.

GB: Ừ, thì, chắc là không.

I think you don't do it that way.

Tôi nghĩ chả ai làm thế cả.

Và thành thật mà nói, tôi sẽ kể anh nghe 1 câu chuyện bí mật,

And honestly, like, I'll tell you a story that I haven't actually told before,

rằng không lâu sau khi thành lập OpenAI,

which is that shortly after we started OpenAI,

I remember I was in Puerto Rico for an AI conference.

tôi lúc đó đang ở Puerto Rico để dự họp báo về AI

I'm sitting in the hotel room just looking out over this wonderful water,

Tôi đang ngồi trong phòng khách sạn nhìn ra phía đài phun nước

all these people having a good time.

còn mọi người thì đang vui vẻ.

Và anh hãy nghĩ mà xem,

And you think about it for a moment,

Nếu anh về cơ bản có thể lựa chọn cái hộp Pandora đó

if you could choose for basically that Pandora’s box

to be five years away

trong 5 năm tới

or 500 years away,

hoặc 500 năm tới,

which would you pick, right?

thì anh chọn cái nào?

On the one hand you're like, well, maybe for you personally,

Một mặt anh sẽ kiểu, ừm, có lẽ là theo anh,

it's better to have it be five years away.

thì chắc là chọn 5 năm sẽ ổn hơn.

But if it gets to be 500 years away and people get more time to get it right,

Nhưng nếu là 500 năm sau và con người có thêm thời gian để chỉnh sửa,

thì anh sẽ chọn cái nào?

which do you pick?

And you know, I just really felt it in the moment.

Anh biết không, tôi nhận thấy là trong khoảng khắc.

I was like, of course you do the 500 years.

Tôi kiểu, di nhiên là anh chọn 500 rồi.

My brother was in the military at the time

Anh trai của tôi hồi đấy ở trong quân đội

and like, he puts his life on the line in a much more real way

và kiểu, ảnh mạo hiểm mạng sống theo cách thiết thực hơn nhiều

than any of us typing things in computers

so với những người đang bấm máy

and developing this technology at the time.

và phát triển công nghệ như chúng ta vào lúc này.

And so, yeah, I'm really sold on the you've got to approach this right.

Nên là, dĩ nhiên, tôi khá vui vì cách tiếp cận của anh đã đúng

But I don't think that's quite playing the field as it truly lies.

Nhưng tôi không nghĩ đó là ý hay để triển khai cuộc chơi này.

Like, if you look at the whole history of computing,

Kiểu, nếu anh nhìn vào toàn bộ lịch sử của máy tính,

I really mean it when I say that this is an industry-wide

Tôi thật sự cho rằng đây là sự thay đổi với qui mô toàn ngành

or even just almost like

hoặc thậm chí hầu như là

a human-development- of-technology-wide shift.

toàn bộ sự phát triển công nghệ của loài người.

And the more that you sort of, don't put together the pieces

Và trong lúc sắp xếp, đừng chỉ cứ đặt từng mảnh có sẵn

that are there, right,

lại với nhau, đúng chứ,

we're still making faster computers,

Ta đang tạo những cái máy tính nhanh hơn,

we're still improving the algorithms, all of these things, they are happening.

ta đang phát triển các thuật toán, tất cả thứ đó, chúng đang xảy ra.

And if you don't put them together, you get an overhang,

Và nếu không ráp chúng lại, anh sẽ bị nhô,

Nghĩa là nếu có ai đó đến,

which means that if someone does,

hoặc lúc có ai đó xoay sở để kết nối với mạch,

or the moment that someone does manage to connect to the circuit,

rồi bạn bỗng có được 1 thứ cực kì tối tân.

then you suddenly have this very powerful thing,

không ai có thời gian điều chỉnh,

no one's had any time to adjust,

ai mà biết nó có được cảnh báo an toàn không cơ chứ.

who knows what kind of safety precautions you get.

And so I think that one thing I take away

Vậy nên, có 1 điều mà tôi rút ra được

is like, even you think about development of other sort of technologies,

đó là, mỗi khi bạn nghĩ về sức phát triển của 1 thứ công nghệ nào đó,

think about nuclear weapons,

hãy nghĩ tới vũ khí hạt nhân,

people talk about being like a zero to one,

Con người bảo đó là quá trình đi từ số 0 tới cực đại,

sort of, change in what humans could do.

mỗi khi đề cập tới sự phát triển.

But I actually think that if you look at capability,

Nhưng thật ra tôi nghĩ nếu ta nhìn vào tính khả thi,

it's been quite smooth over time.

nó luôn diễn ra rất mạch lạc.

And so the history, I think, of every technology we've developed

Ý tôi là nhìn vào lịch sử, về mọi công nghệ mà ta từng phát triển

has been, you've got to do it incrementally

nó luôn kiểu, bạn phải làm từng bước một

và bạn phải tìm ra cách xoay sở

and you've got to figure out how to manage it

mỗi lúc mà anh nâng tầm nó.

for each moment that you're increasing it.

CA: So what I'm hearing is that you ...

CA: Vậy anh đang nói là anh ...

the model you want us to have

cái khuôn mẫu mà anh đang mong đợi

is that we have birthed this extraordinary child

đó là ta đã sinh ra 1 đứa trẻ phi thường

that may have superpowers

rằng nó có siêu năng lực

that take humanity to a whole new place.

đủ để đưa loài người sang trang mới.

It is our collective responsibility to provide the guardrails

Đó là trách nhiệm của chúng ta nhằm tạo ra 1 rào chắn

for this child

cho đứa con này

to collectively teach it to be wise and not to tear us all down.

cùng nhau dạy nó sự rộng lượng để nó không phản lại ta.

Is that basically the model?

Đó là mô hình mà anh nói hả?

GB: I think it's true.

GB: Tôi nghĩ đúng vậy.

And I think it's also important to say this may shift, right?

Và điều quan trọng là nó có thể thay đổi, đúng chứ?

We've got to take each step as we encounter it.

Ta cần đi từng bước 1 khi phát hiện ra điều này.

And I think it's incredibly important today

Và tôi nghĩ điều quan trọng hôm nay

that we all do get literate in this technology,

đó là ta đều đọc viết dùng đến công nghệ này,

figure out how to provide the feedback,

tìm ra cách để cung cấp phản hồi,

biết được ta cần gì từ nó.

decide what we want from it.

And my hope is that that will continue to be the best path,

Và tôi cũng hy vọng nó sẽ vẫn là con đường tốt nhất,

mà thú thật tôi thấy khá vui khi có cuộc tranh luận này

but it's so good we're honestly having this debate

because we wouldn't otherwise if it weren't out there.

bởi nó giúp bọn tôi ngộ ra nhiều thứ hơn là ngồi 1 chỗ.

CA: Greg Brockman, thank you so much for coming to TED and blowing our minds.

CA: Greg Brockman, cảm ơn rất nhiều vì đã tham gia TED và thông não bọn tôi.

(Applause)

(Vỗ tay)