The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

Translator: Radif (RYS) Reviewer: Evarini Dairi

You've all experienced the progress of artificial intelligence.

Kalian pasti telah merasakan kemajuan kecerdasan buatan.

Many of you may have spoken with a computer,

Kalian mungkin sudah pernah berbicara dengan komputer,

and a computer understood you

dan komputer paham perkataan kalian.

and spoke back to you.

dan berbicara balik pada kalian.

With the rate of progress being that it is,

Dengan laju perkembangan seperti itu,

it's not difficult to imagine that at some point in the future,

tidak sulit membayangkan jika kelak di suatu saat,

our intelligent computers will become as smart or smarter than people.

komputer cerdas kita akan secerdas atau lebih cerdas dari manusia.

And it's also not difficult to imagine that when that happens,

Dan tidak sulit pula membayangkan jika hal itu terjadi,

the impact of such artificial intelligence

dampak dari kecerdasan buatan itu

is going to be truly, truly vast.

akan sangat luas.

And you may wonder:

Anda mungkin bertanya-tanya,

Is it going to be OK when technology is so impactful?

akankah tidak masalah saat teknologi dampaknya begitu besar?

And here my goal is to point out the existence of a force

Tujuan saya di sini untuk menunjukkan adanya kekuatan

that many of you may have not noticed,

yang mungkin banyak dari kalian tidak sadari,

that gives me hope that indeed,

yang memberi saya harapan jika itu benar,

we will be happy with the result.

kita akan senang dengan hasilnya.

So artificial intelligence.

Kecerdasan buatan.

What is it, and how does it work?

Apa itu, dan bagaimana cara kerjanya?

Well, it turns out that it's very easy to explain

Ternyata sangat mudah menjelaskan

how artificial intelligence works.

cara kerja kecerdasan buatan.

Just one sentence.

Cukup satu kalimat.

Artificial intelligence is nothing but digital brains

Kecerdasan buatan tak lain adalah otak digital

inside large computers.

di dalam komputer besar.

That's what artificial intelligence is.

Itulah kecerdasan buatan.

Every single interesting AI that you've seen

Setiap AI menarik yang pernah Anda lihat

is based on this idea.

didasarkan pada ide ini.

Over the decades,

Selama beberapa dekade,

scientists and engineers have been figuring out

para ilmuwan dan insinyur telah memikirkan

how such digital brains should work

bagaimana seharusnya otak digital itu bekerja

and how to build them, how to engineer them.

dan bagaimana membuatnya, bagaimana merekayasanya.

Now, I find it interesting

Menurut saya ini menarik,

that the seat of intelligence in human beings is our biological brain.

letak kecerdasan pada manusia ada di otak biologis kita.

It is fitting that the seat of intelligence

Maka sangat tepat dikatakan jika letak kecerdasan

in artificial intelligence

pada kecerdasan buatan

is an artificial brain.

ada di otak buatan.

Here, I'd like to take a digression and tell you about how I got into AI.

Izinkan saya keluar topik

dan menjelaskan bagaimana saya bisa menekuni AI.

There were three forces that pulled me into it.

Ada tiga hal yang menarik saya ke dalam AI.

The first one was that when I was a little child,

Yang pertama, saat saya masih kecil,

at around the age of five or six,

sekitar umur 5 atau 6 tahun,

I was very struck by my own conscious experience,

Saya terpukau atas pengalaman nyata yang saya alami sendiri,

by the fact that I am me and I am experiencing things.

menyadari siapa saya, dan saya mengalami banyak hal.

That when I look at things, I see them.

Saat menatap sesuatu, saya melihatnya.

Like, this feeling over time went away, though,

Perasaan ini lama-kelamaan hilang,

by simply mentioning it to you right now it comes back.

tetapi dengan menyebutkannya sekarang, perasaan itu kembali.

But this this feeling of ...

Namun, perasaan ini...

That I am me, that you are you,

Tentang saya adalah saya, Anda adalah Anda,

I found it very strange and very disturbing almost.

sangat aneh dan nyaris mengganggu.

And so when I learned about artificial intelligence,

Saat saya tahu tentang kecerdasan buatan,

I thought, wow, if we could build a computer

saya berpikir, jika kita bisa membuat komputer cerdas,

that is intelligent,

mungkin kita akan belajar sesuatu tentang diri kita,

maybe we will learn something about ourselves,

about our own consciousness.

tentang kesadaran kita.

That was my first motivation that pulled me towards AI.

Itulah motivasi pertama yang mendorong saya terjun ke dunia AI.

The second motivation was more pedestrian in a way.

Motivasi kedua lebih umum.

I was simply curious about how intelligence works.

Saya hanya ingin tahu cara kerja kecerdasan.

And when I was a teenager, an early teenager in the late '90s,

Saat saya masih remaja, tepatnya awal remaja di akhir 90-an,

the sense that I got is that science simply did not know

saya berkesimpulan jika ilmu pengetahuan tidak tahu

how intelligence worked.

bagaimana kecerdasan bekerja.

There was also a third reason,

Ada juga motivasi ketiga,

which is that it was clear to me back then

yang jelas pada saat itu

that artificial intelligence,

kecerdasan buatan,

if it worked, it would be incredibly impactful.

jika itu berhasil diwujudkan, dampaknya akan sangat besar.

Now, it wasn't at all obvious

Saat itu sama sekali belum jelas

that it will be possible to make progress in artificial intelligence,

apakah mungkin membuat kemajuan dalam kecerdasan buatan.

but if it were possible to make progress in artificial intelligence,

Namun, jika mungkin membuat kemajuan dalam kecerdasan buatan,

that would be incredibly impactful.

dampaknya akan sangat besar.

So these were the three reasons that pulled me towards AI.

Inilah tiga motivasi yang membuat saya terjun ke AI.

That's why I thought that's a great area to spend all my efforts on.

Yang membuat saya berpikir bidang itu bagus untuk ditekuni.

So now let's come back to our artificial intelligence,

Kembali ke kecerdasan buatan,

the digital brains.

otak digital.

Today, these digital brains

Saat ini, otak digital

are far less smart than our biological brains.

kecerdasannya masih jauh di bawah otak biologis kita.

When you speak to an AI chat bot,

Saat Anda berbicara pada chatbot AI,

you very quickly see that it's not all there,

Anda bisa langsung tahu bahwa ada yang kurang,

that it's, you know,

bahwa,

it understands mostly, sort of.

AI hanya paham sebagian besar

But you can clearly see that there are so many things it cannot do

Anda pasti bisa melihat ada banyak yang tidak bisa dilakukannya

and that there are some strange gaps.

dan ada celah yang janggal.

But this situation, I claim, is temporary.

Namun situasi ini, hanya sementara.

As researchers and engineers continue to work on AI,

Selagi peneliti dan insinyur terus mengembangkan AI,

the day will come when the digital brains that live inside our computers

akan tiba saatnya otak digital yang ada di dalam komputer

will become as good and even better than our own biological brains.

akan sama cerdasnya dan bahkan lebih cerdas

dari otak biologis kita.

Computers will become smarter than us.

Komputer akan menjadi lebih cerdas dari kita.

We call such an AI an “AGI,” artificial general intelligence.

Kami menyebut jenis AI itu sebagai “AGI,” kecerdasan umum buatan.

Saat AI telah pada tingkat di mana

When we can say that the level at which we can teach the AI to do anything

kita bisa mengajari AI untuk melakukan apa pun yang bisa kita lakukan.

that, for example, I can do, or someone else.

So although AGI does not exist today,

Meski AGI saat ini belum ada,

we can still gain a little bit of an insight

kita masih bisa memperoleh sedikit gambaran

into the impact of AGI once it's built.

tentang dampak AGI setelah dikembangkan.

It is completely obvious

Sangat jelas

that such an AGI will have a dramatic impact

jika AGI akan berdampak besar

on every area of life, of human activity and society.

pada tiap bidang kehidupan, aktivitas manusia dan masyarakat.

And I want to go over a quick case study.

Saya ingin membahas sebuah studi kasus singkat.

This is a narrow example of a very, very broad technology.

Ini adalah contoh kecil dari teknologi yang sangat luas.

The example I want to present is health care.

Saya ambil contoh, pelayanan kesehatan.

Many of you may have had the experience of trying to go to a doctor.

Anda mungkin pernah punya pengalaman pergi ke dokter.

You need to wait for many months sometimes,

Anda kadang harus menunggu berbulan-bulan,

and then when you do get to see a doctor, you get a small,

dan saat bertemu dokter, Anda hanya punya

very limited amount of time with the doctor

waktu konsultasi yang sangat sebentar.

and furthermore, the doctor, being only human,

Selain itu, dokter adalah manusia,

can have only limited knowledge of all this,

yang punya keterbatasan pengetahuan,

all the medical knowledge that exists.

dari semua pengetahuan medis yang ada.

And then by the end of it, you get a very large bill.

Namun akhirnya, tagihan Anda sangat mahal.

(Laughter)

(Suara tawa)

Well, if you have an intelligent computer, an AGI, that is built to be a doctor,

Jika Anda punya komputer cerdas, AGI, yang dibuat untuk menjadi dokter,

it will have complete and exhaustive knowledge of all medical literature.

ia akan punya pengetahuan lengkap dan luas dari semua literatur medis.

It will have billions of hours of clinical experience,

Ia akan punya miliaran jam pengalaman klinis,

and it will be always available and extremely cheap.

selalu siap sedia dan luar biasa murah.

When this happens,

Saat ini terwujud,

we will look back at today's health care

kita akan melihat kembali pada layanan kesehatan saat ini,

similarly to how we look at 16th century dentistry.

yang mirip saat kita melihat kedokteran gigi abad ke-16.

(Laughter)

(Suara tawa)

You know, when they tied people with belts and then have this drill,

Ketika mereka mengikat orang dengan sabuk dan menggunakan bor seperti ini,

that's how today's health care will look like.

seperti itulah layanan kesehatan saat ini.

And again, to emphasize, this is just one example.

Sekali lagi saya tekankan, ini hanya satu contoh.

This is just one example.

Ini hanya satu contoh.

AGI will have dramatic and incredible impact

AGI akan punya dampak besar dan luar biasa

on every single area of human activity.

di setiap bidang aktivitas manusia.

But when you see impact this large, you may wonder, "Gosh,

Namun, saat Anda tahu dampaknya sebesar ini,

Anda mungkin bertanya-tanya,

“Astaga, tidakkah teknologi ini dampaknya terlalu besar?”

isn't this technology too impactful?"

And indeed, for every positive application of AGI,

Dan benar, untuk setiap penerapan positif AGI,

there will be a negative application as well.

akan ada sisi negatifnya juga.

This technology is also going to be different

Teknologi ini juga akan berbeda

from technologies that we are used to,

dari teknologi yang telah ada,

because it will have the ability to improve itself.

karena ia akan punya kemampuan meningkatkan dirinya sendiri.

It is possible to build an AGI

Ada kemungkinan membangun AGI

that will work on the next generation of AGI.

akan mengembangkan generasi AGI berikutnya.

The closest analogue we have to this kind of rapid technological improvement

Analogi terdekat dengan peningkatan teknologi

yang berkembang pesat ini

is when the Industrial Revolution has taken place, where humans,

adalah saat Revolusi Industri terjadi, di mana manusia,

the material condition of human society, was very, very constant.

kondisi ekonomi masyarakat bersifat sangat konstan,

And then it was a rapid increase, rapid growth.

lalu terjadi peningkatan pesat, pertumbuhan luar biasa.

With AGI,

Dengan AGI,

something like this could happen again, but on a shorter timescale.

hal ini bisa terjadi lagi, tetapi pada skala waktu yang lebih pendek.

And then furthermore,

Selain itu,

there are concerns around

ada kekhawatiran

if an AGI ever becomes very, very powerful,

bagaimana jika AGI menjadi sangat kuat,

which is possible,

itu mungkin saja,

maybe it will want to go rogue being that it is an agent.

mungkin AGI akan menjadi jahat karena punya kehendak sendiri.

So this is a concern that exists with this unprecedented,

Jadi, inilah kekhawatiran tentang teknologi

not yet existing technology.

yang belum pernah ada sebelumnya ini.

And indeed,

Dan benar,

you look at all the positive potential of AGI

Anda melihat semua potensi positif AGI

and all the concerning possibilities of AGI as well,

dan semua kemungkinan yang mengkhawatirkan,

and you may say, "Gosh, where is this all headed?"

Anda mungkin bertanya, “Astaga, kemana arah semua ini?”

One of my motivations in creating OpenAI was,

Salah satu motivasi saya menciptakan OpenAI adalah,

in addition to developing this technology,

selain untuk mengembangkan teknologi ini,

was also to address the questions

juga untuk menjawab pertanyaan

that are posed by AGI, the difficult questions,

yang muncul karena AGI, pertanyaan sulit,

the concerns that we raised.

kekhawatiran yang kami ajukan.

In addition to working with governments

Selain bekerja dengan pemerintah

and helping them understand what is coming and prepare for it,

dan membantu mereka memahami apa yang akan datang dan mempersiapkannya,

we are also doing a lot of research

kami juga melakukan banyak penelitian

on addressing the technological side of things,

untuk mengatasi sisi teknologinya,

so that the AI will never want to go rogue.

agar AI tidak menjadi jahat.

And this is something which I’m working on as well.

Ini juga yang sedang saya kerjakan.

But I think, the thing to note,

Namun, hal yang perlu dicatat,

because AI and AGI is really the only area of the economy

karena AI dan AGI adalah satu-satunya bidang di perekonomian

where there is a lot of excitement, a lot of investment,

di mana ada banyak antusiasme, investasi,

everyone is working on it,

semua orang mengerjakannya.

there's a huge number of labs in the world trying to build the same thing.

Ada banyak laboratorium di dunia yang berusaha membuat hal yang sama.

Even if OpenAI takes these desirable steps that I mentioned,

Meski OpenAI mengambil langkah semestinya seperti yang tadi disebutkan,

what about the rest of the companies and the rest of the world?

bagaimana dengan perusahaan lain dan seluruh dunia?

And this is where I want to make my observation

KIni saatnya memaparkan pengamatan saya

about the force that exists.

tentang kekuatan yang ada.

The observation is this: consider the world one year ago,

Berikut pengamatannya: bayangkan dunia setahun lalu,

as recently as one year ago.

tepat setahun lalu.

People weren't really talking about AI, not in the same way at all.

Orang-orang tidak banyak membahas AI, sama sekali berbeda.

What happened?

Apa yang terjadi?

We all experienced what it's like to talk to a computer and to be understood.

Kita mengalami rasanya berbicara dengan komputer dan dipahaminya.

The idea that computers will become really intelligent

Gagasan jika komputer akan menjadi sangat cerdas

and eventually more intelligent than us is becoming widespread.

dan akhirnya lebih cerdas dari kita menjadi tersebar luas.

It used to be a niche idea that only a few enthusiasts

Dulunya, hal ini hanyalah ide ceruk pasar yang terpikirkan oleh segelintir penyuka

and hobbyists and people who were very into AI were thinking about.

dan penggemar, serta orang-orang yang mendalami AI.

But now everyone is thinking about it.

Kini, semua orang memikirkannya.

And as the AI continues to make progress,

Karena AI terus mengalami kemajuan,

as technology continues to advance,

dengan teknologi yang makin canggih,

as more and more people see what AI can do

dengan makin banyak orang yang melihat apa yang AI bisa lakukan

and where it is headed towards,

dan ke mana arah perkembangannya,

then it will become clear just how dramatic,

maka ini jelas sangat dramatis,

incredible and ...

luar biasa, dan...

almost fantastical AGI is going to be

nyaris fantastis, bagaimana jadinya AGI nanti

and how much trepidation is appropriate.

dan sejauh mana kekhawatiran itu.

Hal yang saya yakin akan terjadi adalah orang-orang akan mulai bertindak

And what I claim will happen is that people will start to act

in unprecedentedly collaborative way out of their own self-interest.

secara kolaboratif dan belum pernah terjadi sebelumnya

di atas kepentingan pribadi mereka sendiri.

It's already happening right now.

Ini sudah terjadi sekarang.

You see the leading AGI companies starting to collaborate

Perusahaan-perusahaan AGI terkemuka sudah mulai berkolaborasi,

for a specific example, through the Frontier Model Forum.

contoh spesifik, melalui Frontier Model Forum.

And we will expect that companies that are competitors

Kami mengharapkan perusahaan-perusahaan kompetitor

will share technical information to make their AIs safe.

akan berbagi informasi teknis agar AI mereka aman.

Bahkan pemerintah juga mungkin melakukannya.

We may even see governments do this.

For another example,

Contoh lain,

at OpenAI, we really believed in how dramatic AGI is going to be.

di OpenAI, kami memercayai betapa dramatisnya AGI nantinya.

So one of the ideas that we were operating by,

Salah satu ide yang akan kami pakai,

and it's been written on our website for five years now,

dan itu sudah lima tahun tertulis di situs web kami,

that when technology gets such that we are very, very close to AGI,

saat teknologi telah sangat dekat dengan AGI,

to computers smarter than humans,

komputer yang lebih cerdas dari manusia,

and if some other company is far ahead of us,

dan jika ada perusahaan yang jauh lebih maju dari kami,

then rather than compete with them,

daripada menyaingi mereka,

we will help them out, join them, in a sense.

kami akan membantu dan bergabung dengan mereka.

And why do that?

Mengapa melakukan itu?

Because we feel, we appreciate

Karena kami menghargai

how incredibly dramatic AGI is going to be.

betapa dramatis AGI kelak.

And my claim is that with each generation of capability advancements,

Saya yakin setiap generasi akan mengalami peningkatan kemampuan,

as AI gets better

karena AI menjadi lebih baik

and as all of you experience what AI can do,

kalian akan merasakan apa yang bisa dilakukan AI,

as people who run AI efforts and AGI efforts

orang-orang yang menangani pengembangan AI dan AGI,

and people who work on them will experience it as well,

serta orang-orang yang bekerja di dalamnya juga akan merasakannya,

this will change the way we see AI and AGI,

ini akan mengubah cara pandang kita terhadap AI dan AGI,

and that will change collective behavior.

dan akan mengubah perilaku kolektif.

And this is an important reason

Inilah alasan pentingnya

why I'm hopeful

mengapa saya optimis

that despite the great challenges that's posed by this technology,

meski ada tantangan besar dari teknologi ini,

we will overcome them.

kita pasti akan mengatasinya.

Thank you.

Terima kasih.

(Tepuk tangan)

(Applause)