What Is an AI Anyway? | Mustafa Suleyman | TED

Translator: Windia Priscilla Reviewer: Reno Kanti Riananda

I want to tell you what I see coming.

Saya ingin memberi tahu Anda sesuatu yang menurut saya akan terjadi.

I've been lucky enough to be working on AI for almost 15 years now.

Saya cukup beruntung bekerja di bidang AI selama hampir 15 tahun sampai saat ini.

Back when I started, to describe it as fringe would be an understatement.

Dulu, saat saya baru mulai,

menggambarkannya sebagai ‘tabu’ adalah pernyataan yang meremehkan.

Researchers would say, “No, no, we’re only working on machine learning.”

Para peneliti akan bilang,

“Tidak, kami hanya mengerjakan pembelajaran mesin.“

Because working on AI was seen as way too out there.

Karena mengerjakan AI dipandang terlalu futuristik.

In 2010, just the very mention of the phrase “AGI,”

Pada tahun 2010, hanya dengan menyebutkan frasa “AGI”,

artificial general intelligence,

kecerdasan umum buatan,

would get you some seriously strange looks

akan membuat Anda terlihat sangat aneh

and even a cold shoulder.

dan bahkan dijauhi.

"You're actually building AGI?" people would say.

Orang akan berkata, “Kamu benar-benar membangun AGI?”

"Isn't that something out of science fiction?"

“Bukankah itu fiksi ilmiah?”

People thought it was 50 years away or 100 years away,

Orang-orang mengira itu masih 50 atau 100 tahun lagi,

if it was even possible at all.

itu pun jika memungkinkan.

Talk of AI was, I guess, kind of embarrassing.

Berbicara tentang AI terasa agak memalukan.

People generally thought we were weird.

Orang-orang umumnya berpikir kami aneh.

Saya rasa, dalam beberapa hal, kami memang aneh.

And I guess in some ways we kind of were.

It wasn't long, though, before AI started beating humans

Namun, tidak lama kemudian AI mulai mengalahkan manusia

at a whole range of tasks

dalam berbagai kegiatan

that people previously thought were way out of reach.

yang sebelumnya orang pikir jauh dari mungkin.

Understanding images,

Memahami gambar,

translating languages,

menerjemahkan bahasa,

transcribing speech,

menyalin ucapan,

playing Go and chess

bermain Go dan catur,

and even diagnosing diseases.

bahkan mendiagnosis penyakit.

People started waking up to the fact

Orang-orang mulai menyadari fakta

that AI was going to have an enormous impact,

bahwa AI akan memiliki dampak yang sangat besar,

and they were rightly asking technologists like me

dan mereka sewajarnya bertanya

pada teknologis seperti saya,

some pretty tough questions.

pertanyaan yang cukup sulit.

Is it true that AI is going to solve the climate crisis?

“Benarkah AI akan menyelesaikan krisis iklim?”

“Apakah AI akan membuat pembelajaran individu

Will it make personalized education available to everyone?

tersedia bagi semua orang?”

Does it mean we'll all get universal basic income

“Apakah kita akan mendapat penghasilan dasar universal

and we won't have to work anymore?

dan tidak perlu bekerja lagi?”

Should I be afraid?

“Haruskah aku takut?”

What does it mean for weapons and war?

“Apa artinya AI bagi senjata dan perang?”

And of course, will China win?

Dan tentu saja,

“Akankah China menang?”

Are we in a race?

“Apakah kita sedang berlomba?”

Are we headed for a mass misinformation apocalypse?

“Apakah kita menuju kiamat misinformasi massal?”

All good questions.

Semua pertanyaan bagus.

But it was actually a simpler

Namun, pertanyaan yang lebih sederhana

and much more kind of fundamental question that left me puzzled.

dan jauh lebih mendasarlah yang membuat saya bertanya-tanya.

One that actually gets to the very heart of my work every day.

Pertanyaan yang benar-benar saya pikirkan setiap hari saya bekerja.

One morning over breakfast,

Suatu pagi saat sarapan,

my six-year-old nephew Caspian was playing with Pi,

keponakan saya yang berusia enam tahun, Caspian, sedang bermain dengan Pi,

the AI I created at my last company, Inflection.

AI yang saya buat di perusahaan terakhir saya, Inflection.

With a mouthful of scrambled eggs,

Dengan mulut penuh telur orak-arik,

he looked at me plain in the face and said,

dia menatap wajah saya dan berkata,

"But Mustafa, what is an AI anyway?"

“Tapi Mustafa, apa itu AI?”

He's such a sincere and curious and optimistic little guy.

Dia adalah pria kecil yang tulus, penasaran, dan optimis.

He'd been talking to Pi about how cool it would be if one day in the future,

Dia telah berbicara dengan Pi tentang betapa kerennya

jika suatu hari di masa depan,

he could visit dinosaurs at the zoo.

dia bisa mengunjungi dinosaurus di kebun binatang.

And how he could make infinite amounts of chocolate at home.

Juga bagaimana dia bisa membuat cokelat dalam jumlah tak terbatas di rumah.

And why Pi couldn’t yet play I Spy.

Juga mengapa Pi belum bisa memainkan “I Spy”.

"Well," I said, "it's a clever piece of software

“Yah,” kataku, “ini adalah perangkat lunak pintar

yang membaca sebagian besar teks di internet terbuka,

that's read most of the text on the open internet,

and it can talk to you about anything you want."

dan dapat berbicara denganmu tentang apa pun yang kamu inginkan.”

"Right.

“Baiklah.

So like a person then?"

Jadi, seperti manusia?”

I was stumped.

Saya bingung.

Genuinely left scratching my head.

Bingung hingga menggaruk-garuk kepala.

All my boring stock answers came rushing through my mind.

Semua stok jawaban yang membosankan menyerbu benak saya.

"No, but AI is just another general-purpose technology,

“Tidak, tapi AI hanyalah teknologi umum lainnya,

like printing or steam."

seperti mesin pencetakan atau uap.”

It will be a tool that will augment us

Ini akan menjadi alat yang melengkapi kita

and make us smarter and more productive.

dan membuat kita lebih pintar dan lebih produktif.

And when it gets better over time,

Lalu, ketika AI makin sempurna seiring waktu,

it'll be like an all-knowing oracle

AI akan menjadi seperti peramal serba tahu

that will help us solve grand scientific challenges."

yang akan membantu memecahkan tantangan ilmiah besar.”

You know, all of these responses started to feel, I guess,

Anda tahu, semua jawaban ini mulai terasa sedikit defensif.

a little bit defensive.

Sebenarnya lebih cocok untuk seminar kebijakan

And actually better suited to a policy seminar

than breakfast with a no-nonsense six-year-old.

daripada untuk sarapan dengan anak enam tahun yang polos.

"Why am I hesitating?" I thought to myself.

“Kenapa saya ragu-ragu?” tanya saya pada diri sendiri.

You know, let's be honest.

Mari mencoba untuk jujur.

My nephew was asking me a simple question

Keponakan saya menanyakan pertanyaan sederhana

that those of us in AI just don't confront often enough.

yang bagi pekerja di sektor AI amat jarang ditemui.

What is it that we are actually creating?

Apa yang sebenarnya kita ciptakan?

What does it mean to make something totally new,

Apa artinya membuat sesuatu yang sama sekali baru,

fundamentally different to any invention that we have known before?

yang secara fundamental berbeda dari penemuan yang pernah ada sebelumnya?

It is clear that we are at an inflection point

Jelas bahwa kita berada pada titik perubahan

in the history of humanity.

dalam sejarah umat manusia.

On our current trajectory,

Pada perkembangan kita saat ini,

we're headed towards the emergence of something

kita menuju pada kemunculan sesuatu

that we are all struggling to describe,

yang sulit untuk digambarkan,

and yet we cannot control what we don't understand.

dan kita tidak dapat mengendalikan apa yang tidak kita pahami.

And so the metaphors,

Jadi metafora,

the mental models,

model mental, nama,

the names, these all matter

semua ini penting

jika kita ingin memanfaatkan AI secara maksimal

if we’re to get the most out of AI whilst limiting its potential downsides.

sambil membatasi potensi kerugiannya.

As someone who embraces the possibilities of this technology,

Sebagai seseorang yang merangkul potensi teknologi ini,

but who's also always cared deeply about its ethics,

tetapi yang juga selalu sangat peduli dengan etikanya,

we should, I think,

menurut saya, kita harus bisa

be able to easily describe what it is we are building.

dengan mudah menggambarkan apa yang sedang kita bangun.

And that includes the six-year-olds.

Termasuk ke anak berusia enam tahun.

So it's in that spirit that I offer up today the following metaphor

Jadi, dengan semangat itulah saya mengajukan sebuah metafora hari ini

for helping us to try to grapple with what this moment really is.

untuk membantu kita memahami momen ini dengan baik.

I think AI should best be understood

Saya pikir AI sebaiknya dipahami

as something like a new digital species.

sebagai semacam spesies digital baru.

Now, don't take this too literally,

Jangan mengartikan ini secara harfiah,

but I predict that we'll come to see them as digital companions,

tetapi saya memperkirakan bahwa kita akhirnya melihatnya sebagai teman digital,

new partners in the journeys of all our lives.

rekan baru dalam perjalanan sepanjang hidup kita semua.

Whether you think we’re on a 10-, 20- or 30-year path here,

Terlepas dari apakah ini untuk 10, 20, atau 30 tahun lagi,

this is, in my view, the most accurate and most fundamentally honest way

dalam pandangan saya, hal ini cara paling akurat dan jujur

of describing what's actually coming.

untuk menggambarkan apa yang sebenarnya akan terjadi.

And above all, it enables everybody to prepare for

Yang terpenting, hal ini memungkinkan semua orang untuk mempersiapkan

and shape what comes next.

dan membayangkan apa yang akan terjadi selanjutnya.

Now I totally get, this is a strong claim,

Saya amat sadar bahwa ini klaim yang berani,

and I'm going to explain to everyone as best I can why I'm making it.

dan saya akan menjelaskan kepada semua orang

alasan saya membuatnya.

But first, let me just try to set the context.

Namun pertama-tama, izinkan saya menjelaskan konteksnya.

From the very first microscopic organisms,

Sejak organisme mikroskopis pertama,

life on Earth stretches back billions of years.

kehidupan di bumi membentang miliaran tahun yang lalu.

Over that time, life evolved and diversified.

Selama waktu itu, kehidupan berkembang dan beragam.

Then a few million years ago, something began to shift.

Kemudian, beberapa juta tahun yang lalu, sesuatu mulai berubah.

After countless cycles of growth and adaptation,

Setelah siklus pertumbuhan dan adaptasi yang tak terhitung jumlahnya,

one of life’s branches began using tools, and that branch grew into us.

satu cabang kehidupan mulai menggunakan alat, dan cabang itu tumbuh menjadi kita.

We went on to produce a mesmerizing variety of tools,

Kita terus memproduksi berbagai alat yang menakjubkan,

at first slowly and then with astonishing speed,

pada awalnya perlahan dan kemudian dengan kecepatan yang luar biasa,

we went from stone axes and fire

kita beralih dari kapak batu dan api

to language, writing and eventually industrial technologies.

ke bahasa, tulisan, dan akhirnya teknologi industri.

One invention unleashed a thousand more.

Satu penemuan menciptakan seribu lainnya.

And in time, we became homo technologicus.

Dan pada waktunya, kita menjadi homo technologicus.

Around 80 years ago,

Sekitar 80 tahun yang lalu,

another new branch of technology began.

cabang teknologi baru lainnya dimulai.

With the invention of computers,

Dengan penemuan komputer,

we quickly jumped from the first mainframes and transistors

kita dengan cepat melompat dari mainframe dan transistor pertama

to today's smartphones and virtual-reality headsets.

ke ponsel pintar dan perangkat jemala realitas virtual.

Information, knowledge, communication, computation.

Informasi, pengetahuan, komunikasi, komputasi.

In this revolution,

Dalam revolusi ini,

creation has exploded like never before.

penciptaan telah melejit jauh dari yang pernah terjadi.

And now a new wave is upon us.

Lalu sekarang, gelombang baru telah tiba.

Artificial intelligence.

Kecerdasan buatan.

These waves of history are clearly speeding up,

Gelombang sejarah ini jelas semakin cepat,

as each one is amplified and accelerated by the last.

karena masing-masing diperkuat dan dipercepat oleh yang terakhir.

Jika Anda lihat ke belakang pun,

And if you look back,

it's clear that we are in the fastest

jelas bahwa kita berada di gelombang tercepat

and most consequential wave ever.

dan paling berpengaruh yang pernah ada.

The journeys of humanity and technology are now deeply intertwined.

Perjalanan kemanusiaan dan teknologi sekarang tidak dapat dipisahkan.

In just 18 months,

Hanya dalam 18 bulan,

over a billion people have used large language models.

lebih dari satu miliar orang telah menggunakan model bahasa besar.

We've witnessed one landmark event after another.

Kita telah menyaksikan satu demi satu peristiwa penting terjadi.

Just a few years ago, people said that AI would never be creative.

Beberapa tahun yang lalu, orang mengatakan bahwa AI tidak akan pernah kreatif.

And yet AI now feels like an endless river of creativity,

Namun, AI sekarang menjadi sungai kreativitas yang tak ada habisnya,

making poetry and images and music and video that stretch the imagination.

membuat puisi dan gambar serta musik dan video penuh imajinasi.

People said it would never be empathetic.

Orang-orang mengatakan AI tidak akan pernah berempati.

And yet today, millions of people enjoy meaningful conversations with AIs,

Namun hari ini, jutaan orang menikmati percakapan yang bermakna dengan AI,

talking about their hopes and dreams

berbicara tentang harapan dan impian mereka

and helping them work through difficult emotional challenges.

dan membantu mereka mengatasi masalah emosional yang sulit.

AIs can now drive cars,

AI sekarang dapat mengendarai mobil,

manage energy grids

mengelola jaringan energi

and even invent new molecules.

dan bahkan menemukan molekul baru.

Just a few years ago, each of these was impossible.

Hanya beberapa tahun lalu, hal-hal itu tidak mungkin.

And all of this is turbocharged by spiraling exponentials of data

Dan semua ini sangat didukung oleh ledakan eksponensial dari data

and computation.

dan komputasi.

Last year, Inflection 2.5, our last model,

Tahun lalu, Inflection 2.5, model terakhir kami,

used five billion times more computation

menggunakan komputasi lima miliar kali lebih banyak

than the DeepMind AI that beat the old-school Atari games

daripada AI DeepMind yang mengalahkan gim Atari jadul

just over 10 years ago.

lebih dari 10 tahun yang lalu.

That's nine orders of magnitude more computation.

Itu komputasi sembilan kali lipat lebih banyak.

10x per year,

Sebanyak 10 kali per tahun,

every year for almost a decade.

setiap tahun, selama hampir satu dekade.

Over the same time, the size of these models has grown

Selama waktu yang sama, ukuran model ini telah tumbuh

from first tens of millions of parameters to then billions of parameters,

dari puluhan juta parameter pertama menjadi miliaran parameter,

and very soon, tens of trillions of parameters.

dan segera, puluhan triliun parameter.

If someone did nothing but read 24 hours a day for their entire life,

Jika seseorang tidak melakukan apa pun selain membaca

selama 24 jam sehari sepanjang hidup mereka,

they'd consume eight billion words.

mereka akan membaca delapan miliar kata.

And of course, that's a lot of words.

Tentu saja, itu jumlah yang banyak.

But today, the most advanced AIs consume more than eight trillion words

Tetapi hari ini, AI paling canggih mencerna lebih dari delapan triliun kata

in a single month of training.

dalam satu bulan pelatihan.

And all of this is set to continue.

Dan semua ini diatur untuk berkelanjutan.

The long arc of technological history is now in an extraordinary new phase.

Perjalanan sejarah teknologi saat ini berada dalam fase baru yang luar biasa.

So what does this mean in practice?

Jadi, apa artinya?

Well, just as the internet gave us the browser

Nah, sama seperti internet memberi kita peramban

and the smartphone gave us apps,

dan ponsel pintar memberi kita aplikasi,

the cloud-based supercomputer is ushering in a new era

superkomputer berbasis cloud mengantarkan era baru

of ubiquitous AIs.

dengan menjamurnya AI.

Everything will soon be represented by a conversational interface.

Semuanya akan segera diwakili oleh antarmuka percakapan.

Or, to put it another way, a personal AI.

Atau, dengan kata lain, AI pribadi.

And these AIs will be infinitely knowledgeable,

Dan AI ini akan memiliki pengetahuan yang tak terbatas,

and soon they'll be factually accurate and reliable.

dan segera mereka akan akurat dan dapat diandalkan secara faktual.

They'll have near-perfect IQ.

Mereka akan memiliki IQ hampir sempurna.

They’ll also have exceptional EQ.

Mereka juga akan memiliki EQ yang luar biasa.

They’ll be kind, supportive, empathetic.

Mereka akan baik, mendukung, berempati.

These elements on their own would be transformational.

Elemen-elemen ini sendiri akan menjadi transformasional.

Just imagine if everybody had a personalized tutor in their pocket

Bayangkan saja jika setiap orang memiliki tutor pribadi di saku mereka

and access to low-cost medical advice.

dan akses ke informasi medis yang murah.

A lawyer and a doctor,

Seorang pengacara dan dokter,

a business strategist and coach --

ahli strategi bisnis dan pelatih--

all in your pocket 24 hours a day.

semua di saku Anda 24 jam sehari.

But things really start to change when they develop what I call AQ,

Tapi semua benar-benar mulai berubah ketika mereka mengembangkan

apa yang saya sebut AQ,

their “actions quotient.”

kemampuan eksekusi (actions quotient) mereka.

This is their ability to actually get stuff done

Ini adalah kemampuan mereka untuk menyelesaikan sesuatu

in the digital and physical world.

di dunia digital dan fisik.

And before long, it won't just be people that have AIs.

Dan tak lama kemudian, bukan hanya orang yang memiliki AI.

Strange as it may sound, every organization,

Walau aneh kedengarannya, setiap organisasi,

from small business to nonprofit to national government,

dari bisnis kecil hingga nirlaba hingga pemerintah nasional,

each will have their own.

masing-masing akan memiliki AI sendiri.

Every town, building and object

Setiap kota, bangunan, dan objek

will be represented by a unique interactive persona.

akan diwakili oleh persona interaktif yang unik.

And these won't just be mechanistic assistants.

Dan ini bukan hanya asisten mekanis.

They'll be companions, confidants,

Mereka akan menjadi rekan, orang kepercayaan,

colleagues, friends and partners,

kolega, teman dan mitra,

as varied and unique as we all are.

beragam dan unik seperti kita semua.

At this point, AIs will convincingly imitate humans at most tasks.

Pada titik ini, AI akan secara meyakinkan meniru manusia di sebagian besar tugas.

And we'll feel this at the most intimate of scales.

Dan kita akan merasakan ini pada skala yang paling intim.

An AI organizing a community get-together for an elderly neighbor.

AI yang mengorganisir kumpul-kumpul komunitas untuk tetangga lansia.

A sympathetic expert helping you make sense of a difficult diagnosis.

Seorang ahli simpatik yang membantu Anda memahami diagnosis yang sulit.

But we'll also feel it at the largest scales.

Tapi kita juga akan merasakannya pada skala terbesar.

Accelerating scientific discovery,

Mempercepat penemuan ilmiah,

autonomous cars on the roads,

mobil otonom di jalan,

drones in the skies.

drone di langit.

They'll both order the takeout and run the power station.

Mereka akan memesan makanan dan juga menjalankan pembangkit listrik.

They’ll interact with us and, of course, with each other.

Mereka akan berinteraksi dengan kita dan, tentu saja, dengan satu sama lain.

They'll speak every language,

Mereka berbicara dalam berbagai bahasa,

take in every pattern of sensor data,

mengambil setiap pola data sensor,

sights, sounds,

pemandangan, suara,

streams and streams of information,

aliran-aliran informasi,

far surpassing what any one of us could consume in a thousand lifetimes.

jauh melampaui apa yang dapat kita cerna dalam seribu kehidupan.

So what is this?

Jadi apa ini?

What are these AIs?

Apa AI ini?

If we are to prioritize safety above all else,

Jika kita ingin memprioritaskan keselamatan di atas segalanya,

to ensure that this new wave always serves and amplifies humanity,

untuk memastikan bahwa gelombang baru ini selalu melayani dan memperkuat manusia,

then we need to find the right metaphors for what this might become.

maka kita perlu menemukan metafora tepat untuk apa yang mungkin terjadi.

For years, we in the AI community, and I specifically,

Selama bertahun-tahun, kami komunitas AI, dan saya khususnya,

have had a tendency to refer to this as just tools.

memiliki kecenderungan untuk menyebut ini hanya sebagai alat.

Tapi itu tidak benar-benar menggambarkan apa yang sebenarnya terjadi di sini.

But that doesn't really capture what's actually happening here.

AIs are clearly more dynamic,

AI jelas lebih dinamis,

more ambiguous, more integrated

lebih ambigu, lebih terintegrasi

and more emergent than mere tools,

dan lebih hidup daripada alat belaka,

which are entirely subject to human control.

yang sepenuhnya tunduk pada kendali manusia.

So to contain this wave,

Jadi untuk merangkum gelombang ini,

to put human agency at its center

untuk menempatkan manusia di pusatnya

and to mitigate the inevitable unintended consequences

dan untuk mengurangi konsekuensi tak terhindarkan

that are likely to arise,

yang tidak diinginkan yang mungkin timbul,

we should start to think about them as we might a new kind of digital species.

kita harus mulai memikirkannya seperti kita pikirkan jenis spesies digital baru.

Now it's just an analogy,

Sekarang ini hanya analogi,

it's not a literal description, and it's not perfect.

itu bukan deskripsi literal, dan ini tidak sempurna.

For a start, they clearly aren't biological in any traditional sense,

Sebagai permulaan, mereka jelas tidak bersifat biologis dalam arti apa pun,

but just pause for a moment

tetapi coba berhenti sejenak

and really think about what they already do.

dan benar-benar memikirkan apa yang sudah mereka lakukan.

They communicate in our languages.

Mereka berkomunikasi dalam bahasa kita.

They see what we see.

Mereka melihat apa yang kita lihat.

They consume unimaginably large amounts of information.

Mereka mencerna sejumlah besar informasi yang tak terbayangkan.

They have memory.

Mereka memiliki ingatan.

They have personality.

Mereka memiliki kepribadian.

They have creativity.

Mereka memiliki kreativitas.

Mereka bahkan dapat bernalar sampai batas tertentu

They can even reason to some extent and formulate rudimentary plans.

dan merumuskan rencana yang sederhana.

They can act autonomously if we allow them.

Mereka dapat bertindak secara mandiri jika kita mengizinkannya.

And they do all this at levels of sophistication

Dan mereka melakukan semua ini dengan tingkat kecanggihan

that is far beyond anything that we've ever known from a mere tool.

yang jauh melampaui alat apa pun.

And so saying AI is mainly about the math or the code

Jadi menyebut AI sebagai matematika atau kode

is like saying we humans are mainly about carbon and water.

sama seperti mengatakan manusia adalah karbon dan air.

It's true, but it completely misses the point.

Itu benar, tetapi bukan itu intinya.

And yes, I get it, this is a super arresting thought

Dan ya, saya mengerti, ini adalah pemikiran yang sangat menarik

but I honestly think this frame helps sharpen our focus on the critical issues.

tetapi sejujurnya saya pikir kerangka ini

membantu mempertajam fokus kita pada isu-isu utama.

What are the risks?

Apa risikonya?

What are the boundaries that we need to impose?

Apa batasan yang perlu kita paksakan?

What kind of AI do we want to build or allow to be built?

Jenis AI apa yang ingin kita bangun atau izinkan untuk dibangun?

This is a story that's still unfolding.

Ini adalah cerita yang masih berlangsung.

Nothing should be accepted as a given.

Jangan anggap remeh apapun.

We all must choose what we create.

Kita semua harus memilih apa yang kita ciptakan.

What AIs we bring into the world, or not.

AI apa yang kita bawa ke dunia, atau tidak.

These are the questions for all of us here today,

Ini pertanyaan untuk kita semua yang hadir di sini hari ini,

and all of us alive at this moment.

dan kita semua yang hidup pada saat ini.

For me, the benefits of this technology are stunningly obvious,

Bagi saya, manfaat dari teknologi ini sangat jelas,

and they inspire my life's work every single day.

dan mereka menginspirasi pekerjaan hidup saya setiap hari.

But quite frankly, they'll speak for themselves.

Tapi jujur saja, mereka akan berbicara sendiri.

Over the years, I've never shied away from highlighting risks

Selama bertahun-tahun, saya tidak pernah menghindar dari menyoroti risiko

and talking about downsides.

dan berbicara tentang kerugian.

Thinking in this way helps us focus on the huge challenges

Berpikir dengan cara ini membantu kita fokus pada tantangan besar

that lie ahead for all of us.

yang ada di depan kita semua.

But let's be clear.

Tapi mari kita perjelas.

There is no path to progress

Tidak ada jalan menuju kemajuan

where we leave technology behind.

jika kita meninggalkan teknologi.

The prize for all of civilization is immense.

Hadiah untuk semua peradaban sangatlah besar.

Kita butuh solusi untuk bidang kesehatan dan pendidikan,

We need solutions in health care and education, to our climate crisis.

untuk krisis iklim kita.

And if AI delivers just a fraction of its potential,

Dan jika AI memberikan hanya sebagian kecil dari potensinya,

the next decade is going to be the most productive in human history.

dekade berikutnya akan menjadi yang paling produktif dalam sejarah manusia.

Here's another way to think about it.

Ini cara lain untuk memikirkannya.

In the past,

Di masa lalu,

unlocking economic growth often came with huge downsides.

membuka kunci pertumbuhan ekonomi sering diikuti dengan kerugian besar.

The economy expanded as people discovered new continents

Ekonomi berkembang ketika orang menemukan benua baru

and opened up new frontiers.

dan membuka perbatasan baru.

But they colonized populations at the same time.

Tapi pada saat yang sama, mereka menjajah populasi.

We built factories,

Kita membangun pabrik,

but they were grim and dangerous places to work.

tapi itu adalah tempat yang suram dan berbahaya untuk bekerja.

We struck oil,

Kita mendulang minyak,

but we polluted the planet.

tapi kita mencemari planet ini.

Now because we are still designing and building AI,

Sekarang karena kita masih merancang dan membangun AI,

we have the potential and opportunity to do it better,

kita memiliki potensi dan peluang untuk melakukannya dengan lebih baik,

radically better.

secara jauh lebih baik.

And today, we're not discovering a new continent

Dan hari ini, kita tidak menemukan benua baru

and plundering its resources.

dan menjarah sumber dayanya.

We're building one from scratch.

Kita membangun dari awal.

Sometimes people say that data or chips are the 21st century’s new oil,

Kadang-kadang orang mengatakan bahwa data atau chip adalah minyak baru abad ke-21,

but that's totally the wrong image.

tapi itu benar-benar gambaran yang keliru.

AI is to the mind

AI bagi pikiran

what nuclear fusion is to energy.

ibarat fusi nuklir bagi energi.

Limitless, abundant,

Tak terbatas, berlimpah,

world-changing.

mengubah dunia.

And AI really is different,

Dan AI benar-benar berbeda,

and that means we have to think about it creatively and honestly.

dan itu berarti kita harus memikirkannya secara kreatif dan jujur.

We have to push our analogies and our metaphors

Kita harus mendorong analogi dan metafora kita

to the very limits

melampaui batas

to be able to grapple with what's coming.

untuk dapat bergulat dengan apa yang akan datang.

Because this is not just another invention.

Karena AI bukan hanya penemuan biasa.

AI is itself an infinite inventor.

AI sendiri adalah penemu yang tak terbatas.

And yes, this is exciting and promising and concerning

Dan ya, ini mengasyikkan dan menjanjikan dan mengkhawatirkan

and intriguing all at once.

dan sekaligus menarik.

To be quite honest, it's pretty surreal.

Sejujurnya, ini cukup surealis.

But step back,

Tapi mundurlah,

see it on the long view of glacial time,

lihatlah dalam jangka panjang,

and these really are the very most appropriate metaphors that we have today.

dan ini benar-benar metafora yang paling tepat yang kita miliki saat ini.

Since the beginning of life on Earth,

Sejak awal kehidupan di bumi,

we've been evolving, changing

kita telah berevolusi, berubah,

and then creating everything around us in our human world today.

dan menciptakan segala sesuatu di dunia kita saat ini.

And AI isn't something outside of this story.

AI bukanlah sesuatu di luar cerita ini.

In fact, it's the very opposite.

Justru sebaliknya.

It's the whole of everything that we have created,

AI adalah keseluruhan dari segala sesuatu yang telah kita ciptakan,

distilled down into something that we can all interact with

disuling menjadi sesuatu yang dapat berinteraksi dengan kita semua

and benefit from.

dan mendapat mafaat dari hal itu.

It's a reflection of humanity across time,

Ini adalah cerminan kemanusiaan dari waktu ke waktu,

and in this sense,

dan dengan demikian,

it isn't a new species at all.

AI sama sekali bukan spesies baru.

This is where the metaphors end.

Di sinilah metafora berakhir.

Here's what I'll tell Caspian next time he asks.

Ini yang akan saya katakan pada Caspian ketika dia bertanya lagi.

AI isn't separate.

AI tidak terpisah dari kita.

AI isn't even in some senses, new.

AI bahkan, dalam arti tertentu, bukan hal baru.

AI is us.

AI adalah kita.

It's all of us.

Semua dari kita.

And this is perhaps the most promising and vital thing of all

Ini mungkin hal yang paling menjanjikan dan vital dari semua

that even a six-year-old can get a sense for.

yang bahkan bisa dipahami oleh seorang anak berusia enam tahun.

As we build out AI,

Ketika kita membangun AI,

we can and must reflect all that is good,

kita dapat dan harus mencerminkan semua yang baik,

all that we love,

semua yang kita cintai,

all that is special about humanity:

semua yang istimewa tentang kemanusiaan:

our empathy, our kindness,

empati kita, kebaikan kita,

our curiosity and our creativity.

keingintahuan kita, dan kreativitas kita.

This, I would argue, is the greatest challenge of the 21st century,

Ini, menurut saya, adalah tantangan terbesar abad ke-21,

but also the most wonderful,

tetapi juga kesempatan yang paling indah,

inspiring and hopeful opportunity for all of us.

menginspirasi, dan penuh harapan bagi kita semua.

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)

Chris Anderson: Thank you Mustafa.

Chris Anderson: Terima kasih Mustafa.

It's an amazing vision and a super powerful metaphor.

Ini adalah pandangan yang luar biasa dan metafora yang sangat kuat.

Anda berada di posisi luar biasa sekarang.

You're in an amazing position right now.

Maksud saya, Anda tidak dapat dipisahkan

I mean, you were connected at the hip

to the amazing work happening at OpenAI.

dari pekerjaan luar biasa yang terjadi di OpenAI.

You’re going to have resources made available,

Anda akan memiliki akses ke sumber daya,

there are reports of these giant new data centers,

ada laporan tentang pusat data raksasa baru ini,

100 billion dollars invested and so forth.

100 miliar dolar diinvestasikan, dan sebagainya.

And a new species can emerge from it.

Spesies baru dapat muncul dari hal ini.

I mean, in your book,

Maksud saya, dalam buku Anda,

you did, as well as painting an incredible optimistic vision,

sebagaimana Anda melukiskan pandangan optimis yang luar biasa,

you were super eloquent on the dangers of AI.

Anda sangat fasih tentang bahaya AI.

And I'm just curious, from the view that you have now,

Saya hanya ingin tahu, dari pandangan yang Anda miliki sekarang,

what is it that most keeps you up at night?

apa yang paling Anda khawatirkan?

Mustafa Suleyman: I think the great risk is that we get stuck

Mustafa: Saya pikir risiko terbesar adalah kita terjebak

in what I call the pessimism aversion trap.

dalam yang saya sebut ketakutan terhadap negativisme.

You know, we have to have the courage to confront

Anda tahu, kita harus punya keberanian untuk menghadapi

the potential of dark scenarios

potensi skenario buruk

in order to get the most out of all the benefits that we see.

untuk mendapat hasil maksimal dari semua manfaat yang kita lihat.

So the good news is that if you look at the last two or three years,

Jadi, kabar baiknya adalah, jika Anda melihat dua atau tiga tahun terakhir,

there have been very, very few downsides, right?

ada sangat sedikit kerugian, bukan?

It’s very hard to say explicitly what harm an LLM has caused.

Sangat sulit untuk terbuka mengatakan bahaya apa yang disebabkan oleh LLM.

But that doesn’t mean that that’s what the trajectory is going to be

Tapi itu tidak berarti bahwa itulah arah yang akan kita tuju

over the next 10 years.

selama 10 tahun ke depan.

So I think if you pay attention to a few specific capabilities,

Jadi menurut saya, jika Anda memperhatikan beberapa kemampuan khusus,

take for example, autonomy.

ambil misalnya, otonomi.

Autonomy is very obviously a threshold

Otonomi sangat jelas merupakan ambang batas

over which we increase risk in our society.

di mana kita meningkatkan risiko dalam masyarakat kita.

And it's something that we should step towards very, very closely.

Itu juga sesuatu yang harus kita perjuangkan dengan serius.

The other would be something like recursive self-improvement.

Hal lainnya misalnya perbaikan diri berkelanjutan.

If you allow the model to independently self-improve,

Jika Anda mengizinkan model AI untuk meningkatkan diri secara mandiri,

update its own code,

memperbarui kodenya sendiri,

explore an environment without oversight, and, you know,

menjelajahi lingkungan tanpa pengawasan, dan, Anda tahu,

without a human in control to change how it operates,

tanpa manusia yang memegang kendali untuk mengubah cara operasinya,

that would obviously be more dangerous.

itu jelas akan lebih berbahaya.

But I think that we're still some way away from that.

Tapi saya pikir kita masih jauh dari itu.

I think it's still a good five to 10 years before we have to really confront that.

Saya pikir masih lima hingga 10 tahun sebelum kita benar-benar menghadapi itu.

But it's time to start talking about it now.

Tapi ini saatnya untuk mulai membicarakannya.

CA: A digital species, unlike any biological species,

CA: Spesies digital, tidak seperti spesies biologis lain,

can replicate not in nine months,

dapat bereplikasi

bukan dalam 9 bulan, tapi dalam 9 nanodetik

but in nine nanoseconds,

and produce an indefinite number of copies of itself,

dan menghasilkan salinan dirinya dalam jumlah tak terbatas,

all of which have more power than we have in many ways.

yang semuanya memiliki kekuatan lebih dari yang kita miliki dalam banyak hal.

I mean, the possibility for unintended consequences seems pretty immense.

Kemungkinan akan konsekuensi yang tidak diinginkan tampak cukup besar.

And isn't it true that if a problem happens,

Lalu bukankah bahwa jika terjadi masalah,

it could happen in an hour?

itu bisa terjadi dalam satu jam?

MS: No.

MS: Tidak.

That is really not true.

Itu sungguh tidak benar.

I think there's no evidence to suggest that.

Saya pikir tidak ada bukti untuk itu.

And I think that, you know,

Dan saya pikir, Anda tahu,

that’s often referred to as the “intelligence explosion.”

itu sering disebut sebagai “ledakan intelijen.”

And I think it is a theoretical, hypothetical maybe

Saya pikir ini adalah teori, hipotetis mungkin,

that we're all kind of curious to explore,

bahwa kita semua ingin mengeksplorasi,

but there's no evidence that we're anywhere near anything like that.

tapi tidak ada bukti bahwa kita berada di dekat hal seperti itu.

And I think it's very important that we choose our words super carefully.

Saya pikir sangat penting untuk kita

memilih kata dengan sangat hati-hati.

Because you're right, that's one of the weaknesses of the species framing,

Karena Anda benar, itulah salah satu kelemahan dari pembingkaian spesies,

that we will design the capability for self-replication into it

bahwa kita akan merancang kemampuan untuk replikasi diri ke dalam AI

if people choose to do that.

jika orang memilih melakukannya.

And I would actually argue that we should not,

Saya berpendapat untuk tidak melakukannya,

that would be one of the dangerous capabilities

itu akan menjadi salah satu kemampuan berbahaya

that we should step back from, right?

yang harus kita hindari, bukan?

So there's no chance that this will "emerge" accidentally.

Jadi tidak ada kemungkinan bahwa ini akan muncul secara tidak sengaja.

I really think that's a very low probability.

Saya benar-benar yakin kemungkinannya sangat rendah.

It will happen if engineers deliberately design those capabilities in.

Itu akan terjadi jika para insinyur sengaja merancang kemampuan itu.

And if they don't take enough efforts to deliberately design them out.

Dan jika mereka tidak cukup berupaya

untuk sengaja mendesainnya.

And so this is the point of being explicit

Jadi inilah tujuan dari bersikap terbuka

and transparent about trying to introduce safety by design very early on.

dan transparan tentang mencoba memperkenalkan keamanan sejak dini.

CA: Thank you, your vision of humanity injecting into this new thing

CA: Terima kasih, pandangan Anda tentang kemanusiaan yang memasukkan

bagian terbaik dari diri kita pada hal baru ini,

the best parts of ourselves,

avoiding all those weird, biological, freaky,

menghindari semua kecenderungan asing, biologis, aneh, mengerikan

horrible tendencies that we can have in certain circumstances,

yang dapat dimiliki manusia dalam keadaan tertentu,

I mean, that is a very inspiring vision.

itu adalah pandangan yang sangat menginspirasi.

And thank you so much for coming here and sharing it at TED.

Dan terima kasih banyak telah datang dan membagikannya di TED.

Thank you, good luck.

Terima kasih, sukses selalu.

(Applause)

(Tepuk tangan)