How to Govern AI — Even If It’s Hard to Predict | Helen Toner | TED

Translator: Arvin Novyan Benardi Reviewer: Reno Kanti Riananda

When I talk to people about artificial intelligence,

Saat saya berbicara mengenai kecerdasan buatan (AI),

something I hear a lot from non-experts is “I don’t understand AI.”

jawaban paling banyak yang saya dengar adalah “saya tidak paham AI.”

But when I talk to experts, a funny thing happens.

Namun, saat bicara dengan para ahli, hal yang lucu justru terjadi.

They say, “I don’t understand AI, and neither does anyone else.”

Mereka bilang, “Saya tidak paham AI, begitu pula semua orang.”

This is a pretty strange state of affairs.

Ini cukup aneh.

Normally, the people building a new technology

Umumnya, orang-orang yang membuat teknologi baru

understand how it works inside and out.

mengerti cara kerjanya luar dalam.

But for AI, a technology that's radically reshaping the world around us,

Namun AI, teknologi yang begitu cepat mengubah dunia,

that's not so.

tidak seperti itu.

Experts do know plenty about how to build and run AI systems, of course.

Para ahli tahu banyak tentang cara membuat dan menjalankan sistem AI, tentu saja.

But when it comes to how they work on the inside,

Namun, saat menyangkut cara kerja mereka,

there are serious limits to how much we know.

pengetahuan kita sangatlah terbatas.

And this matters because without deeply understanding AI,

Ini penting, karena tanpa mengetahui AI secara mendalam,

it's really difficult for us to know what it will be able to do next,

begitu sulit bagi kita untuk tahu apa yang bisa dilakukan AI selanjutnya,

or even what it can do now.

bahkan apa yang bisa dilakukan AI sekarang.

And the fact that we have such a hard time understanding

Kemudian, fakta bahwa kita kesulitan untuk memahami

what's going on with the technology and predicting where it will go next,

apa yang terjadi dengan teknologi dan memprediksi ke mana arah berikutnya

is one of the biggest hurdles we face in figuring out how to govern AI.

adalah salah satu tantangan terbesar kita dalam memecahkan masalah cara mengatur AI.

But AI is already all around us,

Namun, AI sudah ada dalam kehidupan sehari-hari,

so we can't just sit around and wait for things to become clearer.

jadi kita tidak bisa hanya duduk diam dan menunggu semuanya menjadi lebih jelas.

We have to forge some kind of path forward anyway.

Mau tidak mau, kita harus mulai membentuk jalan ke depan.

I've been working on these AI policy and governance issues

Saya sudah mengerjakan kebijakan dan isu tata kelola AI

for about eight years,

selama delapan tahun.

First in San Francisco, now in Washington, DC.

Pertama di San Fransisco, dan sekarang di Washington, D.C.

Along the way, I've gotten an inside look

Selama kurun waktu tersebut, saya mendapatkan wawasan

at how governments are working to manage this technology.

tentang bagaimana pemerintah bekerja untuk mengatur teknologi ini.

And inside the industry, I've seen a thing or two as well.

Dari sisi industri, saya juga melihat satu atau dua hal.

So I'm going to share a couple of ideas

Jadi, saya akan membagikan beberapa ide

for what our path to governing AI could look like.

jalur yang dapat kita bentuk untuk mengatur AI.

But first, let's talk about what actually makes AI so hard to understand

Sebelumnya, mari kita bicara tentang mengapa AI sulit dipahami

and predict.

dan diprediksi.

One huge challenge in building artificial "intelligence"

Satu tantangan terbesar dalam membuat “kecerdasan” buatan

is that no one can agree on what it actually means

adalah tidak ada yang bisa sepakat apa yang dimaksud dengan

to be intelligent.

menjadi cerdas.

This is a strange place to be in when building a new tech.

Ini merupakan situasi aneh ketika membuat sebuah teknologi baru.

When the Wright brothers started experimenting with planes,

Ketika Wright bersaudara mulai bereksperiman dengan pesawat,

they didn't know how to build one,

mereka tidak tahu cara membuatnya,

but everyone knew what it meant to fly.

tetapi semua orang tahu yang dimaksud dengan terbang.

With AI on the other hand,

Sedangkan dengan AI,

different experts have completely different intuitions

ahli yang berbeda mempunyai intuisi yang berbeda pula

about what lies at the heart of intelligence.

mengenai inti dari kecerdasan.

Is it problem solving?

Apakah tentang pemecahan masalah?

Is it learning and adaptation,

Apakah tentang belajar dan adaptasi,

are emotions,

apakah emosi,

or having a physical body somehow involved?

atau memiliki bentuk fisik juga dilibatkan?

We genuinely don't know.

Kita sejujurnya tidak tahu.

But different answers lead to radically different expectations

Namun, jawaban yang berbeda menyebabkan ekspektasi yang sangat berbeda

about where the technology is going and how fast it'll get there.

tentang arah dan seberapa cepat teknologi tersebut dapat dicapai.

An example of how we're confused is how we used to talk

Contoh kebingungan ini adalah bagaimana kita biasa berbicara

about narrow versus general AI.

mengenai AI spesifik dan AI umum.

For a long time, we talked in terms of two buckets.

Sejak lama, kita berbicara dalam dua kelompok terpisah.

A lot of people thought we should just be dividing between narrow AI,

Banyak orang berpikir kita seharusnya membagi AI menjadi AI spesifik,

trained for one specific task,

dilatih untuk satu tugas spesifik,

like recommending the next YouTube video,

seperti merekomendasi video YouTube,

versus artificial general intelligence, or AGI,

dengan kecerdasan buatan umum, atau AGI,

that could do everything a human could do.

yaitu dapat melakukan segala hal yang dilakukan manusia.

We thought of this distinction, narrow versus general,

Kita memahami pemisahan ini, spesifik dan umum,

as a core divide between what we could build in practice

sebagai pembagi inti antara apa yang kita bisa buat secara nyata

and what would actually be intelligent.

dan apa yang benar-benar cerdas.

But then a year or two ago, along came ChatGPT.

Namun, setahun atau dua tahun lalu, datanglah ChatGPT.

If you think about it,

Jika kita renungkan,

you know, is it narrow AI, trained for one specific task?

apakah ini AI spesifik, yang dilatih untuk satu tugas spesifik?

Or is it AGI and can do everything a human can do?

atau apakah ini AGI dan bisa melakukan apa yang dilakukan manusia?

Clearly the answer is neither.

Jawabannya jelas bukan keduanya.

It's certainly general purpose.

ChatGPTdibuat untuk tujuan umum.

It can code, write poetry,

Dia bisa membuat kode program, menulis puisi,

analyze business problems, help you fix your car.

menganalisis masalah bisnis, membantu memperbaiki mobil Anda.

But it's a far cry from being able to do everything

Namun, masih sangat jauh dari mampu melakukan

as well as you or I could do it.

sebaik yang bisa Anda atau saya lakukan.

So it turns out this idea of generality

Jadi ide dari kegunaan umum

doesn't actually seem to be the right dividing line

bukanlah batas pembagi yang benar antara

between intelligent and not.

antara kecerdasan dan bukan.

And this kind of thing

Dan hal seperti ini

is a huge challenge for the whole field of AI right now.

yang menjadi tantangan besar bagi bidang AI sekarang ini.

We don't have any agreement on what we're trying to build

Kita tidak mempunyai kesepakatan apa yang ingin kita buat

or on what the road map looks like from here.

atau bentuk dari peta jalannya dari sini.

We don't even clearly understand the AI systems that we have today.

Kita bahkan tidak memahami jelas sistem AI yang kita punya hari ini.

Why is that?

Mengapa demikian?

Researchers sometimes describe deep neural networks,

Peneliti kadang menyebutkan jaringan saraf dalam,

the main kind of AI being built today,

jenis utama AI yang dibuat sekarang,

as a black box.

sebagai kotak hitam.

But what they mean by that is not that it's inherently mysterious

tetapi apa yang dimaksud oleh mereka bukanlah kemisteriusannya

and we have no way of looking inside the box.

dan tidak ada cara bagi kita untuk melihat ke dalam kotak.

The problem is that when we do look inside,

Masalahnya adalah ketika kita melihat ke dalam,

what we find are millions,

apa yang kita lihat adalah jutaan,

billions or even trillions of numbers

milyaran atau bahkan triliunan angka

that get added and multiplied together in a particular way.

yang ditambahkan dan dilipatgandakan bersamaan dengan sebuah cara tertentu.

Yang membuat para ahli sulit untuk tahu apa yang terjadi

What makes it hard for experts to know what's going on

is basically just, there are too many numbers,

intinya adalah, ada terlalu banyak angka,

and we don't yet have good ways of teasing apart what they're all doing.

dan kita belum menemukan cara baik untuk mencari tahu apa yang mereka lakukan.

There's a little bit more to it than that, but not a lot.

Ada beberapa hal lagi mengenai itu, tetapi tidak banyak.

So how do we govern this technology

Jadi, bagaimana kita mengatur teknologi

that we struggle to understand and predict?

yang sulit untuk kita pahami dan prediksi?

I'm going to share two ideas.

Saya akan membagikan dua ide.

One for all of us and one for policymakers.

Satu untuk kita semua dan satu untuk para pembuat kebijakan.

First, don't be intimidated.

Pertama, jangan terintimidasi.

Either by the technology itself

Baik oleh teknologi itu sendiri

or by the people and companies building it.

maupun oleh orang dan perusahaan yang membuatnya.

On the technology,

Dalam hal teknologi,

AI can be confusing, but it's not magical.

AI begitu membingungkan, tetapi tidak ajaib.

There are some parts of AI systems we do already understand well,

Ada beberapa bagian dari sistem AI yang sudah kita pahami dengan baik,

and even the parts we don't understand won't be opaque forever.

bahkan bagian yang tidak kita pahami tidak akan selamanya asing.

An area of research known as “AI interpretability”

Area penelitian yang dikenal dengan “intepretabilitas AI”

has made quite a lot of progress in the last few years

sudah membuat banyak progres beberapa tahun terakhir

in making sense of what all those billions of numbers are doing.

dalam menjelaskan apa yang dilakukan milyaran angka tersebut.

One team of researchers, for example,

Contohnya, satu tim peneliti,

found a way to identify different parts of a neural network

menemukan cara untuk mengidentifikasi bagian jaringan saraf yang berbeda

that they could dial up or dial down

yang bisa diatur naik atau turun

to make the AI's answers happier or angrier,

untuk membuat AI menjawab dengan lebih ceria atau marah,

more honest,

lebih jujur,

more Machiavellian, and so on.

lebih Machiavellian, dan lainnya.

If we can push forward this kind of research further,

Apabila kita bisa memajukan penelitian semacam ini,

then five or 10 years from now,

lima atau sepuluh tahun dari sekarang,

we might have a much clearer understanding of what's going on

kita mungkin dapat memahami lebih jelas apa yang terjadi

inside the so-called black box.

di dalam kotak hitam ini.

And when it comes to those building the technology,

Ketika membangun teknologi itu,

technologists sometimes act as though

teknikus kadang bersikap seakan

if you're not elbows deep in the technical details,

jika Anda tidak paham sekali tentang detil-detil teknis,

then you're not entitled to an opinion on what we should do with it.

maka Anda tidak berhak berpendapat akan apa yang harusnya dilakukan.

Expertise has its place, of course,

Keahlian punya tempat, tentunya,

but history shows us how important it is

tetapi sejarah menunjukkan pentingnya

that the people affected by a new technology

orang-orang yang terdampak oleh teknologi baru

get to play a role in shaping how we use it.

memainkan peran dalam membentuk bagaimana penggunaannya.

Like the factory workers in the 20th century who fought for factory safety,

Sama seperti buruh pabrik di abad ke-20 memperjuangkan keamanan pabrik,

or the disability advocates

atau advokat disabilitas

who made sure the world wide web was accessible.

yang memastikan web mudah diakses.

You don't have to be a scientist or engineer to have a voice.

Anda tidak perlu menjadi ilmuwan atau insinyur untuk bersuara.

(Applause)

(Tepuk tangan)

Second, we need to focus on adaptability, not certainty.

Kedua, kita perlu berfokus pada adaptabilitas, bukan kepastian.

A lot of conversations about how to make policy for AI

Banyak percakapan mengenai bagaimana cara membuat kebijakan bagi AI

get bogged down in fights between, on the one side,

menjadi perdebatan antara, satu sisi,

people saying, "We have to regulate AI really hard right now

ada yang berkata, “Kita harus regulasi AI secara ketat sekarang

because it's so risky."

karena terlalu riskan.”

And on the other side, people saying,

Di sisi lainnya, ada yang berkata,

“But regulation will kill innovation, and those risks are made up anyway.”

“Tetapi regulasi akan membunuh inovasi, dan risiko itu pun dibuat-dibuat saja.”

But the way I see it,

tetapi menurut saya,

it’s not just a choice between slamming on the brakes

ini bukan hanya soal kapan harus menginjak rem

or hitting the gas.

atau menginjak gas.

If you're driving down a road with unexpected twists and turns,

Bila Anda mengendarai menyusuri jalan dengan lika-liku dan belokan,

then two things that will help you a lot

maka ada dua hal yang akan membantu Anda

are having a clear view out the windshield

adalah pandangan jelas di kaca depan

and an excellent steering system.

dan sistem kemudi yang baik.

In AI, this means having a clear picture of where the technology is

Pada AI, ini artinya mempunyai gambaran yang jelas dari posisi teknologi

and where it's going,

dan ke mana arah perginya,

and having plans in place for what to do in different scenarios.

dan mempunyai rencana dalam menghadapi skenario yang berbeda-beda

Concretely, this means things like investing in our ability to measure

Secara konkret, hal-hal seperti investasi dalam kemampuan kita mengukur

what AI systems can do.

apa yang AI bisa lakukan.

This sounds nerdy, but it really matters.

Terkesan kutu buku, tetapi sangat penting.

Right now, if we want to figure out

Saat ini, jika kita ingin mengetahui

whether an AI can do something concerning,

apakah AI bisa mengkhawatirkan,

like hack critical infrastructure

seperti meretas infrastruktur penting

or persuade someone to change their political beliefs,

atau mempersuasi seseorang untuk mengubah pandangan politik mereka,

our methods of measuring that are rudimentary.

metode untuk mengukur tersebut masih belum sempurna.

We need better.

Kita perlu yang lebih baik.

We should also be requiring AI companies,

Kita juga perlu mewajibkan perusahaan-perusahaan AI,

especially the companies building the most advanced AI systems,

khususnya perusahaan yang membuat sistem AI yang paling canggih,

to share information about what they're building,

untuk membagikan informasi apa yang sedang mereka buat,

what their systems can do

apa yang sistem mereka bisa lakukan

and how they're managing risks.

dan bagaimana mereka mengelola risiko.

And they should have to let in external AI auditors to scrutinize their work

Mereka juga harus membiarkan auditor AI eksternal untuk memeriksa karya mereka

so that the companies aren't just grading their own homework.

agar para perusahaan ini tidak menilai pekerjaan mereka sendiri.

(Applause)

(Tepuk tangan)

A final example of what this can look like

Contoh terakhir dari gagasan ini

is setting up incident reporting mechanisms,

adalah membuat mekanisme pelaporan insiden,

so that when things do go wrong in the real world,

jadi ketika kesalahan terjadi di dunia nyata,

we have a way to collect data on what happened

kita mempunyai cara untuk mengumpulkan data apa yang terjadi

and how we can fix it next time.

dan bagaimana cara memperbaikinya.

Just like the data we collect on plane crashes and cyber attacks.

Seperti data yang kita kumpulkan pada kecelakaan pesawat dan serangan siber.

None of these ideas are mine,

Semua hal ini bukanlah ide saya,

and some of them are already starting to be implemented in places like Brussels,

dan beberapa di antaranya sudah mulai diimplementasikan seperti di Brussels,

London, even Washington.

London, bahkan Washington.

But the reason I'm highlighting these ideas,

Namun, alasan saya memaparkan ide-ide ini,

measurement, disclosure, incident reporting,

pengukuran, pengungkapan, pelaporan insiden,

is that they help us navigate progress in AI

adalah untuk membantu kita menavigasi progres AI

by giving us a clearer view out the windshield.

dengan memberikan pandangan jelas pada kaca depan kita.

If AI is progressing fast in dangerous directions,

Apabila AI berprogres cepat ke arah yang berbahaya,

these policies will help us see that.

kebijakan-kebijakan ini akan membantu melihat itu.

And if everything is going smoothly, they'll show us that too,

Bila semuanya berjalan lancar, hal itu juga akan terlihat,

and we can respond accordingly.

dan kita bisa memberi respons yang sesuai.

What I want to leave you with

Apa yang saya ingin Anda ingat

is that it's both true that there's a ton of uncertainty

adalah memang banyak ketidakpastian

and disagreement in the field of AI.

dan ketidaksepakatan di bidang AI.

And that companies are already building and deploying AI

Perusahaan-perusahaan juga sudah membuat dan menerapkan AI

all over the place anyway in ways that affect all of us.

di segala hal yang berpengaruh bagi kita semua.

Left to their own devices,

Jika dibiarkan begitu saja,

it looks like AI companies might go in a similar direction

sepertinya perusahaan AI mungkin akan menjadi seperti

to social media companies,

perusahaan media sosial,

spending most of their resources on building web apps

menghabiskan sumber daya mereka membuat aplikasi web

and for users' attention.

dan berebut perhatian pengguna.

And by default, it looks like the enormous power of more advanced AI systems

Secara alami, kekuatan besar dari sistem AI yang lebih canggih

might stay concentrated in the hands of a small number of companies,

mungkin tetap terkonsentrasi di tangan sekumpulan kecil perusahaan,

or even a small number of individuals.

atau bahkan sekumpulan kecil individu.

But AI's potential goes so far beyond that.

Namun, potensi AI jauh lebih dari itu.

AI already lets us leap over language barriers

AI membuat kita melompati batasan bahasa

and predict protein structures.

dan memprediksi struktur protein.

More advanced systems could unlock clean, limitless fusion energy

Sistem yang lebih canggih dapat membuka energi fusi bersih dan tidak terbatas.

or revolutionize how we grow food

atau merevolusi cara kita menanam pangan

or 1,000 other things.

atau 1.000 hal lainnya.

And we each have a voice in what happens.

Kita semua memiliki suara atas apa yang terjadi.

We're not just data sources,

Kita bukan hanya sumber data,

we are users,

kita adalah pengguna,

we're workers,

kita adalah pekerja,

we're citizens.

kita adalah masyarakat.

So as tempting as it might be,

Walaupun menggiurkan,

we can't wait for clarity or expert consensus

kita tidak bisa menunggu kejelasan atau konsensus ahli

to figure out what we want to happen with AI.

untuk mencari tahu apa yang kita inginkan terjadi dengan AI.

AI is already happening to us.

AI sudah terjadi kepada kita.

What we can do is put policies in place

Yang bisa kita lakukan adalah membuat kebijakan

to give us as clear a picture as we can get

untuk memberikan kita gambaran sejelas-jelasnya

of how the technology is changing,

bagaimana teknologi berubah,

and then we can get in the arena and push for futures we actually want.

lalu kita bisa terjun ke lapangan dan mendorong masa depan yang kita inginkan.

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)