AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

Translator: Obbie Prima Reviewer: Indah Setiawan

So I've been an AI researcher for over a decade.

Jadi saya telah menjadi peneliti AI selama lebih dari satu dekade.

And a couple of months ago, I got the weirdest email of my career.

Dan beberapa bulan lalu, saya mendapat email paling aneh dalam karier saya.

A random stranger wrote to me

Seorang tak dikenal menulis email kepada saya mengatakan

saying that my work in AI is going to end humanity.

pekerjaan saya dalam bidang AI akan mengakhiri kemanusiaan.

Now I get it, AI, it's so hot right now.

Sekarang saya paham, AI, sangat menarik sekarang.

(Laughter)

(Tawa)

It's in the headlines pretty much every day,

AI menjadi berita utama hampir setiap hari,

sometimes because of really cool things

kadang karena hal-hal yang sangat keren,

like discovering new molecules for medicine

seperti menemukan molekul baru untuk obat atau Uskup keren berjaket puffer putih.

or that dope Pope in the white puffer coat.

But other times the headlines have been really dark,

Namun, kadang berita utamanya bisa sangat menyeramkan,

like that chatbot telling that guy that he should divorce his wife

seperti chatbot yang menyarankan seorang pria untuk menceraikan istrinya

or that AI meal planner app proposing a crowd pleasing recipe

atau aplikasi perencana makanan AI yang mengusulkan resep favorit orang-orang

featuring chlorine gas.

dengan tambahan gas klorin.

And in the background,

Dan di balik semuanya,

we've heard a lot of talk about doomsday scenarios,

kita mendengar banyak skenario kiamat, risiko eksistensial, dan singularitas,

existential risk and the singularity,

with letters being written and events being organized

dengan banyak surat ditulis dan acara diadakan

to make sure that doesn't happen.

untuk memastikan hal itu tidak terjadi.

Now I'm a researcher who studies AI's impacts on society,

Sekarang saya adalah peneliti yang mempelajari dampak AI pada masyarakat,

and I don't know what's going to happen in 10 or 20 years,

dan saya tidak tahu apa yang akan terjadi dalam 10 atau 20 tahun,

and nobody really does.

dan tidak ada yang benar-benar tahu.

But what I do know is that there's some pretty nasty things going on right now,

Namun, yang saya tahu adalah ada hal yang cukup buruk terjadi saat ini,

because AI doesn't exist in a vacuum.

karena AI tidak terjadi dalam ruang hampa.

It is part of society, and it has impacts on people and the planet.

AI adalah bagian dari masyarakat dan berdampak pada manusia dan planet ini.

AI models can contribute to climate change.

Model AI dapat berkontribusi pada perubahan iklim.

Their training data uses art and books created by artists

Data pelatihan mereka menggunakan seni dan buku

yang dibuat oleh seniman dan penulis tanpa persetujuan mereka.

and authors without their consent.

And its deployment can discriminate against entire communities.

Dan penerapannya dapat mendiskriminasi seluruh komunitas.

But we need to start tracking its impacts.

Namun, kita harus mulai melacak dampaknya.

We need to start being transparent and disclosing them and creating tools

Kita perlu mulai bersikap transparan dan mengungkap AI dan menciptakan alat

so that people understand AI better,

sehingga orang memahami AI lebih baik,

so that hopefully future generations of AI models

sehingga mudah-mudahan jenis AI masa depan akan lebih dapat dipercaya, berkelanjutan,

are going to be more trustworthy, sustainable,

maybe less likely to kill us, if that's what you're into.

mungkin lebih minim risiko membunuh kita, jika itu kemauan Anda.

But let's start with sustainability,

Namun, mari mulai dari keberlanjutan,

because that cloud that AI models live on is actually made out of metal, plastic,

karena cloud yang digunakan oleh model AI sebenarnya terbuat dari logam, plastik,

and powered by vast amounts of energy.

dan didukung oleh energi berjumlah besar.

And each time you query an AI model, it comes with a cost to the planet.

Dan setiap kali Anda bertanya ke model AI, itu menimbulkan kerugian bagi planet ini.

Last year, I was part of the BigScience initiative,

Tahun lalu, saya adalah bagian dari BigScience Initiative,

which brought together a thousand researchers

yang menyatukan seribu peneliti dari seluruh dunia untuk membuat Bloom,

from all over the world to create Bloom,

the first open large language model, like ChatGPT,

model bahasa besar terbuka pertama, seperti ChatGPT,

but with an emphasis on ethics, transparency and consent.

tetapi dengan penekanan pada etika, transparansi, dan persetujuan.

And the study I led that looked at Bloom's environmental impacts

Dan studi yang saya pimpin yang melihat dampak lingkungan Bloom

menemukan bahwa hanya melatihnya menggunakan energi

found that just training it used as much energy

as 30 homes in a whole year

sebanyak 30 rumah dalam setahun penuh dan mengeluarkan 25 ton karbon dioksida,

and emitted 25 tons of carbon dioxide,

which is like driving your car five times around the planet

sama seperti mengendarai mobil Anda mengelilingi planet ini lima kali

just so somebody can use this model to tell a knock-knock joke.

hanya agar orang bisa menggunakannya untuk lelucon knock-knock.

And this might not seem like a lot,

Dan ini mungkin tidak terkesan banyak,

but other similar large language models,

tetapi model bahasa lain yang serupa, seperti GPT-3,

like GPT-3,

emit 20 times more carbon.

memancarkan karbon 20 kali lebih banyak.

But the thing is, tech companies aren't measuring this stuff.

Masalahnya, perusahaan teknologi tidak mengukur hal ini.

They're not disclosing it.

Mereka menyembunyikannya.

And so this is probably only the tip of the iceberg,

Jadi ini mungkin hanya puncak gunung es, walaupun itu sedang mencair.

even if it is a melting one.

And in recent years we've seen AI models balloon in size

Dan dalam beberapa tahun terakhir, kami telah melihat model AI membeludak,

because the current trend in AI is "bigger is better."

karena tren AI saat ini adalah “lebih besar lebih baik.”

But please don't get me started on why that's the case.

Tapi tolong jangan menanyakan saya mengapa itu terjadi.

In any case, we've seen large language models in particular

Bagaimanapun, kami telah melihat model bahasa besar khususnya

grow 2,000 times in size over the last five years.

tumbuh 2.000 kali selama lima tahun terakhir.

And of course, their environmental costs are rising as well.

Dan tentu saja, dampak lingkungannya juga meningkat.

The most recent work I led, found that switching out a smaller,

Tugas terbaru yang saya pimpin menemukan bahwa mengganti model yang lebih kecil

more efficient model for a larger language model

dan lebih efisien untuk model bahasa yang lebih besar

emits 14 times more carbon for the same task.

memancarkan 14 kali lebih banyak karbon untuk tugas yang sama.

Like telling that knock-knock joke.

Seperti lelucon knock-knock tadi.

And as we're putting in these models into cell phones and search engines

Dan saat kami memasukkan model-model ini ke ponsel, mesin pencari, kulkas,

and smart fridges and speakers,

dan speaker pintar,

the environmental costs are really piling up quickly.

dampak lingkungannya benar-benar menumpuk dengan cepat.

So instead of focusing on some future existential risks,

Jadi alih-alih berfokus pada beberapa risiko eksistensial di masa depan,

let's talk about current tangible impacts

mari kita bicara tentang dampak nyatanya

and tools we can create to measure and mitigate these impacts.

dan alat yang dapat kita buat untuk mengukur dan mengurangi dampak ini.

I helped create CodeCarbon,

Saya membantu membuat CodeCarbon,

a tool that runs in parallel to AI training code

alat yang bekerja paralel dengan kode pelatihan AI

that estimates the amount of energy it consumes

yang memperkirakan jumlah energi terpakai dan jumlah karbon yang dihasilkan.

and the amount of carbon it emits.

And using a tool like this can help us make informed choices,

Dan dengan alat seperti ini membantu kita membuat pilihan bijak,

like choosing one model over the other because it's more sustainable,

seperti memilih sebuah model karena lebih berkelanjutan,

or deploying AI models on renewable energy,

atau menerapkan model AI pada energi terbarukan,

which can drastically reduce their emissions.

yang dapat mengurangi emisi karbon secara drastis.

But let's talk about other things

Namun, mari kita bicara tentang hal lain,

because there's other impacts of AI apart from sustainability.

karena ada dampak lain dari AI selain keberlanjutan.

For example, it's been really hard for artists and authors

Misalnya, sangat sulit bagi seniman dan penulis

to prove that their life's work has been used for training AI models

untuk membuktikan bahwa karya mereka telah digunakan untuk melatih model AI

without their consent.

tanpa persetujuan mereka.

And if you want to sue someone, you tend to need proof, right?

Dan jika Anda ingin menuntut seseorang, Anda butuh bukti, bukan?

So Spawning.ai, an organization that was founded by artists,

Spawning.ai, sebuah organisasi yang didirikan oleh seniman,

created this really cool tool called “Have I Been Trained?”

membuat alat yang sangat keren bernama “Have I Been Trained?”.

Dan memungkinkan Anda menelusuri kumpulan data besar

And it lets you search these massive data sets

to see what they have on you.

untuk melihat apa yang mereka miliki dari Anda.

Now, I admit it, I was curious.

Saya akui, saya penasaran.

I searched LAION-5B,

Saya mencari LAION-5B,

which is this huge data set of images and text,

yaitu kumpulan data gambar dan teks yang besar,

to see if any images of me were in there.

untuk melihat apakah ada gambar saya di sana.

Now those two first images,

Sekarang dua gambar pertama itu, itu saya dari acara yang saya hadiri.

that's me from events I've spoken at.

But the rest of the images, none of those are me.

Tapi gambar lainnya, tidak satupun dari itu adalah saya.

They're probably of other women named Sasha

Mereka mungkin wanita lain bernama Sasha yang memasang foto mereka di internet.

who put photographs of themselves up on the internet.

And this can probably explain why,

Ini mungkin menjelaskan mengapa ketika menanyakan AI ini

when I query an image generation model

to generate a photograph of a woman named Sasha,

untuk menghasilkan foto wanita bernama Sasha,

more often than not I get images of bikini models.

saya cenderung mendapatkan gambar model bikini.

Sometimes they have two arms,

Terkadang memiliki dua lengan,

sometimes they have three arms,

terkadang mereka memiliki tiga lengan,

but they rarely have any clothes on.

tetapi mereka jarang mengenakan pakaian.

And while it can be interesting for people like you and me

Dan meskipun menarik bagi orang-orang seperti Anda dan saya

to search these data sets,

untuk mencari kumpulan data ini,

for artists like Karla Ortiz,

untuk seniman seperti Karla Ortiz,

this provides crucial evidence that her life's work, her artwork,

alat ini memberikan bukti penting bahwa karya hidupnya, karya seninya,

was used for training AI models without her consent,

digunakan untuk melatih model AI tanpa persetujuannya,

and she and two artists used this as evidence

lalu dia dan dua seniman lain menjadikannya bukti

to file a class action lawsuit against AI companies

untuk mengajukan gugatan class action ke perusahaan AI

for copyright infringement.

atas pelanggaran hak cipta.

And most recently --

Dan yang terbaru --

(Applause)

(Tepuk tangan)

And most recently Spawning.ai partnered up with Hugging Face,

Dan yang terbaru Spawning.ai bermitra dengan Hugging Face,

the company where I work at,

perusahaan tempat saya bekerja,

to create opt-in and opt-out mechanisms for creating these data sets.

untuk membuat mekanisme opt-in dan opt-out dalam membuat kumpulan data ini.

Because artwork created by humans shouldn’t be an all-you-can-eat buffet

Karena karya seni yang dibuat manusia seharusnya tidak menjadi bahan

for training AI language models.

untuk melatih model bahasa AI.

(Applause)

(Tepuk tangan)

The very last thing I want to talk about is bias.

Terakhir yang ingin saya sampaikan adalah bias.

You probably hear about this a lot.

Anda mungkin sering mendengarnya.

Formally speaking, it's when AI models encode patterns and beliefs

Secara formal, bias adalah ketika model AI membuat pola dan keyakinan

that can represent stereotypes or racism and sexism.

yang dapat mewakili stereotip atau rasisme dan seksisme.

One of my heroes, Dr. Joy Buolamwini, experienced this firsthand

Seorang pahlawan saya, Dr. Joy Buolamwini, mengalami secara langsung

when she realized that AI systems wouldn't even detect her face

ketika dia menyadari sistem AI tidak akan mendeteksi wajahnya

unless she was wearing a white-colored mask.

kecuali dia mengenakan topeng berwarna putih.

Digging deeper, she found that common facial recognition systems

Menggali lebih dalam, dia menemukan bahwa sistem pengenalan wajah umum

were vastly worse for women of color compared to white men.

lebih buruk bagi wanita kulit berwarna daripada pria kulit putih.

And when biased models like this are deployed in law enforcement settings,

Dan ketika model bias seperti ini digunakan pada pengaturan penegakan hukum,

this can result in false accusations, even wrongful imprisonment,

ini dapat mengakibatkan tuduhan palsu, bahkan pemenjaraan yang salah,

which we've seen happen to multiple people in recent months.

yang telah kita lihat terjadi pada banyak orang dalam beberapa bulan terakhir.

For example, Porcha Woodruff was wrongfully accused of carjacking

Misalnya, Porcha Woodruff dituduh membajak mobil secara keliru

at eight months pregnant

saat hamil delapan bulan

because an AI system wrongfully identified her.

karena sistem AI salah mengidentifikasinya.

But sadly, these systems are black boxes,

Sayangnya, sistem ini adalah kotak hitam,

and even their creators can't say exactly why they work the way they do.

dan bahkan penciptanya tidak tahu pasti mengapa mereka bekerja seperti itu.

And for example, for image generation systems,

Misalnya, untuk sistem pembuatan gambar,

if they're used in contexts like generating a forensic sketch

jika mereka digunakan dalam konteks,

seperti membuat sketsa forensik berdasarkan deskripsi pelaku,

based on a description of a perpetrator,

they take all those biases and they spit them back out

mereka mengambil semua bias itu dan mereka mengembalikan hasil

for terms like dangerous criminal, terrorists or gang member,

dengan istilah seperti penjahat berbahaya, teroris atau anggota geng,

which of course is super dangerous

yang tentu saja sangat berbahaya ketika alat ini digunakan di masyarakat.

when these tools are deployed in society.

And so in order to understand these tools better,

Jadi untuk memahami alat-alat ini lebih baik,

I created this tool called the Stable Bias Explorer,

saya membuat alat yang disebut Stable Bias Explorer,

which lets you explore the bias of image generation models

yang memungkinkan Anda menjelajahi bias dari model pembuatan gambar

through the lens of professions.

melalui lensa profesi.

So try to picture a scientist in your mind.

Cobalah untuk membayangkan seorang ilmuwan di pikiran Anda.

Don't look at me.

Jangan lihat saya.

What do you see?

Apa yang kau lihat?

A lot of the same thing, right?

Banyak hal yang sama, bukan?

Men in glasses and lab coats.

Pria berkacamata dan jas lab.

And none of them look like me.

Dan tak satu pun mirip saya.

And the thing is,

Masalahnya,

is that we looked at all these different image generation models

adalah kami melihat semua model pembuatan gambar berbeda ini

and found a lot of the same thing:

dan menemukan banyak kesamaan:

significant representation of whiteness and masculinity

representasi signifikan dari kulit putih dan maskulinitas

across all 150 professions that we looked at,

di semua 150 profesi yang kami lihat,

even if compared to the real world,

bahkan jika dibandingkan dunia nyata, Biro Statistik Tenaga Kerja AS.

the US Labor Bureau of Statistics.

These models show lawyers as men,

Model-model ini menunjukkan pengacara sebagai pria,

and CEOs as men, almost 100 percent of the time,

dan CEO sebagai pria, hampir 100 persen dari waktu,

even though we all know not all of them are white and male.

meskipun kita tahu tidak semuanya berkulit putih dan laki-laki.

And sadly, my tool hasn't been used to write legislation yet.

Sayangnya, alat saya belum digunakan untuk menulis undang-undang.

But I recently presented it at a UN event about gender bias

Namun, baru-baru ini saya memaparkannya di acara PBB tentang bias gender

as an example of how we can make tools for people from all walks of life,

sebagai contoh bagaimana kita membuat alat untuk semua lapisan masyarakat,

even those who don't know how to code,

bahkan mereka yang tidak tahu coding,

to engage with and better understand AI because we use professions,

untuk terlibat dan lebih memahami AI karena kita menggunakan profesi,

but you can use any terms that are of interest to you.

tetapi Anda bisa memakai istilah apa pun yang menarik bagi Anda.

And as these models are being deployed,

Dan ketika AI ini sedang digunakan,

are being woven into the very fabric of our societies,

dijalin ke dalam struktur terkecil dalam masyarakat kita,

our cell phones, our social media feeds,

ponsel kita, feeds media sosial kita,

even our justice systems and our economies have AI in them.

bahkan sistem peradilan, dan ekonomi kita memiliki AI di dalamnya.

And it's really important that AI stays accessible

Dan sangat penting bahwa AI tetap dapat diakses

so that we know both how it works and when it doesn't work.

sehingga kita tahu cara kerjanya dan batas kemampuannya.

And there's no single solution for really complex things like bias

Dan tidak ada solusi tunggal untuk hal-hal yang sangat kompleks,

seperti bias, hak cipta, atau perubahan iklim.

or copyright or climate change.

But by creating tools to measure AI's impact,

Tetapi dengan menciptakan alat untuk mengukur dampak AI,

we can start getting an idea of how bad they are

kita bisa mulai mendapatkan gambaran tentang seberapa buruk mereka

and start addressing them as we go.

dan mulai mengatasinya seiring berjalannya waktu.

Start creating guardrails to protect society and the planet.

Mulai membuat pembatas untuk melindungi masyarakat dan planet ini.

And once we have this information,

Dan begitu kita memiliki informasi ini, perusahaan bisa menggunakan untuk berkata,

companies can use it in order to say,

OK, we're going to choose this model because it's more sustainable,

“OK, kami memilih model ini karena lebih berkelanjutan,

this model because it respects copyright.

model ini karena menghormati hak cipta.”

Legislators who really need information to write laws,

Legislator yang membutuhkan informasi untuk membuat undang-undang,

can use these tools to develop new regulation mechanisms

dapat menggunakan alat ini untuk mengembangkan mekanisme regulasi

or governance for AI as it gets deployed into society.

atau tata kelola baru untuk AI saat digunakan ke masyarakat.

And users like you and me can use this information

Dan pengguna seperti kita dapat menggunakan informasi ini

to choose AI models that we can trust,

untuk memilih model AI yang dapat kita percaya,

not to misrepresent us and not to misuse our data.

tidak salah merepresentasikan kita, dan menyalahgunakan data.

But what did I reply to that email

Namun, apa yang saya balas ke email

that said that my work is going to destroy humanity?

yang mengatakan pekerjaan saya akan menghancurkan kemanusiaan?

I said that focusing on AI's future existential risks

Saya mengatakan bahwa berfokus pada risiko eksistensial AI di masa depan

is a distraction from its current,

adalah gangguan dari dampaknya yang sangat nyata saat ini

very tangible impacts

and the work we should be doing right now, or even yesterday,

dan pekerjaan yang harus kita lakukan sekarang, atau bahkan kemarin,

for reducing these impacts.

untuk mengurangi dampak ini.

Because yes, AI is moving quickly, but it's not a done deal.

Karena ya, AI berkembang pesat, tetapi ini belum garis akhir.

We're building the road as we walk it,

Kita membangun jalan sambil melewatinya,

and we can collectively decide what direction we want to go in together.

dan kita dapat secara kolektif memutuskan kemana arah tujuan kita bersama.

Thank you.

Terima kasih.

(Applause)

(Tepuk tangan)