What you need to know about face surveillance | Kade Crockford

Translator: Elda Indria Sari Reviewer: Reno Kanti Riananda

How many of you have ever heard someone say

Siapa yang pernah mendengar ucapan

privacy is dead?

tak ada privasi lagi?

Raise your hand.

Angkat tangan.

How many of you have heard someone say

Siapa yang pernah mendengar seseorang berkata

they don't care about their privacy because they don't have anything to hide?

mereka tak peduli soal privasi,

karena tak ada yang perlu disembunyikan?

Go on.

Silakan.

(Laughter)

(Tertawa)

Now, how many of you use any kind of encryption software?

Siapa yang memakai peranti lunak enkripsi?

Raise your hand.

Angkat tangan.

Or a password to protect an online account?

Atau kata sandi untuk melindungi akun daring?

Or curtains or blinds on your windows at home?

Atau memasang tirai di jendela rumah?

(Laughter)

(Tertawa)

OK, so that's everyone, I think.

OK, jadi saya rasa semuanya, ya.

(Laughter)

(Tertawa)

So why do you do these things?

Jadi kenapa Anda melakukan hal-hal ini?

My guess is,

Dugaan saya, karena Anda peduli soal privasi.

it's because you care about your privacy.

The idea that privacy is dead is a myth.

Anggapan bahwa sudah tidak ada privasi adalah mitos.

The idea that people don't care about their privacy

Anggapan orang-orang tidak peduli soal privasi mereka

because "they have nothing to hide"

karena "tak ada yang disembunyikan"

or they've done nothing wrong

atau mereka tak berbuat salah

is also a myth.

juga mitos.

I'm guessing that you would not want to publicly share on the internet,

Saya rasa Anda tak mau membuka terang-terangan di internet,

for the world to see,

agar seluruh dunia bisa tahu,

all of your medical records.

semua rekam medis Anda.

Or your search histories from your phone or your computer.

Atau riwayat pencarian di telepon atau komputer Anda.

And I bet

Saya bertaruh

that if the government wanted to put a chip in your brain

jika pemerintah hendak menanam sebuah cip dalam otak Anda

to transmit every one of your thoughts to a centralized government computer,

untuk mengirim setiap pikiran Anda ke komputer pusat pemerintah,

you would balk at that.

Anda pasti menolak.

(Laughter)

(Tertawa)

That's because you care about your privacy,

Itu karena Anda peduli soal privasi Anda,

like every human being.

seperti layaknya setiap manusia.

So, our world has changed fast.

Dunia kita berubah dengan cepat.

And today, there is understandably a lot of confusion

Kini, ada banyak kebingungan

about what privacy is and why it matters.

tentang pengertian privasi dan kenapa ini penting.

Privacy is not secrecy.

Privasi bukanlah rahasia.

It's control.

Namun kendali.

I share information with my doctor about my body and my health,

Saya berbagi informasi dengan dokter tentang tubuh dan kesehatan saya,

expecting that she is not going to turn around

berharap dia tak akan berkhianat

and share that information with my parents,

dan membagi informasi itu dengan orang tua saya,

or my boss or my kids.

atau atasan, atau anak-anak saya.

That information is private, not secret.

Informasi itu privat, bukan rahasia.

I'm in control over how that information is shared.

Saya yang mengendalikan bagaimana informasi itu dibagi.

You've probably heard people say that there's a fundamental tension

Anda mungkin pernah dengar ada ketegangan mendasar

between privacy on the one hand

antara privasi di satu sisi,

and safety on the other.

dan keamanan di sisi lain.

But the technologies that advance our privacy

Namun teknologi yang meningkatkan privasi kita

also advance our safety.

juga meningkatkan keamanan kita.

Think about fences, door locks,

Pikirkan saja pagar, kunci pintu,

curtains on our windows, passwords,

tirai jendela, kata sandi,

encryption software.

peranti lunak enkripsi.

All of these technologies

Semua teknologi ini

simultaneously protect our privacy and our safety.

melindungi privasi dan keamanan kita secara serentak.

Dragnet surveillance, on the other hand, protects neither.

Namun pengawasan dragnet tidak melindungi keduanya.

In recent years,

Belakangan ini,

the federal government tasked a group of experts

pemerintah federal menugaskan sekelompok ahli

called The Privacy and Civil Liberties Oversight Board

bernama Dewan Pengawas Privasi dan Kebebasan Sipil

with examining post-9/11 government surveillance programs,

untuk memeriksa program pengawasan pemerintah pasca 9/11,

dragnet surveillance programs.

program pengawasan dragnet.

Those experts could not find a single example

Para ahli tak bisa menemukan satu contoh pun

of that dragnet surveillance advancing any safety --

bahwa pengawasan dragnet meningkatkan keamanan --

didn't identify or stop a single terrorist attack.

tidak mengenali atau mencegah satu pun serangan teroris.

You know what that information was useful for, though?

Namun Anda tahu informasi itu berguna untuk apa?

Helping NSA employees spy on their romantic interests.

Membantu pegawai NSA memata-matai pasangan mereka.

(Laughter)

(Tertawa)

(Audience: Wow.)

(Hadirin: Wow.)

Another example is closer to home.

Contoh lain yang lebih dekat:

So millions of people across the United States and the world

Jutaan orang di Amerika Serikat dan di dunia

are adopting so-called "smart home" devices,

menggunakan perangkat "rumah pintar",

like internet-connected surveillance cameras.

semacam kamera pengawas yang terhubung ke internet.

But we know that any technology connected to the internet

Namun kita tahu teknologi apa pun yang terhubung ke internet

can be hacked.

bisa diretas.

And so if a hacker

Jika seorang peretas

gets into your internet-connected surveillance camera at home,

masuk ke dalam kamera pengawas yang terhubung ke internet di rumah,

they can watch you and your family coming and going,

mereka bisa mengawasi Anda dan keluarga datang dan pergi,

finding just the right time to strike.

mencari waktu yang tepat untuk menyerang.

You know what can't be hacked remotely?

Anda tahu apa yang tidak bisa diretas dari jauh?

Curtains.

Tirai.

(Laughter)

(Tertawa)

Fences.

Pagar.

Door locks.

Kunci pintu.

(Laughter)

(Tertawa)

Privacy is not the enemy of safety.

Privasi bukanlah musuh keamanan.

It is its guarantor.

Namun penjaminnya.

Nonetheless, we daily face a propaganda onslaught

Meski begitu, tiap hari kita dihadapkan dengan propaganda

telling us that we have to give up some privacy in exchange for safety

bahwa kita harus menyerahkan sejumlah privasi demi keamanan

through surveillance programs.

lewat program pengawasan.

Face surveillance is the most dangerous of these technologies.

Pengawasan wajah adalah yang paling berbahaya di teknologi ini.

There are two primary ways today governments use technologies like this.

Saat ini, ada dua cara pemerintah memanfaatkan teknologi tersebut.

One is face recognition.

Satu adalah pengenalan wajah.

That's to identify someone in an image.

Yaitu untuk mengenali seseorang dalam gambar.

The second is face surveillance,

Kedua adalah pengawasan wajah,

which can be used in concert

yang bisa digunakan secara bersamaan

with surveillance-camera networks and databases

dengan jaringan dan basis data kamera pengawas

to create records of all people's public movements,

untuk membuat rekaman semua pergerakan publik,

habits and associations,

kebiasaan dan perkumpulan,

effectively creating a digital panopticon.

yang menciptakan sebuah panopticon digital yang efektif.

This is a panopticon.

Ini adalah panopticon.

It's a prison designed to allow a few guards in the center

Sebuah penjara yang dirancang menempatkan beberapa petugas di pusatnya

to monitor everything happening in the cells around the perimeter.

untuk mengawasi semua yang terjadi dalam sel di sekitarnya.

The people in those prison cells can't see inside the guard tower,

Orang-orang di dalam sel itu tak bisa melihat ke dalam menara penjaga,

but the guards can see into every inch of those cells.

tetapi penjaga bisa melihat ke setiap sudut sel tersebut.

The idea here

Gagasannya di sini adalah

is that if the people in those prison cells

jika orang-orang di dalam sel itu

know they're being watched all the time,

tahu mereka diawasi sepanjang waktu,

or could be,

atau ada kemungkinan demikian,

they'll behave accordingly.

mereka akan bersikap baik.

Similarly, face surveillance enables a centralized authority --

Sama halnya dengan pengawasan wajah yang memungkinkan petugas di pusat --

in this case, the state --

dalam hal ini, negara --

to monitor the totality of human movement and association

mengawasi seluruh pergerakan manusia dan kumpulannya

in public space.

di ruang publik.

And here's what it looks like

Beginilah wujudnya di kehidupan nyata.

in real life.

In this case, it's not a guard in a tower,

Dalam hal ini, bukan penjaga yang ada di menara,

but rather a police analyst in a spy center.

tetapi seorang analis kepolisian di pusat mata-mata.

The prison expands beyond its walls,

Penjara ini meluas di luar tembok,

encompassing everyone,

menjaring semua orang,

everywhere, all the time.

di mana pun, kapan pun.

In a free society,

Dalam masyarakat bebas,

this should terrify us all.

kita seharusnya takut.

For decades now, we've watched cop shows

Selama puluhan tahun, kita melihat tayangan polisi

that push a narrative that says

yang memaksakan pesan

technologies like face surveillance ultimately serve the public good.

bahwa teknologi seperti pengawasan wajah baik untuk masyarakat.

But real life is not a cop drama.

Namun kehidupan nyata tak seperti drama polisi.

The bad guy didn't always do it,

Tak selalu penjahat yang salah,

the cops definitely aren't always the good guys

polisi belum tentu selamanya baik

and the technology doesn't always work.

dan teknologi tak selalu bekerja.

Take the case of Steve Talley,

Lihat saja kasus Steve Talley,

a financial analyst from Colorado.

seorang analis keuangan dari Colorado.

In 2015, Talley was arrested, and he was charged with bank robbery

Talley ditangkap tahun 2015 dan didakwa atas perampokan bank

on the basis of an error in a facial recognition system.

berdasarkan kesalahan dalam sistem pengenalan wajah.

Talley fought that case

Talley melawan,

and he eventually was cleared of those charges,

dan akhirnya dibebaskan dari segala tuduhan,

but while he was being persecuted by the state,

tetapi selama dipersekusi oleh negara,

he lost his house, his job and his kids.

dia kehilangan rumah, pekerjaan, dan anak-anaknya.

Steve Talley's case is an example

Kasus Steve Talley adalah contoh

of what can happen when the technology fails.

atas apa yang terjadi saat teknologi gagal.

But face surveillance is just as dangerous when it works as advertized.

Namun pengawasan wajah sama berbahayanya jika bekerja dengan benar.

Just consider how trivial it would be

Bayangkan betapa mudahnya

for a government agency to put a surveillance camera

bagi agen pemerintah memasang kamera pengawas

outside a building where people meet for Alcoholics Anonymous meetings.

di luar gedung tempat pertemuan Pecandu Alkohol Anonim.

They could connect that camera

Mereka bisa menghubungkan kamera

to a face-surveillance algorithm and a database,

dengan algoritma dan basis data pengawasan wajah,

press a button and sit back and collect

menekan tombol, duduk dan mengumpulkan catatan

a record of every person receiving treatment for alcoholism.

setiap orang yang tengah dirawat karena alkoholisme.

It would be just as easy for a government agency

Akan mudah juga bagi agen pemerintah

to use this technology to automatically identify

menggunakan teknologi ini untuk otomatis mengenali

every person who attended the Women's March

setiap peserta Women's March

or a Black Lives Matter protest.

atau protes Black Lives Matter.

Even the technology industry is aware of the gravity of this problem.

Bahkan industri teknologi menyadari keseriusan masalah ini.

Microsoft's president Brad Smith has called on Congress to intervene.

Direktur Microsoft Brad Smith menyerukan intervensi Kongres.

Google, for its part,

Kemudian Google,

has publicly declined to ship a face surveillance product,

telah menolak terang-terangan untuk mengirim produk pengawasan wajah,

in part because of these grave human and civil rights concerns.

sebagian karena keprihatinan akan hak asasi manusia dan sipil.

And that's a good thing.

Itu hal yang baik.

Because ultimately,

Karena pada akhirnya,

protecting our open society is much more important

melindungi masyarakat luas jauh lebih penting

than corporate profit.

daripada keuntungan bisnis.

The ACLU's nationwide campaign

Kampanye nasional ACLU

to get the government to pump the brakes

supaya pemerintah menunda

on the adoption of this dangerous technology

penggunaan teknologi berbahaya ini

has prompted reasonable questions from thoughtful people.

telah menimbulkan pertanyaan yang wajar dari orang-orang.

What makes this technology in particular so dangerous?

Mengapa teknologi ini khususnya begitu berbahaya?

Why can't we just regulate it?

Kenapa kita tak mengaturnya saja?

In short, why the alarm?

Singkatnya, kenapa takut?

Face surveillance is uniquely dangerous for two related reasons.

Pengawasan wajah berbahaya karena dua alasan.

One is the nature of the technology itself.

Satu adalah sifat teknologi itu sendiri.

And the second is that our system

Yang kedua adalah, sistem kita

fundamentally lacks the oversight and accountability mechanisms

pada dasarnya tidak memiliki pengawasan dan mekanisme akuntabilitas

that would be necessary

yang diperlukan

to ensure it would not be abused in the government's hands.

untuk memastikan tidak ada penyalahgunaan oleh pemerintah.

First, face surveillance enables a totalizing form of surveillance

Pertama, pengawasan wajah memungkinkan sebuah bentuk pengawasan total

never before possible.

yang sebelumnya mustahil.

Every single person's every visit to a friend's house,

Setiap kali seseorang berkunjung ke rumah teman,

a government office,

kantor pemerintah,

a house of worship,

tempat ibadah,

a Planned Parenthood,

kantor Keluarga Berencana,

a cannabis shop,

toko ganja,

a strip club;

klub telanjang;

every single person's public movements, habits and associations

setiap pergerakan publik, kebiasaan, dan perkumpulan seseorang

documented and catalogued,

akan dicatat dan didata,

not on one day, but on every day,

bukan hanya sehari, tetapi setiap hari,

merely with the push of a button.

hanya dengan menekan tombol.

This kind of totalizing mass surveillance

Pengawasan massa total semacam ini

fundamentally threatens what it means to live in a free society.

pada dasarnya mengancam kehidupan dalam masyarakat bebas.

Our freedom of speech, freedom of association,

Kemerdekaan berbicara, kemerdekaan berkumpul,

freedom of religion,

kemerdekaan beragama,

freedom of the press,

kebebasan pers,

our privacy,

privasi kita,

our right to be left alone.

hak kita untuk dibiarkan sendiri.

You may be thinking,

Anda mungkin berpikir,

"OK, come on, but there are tons of ways the government can spy on us."

"OK, tapi pemerintah punya banyak cara memata-matai kita."

And yes, it's true,

Ya, memang benar,

the government can track us through our cell phones,

pemerintah bisa melacak kita lewat telepon seluler,

but if I want to go to get an abortion,

tetapi kalau saya mau menjalani proses aborsi,

or attend a political meeting,

atau mengikuti pertemuan politik,

or even just call in sick and play hooky and go to the beach ...

atau pura-pura sakit dan membolos lalu pergi ke pantai ...

(Laughter)

(Tertawa)

I can leave my phone at home.

Saya bisa meninggalkan ponsel di rumah.

I cannot leave my face at home.

Saya tak bisa meninggalkan wajah saya di rumah.

And that brings me to my second primary concern:

Inilah kekhawatiran kedua saya:

How we might meaningfully regulate this technology.

Bagaimana cara mengatur teknologi ini dengan benar.

Today, if the government wants to know where I was last week,

Sekarang, jika pemerintah ingin tahu ada di mana saya minggu lalu,

they can't just hop into a time machine and go back in time and follow me.

mereka tak bisa masuk ke mesin waktu lalu mengikuti saya.

And they also, the local police right now,

Demikian pula polisi setempat,

don't maintain any centralized system of tracking,

mereka tak memiliki sistem pelacakan terpusat,

where they're cataloging every person's public movements all the time,

yang dapat mendata pergerakan publik setiap orang kapan pun,

just in case that information some day becomes useful.

kalau-kalau informasi itu bisa berguna di masa depan.

Today, if the government wants to know where I was last week,

Saat ini, jika pemerintah mau tahu keberadaan saya minggu lalu,

or last month or last year,

atau bulan lalu atau tahun lalu,

they have to go to a judge, get a warrant

mereka harus memperoleh surat perintah hakim

and then serve that warrant on my phone company,

yang diberikan pada operator telepon saya,

which by the way, has a financial interest in protecting my privacy.

yang memiliki kepentingan finansial untuk menjaga privasi saya.

With face surveillance,

Dengan pengawasan wajah,

no such limitations exist.

batasan seperti itu tidak ada.

This is technology that is 100 percent controlled by the government itself.

Teknologi ini sepenuhnya dikendalikan pemerintah sendiri.

So how would a warrant requirement work in this context?

Lalu bagaimana cara kerja surat perintah dalam konteks ini?

Is the government going to go to a judge

Apakah pemerintah akan menghadap hakim

and get a warrant,

meminta surat perintah,

and then serve the warrant on themselves?

lalu memberikannya pada diri sendiri?

That would be like me giving you my diary,

Sama saja saya memberikan buku harian pada Anda

and saying, "Here, you can hold on to this forever,

dan berkata, "Nih, simpan saja selamanya,

but you can't read it until I say it's OK."

tapi jangan dibaca sampai saya perbolehkan."

So what can we do?

Jadi apa yang bisa kita lakukan?

The only answer to the threat

Satu-satunya jawaban atas ancaman

posed by the government's use of face surveillance

penggunaan pengawasan wajah oleh pemerintah

is to deny the government the capacity to violate the public's trust,

adalah menolak kapasitas pemerintah untuk melanggar kepercayaan publik,

by denying the government the ability

dengan tidak mengizinkan pemerintah

to build these in-house face-surveillance networks.

untuk membangun jaringan pengawas wajah secara internal.

And that's exactly what we're doing.

Itulah yang tengah kami kerjakan.

The ACLU is part of a nationwide campaign

ACLU adalah bagian kampanye nasional

to pump the brakes on the government's use of this dangerous technology.

untuk menghentikan pemerintah menggunakan teknologi berbahaya ini.

We've already been successful,

Kami telah sukses,

from San Francisco to Somerville, Massachusetts,

dari San Francisco, hingga Somerville, Massachusetts,

we have passed municipal bans

kami telah meloloskan peraturan daerah yang melarang

on the government's use of this technology.

penerapan teknologi ini oleh pemerintah.

And plenty of other communities here in Massachusetts

Banyak komunitas lain di Massachusetts dan seluruh negeri

and across the country

are debating similar measures.

tengah membahas aksi serupa.

Some people have told me that this movement is bound to fail.

Beberapa orang mengatakan gerakan ini akan gagal.

That ultimately,

Bahwa pada akhirnya,

merely because the technology exists,

karena adanya teknologi,

it will be deployed in every context

hal itu akan diterapkan dalam setiap konteks

by every government everywhere.

oleh pemerintah mana pun.

Privacy is dead, right?

Sudah tidak ada privasi, betul?

So the narrative goes.

Begitu pesannya.

Well, I refuse to accept that narrative.

Saya menolak memercayainya.

And you should, too.

Anda juga harus begitu.

We can't allow Jeff Bezos or the FBI

Kita tak bisa membiarkan Jeff Bezos atau FBI

to determine the boundaries of our freedoms in the 21st century.

mengatur batas kebebasan kita di abad ke-21.

If we live in a democracy,

Jika kita hidup dalam demokrasi,

we are in the driver's seat,

kita ada di kursi pengemudi,

shaping our collective future.

membentuk masa depan kita bersama.

We are at a fork in the road right now.

Kita sedang ada di persimpangan jalan.

We can either continue with business as usual,

Kita bisa melanjutkan bisnis seperti biasa,

allowing governments to adopt and deploy these technologies unchecked,

membiarkan pemerintah menerapkan teknologi ini tanpa pengawasan,

in our communities, our streets and our schools,

di komunitas kita, jalanan kita, dan sekolah kita,

or we can take bold action now

atau kita bisa mengambil tindakan tegas sekarang:

to press pause on the government's use of face surveillance,

menekan tombol jeda

pada penggunaan pengawasan wajah oleh pemerintah,

protect our privacy

melindungi privasi kita,

and to build a safer, freer future

dan membangun masa depan yang lebih aman dan bebas

for all of us.

bagi kita semua.

Thank you.

Terima kasih.

(Applause and cheers)

(Tepuk tangan dan sorak-sorai)