Could AI predict the future? - Thomas Hofweber

Translator: Indah Setiawan Reviewer: Reno Kanti Riananda

You and your partner Alex have been in a strong, loving relationship for years,

Anda dan pasangan Anda, Alex, telah berpacaran selama bertahun-tahun,

and lately you're considering getting engaged.

dan belakangan Anda berpikir untuk bertunangan.

Alex is enthusiastic about the idea, but you can’t get over the statistics.

Alex antusias dengan ide itu, tetapi Anda tidak bisa melupakan statistik.

You know a lot of marriages end in divorce, often not amicably.

Anda tahu banyak pasangan yang akhirnya bercerai,

seringkali secara tidak damai.

And over 10% of couples in their first marriage get divorced

Lebih dari 10% pasangan bercerai dalam lima tahun pertama

pada pernikahan pertama mereka.

within the first five years.

If your marriage wouldn’t even last five years,

Jika pernikahan Anda bahkan tidak bertahan lima tahun,

you feel like tying the knot would be a mistake.

Anda merasa seakan menikah akan menjadi kesalahan.

But you live in the near future,

Namun, Anda hidup di masa depan,

where a brand-new company just released an AI-based model

di mana sebuah perusahaan anyar baru saja merilis model berbasis AI

that can predict your likelihood of divorce.

yang dapat memprediksi kemungkinan perceraian Anda.

The model is trained on data sets

Model ini dilatih dengan kumpulan data

containing individuals’ social media activity,

berisi aktivitas media sosial individu, riwayat pencarian daring,

online search histories, spending habits, and history of marriage and divorce.

kebiasaan belanja, serta sejarah pernikahan dan perceraian.

And using this information,

Dengan informasi ini,

the AI can predict if a couple will divorce

AI dapat memprediksi apakah pasangan akan bercerai

within the first five years of marriage with 95% accuracy.

dalam lima tahun pertama pernikahan dengan akurasi 95 persen.

The only catch is the model doesn’t offer any reasons for its results—

Masalahnya hanyalah model AI tidak memberikan alasan apa pun untuk hasilnya—

it simply predicts that you will or won’t divorce without saying why.

ia hanya memprediksi Anda akan bercerai atau tidak tanpa mengatakan alasannya.

So, should you decide whether or not to get married

Jadi, haruskah Anda mengambil keputusan berdasarkan prediksi AI ini?

based on this AI’s prediction?

Suppose the model predicts you and Alex

Anggaplah model memprediksi Anda dan Alex akan bercerai dalam lima tahun pernikahan.

would divorce within five years of getting married.

At this point, you'd have three options.

Pada titik ini, Anda akan memiliki tiga pilihan.

You could get married anyway and hope the prediction is wrong.

Anda bisa tetap menikah dan berharap prediksi itu salah.

You could break up now,

Atau, berpisah sekarang,

though there’s no way to know if ending your currently happy relationship

meskipun tidak ada yang tahu apakah mengakhiri hubungan bahagia Anda saat ini

would cause more harm than letting the prediction run its course.

akan memicu lebih banyak kerugian daripada membiarkan prediksi berjalan.

Or, you could stay together and remain unmarried,

Atau, Anda bisa tetap bersama dan tetap tidak menikah,

on the off-chance marriage itself would be the problem.

dengan alasan pernikahan itu sendiri akan menjadi masalah.

Though without understanding the reasons for your predicted divorce,

Meskipun tanpa memahami alasan perceraian Anda yang telah diprediksi,

you’d never know if those mystery issues would still emerge

Anda tidak akan pernah tahu apakah masalah misterius itu masih akan muncul

to ruin your relationship.

untuk merusak hubungan Anda.

The uncertainty undermining all these options

Ketidakpastian yang merusak semua opsi ini

stems from a well known issue with AI around explainability and transparency.

berasal dari isu umum terkait AI seputar penjelasan dan transparansi.

This problem plagues tons of potentially useful predictive models,

Isu ini mengganggu banyak model prediksi yang berpotensi bermanfaat,

such as those that could be used to predict which bank customers

seperti model-model yang digunakan untuk memprediksi nasabah bank mana

are most likely to repay a loan,

yang paling mungkin melunasi pinjaman,

or which prisoners are most likely to reoffend if granted parole.

atau tahanan yang paling mungkin untuk mengulangi kejahatan

jika diberi pembebasan bersyarat.

Without knowing why AI systems reach their decisions,

Tanpa mengetahui bagaimana sistem AI mencapai keputusan mereka,

many worry we can’t think critically about how to follow their advice.

banyak yang cemas tidak bisa mengkritisi cara mengikuti saran mereka.

But the transparency problem doesn’t just prevent us

Masalah transparansi tidak hanya mencegah kita memahami model-model ini,

from understanding these models,

it also impacts the user’s accountability.

melainkan juga berdampak pada akuntabilitas pengguna.

For example, if the AI's prediction led you to break up with Alex,

Misalnya, jika prediksi AI menyebabkan Anda berpisah dengan Alex,

what explanation could you reasonably offer them?

penjelasan masuk akal apa yang bisa Anda berikan kepadanya?

That you want to end your happy relationship

Bahwa Anda mengakhiri hubungan bahagia Anda

because some mysterious machine predicted its demise?

karena ada mesin misterius yang meramalkan akhirnya?

That hardly seems fair to Alex.

Itu tampaknya tidak adil bagi Alex.

We don’t always owe people an explanation for our actions,

Kita tidak selalu harus menjelaskan alasan atas tindakan kita,

but when we do,

tetapi jika harus,

AI’s lack of transparency can create ethically challenging situations.

kurangnya transparansi AI bisa menciptakan situasi yang menantang secara etis.

And accountability is just one of the tradeoffs we make

Akuntabilitas hanyalah salah satu pengorbanan yang kita buat

by outsourcing important decisions to AI.

saat mengalihdayakan keputusan penting ke AI.

If you’re comfortable deferring your agency to an AI model

Jika Anda merasa tidak keberatan mengalihkan tanggung jawab ke model AI,

it’s likely because you’re focused on the accuracy of the prediction.

mungkin itu karena Anda fokus pada keakuratan prediksi.

In this mindset, it doesn’t really matter why you and Alex might break up—

Dalam pola pikir ini, tidak masalah mengapa Anda dan Alex mungkin berpisah—

simply that you likely will.

sesederhana Anda mungkin akan berpisah.

But if you prioritize authenticity over accuracy,

Namun, jika Anda memprioritaskan autentisitas daripada akurasi,

then you'll need to understand and appreciate the reasons

maka Anda perlu memahami dan menghargai alasan perceraian Anda di masa depan

for your future divorce before ending things today.

sebelum mengakhiri semuanya hari ini.

Authentic decision making like this is essential for maintaining accountability,

Pengambilan keputusan autentik seperti ini sangat penting

untuk mempertahankan akuntabilitas,

and it might be your best chance to prove the prediction wrong.

dan ini mungkin kesempatan terbaik Anda untuk membuktikan prediksi itu salah.

On the other hand, it’s also possible the model

Di sisi lain, mungkin juga model itu sudah memperhitungkan upaya untuk menentangnya

already accounted for your attempts to defy it,

and you’re just setting yourself up for failure.

dan Anda hanya bersiap untuk gagal.

95% accuracy is high, but it’s not perfect—

Akurasi 95 persen itu tinggi, tetapi tidak sempurna—

that figure means 1 in 20 couples will receive a false prediction.

angka itu berarti 1 dari 20 pasangan akan menerima prediksi yang salah.

And as more people use this service,

Semakin banyak orang menggunakan layanan ini,

the likelihood increases that someone who was predicted to divorce

kemungkinan seseorang yang diprediksi akan bercerai

will do so just because the AI predicted they would.

akan benar-benar bercerai, hanya karena prediksi AI juga meningkat.

If that happens to enough newlyweds,

Jika itu terjadi pada cukup banyak pengantin baru,

the AI's success rate could be artificially maintained

tingkat keberhasilan AI dapat dipertahankan secara artifisial

or even increased by these self-fulfilling predictions.

atau bahkan ditingkatkan dengan prediksi yang terpenuhi dengan sendirinya ini.

Of course, no matter what the AI might tell you,

Tentu, tidak peduli apa yang AI mungkin katakan kepada Anda,

whether you even ask for its prediction is still up to you.

apakah Anda akan meminta prediksinya, itu semua terserah Anda.