Could AI predict the future? - Thomas Hofweber

Traduttore: Roberto Comunale Revisore: Giorgia Salvato

You and your partner Alex have been in a strong, loving relationship for years,

Tu e il tuo partner Alex avete una relazione forte e amorevole da anni

and lately you're considering getting engaged.

e ultimamente state pensando di fidanzarvi.

Alex is enthusiastic about the idea, but you can’t get over the statistics.

Alex è entusiasta dell’idea, ma non si possono superare le statistiche.

You know a lot of marriages end in divorce, often not amicably.

Si sa che molti matrimoni finiscono con il divorzio, spesso non amichevolmente.

And over 10% of couples in their first marriage get divorced

E oltre il 10% delle coppie al primo matrimonio divorzia

within the first five years.

entro i primi cinque anni.

If your marriage wouldn’t even last five years,

Se il tuo matrimonio non durasse nemmeno cinque anni,

you feel like tying the knot would be a mistake.

penseresti che impegnarsi sarebbe un errore.

But you live in the near future,

Ma vivi in un futuro prossimo,

where a brand-new company just released an AI-based model

dove una nuova società ha rilasciato un modello basato sull’IA

that can predict your likelihood of divorce.

in grado di prevedere la tua probabilità di divorzio.

The model is trained on data sets

Il modello è calibrato su set di dati

containing individuals’ social media activity,

contenenti attività individuale sui social media,

online search histories, spending habits, and history of marriage and divorce.

cronologie di ricerca, abitudini di spesa, storia del matrimonio e del divorzio.

And using this information,

Con queste informazioni,

l'intelligenza artificiale può prevedere se una coppia divorzierà

the AI can predict if a couple will divorce

within the first five years of marriage with 95% accuracy.

entro i primi cinque anni di matrimonio con una precisione del 95%.

The only catch is the model doesn’t offer any reasons for its results—

L’unico problema è che non offre alcuna spiegazione per i suoi risultati,

it simply predicts that you will or won’t divorce without saying why.

prevede semplicemente che divorzierai o non divorzierai senza dire perché.

So, should you decide whether or not to get married

Quindi, dovresti decidere se sposarti o meno

based on this AI’s prediction?

in base alla previsione di questa intelligenza artificiale?

Suppose the model predicts you and Alex

Supponiamo che il modello preveda che tu e Alex

would divorce within five years of getting married.

divorzierete entro cinque anni dal matrimonio.

At this point, you'd have three options.

A questo punto, avreste tre opzioni.

You could get married anyway and hope the prediction is wrong.

Potreste sposarvi comunque e sperare che la previsione sia errata.

You could break up now,

Potreste lasciarvi adesso,

though there’s no way to know if ending your currently happy relationship

anche se non si può sapere se porre fine all’attuale relazione felice

would cause more harm than letting the prediction run its course.

causerebbe più danni che lasciare che la previsione faccia il suo corso.

Or, you could stay together and remain unmarried,

Oppure, potreste stare insieme e rimanere non sposati,

on the off-chance marriage itself would be the problem.

nella remota possibilità che il matrimonio stesso sia il problema.

Though without understanding the reasons for your predicted divorce,

Senza comprendere le ragioni del divorzio previsto,

you’d never know if those mystery issues would still emerge

non saprete mai se quei problemi misteriosi emergerebbero ancora

to ruin your relationship.

per rovinare la vostra relazione.

The uncertainty undermining all these options

L'incertezza che mina tutte queste opzioni

stems from a well known issue with AI around explainability and transparency.

deriva da un problema ben noto dell’IA in materia di spiegabilità e trasparenza.

Questo problema affligge moltissimi modelli predittivi potenzialmente utili,

This problem plagues tons of potentially useful predictive models,

such as those that could be used to predict which bank customers

come quelli che potrebbero essere usati per prevedere quali clienti bancari

are most likely to repay a loan,

più probabilmente salderanno un prestito,

or which prisoners are most likely to reoffend if granted parole.

o quali detenuti hanno più probabilità di recidiva sotto libertà condizionale.

Without knowing why AI systems reach their decisions,

Senza sapere perché i sistemi di IA giungono alle loro decisioni,

many worry we can’t think critically about how to follow their advice.

molti temono che non possiamo pensare criticamente a come seguirne i consigli.

But the transparency problem doesn’t just prevent us

Ma il problema della trasparenza non solo ci impedisce

from understanding these models,

di comprendere questi modelli,

it also impacts the user’s accountability.

ma influisce anche sulla responsabilità dell’utente.

For example, if the AI's prediction led you to break up with Alex,

Ad esempio, se la previsione dell’IA vi portasse a lasciarvi con Alex,

what explanation could you reasonably offer them?

quale spiegazione potreste ragionevolmente offrire loro?

That you want to end your happy relationship

Che volete terminare la vostra relazione felice

because some mysterious machine predicted its demise?

perché una macchina misteriosa ne ha predetto la fine?

That hardly seems fair to Alex.

Non sembra giusto per Alex.

We don’t always owe people an explanation for our actions,

Non sempre dobbiamo alle persone una spiegazione per le nostre azioni,

but when we do,

ma quando lo facciamo,

AI’s lack of transparency can create ethically challenging situations.

la mancata trasparenza dell’IA può creare situazioni eticamente difficili.

And accountability is just one of the tradeoffs we make

E la responsabilità è solo uno dei compromessi che facciamo

by outsourcing important decisions to AI.

affidando decisioni importanti all’IA.

If you’re comfortable deferring your agency to an AI model

Se siete a vostro agio nell’affidare il vostro agire ad un modello di IA

it’s likely because you’re focused on the accuracy of the prediction.

è probabile che siate concentrati sulla precisione della previsione.

In this mindset, it doesn’t really matter why you and Alex might break up—

Così, non importa davvero il motivo per cui tu e Alex potreste lasciarvi,

simply that you likely will.

ma semplicemente che probabilmente lo farete.

But if you prioritize authenticity over accuracy,

Ma se date priorità all’autenticità rispetto alla precisione,

then you'll need to understand and appreciate the reasons

allora dovrete comprendere e apprezzare le motivazioni

for your future divorce before ending things today.

del vostro futuro divorzio prima di porre fine alle cose oggi.

Authentic decision making like this is essential for maintaining accountability,

Un processo decisionale vero come questo è vitale per mantenere la responsabilità

and it might be your best chance to prove the prediction wrong.

e potrebbe essere la vostra migliore prova per dimostrare che la previsione è errata.

On the other hand, it’s also possible the model

D’altra parte, è anche possibile che il modello

already accounted for your attempts to defy it,

abbia già tenuto conto dei vostri tentativi di sfidarlo,

and you’re just setting yourself up for failure.

e che vi stiate solo preparando al fallimento.

95% accuracy is high, but it’s not perfect—

La precisione del 95% è elevata, ma non perfetta,

that figure means 1 in 20 couples will receive a false prediction.

questa cifra significa che 1 coppia su 20 riceverà una previsione falsa.

And as more people use this service,

Se più persone utilizzeranno questo servizio,

the likelihood increases that someone who was predicted to divorce

aumenterà la probabilità che qualcuno a cui era stato previsto di divorziare

will do so just because the AI predicted they would.

lo farà solo perché l’IA lo aveva previsto.

If that happens to enough newlyweds,

Se ciò accadesse ad un numero sufficiente di sposini,

the AI's success rate could be artificially maintained

la percentuale di successo dell’IA potrebbe essere mantenuta artificialmente

or even increased by these self-fulfilling predictions.

o addirittura aumentata da queste previsioni che si autoavverano.

Of course, no matter what the AI might tell you,

Ovviamente, indipendentemente da ciò che l’IA potrebbe dirvi,

whether you even ask for its prediction is still up to you.

dipende comunque da voi se chiedere o no una previsione.