Can AI predict someone's breakup? - Thomas Hofweber

Tradutor: Margarida Ferreira Revisora: Eliana Santos

You and your partner Alex have been in a strong, loving relationship for years,

Tu e o teu parceiro Alex têm uma relação forte e amorosa há anos

and lately you're considering getting engaged.

e ultimamente estão a pensar em ficar noivos.

Alex is enthusiastic about the idea, but you can’t get over the statistics.

O Alex está entusiasmado com a ideia, mas tu não podes ignorar as estatísticas.

You know a lot of marriages end in divorce, often not amicably.

Tu sabes que muitos casamentos terminam em divórcio,

muitas vezes pouco amigavelmente.

And over 10% of couples in their first marriage get divorced

Mais de 10% dos casais, no primeiro casamento,

divorciam-se nos primeiros cinco anos.

within the first five years.

If your marriage wouldn’t even last five years,

Se o vosso casamento não durasse nem cinco anos,

you feel like tying the knot would be a mistake.

tu sentirias que seria um erro dar o nó.

But you live in the near future,

Mas tu vives no futuro próximo,

where a brand-new company just released an AI-based model

em que uma nova empresa acaba de lançar um modelo baseado na IA

that can predict your likelihood of divorce.

que pode prever a vossa probabilidade de divórcio.

The model is trained on data sets

O modelo é treinado em conjuntos de dados

containing individuals’ social media activity,

que contêm a atividade dos indivíduos nas redes sociais,

online search histories, spending habits, and history of marriage and divorce.

os históricos de pesquisas online

os hábitos de consumo e a história de casamentos e divórcios.

And using this information,

Usando estas informações,

the AI can predict if a couple will divorce

a IA pode prever se um casal se vai divorciar

within the first five years of marriage with 95% accuracy.

nos primeiros cinco anos de casamento, com 95% de precisão.

The only catch is the model doesn’t offer any reasons for its results—

O único problema é que o modelo

não oferece nenhuma justificação para os seus resultados,

it simply predicts that you will or won’t divorce without saying why.

apenas prevê que acabarás ou não em divórcio, sem dizer porquê.

So, should you decide whether or not to get married

Assim, deverás decidir se vais ou não casar

based on this AI’s prediction?

com base nesta previsão da IA?

Suppose the model predicts you and Alex

Supõe que o modelo prevê

que tu e o Alex se divorciariam cinco anos depois de se casarem.

would divorce within five years of getting married.

At this point, you'd have three options.

Nessa altura, terás três opções.

You could get married anyway and hope the prediction is wrong.

Podes casar na mesma e esperar que a previsão esteja errada.

You could break up now,

Podes acabar agora, embora não haja maneira de saber

though there’s no way to know if ending your currently happy relationship

se acabar com a tua relação, atualmente feliz,

would cause more harm than letting the prediction run its course.

causará mais mal do que deixar a previsão seguir o seu curso.

Or, you could stay together and remain unmarried,

Ou podem ficar juntos e permanecer solteiros,

on the off-chance marriage itself would be the problem.

se o problema é o próprio casamento.

Though without understanding the reasons for your predicted divorce,

Apesar de não compreenderes as razões para o vosso divórcio previsto,

you’d never know if those mystery issues would still emerge

nunca saberias se essas questões misteriosas surgiriam

to ruin your relationship.

para arruinar a vossa relação.

The uncertainty undermining all these options

A incerteza que mina todas estas opções

stems from a well known issue with AI around explainability and transparency.

decorre de um problema bem conhecido com a IA

em volta da explicabilidade e da transparência.

This problem plagues tons of potentially useful predictive models,

Este problema afeta toneladas de modelos preditivos potencialmente úteis,

such as those that could be used to predict which bank customers

como os que poderiam ser usados para prever

quais os clientes dos bancos

are most likely to repay a loan,

com maior probabilidade de reembolsar um empréstimo,

or which prisoners are most likely to reoffend if granted parole.

ou os prisioneiros com maior probabilidade de reincidir,

se em liberdade condicional.

Without knowing why AI systems reach their decisions,

Sem saber como é que a IA chega à sua decisão

many worry we can’t think critically about how to follow their advice.

muitos temem que não possamos pensar criticamente

sobre como seguir essas opiniões.

But the transparency problem doesn’t just prevent us

Mas o problema da transparência

não nos impede apenas de compreender estes modelos,

from understanding these models,

it also impacts the user’s accountability.

também exerce impacto na responsabilidade do utilizador.

Por exemplo, se a previsão da IA te levasse a romper com o Alex,

For example, if the AI's prediction led you to break up with Alex,

what explanation could you reasonably offer them?

que explicação é que podias razoavelmente dar-lhe?

That you want to end your happy relationship

Que queres acabar com a vossa relação feliz

because some mysterious machine predicted its demise?

porque uma certa máquina misteriosa previu o fim dela?

That hardly seems fair to Alex.

Isso dificilmente parecerá justo ao Alex.

We don’t always owe people an explanation for our actions,

Nem sempre devemos às pessoas uma explicação para as nossas ações,

but when we do,

mas quando o fazemos, a falta de transparência da IA

AI’s lack of transparency can create ethically challenging situations.

pode criar situações eticamente problemáticas.

And accountability is just one of the tradeoffs we make

E a responsabilização é apenas um dos compromissos que tomamos

by outsourcing important decisions to AI.

ao confiarmos decisões importantes à IA.

If you’re comfortable deferring your agency to an AI model

Se te sentires bem em entregar a tua capacidade de decisão a um modelo de IA,

it’s likely because you’re focused on the accuracy of the prediction.

provavelmente é porque estás preocupado com a precisão da previsão.

In this mindset, it doesn’t really matter why you and Alex might break up—

Neste quadro mental, não interessa muito porque é que tu e o Alex possam acabar,

simply that you likely will.

mas simplesmente que, provavelmente, o farão.

But if you prioritize authenticity over accuracy,

Mas se deres prioridade à autenticidade em detrimento da precisão,

then you'll need to understand and appreciate the reasons

terás de compreender e apreciar as razões do vosso futuro divórcio

for your future divorce before ending things today.

antes de acabar com as coisas já hoje.

Authentic decision making like this is essential for maintaining accountability,

Uma tomada de decisão autêntica como esta é essencial para manter a responsabilidade

and it might be your best chance to prove the prediction wrong.

e pode ser a tua melhor hipótese de provar que a previsão está errada.

On the other hand, it’s also possible the model

Por outro lado, também é possível

already accounted for your attempts to defy it,

que o modelo já tenha considerado as tuas tentativas de desafiá-lo,

and you’re just setting yourself up for failure.

e estás a preparar-te a ti mesma para o fracasso.

95% accuracy is high, but it’s not perfect—

95% de precisão é muito bom, mas não é a perfeição.

that figure means 1 in 20 couples will receive a false prediction.

Este número significa que 1 em cada 20 casais

receberá uma previsão falsa.

And as more people use this service,

E à medida que mais pessoas usam este serviço,

the likelihood increases that someone who was predicted to divorce

aumenta a probabilidade de que alguém que estava previsto divorciar-se

will do so just because the AI predicted they would.

o faça apenas porque a IA previu que o faria.

If that happens to enough newlyweds,

Se isso acontecer a um número suficiente de recém-casados,

the AI's success rate could be artificially maintained

a taxa de êxito da IA poderá manter-se artificialmente

or even increased by these self-fulfilling predictions.

ou mesmo aumentar com estas previsões autorrealizáveis.

Of course, no matter what the AI might tell you,

Claro, não interessa o que a IA possa dizer-te,

whether you even ask for its prediction is still up to you.

se vais pedir essa previsão continua a ser da tua responsabilidade.