Could AI predict the future? - Thomas Hofweber

Traductor: Angel Covarrubias Revisor: Sebastian Betti

You and your partner Alex have been in a strong, loving relationship for years,

Con tu pareja Alex han estado en una relación fuerte y amorosa durante años,

and lately you're considering getting engaged.

y últimamente están considerando comprometerse.

Alex is enthusiastic about the idea, but you can’t get over the statistics.

Alex se entusiasma con la idea, pero no puedes olvidar las estadísticas.

You know a lot of marriages end in divorce, often not amicably.

Sabes que muchos matrimonios terminan en divorcio, a menudo no amistosamente.

And over 10% of couples in their first marriage get divorced

Y más del 10 % de las parejas en su primer matrimonio se divorcian

within the first five years.

en los primeros cinco años.

If your marriage wouldn’t even last five years,

Si tu matrimonio ni siquiera duraría cinco años,

you feel like tying the knot would be a mistake.

crees que casarse sería un error.

But you live in the near future,

Pero vives en un futuro próximo,

where a brand-new company just released an AI-based model

donde una nueva empresa acaba de lanzar un modelo basado en IA

that can predict your likelihood of divorce.

que puede predecir tu probabilidad de divorcio.

The model is trained on data sets

El modelo se basa en datos

de la actividad del individuo en redes sociales,

containing individuals’ social media activity,

online search histories, spending habits, and history of marriage and divorce.

historiales de búsqueda, hábitos de gasto y el historial de matrimonios y divorcios.

And using this information,

Y con esta información,

the AI can predict if a couple will divorce

la IA puede predecir si una pareja se divorciará

within the first five years of marriage with 95% accuracy.

dentro de los primeros cinco años de matrimonio con una precisión del 95 %.

The only catch is the model doesn’t offer any reasons for its results—

El problema es que el modelo no ofrece ninguna razón para sus resultados;

it simply predicts that you will or won’t divorce without saying why.

simplemente predice que te divorciarás o no sin decir por qué.

So, should you decide whether or not to get married

Entonces, ¿deberías decidir si te vas a casar o no

based on this AI’s prediction?

basándote en la predicción de esta IA?

Suppose the model predicts you and Alex

Supongamos que el modelo predice que Alex y tú

would divorce within five years of getting married.

se divorciarán a los cinco años de casarse.

At this point, you'd have three options.

En este punto, tendrías tres opciones.

Podrías casarte de todos modos y esperar que la predicción sea errónea.

You could get married anyway and hope the prediction is wrong.

You could break up now,

Podrías romper ahora,

though there’s no way to know if ending your currently happy relationship

aunque no hay forma de saber si terminar tu relación actualmente feliz

would cause more harm than letting the prediction run its course.

causaría más daño que dejar que la predicción siga su curso.

Or, you could stay together and remain unmarried,

O bien, podrían permanecer juntos y sin casarse,

on the off-chance marriage itself would be the problem.

con la esperanza de que el matrimonio sea realmente el problema.

Though without understanding the reasons for your predicted divorce,

Aunque sin comprender las razones de la predicción de su divorcio,

you’d never know if those mystery issues would still emerge

nunca sabrías si esos problemas misteriosos surgirían de todos modos

to ruin your relationship.

para arruinar tu relación.

The uncertainty undermining all these options

La incertidumbre que socava todas estas opciones

stems from a well known issue with AI around explainability and transparency.

se origina de un problema común con la IA sobre su explicabilidad y transparencia.

This problem plagues tons of potentially useful predictive models,

Este problema afecta a muchísimos modelos predictivos potencialmente útiles,

such as those that could be used to predict which bank customers

como los que podrían usarse para predecir qué clientes bancarios

are most likely to repay a loan,

son más probables de pagar un préstamo

or which prisoners are most likely to reoffend if granted parole.

o qué reclusos son más probables de reincidir al darles libertad condicional.

Without knowing why AI systems reach their decisions,

Sin saber por qué los sistemas de IA toman sus decisiones,

many worry we can’t think critically about how to follow their advice.

a muchos les preocupa que no podamos interpretar el cómo seguir sus consejos.

But the transparency problem doesn’t just prevent us

Sin embargo, el problema de la transparencia no solo

from understanding these models,

nos impide entender estos modelos,

it also impacts the user’s accountability.

también afecta a la responsabilidad del usuario.

For example, if the AI's prediction led you to break up with Alex,

Por ejemplo, si la predicción de la IA te llevó a romper con Alex,

what explanation could you reasonably offer them?

¿qué explicación razonable podrías ofrecerles?

That you want to end your happy relationship

¿Que quieres poner fin a su feliz relación

because some mysterious machine predicted its demise?

porque una misteriosa máquina predijo su destrucción?

That hardly seems fair to Alex.

Eso no parece justo para Alex.

We don’t always owe people an explanation for our actions,

No siempre le debemos a la gente una explicación por nuestras acciones,

but when we do,

pero cuando sí debemos,

AI’s lack of transparency can create ethically challenging situations.

la falta de transparencia de la IA puede crear situaciones éticamente difíciles.

And accountability is just one of the tradeoffs we make

Y asumir la responsabilidad es un precio que debemos pagar

by outsourcing important decisions to AI.

por dejar decisiones importantes en manos de una IA.

If you’re comfortable deferring your agency to an AI model

Si te sientes cómodo dándole tus decisiones a un modelo de IA

it’s likely because you’re focused on the accuracy of the prediction.

es probable que sea porque estás enfocado en la precisión de su predicción.

In this mindset, it doesn’t really matter why you and Alex might break up—

Con esta mentalidad, realmente no importa por qué Alex y tú podrían separarse,

simply that you likely will.

simplemente que es probable que lo hagan.

But if you prioritize authenticity over accuracy,

Pero si priorizas la autenticidad sobre la precisión,

then you'll need to understand and appreciate the reasons

entonces necesitarás comprender y apreciar las razones

for your future divorce before ending things today.

de tu futuro divorcio antes de terminar las cosas hoy.

Authentic decision making like this is essential for maintaining accountability,

Una toma de decisiones auténtica como esta es esencial para mantener responsabilidad,

and it might be your best chance to prove the prediction wrong.

y podría ser tu mejor oportunidad para demostrar que la predicción es errónea.

On the other hand, it’s also possible the model

Por otro lado, también es posible que el modelo

already accounted for your attempts to defy it,

ya haya tenido en cuenta tus intentos de desafiarlo

and you’re just setting yourself up for failure.

y que solo te estés preparando para el fracaso.

95% accuracy is high, but it’s not perfect—

La precisión del 95 % es alta, pero no es perfecta:

that figure means 1 in 20 couples will receive a false prediction.

eso significa que 1 de cada 20 parejas recibirá una predicción falsa.

And as more people use this service,

Y a medida que más personas utilizan este servicio,

the likelihood increases that someone who was predicted to divorce

la probabilidad de que alguien que estaba previsto a divorciarse

will do so just because the AI predicted they would.

lo haga solo porque la IA predijo que lo haría.

Si eso le ocurre a un número suficiente de recién casados,

If that happens to enough newlyweds,

the AI's success rate could be artificially maintained

la tasa de éxito de la IA podría mantenerse artificialmente

or even increased by these self-fulfilling predictions.

o incluso aumentarse gracias a estas predicciones autocumplidas.

Of course, no matter what the AI might tell you,

Por supuesto, independientemente de lo que te diga la IA,

whether you even ask for its prediction is still up to you.

pedirle que haga una predicción depende de ti.