How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Traductor: Ciro Gomez Revisor: Lidia Cámara de la Fuente

Let me share a paradox.

Déjenme compartir una paradoja.

For the last 10 years,

Durante los últimos 10 años,

many companies have been trying to become less bureaucratic,

muchas compañías han intentado ser menos burocráticas,

to have fewer central rules and procedures,

tener menos reglas centrales y procedimientos,

more autonomy for their local teams to be more agile.

más autonomía para que sus equipos locales sean más ágiles.

And now they are pushing artificial intelligence, AI,

Y ahora están dando cuerda a la inteligencia artificial, IA,

unaware that cool technology

sin darse cuenta de que esta genial tecnología

might make them more bureaucratic than ever.

podría hacerlos más burocráticos que nunca.

Why?

¿Por qué?

Because AI operates just like bureaucracies.

Porque la IA opera al igual que las burocracias.

The essence of bureaucracy

La esencia de la burocracia

is to favor rules and procedures over human judgment.

es favorecer reglas y procedimientos sobre el juicio humano.

And AI decides solely based on rules.

Y la IA decide únicamente según las reglas.

Many rules inferred from past data

Muchas reglas inferidas de datos pasados,

but only rules.

pero solo reglas.

And if human judgment is not kept in the loop,

Y si no se involucra el juicio humano

AI will bring a terrifying form of new bureaucracy --

la AI traerá una forma aterradora de nueva burocracia,

I call it "algocracy" --

yo la llamo "algocracia"

where AI will take more and more critical decisions by the rules

donde la IA tomará más y más decisiones críticas basada en reglas

outside of any human control.

fuera de cualquier control humano.

Is there a real risk?

¿Existe un riesgo real?

Yes.

Sí.

I'm leading a team of 800 AI specialists.

Lidero un equipo de 800 especialistas en IA.

We have deployed over 100 customized AI solutions

Hemos instalados más de 100 soluciones de IA personalizadas

for large companies around the world.

para grandes empresas de todo el mundo.

And I see too many corporate executives behaving like bureaucrats from the past.

Y veo demasiados ejecutivos corporativos comportándose como burócratas del pasado.

They want to take costly, old-fashioned humans out of the loop

Quieren sacar a humanos costosos y anticuados del proceso

and rely only upon AI to take decisions.

y confiar solo en la IA en la toma de decisiones.

I call this the "human-zero mindset."

Yo llamo a esto la "mentalidad de cero humanos".

And why is it so tempting?

¿Y por qué es eso tan tentador?

Because the other route, "Human plus AI," is long,

Porque la otra ruta, "Humano más IA" es larga,

costly and difficult.

costosa y difícil.

Business teams, tech teams, data-science teams

Equipos de negocios, equipos tecnológicos, equipos de ciencia de datos

have to iterate for months

tienen que interaccionar meses

to craft exactly how humans and AI can best work together.

para encontrar cómo los humanos y la IA pueden trabajar mejor juntos.

Long, costly and difficult.

Largo, costoso y difícil.

But the reward is huge.

Pero la recompensa es enorme.

A recent survey from BCG and MIT

Una encuesta reciente de BCG y MIT

shows that 18 percent of companies in the world

muestra que el 18 % de empresas en el mundo

are pioneering AI,

son pioneras en IA,

making money with it.

haciendo dinero con eso.

Those companies focus 80 percent of their AI initiatives

Esas compañías se enfocan un 80 % de sus iniciativas de IA

on effectiveness and growth,

en efectividad y crecimiento,

taking better decisions --

tomando mejores decisiones

not replacing humans with AI to save costs.

no reemplazando humanos con IA para ahorrar costos.

Why is it important to keep humans in the loop?

¿Por qué es importante mantener a los humanos involucrados?

Simply because, left alone, AI can do very dumb things.

Simplemente porque, dejándola sola, la IA puede hacer cosas muy tontas.

Sometimes with no consequences, like in this tweet.

A veces sin consecuencias, como en este tuit.

"Dear Amazon,

"Querida Amazon,

I bought a toilet seat.

compré un asiento de inodoro.

Necessity, not desire.

Por necesidad, no por deseo.

I do not collect them,

No los colecciono.

I'm not a toilet-seat addict.

No soy un adicto a los inodoros.

No matter how temptingly you email me,

No importa cuán tentador sea el correo,

I am not going to think, 'Oh, go on, then,

No voy a pensar, 'Oh, adelante, entonces,

one more toilet seat, I'll treat myself.' "

un asiento de inodoro más, Trataré yo mismo".

(Laughter)

(Risas)

Sometimes, with more consequence, like in this other tweet.

A veces, con más consecuencia, como en este otro tuit.

"Had the same situation

"Tenía la misma situación

with my mother's burial urn."

con la urna funeraria de mi madre".

(Laughter)

(Risas)

"For months after her death,

"Por meses tras su muerte,

I got messages from Amazon, saying, 'If you liked that ...' "

recibí mensajes de Amazon, diciendo: 'Si te gustó eso...' ".

(Laughter)

(Risas)

Sometimes with worse consequences.

A veces con peores consecuencias.

Take an AI engine rejecting a student application for university.

Por ejemplo, una IA rechazando una solicitud para la universidad.

Why?

¿Por qué?

Because it has "learned," on past data,

Porque ha "aprendido" de datos pasados,

characteristics of students that will pass and fail.

características de los estudiantes este pasará y este fallará.

Some are obvious, like GPAs.

Algunos obvios, como los exámenes de grado.

But if, in the past, all students from a given postal code have failed,

Pero si, en el pasado, los estudiantes de un código postal dado han fallado,

it is very likely that AI will make this a rule

es muy probable que la IA hará de esto una regla

and will reject every student with this postal code,

y rechazará a cada estudiante con este código postal,

not giving anyone the opportunity to prove the rule wrong.

sin darle a nadie la oportunidad para demostrar que la regla está equivocada.

And no one can check all the rules,

Y nadie puede verificar todas las reglas,

because advanced AI is constantly learning.

porque la IA avanzada está constantemente aprendiendo.

And if humans are kept out of the room,

Y si los humanos no están involucrados,

there comes the algocratic nightmare.

llega la pesadilla algocrática.

Who is accountable for rejecting the student?

¿Quién es responsable? de rechazar al estudiante?

No one, AI did.

Nadie, la AI lo hizo.

Is it fair? Yes.

¿Es justo? Sí.

The same set of objective rules has been applied to everyone.

El mismo conjunto de reglas objetivas se ha aplicado a todos.

Could we reconsider for this bright kid with the wrong postal code?

¿Podríamos reconsiderar a este niño brillante con el código postal incorrecto?

No, algos don't change their mind.

No, los algoritmos no cambian de opinión.

We have a choice here.

Tenemos una opción aquí.

Carry on with algocracy

Continuar con algoritmocracia

or decide to go to "Human plus AI."

o decidir ir a "Humano más IA".

And to do this,

Y para hacer esto,

we need to stop thinking tech first,

primero tenemos que dejar de pensar en tecnología

and we need to start applying the secret formula.

y debemos comenzar a aplicar la fórmula secreta.

To deploy "Human plus AI,"

Para usar "Humano más IA"

10 percent of the effort is to code algos;

el 10 % del esfuerzo es de codificar algoritmos;

20 percent to build tech around the algos,

el 20 % construir tecnología alrededor de los algoritmos,

collecting data, building UI, integrating into legacy systems;

recolectando datos, construyendo IU, integración en sistemas heredados;

But 70 percent, the bulk of the effort,

pero el 70 %, la mayor parte del esfuerzo,

is about weaving together AI with people and processes

se dedica a entrelazar la AI con personas y procesos

to maximize real outcome.

para maximizar el resultado real.

AI fails when cutting short on the 70 percent.

La IA falla cuando se corta en el 70 %.

The price tag for that can be small,

El precio para eso puede ser pequeño,

wasting many, many millions of dollars on useless technology.

desperdiciando muchos, muchos millones de dólares en tecnología inútil.

Anyone cares?

¿A alguien le importa?

Or real tragedies:

O tragedias reales:

346 casualties in the recent crashes of two B-737 aircrafts

Las 346 bajas en los accidentes recientes de dos aviones B-737

when pilots could not interact properly

cuando los pilotos no podían interactuar adecuadamente

with a computerized command system.

con un sistema de comando computarizado.

For a successful 70 percent,

Para un exitoso 70 %, el primer paso

the first step is to make sure that algos are coded by data scientists

es asegurarse de que los algoritmos están codificados por científicos de datos

and domain experts together.

junto a expertos en dominios.

Take health care for example.

Tomen, por ejemplo, el cuidado de la salud.

One of our teams worked on a new drug with a slight problem.

Uno de nuestros equipos trabajó en un nuevo medicamento

con un pequeño problema

When taking their first dose,

Al tomar la primera dosis,

some patients, very few, have heart attacks.

algunos pacientes, muy pocos, tienen ataques al corazón

So, all patients, when taking their first dose,

Entonces, todos los pacientes, cuando toman su primera dosis,

have to spend one day in hospital,

tienen que pasar un día en el hospital

for monitoring, just in case.

para monitorización, por si acaso.

Our objective was to identify patients who were at zero risk of heart attacks,

Nuestro objetivo era identificar pacientes que tenían cero riesgo de ataques,

who could skip the day in hospital.

que podrían pasar el día en el hospital.

We used AI to analyze data from clinical trials,

Utilizamos la IA para analizar datos de ensayos clínicos,

to correlate ECG signal, blood composition, biomarkers,

para correlacionar la señal del ECG, composición sanguínea, biomarcadores,

with the risk of heart attack.

con riesgo de infarto.

In one month,

En un mes,

our model could flag 62 percent of patients at zero risk.

nuestro modelo podría marcar el 62 % de los pacientes con riesgo cero.

They could skip the day in hospital.

Podrían saltarse el día en el hospital.

Would you be comfortable staying at home for your first dose

¿Estarían cómodos quedándose en casa para su primera dosis

if the algo said so?

si es que el algoritmo lo dijo?

(Laughter)

(Risas)

Doctors were not.

Los médicos no.

What if we had false negatives,

¿Y si tuviéramos falsos negativos,

meaning people who are told by AI they can stay at home, and die?

es decir, personas a quienes les dice la AI pueden quedarse en casa y morir?

(Laughter)

(Risas)

There started our 70 percent.

Ahí comenzó nuestro 70 %.

We worked with a team of doctors

Trabajamos con un equipo de médicos

to check the medical logic of each variable in our model.

para verificar la lógica médica de cada variable en nuestro modelo.

For instance, we were using the concentration of a liver enzyme

Por ejemplo, estábamos usando la concentración de una enzima hepática

as a predictor,

como predictor

for which the medical logic was not obvious.

lo cual para la lógica médica no era obvio.

The statistical signal was quite strong.

La señal estadística fue bastante fuerte.

But what if it was a bias in our sample?

Pero ¿y si fue un sesgo en nuestra muestra?

That predictor was taken out of the model.

Ese predictor fue sacado del modelo.

We also took out predictors for which experts told us

También sacamos predictores para los que los expertos nos dijeron

they cannot be rigorously measured by doctors in real life.

que no pueden medirse rigurosamente por médicos en la vida real.

After four months,

Después de cuatro meses

we had a model and a medical protocol.

teníamos un modelo y un protocolo médico.

They both got approved

Ambos fueron aprobados

my medical authorities in the US last spring,

por mis autoridades medicas en EE. UU. la primavera pasada,

resulting in far less stress for half of the patients

resultando en mucho menos estrés para la mitad de los pacientes

and better quality of life.

y mejor calidad de vida.

And an expected upside on sales over 100 million for that drug.

Y un alza esperada en las ventas más de 100 millones para ese fármaco.

Seventy percent weaving AI with team and processes

Invertir el 70 % entrelazando la IA con equipo y procesos

also means building powerful interfaces

también significa construir interfaces potentes

for humans and AI to solve the most difficult problems together.

para humanos y para la IA a fin de juntos resolver los problemas más difíciles.

Once, we got challenged by a fashion retailer.

Una vez, nos desafió un minorista de moda.

"We have the best buyers in the world.

"Tenemos los mejores compradores del mundo.

Could you build an AI engine that would beat them at forecasting sales?

¿Podrías construir un motor de IA que los venciera al pronosticar las ventas?

At telling how many high-end, light-green, men XL shirts

¿Decir cuántas camisas de hombre XL de gama alta, verde claro,

we need to buy for next year?

tenemos que comprar para el año que viene?

At predicting better what will sell or not

Predecir mejor lo que se venderá o no

than our designers."

que nuestros diseñadores".

Our team trained a model in a few weeks, on past sales data,

Nuestro equipo entrenó un modelo en pocas semanas, en datos de ventas anteriores,

and the competition was organized with human buyers.

y se organizó la competencia con compradores humanos

Result?

¿Resultado?

AI wins, reducing forecasting errors by 25 percent.

La IA gana, reduciendo los errores de pronóstico en un 25 %.

Human-zero champions could have tried to implement this initial model

Los campeones del cero humanos

podrían haber intentado implementar este modelo inicial

and create a fight with all human buyers.

y crear una pelea con todos los compradores humanos.

Have fun.

Que les vaya bien.

But we knew that human buyers had insights on fashion trends

Pero sabíamos que los compradores humanos tenían ideas sobre tendencias de la moda

that could not be found in past data.

que no se pudieron encontrar en datos pasados.

There started our 70 percent.

Ahí comenzó nuestro 70 %.

We went for a second test,

Fuimos a una segunda prueba,

where human buyers were reviewing quantities

donde los compradores humanos estaban revisando cantidades

suggested by AI

sugerida por IA

and could correct them if needed.

y podían corregirlos si fuera necesario.

Result?

¿Resultado?

Humans using AI ...

Humanos que usan IA...

lose.

pierde.

Seventy-five percent of the corrections made by a human

El 75 % de las correcciones hechas por un humano

were reducing accuracy.

estaban reduciendo la precisión.

Was it time to get rid of human buyers?

¿Era hora de deshacerse de los compradores humanos?

No.

No.

It was time to recreate a model

Era hora de recrear un modelo.

where humans would not try to guess when AI is wrong,

donde los humanos no intentarían adivinar cuando la IA está mal,

but where AI would take real input from human buyers.

sino donde la IA tomaría una entrada real de compradores humanos.

We fully rebuilt the model

Reconstruimos completamente el modelo.

and went away from our initial interface, which was, more or less,

y nos alejamos de nuestra interfaz inicial, que era, más o menos,

"Hey, human! This is what I forecast,

"¡Oye, humano! Esto es lo que predije,

correct whatever you want,"

corrige lo que quieras"

and moved to a much richer one, more like,

y se mudó a uno mucho más rico, más como,

"Hey, humans!

"¡Hola, humanos!

I don't know the trends for next year.

No sé las tendencias para el próximo año.

Could you share with me your top creative bets?"

¿Podrían compartir conmigo? sus mejores apuestas creativas?

"Hey, humans!

"¡Hola, humanos!

Could you help me quantify those few big items?

Podrían ayudarme a cuantificar esos pocos artículos grandes?

I cannot find any good comparables in the past for them."

No puedo encontrar buenos datos comparables en el pasado para ellos".

Result?

¿Resultado?

"Human plus AI" wins,

"Humano más IA" gana,

reducing forecast errors by 50 percent.

reduciendo errores de pronóstico en un 50 %.

It took one year to finalize the tool.

Se tardó un año en finalizar la herramienta.

Long, costly and difficult.

Largo, costoso y difícil.

But profits and benefits

Pero las ganancias y beneficios

were in excess of 100 million of savings per year for that retailer.

fueron más de 100 millones de ahorro por año para ese minorista.

Seventy percent on very sensitive topics

El 70 % en temas muy delicados

also means human have to decide what is right or wrong

también significa que los humanos tienen que decidir lo que está bien o mal

and define rules for what AI can do or not,

y definir reglas sobre lo que la IA puede o no hacer,

like setting caps on prices to prevent pricing engines

como establecer límites en precios para evitar que motores de fijación de precios

[from charging] outrageously high prices to uneducated customers

cobren precios escandalosamente altos a clientes sin educación

who would accept them.

¿Quién los aceptaría?

Only humans can define those boundaries --

Solo los humanos pueden definir esos límites.

there is no way AI can find them in past data.

no hay manera de que la IA pueda encontrarlos en datos pasados.

Some situations are in the gray zone.

Algunas situaciones están en la zona gris.

We worked with a health insurer.

Trabajamos con una aseguradora de salud.

He developed an AI engine to identify, among his clients,

Desarrolló un motor de IA. para identificar, entre sus clientes,

people who are just about to go to hospital

personas que están a punto de ir al hospital

to sell them premium services.

para venderles servicios premium.

And the problem is,

Y el problema es que

some prospects were called by the commercial team

algunos prospectos los llamó el equipo comercial

while they did not know yet

mientras aún no sabían

they would have to go to hospital very soon.

que tendrían que ir al hospital muy pronto

You are the CEO of this company.

Eres el CEO de esta empresa.

Do you stop that program?

¿Paras ese programa?

Not an easy question.

No es una pregunta fácil.

And to tackle this question, some companies are building teams,

Y para abordar esta pregunta, algunas compañías están formando equipos,

defining ethical rules and standards to help business and tech teams set limits

definen reglas y estándares éticos para ayudar a equipos empresariales

between personalization and manipulation,

y tecnológicos a establecer límites entre personalización y manipulación,

customization of offers and discrimination,

personalización de ofertas y discriminación,

targeting and intrusion.

focalización e intrusión.

I am convinced that in every company,

Estoy convencido de que en cada empresa,

applying AI where it really matters has massive payback.

aplicar IA donde realmente importa tiene una recuperación masiva.

Business leaders need to be bold

Los líderes empresariales deben ser valientes

and select a few topics,

y seleccionar algunos temas,

and for each of them, mobilize 10, 20, 30 people from their best teams --

y para cada uno de ellos, movilizar 10, 20, 30 personas de sus mejores equipos,

tech, AI, data science, ethics --

tecnología, IA, ciencia de datos, ética,

and go through the full 10-, 20-, 70-percent cycle

e ir a través del ciclo completo 10, 20 y 70 %

of "Human plus AI,"

de "Humano más IA"

if they want to land AI effectively in their teams and processes.

si quieren usar IA de manera efectiva en sus equipos y procesos.

There is no other way.

No hay otra manera.

Citizens in developed economies already fear algocracy.

Ciudadanos en economías desarrolladas ya temen la algoritmocracia.

Seven thousand were interviewed in a recent survey.

Siete mil fueron entrevistados en una encuesta reciente.

More than 75 percent expressed real concerns

Más del 75 % expresó preocupaciones reales

on the impact of AI on the workforce, on privacy,

sobre el impacto de la IA en la fuerza laboral, en la privacidad,

on the risk of a dehumanized society.

sobre el riesgo de una sociedad deshumanizada.

Pushing algocracy creates a real risk of severe backlash against AI

Empujar la algoritmocracia crea un riesgo real de reacción severa contra la IA

within companies or in society at large.

dentro de las empresas o en la sociedad en general.

"Human plus AI" is our only option

"Humano más IA" es nuestra única opción

to bring the benefits of AI to the real world.

para traer los beneficios de la IA al mundo real

And in the end,

Y al fin,

winning organizations will invest in human knowledge,

las organizaciones ganadoras invertirán en conocimiento humano,

not just AI and data.

no solo en IA y en datos.

Recruiting, training, rewarding human experts.

Reclutamiento, entrenamiento, recompensar a los expertos humanos.

Data is said to be the new oil,

Se dice que los datos son el nuevo petróleo,

but believe me, human knowledge will make the difference,

pero créanme, el conocimiento humano marcará la diferencia

because it is the only derrick available

porque es la única torre de perforación disponible

to pump the oil hidden in the data.

para bombear el petróleo oculto en los datos.

Thank you.

Gracias.

(Applause)

(Aplausos)