How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Tradutor: Maurício Kakuei Tanaka Revisor: Elisa Santos

Let me share a paradox.

Permitam-me compartilhar um paradoxo.

For the last 10 years,

Nos últimos dez anos,

many companies have been trying to become less bureaucratic,

muitas empresas vêm tentando se tornar menos burocráticas,

to have fewer central rules and procedures,

ter menos procedimentos e regras principais,

more autonomy for their local teams to be more agile.

mais autonomia para que suas equipes locais sejam mais ágeis.

And now they are pushing artificial intelligence, AI,

Agora estão pressionando a inteligência artificial, IA,

unaware that cool technology

sem saber que essa tecnologia legal

might make them more bureaucratic than ever.

pode torná-las mais burocráticas do que nunca.

Why?

Por quê?

Because AI operates just like bureaucracies.

Porque a IA funciona como as burocracias.

The essence of bureaucracy

A essência da burocracia

is to favor rules and procedures over human judgment.

é favorecer regras e procedimentos mais que o julgamento humano.

And AI decides solely based on rules.

A IA decide apenas com base em regras,

Many rules inferred from past data

muitas delas deduzidas a partir de dados anteriores,

but only rules.

mas apenas em regras.

And if human judgment is not kept in the loop,

Se o julgamento humano não for mantido nesse processo,

AI will bring a terrifying form of new bureaucracy --

a IA trará uma forma aterrorizante de nova burocracia,

I call it "algocracy" --

que chamo de "algocracia",

where AI will take more and more critical decisions by the rules

na qual a IA tomará decisões cada vez mais críticas segundo as regras

outside of any human control.

fora de qualquer controle humano.

Is there a real risk?

Existe um risco real?

Yes.

Sim.

I'm leading a team of 800 AI specialists.

Lidero uma equipe de 800 especialistas em IA.

We have deployed over 100 customized AI solutions

Implementamos mais de 100 soluções de IA personalizadas

for large companies around the world.

para grandes empresas em todo o mundo.

And I see too many corporate executives behaving like bureaucrats from the past.

Vejo muitos executivos de empresas se comportando como burocratas do passado.

They want to take costly, old-fashioned humans out of the loop

Eles querem tirar pessoas dispendiosas e antiquadas do processo

and rely only upon AI to take decisions.

e confiar apenas na IA para tomar decisões.

I call this the "human-zero mindset."

Chamo isso de "mentalidade sem pessoas".

And why is it so tempting?

Por que é tão tentador?

Because the other route, "Human plus AI," is long,

Porque o outro caminho, "Pessoas mais IA", é longo,

costly and difficult.

dispendioso e difícil.

Business teams, tech teams, data-science teams

Equipes de negócios, de tecnologia e de ciência de dados

have to iterate for months

precisam repetir um processo por meses

to craft exactly how humans and AI can best work together.

para criar exatamente um modo como pessoas e IA possam trabalhar melhor juntas.

Long, costly and difficult.

Longo, dispendioso e difícil.

But the reward is huge.

Mas a recompensa é enorme.

A recent survey from BCG and MIT

Uma pesquisa recente do BCG e do MIT

shows that 18 percent of companies in the world

mostra que 18% das empresas do mundo

are pioneering AI,

são pioneiras em IA,

making money with it.

ganhando dinheiro com ela.

Those companies focus 80 percent of their AI initiatives

Essas empresas concentram 80% de suas iniciativas de IA

on effectiveness and growth,

em eficácia e crescimento,

taking better decisions --

tomando melhores decisões

not replacing humans with AI to save costs.

sem substituir pessoas por IA para economizar custos.

Why is it important to keep humans in the loop?

Por que é importante manter as pessoas nesse processo?

Simply because, left alone, AI can do very dumb things.

Simplesmente porque, sozinha, a IA pode fazer coisas muito idiotas.

Sometimes with no consequences, like in this tweet.

Às vezes, sem consequências, como nesta mensagem:

"Dear Amazon,

"Prezada Amazon,

I bought a toilet seat.

comprei um assento sanitário, por necessidade, não por vontade.

Necessity, not desire.

I do not collect them,

Não os coleciono, nem sou viciado em assentos sanitários.

I'm not a toilet-seat addict.

No matter how temptingly you email me,

Não importa quantos e-mails tentadores você me envie, não vou pensar:

I am not going to think, 'Oh, go on, then,

'Ah, tudo bem, vou me presentear com mais um assento'".

one more toilet seat, I'll treat myself.' "

(Laughter)

(Risos)

Sometimes, with more consequence, like in this other tweet.

Às vezes, com mais consequências, como nesta outra mensagem:

"Had the same situation

"Passei pela mesma situação com a urna para cinzas de minha mãe".

with my mother's burial urn."

(Laughter)

(Risos)

"For months after her death,

"Por meses após a morte dela,

I got messages from Amazon, saying, 'If you liked that ...' "

recebi mensagens da Amazon dizendo: 'Se você gostou...'"

(Laughter)

(Risos)

Sometimes with worse consequences.

Às vezes, com consequências piores.

Take an AI engine rejecting a student application for university.

Vamos considerar que a IA rejeite a inscrição de um aluno para a faculdade.

Why?

Por quê?

Because it has "learned," on past data,

Porque ela "aprendeu", por dados anteriores,

characteristics of students that will pass and fail.

características de alunos que serão aprovados e reprovados.

Some are obvious, like GPAs.

Alguns são óbvios, como notas do vestibular.

But if, in the past, all students from a given postal code have failed,

Mas se, no passado, todos os alunos de um determinado local foram reprovados,

it is very likely that AI will make this a rule

é muito provável que a IA torne isso uma regra

and will reject every student with this postal code,

e rejeite todos os alunos desse local,

not giving anyone the opportunity to prove the rule wrong.

sem dar a ninguém a chance de provar que a regra está errada.

And no one can check all the rules,

Ninguém pode verificar todas as regras,

because advanced AI is constantly learning.

porque a IA avançada está aprendendo constantemente.

And if humans are kept out of the room,

Se as pessoas forem deixadas de fora,

there comes the algocratic nightmare.

vem o pesadelo "algocrático".

Who is accountable for rejecting the student?

Quem é responsável por rejeitar o aluno?

No one, AI did.

Ninguém, a IA rejeitou.

Is it fair? Yes.

É justo? Sim.

The same set of objective rules has been applied to everyone.

O mesmo conjunto de regras objetivas foi aplicado a todos.

Could we reconsider for this bright kid with the wrong postal code?

Conseguiríamos reconsiderar esse garoto genial do local errado?

No, algos don't change their mind.

Não, os algoritmos não mudam de ideia.

We have a choice here.

Temos uma escolha aqui:

Carry on with algocracy

continuar com a algocracia

or decide to go to "Human plus AI."

ou decidir por "Pessoas mais IA".

And to do this,

Para isso,

we need to stop thinking tech first,

precisamos parar de pensar primeiro na tecnologia

and we need to start applying the secret formula.

e começar a aplicar a fórmula secreta.

To deploy "Human plus AI,"

Para implantar "Pessoas mais IA",

10 percent of the effort is to code algos;

10% do esforço é para codificar algoritmos;

20 percent to build tech around the algos,

20% para criar tecnologia em torno dos algoritmos,

collecting data, building UI, integrating into legacy systems;

coletar dados, criar interface do usuário, integrar-se a sistemas legados;

But 70 percent, the bulk of the effort,

mas 70%, a maior parte do esforço,

is about weaving together AI with people and processes

consiste em combinar IA com pessoas e processos

to maximize real outcome.

para maximizar resultados reais.

AI fails when cutting short on the 70 percent.

A IA fracassa ao reduzir os 70%.

The price tag for that can be small,

O preço disso pode ser pequeno,

wasting many, many millions of dollars on useless technology.

desperdiçando muitos milhões de dólares em tecnologia inútil.

Anyone cares?

Alguém se importa?

Or real tragedies:

Ou tragédias reais:

346 casualties in the recent crashes of two B-737 aircrafts

346 vítimas

dos acidentes recentes de 2 aeronaves B-737,

when pilots could not interact properly

em que os pilotos não conseguiram interagir adequadamente

with a computerized command system.

com um sistema de comando computadorizado.

For a successful 70 percent,

Para 70% de sucesso,

the first step is to make sure that algos are coded by data scientists

o primeiro passo é garantir que os algoritmos sejam codificados

por cientistas de dados e especialistas no assunto juntos.

and domain experts together.

Take health care for example.

Considerem, por exemplo, a assistência médica.

One of our teams worked on a new drug with a slight problem.

Uma de nossas equipes trabalhou em um novo medicamento

que apresentava um pequeno problema.

When taking their first dose,

Ao tomar a primeira dose,

some patients, very few, have heart attacks.

alguns pacientes, muito poucos, têm ataques cardíacos.

So, all patients, when taking their first dose,

Assim, todos os pacientes, quando tomam a primeira dose,

have to spend one day in hospital,

precisam passar um dia no hospital,

for monitoring, just in case.

para monitoramento, apenas por precaução.

Our objective was to identify patients who were at zero risk of heart attacks,

Nosso objetivo era identificar pacientes com risco zero de ataques cardíacos,

who could skip the day in hospital.

que não precisariam passar o dia no hospital.

We used AI to analyze data from clinical trials,

Utilizamos a IA para analisar dados de ensaios clínicos,

to correlate ECG signal, blood composition, biomarkers,

para correlacionar eletrocardiograma, composição sanguínea, biomarcadores,

with the risk of heart attack.

com o risco de ataque cardíaco.

In one month,

Em um mês,

our model could flag 62 percent of patients at zero risk.

nosso modelo conseguiu sinalizar 62% de pacientes com risco zero.

They could skip the day in hospital.

Eles não precisariam passar o dia no hospital.

Would you be comfortable staying at home for your first dose

Vocês ficariam à vontade em casa para sua primeira dose

if the algo said so?

se o algoritmo dissesse isso?

(Laughter)

(Risos)

Doctors were not.

Os médicos não ficaram.

What if we had false negatives,

E se tivéssemos falsos negativos,

meaning people who are told by AI they can stay at home, and die?

ou seja, pessoas que a IA permite ficar em casa e que morrem?

(Laughter)

(Risos)

There started our 70 percent.

Nossos 70% começavam por aí.

We worked with a team of doctors

Trabalhamos com uma equipe de médicos

to check the medical logic of each variable in our model.

para verificar a lógica médica de cada variável de nosso modelo.

For instance, we were using the concentration of a liver enzyme

Por exemplo, usamos a concentração de uma enzima hepática

as a predictor,

como um indicador,

for which the medical logic was not obvious.

para o qual a lógica médica não era óbvia.

The statistical signal was quite strong.

O sinal estatístico era bastante forte.

But what if it was a bias in our sample?

Mas e se fosse um viés em nossa amostra?

That predictor was taken out of the model.

Esse indicador foi retirado do modelo.

We also took out predictors for which experts told us

Também retiramos indicadores para os quais os especialistas disseram

they cannot be rigorously measured by doctors in real life.

que não podem ser rigorosamente medidos por médicos na vida real.

After four months,

Após quatro meses,

we had a model and a medical protocol.

tínhamos um modelo e um protocolo médico.

They both got approved

Ambos foram aprovados

my medical authorities in the US last spring,

por autoridades médicas dos EUA na primavera passada,

resulting in far less stress for half of the patients

resultando em muito menos estresse para metade dos pacientes,

and better quality of life.

melhor qualidade de vida

And an expected upside on sales over 100 million for that drug.

e um aumento esperado nas vendas

acima de 100 milhões para esse medicamento.

Seventy percent weaving AI with team and processes

Setenta por cento combinando IA com equipe e processos

also means building powerful interfaces

também significa construir interfaces poderosas

for humans and AI to solve the most difficult problems together.

para pessoas e IA resolverem juntas os problemas mais difíceis.

Once, we got challenged by a fashion retailer.

Uma vez, fomos desafiados por uma loja de roupas.

"We have the best buyers in the world.

"Temos os melhores compradores do mundo.

Could you build an AI engine that would beat them at forecasting sales?

Você poderia criar um mecanismo de IA que os superasse em prever vendas?

At telling how many high-end, light-green, men XL shirts

Em informar quantas camisas masculinas GG verde-claras de alta qualidade

we need to buy for next year?

precisamos comprar para o ano seguinte?

At predicting better what will sell or not

Em prever melhor o que venderá ou não

than our designers."

do que nossos estilistas?"

Our team trained a model in a few weeks, on past sales data,

Nossa equipe treinou um modelo em poucas semanas,

com dados de vendas anteriores,

and the competition was organized with human buyers.

e a competição foi organizada com compradores humanos.

Result?

O resultado?

AI wins, reducing forecasting errors by 25 percent.

A IA vence, reduzindo erros de previsão em 25%.

Human-zero champions could have tried to implement this initial model

Campeões sem pessoas poderiam ter tentado implementar esse modelo inicial

and create a fight with all human buyers.

e criar uma briga com todos os compradores humanos.

Have fun.

Divirtam-se.

But we knew that human buyers had insights on fashion trends

Mas sabíamos

da percepção de compradores humanos sobre tendências da moda,

that could not be found in past data.

que não poderia ser encontrada em dados anteriores.

There started our 70 percent.

Nossos 70% começavam por aí.

We went for a second test,

Fizemos um segundo teste,

where human buyers were reviewing quantities

em que compradores humanos reviam quantidades,

suggested by AI

sugeridas pela IA,

and could correct them if needed.

e poderiam corrigi-las se necessário.

Result?

O resultado?

Humans using AI ...

Pessoas usando IA...

lose.

perde.

Seventy-five percent of the corrections made by a human

Setenta e cinco por cento das correções feitas por uma pessoa

were reducing accuracy.

reduziram a precisão.

Was it time to get rid of human buyers?

Era hora de se livrar de compradores humanos?

No.

Não.

It was time to recreate a model

Estava na hora de recriar um modelo

where humans would not try to guess when AI is wrong,

em que as pessoas não tentassem adivinhar quando a IA estava errada,

but where AI would take real input from human buyers.

mas em que a IA recebesse informações reais de compradores humanos.

We fully rebuilt the model

Reconstruímos totalmente o modelo

and went away from our initial interface, which was, more or less,

e nos afastamos de nossa interface inicial,

que era mais ou menos:

"Hey, human! This is what I forecast,

"Ei, pessoas! É isso que prevejo,

correct whatever you want,"

corrijam o que quiserem",

and moved to a much richer one, more like,

e passamos para uma interface muito mais rica, mais como:

"Hey, humans!

"Ei, pessoas!

I don't know the trends for next year.

Não conheço as tendências do próximo ano.

Could you share with me your top creative bets?"

Poderiam compartilhar comigo suas apostas mais criativas?"

"Hey, humans!

"Ei, pessoas!

Could you help me quantify those few big items?

Poderiam me ajudar a quantificar esses poucos grandes itens?

I cannot find any good comparables in the past for them."

Não consegui encontrar um bom comparativo no passado para eles."

Result?

O resultado?

"Human plus AI" wins,

"Pessoas mais IA" vence,

reducing forecast errors by 50 percent.

reduzindo erros de previsão em 50%.

It took one year to finalize the tool.

Levou um ano para finalizar a ferramenta.

Long, costly and difficult.

Longo, dispendioso e difícil.

But profits and benefits

Mas os lucros e os benefícios

were in excess of 100 million of savings per year for that retailer.

excederam 100 milhões de economia por ano para essa loja.

Seventy percent on very sensitive topics

Setenta por cento em assuntos muito confidenciais

also means human have to decide what is right or wrong

também significam que as pessoas precisam decidir o que é certo ou errado

and define rules for what AI can do or not,

e definir regras para o que a IA pode fazer ou não,

like setting caps on prices to prevent pricing engines

como estabelecer limites de preços para impedir mecanismos de precificação

[from charging] outrageously high prices to uneducated customers

de cobrar preços absurdamente altos para clientes sem instrução

who would accept them.

que os aceitariam.

Only humans can define those boundaries --

Somente as pessoas sabem definir esses limites.

there is no way AI can find them in past data.

A IA não consegue encontrá-los em dados anteriores.

Some situations are in the gray zone.

Algumas situações se encontram na região intermediária.

We worked with a health insurer.

Trabalhamos com um plano de saúde

He developed an AI engine to identify, among his clients,

que desenvolveu um mecanismo de IA para identificar, entre seus clientes,

people who are just about to go to hospital

pessoas que estão prestes a serem internadas

to sell them premium services.

para lhes vender serviços diferenciados.

And the problem is,

O problema é que prováveis clientes foram contatados pela equipe comercial

some prospects were called by the commercial team

while they did not know yet

embora ainda não soubessem

they would have to go to hospital very soon.

que seriam internados em breve.

You are the CEO of this company.

Você é o CEO dessa empresa.

Do you stop that program?

Você interromperia esse programa?

Not an easy question.

Não é uma pergunta fácil.

And to tackle this question, some companies are building teams,

Para resolver essa questão, algumas empresas criam equipes,

defining ethical rules and standards to help business and tech teams set limits

definem regras e padrões éticos

para ajudar equipes de tecnologia e negócios a estabelecerem limites

between personalization and manipulation,

entre personalização e manipulação,

customization of offers and discrimination,

personalização de ofertas e discriminação,

targeting and intrusion.

segmentação e invasão.

I am convinced that in every company,

Estou convencido de que, em todas as empresas,

applying AI where it really matters has massive payback.

utilizar a IA onde realmente importa oferece um enorme retorno financeiro.

Business leaders need to be bold

Líderes de negócios precisam ser ousados

and select a few topics,

e selecionar alguns assuntos

and for each of them, mobilize 10, 20, 30 people from their best teams --

e, para cada um deles, mobilizar 10, 20, 30 pessoas de suas melhores equipes,

tech, AI, data science, ethics --

de tecnologia, IA, ciência de dados e ética,

and go through the full 10-, 20-, 70-percent cycle

e passar pelo ciclo completo de 10, 20, 70%

of "Human plus AI,"

de "Pessoas mais IA",

if they want to land AI effectively in their teams and processes.

se quiserem colocar a IA efetivamente em suas equipes e processos.

There is no other way.

Não há outra maneira.

Citizens in developed economies already fear algocracy.

Cidadãos de economias desenvolvidas já temem a algocracia.

Seven thousand were interviewed in a recent survey.

Sete mil foram entrevistados em uma pesquisa recente.

More than 75 percent expressed real concerns

Mais de 75% expressaram preocupações reais

on the impact of AI on the workforce, on privacy,

sobre o impacto da IA na força de trabalho, na privacidade

on the risk of a dehumanized society.

e no risco de uma sociedade desumanizada.

Pushing algocracy creates a real risk of severe backlash against AI

Pressionar a algocracia cria um risco real de reação grave contra a IA

within companies or in society at large.

nas empresas ou na sociedade em geral.

"Human plus AI" is our only option

"Pessoas mais IA" é nossa única opção

to bring the benefits of AI to the real world.

para trazer os benefícios da IA para o mundo real.

And in the end,

No final, as organizações vencedoras investirão em conhecimento humano,

winning organizations will invest in human knowledge,

not just AI and data.

não apenas em IA e dados.

Recruiting, training, rewarding human experts.

Recrutando, treinando, recompensando especialistas humanos.

Data is said to be the new oil,

Dizem que os dados são o novo petróleo,

but believe me, human knowledge will make the difference,

mas, acreditem, o conhecimento humano fará a diferença,

because it is the only derrick available

porque é a única torre disponível

to pump the oil hidden in the data.

para bombear o petróleo oculto nos dados.

Thank you.

Obrigado.

(Applause)

(Aplausos)