How humans and AI can work together to create better businesses | Sylvain Duranton

Translator: Ivana Korom Reviewer: Krystian Aparta

Tradutor: Igor Grassmann Revisora: Margarida Ferreira

Let me share a paradox.

Vou falar-vos de um paradoxo.

For the last 10 years,

Nos últimos 10 anos,

many companies have been trying to become less bureaucratic,

muitas empresas têm tentado tornar-se menos burocráticas,

to have fewer central rules and procedures,

com menos regras centrais e menos procedimentos,

more autonomy for their local teams to be more agile.

mais autonomia para que as suas equipas locais possam ser mais ágeis.

And now they are pushing artificial intelligence, AI,

Agora, estão a impulsionar o uso da inteligência artificial, a IA,

unaware that cool technology

sem se aperceberem de que uma tecnologia fantástica

might make them more bureaucratic than ever.

pode torná-los mais burocráticos que nunca.

Why?

Porquê?

Because AI operates just like bureaucracies.

Porque a IA funciona exatamente como a burocracia.

The essence of bureaucracy

A essência da burocracia

is to favor rules and procedures over human judgment.

é favorecer regras e procedimentos que controlam o discernimento humano.

And AI decides solely based on rules.

E a IA toma decisões exclusivamente com base em regras.

Many rules inferred from past data

Muitas das regras são deduzidas a partir de dados passados

but only rules.

mas não passam de regras.

And if human judgment is not kept in the loop,

Se o discernimento humano não se mantiver atualizado,

AI will bring a terrifying form of new bureaucracy --

a IA irá trazer-nos uma nova e assustadora forma de burocracia

I call it "algocracy" --

— a que eu chamo "algoracracia" —

where AI will take more and more critical decisions by the rules

em que a IA vai tomando cada vez mais decisões críticas

com base em regras fora de qualquer controlo humano.

outside of any human control.

Is there a real risk?

Será isto um risco real?

Yes.

Sim.

I'm leading a team of 800 AI specialists.

Estou a liderar uma equipa de 800 especialistas em IA.

We have deployed over 100 customized AI solutions

Implantámos cerca de 100 soluções padronizadas em IA

for large companies around the world.

em grandes empresas do mundo inteiro.

And I see too many corporate executives behaving like bureaucrats from the past.

E vejo muitos executivos a agir como burocratas do passado.

They want to take costly, old-fashioned humans out of the loop

Querem eliminar os seres humanos, dispendiosos e retrógrados, do ciclo,

and rely only upon AI to take decisions.

e depender unicamente da IA para tomar decisões.

I call this the "human-zero mindset."

Chamo a isto uma "mentalidade zero humana".

And why is it so tempting?

Porque é que isto é tão tentador?

Because the other route, "Human plus AI," is long,

Porque o outro caminho, o "Ser Humano + IA"

é longo, é caro e difícil.

costly and difficult.

Business teams, tech teams, data-science teams

As equipas das empresas, equipas tecnológicas ou de dados,

have to iterate for months

têm de repetir durante meses

to craft exactly how humans and AI can best work together.

até perceberem exatamente como os seres humanos e a IA

podem trabalhar melhor em conjunto.

Long, costly and difficult.

É demorado, caro e difícil.

But the reward is huge.

Mas a recompensa é enorme.

A recent survey from BCG and MIT

Uma investigação recente do MIT e do Boston Consulting Group

shows that 18 percent of companies in the world

mostra que 18% das companhias do mundo

are pioneering AI,

são pioneiras na IA,

making money with it.

estão a ganhar dinheiro com isso.

Those companies focus 80 percent of their AI initiatives

Essas companhias concentram 80% das suas iniciativas de IA

on effectiveness and growth,

na eficácia e no crescimento,

taking better decisions --

tomando melhores decisões

not replacing humans with AI to save costs.

— mas não substituem os seres humanos pela IA, a fim de poupar custos.

Why is it important to keep humans in the loop?

Porque é que é importante manter os seres humanos no ciclo?

Simply because, left alone, AI can do very dumb things.

Simplesmente porque, sozinha, a IA pode fazer coisas muito tolas.

Sometimes with no consequences, like in this tweet.

Por vezes, sem consequências, como neste "tweet":

"Dear Amazon,

"Querida Amazon, comprei um tampo para a sanita

I bought a toilet seat.

Necessity, not desire.

"por necessidade, não por desejo.

I do not collect them,

"Eu não os coleciono,

I'm not a toilet-seat addict.

"não sou viciado em tampos.

No matter how temptingly you email me,

"Por mais tentador que seja o vosso 'email', eu não vou pensar:

I am not going to think, 'Oh, go on, then,

" 'Oh, vá lá, é só mais um tampo,

one more toilet seat, I'll treat myself.' "

" 'para me dar prazer'."

(Laughter)

(Risos)

Sometimes, with more consequence, like in this other tweet.

Às vezes, com maiores consequências, como este "tweet":

"Had the same situation

"Passei pela mesma situação

with my mother's burial urn."

"com a urna da minha mãe."

(Laughter)

(Risos)

"For months after her death,

"Durante meses após a morte dela,

I got messages from Amazon, saying, 'If you liked that ...' "

"recebi mensagens da Amazon, a dizer: 'Se gostou disso...' "

(Laughter)

(Risos)

Sometimes with worse consequences.

Às vezes consequências ainda piores.

Take an AI engine rejecting a student application for university.

Por exemplo, a recusa da IA

da candidatura de estudantes universitários.

Why?

Porquê?

Because it has "learned," on past data,

Porque a IA "aprendeu", segundo dados anteriores,

characteristics of students that will pass and fail.

as características prováveis de estudantes.

que passam e depois fracassam.

Some are obvious, like GPAs.

Algumas óbvias, como as médias.

But if, in the past, all students from a given postal code have failed,

Mas se, no passado, todos os alunos de um determinado código postal

tivessem reprovado,

it is very likely that AI will make this a rule

muito provavelmente a IA passaria a considerar isso como uma regra

and will reject every student with this postal code,

e iria rejeitar todos os alunos desse código postal,

not giving anyone the opportunity to prove the rule wrong.

não dando hipótese a ninguém de provar que a regra estava errada.

And no one can check all the rules,

Ninguém pode conferir todas as regras,

because advanced AI is constantly learning.

porque a IA avançada está sempre a aprender.

And if humans are kept out of the room,

Se os seres humanos forem afastados,

there comes the algocratic nightmare.

será o pesadelo da algoracracia.

Who is accountable for rejecting the student?

Quem é responsável pela recusa dos estudantes?

No one, AI did.

Ninguém, foi a IA que fez isso.

Is it fair? Yes.

É justo? É.

The same set of objective rules has been applied to everyone.

O mesmo conjunto de regras tem sido aplicado a toda a gente.

Could we reconsider for this bright kid with the wrong postal code?

Podemos abrir uma exceção para um miúdo brilhante

com o código postal errado?

No, algos don't change their mind.

Não, os algoritmos não mudam de ideias.

We have a choice here.

Temos uma escolha a fazer.

Carry on with algocracy

Continuar com a "algoracracia"

or decide to go to "Human plus AI."

ou ir para "Ser Humano + IA".

And to do this,

Para fazer isso,

we need to stop thinking tech first,

precisamos de pensar primeiro nos seres humanos

and we need to start applying the secret formula.

e passar a aplicar a fórmula secreta.

To deploy "Human plus AI,"

Para implementar "Ser Humano + IA",

10 percent of the effort is to code algos;

é preciso 10% do esforço para codificar os algoritmos.

20 percent to build tech around the algos,

e 20% para construir tecnologias em volta dos algoritmos,

collecting data, building UI, integrating into legacy systems;

recolher dados, montar interfaces, integrar sistemas antigos;

But 70 percent, the bulk of the effort,

Mas 70%, o grosso do esforço,

is about weaving together AI with people and processes

é para entrelaçar a IA com pessoas e com processos

to maximize real outcome.

para otimizar os resultados.

AI fails when cutting short on the 70 percent.

A IA falha se encurtarmos os 70%.

The price tag for that can be small,

O preço para isso pode ser baixo,

wasting many, many millions of dollars on useless technology.

desperdiçando muitos milhões de dólares em tecnologia sem interesse.

Anyone cares?

Alguém se importa?

Or real tragedies:

Ou tragédias reais:

346 casualties in the recent crashes of two B-737 aircrafts

as 346 vítimas dos recentes acidentes

de dois aviões B-737

when pilots could not interact properly

quando os pilotos não conseguiram

interagir bem com o sistema de comandos computorizados.

with a computerized command system.

For a successful 70 percent,

Para 70% de êxito,

the first step is to make sure that algos are coded by data scientists

o primeiro passo é garantir que os algoritmos

são codificados por cientistas de dados e por especialistas da área, em conjunto.

and domain experts together.

Take health care for example.

Na área da saúde, por exemplo.

One of our teams worked on a new drug with a slight problem.

Uma das nossas equipas teve um pequeno problema

ao trabalhar num novo medicamento.

When taking their first dose,

Ao tomar a primeira dose,

some patients, very few, have heart attacks.

alguns pacientes, poucos, tiveram ataques cardíacos.

So, all patients, when taking their first dose,

Então, todos os pacientes, ao tomarem a primeira dose,

have to spend one day in hospital,

teriam de passar um dia no hospital,

for monitoring, just in case.

para vigilância, caso fosse necessário.

Our objective was to identify patients who were at zero risk of heart attacks,

O nosso objetivo era identificar pacientes sem riscos de um ataque cardíaco

who could skip the day in hospital.

que não precisassem de passar o dia no hospital.

We used AI to analyze data from clinical trials,

Usámos a IA para analisar dados de testes clínicos,

to correlate ECG signal, blood composition, biomarkers,

correlacionar o sinal do ECG, a composição do sangue, os biomarcadores,

with the risk of heart attack.

com o risco de ataques cardíacos.

In one month,

Num mês,

our model could flag 62 percent of patients at zero risk.

o nosso modelo detetou 62% de pacientes de risco zero

They could skip the day in hospital.

que puderam evitar o dia no hospital.

Would you be comfortable staying at home for your first dose

Vocês sentir-se-iam à vontade para ficar em casa, na primeira dose,

if the algo said so?

se o algoritmo assim o determinasse?

(Laughter)

Doctors were not.

(Risos)

Os médicos não ficaram.

What if we had false negatives,

E se tivéssemos falso negativos

meaning people who are told by AI they can stay at home, and die?

e as pessoas autorizadas pela IA a ficarem em casa viessem a morrer?

(Laughter)

(Risos)

There started our 70 percent.

Aí começaram os nossos 70%.

We worked with a team of doctors

Trabalhámos com uma equipa de médicos

to check the medical logic of each variable in our model.

para conferir a lógica clínica de cada variável do nosso modelo.

For instance, we were using the concentration of a liver enzyme

Por exemplo, usámos a concentração de uma enzima do fígado

as a predictor,

como um indicador,

for which the medical logic was not obvious.

o que, pela lógica médica, não era uma coisa óbvia.

The statistical signal was quite strong.

O sinal estatístico foi muito forte.

But what if it was a bias in our sample?

Mas e se isso fosse uma limitação da nossa amostra?

That predictor was taken out of the model.

Retirámos o indicador do nosso modelo.

We also took out predictors for which experts told us

Retirámos também os indicadores

de que os médicos tinham dito que não podiam ser medidos com rigor.

they cannot be rigorously measured by doctors in real life.

After four months,

Ao fim de quatro meses,

we had a model and a medical protocol.

tínhamos um modelo e um protocolo médico.

They both got approved

Ambos foram aprovados

my medical authorities in the US last spring,

pelas autoridades médicas nos EUA, na primavera passada,

resulting in far less stress for half of the patients

o que resultou num menor "stress" para metade dos pacientes

and better quality of life.

e melhor qualidade de vida.

And an expected upside on sales over 100 million for that drug.

E um aumento inesperado das vendas em mais de 100 milhões para esse remédio.

Seventy percent weaving AI with team and processes

Esses 70% do entrelaçamento entre a IA, a equipa e os procedimentos

also means building powerful interfaces

também significam criar interfaces poderosas

for humans and AI to solve the most difficult problems together.

para os seres humanos e a IA resolverem os problemas mais difíceis.

Once, we got challenged by a fashion retailer.

Uma vez, fomos desafiados por um retalhista de moda:

"We have the best buyers in the world.

"Temos os melhores compradores do mundo.

Could you build an AI engine that would beat them at forecasting sales?

"Podem criar um motor de IA que os ultrapasse na previsão de vendas?

At telling how many high-end, light-green, men XL shirts

"Que nos diga quantas camisas de homem, topo de gama, verde claro, XL

we need to buy for next year?

"precisamos de comprar no próximo ano?

At predicting better what will sell or not

"Que preveja o que se vai vender ou não

than our designers."

"melhor do que os nossos 'designers'."

Our team trained a model in a few weeks, on past sales data,

A nossa equipa treinou um modelo em poucas semanas,

com base em dados anteriores,

and the competition was organized with human buyers.

e organizámos a competição com os compradores humanos.

Result?

Qual o resultado?

AI wins, reducing forecasting errors by 25 percent.

A IA ganhou, reduzindo os erros de previsão em 25%.

Human-zero champions could have tried to implement this initial model

Os campeões do "zero humano"

podiam ter tentado implementar este modelo inicial

and create a fight with all human buyers.

e criar uma guerra contra todos os compradores humanos.

Have fun.

Divirtam-se.

But we knew that human buyers had insights on fashion trends

Mas nós sabíamos que os compradores humanos

tinham ideias sobre as tendências da moda

that could not be found in past data.

que não se encontravam nos dados anteriores.

There started our 70 percent.

Ali começaram os nossos 70%.

We went for a second test,

Partimos para um segundo teste,

where human buyers were reviewing quantities

em que os compradores humanos reviam as quantidades sugeridas pela IA.

suggested by AI

and could correct them if needed.

E corrigiam-nas, se necessário.

Result?

Qual o resultado?

Humans using AI ...

Os seres humanos, usando a IA...

lose.

perderam.

Seventy-five percent of the corrections made by a human

75% das correções feitas por um ser humano

were reducing accuracy.

tiveram um rigor reduzido.

Was it time to get rid of human buyers?

Chegara a altura de se livrarem dos compradores humanos?

No.

Não.

It was time to recreate a model

Chegara a altura de recriar um modelo,

em que os seres humanos deixassem de tentar adivinhar se a IA estava errada

where humans would not try to guess when AI is wrong,

but where AI would take real input from human buyers.

mas em que a IA receberia uma contribuição real

dos compradores humanos.

We fully rebuilt the model

Refizemos totalmente o modelo,

and went away from our initial interface, which was, more or less,

e afastámo-nos da nossa interface inicial, que era, mais ou menos:

"Hey, human! This is what I forecast,

"Ei, ser humano! Isto é o que eu previ,

correct whatever you want,"

"Corrija o que você quiser"

and moved to a much richer one, more like,

e mudámos para um modelo muito mais rico, tipo:

"Hey, humans!

"Ei, seres humanos!

I don't know the trends for next year.

"Não sei quais são as tendências para o próximo ano.

Could you share with me your top creative bets?"

"Vocês podem informar-me quanto às vossas apostas criativas?"

"Hey, humans!

"Ei, seres humanos!

Could you help me quantify those few big items?

"Vocês podem ajudar-me a quantificar esses itens grandes?

I cannot find any good comparables in the past for them."

"Não consigo encontrar nenhuma boa comparação com eles, no passado."

Result?

Qual o resultado?

"Human plus AI" wins,

Vence "Ser Humano + IA",

reducing forecast errors by 50 percent.

reduzindo para metade os erros de previsão.

It took one year to finalize the tool.

Demorámos um ano até finalizar a ferramenta.

Long, costly and difficult.

Foi demorado, custoso e difícil.

But profits and benefits

Mas os lucros e benefícios

were in excess of 100 million of savings per year for that retailer.

excederam 100 milhões em economias anuais para aquele retalhista.

Seventy percent on very sensitive topics

70% em informações confidenciais

also means human have to decide what is right or wrong

significa que os seres humanos têm de decidir o que é certo e errado

and define rules for what AI can do or not,

e definir as regras para o que a IA pode ou não fazer,

like setting caps on prices to prevent pricing engines

como impor limites de preços

para evitar mecanismos de instituição de preços

[from charging] outrageously high prices to uneducated customers

de cobrarem preços exorbitantes a clientes mal informados

who would accept them.

que os aceitariam.

Only humans can define those boundaries --

Só os seres humanos podem definir tais limites,

there is no way AI can find them in past data.

não é possível que uma IA os encontre em dados antigos.

Some situations are in the gray zone.

Algumas situações estão na zona cinzenta.

We worked with a health insurer.

Nós trabalhámos com uma seguradora de saúde

He developed an AI engine to identify, among his clients,

que desenvolveu um mecanismo de IA

para identificar, de entre os seus clientes,

people who are just about to go to hospital

as pessoas que estão prestes a serem internadas num hospital,

to sell them premium services.

para lhes vender serviços privilegiados

And the problem is,

O problema é que

some prospects were called by the commercial team

a equipa de vendas contactou alguns potenciais clientes

while they did not know yet

antes de eles saberem

they would have to go to hospital very soon.

que tinham de ser internados em breve num hospital.

You are the CEO of this company.

Se vocês fossem o CEO dessa empresa.

Do you stop that program?

parariam esse programa?

Not an easy question.

Não é uma pergunta fácil.

And to tackle this question, some companies are building teams,

Para lidar com esta pergunta, algumas empresas criam equipas

defining ethical rules and standards to help business and tech teams set limits

que definem regras e padrões éticos

para ajudar as empresas e as equipas tecnológicas

between personalization and manipulation,

a imporem limites entre a personalização e a manipulação,

customization of offers and discrimination,

entre a personalização de ofertas e a discriminação,

targeting and intrusion.

entre o direcionamento e a intrusão.

I am convinced that in every company,

Eu estou convencido de que, em todas as empresas,

applying AI where it really matters has massive payback.

implementar uma IA quando ela é realmente importante

traz um enorme retorno.

Business leaders need to be bold

Os líderes de negócios precisam de ser ousados

and select a few topics,

e selecionar alguns tópicos

and for each of them, mobilize 10, 20, 30 people from their best teams --

e para cada um deles,

mobilizar 10, 20, 30 pessoas das suas melhores equipas

tech, AI, data science, ethics --

— tecnologia, IA, ciência de dados, ética —

and go through the full 10-, 20-, 70-percent cycle

e passar por todo o ciclo de 10%, 20%, 70 %

do o "Ser Humano + IA",

of "Human plus AI,"

if they want to land AI effectively in their teams and processes.

se querem efetivamente impor a IA nas suas equipas e procedimentos.

There is no other way.

Não há outro caminho.

Citizens in developed economies already fear algocracy.

Cidadãos de economias desenvolvidas já temem a algoracracia.

Seven thousand were interviewed in a recent survey.

Foram entrevistados 7000 numa sondagem recente.

More than 75 percent expressed real concerns

Mais de 75% exprimiram preocupações reais

on the impact of AI on the workforce, on privacy,

no impacto que a IA teria nos trabalhadores, na privacidade,

on the risk of a dehumanized society.

no risco de desumanizar a sociedade.

Pushing algocracy creates a real risk of severe backlash against AI

Forçar a algoracracia cria um risco real de uma retaliação contra a IA

within companies or in society at large.

dentro de empresas ou na nossa sociedade em geral.

"Human plus AI" is our only option

"Ser Humano + IA" é a nossa única opção

to bring the benefits of AI to the real world.

para trazer os benefícios da IA para o mundo real.

And in the end,

E no final das contas,

winning organizations will invest in human knowledge,

as organizações vitoriosas investirão no conhecimento humano

not just AI and data.

e não apenas na IA e nos dados.

Recruiting, training, rewarding human experts.

Recrutando, formando, e recompensando os especialistas humanos.

Data is said to be the new oil,

Diz-se que os dados são o novo petróleo,

but believe me, human knowledge will make the difference,

mas acreditem, o conhecimento humano fará a diferença,

because it is the only derrick available

porque é a única bomba

to pump the oil hidden in the data.

capaz de extrair o petróleo escondido nos dados.

Thank you.

Obrigado.

(Applause)

(Aplausos)