Shyam Sankar: The rise of human-computer cooperation

Shyam Sankar: A ascensão da cooperação homem-computador

Translator: Joseph Geni Reviewer: Morton Bast

Tradutor: Mariangela Andrade Revisor: Rogerio Lourenco

I'd like to tell you about two games of chess.

Gostaria de falar sobre duas partidas de xadrez.

The first happened in 1997, in which Garry Kasparov,

A primeira aconteceu em 1997, na qual Garry Kasparov,

a human, lost to Deep Blue, a machine.

um humano, perdeu para Deep Blue, uma máquina.

To many, this was the dawn of a new era,

Para muitos, isto era o início de uma nova era,

one where man would be dominated by machine.

em que o homem seria dominado pela máquina.

But here we are, 20 years on, and the greatest change

Mas aqui estamos nós, 20 anos depois e a maior mudança

in how we relate to computers is the iPad,

de como nos relacionamos com computadores é o iPad

not HAL.

e não HAL.

The second game was a freestyle chess tournament

A segunda partida foi num torneio de xadrez estilo livre

in 2005, in which man and machine could enter together

em 2005, no qual homem e máquina podiam participar

as partners, rather than adversaries, if they so chose.

como parceiros, ao invés de adversários, se assim preferissem.

At first, the results were predictable.

No início os resultados eram previsíveis.

Even a supercomputer was beaten by a grandmaster

Mesmo um supercomputador perdia contra o grande mestre

with a relatively weak laptop.

com um laptop relativamente fraco.

The surprise came at the end. Who won?

A surpresa veio no final. Quem venceu?

Not a grandmaster with a supercomputer,

Não o grande mestre com um supercomputador,

but actually two American amateurs

mas na verdade dois amadores estadunidenses

using three relatively weak laptops.

com três laptops relativamente fracos.

Their ability to coach and manipulate their computers

A habilidade deles em instruir e manipular seus computadores,

to deeply explore specific positions

para explorar a fundo posições específicas

effectively counteracted the superior chess knowledge

agiu efetivamente contra o conhecimento superior sobre xadrez

of the grandmasters and the superior computational power

dos mestres e o poder da superioridade computacional

of other adversaries.

de outros adversários.

This is an astonishing result: average men,

Este é um resultado espantoso: homens comuns,

average machines beating the best man, the best machine.

máquinas comuns vencendo o melhor homem, a melhor máquina.

And anyways, isn't it supposed to be man versus machine?

Todavia, não deveria ser homem contra máquina?

Instead, it's about cooperation, and the right type of cooperation.

Em vez disso, trata-se de cooperação e o tipo certo de cooperação.

We've been paying a lot of attention to Marvin Minsky's

Nos últimos 50 anos viemos prestando muita atenção

vision for artificial intelligence over the last 50 years.

na visão de Marvin Minsky sobre a inteligência artificial.

It's a sexy vision, for sure. Many have embraced it.

É uma visão sexy, com certeza. Muitos a acolheram.

It's become the dominant school of thought in computer science.

Tornou-se a escola de pensamento dominante da ciência da computação.

But as we enter the era of big data, of network systems,

Mas ao entrarmos na era dos grandes dados, dos sistemas de redes,

of open platforms, and embedded technology,

das plataformas abertas e da tecnologia integrada,

I'd like to suggest it's time to reevaluate an alternative vision

eu sugeriria que está na hora de reavaliarmos uma visão alternativa

that was actually developed around the same time.

que na verdade foi desenvolvida no mesmo período.

I'm talking about J.C.R. Licklider's human-computer symbiosis,

Refiro-me à simbiose homem-computador de J. C. R. Licklider,

perhaps better termed "intelligence augmentation," I.A.

talvez melhor descrita como “ inteligência aumentada”.

Licklider was a computer science titan who had a profound

Licklider era um titã da ciência da computação e teve um profundo

effect on the development of technology and the Internet.

efeito no desenvolvimento da tecnologia e da Internet.

His vision was to enable man and machine to cooperate

Sua visão era possibilitar que homens e computadores cooperassem

in making decisions, controlling complex situations

na tomada de decisões, no controle de situações complexas

without the inflexible dependence

sem a dependência inflexível

on predetermined programs.

de programas predeterminados.

Note that word "cooperate."

Notem a palavra “cooperar”.

Licklider encourages us not to take a toaster

Licklider não nos encoraja pegar uma torradeira

and make it Data from "Star Trek,"

e fazer dela dados do “Star Trek”,

but to take a human and make her more capable.

mas sim utilizar um humano e fazê-lo mais capaz.

Humans are so amazing -- how we think,

Humanos são tão fantásticos – como nós pensamos,

our non-linear approaches, our creativity,

nossa abordagem não-linear, nossa criatividade,

iterative hypotheses, all very difficult if possible at all

as hipóteses interativas, tudo muito difícil senão impossível

for computers to do.

para os computadores fazerem.

Licklider intuitively realized this, contemplating humans

Licklider intuitivamente entendeu isto observando humanos e

setting the goals, formulating the hypotheses,

estabelecendo metas, formulando hipóteses,

determining the criteria, and performing the evaluation.

determinando critérios e fazendo avaliações.

Of course, in other ways, humans are so limited.

É claro, relativamente, os humanos são bem limitados.

We're terrible at scale, computation and volume.

Somos péssimos em dimensão, cálculo e volume.

We require high-end talent management

Necessitamos de talento de alto-nível de gerenciamento

to keep the rock band together and playing.

para mantermos a banda de rock unida e tocando.

Licklider foresaw computers doing all the routinizable work

Licklider previu que computadores fariam todo o trabalho rotineiro

that was required to prepare the way for insights and decision making.

necessário para preparar o acesso aos insights e às tomadas de decisões.

Silently, without much fanfare,

Silenciosamente, sem muito alarde,

this approach has been compiling victories beyond chess.

esta abordagem fez com que vitórias fossem possíveis além do xadrez.

Protein folding, a topic that shares the incredible expansiveness of chess —

A dobradura de proteínas, um assunto que tem a incrível e expansividade do xadrez –

there are more ways of folding a protein than there are atoms in the universe.

há mais formas de dobrar uma proteína do que o número de átomos no universo.

This is a world-changing problem with huge implications

Esse é um problema que pode mudar o mundo com grandes consequências

for our ability to understand and treat disease.

para a nossa capacidade de entender e tratar doenças.

And for this task, supercomputer field brute force simply isn't enough.

E para essa tarefa, somente a força bruta do supercomputador não é suficiente.

Foldit, a game created by computer scientists,

Foldit, um jogo criado por cientistas da computação,

illustrates the value of the approach.

ilustra o valor da abordagem.

Non-technical, non-biologist amateurs play a video game

Amadores, não-técnicos, não-biólogos jogam um videogame

in which they visually rearrange the structure of the protein,

no qual eles visualmente reorganizam a estrutura da proteína,

allowing the computer to manage the atomic forces

permitindo ao computador gerenciar forças atômicas,

and interactions and identify structural issues.

interações e identificar problemas de estrutura.

This approach beat supercomputers 50 percent of the time

Esse método derrota os supercomputadores 50% das vezes

and tied 30 percent of the time.

e empata 30% das vezes.

Foldit recently made a notable and major scientific discovery

Recentemente Foldit fez uma grande e notável descoberta científica

by deciphering the structure of the Mason-Pfizer monkey virus.

ao decifrar a estrutura do vírus do macaco Mason-Pfizer.

A protease that had eluded determination for over 10 years

Uma protease que se tenta desvendar há mais de dez anos

was solved was by three players in a matter of days,

foi descoberta por três jogadores numa questão de dias,

perhaps the first major scientific advance

talvez o primeiro grande avanço científico

to come from playing a video game.

advindo de uma partida de videogame.

Last year, on the site of the Twin Towers,

No ano passado, no local das Torres Gêmeas,

the 9/11 memorial opened.

foi inaugurado o memorial sobre o 11 de setembro.

It displays the names of the thousands of victims

Ele exibe os nomes de milhares de vítimas

using a beautiful concept called "meaningful adjacency."

usando um belo conceito chamado “adjacência significativa”.

It places the names next to each other based on their

Nomes são colocados uns ao lado dos outros baseados nas

relationships to one another: friends, families, coworkers.

suas relações: amigos, familiares, colegas de trabalho.

When you put it all together, it's quite a computational

Quando são colocados todos juntos, é um desafio computacional

challenge: 3,500 victims, 1,800 adjacency requests,

bem grande: 3.500 vítimas, 1.800 pedidos de adjacência,

the importance of the overall physical specifications

a importância das especificações físicas em geral

and the final aesthetics.

e o toque estético final.

When first reported by the media, full credit for such a feat

A primeira vez que foi noticiado pela mídia, todo o crédito dessa façanha

was given to an algorithm from the New York City

foi para o algoritmo projetado pela empresa Local Projects

design firm Local Projects. The truth is a bit more nuanced.

de Nova York. A verdade é um pouco mais sutil.

While an algorithm was used to develop the underlying framework,

Embora um algoritmo fosse usado para desenvolver a estrutura adjacente,

humans used that framework to design the final result.

humanos usaram esta estrutura para projetar o resultado final.

So in this case, a computer had evaluated millions

Então neste caso, um computador tinha avaliado milhões

of possible layouts, managed a complex relational system,

de formações possíveis, gerenciado um sistema relacional complexo,

and kept track of a very large set of measurements

e manteve o controle de um conjunto muito grande de medidas

and variables, allowing the humans to focus

e variáveis, permitindo que os humanos se concentrassem

on design and compositional choices.

no design e nas escolhas composicionais.

So the more you look around you,

Então, quanto mais você olha ao redor,

the more you see Licklider's vision everywhere.

mais você vê a visão de Licklider em toda parte.

Whether it's augmented reality in your iPhone or GPS in your car,

Quer se trate de realidade aumentada no iPhone ou no GPS em nossos carros,

human-computer symbiosis is making us more capable.

a simbiose entre homem e computador está nos fazendo mais capazes.

So if you want to improve human-computer symbiosis,

Então, se quisermos melhorar a simbiose homem-computador,

what can you do?

o que podemos fazer?

You can start by designing the human into the process.

Você pode começar incluindo o humano no processo.

Instead of thinking about what a computer will do to solve the problem,

Em vez de pensar no que o computador fará para resolver o problema,

design the solution around what the human will do as well.

crie a solução em torno do que o ser humano fará também.

When you do this, you'll quickly realize that you spent

Quando você faz isso, rapidamente percebe que gastou

all of your time on the interface between man and machine,

todo seu tempo na interface entre homem e máquina,

specifically on designing away the friction in the interaction.

especificamente para eliminar o atrito na interação.

In fact, this friction is more important than the power

Na verdade, esse atrito é mais importante do que o poder

of the man or the power of the machine

do ser humano ou o poder da máquina

in determining overall capability.

para determinar a capacidade total.

That's why two amateurs with a few laptops

É por isso que dois amadores com alguns laptops

handily beat a supercomputer and a grandmaster.

vencem facilmente um supercomputador e um grande mestre.

What Kasparov calls process is a byproduct of friction.

Aquilo que Kasparov chama de processo é um subproduto do atrito.

The better the process, the less the friction.

Melhor o processo, menor o atrito.

And minimizing friction turns out to be the decisive variable.

E a minimização do atrito passa a ser a variável decisiva.

Or take another example: big data.

Ou pegue outro exemplo: grandes volumes de dados.

Every interaction we have in the world is recorded

Cada interação que temos no mundo é registrada

by an ever growing array of sensors: your phone,

por uma série crescente de sensores: celulares,

your credit card, your computer. The result is big data,

cartões de crédito, computadores. Isto resulta em grandes volumes de dados,

and it actually presents us with an opportunity

o que, de fato, nos dá a oportunidade

to more deeply understand the human condition.

de entender a condição humana mais a fundo.

The major emphasis of most approaches to big data

A principal ênfase de muitas abordagens para grandes volumes de dados

focus on, "How do I store this data? How do I search

tem foco em: “Como armazenar esses dados? Como busco

this data? How do I process this data?"

esses dados? Como processo esses dados?”

These are necessary but insufficient questions.

Perguntas necessárias mas insuficientes.

The imperative is not to figure out how to compute,

O imperativo não é descobrir como computar

but what to compute. How do you impose human intuition

mas o que computar. Como colocar a intuição humana

on data at this scale?

em dados nessa dimensão?

Again, we start by designing the human into the process.

De novo, começamos por projetar o humano no processo.

When PayPal was first starting as a business, their biggest

Quando PayPal começou a operar como uma empresa, seu maior

challenge was not, "How do I send money back and forth online?"

desafio não era: “Como envio e recebo dinheiro na Internet?”

It was, "How do I do that without being defrauded by organized crime?"

Mas sim: “Como faço isso sem ser fraudado pelo crime organizado?”

Why so challenging? Because while computers can learn

Por que tal desafio? Porque embora computadores possam aprender

to detect and identify fraud based on patterns,

a detectar e identificar as fraudes a partir de padrões,

they can't learn to do that based on patterns

eles não podem fazê-lo com base em padrões

they've never seen before, and organized crime

nunca vistos antes, e o crime organizado

has a lot in common with this audience: brilliant people,

tem muito em comum com essa audência: pessoas brilhantes,

relentlessly resourceful, entrepreneurial spirit — (Laughter) —

implacavelmente engenhosos, espíritos empreendedores – (Risos) –

and one huge and important difference: purpose.

e uma diferença enorme e importante: propósito.

And so while computers alone can catch all but the cleverest

Embora computadores possam detectar tudo exceto os criminosos

fraudsters, catching the cleverest is the difference

mais espertos, capturar o mais esperto faz a diferença

between success and failure.

entre o sucesso e o fracasso.

There's a whole class of problems like this, ones with

Há uma série de problemas como este, uns com

adaptive adversaries. They rarely if ever present with a

adversários adaptativos. Eles nunca ou raramente apresentam

repeatable pattern that's discernable to computers.

um padrão repetitivo que os computadores possam distinguir.

Instead, there's some inherent component of innovation or disruption,

Em vez disso, há alguns componentes inerentes de inovação ou de perturbação,

and increasingly these problems are buried in big data.

que ficam cada vez mais escondidos no grande volume de dados.

For example, terrorism. Terrorists are always adapting

Por exemplo, terrorismo. Os terroristas estão sempre se adaptando

in minor and major ways to new circumstances, and despite

às novas circunstâncias, e apesar

what you might see on TV, these adaptations,

do que vocês vêem na TV, estas adaptações

and the detection of them, are fundamentally human.

e suas detecções são fundamentalmente humanas.

Computers don't detect novel patterns and new behaviors,

Computadores não detectam padrões originais e novos comportamentos,

but humans do. Humans, using technology, testing hypotheses,

mas os humanos sim. Eles usam tecnologia, testam hipóteses,

searching for insight by asking machines to do things for them.

buscam ideias pedindo às máquinas para fazer coisas para eles.

Osama bin Laden was not caught by artificial intelligence.

Osama bin Laden não foi capturado com inteligência artificial.

He was caught by dedicated, resourceful, brilliant people

Mas sim por pessoas dedicadas, engenhosas, brilhantes

in partnerships with various technologies.

em colaboração com várias tecnologias.

As appealing as it might sound, you cannot algorithmically

Por mais atraente que possa parecer, não podemos algoritmicamente

data mine your way to the answer.

minerar dados para obter resultados.

There is no "Find Terrorist" button, and the more data

Não existe um botão “Ache Terroristas” e, quanto mais dados,

we integrate from a vast variety of sources

provenientes de diversas fontes, nós integrarmos

across a wide variety of data formats from very

através de uma variedade ampla de formatos e

disparate systems, the less effective data mining can be.

de sistemas muito diversos, menos eficaz é a extração de dados.

Instead, people will have to look at data

Em vez disso, as pessoas terão que examinar os dados

and search for insight, and as Licklider foresaw long ago,

e procurar indícios, e como Licklider previu há tempos,

the key to great results here is the right type of cooperation,

a chave para se obter grandes resultados está no tipo certo de cooperação,

and as Kasparov realized,

e como Kasparov percebeu,

that means minimizing friction at the interface.

isso significa minimizar atritos na interface.

Now this approach makes possible things like combing

Essa abordagem possibilita coisas como procurar

through all available data from very different sources,

em todos dados disponíveis de fontes diversas,

identifying key relationships and putting them in one place,

identificar as relações fundamentais e as colocar em um lugar,

something that's been nearly impossible to do before.

algo quase impossível de se realizar antes.

To some, this has terrifying privacy and civil liberties

Para algumas pessoas, isso tem implicações terríveis para

implications. To others it foretells of an era of greater

a privacidade e a liberdade civil. Para outros isso prediz uma era de

privacy and civil liberties protections,

proteção às mesmas,

but privacy and civil liberties are of fundamental importance.

mas privacidade e liberdade civil são de importância fundamental.

That must be acknowledged, and they can't be swept aside,

Isto precisa ser reconhecido, elas não podem ser negligenciadas,

even with the best of intents.

mesmo com a melhor das intenções.

So let's explore, through a couple of examples, the impact

Vamos explorar esses dois exemplos. O impacto

that technologies built to drive human-computer symbiosis

que as tecnologias criadas para acionar a simbiose homem-computador

have had in recent time.

têm tido recentemente.

In October, 2007, U.S. and coalition forces raided

Em outubro de 2007, os EUA e as forças da coalizão invadiram

an al Qaeda safe house in the city of Sinjar

um esconderijo do al-Qaeda na cidade de Sinjar,

on the Syrian border of Iraq.

na fronteira entre a Síria e o Iraque.

They found a treasure trove of documents:

Eles encontraram valiosos documentos escondidos :

700 biographical sketches of foreign fighters.

700 notas biográficas de combatentes estrangeiros.

These foreign fighters had left their families in the Gulf,

Esses combatentes tinham deixado suas famílias no Golfo,

the Levant and North Africa to join al Qaeda in Iraq.

na região do Levante e no norte da África para juntarem-se a al-Qaeda no Iraque.

These records were human resource forms.

Essas fichas eram formulários de recursos humanos.

The foreign fighters filled them out as they joined the organization.

Os combatentes estrangeiros os preenchiam quando se associavam à organização.

It turns out that al Qaeda, too,

Acontece que al-Qaeda, também,

is not without its bureaucracy. (Laughter)

não escapa da burocracia. (Risos)

They answered questions like, "Who recruited you?"

Eles respondiam a esse tipo de pergunta: “Quem os recrutou?”

"What's your hometown?" "What occupation do you seek?"

“Qual a sua cidade natal?” “Que cargo quer?”

In that last question, a surprising insight was revealed.

A última pergunta foi uma revelação surpreendente.

The vast majority of foreign fighters

A vasta maioria dos combatentes estrangeiros

were seeking to become suicide bombers for martyrdom --

queria ser homens-bombas para o martírio –

hugely important, since between 2003 and 2007, Iraq

muito importante entre 2003 e 2007, o Iraque

had 1,382 suicide bombings, a major source of instability.

tinha 1.382 homens-bomba, uma fonte de instabilidade importante.

Analyzing this data was hard. The originals were sheets

Esses dados eram difíceis de analisar. Os originais eram papéis

of paper in Arabic that had to be scanned and translated.

em árabe que tinham que ser escaneados e traduzidos.

The friction in the process did not allow for meaningful

A complexidade do processo não gerou resultados significativos

results in an operational time frame using humans, PDFs

dentro de um prazo razoável usando humanos, PDFs

and tenacity alone.

e perseverança.

The researchers had to lever up their human minds

Os pesquisadores tiveram que forçar suas mentes

with technology to dive deeper, to explore non-obvious

com a ajuda da tecnologia para mergulhar a fundo, explorar hipóteses

hypotheses, and in fact, insights emerged.

não-óbvias, e de fato, indícios surgiram.

Twenty percent of the foreign fighters were from Libya,

20% dos combatentes estrangeiros eram da Líbia,

50 percent of those from a single town in Libya,

50% deles eram de uma única cidade da Líbia,

hugely important since prior statistics put that figure at

extremamente importante já que estatísticas anteriores tinham mostrado

three percent. It also helped to hone in on a figure

3%. Isso também ajudou a focar em uma pessoa

of rising importance in al Qaeda, Abu Yahya al-Libi,

de importância crescente no al-Quaeda, Abu Yahya al-Libi,

a senior cleric in the Libyan Islamic fighting group.

um clérigo sênior do Grupo de Combatentes Islâmicos da Líbia.

In March of 2007, he gave a speech, after which there was

Em março de 2007, ele deu uma palestra que gerou

a surge in participation amongst Libyan foreign fighters.

uma onda de participação de combatentes estrangeiros da Líbia.

Perhaps most clever of all, though, and least obvious,

Porém, talvez o mais inteligente de tudo e menos óbvio,

by flipping the data on its head, the researchers were

é que ao reverter os dados, os pesquisadores conseguiram

able to deeply explore the coordination networks in Syria

explorar a fundo as redes de coordenação na Síria

that were ultimately responsible for receiving and

que eram responsáveis pelo recebimento e

transporting the foreign fighters to the border.

transporte de combatentes estrangeiros para a fronteira.

These were networks of mercenaries, not ideologues,

Essas eram redes de mercenários, não de ideólogos,

who were in the coordination business for profit.

que estavam no ramo de coordenação para fins lucrativos.

For example, they charged Saudi foreign fighters

Por exemplo, eles cobravam dos combatentes da Saudi Arabia muito mais

substantially more than Libyans, money that would have

do que dos da Líbia, fundos que poderiam ter ido

otherwise gone to al Qaeda.

para a al-Qaeda.

Perhaps the adversary would disrupt their own network

Talvez os adversários interrompessem sua própria rede

if they knew they cheating would-be jihadists.

se soubessem que estavam enganando supostos jihadistas.

In January, 2010, a devastating 7.0 earthquake struck Haiti,

Em janeiro de 2010 um terremoto devastador de 7.0 atingiu o Haiti,

third deadliest earthquake of all time, left one million people,

o terceiro mais desastroso de todos os tempos, deixou 1 milhão de pessoas,

10 percent of the population, homeless.

10% da população, sem casa.

One seemingly small aspect of the overall relief effort

Um aspecto aparentemente irrelevante de todo o esforço da ajuda humanitária

became increasingly important as the delivery of food

tornou-se cada vez mais importante quando comida

and water started rolling.

e água começaram a chegar.

January and February are the dry months in Haiti,

Janeiro e fevereiro são os meses secos no Haiti,

yet many of the camps had developed standing water.

No entanto, muitos dos acampamentos tinham água estagnada.

The only institution with detailed knowledge of Haiti's

A única instituição com conhecimento detalhado das planícies

floodplains had been leveled

do Haiti havia sido destruída

in the earthquake, leadership inside.

no terremoto, incluindo sua chefia.

So the question is, which camps are at risk,

Então, quais são as áreas de risco,

how many people are in these camps, what's the

quantas pessoas estão nestas áreas, qual é a linha do

timeline for flooding, and given very limited resources

tempo para as enchentes, e considerando que os recursos e a infra-estrutura

and infrastructure, how do we prioritize the relocation?

são muito limitados, como priorizar a realocação?

The data was incredibly disparate. The U.S. Army had

Os dados eram disparatados. O exército estadunidense só tinha

detailed knowledge for only a small section of the country.

conhecimento detalhado de uma parte pequena do país.

There was data online from a 2006 environmental risk

Havia dados na Internet de uma conferência em 2006 sobre

conference, other geospatial data, none of it integrated.

riscos ao meio ambiente, outros dados geoespaciais, nada disso integrado.

The human goal here was to identify camps for relocation

O objetivo aqui era identificar acampamentos para realocação

based on priority need.

baseado na prioridade necessária.

The computer had to integrate a vast amount of geospacial

O computador teve que integrar uma quantidade vasta de informação

information, social media data and relief organization

geoespacial, dados de mídia social e informação das organizações humanitárias

information to answer this question.

para poder responder à esta pergunta.

By implementing a superior process, what was otherwise

A implementação de um processo de alto nível, o que seria de outra forma

a task for 40 people over three months became

uma tarefa para 40 pessoas durante 3 meses, tornou-se

a simple job for three people in 40 hours,

um trabalho simples para 3 pessoas em 40 horas,

all victories for human-computer symbiosis.

tudo vitórias para a simbiose homem-computador.

We're more than 50 years into Licklider's vision

Já são mais de 50 anos desde que Licklider teve a visão

for the future, and the data suggests that we should be

do futuro, e os dados sugerem que devíamos estar muito

quite excited about tackling this century's hardest problems,

entusiasmados para enfrentar os problemas mais duros deste século,

man and machine in cooperation together.

homem e máquina trabalhando juntos.

Thank you. (Applause)

Obrigado. (Aplausos)

(Applause)

(Aplausos)