Shyam Sankar: The rise of human-computer cooperation

Translator: Joseph Geni Reviewer: Morton Bast

Tradutor: João Gil Revisora: Paulo Duarte

I'd like to tell you about two games of chess.

Gostaria de vos falar de dois jogos de xadrez.

The first happened in 1997, in which Garry Kasparov,

O primeiro ocorreu em 1997, em que Garry Kasparov, um ser humano,

a human, lost to Deep Blue, a machine.

perdeu contra o Deep Blue, uma máquina.

To many, this was the dawn of a new era,

Para muitos, foi o amanhecer de uma nova era

one where man would be dominated by machine.

em que o homem seria dominado pela máquina.

But here we are, 20 years on, and the greatest change

Mas aqui estamos nós, 20 anos depois, e a maior mudança

in how we relate to computers is the iPad,

na nossa relação com os computadores

not HAL.

é o iPad e não o HAL.

The second game was a freestyle chess tournament

O segundo jogo foi um torneio de xadrez "freestyle"

in 2005, in which man and machine could enter together

em 2005, em que homem e máquina podiam participar juntos,

as partners, rather than adversaries, if they so chose.

como parceiros, em vez de adversários, se assim o desejassem.

At first, the results were predictable.

A princípio, os resultados eram previsíveis.

Even a supercomputer was beaten by a grandmaster

Até um supercomputador era batido por um grande mestre

with a relatively weak laptop.

com um portátil relativamente fraco.

The surprise came at the end. Who won?

A surpresa veio no final. Quem ganhou?

Not a grandmaster with a supercomputer,

Não foi um grande mestre com um supercomputador,

but actually two American amateurs

mas dois americanos amadores

using three relatively weak laptops.

que usaram três portáteis relativamente fracos.

Their ability to coach and manipulate their computers

A capacidade de treinar e manipular os seus computadores,

to deeply explore specific positions

para explorar profundamente posições específicas

effectively counteracted the superior chess knowledge

foi eficaz para contrariar o conhecimento superior do xadrez

of the grandmasters and the superior computational power

do grande mestre e do poder informático superior

of other adversaries.

de outros adversários.

This is an astonishing result: average men,

Isto é um resultado espantoso: homens comuns, máquinas comuns

average machines beating the best man, the best machine.

que derrotaram o melhor homem, a melhor máquina.

And anyways, isn't it supposed to be man versus machine?

Mas não era suposto ser o homem contra a máquina?

Instead, it's about cooperation, and the right type of cooperation.

Em vez disso, trata-se de cooperação e do tipo certo de cooperação.

We've been paying a lot of attention to Marvin Minsky's

Temos prestado muita atenção à visão de Marvin Minsky

vision for artificial intelligence over the last 50 years.

sobre a inteligência artificial, nos últimos 50 anos.

It's a sexy vision, for sure. Many have embraced it.

É uma visão muito atraente. Muitos a adotaram.

It's become the dominant school of thought in computer science.

Tornou-se a escola de pensamento dominante na ciência informática.

But as we enter the era of big data, of network systems,

Mas, ao entrarmos na era dos metadados dos sistemas de rede

of open platforms, and embedded technology,

das plataformas abertas e das tecnologias integradas,

I'd like to suggest it's time to reevaluate an alternative vision

eu gostaria de sugerir que é tempo de reavaliar uma visão alternativa

that was actually developed around the same time.

que foi desenvolvida por volta da mesma altura.

I'm talking about J.C.R. Licklider's human-computer symbiosis,

Estou a falar da simbiose homem-máquina de J.C.R. Licklider

perhaps better termed "intelligence augmentation," I.A.

talvez mais bem referida como "inteligência aumentada".

Licklider was a computer science titan who had a profound

Licklider era um titã da informática que teve um profundo efeito

effect on the development of technology and the Internet.

no desenvolvimento tecnológico e da Internet.

His vision was to enable man and machine to cooperate

A sua visão era permitir que homem e máquina cooperassem

in making decisions, controlling complex situations

na tomada de decisões, no controlo de situações complexas

without the inflexible dependence

sem a dependência inflexível

on predetermined programs.

de programas predeterminados.

Note that word "cooperate."

Reparem na palavra "cooperar."

Licklider encourages us not to take a toaster

Licklider não nos encoraja a pegar numa torradeira

and make it Data from "Star Trek,"

e a torná-la no Data do "Star Trek",

but to take a human and make her more capable.

mas a pegar num ser humano e torná-lo mais capaz.

Humans are so amazing -- how we think,

As pessoas são espantosas — a nossa forma de pensar,

our non-linear approaches, our creativity,

as abordagens não-lineares, a criatividade,

iterative hypotheses, all very difficult if possible at all

as hipóteses iterativas, tudo é muito difícil

for computers to do.

para um computador fazer.

Licklider intuitively realized this, contemplating humans

Licklider apercebeu-se disto, a contemplar os seres humanos

setting the goals, formulating the hypotheses,

a definir objetivos, a formular hipóteses,

determining the criteria, and performing the evaluation.

a determinar critérios e a efetuar avaliações.

Of course, in other ways, humans are so limited.

Noutros aspetos, as pessoas são muito limitadas.

We're terrible at scale, computation and volume.

Somos terríveis com a escala, o cálculo e o volume.

We require high-end talent management

Precisamos duma ótima gestão de talentos

to keep the rock band together and playing.

para manter um grupo de "rock" unido e a tocar.

Licklider foresaw computers doing all the routinizable work

Licklider previu que os computadores fizessem todo o trabalho de rotina

that was required to prepare the way for insights and decision making.

necessário para abrir caminho às ideias e decisões.

Silently, without much fanfare,

Silenciosamente, sem muita fanfarra,

this approach has been compiling victories beyond chess.

esta abordagem tem acumulado vitórias, para além do xadrez.

Protein folding, a topic that shares the incredible expansiveness of chess —

A dobragem de proteínas, que partilha a expansividade do xadrez

there are more ways of folding a protein than there are atoms in the universe.

— há mais maneiras de dobrar uma proteína do que átomos no universo —

This is a world-changing problem with huge implications

é um problema que pode mudar o mundo, com enormes implicações

for our ability to understand and treat disease.

na nossa capacidade de compreender e tratar doenças.

And for this task, supercomputer field brute force simply isn't enough.

Para essa tarefa, a força bruta dum supercomputador não é suficiente.

Foldit, a game created by computer scientists,

Foldit, um jogo criado por engenheiros informáticos,

illustrates the value of the approach.

ilustra o valor da abordagem.

Non-technical, non-biologist amateurs play a video game

Amadores que não são técnicos nem biólogos jogam um videojogo

in which they visually rearrange the structure of the protein,

em que reorganizam visualmente a estrutura da proteína,

allowing the computer to manage the atomic forces

permitindo que o computador lide com as interações atómicas

and interactions and identify structural issues.

e identifique problemas estruturais.

This approach beat supercomputers 50 percent of the time

Esta abordagem derrotou supercomputadores 50% das vezes

and tied 30 percent of the time.

e empatou 30% das vezes.

Foldit recently made a notable and major scientific discovery

O Foldit fez recentemente uma grande e notável descoberta científica

by deciphering the structure of the Mason-Pfizer monkey virus.

ao decifrar a estrutura do vírus Mason-Pfizer em macacos.

A protease that had eluded determination for over 10 years

Uma protéase que escapara à determinação durante mais de 10 anos

was solved was by three players in a matter of days,

foi resolvida por três jogadores numa questão de dias,

perhaps the first major scientific advance

talvez o maior avanço científico

to come from playing a video game.

que resultou de um videojogo.

Last year, on the site of the Twin Towers,

No ano passado, no local das Torres Gémeas,

the 9/11 memorial opened.

foi inaugurado o Memorial do 11 de Setembro.

It displays the names of the thousands of victims

Exibe os nomes de milhares de vítimas

using a beautiful concept called "meaningful adjacency."

usando um belo conceito chamado "proximidade significativa".

It places the names next to each other based on their

Coloca os nomes ao lado uns dos outros em função das suas relações:

relationships to one another: friends, families, coworkers.

amigos, família, colegas de trabalho.

When you put it all together, it's quite a computational

Quando juntamos todos, é um grande problema informático:

challenge: 3,500 victims, 1,800 adjacency requests,

3500 vítimas, 1800 pedidos de proximidade,

the importance of the overall physical specifications

a importância das especificações físicas globais e a estética final.

and the final aesthetics.

When first reported by the media, full credit for such a feat

Os "media" deram a notícia, atribuindo os louros de tal feito

was given to an algorithm from the New York City

a um algoritmo da firma de "design" de New York City: Local Projects.

design firm Local Projects. The truth is a bit more nuanced.

A verdade é um pouco diferente.

While an algorithm was used to develop the underlying framework,

Embora se tenha usado um algoritmo para o quadro subjacente,

humans used that framework to design the final result.

foram pessoas que usaram esse quadro para conceber o resultado final.

So in this case, a computer had evaluated millions

Neste caso, um computador avaliou milhões de possíveis distribuições,

of possible layouts, managed a complex relational system,

geriu um complexo sistema de relações

and kept track of a very large set of measurements

e manteve um grande conjunto de medições e de variáveis,

and variables, allowing the humans to focus

o que permitiu que as pessoas se concentrassem

on design and compositional choices.

na escolha da conceção e da composição.

So the more you look around you,

Quanto mais olhamos à nossa volta,

the more you see Licklider's vision everywhere.

mais vemos a visão de Licklider por todo o lado.

Whether it's augmented reality in your iPhone or GPS in your car,

Quer seja a realidade aumentada num iPhone ou no GPS dum carro,

human-computer symbiosis is making us more capable.

a simbiose homem-máquina torna-nos mais capazes.

So if you want to improve human-computer symbiosis,

Se quisermos melhorar a simbiose homem-máquina,

what can you do?

o que é que podemos fazer?

You can start by designing the human into the process.

Podemos começar por incluir a pessoa na conceção.

Instead of thinking about what a computer will do to solve the problem,

Em vez de pensar como o computador resolverá o problema,

design the solution around what the human will do as well.

conceber a solução sobre o que o ser humano também poderá fazer.

When you do this, you'll quickly realize that you spent

Quando fizermos isso, depressa chegaremos à conclusão

all of your time on the interface between man and machine,

de que passámos o tempo todo na interface entre o homem e a máquina,

specifically on designing away the friction in the interaction.

principalmente a eliminar a fricção da interação.

In fact, this friction is more important than the power

De facto, esta fricção é mais importante

of the man or the power of the machine

que o poder do homem ou o poder da máquina

in determining overall capability.

na determinação da capacidade total.

That's why two amateurs with a few laptops

Por isso é que dois amadores com uns portáteis

handily beat a supercomputer and a grandmaster.

derrotaram facilmente um supercomputador e um grande mestre.

What Kasparov calls process is a byproduct of friction.

O que Kasparov chama de processo é um derivado da fricção.

The better the process, the less the friction.

Quanto melhor o processo, menor a fricção.

And minimizing friction turns out to be the decisive variable.

Reduzir a fricção torna-se a variável decisiva.

Or take another example: big data.

Ou outro exemplo: os metadados.

Every interaction we have in the world is recorded

Todas as interações no mundo

by an ever growing array of sensors: your phone,

são gravadas por um crescente número de sensores:

o telemóvel, o cartão de crédito, o computador.

your credit card, your computer. The result is big data,

O resultado são os metadados.

and it actually presents us with an opportunity

proporcionam-nos uma oportunidade

to more deeply understand the human condition.

de compreender melhor a condição humana.

The major emphasis of most approaches to big data

A maior parte das abordagens aos metadados concentra-se em:

focus on, "How do I store this data? How do I search

"Como guardo estes dados? Como pesquiso estes dados?

this data? How do I process this data?"

"Como processo estes dados?"

These are necessary but insufficient questions.

Estas são perguntas necessárias mas insuficientes.

The imperative is not to figure out how to compute,

O imperativo não é perceber como calcular, mas sim o que calcular.

but what to compute. How do you impose human intuition

Como se impõe a intuição humana nos dados a esta escala?

on data at this scale?

Again, we start by designing the human into the process.

Mais uma vez, começamos por integrar o homem na conceção do processo.

When PayPal was first starting as a business, their biggest

Quando a PayPal estava a começar, o seu maior problema não era:

challenge was not, "How do I send money back and forth online?"

"Como é que eu envio e recebo dinheiro online?"

It was, "How do I do that without being defrauded by organized crime?"

mas sim: "Como fazê-lo sem ser burlado pelo crime organizado?"

Why so challenging? Because while computers can learn

Porque é tão difícil? Porque, enquanto os computadores podem aprender

to detect and identify fraud based on patterns,

a detetar e identificar fraudes, com base em modelos,

they can't learn to do that based on patterns

they've never seen before, and organized crime

não conseguem aprender a fazê-lo

com base em modelos que nunca viram,

has a lot in common with this audience: brilliant people,

e o crime organizado tem muito em comum com esta plateia:

relentlessly resourceful, entrepreneurial spirit — (Laughter) —

pessoas brilhantes cheias de recursos, espirito empreendedor...

(Risos)

and one huge and important difference: purpose.

... e uma diferença monumental: um objetivo.

And so while computers alone can catch all but the cleverest

Os computadores, por si só, conseguem apanhar todos os burlões,

fraudsters, catching the cleverest is the difference

exceto os mais espertos, mas apanhar estes últimos é a diferença

between success and failure.

entre o sucesso e o fracasso.

There's a whole class of problems like this, ones with

Há toda uma série de problemas como este, com adversários que se adaptam.

adaptive adversaries. They rarely if ever present with a

que raramente utilizam um modelo repetitivo

repeatable pattern that's discernable to computers.

que seja detetável pelos computadores.

Instead, there's some inherent component of innovation or disruption,

Em vez disso, há uma componente inerente de inovação ou rotura,

e estes problemas estão cada vez mais enterrados nos metadados.

and increasingly these problems are buried in big data.

For example, terrorism. Terrorists are always adapting

Por exemplo, o terrorismo.

Os terroristas adaptam-se sempre a novas circunstâncias,

in minor and major ways to new circumstances, and despite

what you might see on TV, these adaptations,

e, apesar do que temos visto na TV,

essas adaptações e a sua deteção são fundamentalmente humanas.

and the detection of them, are fundamentally human.

Computers don't detect novel patterns and new behaviors,

Os computadores não detetam novos modelos e comportamentos,

but humans do. Humans, using technology, testing hypotheses,

mas as pessoas conseguem, usando tecnologias, testando hipóteses

searching for insight by asking machines to do things for them.

procurando o conhecimento, pedindo às máquinas que façam essas coisas.

Osama bin Laden was not caught by artificial intelligence.

Osama bin Laden não foi apanhado graças à inteligência artificial.

He was caught by dedicated, resourceful, brilliant people

Foi apanhado por pessoas dedicadas e brilhantes

in partnerships with various technologies.

em parceria com diversas tecnologias.

As appealing as it might sound, you cannot algorithmically

Por muito atrativo que pareça, não se consegue encontrar a resposta

data mine your way to the answer.

procurando em dados com algoritmos.

There is no "Find Terrorist" button, and the more data

Não há botão de "Encontrar Terrorista" e, quanto mais dados integrarmos

we integrate from a vast variety of sources

a partir de uma ampla variedade de fontes,

across a wide variety of data formats from very

de uma grande variedade de dados, de sistemas bastante díspares,

disparate systems, the less effective data mining can be.

menos eficaz se torna o tratamento de dados.

Instead, people will have to look at data

As pessoas terão que olhar para os dados e procurar soluções.

and search for insight, and as Licklider foresaw long ago,

Como Licklider previu há muito tempo,

the key to great results here is the right type of cooperation,

a chave para bons resultados é o tipo certo de cooperação.

and as Kasparov realized,

that means minimizing friction at the interface.

Como Kasparov se apercebeu,

isso significa minimizar a fricção na interface.

Now this approach makes possible things like combing

Com esta abordagem tornam-se possíveis coisas

through all available data from very different sources,

como filtrar todos os dados disponíveis de fontes diferentes,

identifying key relationships and putting them in one place,

identificando relações chave e reunindo-as num só local,

something that's been nearly impossible to do before.

o que era quase impossível anteriormente.

Para uns, isto tem terríveis implicações a nível de privacidade e liberdade civil.

To some, this has terrifying privacy and civil liberties

implications. To others it foretells of an era of greater

Para outros, isto antevê uma era

privacy and civil liberties protections,

de maior privacidade e proteção das liberdades civis,

but privacy and civil liberties are of fundamental importance.

mas a privacidade e as liberdades civis têm uma importância fundamental.

That must be acknowledged, and they can't be swept aside,

Temos que o reconhecer, não podemos pô-las de lado,

even with the best of intents.

nem com a melhor das intenções.

So let's explore, through a couple of examples, the impact

Exploremos, através de alguns exemplos,

that technologies built to drive human-computer symbiosis

o impacto que as tecnologias, construídas para criar a simbiose homem-máquina

have had in recent time.

tiveram recentemente.

In October, 2007, U.S. and coalition forces raided

Em outubro de 2007, os EUA e as forças de coligação

an al Qaeda safe house in the city of Sinjar

invadiram um refúgio da al-Qaeda, na cidade de Sinjar,

on the Syrian border of Iraq.

na fronteira entre o Iraque e a Síria.

They found a treasure trove of documents:

Encontraram um tesouro de documentos:

700 biographical sketches of foreign fighters.

700 biografias de combatentes estrangeiros

These foreign fighters had left their families in the Gulf,

que tinham deixado as famílias no Golfo,

no Levante e no Norte de África para se juntarem à al-Qaeda no Iraque.

the Levant and North Africa to join al Qaeda in Iraq.

These records were human resource forms.

Os registos eram formulários

The foreign fighters filled them out as they joined the organization.

que os combatentes preenchiam quando se juntavam à organização.

It turns out that al Qaeda, too,

Parece que nem a al-Qaeda escapa à burocracia.

is not without its bureaucracy. (Laughter)

(Risos)

They answered questions like, "Who recruited you?"

Respondiam a perguntas como: "Quem o recrutou?"

"What's your hometown?" "What occupation do you seek?"

"Qual é a sua cidade natal?" "Que ocupação procura?"

In that last question, a surprising insight was revealed.

Esta última pergunta revelou-se uma surpresa.

The vast majority of foreign fighters

A grande maioria dos combatentes estrangeiros

were seeking to become suicide bombers for martyrdom --

queriam ser bombistas suicidas e mártires

hugely important, since between 2003 and 2007, Iraq

muito importante, visto que, entre 2003 e 2007,

had 1,382 suicide bombings, a major source of instability.

o Iraque teve 1382 atentados suicidas, uma grande fonte de instabilidade.

Analisar esta informação foi difícil.

Analyzing this data was hard. The originals were sheets

Os originais estavam em árabe e tinham de ser digitalizados e traduzidos.

of paper in Arabic that had to be scanned and translated.

The friction in the process did not allow for meaningful

A fricção no processo não permitia resultados significativos

results in an operational time frame using humans, PDFs

em tempo operacional usando apenas pessoas,

and tenacity alone.

PDFs e tenacidade.

The researchers had to lever up their human minds

Os investigadores tiveram que recorrer à tecnologia

with technology to dive deeper, to explore non-obvious

para investigar mais, explorar hipóteses não-óbvias,

hypotheses, and in fact, insights emerged.

e, de facto, surgiram resultados.

Twenty percent of the foreign fighters were from Libya,

20% dos combatentes estrangeiros vinham da Líbia,

50 percent of those from a single town in Libya,

50% dos quais de uma única cidade na Líbia,

hugely important since prior statistics put that figure at

muito importante, visto que as estatísticas anteriores

three percent. It also helped to hone in on a figure

avaliavam esse número em 3%.

of rising importance in al Qaeda, Abu Yahya al-Libi,

Ajudaram a encontrar uma figura de importância crescente na al-Qaeda,

a senior cleric in the Libyan Islamic fighting group.

Abu Yahya al-Libi, um importante membro do grupo Líbia-Islão.

In March of 2007, he gave a speech, after which there was

Em março de 2007, fez um discurso, depois do qual houve

a surge in participation amongst Libyan foreign fighters.

um grande aumento no recrutamento de combatentes estrangeiros.

Perhaps most clever of all, though, and least obvious,

Mas talvez o mais inteligente de tudo e o menos óbvio,

by flipping the data on its head, the researchers were

foi que, revolvendo os dados, os investigadores puderam explorar,

able to deeply explore the coordination networks in Syria

com profundidade, as redes de coordenação na Síria

that were ultimately responsible for receiving and

responsáveis por receber e transportar os terroristas para a fronteira.

transporting the foreign fighters to the border.

These were networks of mercenaries, not ideologues,

Eram redes de mercenários, não de ideólogos,

who were in the coordination business for profit.

que estavam na coordenação por dinheiro.

For example, they charged Saudi foreign fighters

Por exemplo, cobravam aos terroristas sauditas

substantially more than Libyans, money that would have

muito mais do que aos da Líbia,

otherwise gone to al Qaeda.

dinheiro que, de outra forma, iria parar à al-Qaeda.

Perhaps the adversary would disrupt their own network

Talvez o adversário modificasse a sua rede

if they knew they cheating would-be jihadists.

se soubesse que eles estavam a explorar os futuros jiadistas.

In January, 2010, a devastating 7.0 earthquake struck Haiti,

Em janeiro de 2010, um terramoto devastador de grau 7 atingiu o Haiti.

third deadliest earthquake of all time, left one million people,

O terceiro terramoto mais mortal de todos os tempos,

10 percent of the population, homeless.

deixou um milhão de pessoas, 10% da população, sem abrigo.

One seemingly small aspect of the overall relief effort

Um aspeto aparentemente pequeno do esforço comunitário

became increasingly important as the delivery of food

tornou-se cada vez mais importante

and water started rolling.

à medida que começou a entrega de comida e de água.

January and February are the dry months in Haiti,

Janeiro e fevereiro são meses secos no Haiti.

yet many of the camps had developed standing water.

Mas muitos dos campos tinham água estagnada.

A instituição com conhecimento detalhado da inundação

The only institution with detailed knowledge of Haiti's

floodplains had been leveled

das zonas inundadas do Haiti tinha sido destruída no terramoto,

in the earthquake, leadership inside.

com os líderes lá dentro.

So the question is, which camps are at risk,

O problema era saber quais os campos em risco,

how many people are in these camps, what's the

quantas pessoas havia nos campos,

qual a cronologia das inundações

timeline for flooding, and given very limited resources

and infrastructure, how do we prioritize the relocation?

e, dados os recursos e infraestruturas muito limitadas,

como dar prioridade ao realojamento?

The data was incredibly disparate. The U.S. Army had

Os dados eram incrivelmente díspares.

detailed knowledge for only a small section of the country.

Os EUA só tinham conhecimento detalhado de parte do país.

There was data online from a 2006 environmental risk

Havia dados online de uma conferência ambiental de 2006,

conference, other geospatial data, none of it integrated.

outros dados geoespaciais, mas nada disso integrado.

The human goal here was to identify camps for relocation

O objetivo era identificar os campos a utilizar

based on priority need.

segundo as necessidades prioritárias.

The computer had to integrate a vast amount of geospacial

O computador teve que integrar uma grande quantidade

information, social media data and relief organization

de informações geoespaciais, dados sociais dos "media" e das organizações de socorro

information to answer this question.

para responder a esta questão.

By implementing a superior process, what was otherwise

Através da implementação de um processo superior

a task for 40 people over three months became

que, de outro modo, seria um trabalho para 40 pessoas em 3 meses

a simple job for three people in 40 hours,

tornou-se numa simples tarefa para 3 pessoas em 40 horas,

all victories for human-computer symbiosis.

tudo vitórias para a simbiose homem-máquina.

We're more than 50 years into Licklider's vision

Mais de 50 anos depois da visão de Licklider para o futuro,

for the future, and the data suggests that we should be

os dados sugerem que devíamos estar muito entusiasmados

quite excited about tackling this century's hardest problems,

em atacar os problemas mais difíceis do século,

man and machine in cooperation together.

numa parceria de homem e máquina.

Thank you. (Applause)

Obrigado.

(Aplausos)

(Applause)