How tech companies deceive you into giving up your data and privacy | Finn Lützow-Holm Myrstad

Tradutor: Maurício Kakuei Tanaka Revisor: Maricene Crus

Do you remember when you were a child,

Lembram-se de que, quando vocês eram crianças,

you probably had a favorite toy that was a constant companion,

deviam ter um brinquedo favorito que sempre lhes fazia companhia,

like Christopher Robin had Winnie the Pooh,

como o Christopher Robin que tinha o Ursinho Pooh,

and your imagination fueled endless adventures?

e uma imaginação que estimulava aventuras infinitas?

What could be more innocent than that?

O que poderia ser mais inocente do que isso?

Well, let me introduce you to my friend Cayla.

Bem, vou lhes apresentar minha amiga Cayla.

Cayla was voted toy of the year in countries around the world.

Cayla foi eleita o brinquedo do ano em países do mundo inteiro.

She connects to the internet and uses speech recognition technology

Ela se conecta à internet e utiliza tecnologia de reconhecimento de voz

to answer your child's questions,

para responder às perguntas das crianças

respond just like a friend.

e agir como se fosse uma amiga.

But the power doesn't lie with your child's imagination.

Mas o poder não está na imaginação das crianças.

It actually lies with the company harvesting masses of personal information

Está na empresa que reúne uma grande quantidade de informações pessoais

while your family is innocently chatting away in the safety of their home,

enquanto sua família conversa inocentemente na segurança do lar,

a dangerously false sense of security.

com uma perigosa e falsa sensação de segurança.

This case sounded alarm bells for me,

Esse caso chamou minha atenção,

as it is my job to protect consumers' rights in my country.

pois meu trabalho é proteger os direitos do consumidor em meu país.

And with billions of devices such as cars,

Com bilhões de máquinas, como carros,

energy meters and even vacuum cleaners expected to come online by 2020,

medidores de energia e até aspiradores que estarão disponíveis on-line em 2020,

we thought this was a case worth investigating further.

achamos que valeria a pena investigar esse caso mais profundamente.

Because what was Cayla doing

O que Cayla estaria fazendo

with all the interesting things she was learning?

com as informações interessantes que estava aprendendo?

Did she have another friend she was loyal to and shared her information with?

Havia outra amiga fiel com quem ela compartilhava essas informações?

Yes, you guessed right. She did.

Sim, vocês adivinharam.

Havia.

In order to play with Cayla,

Para brincar com Cayla, é preciso baixar um aplicativo

you need to download an app to access all her features.

para acessar todas as funcionalidades dela.

Parents must consent to the terms being changed without notice.

Os pais têm que aceitar a alteração dos termos de uso sem aviso prévio.

The recordings of the child, her friends and family,

As gravações da criança, dos amigos e familiares dela

can be used for targeted advertising.

podem ser utilizadas para propagandas direcionadas.

And all this information can be shared with unnamed third parties.

Toda essa informação

pode ser compartilhada com terceiros desconhecidos.

Enough? Not quite.

É o bastante?

Não totalmente.

Anyone with a smartphone can connect to Cayla

Qualquer um com um smartphone

pode se conectar a Cayla a uma certa distância.

within a certain distance.

When we confronted the company that made and programmed Cayla,

Quando confrontamos a empresa que criou e programou Cayla,

they issued a series of statements

eles publicaram uma série de declarações

that one had to be an IT expert in order to breach the security.

dizendo que apenas um especialista de TI conseguiria violar a segurança.

Shall we fact-check that statement and live hack Cayla together?

Vamos verificar essa declaração e invadir Cayla juntos ao vivo?

Here she is.

Aqui está ela.

Cayla is equipped with a Bluetooth device

Cayla tem um dispositivo "bluetooth"

which can transmit up to 60 feet,

que transmite um sinal em um raio de até 18 m,

a bit less if there's a wall between.

ou um pouco menos, se houver uma parede no meio.

That means I, or any stranger, can connect to the doll

Ou seja, eu ou qualquer estranho pode se conectar à boneca

while being outside the room where Cayla and her friends are.

mesmo estando fora do quarto onde estão Cayla e as amigas dela.

And to illustrate this,

Para ilustrar isso,

I'm going to turn Cayla on now.

vou ligar Cayla agora.

Let's see, one, two, three.

Vejamos: um, dois, três.

There. She's on. And I asked a colleague

Pronto, está ligada.

Pedi a um colega para ficar lá fora com o smartphone dele,

to stand outside with his smartphone,

and he's connected,

e ele já está conectado.

and to make this a bit creepier ...

Para tornar isto um pouco mais assustador...

(Laughter)

(Risos)

let's see what kids could hear Cayla say in the safety of their room.

vamos ver o que as crianças

poderiam ouvir Cayla dizer, na segurança do quarto delas.

Man: Hi. My name is Cayla. What is yours?

Homem: Olá, meu nome é Cayla; e o seu?

Finn Myrstad: Uh, Finn.

Finn Myrstad: Finn.

Man: Is your mom close by?

Homem: Sua mãe está aí?

FM: Uh, no, she's in the store.

FM: Não, foi às compras.

Man: Ah. Do you want to come out and play with me?

Homem: Quer vir aqui fora brincar comigo?

FM: That's a great idea.

FM: É uma ótima ideia.

Man: Ah, great.

Homem: Ah, ótimo.

FM: I'm going to turn Cayla off now.

FM: Vou desligar Cayla agora.

(Laughter)

(Risos)

We needed no password

Não precisamos de senha,

or to circumvent any other type of security to do this.

nem passamos por qualquer tipo de segurança para fazer isso.

We published a report in 20 countries around the world,

Publicamos uma denúncia em 20 países do mundo inteiro

exposing this significant security flaw

revelando essa significativa falha de segurança

and many other problematic issues.

e muitos outros problemas.

So what happened?

E o que aconteceu?

Cayla was banned in Germany,

Cayla foi proibida na Alemanha,

taken off the shelves by Amazon and Wal-Mart,

foi retirada da Amazon e do Wal-Mart

and she's now peacefully resting

e agora está descansando em paz

at the German Spy Museum in Berlin.

no German Spy Museum, em Berlim.

(Laughter)

(Risos)

However, Cayla was also for sale in stores around the world

Mas Cayla também esteve à venda em lojas do mundo inteiro

for more than a year after we published our report.

durante mais de um ano após publicarmos nossa denúncia.

What we uncovered is that there are few rules to protect us

Descobrimos que há poucas regras que nos protegem,

and the ones we have are not being properly enforced.

e as que temos não estão sendo devidamente aplicadas.

We need to get the security and privacy of these devices right

Precisamos garantir a segurança e privacidade desses aparelhos

before they enter the market,

antes que cheguem ao mercado,

because what is the point of locking a house with a key

pois qual é o sentido de trancar a porta de casa com uma chave

if anyone can enter it through a connected device?

se qualquer um puder entrar por meio de um dispositivo conectado?

You may well think, "This will not happen to me.

Talvez vocês pensem:

"Isso não vai acontecer comigo.

I will just stay away from these flawed devices."

Vou ficar longe desses aparelhos com falhas de segurança".

But that won't keep you safe,

Mas isso não nos manterá seguros,

because simply by connecting to the internet,

porque basta nos conectarmos à internet

you are put in an impossible take-it-or-leave-it position.

para ficarmos em uma posição impossível de "pegar ou largar".

Let me show you.

Vou lhes mostrar.

Like most of you, I have dozens of apps on my phone,

Como muitos de vocês, tenho dezenas de aplicativos em meu celular.

and used properly, they can make our lives easier,

Quando utilizados devidamente, facilitam muito nossa vida

more convenient and maybe even healthier.

e a tornam mais conveniente e até mais saudável.

But have we been lulled into a false sense of security?

Mas será que fomos acalmados com uma falsa sensação de segurança?

It starts simply by ticking a box.

Começa simplesmente marcando uma opção.

Yes, we say,

Dizemos: "Sim, li as condições".

I've read the terms.

But have you really read the terms?

Mas será que lemos mesmo essas condições?

Are you sure they didn't look too long

Têm certeza de que não pareciam longas demais,

and your phone was running out of battery,

que seu celular estava ficando sem bateria

and the last time you tried they were impossible to understand,

e, na última vez que tentamos, era impossível entendê-las?

and you needed to use the service now?

E precisávamos utilizar o serviço imediatamente?

And now, the power imbalance is established,

Assim, foi estabelecido o desequilíbrio de poder,

because we have agreed to our personal information

pois concordamos que nossas informações pessoais

being gathered and used on a scale we could never imagine.

sejam reunidas e utilizadas em uma escala jamais imaginada.

This is why my colleagues and I decided to take a deeper look at this.

Foi por isso que meus colegas e eu decidimos fazer uma análise mais profunda.

We set out to read the terms

Começamos a ler as condições

of popular apps on an average phone.

dos aplicativos populares de um celular comum.

And to show the world how unrealistic it is

Para mostrar ao mundo como é irreal

to expect consumers to actually read the terms,

esperar que os usuários leiam realmente as condições,

we printed them,

nós as imprimimos.

more than 900 pages,

São mais de 900 páginas.

and sat down in our office and read them out loud ourselves,

Em nosso escritório, nós as lemos em voz alta.

streaming the experiment live on our websites.

Transmitimos a experiência ao vivo em nossos sites.

As you can see, it took quite a long time.

Como podem ver, levou muito tempo.

It took us 31 hours, 49 minutes and 11 seconds

Levamos 31 horas, 49 minutos e 11 segundos

to read the terms on an average phone.

para ler as condições de um celular comum.

That is longer than a movie marathon of the "Harry Potter" movies

Demorou mais do que uma maratona de filmes do "Harry Potter"

and the "Godfather" movies combined.

e de "O Poderoso Chefão" juntos.

(Laughter)

(Risos)

And reading is one thing.

E ler é uma coisa.

Understanding is another story.

Entender é outra história.

That would have taken us much, much longer.

Levaríamos muito mais tempo.

And this is a real problem,

Esse é um problema real.

because companies have argued for 20 to 30 years

As empresas têm argumentado por 20 a 30 anos

against regulating the internet better,

contra uma melhor regulamentação da internet,

because users have consented to the terms and conditions.

porque os usuários têm aceitado os termos e as condições.

As we've shown with this experiment,

Como mostramos nesta experiência,

achieving informed consent is close to impossible.

conseguir uma aceitação consciente é quase impossível.

Do you think it's fair to put the burden of responsibility on the consumer?

Vocês acham justo colocar o peso da responsabilidade no usuário?

I don't.

Eu não acho.

I think we should demand less take-it-or-leave-it

Acho que devíamos exigir menos "pegar ou largar"

and more understandable terms before we agree to them.

e mais condições compreensíveis antes de concordarmos.

(Applause)

(Aplausos)

Thank you.

Obrigado.

Now, I would like to tell you a story about love.

Agora, gostaria de contar uma história sobre o amor.

Some of the world's most popular apps are dating apps,

Alguns dos aplicativos mais populares do mundo são os de encontros,

an industry now worth more than, or close to, three billion dollars a year.

uma indústria que vale atualmente algo em torno de US$ 3 bilhões por ano.

And of course, we're OK sharing our intimate details

É claro que não temos problemas

em compartilhar detalhes íntimos com nossa cara-metade.

with our other half.

But who else is snooping,

Mas quem mais está espionando,

saving and sharing our information

gravando e compartilhando nossas informações

while we are baring our souls?

enquanto estamos revelando nossa intimidade?

My team and I decided to investigate this.

Minha equipe e eu decidimos investigar.

And in order to understand the issue from all angles

Para entender o problema de todos os ângulos

and to truly do a thorough job,

e fazer realmente um trabalho minucioso,

I realized I had to download

percebi que eu mesmo precisava baixar

one of the world's most popular dating apps myself.

um dos aplicativos de encontros mais populares do mundo.

So I went home to my wife ...

Então, fui para casa falar com minha esposa...

(Laughter)

(Risos)

who I had just married.

com quem eu acabara de me casar.

"Is it OK if I establish a profile on a very popular dating app

"Tudo bem se eu criar um perfil num aplicativo de encontros muito popular

for purely scientific purposes?"

para fins exclusivamente científicos?"

(Laughter)

(Risos)

This is what we found.

Eis o que encontramos.

Hidden behind the main menu was a preticked box

Escondida atrás do menu principal havia uma opção pré-selecionada

that gave the dating company access to all my personal pictures on Facebook,

que dava à empresa de encontros

acesso a todas as minhas fotos pessoais do Facebook.

in my case more than 2,000 of them,

No meu caso, eram mais de 2 mil fotos;

and some were quite personal.

algumas muito pessoais.

And to make matters worse,

Para piorar as coisas,

when we read the terms and conditions,

ao ler os termos e as condições,

we discovered the following,

descobrimos o seguinte.

Vou precisar de meus óculos para ler isto.

and I'm going to need to take out my reading glasses for this one.

And I'm going to read it for you, because this is complicated.

E vou ler, porque é complicado.

All right.

Está bem.

"By posting content" --

"Ao publicar o conteúdo...",

and content refers to your pictures, chat

o conteúdo refere-se a fotos, conversas e outras interações no serviço,

and other interactions in the dating service --

"as a part of the service,

"como parte do serviço,

you automatically grant to the company,

você garante automaticamente à empresa, associadas, licenciadas e sucessoras,

its affiliates, licensees and successors

an irrevocable" -- which means you can't change your mind --

de forma irrevogável...",

o que significa que não podemos mudar de opinião,

"perpetual" -- which means forever --

"perpétua...",

ou seja, para sempre,

"nonexclusive, transferrable, sublicensable, fully paid-up,

"o direito e a licença não exclusiva, transferível, paga,

worldwide right and license to use, copy, store, perform,

universal para usar, copiar, armazenar, executar, exibir, reproduzir, gravar,

display, reproduce, record,

tocar, adaptar, modificar, distribuir o conteúdo e preparar derivações dele,

play, adapt, modify and distribute the content,

prepare derivative works of the content,

ou incorporá-lo a outros trabalhos,

or incorporate the content into other works

permite e autoriza sublicenças de precedentes em quaisquer mídia

and grant and authorize sublicenses of the foregoing in any media

now known or hereafter created."

conhecida ou criada posteriormente".

That basically means that all your dating history

Isso significa que todo o histórico do encontro

and everything related to it can be used for any purpose for all time.

e tudo relacionado a ele pode ser utilizado para qualquer fim e para sempre.

Just imagine your children seeing your sassy dating photos

Imaginem seus filhos vendo suas fotos atrevidas de um encontro

in a birth control ad 20 years from now.

em um anúncio sobre controle de natalidade daqui a 20 anos.

But seriously, though --

Mas, falando sério...

(Laughter)

(Risos)

what might these commercial practices mean to you?

o que essas práticas comerciais significam para vocês?

For example, financial loss:

Por exemplo, perda financeira:

based on your web browsing history,

com base no histórico de navegação,

algorithms might decide whether you will get a mortgage or not.

os algoritmos podem decidir se conseguiremos ou não um empréstimo.

Subconscious manipulation:

Manipulação subconsciente:

companies can analyze your emotions based on your photos and chats,

as empresas podem analisar emoções, a partir de nossas fotos e conversas,

targeting you with ads when you are at your most vulnerable.

e nos atacar com anúncios quando estivermos mais vulneráveis.

Discrimination:

Discriminação:

a fitness app can sell your data to a health insurance company,

um aplicativo de "fitness" pode vender dados a uma seguradora

preventing you from getting coverage in the future.

impedindo-nos de conseguir cobertura no futuro.

All of this is happening in the world today.

Tudo isso está acontecendo no mundo atualmente.

But of course, not all uses of data are malign.

É claro que nem todos os usos de dados são nocivos.

Some are just flawed or need more work,

Alguns são falhos ou requerem mais trabalho,

and some are truly great.

e outros são realmente ótimos.

And there is some good news as well.

Mas também há boas notícias.

The dating companies changed their policies globally

As empresas de encontros alteraram as políticas de forma global

after we filed a legal complaint.

depois que registramos uma queixa legal.

But organizations such as mine

Mas empresas como a minha,

that fight for consumers' rights can't be everywhere.

que lutam pelos direitos do consumidor, não podem estar em toda a parte,

Nor can consumers fix this on their own,

nem os consumidores conseguem corrigir isso sozinhos,

because if we know that something innocent we said

porque, se soubermos que algo que dissemos de maneira inocente

will come back to haunt us,

voltará para nos atormentar, deixaremos de falar.

we will stop speaking.

If we know that we are being watched and monitored,

Se soubermos que estamos sendo vistos e controlados,

we will change our behavior.

mudaremos nosso comportamento.

And if we can't control who has our data and how it is being used,

E, se não pudermos controlar

quem tem nossos dados e como estão sendo utilizados,

we have lost the control of our lives.

teremos perdido o controle de nossa vida.

The stories I have told you today are not random examples.

As histórias que contei hoje não são exemplos aleatórios.

They are everywhere,

Estão por toda a parte

and they are a sign that things need to change.

e são um sinal de que as coisas precisam mudar.

And how can we achieve that change?

Como podemos conseguir essa mudança?

Well, companies need to realize that by prioritizing privacy and security,

As empresas precisam perceber

que, ao priorizar a privacidade e a segurança,

they can build trust and loyalty to their users.

podem criar confiança e lealdade para os usuários.

Governments must create a safer internet

Os governos precisam criar uma internet mais segura

by ensuring enforcement and up-to-date rules.

garantindo o cumprimento e a atualização das regras.

And us, the citizens?

E quanto a nós, cidadãos?

We can use our voice

Podemos usar nossa voz

to remind the world that technology can only truly benefit society

para lembrar ao mundo que a tecnologia

só poderá beneficiar verdadeiramente a sociedade

if it respects basic rights.

se respeitar os direitos básicos.

Thank you so much.

Muito obrigado.

(Applause)

(Aplausos)