How tech companies deceive you into giving up your data and privacy | Finn Lützow-Holm Myrstad

Tradutor: Bruno Batista Revisora: Margarida Ferreira

Do you remember when you were a child,

Lembram-se de quando em crianças

you probably had a favorite toy that was a constant companion,

talvez tivessem um brinquedo favorito que sempre vos fazia companhia?

— como Christopher Robin, que tinha um Ursinho Pooh —

like Christopher Robin had Winnie the Pooh,

and your imagination fueled endless adventures?

E a vossa imaginação alimentava aventuras infinitas?

What could be more innocent than that?

O que poderia ser mais inocente do que isso?

Well, let me introduce you to my friend Cayla.

Bem, vou apresentar-vos a minha amiga, Cayla.

Cayla was voted toy of the year in countries around the world.

Cayla foi eleita o brinquedo do ano em países do mundo inteiro.

She connects to the internet and uses speech recognition technology

Está ligada à Internet e utiliza o reconhecimento de voz

to answer your child's questions,

para responder às perguntas das crianças.

respond just like a friend.

Responde como se fosse uma amiga.

But the power doesn't lie with your child's imagination.

Mas o poder não está na imaginação da vossa filha.

It actually lies with the company harvesting masses of personal information

O poder está na empresa que reúne grande quantidade de informações pessoais

while your family is innocently chatting away in the safety of their home,

enquanto a vossa família conversa inocentemente dentro de casa,

a dangerously false sense of security.

numa perigosa e falsa sensação de segurança.

This case sounded alarm bells for me,

Este caso fez soar uma campainha de alarme,

as it is my job to protect consumers' rights in my country.

pois o meu trabalho é defender os direitos do consumidor no meu país.

And with billions of devices such as cars,

Com milhares de milhões de aparelhos, como carros,

energy meters and even vacuum cleaners expected to come online by 2020,

medidores de energia e até aspiradores que estarão à disposição "online" em 2020,

we thought this was a case worth investigating further.

pensámos que este caso valia a pena de ser investigado mais profundamente.

Because what was Cayla doing

Porque, o que estaria a Cayla a fazer

with all the interesting things she was learning?

com todas as informações interessantes que estava a aprender?

Did she have another friend she was loyal to and shared her information with?

Teria ela outra amiga fiel com quem partilhava essas informações?

Yes, you guessed right. She did.

É mesmo, acertaram. Tinha sim!

In order to play with Cayla,

Para brincar com a Cayla é preciso instalar uma aplicação

you need to download an app to access all her features.

para ter acesso a todas as suas funcionalidades.

Parents must consent to the terms being changed without notice.

Os pais têm que aceitar a alteração dos termos de uso sem aviso prévio.

The recordings of the child, her friends and family,

As gravações da criança, dos seus amigos e familiares

can be used for targeted advertising.

podem ser utilizadas para propagandas dirigidas.

And all this information can be shared with unnamed third parties.

E todas essas informações podem ser partilhadas com terceiros desconhecidos.

Enough? Not quite.

Já chega? Ainda não.

Anyone with a smartphone can connect to Cayla

Qualquer um com um "smartphone" pode ligar-se a Cayla

within a certain distance.

dentro de uma certa distância.

When we confronted the company that made and programmed Cayla,

Quando confrontámos a empresa que criou e programou a Cayla,

they issued a series of statements

ela publicou uma série de declarações

that one had to be an IT expert in order to breach the security.

dizendo que só um especialista em TI conseguiria quebrar a segurança.

Shall we fact-check that statement and live hack Cayla together?

Vamos verificar essa declaração e piratear a Cayla ao vivo?

Here she is.

Vamos lá.

Cayla is equipped with a Bluetooth device

Cayla tem um dispositivo "bluetooth"

which can transmit up to 60 feet,

que emite um sinal num raio de 18 metros,

a bit less if there's a wall between.

um pouco menos se houver uma parede pelo meio.

That means I, or any stranger, can connect to the doll

Ou seja, eu ou qualquer estranho pode ligar-se à boneca

while being outside the room where Cayla and her friends are.

mesmo estando fora do quarto onde está a Cayla e as suas amigas.

And to illustrate this,

Para ilustrar isso,

I'm going to turn Cayla on now.

eu agora vou ligar a Cayla.

Let's see, one, two, three.

Vejamos, um, dois, três.

There. She's on. And I asked a colleague

Pronto. Está ligada.

Pedi a um amigo para ficar lá fora com o seu "smartphone"

to stand outside with his smartphone,

and he's connected,

e ele já está interligado,

and to make this a bit creepier ...

e para tornar isto um pouco mais assustador...

(Laughter)

(Risos)

let's see what kids could hear Cayla say in the safety of their room.

vejamos o que as crianças podiam ouvir a Cayla dizer, na segurança do seu quarto.

Man: Hi. My name is Cayla. What is yours?

Olá. Chamo-me Cayla. E tu?

Finn Myrstad: Uh, Finn.

Finn Myrstad: Finn.

Man: Is your mom close by?

A tua mãe está aí?

FM: Uh, no, she's in the store.

FM: Não, foi às compras.

Man: Ah. Do you want to come out and play with me?

Ah. Queres vir cá fora brincar comigo?

FM: That's a great idea.

FM: É uma ótima ideia.

Man: Ah, great.

Perfeito.

FM: I'm going to turn Cayla off now.

FM: Agora vou desligar a Cayla.

(Laughter)

(Risos)

We needed no password

Não precisamos de senha para entrar

or to circumvent any other type of security to do this.

nem passamos por qualquer tipo de segurança para fazer isto.

We published a report in 20 countries around the world,

Publicámos um alerta em 20 países do mundo inteiro

exposing this significant security flaw

denunciando esta significativa falha de segurança

and many other problematic issues.

e vários outros problemas.

So what happened?

E o que aconteceu?

Cayla was banned in Germany,

Cayla foi proibida na Alemanha,

taken off the shelves by Amazon and Wal-Mart,

foi retirada da Amazon e do Wal-Mart,

and she's now peacefully resting

e agora está a descansar em paz

at the German Spy Museum in Berlin.

no Museu de Espionagem em Berlim, na Alemanha.

(Laughter)

(Risos)

However, Cayla was also for sale in stores around the world

Mas a Cayla esteve à venda em lojas do mundo inteiro

for more than a year after we published our report.

durante mais de um ano depois da publicação do nosso alerta.

What we uncovered is that there are few rules to protect us

Descobrimos que há poucas regras que nos protejam

and the ones we have are not being properly enforced.

e as que temos não estão a ser devidamente impostas.

We need to get the security and privacy of these devices right

Precisamos de garantir a segurança e privacidade destes aparelhos

before they enter the market,

antes de eles chegarem ao mercado,

because what is the point of locking a house with a key

pois qual é o sentido de fechar a porta à chave

if anyone can enter it through a connected device?

se qualquer um puder entrar através de um dispositivo?

You may well think, "This will not happen to me.

Talvez pensem: "Isso não vai acontecer comigo.

I will just stay away from these flawed devices."

"Eu não vou comprar esses aparelhos com falhas de segurança."

But that won't keep you safe,

Mas isso não nos manterá em segurança,

because simply by connecting to the internet,

porque basta ligarmo-nos à Internet

you are put in an impossible take-it-or-leave-it position.

para estarmos numa posição impossível de "É pegar ou largar".

Let me show you.

Vou mostrar.

Like most of you, I have dozens of apps on my phone,

Como muitos de vocês, eu tenho dezenas de aplicações no meu telemóvel.

and used properly, they can make our lives easier,

Quando utilizadas devidamente, facilitam muito a nossa vida,

more convenient and maybe even healthier.

tornam-na mais convenientes e até mais saudável.

But have we been lulled into a false sense of security?

Mas teremos sido iludidos com uma falsa sensação de segurança?

It starts simply by ticking a box.

Começa simplesmente por clicar numa caixa.

Yes, we say,

Dizemos: "Sim, eu li e aceito as condições".

I've read the terms.

But have you really read the terms?

Mas leram mesmo essas condições?

Têm a certeza de que elas não pareciam longas demais

Are you sure they didn't look too long

and your phone was running out of battery,

e o vosso telemóvel estava a ficar sem bateria?

and the last time you tried they were impossible to understand,

E a última vez que tentaram foi impossível percebê-las

and you needed to use the service now?

e precisavam de utilizar o serviço imediatamente?

And now, the power imbalance is established,

Assim, ficou instituído o desequilíbrio de forças

because we have agreed to our personal information

pois concordámos que as nossas informações pessoais

being gathered and used on a scale we could never imagine.

sejam reunidas e utilizadas a uma escala que nunca imaginámos.

This is why my colleagues and I decided to take a deeper look at this.

É por isso que os meus colegas e eu decidimos ir mais fundo.

We set out to read the terms

Decidimos ler as condições

of popular apps on an average phone.

das aplicações populares nos telemóveis comuns.

And to show the world how unrealistic it is

Para mostrar ao mundo como é irrealista

to expect consumers to actually read the terms,

esperar que os utilizadores leiam essas condições,

we printed them,

imprimimo-las.

more than 900 pages,

São mais de 900 páginas.

and sat down in our office and read them out loud ourselves,

No nosso gabinete, lemo-las em voz alta,

streaming the experiment live on our websites.

difundindo a experiência nos nossos "sites" da Internet.

As you can see, it took quite a long time.

Como veem, demorou muito tempo.

It took us 31 hours, 49 minutes and 11 seconds

Levámos 31 horas, 49 minutos e 11 segundos

to read the terms on an average phone.

para ler as condições de um telemóvel vulgar.

That is longer than a movie marathon of the "Harry Potter" movies

Demorou mais do que uma maratona de filmes da saga Harry Potter

and the "Godfather" movies combined.

e da trilogia de "O Padrinho" juntos.

(Laughter)

(Risos)

And reading is one thing.

E ler é uma coisa.

Understanding is another story.

Mas entender é outra história.

That would have taken us much, much longer.

Para entender, teríamos demorado muito mais tempo.

And this is a real problem,

E esse é um verdadeiro problema,

because companies have argued for 20 to 30 years

porque as empresas têm alegado durante 20 ou 30 anos

against regulating the internet better,

contra uma melhor regulamentação da Internet,

because users have consented to the terms and conditions.

porque os utilizadores têm aceitado os termos e condições.

As we've shown with this experiment,

Como mostrámos nesta experiência,

achieving informed consent is close to impossible.

conseguir uma aceitação consciente, é quase impossível.

Do you think it's fair to put the burden of responsibility on the consumer?

Vocês acham justo colocar o peso da responsabilidade no utilizador?

I don't.

Eu não acho.

I think we should demand less take-it-or-leave-it

Eu acho que devíamos exigir menos "É pegar ou largar",

and more understandable terms before we agree to them.

exigir condições que possamos entender antes de concordarmos.

(Applause)

(Aplausos)

Thank you.

Obrigado.

Now, I would like to tell you a story about love.

Agora, gostava de contar uma história sobre o amor.

Some of the world's most popular apps are dating apps,

Algumas das aplicações mais populares do mundo são aplicações de encontros,

an industry now worth more than, or close to, three billion dollars a year.

uma indústria que hoje vale mais de 3 mil milhões de dólares por ano

ou perto disso.

And of course, we're OK sharing our intimate details

É claro que não temos problemas em partilhar pormenores íntimos

with our other half.

com a nossa cara metade.

But who else is snooping,

Mas quem mais estará a ver,

saving and sharing our information

a gravar e a partilhar essas informações

while we are baring our souls?

enquanto estamos a expor a nu a nossa alma?

My team and I decided to investigate this.

A minha equipa e eu decidimos investigar.

And in order to understand the issue from all angles

Para entendermos o problema de todos os ângulos

and to truly do a thorough job,

e fazermos um trabalho minucioso,

I realized I had to download

percebi que tinha que descarregar

one of the world's most popular dating apps myself.

uma das aplicações de encontros mais popular do mundo inteiro.

So I went home to my wife ...

Então, fui para casa ter com a minha mulher...

(Laughter)

(Risos)

who I had just married.

com quem casara há pouco tempo.

"Is it OK if I establish a profile on a very popular dating app

"Não te importas que eu crie um perfil numa aplicação de encontros muito popular

for purely scientific purposes?"

"puramente para fins científicos?"

(Laughter)

(Risos)

This is what we found.

Aqui está o que encontrámos.

Hidden behind the main menu was a preticked box

Escondida atrás do menu principal havia uma caixa pré-selecionada

that gave the dating company access to all my personal pictures on Facebook,

que garantia o acesso da empresa a todas as minhas fotos no Facebook.

in my case more than 2,000 of them,

No meu caso, eram mais de 2000 fotos,

and some were quite personal.

e algumas eram muito pessoais.

And to make matters worse,

Para piorar as coisas,

when we read the terms and conditions,

ao lermos os termos e condições,

we discovered the following,

descobrimos o seguinte.

and I'm going to need to take out my reading glasses for this one.

Vou precisar dos óculos de leitura para ler isto.

And I'm going to read it for you, because this is complicated.

E vou ler porque é complicado.

All right.

Ok.

"By posting content" --

"Ao publicar o conteúdo"

and content refers to your pictures, chat

— conteúdo refere-se às fotos, à conversa

and other interactions in the dating service --

e a outras interações no serviço de encontros —

"as a part of the service,

"como fazendo parte do serviço,

you automatically grant to the company,

"você garante automaticamente à empresa,

its affiliates, licensees and successors

"às suas associadas, licenciadas e sucessoras

an irrevocable" -- which means you can't change your mind --

"de forma irrevogável" — o que significa que já não podemos mudar de opinião —

"perpetual" -- which means forever --

"e perpétua" — ou seja, para sempre —

"nonexclusive, transferrable, sublicensable, fully paid-up,

"o direito e a licença não-exclusiva, transmissível, paga,

"universal, para usar, copiar armazenar, executar,

worldwide right and license to use, copy, store, perform,

display, reproduce, record,

"exibir, reproduzir, gravar,

"tocar, adaptar, modificar e distribuir esse conteúdo,

play, adapt, modify and distribute the content,

prepare derivative works of the content,

"preparar derivações do conteúdo,

or incorporate the content into other works

"ou incorporá-lo noutros trabalhos

and grant and authorize sublicenses of the foregoing in any media

"permite e autoriza sublicenças de tudo o que foi atrás exposto em quaisquer "media"

now known or hereafter created."

"conhecidos ou que sejam criados posteriormente."

That basically means that all your dating history

Isto significa que todo o histórico do encontro

and everything related to it can be used for any purpose for all time.

e tudo com ele relacionado pode ser utilizado para qualquer fim e para sempre.

Just imagine your children seeing your sassy dating photos

Imaginem os vossos filhos a ver as vossas fotos picantes de um encontro

in a birth control ad 20 years from now.

numa propagando sobre controlo de natalidade daqui a 20 anos.

But seriously, though --

Mas agora a sério...

(Laughter)

(Risos)

what might these commercial practices mean to you?

o que é que estas práticas comerciais significam para vocês?

For example, financial loss:

Por exemplo, perdas financeiras:

based on your web browsing history,

com base no nosso histórico de navegação,

algorithms might decide whether you will get a mortgage or not.

os algoritmos podem decidir se podemos pagar uma hipoteca ou não.

Subconscious manipulation:

Manipulação subconsciente:

companies can analyze your emotions based on your photos and chats,

as empresas podem analisar as emoções, a partir das nossas fotos e conversas,

targeting you with ads when you are at your most vulnerable.

e atacarem-nos com anúncios quando estivermos mais vulneráveis.

Discrimination:

Discriminação:

uma aplicação de exercícios físicos

a fitness app can sell your data to a health insurance company,

pode vender os nossos dados a uma companhia de seguros

preventing you from getting coverage in the future.

impedindo que consigamos cobertura no futuro.

All of this is happening in the world today.

Tudo isso está a acontecer hoje no mundo.

But of course, not all uses of data are malign.

É claro que nem todos os usos destas informações são malévolos.

Some are just flawed or need more work,

Alguns só apresentam falhas ou precisam de mais trabalho

and some are truly great.

e outros são realmente bons.

And there is some good news as well.

Mas também há boas notícias.

The dating companies changed their policies globally

As empresas de encontros alteraram as suas políticas de forma global

after we filed a legal complaint.

depois de formalizarmos legalmente as nossas reclamações.

But organizations such as mine

Mas as empresas como a minha

that fight for consumers' rights can't be everywhere.

que lutam pelos direitos do consumidor, não podem estar em toda a parte.

Nor can consumers fix this on their own,

Nem os consumidores podem corrigir isto por eles próprios,

because if we know that something innocent we said

porque, se soubermos que algo que dissemos de forma inocente

will come back to haunt us,

voltará para nos perseguir,

we will stop speaking.

vamos deixar de falar.

If we know that we are being watched and monitored,

Se soubermos que estamos a ser vistos e controlados,

we will change our behavior.

vamos mudar o nosso comportamento.

And if we can't control who has our data and how it is being used,

E se não pudermos controlar quem tem os nossos dados

e como eles são utilizados

we have lost the control of our lives.

perdemos o controlo da nossa vida.

The stories I have told you today are not random examples.

As histórias que contei hoje não são exemplos aleatórios.

They are everywhere,

Estão por toda a parte,

and they are a sign that things need to change.

e são um sinal de que as coisas têm de mudar.

And how can we achieve that change?

Como podemos conseguir essa mudança?

Well, companies need to realize that by prioritizing privacy and security,

As empresas precisam de perceber

que, ao darem prioridade à privacidade e à segurança,

they can build trust and loyalty to their users.

podem gerar a confiança e a lealdade nos utilizadores.

Governments must create a safer internet

Os governos precisam de criar uma Internet mais segura

by ensuring enforcement and up-to-date rules.

garantindo que as leis sejam cumpridas e as regras sejam atualizadas.

And us, the citizens?

E nós, os cidadãos?

We can use our voice

Podemos usar a nossa voz

to remind the world that technology can only truly benefit society

para lembrar ao mundo que a tecnologia

só pode verdadeiramente beneficiar a sociedade

if it respects basic rights.

se respeitar os direitos básicos.

Thank you so much.

Muito obrigado.

(Applause)

(Aplausos)