How tech companies deceive you into giving up your data and privacy | Finn Lützow-Holm Myrstad

Prevodilac: Aleksandar Bošnjak Lektor: Ivana Krivokuća

Do you remember when you were a child,

Sećate li se da ste, kad ste bili dete,

you probably had a favorite toy that was a constant companion,

verovatno imali omiljenu igračku koja vam je stalno pravila društvo,

like Christopher Robin had Winnie the Pooh,

kao što je Kristofer Robin imao Vinija Pua,

and your imagination fueled endless adventures?

i da je vaša mašta pokretala beskrajne avanture?

What could be more innocent than that?

Šta bi moglo biti bezazlenije od toga?

Well, let me introduce you to my friend Cayla.

Pa, dozvolite mi da vam predstavim moju prijateljicu Kejlu.

Cayla was voted toy of the year in countries around the world.

Kejla je bila igračka godine u zemljama širom sveta.

She connects to the internet and uses speech recognition technology

Povezuje se sa internetom i koristi tehnologiju prepoznavanja govora

to answer your child's questions,

da odgovori vašem detetu na pitanja,

respond just like a friend.

odgovara baš kao prijatelj.

But the power doesn't lie with your child's imagination.

Ali moć se ne nalazi u mašti vašeg deteta.

It actually lies with the company harvesting masses of personal information

Nalazi se zapravo u kompaniji koja skuplja gomilu ličnih informacija,

while your family is innocently chatting away in the safety of their home,

dok vaša porodica bezazleno ćaska u bezbednosti svoje kuće -

a dangerously false sense of security.

opasno lažan osećaj sigurnosti.

This case sounded alarm bells for me,

Ovaj slučaj me je zabrinuo,

as it is my job to protect consumers' rights in my country.

jer je moj posao da zaštitim potrošačka prava u svojoj zemlji.

And with billions of devices such as cars,

Sa milijardama uređaja kao što su automobili, merači energije,

energy meters and even vacuum cleaners expected to come online by 2020,

čak i usisivači, za koje se očekuje da će biti povezani sa internetom do 2020,

we thought this was a case worth investigating further.

pomislili smo da ovaj slučaj vredi dalje istražiti.

Because what was Cayla doing

Jer šta je Kejla radila

with all the interesting things she was learning?

sa svim interesantnim stvarima koje je saznavala?

Did she have another friend she was loyal to and shared her information with?

Da li je imala drugaricu kojoj je lojalna i sa kojom je podelila informacije?

Yes, you guessed right. She did.

Da, dobro ste pogodili. Imala je.

In order to play with Cayla,

Da biste se igrali sa Kejlom,

you need to download an app to access all her features.

morate da preuzmete aplikaciju kako biste pristupili svim funkcijama.

Parents must consent to the terms being changed without notice.

Roditelji moraju da pristanu na promenu uslova bez obaveštenja.

The recordings of the child, her friends and family,

Snimci deteta, njenih prijatelja i porodice,

can be used for targeted advertising.

mogu da se koriste za ciljano oglašavanje.

And all this information can be shared with unnamed third parties.

I sve ove informacije mogu da se podele sa neimenovanim trećim licima.

Enough? Not quite.

Dovoljno? Ne baš.

Anyone with a smartphone can connect to Cayla

Bilo ko sa pametnim telefonom može da se poveže sa Kejlom

within a certain distance.

unutar određene razdaljine.

When we confronted the company that made and programmed Cayla,

Kad smo se usprotivili kompaniji koja je napravila i programirala Kejlu,

they issued a series of statements

objavili su niz izjava

that one had to be an IT expert in order to breach the security.

da neko mora da bude stručnjak za IT da bi narušio bezbednost.

Shall we fact-check that statement and live hack Cayla together?

Hoćemo li da proverimo činjenice te izjave i da uživo zajedno hakujemo Kejlu?

Here she is.

Evo je.

Cayla is equipped with a Bluetooth device

Kejla poseduje blutut uređaj,

which can transmit up to 60 feet,

koji može da vrši prenos na daljini do 18 metera,

a bit less if there's a wall between.

malčice manje ako između postoji zid.

That means I, or any stranger, can connect to the doll

To znači da ja, ili bilo koji neznanac, mogu da se povežem sa lutkom

while being outside the room where Cayla and her friends are.

dok je ispred sobe gde su Kejla i njene drugarice.

And to illustrate this,

Da bih ovo prikazao,

I'm going to turn Cayla on now.

uključiću Kejlu sada.

Let's see, one, two, three.

Da vidimo, jedan, dva, tri.

There. She's on. And I asked a colleague

Eto ga. Uključena je. Zamolio sam kolegu

to stand outside with his smartphone,

da stane ispred sa svojim pametnim telefonom,

and he's connected,

priključen je,

and to make this a bit creepier ...

i da načinim ovo jezivijim...

(Laughter)

(Smeh)

let's see what kids could hear Cayla say in the safety of their room.

da vidimo šta su deca mogla čuti da Kejla govori u bezbednosti njihove sobe.

Man: Hi. My name is Cayla. What is yours?

Čovek: Ćao. Moje ime je Kejla. Kako se ti zoveš?

Finn Myrstad: Uh, Finn.

Fin Mirstad: Am, Fin.

Man: Is your mom close by?

Čovek: Da li je tvoja mama u blizi?

FM: Uh, no, she's in the store.

Fin Mirstad: Am, ne, u radnji je.

Man: Ah. Do you want to come out and play with me?

Čovek: Aha. Želiš li da izađeš napolje i da se igraš sa mnom?

FM: That's a great idea.

Fin Mirstad: To je odlična ideja.

Man: Ah, great.

Čovek: Aha, odlično.

FM: I'm going to turn Cayla off now.

Isključiću Kejlu sada.

(Laughter)

(Smeh)

We needed no password

Nije nam trebala nikakva lozinka,

or to circumvent any other type of security to do this.

niti da zaobiđemo bilo koji drugi tip zaštite da bismo ovo uradili.

We published a report in 20 countries around the world,

Objavili smo izveštaj u 20 zemalja širom sveta,

exposing this significant security flaw

otkrivajući ovu značajnu manu zaštite

and many other problematic issues.

i mnoga druga problematična pitanja.

So what happened?

Pa, šta se desilo?

Cayla was banned in Germany,

Kejla je bila zabranjena u Nemačkoj,

taken off the shelves by Amazon and Wal-Mart,

skinuta sa rafova u radnjama Amazona i Volmarta,

and she's now peacefully resting

i sada mirno počiva

at the German Spy Museum in Berlin.

u nemačkom muzeju špijunaže u Berlinu.

(Laughter)

(Smeh)

However, Cayla was also for sale in stores around the world

Međutim, Kejla je bila u prodaji u radnjama širom sveta

for more than a year after we published our report.

više od godinu dana nakon što smo objavili izveštaj.

What we uncovered is that there are few rules to protect us

Otkrili smo da postoji samo nekoliko zakona koji nas štite,

and the ones we have are not being properly enforced.

a oni koje imamo ne primenjuju se kako treba.

We need to get the security and privacy of these devices right

Treba da dovedemo u red zaštitu i privatnost ovih uređaja

before they enter the market,

pre nego što izađu na tržište,

because what is the point of locking a house with a key

jer koja je poenta zaključavanja kuće ključem,

if anyone can enter it through a connected device?

ako bilo ko može da uđe u nju preko povezanog uređaja.

You may well think, "This will not happen to me.

Možda mislite: „Ovo se neće desiti meni.

I will just stay away from these flawed devices."

Držaću se podalje od tih uređaja sa nedostatkom.“

But that won't keep you safe,

Ali time nećete biti sigurni,

because simply by connecting to the internet,

jer jednostavno, povezujući se sa internetom,

you are put in an impossible take-it-or-leave-it position.

stavljeni ste u nemoguću poziciju „uzmi ili ostavi“.

Let me show you.

Dozvolite mi da vam pokažem.

Like most of you, I have dozens of apps on my phone,

Kao i većina vas, imam desetine aplikacija na telefonu,

and used properly, they can make our lives easier,

i kad se koriste ispravno, mogu nam olakati život,

more convenient and maybe even healthier.

učiniti ga ugodnijim, a možda čak i zdravijim.

But have we been lulled into a false sense of security?

Ali da li smo uljuljkani u lažan osećaj sigurnosti?

It starts simply by ticking a box.

Počinje prostim klikom na kvadratić.

Yes, we say,

Da, onda kažemo,

I've read the terms.

pročitao sam uslove.

But have you really read the terms?

A da li ste ih zaista pročitali?

Are you sure they didn't look too long

Jeste li sigurni da nisu izgledali predugačko,

and your phone was running out of battery,

i da vašem telefonu nije ponestajalo baterije,

and the last time you tried they were impossible to understand,

i da nisu, poslednji put kad ste pokušali, bili nemogući za razumevanje,

and you needed to use the service now?

a morali ste da koristite uslugu odmah?

And now, the power imbalance is established,

Sada je disbalans u moći uspostavljen,

because we have agreed to our personal information

jer smo se složili da se naše lične informacije

being gathered and used on a scale we could never imagine.

skupljaju i koriste u obimu kakav nismo ni mogli zamisliti.

This is why my colleagues and I decided to take a deeper look at this.

Zato smo moje kolege i ja odlučili da dublje pogledamo ovo.

We set out to read the terms

Počeli smo da čitamo uslove

of popular apps on an average phone.

popularnih aplikacija na prosečnom telefonu.

And to show the world how unrealistic it is

Da bismo pokazali svetu koliko je nerealno

to expect consumers to actually read the terms,

da očekujemo od kupaca da zapravo čitaju uslove,

we printed them,

ištampali smo ih,

more than 900 pages,

više od 900 strana,

and sat down in our office and read them out loud ourselves,

pa smo seli u kancelariji i čitali ih naglas,

streaming the experiment live on our websites.

prenoseći eksperiment uživo na našim veb sajtovima.

As you can see, it took quite a long time.

Kao što možete videti, bilo je potrebno dosta vremena.

It took us 31 hours, 49 minutes and 11 seconds

Bilo nam je potrebno 31 sat, 49 minuta i 11 sekundi

to read the terms on an average phone.

da pročitamo uslove na prosečnom telefonu.

That is longer than a movie marathon of the "Harry Potter" movies

To je duže od filmskog maratona filmova o Hariju Poteru

and the "Godfather" movies combined.

i filmova „Kum“ zajedno.

(Laughter)

(Smeh)

And reading is one thing.

Čitanje je jedna stvar.

Understanding is another story.

Razumevanje je druga priča.

That would have taken us much, much longer.

Za to bi nam bilo potrebno mnogo, mnogo više.

And this is a real problem,

Ovo je pravi problem,

because companies have argued for 20 to 30 years

jer su kompanije 20 do 30 godina iznosile argumente

against regulating the internet better,

protiv bolje regulacije interneta,

because users have consented to the terms and conditions.

jer su korisnici pristali na uslove.

As we've shown with this experiment,

Kao što smo pokazali ovim eksperimentom,

achieving informed consent is close to impossible.

dostići obavešten pristanak je skoro nemoguće.

Do you think it's fair to put the burden of responsibility on the consumer?

Da li mislite da je pravedno da stavljaju teret odgovornosti na korisnika?

I don't.

Ja ne mislim tako.

I think we should demand less take-it-or-leave-it

Mislim da bi trebalo da zahtevamo manje „uzmi ili ostavi“,

and more understandable terms before we agree to them.

i razumljivije uslove pre nego što pristanemo na njih.

(Applause)

(Aplauz)

Thank you.

Hvala vam.

Now, I would like to tell you a story about love.

Želeo bih da vam ispričam priču o ljubavi.

Some of the world's most popular apps are dating apps,

Neke od najpopularnijih aplikacija na svetu su aplikacije za upoznavanje,

an industry now worth more than, or close to, three billion dollars a year.

industrija koja sada vredi više od, ili blizu, tri milijarde dolara godišnje.

And of course, we're OK sharing our intimate details

I naravno, u redu nam je da delimo intimne detalje

with our other half.

sa svojom drugom polovinom.

But who else is snooping,

Ali ko još njuška okolo,

saving and sharing our information

čuva i deli naše informacije

while we are baring our souls?

dok mi otkrivamo svoje duše?

My team and I decided to investigate this.

Moj tim i ja smo odlučili da ovo istražimo.

And in order to understand the issue from all angles

A da bih razumeo problem iz svih uglova

and to truly do a thorough job,

i da bih zaista obavio posao detaljno,

I realized I had to download

shvatio sam da moram da preuzmem

one of the world's most popular dating apps myself.

jednu od najpopularnijih aplikacija za upoznavanje na svetu.

So I went home to my wife ...

Otišao sam kući svojoj ženi...

(Laughter)

(Smeh)

who I had just married.

sa kojom sam se tek venčao.

"Is it OK if I establish a profile on a very popular dating app

„Da li je u redu ako napravim profil

na vrlo popularnoj aplikaciji za upoznavanje

for purely scientific purposes?"

u isključivo naučne svrhe?“

(Laughter)

(Smeh)

This is what we found.

A ovo smo otkrili.

Hidden behind the main menu was a preticked box

Sakriven iza glavnog menija, postojao je unapred štrikliran kvadratić

that gave the dating company access to all my personal pictures on Facebook,

koji je dao toj kompaniji pristup svim mojim ličnim slikama sa Fejsbuka,

in my case more than 2,000 of them,

u mom slučaju više od 2 000 njih,

and some were quite personal.

a neke od njih su bile baš lične.

And to make matters worse,

A da stvari budu još gore,

when we read the terms and conditions,

kad smo pročitali uslove,

we discovered the following,

otkrili smo sledeće,

and I'm going to need to take out my reading glasses for this one.

i moraću da izvadim svoje naočare za čitanje za ovo.

And I'm going to read it for you, because this is complicated.

Pročitaću vam, jer je ovo komplikovano.

All right.

U redu.

"By posting content" --

„Objavljujući sadržaj“ -

and content refers to your pictures, chat

a sadržaj se odnosi na slike, dopisivanja

and other interactions in the dating service --

i druge interakcije u servisu za upoznavanje -

"as a part of the service,

„kao deo usluge,

you automatically grant to the company,

automatski odobravate kompaniji, njenim filijalama,

its affiliates, licensees and successors

onima sa njenom licencom i budućim vlasnicima, neopozivo“ -

an irrevocable" -- which means you can't change your mind --

što znači da ne možete da se predomislite -

"perpetual" -- which means forever --

„trajno“ - što znači zauvek -

„neisključivo, prenosivo, podlicencno, potpuno isplaćeno,

"nonexclusive, transferrable, sublicensable, fully paid-up,

pravo i dozvolu za korišćenje, umnožavanje, čuvanje, izvršavanje,

worldwide right and license to use, copy, store, perform,

display, reproduce, record,

prikazivanje, reprodukciju, beleženje,

play, adapt, modify and distribute the content,

objavljivanje, prilagođavanje, modifikovanje i distribuciju sadržaja,

prepare derivative works of the content,

izdvajanje delove sadržaja i uključivanje sadržaja u druge aktivnosti,

or incorporate the content into other works

and grant and authorize sublicenses of the foregoing in any media

davanje odobrenja i ovlašćenja gore pomenutim sublicenciranima

now known or hereafter created."

u svim medijima, trenutno poznatim ili nadalje stvorenim.“

That basically means that all your dating history

U suštini, to znači da vaša celokupna istorija upoznavanja

and everything related to it can be used for any purpose for all time.

i sve u vezi sa njom može biti korišćeno u bilo koje svrhe za sva vremena.

Just imagine your children seeing your sassy dating photos

Samo zamislite svoju decu kako gledaju vaše zavodničke slike

in a birth control ad 20 years from now.

za 20 godina u reklami za sredstva za kontracepciju.

But seriously, though --

Sad ozbiljno, zaista -

(Laughter)

(Smeh)

what might these commercial practices mean to you?

šta ovi komercijalni običaji mogu značiti za vas?

For example, financial loss:

Na primer, finansijski gubitak -

based on your web browsing history,

na osnovu vaše istorije pretraživanja,

algorithms might decide whether you will get a mortgage or not.

algoritmi mogu odlučiti da li ćete dobiti hipoteku ili ne.

Subconscious manipulation:

Podsvesna manipulacija -

companies can analyze your emotions based on your photos and chats,

kompanije mogu analizirati vaše emocije na osnovu vaših slika i dopisivanja,

targeting you with ads when you are at your most vulnerable.

ciljano vam prikazujući reklame kada ste najranjiviji.

Discrimination:

Diskriminacija -

aplikacija za fitnes može prodati podatke kompaniji zdravstvenog osiguranja,

a fitness app can sell your data to a health insurance company,

preventing you from getting coverage in the future.

što vam može onemogućiti dobijanje osiguranja u budućnosti.

All of this is happening in the world today.

Sve ovo se dešava u svetu danas.

But of course, not all uses of data are malign.

Ali naravno, korišćenje podataka nije uvek loše prirode.

Nekad samo ima nedostatke ili treba više poraditi na njemu,

Some are just flawed or need more work,

and some are truly great.

a neka su stvarno jako dobra.

And there is some good news as well.

Postoje i neke dobre vesti.

The dating companies changed their policies globally

Kompanije za upoznavanja su širom sveta promenile svoja pravila

after we filed a legal complaint.

nakon što smo pravno podneli žalbu.

But organizations such as mine

Ali organizacije kao što je moja,

that fight for consumers' rights can't be everywhere.

koje se bore za potrošačka prava, ne mogu biti svuda.

Nor can consumers fix this on their own,

Niti potrošači mogu ovo sami rešiti,

because if we know that something innocent we said

jer ako znamo da će se nešto bezazleno što smo rekli

will come back to haunt us,

vratiti da nas proganja,

we will stop speaking.

prestaćemo da pričamo.

If we know that we are being watched and monitored,

Ako znamo da nas gledaju i prate,

we will change our behavior.

promenićemo naše ponašanje.

And if we can't control who has our data and how it is being used,

A ako ne možemo da kontrolišemo ko ima naše podatke i kako se oni koriste,

we have lost the control of our lives.

izgubili smo kontrolu nad svojim životima.

The stories I have told you today are not random examples.

Priče koje sam vam ispričao danas nisu slučajni primeri.

They are everywhere,

One su svuda,

and they are a sign that things need to change.

i znak su da stvari treba da se promene.

And how can we achieve that change?

A kako možemo dostići tu promenu?

Well, companies need to realize that by prioritizing privacy and security,

Kompanije treba da shvate da postavljajući privatnost i zaštitu kao prioritet

they can build trust and loyalty to their users.

mogu izgraditi poverenje i lojalnost u odnosu sa svojim korisnicima.

Governments must create a safer internet

Vlade moraju stvoriti sigurniji internet

by ensuring enforcement and up-to-date rules.

osiguravajući primenu zakona i ažurirana pravila.

And us, the citizens?

A mi, građani?

We can use our voice

Mi možemo da koristimo svoj glas

to remind the world that technology can only truly benefit society

da podsetimo svet da tehnologija može zaista da bude od koristi društvu

if it respects basic rights.

samo ako poštuje osnovna prava.

Thank you so much.

Hvala vam puno.

(Applause)

(Aplauz)