What tech companies know about your kids | Veronica Barassi

Transcriber: Leslie Gauthier Reviewer: Joanna Pietrulewicz

Çeviri: bulent yavuz Gözden geçirme: Ezgisu Karakaya

Every day, every week,

Her gün, her hafta

we agree to terms and conditions.

farklı şart ve koşulları kabul ediyoruz.

And when we do this,

Bunu yaparken de

we provide companies with the lawful right

şirketlere hem bizim verilerimizle

to do whatever they want with our data

hem de çocuklarımızın verileriyle

and with the data of our children.

istediklerini yapma hakkını veriyoruz.

Which makes us wonder:

Bu da bizi düşündürüyor:

how much data are we giving away of children,

Çocuklarımızın verilerinin ne kadarını açık ediyoruz

and what are its implications?

ve bunun sonuçları ne olabilir?

I'm an anthropologist,

Ben bir antropoloğum.

and I'm also the mother of two little girls.

Aynı zamanda iki küçük kız annesiyim.

And I started to become interested in this question in 2015

Bu soruyla ilgilenmeye 2015'te başladım.

when I suddenly realized that there were vast --

Çocuklarla ilgili çok fazla

almost unimaginable amounts of data traces

hatta inanılmaz sayıda veri izinin

that are being produced and collected about children.

üretilip toplandığını fark ettiğimde.

So I launched a research project,

Çocuk Verisi Vatandaşı isminde

which is called Child Data Citizen,

bir araştırma projesi başlattım.

and I aimed at filling in the blank.

Hedefim bu boşluğu doldurmaktı.

Now you may think that I'm here to blame you

Çocuklarınızın fotoğraflarını sosyal medyada paylaştığınız için

for posting photos of your children on social media,

sizi kınamaya geldiğimi düşünebilirsiniz

but that's not really the point.

fakat demek istediğim şey bu değil.

The problem is way bigger than so-called "sharenting."

Sorun sosyal medya ebeveynliğinden çok daha büyük.

This is about systems, not individuals.

Bu bireylerle değil sistemlerle ilgili.

You and your habits are not to blame.

Suçlu olan siz ve alışkanlıklarınız değil.

For the very first time in history,

Tarihte ilk kez

we are tracking the individual data of children

çocukların bireysel verilerini takip ediyoruz,

from long before they're born --

doğumlarından çok daha öncesinden --

sometimes from the moment of conception,

bazen gebeliğin başladığı andan itibaren

and then throughout their lives.

ve tüm hayatları boyunca.

You see, when parents decide to conceive,

Ebeveynler çocuk yapmaya karar verdiğinde

they go online to look for "ways to get pregnant,"

internetten "hamile kalma yöntemleri" arar

or they download ovulation-tracking apps.

ya da ovülasyon takip uygulamaları indirirler.

When they do get pregnant,

Hamile kaldıklarında

they post ultrasounds of their babies on social media,

ultrason resimlerini sosyal medyada paylaşır,

they download pregnancy apps

hamilelik uygulamaları indirir

or they consult Dr. Google for all sorts of things,

ya da her türlü konuda Dr. Google'a danışırlar.

like, you know --

Şunun gibi konular:

for "miscarriage risk when flying"

"Uçak yolculuğunda düşük riski"

or "abdominal cramps in early pregnancy."

ya da "erken hamilelik döneminde mide krampları"

I know because I've done it --

Biliyorum çünkü ben de yaşadım,

and many times.

defalarca.

And then, when the baby is born, they track every nap,

Sonrasında, bebek doğduğunda farklı teknolojiler kullanarak

every feed,

her uykuyu, her beslenmeyi

every life event on different technologies.

hayattaki her anı takip ederler.

And all of these technologies

Bu teknolojilerin tümü

transform the baby's most intimate behavioral and health data into profit

bebeğin en mahrem davranışlarını ve sağlık verilerini

by sharing it with others.

başkalarıyla paylaşarak paraya dönüştürür.

So to give you an idea of how this works,

Nasıl çalıştığını size anlatayım.

in 2019, the British Medical Journal published research that showed

2019'dan bir British Medical Journal araştırması gösteriyor ki

that out of 24 mobile health apps,

her 24 mobil sağlık uygulamasından 19'u

19 shared information with third parties.

bilgilerinizi üçüncü şahıslarla paylaşıyor.

And these third parties shared information with 216 other organizations.

Bu üçüncü şahıslar da bilgileri 216 başka kurumla paylaşıyor.

Of these 216 other fourth parties,

Bu 216 dördüncü şahıstan

only three belonged to the health sector.

sadece 3'ü sağlık sektöründe bulunuyor.

The other companies that had access to that data were big tech companies

Bu verilere erişimi olan diğer şirketler

like Google, Facebook or Oracle,

Google, Facebook, Oracle gibi büyük teknoloji şirketleri,

they were digital advertising companies

dijital reklam şirketleri

and there was also a consumer credit reporting agency.

ve aralarında bir tüketici kredisi rapor ajansı da vardı.

So you get it right:

Doğru anladınız.

ad companies and credit agencies may already have data points on little babies.

Reklam ve kredi ajansları küçük bebeğiniz hakkında verilere sahip olabilir.

But mobile apps, web searches and social media

Mobil uyulamalar, internet aramaları ve sosyal medya

are really just the tip of the iceberg,

buzdağının sadece görünen kısmıdır.

because children are being tracked by multiple technologies

Çocuklar günlük hayatlarında da

in their everyday lives.

pek çok teknoloji tarafından takip ediliyor.

They're tracked by home technologies and virtual assistants in their homes.

Evlerindeki sanal asistan ve ev teknolojilerinden takip ediliyorlar.

They're tracked by educational platforms

Okullarındaki eğitim platformları

and educational technologies in their schools.

ve eğitim teknolojilerinden takip ediliyorlar.

They're tracked by online records

Doktorlarının ofislerindeki

and online portals at their doctor's office.

çevrimiçi kayıt ve portallardan takip ediliyorlar.

They're tracked by their internet-connected toys,

İnternete bağlı oyuncaklarından,

their online games

çevrim içi oyunlardan

and many, many, many, many other technologies.

ve başka pek çok teknoloji tarafından takip ediliyorlar.

So during my research,

Araştırmam sırasında

a lot of parents came up to me and they were like, "So what?

pek çok ebeveyn bana gelip "Ee, yani?" diye sordu.

Why does it matter if my children are being tracked?

"Çocuğumun takip edilmesi neden bu kadar önemli?

We've got nothing to hide."

Sakladığımız bir şey yok."

Well, it matters.

Aslında önemli.

It matters because today individuals are not only being tracked,

Çünkü günümüzde bireyler sadece takip edilmiyor.

they're also being profiled on the basis of their data traces.

Ayrıca veri izlerine göre profilleri çıkartılıyor.

Artificial intelligence and predictive analytics are being used

Yapay zeka ve kestirimsel analizler

to harness as much data as possible of an individual life

farklı kaynaklar üzerinden

bireyin hayatından maksimum veriyi elde etmek için kullanılır:

from different sources:

family history, purchasing habits, social media comments.

Aile geçmişi, satın alma alışkanlıkları, sosyal medya yorumları.

And then they bring this data together

Bu veriler bir araya getirilip

birey hakkında veri güdümlü kararlar vermek için kullanılır.

to make data-driven decisions about the individual.

And these technologies are used everywhere.

Bu teknolojiler her yerde kullanılıyor.

Banks use them to decide loans.

Bankalar kredilere karar vermek,

Insurance uses them to decide premiums.

sigorta şirketleri oranlara karar vermek,

Recruiters and employers use them

İşe alım uzmanları ve işverenler

to decide whether one is a good fit for a job or not.

bireyin işe uygun olup olmadığına karar vermek için kullanır.

Also the police and courts use them

Polis ve mahkemeler ise

to determine whether one is a potential criminal

bireyin potansiyel bir suçlu olup olmadığına

or is likely to recommit a crime.

ya da tekrar suç işleyip işlemeyeceğini saptamak için kullanır.

We have no knowledge or control

Verilerimizi satın alarak, satarak ve işleyerek

over the ways in which those who buy, sell and process our data

bizim ve çocuklarımızın profilini çıkaran yollar üzerinde

are profiling us and our children.

herhangi bir bilgimiz ve kontrolümüz yok.

But these profiles can come to impact our rights in significant ways.

Ama bu profiller haklarımızı ciddi şekilde etkileyebilir.

To give you an example,

Örnek vermek gerekirse,

in 2018 the "New York Times" published the news

2018 yılında ''New York Times''

that the data that had been gathered

Amerika'da üniversite programı

through online college-planning services --

veya burs arayan milyonlarca lise öğrencisi tarafından tamamlanan

that are actually completed by millions of high school kids across the US

çevrim içi üniversite planlama hizmetleri yoluyla

who are looking for a college program or a scholarship --

toplanan verilerin

had been sold to educational data brokers.

eğitim veri aracılarına satıldığı haberini yayınladı.

Now, researchers at Fordham who studied educational data brokers

Fordham Üniversitesinde eğitim veri aracıları üzerinde çalışan araştırmacılar

revealed that these companies profiled kids as young as two

bu şirketlerin iki yaşından itibaren çocukların profillerini

on the basis of different categories:

şu farklı kategorileri baz alarak çıkardıkları bilgisine ulaştı:

ethnicity, religion, affluence,

Etnik köken, din, varlık,

social awkwardness

sosyal uygunsuzluk

and many other random categories.

ve diğer birçok rastgele kategori.

And then they sell these profiles together with the name of the kid,

Daha sonra çıkarılan bu profilleri,

their home address and the contact details

çocuğun ismiyle birlikte ev adresi ve iletişim detaylarını,

to different companies,

farklı firmalara satıyorlar

including trade and career institutions,

ki bunlara ticaret ve kariyer kurumları,

student loans

öğrenci kredisi

and student credit card companies.

ve öğrenci kredi kartı şirketleri de dahil.

To push the boundaries,

Sınırları zorlarsak,

the researchers at Fordham asked an educational data broker

Fordham'daki araştırmacılar, eğitim veri aracılarından

to provide them with a list of 14-to-15-year-old girls

aile planlama hizmetleriyle ilgilenen

who were interested in family planning services.

14 ile 15 yaşındaki kızların listesini sunmalarını istedi.

The data broker agreed to provide them the list.

Veri aracısı listeyi sunmayı kabul etti.

So imagine how intimate and how intrusive that is for our kids.

Yani bunun çocuklarımız için ne kadar mahrem ve müdahaleci olduğunu siz düşünün.

But educational data brokers are really just an example.

Fakat eğitim veri aracıları sadece bir örnek.

The truth is that our children are being profiled in ways that we cannot control

İşin aslı çocuklarımızın profillerinin bizim denetleyemeyeceğimiz ölçüde

but that can significantly impact their chances in life.

çıkarılıyor olması ki bu onların hayatını önemli derecede etkileyebilir.

So we need to ask ourselves:

O yüzden kendimize şu soruyu sormalıyız:

can we trust these technologies when it comes to profiling our children?

Çocuklarımızın profilinin çıkarılmasında bu teknolojilere güvenebilir miyiz?

Can we?

Güvenebilir miyiz?

My answer is no.

Benim cevabım hayır.

As an anthropologist,

Bir antropolog olarak,

I believe that artificial intelligence and predictive analytics can be great

yapay zekanın ve kestirimsel analizlerin felaketlerin gidişatını tahmin etmek

to predict the course of a disease

ve iklim değişikliği ile savaşmak için

or to fight climate change.

harika olabileceğine inanıyorum.

But we need to abandon the belief

Ama bu teknolojilerin,

that these technologies can objectively profile humans

insan profillerini objektif olarak çıkardığına

ve bireylerin hayatlarıyla ilgili veri güdümlü kararlar vermek için

and that we can rely on them to make data-driven decisions

onlara güvenebileceğimize olan inancı terk etmemiz gerekiyor.

about individual lives.

Because they can't profile humans.

Çünkü insan profillerini çıkaramazlar.

Data traces are not the mirror of who we are.

Veri izleri bizim kim olduğumuzun aynası değildir.

Humans think one thing and say the opposite,

İnsanlar bir şey düşünür ve tersini söyler,

feel one way and act differently.

bir yönde hisseder ve farklı hareket eder.

Algorithmic predictions or our digital practices

Algoritmik tahminler veya dijital alışkanlıklarımız,

cannot account for the unpredictability and complexity of human experience.

insan deneyiminin tahmin edilememezlik ve karmaşıklığını açıklayamaz.

But on top of that,

Üstüne üstlük

these technologies are always --

bu teknolojiler daima --

always --

daima --

in one way or another, biased.

öyle ya da böyle, peşin hükümlüdür.

You see, algorithms are by definition sets of rules or steps

Gördüğünüz gibi, algoritmalar tanım gereği spesifik bir sonuca

that have been designed to achieve a specific result, OK?

ulaşmak için tasarlanmış kurallar ve adımlar bütünüdür. Tamam mı?

But these sets of rules or steps cannot be objective,

Ama bu kurallar ve adımlar bütünü objektif olamaz,

because they've been designed by human beings

çünkü insanlar tarafından tasarlanmışlardır,

within a specific cultural context

spesifik bir kültürel içeriği vardır

and are shaped by specific cultural values.

ve spesifik kültürel değerler tarafından şekillendirilir.

So when machines learn,

Yani makineler öğrenirken,

they learn from biased algorithms,

peşin hükümlü algoritmalardan

and they often learn from biased databases as well.

ve sıklıkla da peşin hükümlü veri tabanlarından öğrenirler.

At the moment, we're seeing the first examples of algorithmic bias.

Şimdi, algoritmik peşin hükmün ilk örneklerini görüyoruz.

And some of these examples are frankly terrifying.

Bu örneklerden bazıları açıkçası dehşet verici.

This year, the AI Now Institute in New York published a report

Bu sene, New York'taki Al Now Enstitüsü

kestirimsel güvenlik işlemleri için kullanılan yapay zeka teknolojilerinin

that revealed that the AI technologies

that are being used for predictive policing

"kirli" veriler üzerinde eğitildiğini

have been trained on "dirty" data.

ortaya çıkaran bir rapor yayınladı.

This is basically data that had been gathered

Kirli veriler; ırksal peşin hükmün

during historical periods of known racial bias

ve şeffaf olmayan polis uygulamalarının olduğu

and nontransparent police practices.

tarihsel dönemler boyunca toplanan veriler demek.

Because these technologies are being trained with dirty data,

Çünkü bu teknolojiler kirli veri ile eğitiliyor,

they're not objective,

objektif değiller

and their outcomes are only amplifying and perpetrating

ve bunun sonuçları sadece polis peşin hükmünü

police bias and error.

ve hatalarını arttırıp devam ettiriyor.

So I think we are faced with a fundamental problem

Bundan dolayı, bence

toplumumuzda temel bir problem ile karşı karşıyayız.

in our society.

We are starting to trust technologies when it comes to profiling human beings.

İnsan profili çıkarmaya gelince bu teknolojilere güvenmeye başlıyoruz.

We know that in profiling humans,

Biliyoruz ki insan profili çıkarırken,

these technologies are always going to be biased

bu teknolojiler her zaman peşin hükümlü olacaklar

and are never really going to be accurate.

ve asla gerçekten doğru olmayacaklar.

So what we need now is actually political solution.

Bu yüzden asıl ihtiyacımız olan siyasal bir çözüm.

We need governments to recognize that our data rights are our human rights.

Bize veri haklarımızın insan haklarımız olduğunu tanıyan hükümetler lazım.

(Applause and cheers)

(Alkış)

Until this happens, we cannot hope for a more just future.

Bu olana kadar, daha adil bir gelecek umut edemeyiz.

I worry that my daughters are going to be exposed

Kızlarım her tür algoritmik ayrımcılık ve yanlışa

to all sorts of algorithmic discrimination and error.

maruz kalacağı için endişeleniyorum.

You see the difference between me and my daughters

Ben ve kızlarım arasındaki farkı görüyorsunuz:

is that there's no public record out there of my childhood.

Benim çocukluğumun halka açık kaydı yok.

There's certainly no database of all the stupid things that I've done

Gençken yaptığım ve düşündüğüm tüm o aptal şeylerin

and thought when I was a teenager.

bulunduğu bir veritabanı yok.

(Laughter)

(Kahkaha)

But for my daughters this may be different.

Ama kızlarım için daha farklı olabilir.

The data that is being collected from them today

Bugün onlardan toplanan veriler

may be used to judge them in the future

gelecekte onları yargılamak için kullanılabilir,

and can come to prevent their hopes and dreams.

onları umut ve rüyalarından alıkoyabilir.

I think that's it's time.

Bence zamanı geldi.

Artık hepimizin öne çıkma zamanı geldi.

It's time that we all step up.

It's time that we start working together

Bireyler olarak,

organizasyon ve kurumlar olarak,

as individuals,

as organizations and as institutions,

çok geç olmadan

and that we demand greater data justice for us

beraber çalışmaya başlamamızın,

kendimiz ve çocuklarımız için

and for our children

daha fazla veri adaleti talep etmenin zamanı geldi.

before it's too late.

Thank you.

Teşekkürler.

(Applause)

(Alkış)