The nightmare videos of childrens' YouTube — and what's wrong with the internet today | James Bridle

Μετάφραση: Anthi Lakka Επιμέλεια: Chryssa R. Takahashi

I'm James.

Ονομάζομαι Τζέιμς.

I'm a writer and artist,

Είμαι συγγραφέας και καλλιτέχνης,

and I make work about technology.

και η δουλειά μου έχει να κάνει με την τεχνολογία.

I do things like draw life-size outlines of military drones

Για παράδειγμα ζωγραφίζω στρατιωτικά μη επανδρωμένα αεροσκάφη

σε πραγματικό μέγεθος σε δρόμους πόλεων σε όλο τον κόσμο

in city streets around the world,

so that people can start to think and get their heads around

για να μπορέσουν οι άνθρωποι να σκεφτούν και να καταλάβουν

these really quite hard-to-see and hard-to-think-about technologies.

αυτές τις δυσδιάκριτες και δυσνόητες νέες τεχνολογίες.

I make things like neural networks that predict the results of elections

Φτιάχνω νευρωνικά δίκτυα που προβλέπουν εκλογικά αποτελέσματα

based on weather reports,

και βασίζονται σε δελτία καιρού

because I'm intrigued about

γιατί με γοητεύει

what the actual possibilities of these weird new technologies are.

το πόσες δυνατότητες δίνουν αυτές οι περίεργες νέες τεχνολογίες.

Last year, I built my own self-driving car.

Πέρυσι έφτιαξα ένα αυτοκίνητο που κινείται μόνο του.

But because I don't really trust technology,

Δεν εμπιστεύομαι, όμως, την τεχνολογία

I also designed a trap for it.

και έτσι του έφτιαξα και μια φάκα.

(Laughter)

(Γέλια)

And I do these things mostly because I find them completely fascinating,

Ασχολούμαι μ' αυτά κυρίως γιατί τα βρίσκω συναρπαστικά

but also because I think when we talk about technology,

αλλά και γιατί νομίζω πως όταν μιλάμε για τεχνολογία

we're largely talking about ourselves

μιλάμε, κυρίως, για εμάς

and the way that we understand the world.

και τον τρόπο που αντιλαμβανόμαστε τον κόσμο.

So here's a story about technology.

Ακούστε μια ιστορία για την τεχνολογία.

This is a "surprise egg" video.

Αυτό είναι ένα βίντεο με «αυγά έκπληξη».

It's basically a video of someone opening up loads of chocolate eggs

Δείχνει κάποιον ν' ανοίγει δεκάδες σοκολατένια αυγά

and showing the toys inside to the viewer.

και να παρουσιάζει το παιχνίδι μέσα του.

That's it. That's all it does for seven long minutes.

Τελεία. Κάνει μόνο αυτό για επτά ολόκληρα λεπτά.

And I want you to notice two things about this.

Θέλω να προσέξτε δύο πράγματα.

First of all, this video has 30 million views.

Πρώτον, αυτό το βίντεο έχει 30 εκατομμύρια θεάσεις.

(Laughter)

(Γέλια)

And the other thing is,

Και δεύτερον,

it comes from a channel that has 6.3 million subscribers,

παίζεται σ' ένα κανάλι με 6,3 εκατομμύρια συνδρομητές

that has a total of eight billion views,

και συνολικά οκτώ δισεκατομμύρια θεάσεις

and it's all just more videos like this --

και υπάρχουν πολλά βίντεο σαν αυτό.

30 million people watching a guy opening up these eggs.

30 εκατομμύρια άτομα παρακολουθούν κάποιον να ανοίγει αυγά.

It sounds pretty weird, but if you search for "surprise eggs" on YouTube,

Μοιάζει αλλόκοτο αλλά αν ψάξετε για «αυγά έκπληξη» στο YouTube,

it'll tell you there's 10 million of these videos,

θα σας βρει 10 εκατομμύρια τέτοια βιντεάκια

and I think that's an undercount.

αλλά νομίζω ότι είναι περισσότερα.

I think there's way, way more of these.

Πολύ περισσότερα.

If you keep searching, they're endless.

Αν συνεχίσετε την αναζήτηση, είναι αμέτρητα.

There's millions and millions of these videos

Υπάρχουν άπειρα τέτοια βίντεο

in increasingly baroque combinations of brands and materials,

σε όλο και πιο μπαρόκ συνδυασμούς επώνυμων προϊόντων και υλικών.

and there's more and more of them being uploaded every single day.

Και ανεβαίνουν όλο και περισσότερα από αυτά κάθε μέρα.

Like, this is a strange world. Right?

Ένας αλλόκοτος κόσμος, σωστά;

But the thing is, it's not adults who are watching these videos.

'Ομως, δεν τα βλέπουν ενήλικες.

It's kids, small children.

Αλλά μικρά παιδιά.

These videos are like crack for little kids.

Είναι σαν ναρκωτικά για μικρά παιδιά.

There's something about the repetition,

Κάτι με το θέμα της επανάληψης

the constant little dopamine hit of the reveal,

και τη συνεχή δόση ντοπαμίνης από την ανακάλυψη

that completely hooks them in.

τα εθίζει εντελώς.

And little kids watch these videos over and over and over again,

Τα παιδιά παρακολουθούν αυτά τα βίντεο ξανά και ξανά,

and they do it for hours and hours and hours.

για ατελείωτες ώρες.

And if you try and take the screen away from them,

Αν προσπαθήσετε να τους πάρετε την οθόνη,

they'll scream and scream and scream.

ουρλιάζουν ασταμάτητα.

If you don't believe me --

Αν δεν με πιστεύετε, έχω δει άτομα στο κοινό να συμφωνούν,

and I've already seen people in the audience nodding --

αν δεν πιστεύετε, ρωτήστε κάποιον με μικρά παιδιά

if you don't believe me, find someone with small children and ask them,

και θα γνωρίζει για αυτά τα βίντεο.

and they'll know about the surprise egg videos.

So this is where we start.

Θα αρχίσουμε, λοιπόν, από εδώ.

It's 2018, and someone, or lots of people,

Είμαστε στο 2018 και κάποιοι ή πολλοί

are using the same mechanism that, like, Facebook and Instagram are using

χρησιμοποιούν τον ίδιο μηχανισμό με το Facebook και το Instagram

to get you to keep checking that app,

που σας κάνουν να ελέγχετε συνεχώς την εφαρμογή,

and they're using it on YouTube to hack the brains of very small children

και τον χρησιμοποιούν στο YouTube για να χακάρουν το μυαλό των παιδιών

in return for advertising revenue.

με αντάλλαγμα έσοδα από διαφημίσεις.

At least, I hope that's what they're doing.

Ελπίζω να το κάνουν μόνο γι' αυτό.

I hope that's what they're doing it for,

Ελπίζω να είναι μόνο γι' αυτό

because there's easier ways of making ad revenue on YouTube.

γιατί υπάρχουν πιο εύκολοι τρόποι να βγάλεις τέτοια έσοδα στο YouTube.

You can just make stuff up or steal stuff.

Μπορείς να επινοήσεις ή να κλέψεις υλικό.

So if you search for really popular kids' cartoons

Αν αναζητήσετε πολύ δημοφιλή παιδικά,

like "Peppa Pig" or "Paw Patrol,"

όπως «Πέπα το γουρουνάκι», ή «Κουταβοπερίπολος»

you'll find there's millions and millions of these online as well.

θα βρείτε, επίσης, εκατομμύρια τέτοια βίντεο στο διαδίκτυο.

Of course, most of them aren't posted by the original content creators.

Τα περισσότερα δεν ανεβαίνουν από τους δημιουργούς τους

They come from loads and loads of different random accounts,

αλλά από πολλούς λογαριασμούς,

and it's impossible to know who's posting them

και είναι αδύνατον να ξέρουμε ποιος τα ανεβάζει

or what their motives might be.

ή ποια είναι τα κίνητρά τους.

Does that sound kind of familiar?

Σας ακούγεται γνωστό όλο αυτό;

Because it's exactly the same mechanism

Είναι ακριβώς ο ίδιος μηχανισμός

that's happening across most of our digital services,

που βλέπουμε στις πιο πολλές ψηφιακές υπηρεσίες

where it's impossible to know where this information is coming from.

όπου είναι αδύνατο να γνωρίζουμε την προέλευση των πληροφοριών.

It's basically fake news for kids,

Είναι ψευδείς ειδήσεις για παιδιά,

and we're training them from birth

και εμείς τα εκπαιδεύουμε από μωρά

to click on the very first link that comes along,

να κλικάρουν στον πρώτο σύνδεσμο που βλέπουν

regardless of what the source is.

άσχετα από το πού προέρχεται.

That's doesn't seem like a terribly good idea.

Δεν είναι πολύ καλή ιδέα.

Here's another thing that's really big on kids' YouTube.

Δείτε κάτι ακόμα πολύ δημοφιλές για παιδιά, στο YouTube.

This is called the "Finger Family Song."

«Το Τραγούδι της Δακτυλοοικογένειας»

I just heard someone groan in the audience.

Άκουσα κάποιον στο κοινό να αναστενάζει.

This is the "Finger Family Song."

Δείτε το βίντεο του τραγουδιού.

This is the very first one I could find.

Είναι το πιο παλιό που βρήκα.

It's from 2007, and it only has 200,000 views,

Από το 2007 με μόνο 200.000 θεάσεις.

which is, like, nothing in this game.

Ψίχουλα δηλαδή.

But it has this insanely earwormy tune,

Έχει μια μελωδία απίστευτα κολλητική.

which I'm not going to play to you,

Δεν θα βάλω ήχο

because it will sear itself into your brain

γιατί θα σας κάψει τον εγκέφαλο

in the same way that it seared itself into mine,

όπως έκανε και με τον δικό μου.

and I'm not going to do that to you.

Δεν θέλω να το πάθετε και εσείς.

But like the surprise eggs,

Όπως και τα «αυγά έκπληξη»,

it's got inside kids' heads

τρύπωσε στο μυαλό των παιδιών

and addicted them to it.

και προκάλεσε εθισμό.

So within a few years, these finger family videos

Λίγα χρόνια μετά, αυτά τα βίντεο

start appearing everywhere,

εμφανίζονται παντού, σε διαφορετικές γλώσσες

and you get versions in different languages

with popular kids' cartoons using food

με κινούμενα σχέδια που χρησιμοποιούν φαγητό

or, frankly, using whatever kind of animation elements

ή οτιδήποτε μπορείς να κουνήσεις

you seem to have lying around.

και σου βρίσκεται πρόχειρο.

And once again, there are millions and millions and millions of these videos

Και πάλι,

υπάρχουν εκατομμύρια τέτοια στο διαδίκτυο,

available online in all of these kind of insane combinations.

σε παλαβούς συνδυασμούς.

And the more time you start to spend with them,

Όσο περισσότερο τα παρακολουθείς

the crazier and crazier you start to feel that you might be.

τόσο περισσότερο νιώθεις να τρελαίνεσαι.

And that's where I kind of launched into this,

Αυτό που με έκανε να ασχοληθώ με αυτά

that feeling of deep strangeness and deep lack of understanding

είναι το αίσθημα του αλλόκοτου και του ανεξήγητου

of how this thing was constructed that seems to be presented around me.

του πώς δημιουργήθηκε όλο αυτό και βρίσκεται παντού γύρω μου.

Because it's impossible to know where these things are coming from.

Είναι αδύνατο να μάθουμε την πηγή τους.

Ποιος τα φτιάχνει;

Like, who is making them?

Κάποια μοιάζουν έργα επαγγελματιών.

Some of them appear to be made of teams of professional animators.

Some of them are just randomly assembled by software.

Άλλα φτιαγμένα στην τύχη από κάποιο πρόγραμμα.

Some of them are quite wholesome-looking young kids' entertainers.

Σε άλλα βλέπουμε νεαρούς παρουσιαστές παιδικών προγραμμάτων.

And some of them are from people

Όμως, κάποια είναι από ανθρώπους

who really clearly shouldn't be around children at all.

που δεν θα έπρεπε να βρίσκονται κοντά σε παιδιά.

(Laughter)

(Γέλια)

And once again, this impossibility of figuring out who's making this stuff --

Αυτή η αδυναμία να προσδιορίσουμε ποιος τα φτιάχνει --

like, this is a bot?

κάποιο μποτ;

Is this a person? Is this a troll?

Άνθρωποι; Τρολ;

What does it mean that we can't tell the difference

Και γιατί να μην μπορούμε να τα διαχωρίσουμε

between these things anymore?

όλα αυτά πια;

And again, doesn't that uncertainty feel kind of familiar right now?

Έχουμε πια εξοικειωθεί με αυτή την αβεβαιότητα;

So the main way people get views on their videos --

Ο κύριος τρόπος για να έχουν θεάσεις τα βίντεο --

and remember, views mean money --

θυμηθείτε, θεάσεις ίσον χρήμα --

is that they stuff the titles of these videos with these popular terms.

είναι να γεμίσουν τους τίτλους τους με δημοφιλείς όρους.

So you take, like, "surprise eggs"

Παίρνετε τον όρο «αυγό έκπληξη»

and then you add "Paw Patrol," "Easter egg,"

και προσθέτετε «Κουταβοπερίπολος», «Πασχαλινό αυγό»

or whatever these things are,

κάτι σαν αυτά εδώ, που είναι λέξεις από άλλα βίντεο

all of these words from other popular videos into your title,

και τα βάζεις στον τίτλο

until you end up with this kind of meaningless mash of language

και έχουμε, τελικά, μια σούπα από λέξεις χωρίς νόημα,

that doesn't make sense to humans at all.

εντελώς ακατανόητη από ανθρώπους.

Because of course it's only really tiny kids who are watching your video,

Αφού τα βλέπουν μόνο μικρά παιδιά,

and what the hell do they know?

και τι στο καλό ξέρουν αυτά;

Your real audience for this stuff is software.

Το πραγματικό κοινό σου είναι τα προγράμματα.

It's the algorithms.

Οι αλγόριθμοι.

It's the software that YouTube uses

Τα προγράμματα που έχει το YouTube

to select which videos are like other videos,

για να βρίσκει παρόμοια βίντεο,

to make them popular, to make them recommended.

να τα κάνει δημοφιλή και προτεινόμενα.

And that's why you end up with this kind of completely meaningless mash,

Έτσι καταλήγουμε σε αυτή την εντελώς ανούσια σούπα

both of title and of content.

ως προς τον τίτλο και το περιεχόμενο.

But the thing is, you have to remember,

Όμως θυμηθείτε

there really are still people within this algorithmically optimized system,

ότι πίσω από αυτό το σύστημα αλγόριθμων υπάρχουν άνθρωποι

people who are kind of increasingly forced to act out

που αναγκάζονται όλο και πιο πολύ να μιμηθούν

these increasingly bizarre combinations of words,

αυτούς τους όλο και πιο αλλόκοτους συνδιασμούς λέξεων.

like a desperate improvisation artist responding to the combined screams

Όπως ένας απελπισμένος καλλιτέχνης που ουρλιάζει ως απάντηση

of a million toddlers at once.

στα ταυτόχρονα ουρλιαχτά εκατομυρίων παιδιών.

There are real people trapped within these systems,

Πραγματικοί άνθρωποι παγιδευμένοι στα συστήματα.

and that's the other deeply strange thing about this algorithmically driven culture,

Ένα άλλο παράξενο πράγμα σε αυτόν τον πολιτισμό των αλγορίθμων

because even if you're human,

είναι ότι ακόμη και αν είστε άνθρωποι τελικά φέρεστε σαν μηχανή

you have to end up behaving like a machine

just to survive.

μόνο και μόνο για να επιβιώσετε.

And also, on the other side of the screen,

Στην άλλη πλευρά της όψη της οθόνης

there still are these little kids watching this stuff,

έχουμε μικρά παιδιά να παρακολουθούν,

stuck, their full attention grabbed by these weird mechanisms.

κολλημένα, η προσοχή τους αιχμάλωτη αυτών των παράξενων μηχανισμών.

And most of these kids are too small to even use a website.

Τα πιο πολλά είναι πολύ μικρά για να χρησιμοποιούν ιστότοπους.

They're just kind of hammering on the screen with their little hands.

Απλώς πατάνε στην οθόνη με τα χεράκια τους.

And so there's autoplay,

Η αυτόματη αναπαραγωγή

where it just keeps playing these videos over and over and over in a loop,

παίζει αυτά τα βίντεο ξανά και ξανά

endlessly for hours and hours at a time.

για ώρες, χωρίς να σταματά.

And there's so much weirdness in the system now

Υπάρχουν τόσα αλλόκοτα πράγματα στο σύστημα

that autoplay takes you to some pretty strange places.

που ο αυτοματισμός σε κατευθύνει σε πολύ περίεργα μέρη.

This is how, within a dozen steps,

Και έτσι, μέσα σε λίγα βήματα,

you can go from a cute video of a counting train

βρίσκεσαι από ένα βίντεο με ένα τρενάκι που μετράει

to masturbating Mickey Mouse.

σε ένα με τον Μίκυ Μάους να αυνανίζεται.

Yeah. I'm sorry about that.

Πράγματι. Και λυπάμαι γι' αυτό.

This does get worse.

Πραγματικά χειροτερεύει.

This is what happens

Αυτό συμβαίνει

when all of these different keywords,

όταν όλες αυτές οι λέξεις κλειδιά,

all these different pieces of attention,

όλα αυτά τα διάφορα τμήματα της προσοχής,

this desperate generation of content,

αυτή η απεγνωσμένη γενιά του περιεχομένου

all comes together into a single place.

συγκεντρώνονται σε ένα μέρος.

This is where all those deeply weird keywords come home to roost.

Έτσι όλες οι περίεργες αυτές λέξεις γυρίζουν μπούμερανγκ.

You cross-breed the finger family video

Διασταυρώνουμε το βίντεο της δακτυλοοικογένειας

with some live-action superhero stuff,

με μια δόση δράσης υπερήρωα

you add in some weird, trollish in-jokes or something,

και προσθέτουμε κάτι σαν αστειάκι, σαν τρολλάρισμα

and suddenly, you come to a very weird place indeed.

και ξαφνικά βρισκόμαστε σε μια πραγματικά περίεργη κατάσταση.

The stuff that tends to upset parents

Τα βίντεο που εξοργίζουν τους γονείς

is the stuff that has kind of violent or sexual content, right?

είναι αυτά με βίαιο ή σεξουαλικό περιεχόμενο, σωστά;

Children's cartoons getting assaulted,

Παιδικοί ήρωες δέχονται επιθέσεις,

getting killed,

δολοφονούνται.

weird pranks that actually genuinely terrify children.

Παράξενες φάρσες που πραγματικά τρομοκρατούν τα παιδιά.

What you have is software pulling in all of these different influences

Πρόκειται για προγράμματα που συλλέγουν αυτά τα στοιχεία

to automatically generate kids' worst nightmares.

και αυτοματοποιημένα δημιουργούν χείριστους παιδικούς εφιάλτες.

And this stuff really, really does affect small children.

Όλα αυτά πραγματικά επηρεάζουν τα μικρά παιδιά.

Parents report their children being traumatized,

Γονείς αναφέρονται σε ψυχολογικά τραύματα,

becoming afraid of the dark,

τα παιδιά φοβούνται το σκοτάδι, φοβούνται τον αγαπημένο τους ήρωα καρτούν.

becoming afraid of their favorite cartoon characters.

If you take one thing away from this, it's that if you have small children,

Κρατήστε αυτό από την ομιλία μου: αν έχετε μικρά παιδιά,

keep them the hell away from YouTube.

κρατήστε τα μακριά από το YouTube.

(Applause)

(Χειροκρότημα)

But the other thing, the thing that really gets to me about this,

Αυτό, όμως, που πραγματικά με εκνευρίζει

is that I'm not sure we even really understand how we got to this point.

είναι πως, μάλλον, ούτε καν καταλαβαίνουμε πώς φτάσαμε ως εδώ.

We've taken all of this influence, all of these things,

Πήραμε όλα αυτά τα στοιχεία

and munged them together in a way that no one really intended.

και τα επεξεργαστήκαμε με τρόπο πέρα από τις προθέσεις μας.

And yet, this is also the way that we're building the entire world.

Κι όμως, έτσι χτίζουμε τον κόσμο που μας περιβάλλει.

We're taking all of this data,

Συγκεντρώνουμε όλα αυτά τα δεδομένα,

a lot of it bad data,

πολλά απ' τα οποία αβάσιμα,

a lot of historical data full of prejudice,

πολλά με προκαταλήψεις γύρω από την ιστορία,

full of all of our worst impulses of history,

με τις χειρότερες απερισκεψίες της ιστορίας μας,

and we're building that into huge data sets

τα οργανώνουμε σε μεγάλες βάσεις δεδομένων

and then we're automating it.

και μετά, τα αυτοματοποιούμε.

And we're munging it together into things like credit reports,

Τα επεξεργαζόμαστε για να φτιάξουμε προφίλ πιστοληπτικής ικανότητας,

into insurance premiums,

το κόστος ασφάλιστρων,

into things like predictive policing systems,

για συστήματα που δίνουν προγνωστικά εγκληματικότητας,

into sentencing guidelines.

και οδηγίες για δικαστικές ποινές.

This is the way we're actually constructing the world today

Με αυτόν τον τρόπο συγκροτούμε τον κόσμο μας σήμερα,

out of this data.

με βάση αυτά τα δεδομένα.

And I don't know what's worse,

Δεν ξέρω πιο είναι χειρότερο.

that we built a system that seems to be entirely optimized

Η οικοδόμηση ενός συστήματος που μοιάζει το καλύτερο

for the absolute worst aspects of human behavior,

για τις χειρότερες πτυχές της ανθρώπινης συμπεριφοράς

or that we seem to have done it by accident,

ή η υποψία ότι μάλλον φτιάχτηκε κατά λάθος

without even realizing that we were doing it,

χωρίς καν να το πάρουμε χαμπάρι

because we didn't really understand the systems that we were building,

γιατί δεν κατανοούσαμε πραγματικά

τι σύστημα οικοδομούσαμε, ούτε πώς να το χρησιμοποιήσουμε διαφορετικά.

and we didn't really understand how to do anything differently with it.

There's a couple of things I think that really seem to be driving this

Υπάρχουν κάποια πράγματα που φαίνονται να ωθούν όλα αυτά,

most fully on YouTube,

κυρίως στο YouTube

and the first of those is advertising,

και το πρώτο είναι οι διαφημίσεις,

which is the monetization of attention

η αναγωγή της προσοχής μας σε χρήμα

without any real other variables at work,

χωρίς κανέναν άλλον οδηγό,

any care for the people who are actually developing this content,

χωρίς να μας νοιάζουν οι άνθρωποι που δημιουργούν αυτό το περιεχόμενο,

the centralization of the power, the separation of those things.

ο συγκεντρωτισμός της εξουσίας, ο διαχωρισμός των πραγμάτων.

And I think however you feel about the use of advertising

Άσχετα από τη γνώμη σας για τη διαφήμιση σαν μέσο προώθησης,

to kind of support stuff,

the sight of grown men in diapers rolling around in the sand

η εικόνα ενήλικων ανδρών με πάνες να κυλιούνται στην άμμο, ελπίζοντας

in the hope that an algorithm that they don't really understand

ότι ένας ακαταλαβίστικος αλγόριθμος θα τους αποφέρει έτσι χρήματα,

will give them money for it

suggests that this probably isn't the thing

δείχνει ότι μάλλον δεν θα πρέπει να βασιστούμε στην διαφήμιση

that we should be basing our society and culture upon,

για να χρηματοδοτούμε την κοινωνία και τον πολιτισμό μας.

and the way in which we should be funding it.

And the other thing that's kind of the major driver of this is automation,

Το άλλο, που κυρίως δίνει ώθηση σε αυτά, είναι η αυτοματοποίηση.

which is the deployment of all of this technology

Δηλαδή η εφαρμογή όλης αυτής της τεχνολογίας

as soon as it arrives, without any kind of oversight,

αμέσως μόλις εμφανιστεί, χωρίς κάποια εποπτεία.

and then once it's out there,

Και όταν γίνεται διαθέσιμη,

kind of throwing up our hands and going, "Hey, it's not us, it's the technology."

σηκώνουμε τα χέρια και λέμε: «Η τεχνολογία φταίει, όχι εμείς.

Like, "We're not involved in it."

Εμείς δεν έχουμε καμία σχέση».

That's not really good enough,

Αυτό δεν βοηθάει,

because this stuff isn't just algorithmically governed,

γιατί όλα αυτά όχι απλώς ρυθμίζονται από αλγόριθμους

it's also algorithmically policed.

αλλά και αστυνομεύονται από αυτούς.

When YouTube first started to pay attention to this,

Όταν στο YouTube αντιλήφθηκαν το πρόβλημα,

the first thing they said they'd do about it

το πρώτο που είπαν ότι θα κάνουν

was that they'd deploy better machine learning algorithms

ήταν να φτιάξουν καλύτερους αλγόριθμους μηχανικής μάθησης

to moderate the content.

για έλεγχο περιεχομένου.

Well, machine learning, as any expert in it will tell you,

Αυτοί που γνωρίζουν θα σας πουν

is basically what we've started to call

ότι μηχανική μάθηση αποκαλούμε προγράμματα

software that we don't really understand how it works.

που δεν καταλαβαίνουμε πώς λειτουργούν.

And I think we have enough of that already.

Και υπάρχουν ήδη πολλά τέτοια.

We shouldn't be leaving this stuff up to AI to decide

Δεν πρέπει να αφήνουμε την τεχνητή νοημοσύνη να αποφασίζει

what's appropriate or not,

τι είναι κατάλληλο γιατί ξέρουμε τι θα συμβεί,

because we know what happens.

It'll start censoring other things.

θα λογοκρίνει κι άλλα, όπως ομοφυλοφιλικό περιεχόμενο,

It'll start censoring queer content.

ή αποδεκτό δημόσιο λόγο.

It'll start censoring legitimate public speech.

What's allowed in these discourses,

Το τι επιτρέπεται σε έναν διάλογο

it shouldn't be something that's left up to unaccountable systems.

δεν πρέπει να το αποφασίζει ένα σύστημα που δεν λογοδοτεί

It's part of a discussion all of us should be having.

αλλά κάτι που εμείς όλοι πρέπει να αποφασίσουμε με διάλογο.

But I'd leave a reminder

Θέλω, όμως, να θυμίσω

that the alternative isn't very pleasant, either.

ότι ούτε η εναλλακτική λύση είναι ευχάριστη.

YouTube also announced recently

Το YouTube ανακοίνωσε πρόσφατα

that they're going to release a version of their kids' app

ότι θα βγάλει μια έκδοση της εφαρμογής για παιδιά

που θα ελέγχεται εξ' ολοκλήρου από ανθρώπους.

that would be entirely moderated by humans.

Facebook -- Zuckerberg said much the same thing at Congress,

Το Facebook -- ο Ζούκερμπεργκ είπε κάτι παρόμοιο στο Κογκρέσο

when pressed about how they were going to moderate their stuff.

όταν τον πίεσαν να πει πώς θα ασκούν έλεγχο.

He said they'd have humans doing it.

Είπε πως θα το κάνουν άνθρωποι.

Που, βασικά, σημαίνει ότι αντί για τα νήπια

And what that really means is,

instead of having toddlers being the first person to see this stuff,

που έβλεπαν πρώτα το περιεχόμενο,

θα το κάνουν κακοπληρωμένοι υπάλληλοι με επισφαλή συμβόλαια

you're going to have underpaid, precarious contract workers

και χωρίς ψυχολογική υποστήριξη για να διαλύονται κι αυτοί.

without proper mental health support

being damaged by it as well.

(Γέλια)

(Laughter)

Νομίζω πως μπορούμε και καλύτερα.

And I think we can all do quite a lot better than that.

(Χειροκρότημα)

(Applause)

The thought, I think, that brings those two things together, really, for me,

Η ιδέα που ενώνει τη διαφήμιση και την αυτοματοποίηση είναι, νομίζω,

is agency.

η μεσολάβηση.

It's like, how much do we really understand -- by agency, I mean:

Κατά πόσο καταλαβαίνουμε πραγματικά -- εννοώ

how we know how to act in our own best interests.

πώς ξέρουμε τι να πράξουμε για το συμφέρον μας.

Which -- it's almost impossible to do

Πράγμα σχεδόν αδύνατο

in these systems that we don't really fully understand.

με αυτά τα συστήματα που πραγματικά δεν κατανοούμε σε βάθος.

Inequality of power always leads to violence.

Η ανισότητα ισχύος οδηγεί πάντα στη βία.

And we can see inside these systems

Και σε αυτά τα συστήματα βλέπουμε

that inequality of understanding does the same thing.

ότι η ανισότητα κατανόησης οδηγεί στο ίδιο πράγμα.

If there's one thing that we can do to start to improve these systems,

Αν υπάρχει κάτι που μπορεί να γίνει για τη βελτίωση των συστημάτων,

it's to make them more legible to the people who use them,

θα πρέπει να γίνουν πιο κατανοητά για τους χρήστες

so that all of us have a common understanding

έτσι ώστε να υπάρχει μια από κοινού κατανόηση

of what's actually going on here.

του τι πραγματικά συμβαίνει.

The thing, though, I think most about these systems

Το σημαντικό με αυτά τα συστήματα

is that this isn't, as I hope I've explained, really about YouTube.

είναι ότι δεν πρόκειται απλώς για το YouTube,

It's about everything.

αλλά για τα πάντα.

These issues of accountability and agency,

Τα θέματα της ανάληψης ευθύνης και διαμεσολάβησης,

of opacity and complexity,

έλλειψης διαφάνειας και περιπλοκότητας

of the violence and exploitation that inherently results

της βίας και εκμετάλλευσης που προέρχονται εγγενώς

from the concentration of power in a few hands --

από τη συγκέντρωση της εξουσίας στα χέρια λίγων --

these are much, much larger issues.

αυτά είναι τα σημαντικά προβλήματα.

And they're issues not just of YouTube and not just of technology in general,

Δεν είναι απλώς το YouTube ή γενικά η τεχνολογία

and they're not even new.

και δεν είναι καν κάτι νέο.

They've been with us for ages.

Τα ζούμε εδώ και χρόνια.

But we finally built this system, this global system, the internet,

Φτιάξαμε, όμως, το παγκόσμιο αυτό σύστημα, το Ίντερνετ,

that's actually showing them to us in this extraordinary way,

που μας τα αποκαλύπτει με αυτόν τον περίεργο τρόπο

making them undeniable.

καθιστώντας τα αυταπόδεικτα.

Technology has this extraordinary capacity

Η τεχνολογία έχει την εξαιρετική ικανότητα

to both instantiate and continue

να δίνει υπόσταση και να διαιωνίζει

all of our most extraordinary, often hidden desires and biases

τις πιο και συχνά κρυφές μας επιθυμίες και προκαταλήψεις

και να μας τις παρουσιάζει κωδικοποιημένες

and encoding them into the world,

but it also writes them down so that we can see them,

αλλά και να τις καταγράφει για να γίνονται ορατές

so that we can't pretend they don't exist anymore.

και να μην μπορούμε να κάνουμε πως δεν υπάρχουν πια.

We need to stop thinking about technology as a solution to all of our problems,

Ας μην βλέπουμε την τεχνολογία ως λύση για όλα τα προβλήματά μας

but think of it as a guide to what those problems actually are,

αλλά ως οδηγό για το ποια είναι πραγματικά αυτά τα προβλήματα

so we can start thinking about them properly

για να μπορέσουμε να τα εξετάσουμε σωστά

and start to address them.

και να αρχίσουμε να τα διευθετούμε.

Thank you very much.

Σας ευχαριστώ πολύ.

(Applause)

(Χειροκρότημα)

Thank you.

Ευχαριστώ.

(Applause)

(Χειροκρότημα)

Helen Walters: James, thank you for coming and giving us that talk.

Έλεν Γουόλτερς: Τζέιμς, σ' ευχαριστώ που ήρθες και μας μίλησες.

So it's interesting:

Είναι ενδιαφέρον:

when you think about the films where the robotic overlords take over,

όταν σκεφτόμαστε ταινίες όπου κυριαρχεί το ρομποτικό στοιχείο

it's all a bit more glamorous than what you're describing.

μοιάζει κάπως πιο λαμπερό από αυτό που εσύ περιγράφεις.

But I wonder -- in those films, you have the resistance mounting.

Αναρωτιέμαι -- σ' αυτές τις ταινίες βλέπεις την αντίδραση να αυξάνεται.

Is there a resistance mounting towards this stuff?

Υπάρχει αυξανόμενη αντίδραση προς όλα αυτά;

Do you see any positive signs, green shoots of resistance?

Βλέπεις θετικά σημάδια, βλαστούς αντίστασης;

James Bridle: I don't know about direct resistance,

Τζέιμς Μπράιντλ: δεν θα έλεγα άμεση αντίσταση

because I think this stuff is super long-term.

γιατί αυτά υπάρχουν εδώ και πάρα πολύ καιρό.

Έχουν ενσωματωθεί βαθιά στην κουλτούρα μας.

I think it's baked into culture in really deep ways.

A friend of mine, Eleanor Saitta, always says

Μια φίλη, η Έλεανορ Σαίτα,

that any technological problems of sufficient scale and scope

λέει ότι προβλήματα τεχνολογίας σε μεγάλη κλίμακα και φάσμα

are political problems first of all.

είναι κατά βάση προβλήματα πολιτικής.

So all of these things we're working to address within this

Όλα αυτά που προσπαθούμε να διευθετήσουμε

are not going to be addressed just by building the technology better,

δεν θα λυθούν βελτιώνοντας την τεχνολογία

but actually by changing the society that's producing these technologies.

αλλά αλλάζοντας την κοινωνία που τη δημιουργεί.

So no, right now, I think we've got a hell of a long way to go.

Μένουν να γίνουν πάρα πολλά.

But as I said, I think by unpacking them,

Όμως, φέρνοντάς τα στο φως,

by explaining them, by talking about them super honestly,

εξηγώντας τα, μιλώντας απολύτως ειλικρινά για αυτά,

we can actually start to at least begin that process.

μπορούμε, τουλάχιστον, να κάνουμε μια αρχή.

HW: And so when you talk about legibility and digital literacy,

ΕΓ: Όταν μιλάς για αναγνωσιμότητα και ψηφιακή μάθηση,

I find it difficult to imagine

δυσκολεύομαι να φανταστώ

that we need to place the burden of digital literacy on users themselves.

πως πρέπει να επωμιστούν αυτό το φορτίο οι ίδιοι οι χρήστες.

But whose responsibility is education in this new world?

Τίνος ευθύνη είναι η εκπαίδευση σε αυτόν τον νέο κόσμο;

JB: Again, I think this responsibility is kind of up to all of us,

ΤΜ: Νομίζω πως είναι όλων μας.

that everything we do, everything we build, everything we make,

Όσα κάνουμε, χτίζουμε ή φτιάχνουμε

needs to be made in a consensual discussion

πρέπει να γίνονται μετά από συναινετικό διάλογο

with everyone who's avoiding it;

με όλους όσοι τον αποφεύγουν.

that we're not building systems intended to trick and surprise people

Να μη φτιάχνουμε συστήματα που ξεγελούν και αιφνιδιάζουν ανθρώπους

into doing the right thing,

ώστε να πράττουν το αναμενόμενο,

but that they're actually involved in every step in educating them,

αλλά που θα εμπλέκονται σε κάθε φάση της εκπαίδευσής τους,

because each of these systems is educational.

καθώς κάθε τέτοιο σύστημα είναι επιμορφωτικό.

That's what I'm hopeful about, about even this really grim stuff,

Ελπίζω να συμβεί ακόμη και για όλα αυτά τα φρικτά πράγματα

that if you can take it and look at it properly,

που αν τα δούμε από την κατάλληλη οπτική γωνία

it's actually in itself a piece of education

αποτελούν πραγματικά ένα μάθημα

that allows you to start seeing how complex systems come together and work

για να δούμε πώς δημιουργούνται

και λειτουργούν τα περίπλοκα συστήματα

and maybe be able to apply that knowledge elsewhere in the world.

και ίσως μπορέσουμε να εφαρμόσουμε αυτή τη γνώση και σε άλλους τομείς.

HW: James, it's such an important discussion,

ΕΓ: Τζέιμς, θα ήταν μια σημαντική συζήτηση

and I know many people here are really open and prepared to have it,

και πολλοί από μας εδώ είμαστε ανοιχτοί και έτοιμοι γι αυτή.

Σε ευχαριστώ που έκανες την αρχή σήμερα.

so thanks for starting off our morning.

JB: Thanks very much. Cheers.

ΤΜ: Ευχαριστώ πολύ. Γεια σας.

(Applause)

(Χειροκρότημα)