How technology can fight extremism and online harassment | Yasmin Green

Μετάφραση: Eleni Tziafa Επιμέλεια: Thanassis Zadrimas

My relationship with the internet reminds me of the setup

Η σχέση μου με το διαδίκτυο μου θυμίζει

την πλοκή ενός κλασικού θρίλερ.

to a clichéd horror movie.

You know, the blissfully happy family moves in to their perfect new home,

Μια ευτυχισμένη οικογένεια μετακομίζει στο τέλειο νέο της σπίτι,

excited about their perfect future,

ενθουσιασμένη για το τέλειο μέλλον τους,

and it's sunny outside and the birds are chirping ...

έξω έχει λιακάδα, τα πουλάκια κελαηδούν...

And then it gets dark.

και μετά σκοτάδι.

And there are noises from the attic.

Ακούγονται θόρυβοι από τη σοφίτα.

And we realize that that perfect new house isn't so perfect.

Καταλαβαίνουμε ότι το νέο, τέλειο σπίτι, δεν είναι και τόσο τέλειο.

When I started working at Google in 2006,

Όταν ξεκίνησα να εργάζομαι στην Google το 2006,

Facebook was just a two-year-old,

το Facebook ήταν μόλις δύο χρονών, και το Twitter δεν είχε γεννηθεί ακόμη.

and Twitter hadn't yet been born.

And I was in absolute awe of the internet and all of its promise

Αισθανόμουν απόλυτο δέος για το διαδίκτυο και τις προοπτικές του

to make us closer

να μας φέρει πιο κοντά

and smarter

να μας κάνει πιο έξυπνους και πιο ελεύθερους.

and more free.

But as we were doing the inspiring work of building search engines

Καθώς όμως γεμάτοι έμπνευση φτιάχναμε μηχανές αναζήτησης,

and video-sharing sites and social networks,

ιστοσελίδες για να μοιραζόμαστε βίντεο και μέσα κοινωνικής δικτύωσης,

criminals, dictators and terrorists were figuring out

εγκληματίες, δικτάτορες και τρομοκράτες έβρισκαν τρόπους

how to use those same platforms against us.

να χρησιμοποιούν εναντίον μας αυτές τις ίδιες πλατφόρμες.

And we didn't have the foresight to stop them.

Και δεν προνοήσαμε να τους σταματήσουμε.

Over the last few years, geopolitical forces have come online to wreak havoc.

Τα τελευταία χρόνια, γεωπολιτικές δυνάμεις σπέρνουν τον όλεθρο στο διαδίκτυο.

And in response,

Απαντώντας σε αυτό,

Google supported a few colleagues and me to set up a new group called Jigsaw,

η Google στήριξε μερικούς συναδέλφους κι εμένα να κάνουμε μια ομάδα, την jigsaw,

with a mandate to make people safer from threats like violent extremism,

με αποστολή την προστασία όλων από απειλές όπως ο βίαιος εξτρεμισμός,

censorship, persecution --

η λογοκρισία, οι διώξεις,

threats that feel very personal to me because I was born in Iran,

απειλές που μου με αφορούν προσωπικά γιατί γεννήθηκα στο Ιράν

and I left in the aftermath of a violent revolution.

κι έφυγα αμέσως μετά από μια βίαιη επανάσταση.

But I've come to realize that even if we had all of the resources

Έμαθα όμως ότι ακόμη κι αν έχουμε όλους τους πόρους

of all of the technology companies in the world,

από όλες τις εταιρείες τεχνολογίας του κόσμου,

we'd still fail

και πάλι αποτυγχάνουμε

if we overlooked one critical ingredient:

αν παραβλέψουμε ένα στοιχείο ζωτικής σημασίας:

the human experiences of the victims and perpetrators of those threats.

τις ανθρώπινες εμπειρίες των θυμάτων και των αυτουργών αυτών των απειλών.

There are many challenges I could talk to you about today.

Θα μπορούσα για πολλές προκλήσεις να σας μιλήσω σήμερα.

I'm going to focus on just two.

Θα εστιάσω σε δύο μόνο.

The first is terrorism.

Η πρώτη είναι η τρομοκρατία.

So in order to understand the radicalization process,

Για να καταλάβουμε τη διαδικασία της ριζοσπαστικοποίησης

we met with dozens of former members of violent extremist groups.

συναντηθήκαμε με πολλά πρώην μέλη βίαιων εξτρεμιστικών ομάδων.

One was a British schoolgirl,

Ανάμεσά τους ήταν μια Βρετανή μαθήτρια σχολείου

who had been taken off of a plane at London Heathrow

που συνελήφθη σε ένα αεροπλάνο στο Χίθροου του Λονδίνου

as she was trying to make her way to Syria to join ISIS.

καθώς προσπαθούσε να φτάσει στη Συρία για να ενταχθεί στον ISIS.

And she was 13 years old.

Ήταν 13 χρονών.

So I sat down with her and her father, and I said, "Why?"

Κάθισα λοιπόν με την ίδια και τον πατέρα της και ρώτησα «Γιατί;»

And she said,

Μου απάντησε:

"I was looking at pictures of what life is like in Syria,

«Έβλεπα φωτογραφίες για το πώς είναι η ζωή στη Συρία

and I thought I was going to go and live in the Islamic Disney World."

και σκέφτηκα ότι θα πήγαινα και θα ζούσα σε μια Ισλαμική Ντίσνεϋλαντ».

That's what she saw in ISIS.

Αυτό έβλεπε εκείνη στον ISIS.

She thought she'd meet and marry a jihadi Brad Pitt

Νόμιζε ότι θα συναντούσε και θα παντρευόταν έναν τζιχαντιστή Μπραντ Πιτ

and go shopping in the mall all day and live happily ever after.

και θα πήγαινε κάθε μέρα για ψώνια και θα ζούσαν όπως στα παραμύθια.

ISIS understands what drives people,

Ο ISIS καταλαβαίνει τα κίνητρα των ανθρώπων

and they carefully craft a message for each audience.

και κατασκευάζουν προσεκτικά μηνύματα για κάθε ακροατήριο.

Δείτε απλώς σε πόσο πολλές γλώσσες μεταφράζουν το διαφημιστικό τους υλικό.

Just look at how many languages

they translate their marketing material into.

They make pamphlets, radio shows and videos

Κάνουν φυλλάδια, ραδιοφωνικές εκπομπές και βίντεο

in not just English and Arabic,

όχι μόνο στα Αγγλικά και τα Αραβικά,

but German, Russian, French, Turkish, Kurdish,

αλλά στα Γερμανικά, τα Ρωσικά, τα Γαλλικά, τα Τουρκικά, τα Κουρδικά,

Hebrew,

τα Εβραϊκά, τα Μανδαρίνικα Κινεζικά.

Mandarin Chinese.

I've even seen an ISIS-produced video in sign language.

Έχω δει βίντεο του ISIS ακόμη και στη νοηματική.

Just think about that for a second:

Σκεφτείτε το λίγο:

ISIS took the time and made the effort

O ISIS κάθισε και έκανε προσπάθειες

to ensure their message is reaching the deaf and hard of hearing.

να βεβαιωθεί ότι το μήνυμά του φτάνει ως τα κωφά και βαρήκοα άτομα.

Δεν είναι ότι γνωρίζουν καλά την τεχνολογία,

It's actually not tech-savviness

that is the reason why ISIS wins hearts and minds.

δεν είναι έτσι που ο ISIS κατακτά τον νου και την καρδιά.

It's their insight into the prejudices, the vulnerabilities, the desires

Είναι η γνώση που έχουν των προκαταλήψεων, των ευαίσθητων σημείων, των επιθυμιών

των ανθρώπων που προσπαθούν να φτάσουν, αυτός είναι ο τρόπος τους.

of the people they're trying to reach

that does that.

That's why it's not enough

Γι' αυτό δεν είναι αρκετό

for the online platforms to focus on removing recruiting material.

για τις διαδικτυακές πλατφόρμες να αφαιρούν προσηλυτιστικό περιεχόμενο.

If we want to have a shot at building meaningful technology

Αν θέλουμε να έχουμε την ευκαιρία να φτιάξουμε μια τεχνολογία με ουσία

that's going to counter radicalization,

που θα αντιμετωπίσει τη ριζοσπαστικοποίηση

we have to start with the human journey at its core.

πρέπει να ξεκινήσουμε με την ανθρώπινη πορεία στον πυρήνα του.

So we went to Iraq

Πήγαμε λοιπόν στο Ιράκ

to speak to young men who'd bought into ISIS's promise

να μιλήσουμε σε νεαρούς που πίστεψαν τις υποσχέσεις του ISIS

of heroism and righteousness,

για ηρωισμούς και δικαιοσύνη,

who'd taken up arms to fight for them

που πήραν τα όπλα να πολεμήσουν γι' αυτούς και μετά αποστάτησαν,

and then who'd defected

after they witnessed the brutality of ISIS's rule.

αφού διαπίστωσαν τη σκληρότητα της εξουσίας του ISIS.

And I'm sitting there in this makeshift prison in the north of Iraq

Καθόμουν εκεί, σ' αυτή την αυτοσχέδια φυλακή στα βόρεια του Ιράκ

with this 23-year-old who had actually trained as a suicide bomber

μ' έναν 23χρονο που είχε εκπαιδευτεί ως βομβιστής αυτοκτονίας

before defecting.

πριν αποστατήσει.

And he says,

Και μου λέει:

"I arrived in Syria full of hope,

«Έφτασα στη Συρία γεμάτος ελπίδες

and immediately, I had two of my prized possessions confiscated:

και αμέσως μου κατέσχεσαν τα πιο πολύτιμα πράγματά μου:

my passport and my mobile phone."

το διαβατήριο και το κινητό μου».

Τα σύμβολα αυτής της σωματικής και ψηφιακής ελευθερίας

The symbols of his physical and digital liberty

were taken away from him on arrival.

του τα πήραν με το που έφτασε.

And then this is the way he described that moment of loss to me.

Με αυτό τον τρόπο μού περιέγραψε τη στιγμή της απώλειας.

He said,

Μου είπε:

"You know in 'Tom and Jerry,'

«Ξέρεις, στο καρτούν Τομ και Τζέρι,

when Jerry wants to escape, and then Tom locks the door

όταν ο Τζέρι θέλει να ξεφύγει και ο Τομ κλειδώνει την πόρτα

and swallows the key

και μετά καταπίνει το κλειδί

and you see it bulging out of his throat as it travels down?"

κι εσύ το βλέπεις να κατεβαίνει στον λαιμό του;»

And of course, I really could see the image that he was describing,

Φυσικά, μπορούσα να δω την εικόνα όπως την περιέγραφε

and I really did connect with the feeling that he was trying to convey,

και στ' αλήθεια ένιωσα αυτό που προσπαθούσε να μεταδώσει,

which was one of doom,

την αίσθηση ότι είσαι καταδικασμένος, όταν ξέρεις ότι δεν υπάρχει διέξοδος.

when you know there's no way out.

And I was wondering:

Και αναρωτιόμουν:

What, if anything, could have changed his mind

Τι θα υπήρχε, αν υπήρχε, που θα μπορούσε να του αλλάξει γνώμη

the day that he left home?

την ημέρα που έφευγε από το σπίτι του;

So I asked,

Έτσι τον ρώτησα:

"If you knew everything that you know now

«Αν ήξερες αυτά που ξέρεις τώρα,

about the suffering and the corruption, the brutality --

για τον πόνο, τη διαφθορά, τη σκληρότητα,

that day you left home,

την ημέρα που έφευγες από το σπίτι,

would you still have gone?"

θα πήγαινες και πάλι εκεί;»

And he said, "Yes."

Μου απάντησε: «Ναι».

And I thought, "Holy crap, he said 'Yes.'"

Σκέφτηκα: «Θεέ μου, είπε ναι».

And then he said,

Και μετά είπε:

"At that point, I was so brainwashed,

«Σ' εκείνο το σημείο, μου είχαν κάνει τέτοια πλύση εγκεφάλου

I wasn't taking in any contradictory information.

που δεν προσλάμβανα καμία αντίθετης άποψης πληροφορία.

I couldn't have been swayed."

Κανείς δεν θα μπορούσε να με μεταπείσει».

"Well, what if you knew everything that you know now

«Καλά, κι αν ήξερες αυτά που ξέρεις τώρα έξι μήνες πριν από την ημέρα που έφυγες;»

six months before the day that you left?"

"At that point, I think it probably would have changed my mind."

«Εκείνη τη στιγμή, νομίζω ότι πιθανόν να άλλαζα γνώμη».

Radicalization isn't this yes-or-no choice.

Η ριζοσπαστικοποίηση δεν είναι μια επιλογή «ναι ή όχι».

Είναι μια διαδικασία, κατά την οποία οι άνθρωποι έχουν ερωτήματα

It's a process, during which people have questions --

about ideology, religion, the living conditions.

για την ιδεολογία, τη θρησκεία, τις συνθήκες διαβίωσης.

And they're coming online for answers,

Και ψάχνουν στο διαδίκτυο για απαντήσεις,

which is an opportunity to reach them.

κι αυτή είναι μια ευκαιρία να επικοινωνήσει κανείς μαζί τους.

And there are videos online from people who have answers --

Υπάρχουν βίντεο στο διαδίκτυο από ανθρώπους που έχουν απαντήσεις,

defectors, for example, telling the story of their journey

αυτούς που αποστάτησαν, για παράδειγμα,

που λένε την ιστορία τους εντός και εκτός της βίας.

into and out of violence;

stories like the one from that man I met in the Iraqi prison.

Ιστορίες σαν αυτή εκείνου του άντρα που συνάντησα στη φυλακή του Ιράκ.

There are locals who've uploaded cell phone footage

Υπάρχουν ντόπιοι που ανέβασαν βίντεο από κινητά που δείχνουν

of what life is really like in the caliphate under ISIS's rule.

πώς είναι στ' αλήθεια η ζωή στο χαλιφάτο του ISIS.

There are clerics who are sharing peaceful interpretations of Islam.

Είναι κληρικοί που μοιράζονται ειρηνικές ερμηνείες για το Ισλάμ.

But you know what?

Αλλά ξέρετε τι;

These people don't generally have the marketing prowess of ISIS.

Αυτοί οι άνθρωποι δεν έχουν το μάρκετινγκ που έχει ο ISIS.

Ρισκάρουν τις ζωές τους για να μιλήσουν

They risk their lives to speak up and confront terrorist propaganda,

και να αντιμετωπίσουν την τρομοκρατική προπαγάνδα

and then they tragically don't reach the people

και μετά δυστυχώς δεν μπορούν να φτάσουν στους ανθρώπους

who most need to hear from them.

με τη μεγαλύτερη ανάγκη να τους ακούσουν.

And we wanted to see if technology could change that.

Θέλαμε να δούμε αν η τεχνολογία μπορούσε να το αλλάξει αυτό.

So in 2016, we partnered with Moonshot CVE

Έτσι το 2016, συνεργαστήκαμε με τη Moonshot CVE

to pilot a new approach to countering radicalization

για μια νέα πιλοτική προσέγγιση αντιμετώπισης της ριζοσπαστικοποίησης

called the "Redirect Method."

που λέγεται «Μέθοδος Ανακατεύθυνσης».

It uses the power of online advertising

Χρησιμοποιεί τη μέθοδο της διαδικτυακής διαφήμισης

to bridge the gap between those susceptible to ISIS's messaging

για να γεφυρώσει το χάσμα μεταξύ αυτών που δέχονται τα μηνύματα του ISIS

and those credible voices that are debunking that messaging.

κι εκείνες τις αξιόπιστες φωνές που αποδομούν αυτά τα μηνύματα.

And it works like this:

Λειτουργεί ως εξής:

someone looking for extremist material --

κάποιος αναζητά εξτρεμιστικό υλικό,

say they search for "How do I join ISIS?" --

ας πούμε ότι ψάχνουν «Πώς στρατολογούμαι στον ISIS;»,

will see an ad appear

θα δουν να εμφανίζεται μια διαφήμιση

that invites them to watch a YouTube video of a cleric, of a defector --

για να δουν ένα βίντεο στο YouTube ενός κληρικού, ενός που αποστάτησε,

someone who has an authentic answer.

κάποιου που έχει μια πραγματική απάντηση.

And that targeting is based not on a profile of who they are,

Και αυτή η στόχευση δεν βασίζεται στο προφίλ τους,

but of determining something that's directly relevant

αλλά οδηγεί σε κάτι απόλυτα σχετικό

to their query or question.

με την αναζήτηση ή την ερώτησή τους.

Κατά τη διάρκεια του πιλοτικού σχεδίου των οκτώ εβδομάδων στα Αγγλικά και Αραβικά

During our eight-week pilot in English and Arabic,

we reached over 300,000 people

φτάσαμε ως 300.000 ανθρώπους

who had expressed an interest in or sympathy towards a jihadi group.

που έδειξαν ενδιαφέρον ή συμπάθεια προς μια τζιχαντιστική ομάδα.

These people were now watching videos

Αυτοί οι άνθρωποι βλέπουν τώρα βίντεο

that could prevent them from making devastating choices.

που θα μπορούσαν να τους εμποδίζουν να κάνουν ολέθριες επιλογές.

And because violent extremism isn't confined to any one language,

Κι επειδή ο βίαιος εξτρεμισμός δεν περιορίζεται σε μια μόνο γλώσσα,

religion or ideology,

μια θρησκεία ή μια ιδεολογία,

the Redirect Method is now being deployed globally

η Μέθοδος Ανακατεύθυνσης τώρα εφαρμόζεται παγκοσμίως

to protect people being courted online by violent ideologues,

για να προστατεύσει ανθρώπους που τους πλησίασαν

υποστηρικτές μιας βίαιης ιδεολογίας,

whether they're Islamists, white supremacists

είτε αυτοί είναι ισλαμιστές, είτε φασίστες ρατσιστές,

or other violent extremists,

ή άλλοι βίαιοι εξτρεμιστές,

with the goal of giving them the chance to hear from someone

με στόχο να τους δώσουμε την ευκαιρία να ακούσουν και κάποιον

on the other side of that journey;

από την άλλη πλευρά αυτού του νομίσματος.

to give them the chance to choose a different path.

Να τους δώσουμε την ευκαιρία να διαλέξουν ένα άλλο μονοπάτι.

It turns out that often the bad guys are good at exploiting the internet,

Φαίνεται ότι συχνά οι κακοί είναι καλοί στην εκμετάλλευση του διαδικτύου,

not because they're some kind of technological geniuses,

όχι επειδή είναι τίποτα ιδιοφυΐες στην τεχνολογία,

but because they understand what makes people tick.

αλλά επειδή καταλαβαίνουν αυτό που κινητοποιεί τους ανθρώπους.

I want to give you a second example:

Θέλω να σας δώσω ένα δεύτερο παράδειγμα:

online harassment.

διαδικτυακή παρενόχληση.

Online harassers also work to figure out what will resonate

Αυτοί που παρενοχλούν στο διαδίκτυο επίσης προσπαθούν να βρουν

τι έχει απήχηση σε έναν άλλον άνθρωπο.

with another human being.

But not to recruit them like ISIS does,

Όχι όμως όπως ο ISIS, για να τους στρατολογήσουν,

but to cause them pain.

αλλά για να τους προκαλέσουν πόνο.

Imagine this:

Φανταστείτε το εξής:

you're a woman,

είστε μια γυναίκα, παντρεμένη, με ένα παιδί.

you're married,

you have a kid.

You post something on social media,

Κάνετε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης,

and in a reply, you're told that you'll be raped,

και σας απαντούν ότι θα σας βιάσουν

that your son will be watching,

και ότι θα βάλουν τον γιο σας να βλέπει,

details of when and where.

με λεπτομέρειες για το πότε και πού.

In fact, your home address is put online for everyone to see.

Βάζουν τη διεύθυνση του σπιτιού σας στο διαδίκτυο να τη δουν όλοι.

That feels like a pretty real threat.

Το νιώθουμε σαν μια πραγματική απειλή.

Do you think you'd go home?

Νομίζετε ότι θα πηγαίνατε σπίτι σας;

Do you think you'd continue doing the thing that you were doing?

Νομίζετε ότι θα συνεχίζατε να κάνετε αυτό που κάνατε;

Would you continue doing that thing that's irritating your attacker?

Θα συνεχίζατε γνωρίζοντας ότι αυτό εξοργίζει αυτόν που επιτίθεται;

Online abuse has been this perverse art

Η διαδικτυακή παρενόχληση είναι αυτή η διεστραμμένη τέχνη

of figuring out what makes people angry,

να βρίσκει κανείς αυτό που κάνει τους ανθρώπους να θυμώνουν,

what makes people afraid,

αυτό που τους κάνει να φοβούνται,

what makes people insecure,

αυτό που τους κάνει ανασφαλείς,

and then pushing those pressure points until they're silenced.

και μετά να πιέζει εκεί ακριβώς μέχρι να τους κάνει να σωπάσουν.

When online harassment goes unchecked,

Όταν είναι ανεξέλεγκτη η διαδικτυακή παρενόχληση,

free speech is stifled.

η ελευθερία του λόγου καταπνίγεται.

Ακόμη και οι άνθρωποι που φιλοξενούν τη συζήτηση

And even the people hosting the conversation

throw up their arms and call it quits,

σηκώνουν τα χέρια και παραιτούνται,

closing their comment sections and their forums altogether.

κλειδώνοντας τα σχόλια και τα φόρουμ μαζί.

That means we're actually losing spaces online

Αυτό σημαίνει ότι ουσιαστικά χάνουμε διαδικτυακούς χώρους

to meet and exchange ideas.

όπου συναντιόμαστε και ανταλλάζουμε ιδέες.

And where online spaces remain,

Όπου παραμένουν οι διαδικτυακοί χώροι,

we descend into echo chambers with people who think just like us.

καταλήγουμε σε δωμάτια με ηχώ με ανθρώπους που σκέφτονται όπως εμείς.

But that enables the spread of disinformation;

Αυτό όμως δίνει τη δυνατότητα διάδοσης της παραπληροφόρησης.

that facilitates polarization.

Διευκολύνει την πόλωση.

What if technology instead could enable empathy at scale?

Κι αν, αντίθετα, η τεχνολογία μπορούσε να διευκολύνει την ενσυναίσθηση;

Αυτό ήταν το ερώτημα που κινητοποίησε τη συνεργασία μας

This was the question that motivated our partnership

with Google's Counter Abuse team,

με την ομάδα της Google Ενάντια στην Παρενόχληση,

Wikipedia

με τη Wikipedia,

and newspapers like the New York Times.

και με εφημερίδες όπως οι New York Times.

We wanted to see if we could build machine-learning models

Θέλαμε να δούμε αν μπορούσαμε να φτιάξουμε μοντέλα μηχανικής μάθησης

that could understand the emotional impact of language.

που θα μπορούσαν να καταλάβουν τη συναισθηματική απήχηση της γλώσσας.

Could we predict which comments were likely to make someone else leave

Θα μπορούσαμε να προβλέψουμε ποια σχόλια θα έκαναν κάποιον να εγκαταλείψει

the online conversation?

τη διαδικτυακή συζήτηση;

And that's no mean feat.

Αυτό είναι μεγάλη υπόθεση.

Δεν είναι μικρό κατόρθωμα για την Τεχνητή Νοημοσύνη

That's no trivial accomplishment

for AI to be able to do something like that.

να μπορεί να καταλάβει κάτι τέτοιο.

I mean, just consider these two examples of messages

Ακούστε αυτά τα δύο παραδείγματα μηνυμάτων

that could have been sent to me last week.

που θα μπορούσα να είχα λάβει την περασμένη εβδομάδα.

"Break a leg at TED!"

«Φτου σου, καλή επιτυχία στο TED!»

... and

και

"I'll break your legs at TED."

«Φτου σου, είσαι για φτύσιμο στο TED.»

(Laughter)

(Γέλια)

You are human,

Είστε άνθρωποι,

that's why that's an obvious difference to you,

γι' αυτό η διαφορά είναι προφανής για σας,

even though the words are pretty much the same.

παρόλο που οι λέξεις μοιάζουν λίγο.

But for AI, it takes some training to teach the models

Η Τεχνητή Νοημοσύνη χρειάζεται εκπαίδευση για να μάθει τα μοντέλα

to recognize that difference.

και να αναγνωρίζει τη διαφορά.

The beauty of building AI that can tell the difference

Το ωραίο στην κατασκευή Τεχνητής Νοημοσύνης που καταλαβαίνει τη διαφορά

is that AI can then scale to the size of the online toxicity phenomenon,

είναι ότι η Τεχνητή Νοημοσύνη μπορεί να επεκταθεί

σε όλη την κλίμακα του φαινομένου της διαδικτυακής τοξικότητας

and that was our goal in building our technology called Perspective.

κι αυτός ήταν ο στόχος μας όταν φτιάξαμε την τεχνολογία Perspective.

Με τη βοήθεια του Perspective,

With the help of Perspective,

the New York Times, for example,

οι New York Times, για παράδειγμα,

has increased spaces online for conversation.

κατάφεραν να αυξήσουν τους διαδικτυακούς χώρους προς συζήτηση.

Before our collaboration,

Πριν από τη συνεργασία μας

they only had comments enabled on just 10 percent of their articles.

είχαν ανοιχτά τα σχόλια μόνο στο 10% των άρθρων τους.

With the help of machine learning,

Με τη βοήθεια της μηχανικής μάθησης,

they have that number up to 30 percent.

το ποσοστό αυξήθηκε σε 30%.

So they've tripled it,

Το τριπλασίασαν, και είμαστε ακόμη στην αρχή.

and we're still just getting started.

But this is about way more than just making moderators more efficient.

Είναι κάτι πολύ περισσότερο από το να κάνουμε πιο αποτελεσματικό έλεγχο.

Right now I can see you,

Μπορώ να σας δω τώρα,

and I can gauge how what I'm saying is landing with you.

και μπορώ να καταλάβω πώς αντιλαμβάνεστε αυτό που λέω.

You don't have that opportunity online.

Δεν υπάρχει αυτή η δυνατότητα στο διαδίκτυο.

Imagine if machine learning could give commenters,

Φανταστείτε η μηχανική μάθηση να μπορούσε να δίνει στους σχολιαστές,

καθώς αυτοί πληκτρολογούν,

as they're typing,

real-time feedback about how their words might land,

ανατροφοδότηση σε πραγματικό χρόνο για το πώς εκλαμβάνονται τα λόγια τους,

just like facial expressions do in a face-to-face conversation.

όπως γίνεται με τις εκφράσεις του προσώπου σε μια συζήτηση πρόσωπο με πρόσωπο.

Machine learning isn't perfect,

Η μηχανική μάθηση δεν είναι τέλεια, και κάνει ακόμη πολλά λάθη.

and it still makes plenty of mistakes.

Αλλά αν μπορούμε να φτιάξουμε μια τεχνολογία

But if we can build technology

that understands the emotional impact of language,

που καταλαβαίνει τη συναισθηματική επίδραση της γλώσσας,

μπορούμε να δημιουργήσουμε ενσυναίσθηση.

we can build empathy.

That means that we can have dialogue between people

Κι έτσι να μπορεί να υπάρχει διάλογος μεταξύ ανθρώπων

with different politics,

με διαφορετικές πολιτικές απόψεις,

different worldviews,

διαφορετικές νοοτροπίες, διαφορετικές αξίες.

different values.

And we can reinvigorate the spaces online that most of us have given up on.

Μπορούμε επίσης να ζωντανέψουμε ξανά τους διαδικτυακούς χώρους που παρατήσαμε.

When people use technology to exploit and harm others,

Όταν οι άνθρωποι εκμεταλλεύονται την τεχνολογία για να βλάψουν τους άλλους,

they're preying on our human fears and vulnerabilities.

εκμεταλλεύονται τους ανθρώπινους φόβους και τα ευάλωτα σημεία μας.

If we ever thought that we could build an internet

Αν σκεφτήκαμε ποτέ ότι θα μπορούσαμε να χτίσουμε ένα διαδίκτυο

insulated from the dark side of humanity,

απομονωμένο από τη σκοτεινή πλευρά της ανθρωπότητας, κάναμε λάθος.

we were wrong.

If we want today to build technology

Αν θέλουμε σήμερα να φτιάξουμε μια τεχνολογία

that can overcome the challenges that we face,

που μπορεί να ξεπεράσει τις προκλήσεις που αντιμετωπίζουμε

we have to throw our entire selves into understanding the issues

πρέπει να βάλουμε όλες μας τις δυνάμεις για να καταλάβουμε τα θέματα

and into building solutions

και να βρούμε λύσεις που είναι τόσο ανθρώπινες

that are as human as the problems they aim to solve.

όσο και τα προβλήματα που σκοπεύουν να λύσουν.

Let's make that happen.

Ας το κάνουμε να συμβεί.

Thank you.

Ευχαριστώ.

(Applause)

(Χειροκρότημα)