How we can build AI to help humans, not hurt us | Margaret Mitchell

Μετάφραση: Dimosthenis Ioannou Επιμέλεια: Chryssa R. Takahashi

I work on helping computers communicate about the world around us.

Στη δουλειά μου βοηθάω τους υπολογιστές να επικοινωνήσουν για τον κόσμο γύρω μας.

There are a lot of ways to do this,

Υπάρχουν πολλοί τρόποι να γίνει αυτό,

and I like to focus on helping computers

και εμένα μου αρέσει να βοηθάω τους υπολογιστές

to talk about what they see and understand.

ώστε να μιλούν για το τι βλέπουν και καταλαβαίνουν.

Given a scene like this,

Αν δοθεί μια εικόνα σαν αυτή,

a modern computer-vision algorithm

ένας αλγόριθμος μηχανικής όρασης

can tell you that there's a woman and there's a dog.

μπορεί να καταλάβει ότι υπάρχει μια γυναίκα και ένας σκύλος.

It can tell you that the woman is smiling.

Μπορεί να καταλάβει πως η γυναίκα χαμογελά.

It might even be able to tell you that the dog is incredibly cute.

Ίσως να μπορεί να πει ακόμα πως ο σκύλος είναι απίστευτα χαριτωμένος.

I work on this problem

Πάνω σε αυτό εργάζομαι

thinking about how humans understand and process the world.

ενώ σκέφτομαι πώς αντιλαμβάνονται και επεξεργάζονται τον κόσμο οι άνθρωποι.

The thoughts, memories and stories

Τις σκέψεις, αναμνήσεις και ιστορίες

that a scene like this might evoke for humans.

που μια εικόνα σαν κι αυτή μπορεί να φέρει στον νου.

All the interconnections of related situations.

Όλες τις πιθανές διασυνδέσεις σχετικών καταστάσεων.

Maybe you've seen a dog like this one before,

Ίσως να έχετε ξαναδεί ένα σκύλο σαν και αυτόν

or you've spent time running on a beach like this one,

ή έχετε τρέξει σε μια παρόμοια παραλία

and that further evokes thoughts and memories of a past vacation,

και σας προκαλεί να ανακαλέσετε σκέψεις και αναμνήσεις από τις διακοπές σας

past times to the beach,

ή από τότε που πήγατε στη θάλασσα

times spent running around with other dogs.

ή από εκείνη τη φορά που τρέχατε μαζί με άλλα σκυλιά.

One of my guiding principles is that by helping computers to understand

Μία από τις βασικές αρχές μου είναι πως βοηθώντας τους υπολογιστές να καταλάβουν

what it's like to have these experiences,

πώς είναι να έχεις ζήσει αυτές τις εμπειρίες,

to understand what we share and believe and feel,

να καταλάβουν τι μοιραζόμαστε, τι πιστεύουμε και αισθανόμαστε

then we're in a great position to start evolving computer technology

τότε θα είμαστε στη θέση να βοηθήσουμε την εξέλιξη της τεχνολογίας υπολογιστών

in a way that's complementary with our own experiences.

με τρόπο που θα είναι συμπληρωματικός με τις δικές μας εμπειρίες.

So, digging more deeply into this,

Θα ήθελα σας δώσω ένα πιο απτό παράδειγμα,

a few years ago I began working on helping computers to generate human-like stories

πριν μερικά χρόνια βοηθούσα υπολογιστές στο να δημιουργήσουν ανθρώπινες ιστορίες

from sequences of images.

από μια ακολουθία εικόνων.

So, one day,

Μία μέρα λοιπόν

I was working with my computer to ask it what it thought about a trip to Australia.

ρώτησα τον υπολογιστή μου τι γνώμη έχει για ένα ταξίδι στην Αυστραλία.

It took a look at the pictures, and it saw a koala.

Κοίταξε τις φωτογραφίες και είδε ένα κοάλα.

It didn't know what the koala was,

Δεν ήξερε τι είναι,

but it said it thought it was an interesting-looking creature.

αλλά είπε πως ήταν ένα πλάσμα με ενδιαφέρουσα εμφάνιση.

Then I shared with it a sequence of images about a house burning down.

Μετά του έδειξα μια ακολουθία εικόνων ενός σπιτιού που καιγόταν.

It took a look at the images and it said,

Τις κοίταξε και είπε,

"This is an amazing view! This is spectacular!"

«Η θέα είναι καταπληκτική! Είναι πολύ εντυπωσιακό!»

It sent chills down my spine.

Με έκανε να ανατριχιάσω.

It saw a horrible, life-changing and life-destroying event

Είδε ένα φρικτό θέαμα, που κατέστρεψε τη ζωή ενός ανθρώπου

and thought it was something positive.

και νόμιζε πως ήταν κάτι θετικό.

I realized that it recognized the contrast,

Συνειδητοποίησα πως αναγνώρισε την αντίθεση των χρωμάτων

the reds, the yellows,

το κόκκινο, το κίτρινο

and thought it was something worth remarking on positively.

και νόμιζε πως ήταν κάτι θετικό.

And part of why it was doing this

Αυτό το έκανε

was because most of the images I had given it

γιατί οι εικόνες που του είχα δώσει

were positive images.

ήταν όλες θετικές.

That's because people tend to share positive images

Και αυτό γιατί οι άνθρωποι επιλέγουν να μοιράζονται τις καλές εικόνες τους

when they talk about their experiences.

όταν μιλούν για τις εμπειρίες τους.

When was the last time you saw a selfie at a funeral?

Ποια ήταν η τελευταία φορά που είδατε σέλφι σε κηδεία;

I realized that, as I worked on improving AI

Συνειδητοποίησα πως όσο δούλευα στη βελτίωση του αλγορίθμου,

task by task, dataset by dataset,

με κάθε καινούρια προσπάθεια και με κάθε σετ δεδομένων

that I was creating massive gaps,

δημιουργούσα τεράστια κενά,

holes and blind spots in what it could understand.

τρύπες και τυφλά σημεία στην κατανόησή του.

And while doing so,

Και με αυτό τον τρόπο

I was encoding all kinds of biases.

πρόσθετα στον κώδικα ένα σωρό προκαταλήψεις.

Biases that reflect a limited viewpoint,

Προκαταλήψεις που αντικατοπτρίζουν μια περιορισμένη οπτική,

limited to a single dataset --

περιορισμένη σε ένα μόνο σετ δεδομένων --

biases that can reflect human biases found in the data,

προκαταλήψεις που αντανακλούν ανθρώπινες προδιαθέσεις που βρέθηκαν στα δεδομένα

such as prejudice and stereotyping.

όπως η προώθηση στερεοτύπων.

I thought back to the evolution of the technology

Προσπάθησα να σκεφτώ την εξέλιξη της τεχνολογίας

that brought me to where I was that day --

που με οδήγησε σε αυτό το σημείο εκείνη τη μέρα --

how the first color images

πώς οι πρώτες εικόνες με χρώμα

were calibrated against a white woman's skin,

είχαν ρυθμιστεί πάνω στο δέρμα μιας άσπρης γυναίκας

meaning that color photography was biased against black faces.

που σημαίνει ότι οι έγχρωμες φωτογραφίες μεροληπτούσαν ενάντια σε μαύρα πρόσωπα.

And that same bias, that same blind spot

Η ίδια προκατάληψη, το ίδιο τυφλό σημείο

continued well into the '90s.

συνέχισε και τη δεκαετία του '90.

And the same blind spot continues even today

Και συνεχίζει ακόμα και σήμερα

in how well we can recognize different people's faces

στο πώς αναγνωρίζουμε τα πρόσωπα διαφορετικών ανθρώπων

in facial recognition technology.

στην τεχνολογία αναγνώρισης προσώπου.

I though about the state of the art in research today,

Σκέφτηκα τη σύγχρονη τεχνολογία στην έρευνα

where we tend to limit our thinking to one dataset and one problem.

που περιορίζουμε τη σκέψη μας σε ένα σετ δεδομένων και ένα μόνο πρόβλημα.

And that in doing so, we were creating more blind spots and biases

Δημιουργώντας έτσι ακόμα περισσότερα τυφλά σημεία και προκαταλήψεις

that the AI could further amplify.

που η τεχνητή νοημοσύνη θα ενισχύσει περισσότερο.

I realized then that we had to think deeply

Κατάλαβα πως πρέπει να σκεφτούμε βαθύτερα

about how the technology we work on today looks in five years, in 10 years.

το πώς η τεχνολογία που αναπτύσσουμε σήμερα θα μοιάζει σε πέντε ή 10 χρόνια.

Humans evolve slowly, with time to correct for issues

Οι άνθρωποι εξελίσσονται αργά, με αρκετό χρόνο για να διορθωθούν

in the interaction of humans and their environment.

τυχών προβλήματα στην αλληλεπίδρασή τους με το περιβάλλον.

In contrast, artificial intelligence is evolving at an incredibly fast rate.

Αντίθετα, η τεχνητή νοημοσύνη αναπτύσσεται με πολύ γρήγορους ρυθμούς.

And that means that it really matters

Πράγμα που σημαίνει ότι έχει σημασία

that we think about this carefully right now --

να το σκεφτούμε προσεκτικά τώρα --

that we reflect on our own blind spots,

να βρούμε τα δικά μας τυφλά σημεία

our own biases,

τις δικές μας προκαταλήψεις,

and think about how that's informing the technology we're creating

να σκεφτούμε τι πληροφορίες δίνουν αυτά στην τεχνολογία που δημιουργούμε

and discuss what the technology of today will mean for tomorrow.

και να συζητήσουμε τι θα σημαίνει στο μέλλον η τεχνολογία του σήμερα.

CEOs and scientists have weighed in on what they think

Οι γενικοί διευθυντές και οι επιστήμονες έχουν πει τη γνώμη τους

the artificial intelligence technology of the future will be.

για το πώς θα είναι η τεχνητή νοημοσύνη του μέλλοντος.

Stephen Hawking warns that

Ο Στίβεν Χόκινγκ προειδοποιεί πως

"Artificial intelligence could end mankind."

«Η τεχνητή νοημοσύνη μπορεί να είναι το τέλος της ανθρωπότητας».

Elon Musk warns that it's an existential risk

O Έλον Μασκ προειδοποιεί πως είναι ένα υπαρξιακό ρίσκο

and one of the greatest risks that we face as a civilization.

και ένα από τα μεγαλύτερα ρίσκα που αντιμετωπίζουμε ως πολιτισμός.

Bill Gates has made the point,

Ο Μπιλ Γκέιτς σχολίασε;

"I don't understand why people aren't more concerned."

«Δεν καταλαβαίνω γιατί ο κόσμος δεν είναι περισσότερο ανήσυχος».

But these views --

Αυτές οι απόψεις όμως --

they're part of the story.

είναι ένα μέρος του θέματος.

The math, the models,

Τα μαθηματικά, τα μοντέλα,

the basic building blocks of artificial intelligence

τα βασικά δομικά στοιχεία της τεχνητής νοημοσύνης

are something that we call access and all work with.

είναι πράγματα στα οποία έχουμε όλοι πρόσβαση.

We have open-source tools for machine learning and intelligence

Υπάρχουν εργαλεία ανοικτού κώδικα για τη μηχανική μάθηση

that we can contribute to.

στα οποία μπορούμε να συνεισφέρουμε.

And beyond that, we can share our experience.

Και πέρα από αυτό, μπορούμε να μοιραστούμε τις εμπειρίες μας.

We can share our experiences with technology and how it concerns us

Να τις μοιραστούμε με την τεχνολογία, για τους λόγους που μας ανησυχεί

and how it excites us.

αλλά και μας ενθουσιάζει.

We can discuss what we love.

Μπορούμε να μιλήσουμε για το τι αγαπάμε.

We can communicate with foresight

Να επικοινωνήσουμε με προνοητικότητα

about the aspects of technology that could be more beneficial

για τις πλευρές τις τεχνολογίας που μπορεί να είναι πιο επωφελείς

or could be more problematic over time.

ή και προβληματικές στο πέρασμα του χρόνου.

If we all focus on opening up the discussion on AI

Αν επικεντρωθούμε στο να αρχίσουμε τη συζήτηση για την τεχνητή νοημοσύνη

with foresight towards the future,

με προοπτική προς το μέλλον

this will help create a general conversation and awareness

θα βοηθήσει στη δημιουργία μιας γενικότερης συζήτησης και επίγνωσης

about what AI is now,

για το τι είναι η τεχνητή νοημοσύνη τώρα,

what it can become

τι μπορεί να γίνει

and all the things that we need to do

και τι χρειάζεται να κάνουμε

in order to enable that outcome that best suits us.

προκειμένου να επιτευχθεί το αποτέλεσμα που προτιμούμε.

We already see and know this in the technology that we use today.

Ήδη το βλέπουμε στη σημερινή τεχνολογία.

We use smart phones and digital assistants and Roombas.

Χρησιμοποιούμε έξυπνα κινητά και ψηφιακούς βοηθούς.

Are they evil?

Είναι κακόβουλα;

Maybe sometimes.

Ίσως κάποιες φορές.

Are they beneficial?

Είναι ωφέλιμα;

Yes, they're that, too.

Ναι είναι.

And they're not all the same.

Δεν είναι όλα το ίδιο.

And there you already see a light shining on what the future holds.

Και εκεί βλέπουμε πώς θα μπορούσε να είναι το μέλλον.

The future continues on from what we build and create right now.

Το μέλλον βασίζεται πάνω σε ό,τι δημιουργούμε τώρα.

We set into motion that domino effect

Δημιουργούμε αλυσιδωτές αντιδράσεις

that carves out AI's evolutionary path.

που θα χαράξουν την πορεία της τεχνητής νοημοσύνης.

In our time right now, we shape the AI of tomorrow.

Δίνουμε μορφή στην τεχνητή νοημοσύνη του αύριο.

Technology that immerses us in augmented realities

Τεχνολογία που μας εισάγει σε επαυξημένες πραγματικότητες

bringing to life past worlds.

φέρνοντας στη ζωή προηγούμενους κόσμους.

Technology that helps people to share their experiences

Τεχνολογία που βοηθά τον κόσμο να μοιραστεί της εμπειρίες του

when they have difficulty communicating.

όταν αντιμετωπίζουν δυσκολίες στην επικοινωνία.

Technology built on understanding the streaming visual worlds

Τεχνολογία βασισμένη στην κατανόηση της μετάδοσης οπτικών κόσμων

used as technology for self-driving cars.

για την ανάπτυξη αυτο-οδηγούμενων αυτοκινήτων.

Technology built on understanding images and generating language,

Τεχνολογία βασισμένη στην κατανόηση εικόνων και παραγωγής λόγου

evolving into technology that helps people who are visually impaired

που θα αναπτυχθεί για να βοηθήσει τους ανθρώπους με προβλήματα όρασης

be better able to access the visual world.

να έχουν καλύτερη πρόσβαση στον οπτικό κόσμο.

And we also see how technology can lead to problems.

Επίσης βλέπουμε πώς η τεχνολογία μπορεί να οδηγήσει σε προβλήματα.

We have technology today

Υπάρχουν λογισμικά σήμερα

that analyzes physical characteristics we're born with --

που αναλύουν σωματικά χαρακτηριστικά τα οποία έχουμε από γεννησιμιού μας

such as the color of our skin or the look of our face --

όπως το χρώμα του δέρματος ή το βλέμμα του προσώπου μας --

in order to determine whether or not we might be criminals or terrorists.

προκειμένου να προσδιορίσουν αν είμαστε εγκληματίες ή τρομοκράτες.

We have technology that crunches through our data,

Άλλα λογισμικά τα οποία αναλύουν τα στοιχεία μας

even data relating to our gender or our race,

ή δεδομένα σε σχέση με το φύλο ή τη φυλή που ανήκουμε

in order to determine whether or not we might get a loan.

ώστε να προσδιορίσουν αν θα μας δοθεί ή όχι ένα δάνειο.

All that we see now

Αυτό που βλέπουμε τώρα

is a snapshot in the evolution of artificial intelligence.

είναι απλά ένα στιγμιότυπο της εξέλιξης της τεχνητής νοημοσύνης.

Because where we are right now,

Διότι το σημείο που βρισκόμαστε τώρα

is within a moment of that evolution.

είναι μία στιγμή αυτής της εξέλιξης.

That means that what we do now will affect what happens down the line

Που σημαίνει πως ότι κάνουμε σήμερα θα επηρεάσει τη ροή των πραγμάτων

and in the future.

και το μέλλον.

If we want AI to evolve in a way that helps humans,

Αν θέλουμε η τεχνητή νοημοσύνη

να εξελιχθεί με τρόπο που βοηθάει τους ανθρώπους

τότε πρέπει να προσδιορίσουμε τη στρατηγική και τους τρόπους

then we need to define the goals and strategies

that enable that path now.

που θα επιτρέψουν αυτή τη δυνατότητα.

What I'd like to see is something that fits well with humans,

Αυτό που θα ήθελα να δω είναι κάτι που θα ταιριάζει με μας,

with our culture and with the environment.

την κουλτούρα μας αλλά και το περιβάλλον.

Technology that aids and assists those of us with neurological conditions

Τεχνολογία που θα παρέχει βοήθεια σε όσους έχουν νευρολογικές παθήσεις

or other disabilities

ή άλλες αναπηρίες

in order to make life equally challenging for everyone.

έτσι ώστε η ζωή να γίνει εξίσου εύκολη για όλους.

Technology that works

Τεχνολογία που δουλεύει σωστά

regardless of your demographics or the color of your skin.

ανεξάρτητα από τα δημογραφικά στοιχεία ή το χρώμα του δέρματος.

And so today, what I focus on is the technology for tomorrow

Γι' αυτό σήμερα εστιάζω στην τεχνολογία του αύριο

and for 10 years from now.

και 10 χρόνια από τώρα.

AI can turn out in many different ways.

Η πιθανές αποφάνσεις της τεχνητής νοημοσύνης είναι πολλές.

But in this case,

Σε αυτή την περίπτωση όμως,

it isn't a self-driving car without any destination.

δεν είναι ένα αυτο-οδηγούμενο αυτοκίνητο χωρίς προορισμό.

This is the car that we are driving.

Αυτό το αυτοκίνητο το οδηγούμε εμείς.

We choose when to speed up and when to slow down.

Εμείς επιλέγουμε πότε θα επιταχύνουμε ή θα επιβραδύνουμε.

We choose if we need to make a turn.

Πότε θα κάνουμε στροφή.

We choose what the AI of the future will be.

Εμείς επιλέγουμε πώς θα είναι η τεχνητή νοημοσύνη του μέλλοντος.

There's a vast playing field

Το εύρος δυνατοτήτων

of all the things that artificial intelligence can become.

των πιθανών εξελίξεων της τεχνητής νοημοσύνης είναι τεράστιο.

It will become many things.

Πολλές από αυτές θα πραγματοποιηθούν.

And it's up to us now,

Έχουμε όμως την ευθύνη τώρα

in order to figure out what we need to put in place

να αποφασίσουμε τι χρειάζεται να κάνουμε

to make sure the outcomes of artificial intelligence

για να εξασφαλίσουμε ότι το αποτέλεσμα της τεχνητής νοημοσύνης

are the ones that will be better for all of us.

θα είναι το καλύτερο για όλους μας.

Thank you.

Ευχαριστώ.

(Applause)

(Χειροκρότημα)