AI Is Dangerous, but Not for the Reasons You Think | Sasha Luccioni | TED

Traducător: Mihaela Niță Corector: Claudia Pravat

So I've been an AI researcher for over a decade.

Sunt cercetător în IA de peste un deceniu.

And a couple of months ago, I got the weirdest email of my career.

Acum câteva luni, am primit cel mai ciudat e-mail de când lucrez.

A random stranger wrote to me

Un necunoscut mi-a scris

saying that my work in AI is going to end humanity.

că munca mea în IA va pune capăt omenirii.

Now I get it, AI, it's so hot right now.

Înțeleg, IA e un subiect fierbinte acum.

(Laughter)

(Râsete)

It's in the headlines pretty much every day,

E pe prima pagină aproape zilnic,

sometimes because of really cool things

uneori despre chestii tare faine:

like discovering new molecules for medicine

a descoperit noi molecule pentru medicamente

or that dope Pope in the white puffer coat.

sau Papa ăla mișto cu geacă albă de puf.

But other times the headlines have been really dark,

Alteori știrile au fost tare sumbre:

like that chatbot telling that guy that he should divorce his wife

chatbotul care i-a zis unui bărbat că ar trebui să divorțeze de soție,

or that AI meal planner app proposing a crowd pleasing recipe

sau aplicația de planificare a meselor,

care a propus o îmbietoare rețetă cu clor gazos.

featuring chlorine gas.

And in the background,

Am auzit, de asemenea,

we've heard a lot of talk about doomsday scenarios,

multe discuții despre scenarii apocaliptice,

existential risk and the singularity,

risc existențial și singularitate,

with letters being written and events being organized

cu scrisori deschise și evenimente organizate

to make sure that doesn't happen.

ca să prevenim așa ceva.

Now I'm a researcher who studies AI's impacts on society,

Sunt un cercetător care studiază efectele IA asupra societății

and I don't know what's going to happen in 10 or 20 years,

și nu știu ce se va întâmpla peste 10 sau 20 de ani,

and nobody really does.

nimeni nu știe concret.

But what I do know is that there's some pretty nasty things going on right now,

Ce știu e că sub ochii noștri se întâmplă niște lucruri tare urâte,

because AI doesn't exist in a vacuum.

pentru că IA nu e de sine stătătoare.

It is part of society, and it has impacts on people and the planet.

Face parte din societate și afectează oamenii și planeta.

AI models can contribute to climate change.

Modelele de IA contribuie la schimbările climatice,

Their training data uses art and books created by artists

sunt instruite cu artă și cărți create de artiști și autori

and authors without their consent.

fără acordul acestora,

And its deployment can discriminate against entire communities.

iar implementarea IA poate discrimina comunități întregi.

But we need to start tracking its impacts.

Trebuie să începem să-i urmărim efectele.

We need to start being transparent and disclosing them and creating tools

Trebuie să fim transparenți, să le dezvăluim, să creăm instrumente,

so that people understand AI better,

ca oamenii să înțeleagă IA mai bine,

so that hopefully future generations of AI models

ca măcar viitoarele generații de modele de IA

are going to be more trustworthy, sustainable,

să fie mai de încredere, mai sustenabile,

maybe less likely to kill us, if that's what you're into.

poate mai puțin probabil să ne ucidă, dacă asta vă preocupă.

But let's start with sustainability,

Dar să începem cu sustenabilitatea,

because that cloud that AI models live on is actually made out of metal, plastic,

fiindcă norul pe care stau modelele de IA e de fapt din metal sau plastic

and powered by vast amounts of energy.

și e alimentat cu cantități enorme de energie.

And each time you query an AI model, it comes with a cost to the planet.

Oricând îi cereți ceva unui model de IA, asta presupune un cost pentru planetă.

Last year, I was part of the BigScience initiative,

Anul trecut am făcut parte din inițiativa BigScience,

which brought together a thousand researchers

care a reunit o mie de cercetători

from all over the world to create Bloom,

din întreaga lume pentru a crea Bloom,

the first open large language model, like ChatGPT,

primul model mare de limbaj cu sursă deschisă, ca ChatGPT,

but with an emphasis on ethics, transparency and consent.

dar cu accent pe etică, transparență și consimțământ.

And the study I led that looked at Bloom's environmental impacts

Din studiul condus asupra efectelor lui Bloom asupra mediului,

found that just training it used as much energy

a reieșit că numai instruirea a consumat la fel de multă energie

as 30 homes in a whole year

cât 30 de case într-un an

and emitted 25 tons of carbon dioxide,

și a emis 25 de tone de dioxid de carbon,

which is like driving your car five times around the planet

ceea ce e ca și cum ai face înconjurul lumii cu mașina de 5 ori,

just so somebody can use this model to tell a knock-knock joke.

doar ca cineva să folosească modelul ca să zică un banc sec.

And this might not seem like a lot,

Asta poate părea că nu e mult,

but other similar large language models,

dar alte modele mari de limbaj similare,

like GPT-3,

ca GPT-3,

emit 20 times more carbon.

emit de 20 de ori mai mult carbon.

But the thing is, tech companies aren't measuring this stuff.

Dar companiile tehnologice nu măsoară așa ceva,

They're not disclosing it.

nu dezvăluie așa ceva.

And so this is probably only the tip of the iceberg,

Asta e probabil doar vârful aisbergului,

even if it is a melting one.

chiar dacă-i unul ce se topește.

And in recent years we've seen AI models balloon in size

În ultimii ani am văzut cum modelele de IA cresc,

because the current trend in AI is "bigger is better."

pentru că în IA e la modă acum „mai mare înseamnă mai bine”.

But please don't get me started on why that's the case.

Nu mă faceți să zic de ce.

In any case, we've seen large language models in particular

În orice caz, am văzut mai ales modele mari de limbaj

grow 2,000 times in size over the last five years.

crescând de 2000 de ori în ultimii cinci ani.

And of course, their environmental costs are rising as well.

Evident, costurile lor de mediu au crescut pe măsură.

The most recent work I led, found that switching out a smaller,

Cel mai recent studiu ce l-am condus

arată că înlocuind un model de limbaj mai mic și eficient cu altul mai mare,

more efficient model for a larger language model

emits 14 times more carbon for the same task.

se emite de 14 ori mai mult carbon pentru aceeași sarcină,

Like telling that knock-knock joke.

cum ar fi bancul ăla sec.

And as we're putting in these models into cell phones and search engines

Cum punem modelele astea în telefoane mobile și motoare de căutare,

and smart fridges and speakers,

în frigidere și difuzoare inteligente,

the environmental costs are really piling up quickly.

costurile de mediu cresc rapid.

So instead of focusing on some future existential risks,

Deci, în loc să ne concentrăm asupra unor riscuri existențiale viitoare,

let's talk about current tangible impacts

să vorbim despre efectele concrete actuale

and tools we can create to measure and mitigate these impacts.

și de instrumentele ce le putem crea ca să măsurăm și atenuăm aceste efecte.

I helped create CodeCarbon,

Am ajutat la crearea CodeCarbon,

a tool that runs in parallel to AI training code

un software ce rulează alături de codul de instruire al IA

that estimates the amount of energy it consumes

și estimează cantitatea de energie consumată și carbon emis.

and the amount of carbon it emits.

And using a tool like this can help us make informed choices,

Un asemenea software ne ajută să luăm decizii bine informați:

like choosing one model over the other because it's more sustainable,

să alegem un model în locul altuia mai sustenabil

or deploying AI models on renewable energy,

sau să implementăm modele de IA folosind energie regenerabilă,

which can drastically reduce their emissions.

ceea ce ar reduce drastic emisiile.

But let's talk about other things

Dar să vorbim despre alte lucruri,

because there's other impacts of AI apart from sustainability.

pentru că IA nu are efecte doar asupra sustenabilității.

For example, it's been really hard for artists and authors

De exemplu, artiștilor și autorilor le-a fost tare greu

to prove that their life's work has been used for training AI models

să demonstreze că munca lor de-o viață

a fost folosită la instruirea modelelor IA fără să-și dea acordul.

without their consent.

And if you want to sue someone, you tend to need proof, right?

Dacă vrei să dai în judecată pe cineva, ai nevoie de dovezi, nu?

So Spawning.ai, an organization that was founded by artists,

Spawning.ai, o organizație fondată de artiști,

created this really cool tool called “Have I Been Trained?”

a creat un instrument interesant numit „Am fost instruit?”.

And it lets you search these massive data sets

Cu el puteți să căutați în niște baze de date enorme,

to see what they have on you.

ca să vedeți ce date au despre voi.

Now, I admit it, I was curious.

Recunosc, am fost curioasă.

I searched LAION-5B,

Am căutat în LAION-5B,

which is this huge data set of images and text,

o imensă bază de date de imagini și text,

to see if any images of me were in there.

ca să văd dacă sunt imagini cu mine acolo.

Now those two first images,

În primele două imagini

that's me from events I've spoken at.

sunt eu la evenimentele unde am vorbit.

But the rest of the images, none of those are me.

Dar în restul imaginilor nu sunt eu.

They're probably of other women named Sasha

Probabil sunt alte femei pe nume Sasha,

who put photographs of themselves up on the internet.

care au pus fotografii cu ele pe internet.

And this can probably explain why,

Asta probabil explică de ce

when I query an image generation model

dacă-i cer unui generator de imagini o poză cu o femeie numită Sasha,

to generate a photograph of a woman named Sasha,

more often than not I get images of bikini models.

de cele mai multe ori îmi arată imagini cu modele în bikini.

Sometimes they have two arms,

Uneori au două brațe,

sometimes they have three arms,

alteori au trei brațe,

but they rarely have any clothes on.

dar rareori au haine pe ele.

And while it can be interesting for people like you and me

Poate fi interesant pentru oameni obișnuiți ca noi

to search these data sets,

să căutăm în aceste baze de date,

for artists like Karla Ortiz,

dar pentru artiști precum Karla Ortiz,

this provides crucial evidence that her life's work, her artwork,

oferă dovezi cruciale că munca ei de-o viață, opera sa de artă,

was used for training AI models without her consent,

a fost folosită la instruirea modelelor de IA fără acordul ei.

and she and two artists used this as evidence

Ea și alți doi artiști au folosit asta ca probă

to file a class action lawsuit against AI companies

într-o acțiune colectivă împotriva companiilor de IA

for copyright infringement.

pentru încălcarea drepturilor de autor.

And most recently --

De curând...

(Applause)

(Aplauze)

And most recently Spawning.ai partnered up with Hugging Face,

Recent, Spawning.ai a început un parteneriat cu Hugging Face,

the company where I work at,

compania unde lucrez,

to create opt-in and opt-out mechanisms for creating these data sets.

ca să creeze căi de includere și excludere pentru aceste baze de date,

Because artwork created by humans shouldn’t be an all-you-can-eat buffet

fiindcă arta creată de oameni n-ar trebui să fie bufet suedez

for training AI language models.

pentru instruirea modelelor de limbaj de IA.

(Applause)

(Aplauze)

The very last thing I want to talk about is bias.

Ultimul subiect e discriminarea.

You probably hear about this a lot.

Probabil ați auzit asta de multe ori.

Formally speaking, it's when AI models encode patterns and beliefs

Oficial, înseamnă că modelele de IA codifică tipare și convingeri

that can represent stereotypes or racism and sexism.

ce reprezintă stereotipuri, rasism sau sexism.

One of my heroes, Dr. Joy Buolamwini, experienced this firsthand

Un idol al meu, Dr. Joy Buolamwini, a simțit-o pe propria piele,

when she realized that AI systems wouldn't even detect her face

când și-a dat seama că sistemele de IA nu-i detectau fața

unless she was wearing a white-colored mask.

dacă nu purta o mască albă.

Digging deeper, she found that common facial recognition systems

Aprofundând, a descoperit că sistemele de recunoaștere facială

were vastly worse for women of color compared to white men.

erau mult mai slabe pentru femeile de culoare decât pentru bărbații albi.

And when biased models like this are deployed in law enforcement settings,

Când astfel de modele părtinitoare se folosesc în scopul aplicării legii,

this can result in false accusations, even wrongful imprisonment,

asta poate duce la acuzații false, ba chiar arest injust,

which we've seen happen to multiple people in recent months.

ceea ce li s-a întâmplat mai multor persoane în ultimele luni.

For example, Porcha Woodruff was wrongfully accused of carjacking

Porcha Woodruff a fost acuzată pe nedrept de furt auto când era gravidă în 8 luni,

at eight months pregnant

because an AI system wrongfully identified her.

fiindcă un sistem de IA a identificat-o în mod greșit.

But sadly, these systems are black boxes,

Din păcate, aceste sisteme sunt opace

and even their creators can't say exactly why they work the way they do.

și nici măcar creatorii lor nu pot zice exact cum funcționează.

And for example, for image generation systems,

De exemplu, sistemele care generează imagini,

if they're used in contexts like generating a forensic sketch

dacă sunt folosite în situații precum generarea unui portret-robot

based on a description of a perpetrator,

pe baza descrierii infractorului,

they take all those biases and they spit them back out

iau toate aceste prejudecăți și le perpetuează

for terms like dangerous criminal, terrorists or gang member,

cu termeni ca criminal periculos, terorist sau membru al bandei,

which of course is super dangerous

ceea ce, desigur, e super periculos

when these tools are deployed in society.

când aceste instrumente sunt folosite în societate.

And so in order to understand these tools better,

Pentru a înțelege mai bine aceste instrumente,

I created this tool called the Stable Bias Explorer,

am creat un program numit Stable Bias Explorer,

which lets you explore the bias of image generation models

ce permite explorarea prejudecăților modelelor ce generează imagini

through the lens of professions.

prin prisma profesiilor.

So try to picture a scientist in your mind.

Încercați să vă imaginați un om de știință.

Don't look at me.

Nu vă uitați la mine.

What do you see?

Ce vedeți?

A lot of the same thing, right?

Foarte mulți de același fel, nu?

Men in glasses and lab coats.

Bărbați cu ochelari și halate de laborator.

And none of them look like me.

Și niciunul nu seamănă cu mine.

And the thing is,

Chestia e

is that we looked at all these different image generation models

că ne-am uitat la toate aceste modele ce generează imagini

and found a lot of the same thing:

și am găsit același lucru:

significant representation of whiteness and masculinity

culoarea albă și masculinitatea reprezentate semnificativ

across all 150 professions that we looked at,

în toate cele 150 de profesii analizate.

even if compared to the real world,

Chiar și comparat cu lumea reală,

the US Labor Bureau of Statistics.

cu Biroul de Statistică a Muncii,

These models show lawyers as men,

aceste modele redau avocații ca bărbați

and CEOs as men, almost 100 percent of the time,

și directorii executivi ca bărbați, aproape de fiecare dată,

even though we all know not all of them are white and male.

chiar dacă știm cu toții că nu sunt toți albi și bărbați.

And sadly, my tool hasn't been used to write legislation yet.

Din păcate, programul meu încă n-a fost folosit în legislație,

But I recently presented it at a UN event about gender bias

dar l-am prezentat recent la un eveniment ONU

despre prejudecata de gen,

as an example of how we can make tools for people from all walks of life,

ca exemplu de cum putem crea instrumente pentru toată lumea,

even those who don't know how to code,

chiar și pentru cei ce nu știu să programeze,

to engage with and better understand AI because we use professions,

ca să folosească și să înțeleagă mai bine IA,

căci noi folosim profesii, dar voi puteți folosi orice termen vă interesează.

but you can use any terms that are of interest to you.

And as these models are being deployed,

Pe măsură ce aceste modele sunt implementate,

are being woven into the very fabric of our societies,

devin îmbinate în structura noastră socială:

our cell phones, our social media feeds,

mobilele, fluxurile rețelelor sociale,

even our justice systems and our economies have AI in them.

până și sistemele de justiție și economiile noastre conțin IA.

And it's really important that AI stays accessible

E foarte important ca IA să rămână accesibilă,

so that we know both how it works and when it doesn't work.

ca să știm când funcționează și când nu.

And there's no single solution for really complex things like bias

Nu există o soluție unică pentru ceva așa complex ca discriminarea,

or copyright or climate change.

drepturile de autor sau schimbările climatice.

But by creating tools to measure AI's impact,

Dar creând instrumente pentru a măsura efectele IA,

we can start getting an idea of how bad they are

ne putem facem o idee despre cât de nocive sunt

and start addressing them as we go.

și le putem rezolva pe parcurs,

Start creating guardrails to protect society and the planet.

putem crea mecanisme ca să protejăm societatea și planeta.

And once we have this information,

Odată ce avem aceste informații,

companies can use it in order to say,

companiile le pot folosi pentru a decide:

OK, we're going to choose this model because it's more sustainable,

„Alegem modelul ăsta fiindcă e mai sustenabil,

this model because it respects copyright.

modelul ăsta fiindcă respectă drepturile de autor.”

Legislators who really need information to write laws,

Legislatorii ce au nevoie de informații ca să elaboreze legi

can use these tools to develop new regulation mechanisms

pot folosi instrumente ca să dezvolte noi mecanisme de reglementare

or governance for AI as it gets deployed into society.

sau guvernare a IA pe măsură ce e implementată în societate.

And users like you and me can use this information

Iar utilizatorii ca noi pot folosi informațiile

to choose AI models that we can trust,

ca să aleagă modele de IA în care pot avea încredere,

not to misrepresent us and not to misuse our data.

să nu ne reprezinte greșit și să nu abuzeze de datele noastre.

But what did I reply to that email

Dar ce am răspuns la acel e-mail

that said that my work is going to destroy humanity?

care zicea că munca mea va distruge omenirea?

I said that focusing on AI's future existential risks

Am zis că dacă ne concentrăm pe riscurile existențiale viitoare ale IA,

is a distraction from its current,

pierdem din vedere efectele sale actuale și concrete

very tangible impacts

and the work we should be doing right now, or even yesterday,

și munca ce trebuie făcută chiar acum, ba chiar de ieri,

for reducing these impacts.

pentru a reduce aceste efecte.

Because yes, AI is moving quickly, but it's not a done deal.

Fiindcă, da, IA se mișcă rapid, dar nu e definitivată.

We're building the road as we walk it,

Construim drumul pe măsură ce-l parcurgem

and we can collectively decide what direction we want to go in together.

și putem decide colectiv în ce direcție vrem să mergem împreună.

Thank you.

Mulțumesc.

(Applause)

(Aplauze)