How computers are learning to be creative | Blaise Agüera y Arcas

Vertaald door: Dries Van der Smissen Nagekeken door: Peter van de Ven

So, I lead a team at Google that works on machine intelligence;

Ik leid het onderzoeksteam naar machine-intelligentie bij Google.

in other words, the engineering discipline of making computers and devices

Dat is de wetenschap die computers en andere apparaten in staat wil stellen

able to do some of the things that brains do.

om dezelfde dingen te doen die onze hersenen kunnen.

And this makes us interested in real brains

Daarom zijn we geïnteresseerd in echte hersenen

and neuroscience as well,

en in neurowetenschappen.

and especially interested in the things that our brains do

We zijn zeer geïnteresseerd in alles wat onze hersenen kunnen,

that are still far superior to the performance of computers.

maar wat voor computers nog veel te ingewikkeld is.

Historically, one of those areas has been perception,

Eén van deze onderzoeksgebieden is altijd al waarneming geweest,

the process by which things out there in the world --

het proces waarbij dingen in de buitenwereld,

sounds and images --

zoals geluiden en beelden,

can turn into concepts in the mind.

in onze hersenen kunnen veranderen in concepten.

This is essential for our own brains,

Dat is een belangrijke taak van onze hersenen.

and it's also pretty useful on a computer.

Maar het is ook handig voor een computer.

The machine perception algorithms, for example, that our team makes,

De perceptie-algoritmes die we schrijven voor machines, bijvoorbeeld,

are what enable your pictures on Google Photos to become searchable,

maken het mogelijk om foto's op te zoeken in Google Photos,

based on what's in them.

volgens wat erop te zien is.

The flip side of perception is creativity:

De keerzijde van perceptie is creativiteit.

turning a concept into something out there into the world.

Hierbij worden concepten omgezet in iets in de echte wereld.

So over the past year, our work on machine perception

Het afgelopen jaar is ons werk over machinewaarneming

has also unexpectedly connected with the world of machine creativity

ook onverwacht in verband geraakt met de wereld van machine-creativiteit,

and machine art.

en machinekunst.

I think Michelangelo had a penetrating insight

Volgens mij had Michelangelo een diepzinnig inzicht

into to this dual relationship between perception and creativity.

in deze duale verhouding tussen waarneming en creativiteit.

This is a famous quote of his:

Dit is één van zijn beroemde citaten:

"Every block of stone has a statue inside of it,

"In iedere blok steen zit een standbeeld verborgen...

and the job of the sculptor is to discover it."

De taak van de beeldhouwer is om dat eruit te halen."

So I think that what Michelangelo was getting at

Ik denk dat Michelangelo bedoelde

is that we create by perceiving,

dat we door waar te nemen zelf gaan creëren.

and that perception itself is an act of imagination

En dat waarneming zelf een manier van inbeelding is.

and is the stuff of creativity.

En daar draait het om bij creativiteit.

The organ that does all the thinking and perceiving and imagining,

Het orgaan dat verantwoordelijk is voor de waarneming en inbeelding

of course, is the brain.

zijn de hersenen, natuurlijk.

And I'd like to begin with a brief bit of history

En ik zou willen beginnen met een korte geschiedenis

about what we know about brains.

van wat we weten over onze hersenen.

Because unlike, say, the heart or the intestines,

In tegenstelling tot het hart of de darmen

you really can't say very much about a brain by just looking at it,

zijn de hersenen niet veelzeggend als je er gewoon naar kijkt,

at least with the naked eye.

althans niet met het blote oog.

The early anatomists who looked at brains

De eerste anatomisten die de hersenen bestudeerden,

gave the superficial structures of this thing all kinds of fanciful names,

hebben veel namen gegeven aan de oppervlaktestructuren van de hersenen,

like hippocampus, meaning "little shrimp."

zoals de hippocampus, of 'kleine garnaal'.

But of course that sort of thing doesn't tell us very much

Maar die benamingen zeggen ons natuurlijk niet veel

about what's actually going on inside.

over wat er aan de binnenkant gebeurt.

The first person who, I think, really developed some kind of insight

De eerste persoon die, denk ik, een eerste inzicht bracht

into what was going on in the brain

over wat er echt gebeurt in de hersenen,

was the great Spanish neuroanatomist, Santiago Ramón y Cajal,

was de grote Spaanse neuro-anatomist, Santiago Ramón y Cajal,

in the 19th century,

in de negentiende eeuw.

who used microscopy and special stains

Hij gebruikte microscopen en speciale beitsen

that could selectively fill in or render in very high contrast

die individuele hersencellen selectief konden opvullen

the individual cells in the brain,

of in contrast konden weergeven,

in order to start to understand their morphologies.

zodat hij hun morfologie kon onderzoeken.

And these are the kinds of drawings that he made of neurons

Dit zijn de soort tekeningen die hij maakte van neuronen

in the 19th century.

in de negentiende eeuw.

This is from a bird brain.

Dit komt van de hersenen van een vogel.

And you see this incredible variety of different sorts of cells,

Je ziet hier de geweldige verscheidenheid aan soorten cellen.

even the cellular theory itself was quite new at this point.

Zelfs de cellentheorie was nogal nieuw op dat moment.

And these structures,

Deze structuren...

these cells that have these arborizations,

die cellen met hun boomstructuur,

these branches that can go very, very long distances --

en vertakkingen die zeer uitgestrekt kunnen zijn.

this was very novel at the time.

Dat was heel vernieuwend toen.

They're reminiscent, of course, of wires.

Ze doen ons natuurlijk denken aan kabels.

That might have been obvious to some people in the 19th century;

Misschien dachten enkele mensen dit ook al in de negentiende eeuw.

the revolutions of wiring and electricity were just getting underway.

De revolutie van de elektriciteit en de bedrading waren in volle gang.

But in many ways,

Maar in vele opzichten

these microanatomical drawings of Ramón y Cajal's, like this one,

zijn de micro-analytische tekeningen van Ramón y Calal, zoals deze,

they're still in some ways unsurpassed.

in veel opzichten nog steeds onovertroffen.

We're still more than a century later,

Meer dan een eeuw later

trying to finish the job that Ramón y Cajal started.

zetten we nog steeds het werk van Ramón y Cajal verder.

These are raw data from our collaborators

Dit zijn de ruwe gegevens van onze collega's

at the Max Planck Institute of Neuroscience.

in het Max Planck Institute of Neuroscience.

And what our collaborators have done

Daar hebben onze collega's

is to image little pieces of brain tissue.

kleine deeltjes van het hersenweefsel in beeld gebracht.

The entire sample here is about one cubic millimeter in size,

Het volledige monster is ongeveer één kubieke millimeter groot.

and I'm showing you a very, very small piece of it here.

En dit is een heel klein stukje daarvan.

That bar on the left is about one micron.

Het staafje links is ongeveer één micron groot.

The structures you see are mitochondria

Deze structuren hier, zijn mitochondriën.

that are the size of bacteria.

Ze zijn zowat de grootte van een bacterie.

And these are consecutive slices

En dit zijn de volgende plakken

through this very, very tiny block of tissue.

in dit zeer kleine blokje weefsel.

Just for comparison's sake,

Om even te vergelijken...

the diameter of an average strand of hair is about 100 microns.

De doorsnede van een haar is gemiddeld zo'n honderd micron.

So we're looking at something much, much smaller

Dit is dus veel, veel kleiner

than a single strand of hair.

dan één enkel haartje.

And from these kinds of serial electron microscopy slices,

Uit deze reeksen elektro- microscopische beelden

one can start to make reconstructions in 3D of neurons that look like these.

kunnen we 3D-modellen maken van neuronen, die er dan als volgt uitzien:

So these are sort of in the same style as Ramón y Cajal.

ze zijn gemaakt in dezelfde stijl als Ramón y Cajals tekeningen.

Only a few neurons lit up,

Je ziet maar een paar neuronen,

because otherwise we wouldn't be able to see anything here.

anders zou het zo druk worden dat je niets meer ziet.

It would be so crowded,

Het zou zo opeengepakt zijn,

so full of structure,

vol van structuren,

of wiring all connecting one neuron to another.

bekabeling die de neuronen met elkaar verbindt.

So Ramón y Cajal was a little bit ahead of his time,

Ramón y Cajal was zijn tijd wat vooruit

and progress on understanding the brain

en de vooruitgang van onze kennis van de hersenen

proceeded slowly over the next few decades.

evolueerde maar traag in de volgende decennia.

But we knew that neurons used electricity,

Maar we wisten dat neuronen elektriciteit gebruikten.

and by World War II, our technology was advanced enough

Tegen WO II was onze technologie geavanceerd genoeg

to start doing real electrical experiments on live neurons

om met elektriciteit te experimenteren op levende neuronen,

to better understand how they worked.

om beter te begrijpen hoe ze functioneren.

This was the very same time when computers were being invented,

In diezelfde periode werd de computer uitgevonden.

Computers zijn gebaseerd op het idee dat het brein moduleerbaar is.

very much based on the idea of modeling the brain --

of "intelligent machinery," as Alan Turing called it,

De 'intelligente machine', in termen van Alan Turing,

one of the fathers of computer science.

een grondlegger van de computerwetenschap.

Warren McCulloch and Walter Pitts looked at Ramón y Cajal's drawing

Warren McCulloch en Walter Pitts bestudeerden Ramón y Cayals tekening

of visual cortex,

van de visuele cortex,

which I'm showing here.

die je hier ziet.

This is the cortex that processes imagery that comes from the eye.

De cortex verwerkt de beelden die binnenkomen via het oog.

And for them, this looked like a circuit diagram.

Het zag er volgens hen uit als een schakelschema.

So there are a lot of details in McCulloch and Pitts's circuit diagram

Het schakelschema van McCullough en Pitt bevat veel details

that are not quite right.

die niet helemaal kloppen.

But this basic idea

Maar het basisidee

that visual cortex works like a series of computational elements

dat de visuele cortex werkt als een reeks computeronderdelen

that pass information one to the next in a cascade,

die informatie doorgeven van één niveau naar het andere

is essentially correct.

is in essentie correct.

Let's talk for a moment

Laat me het even hebben

about what a model for processing visual information would need to do.

over wat een model dat visuele info wil verwerken moet kunnen doen.

The basic task of perception

De kerntaak van perceptie

is to take an image like this one and say,

is om naar een afbeelding te kijken en te zeggen:

"That's a bird,"

"Dat is een vogel."

which is a very simple thing for us to do with our brains.

Dat is zeer eenvoudig voor onze hersenen,

But you should all understand that for a computer,

maar je moet begrijpen dat tot voor enkele jaren geleden,

this was pretty much impossible just a few years ago.

dit vrijwel onmogelijk was voor een computer.

The classical computing paradigm

Binnen het klassieke computermodel

is not one in which this task is easy to do.

is dat geen eenvoudige taak.

So what's going on between the pixels,

Wat gebeurt er nu tussen de pixels,

between the image of the bird and the word "bird,"

de afbeelding van een vogel, en het woord 'vogel'?

is essentially a set of neurons connected to each other

Een reeks neuronen zijn met elkaar verbonden

in a neural network,

in een neuraal netwerk,

zoals op deze schets hier.

as I'm diagramming here.

This neural network could be biological, inside our visual cortices,

Dit neuraal netwerk kan biologisch zijn, binnen onze visuele cortex,

or, nowadays, we start to have the capability

maar tegenwoordig zijn we in staat

to model such neural networks on the computer.

om neurale netwerken na te maken op de computer.

And I'll show you what that actually looks like.

Ik zal jullie laten zien hoe dat eruitziet.

So the pixels you can think about as a first layer of neurons,

De pixels kan je zien als de eerste laag neuronen.

and that's, in fact, how it works in the eye --

Hier zie je in feite de werking van het oog.

that's the neurons in the retina.

Dat zijn de neuronen in het netvlies.

And those feed forward

Deze geven hun informatie door

into one layer after another layer, after another layer of neurons,

naar de volgende lagen neuronen.

all connected by synapses of different weights.

Ze zijn verbonden met zenuwknopen van verschillende groottes.

The behavior of this network

Het gedrag van dit netwerk

is characterized by the strengths of all of those synapses.

wordt gekenmerkt door de kracht van al deze zenuwknopen.

Those characterize the computational properties of this network.

Zij bepalen de computationele eigenschappen van dat netwerk.

And at the end of the day,

Op het einde van de rit

you have a neuron or a small group of neurons

is er een neuron, of een kleine groep neuronen

that light up, saying, "bird."

die oplichten en zeggen: "Vogel."

Now I'm going to represent those three things --

Ik wil nu deze drie dingen,

the input pixels and the synapses in the neural network,

de pixels en de synaps van het neuronennetwerk, of de input,

and bird, the output --

en de vogel, of de output,

by three variables: x, w and y.

voorstellen door de variabelen x, w en y.

There are maybe a million or so x's --

Er zit misschien wel een miljoen x'en,

a million pixels in that image.

of pixels, in deze afbeelding.

There are billions or trillions of w's,

En een miljard, of triljard w's.

which represent the weights of all these synapses in the neural network.

Ze vertegenwoordigen al de zenuwknopen in het neurale netwerk.

And there's a very small number of y's,

En er zijn maar een klein aantal y's,

of outputs that that network has.

of output van het netwerk.

"Bird" is only four letters, right?

Het woord 'vogel' telt slechts vijf letters, niet?

So let's pretend that this is just a simple formula,

Laten we het even voorstellen als een simpele formule:

x "x" w = y.

x 'maal' w is gelijk aan y.

I'm putting the times in scare quotes

'Maal' staat tussen aanhalingstekens,

because what's really going on there, of course,

want in werkelijkheid gebeurt er natuurlijk

is a very complicated series of mathematical operations.

een hele reeks ingewikkelde wiskundige berekeningen.

That's one equation.

Dat is één vergelijking,

There are three variables.

met drie variabelen.

And we all know that if you have one equation,

We weten allemaal dat als je over twee variabelen beschikt

you can solve one variable by knowing the other two things.

je de derde variabele kan achterhalen.

So the problem of inference,

Dus het proces van gevolgtrekking,

that is, figuring out that the picture of a bird is a bird,

het uit de afbeelding afleiden dat dit een vogel is,

is this one:

is als volgt:

it's where y is the unknown and w and x are known.

wanneer de y de onbekende is en de w en x allebei gekend.

You know the neural network, you know the pixels.

Je hebt de neuronennetwerken en de pixels.

As you can see, that's actually a relatively straightforward problem.

Je kunt zien dat dit probleem relatief eenvoudig is.

Je vermenigvuldigt twee met drie en klaar.

You multiply two times three and you're done.

I'll show you an artificial neural network

Ik toon jullie nu een netwerk neuronen dat we gebouwd hebben

that we've built recently, doing exactly that.

om dit op te lossen.

This is running in real time on a mobile phone,

Dit werkt realtime op een mobiele telefoon.

and that's, of course, amazing in its own right,

Dat is op zich natuurlijk al verbazingwekkend,

that mobile phones can do so many billions and trillions of operations

dat een telefoon zoveel miljarden en biljarden bewerkingen kan uitvoeren

per second.

per seconde.

What you're looking at is a phone

Jullie zien hier een telefoon

looking at one after another picture of a bird,

waarop een reeks afbeeldingen verschijnen van vogels.

and actually not only saying, "Yes, it's a bird,"

Hij herkent ze niet alleen als vogels,

but identifying the species of bird with a network of this sort.

maar hij kan ook de soort identificeren met dit type netwerk.

So in that picture,

In die afbeelding

the x and the w are known, and the y is the unknown.

waren de x en de w gekend en was de y de onbekende.

I'm glossing over the very difficult part, of course,

Ik sla het ingewikkeldste deel over, natuurlijk,

which is how on earth do we figure out the w,

namelijk, hoe achterhalen we de w,

the brain that can do such a thing?

de hersenen die tot dit alles in staat zijn?

How would we ever learn such a model?

Hoe hebben we ooit zo'n model aangeleerd?

So this process of learning, of solving for w,

Dit leerproces, waarbij we de w willen oplossen,

if we were doing this with the simple equation

als we dit in een eenvoudige vergelijking gieten,

in which we think about these as numbers,

waarbij we getallen gebruiken,

we know exactly how to do that: 6 = 2 x w,

weten we wat we moeten doen: 6 is gelijk aan 2 maal w.

well, we divide by two and we're done.

We delen 6 door 2 en het zit erop.

The problem is with this operator.

Het probleem zit 'm bij deze bewerking.

So, division --

Deling...

we've used division because it's the inverse to multiplication,

We gebruiken deling, want dat is het omgekeerde van vermenigvuldiging.

but as I've just said,

Maar zoals ik zopas zei,

the multiplication is a bit of a lie here.

klopt de vermenigvuldiging hier niet echt.

This is a very, very complicated, very non-linear operation;

Dit is een zeer gecompliceerde, zeer non-lineaire bewerking,

it has no inverse.

die niet omgekeerd kan worden.

So we have to figure out a way to solve the equation

We moeten een manier vinden om die vergelijking op te lossen,

without a division operator.

zonder te moeten delen.

And the way to do that is fairly straightforward.

We doen dit op een zeer eenvoudige manier.

You just say, let's play a little algebra trick,

We spelen wat met de algebra

and move the six over to the right-hand side of the equation.

en verplaatsen de 6 naar de rechterkant van de vergelijking.

Now, we're still using multiplication.

We vermenigvuldigen nog steeds.

And that zero -- let's think about it as an error.

Maar laten we die nul de foutmarge noemen.

In other words, if we've solved for w the right way,

Met andere woorden, als we de w juist oplossen,

then the error will be zero.

dan zal die marge nul bedragen.

And if we haven't gotten it quite right,

En als de oplossing niet klopt,

the error will be greater than zero.

dan zal de marge groter zijn dan nul.

So now we can just take guesses to minimize the error,

Nu kunnen we beginnen te gokken en de foutmarge zo klein mogelijk maken,

and that's the sort of thing computers are very good at.

daar zijn computers zeer goed in.

Laten we eens gokken:

So you've taken an initial guess:

w = 0 misschien?

what if w = 0?

Dan zou de marge 6 bedragen.

Well, then the error is 6.

En als w gelijk zou zijn aan 1, dan zou de marge 4 zijn.

What if w = 1? The error is 4.

And then the computer can sort of play Marco Polo,

De computer kan blijven raden

and drive down the error close to zero.

en de foutmarge tot bijna nul reduceren.

As it does that, it's getting successive approximations to w.

En ondertussen komt hij steeds dichter bij w.

Typically, it never quite gets there, but after about a dozen steps,

Hij raakt nooit helemaal tot bij w, maar na zo'n twaalf stappen

we're up to w = 2.999, which is close enough.

zien we dat w gelijk is aan 2,999 en dat is precies genoeg.

And this is the learning process.

Dat is het leerproces.

So remember that what's been going on here

Vergeet niet wat we hier aan het doen zijn.

is that we've been taking a lot of known x's and known y's

We hebben zeer veel van die gekende x'en en y's genomen

and solving for the w in the middle through an iterative process.

en daar de w in het midden mee achterhaald door een iteratief proces.

It's exactly the same way that we do our own learning.

Wij leren op precies dezelfde manier.

We have many, many images as babies

Als baby hebben we zeer veel afbeeldingen.

and we get told, "This is a bird; this is not a bird."

Ze vertellen ons: "Dit is een vogel. Dat is geen vogel."

And over time, through iteration,

Wanneer we de bewerking eindeloos herhalen

we solve for w, we solve for those neural connections.

kunnen we de w achterhalen voor deze zenuwverbindingen.

So now, we've held x and w fixed to solve for y;

Nu hebben we naar de x en w gekeken om de y te achterhalen.

that's everyday, fast perception.

Dat is alledaagse, snelle waarneming.

We figure out how we can solve for w,

Nu willen we weten hoeveel w is.

that's learning, which is a lot harder,

Da's veel moeilijker, want dat is leren.

because we need to do error minimization,

Om de foutenmarge te beperken, hebben we veel voorbeelden nodig.

using a lot of training examples.

And about a year ago, Alex Mordvintsev, on our team,

Zo'n jaar geleden besloot iemand van ons team, Alex Mordvintsev,

decided to experiment with what happens if we try solving for x,

om eens te kijken wat er zou gebeuren als we de x probeerden op te lossen

given a known w and a known y.

als we de w en de y zouden kennen.

In other words,

Met andere woorden,

you know that it's a bird,

je weet dat het een vogel is

and you already have your neural network that you've trained on birds,

en je netwerk zenuwcellen kunnen al vogels herkennen.

but what is the picture of a bird?

Maar wat is nu een afbeelding van een vogel?

It turns out that by using exactly the same error-minimization procedure,

Blijkbaar kan je met dezelfde foutenminimalisatie-procedure,

one can do that with the network trained to recognize birds,

gebruik makend van het netwerk dat vogels kan herkennen,

and the result turns out to be ...

het volgende resultaat krijgen ...

a picture of birds.

een afbeelding van vogels.

So this is a picture of birds generated entirely by a neural network

Deze afbeelding van vogels is volledig gegenereerd door een neuraal netwerk

that was trained to recognize birds,

dat vogels kon herkennen,

just by solving for x rather than solving for y,

door simpelweg naar de x te zoeken in plaats van naar de y

and doing that iteratively.

en dat dan eindeloos te herhalen.

Here's another fun example.

Dit is nog een leuk voorbeeld.

This was a work made by Mike Tyka in our group,

Dit is het werk van Mike Tyka in onze groep.

which he calls "Animal Parade."

Hij noemt het 'Animal Parade'.

It reminds me a little bit of William Kentridge's artworks,

Het doet me wat denken aan William Kentridges' schilderijen.

in which he makes sketches, rubs them out,

Hij maakt schetsen en veegt ze uit,

makes sketches, rubs them out,

altijd maar opnieuw, en zo creëert hij een film.

and creates a movie this way.

In this case,

In dit geval probeert Mike

what Mike is doing is varying y over the space of different animals,

de y te laten variëren over de ruimte van de verschillende dieren

in een netwerk dat dieren van elkaar kan onderscheiden.

in a network designed to recognize and distinguish

different animals from each other.

En dan krijg je zo'n Escher-achtige overgang van het ene dier in het andere.

And you get this strange, Escher-like morph from one animal to another.

Here he and Alex together have tried reducing

Hier hebben hij en Alex geprobeerd om de y's terug te brengen

the y's to a space of only two dimensions,

tot een tweedimensionale ruimte.

thereby making a map out of the space of all things

De uitkomst daarvan was een kaart met daarop de ruimte van alle dingen

recognized by this network.

die dit netwerk kon herkennen.

Doing this kind of synthesis

Bij dit soort synthese

or generation of imagery over that entire surface,

of beeldweergave over die hele oppervlakte,

varying y over the surface, you make a kind of map --

waarbij de y varieert over het oppervlak,

creëer je een visuele kaart van alles wat het netwerk herkent.

a visual map of all the things the network knows how to recognize.

Alle dieren staan hierop aangeduid. Dat daar is een gordeldier.

The animals are all here; "armadillo" is right in that spot.

You can do this with other kinds of networks as well.

Dit werkt ook met andere netwerken.

This is a network designed to recognize faces,

Dit netwerk is ontwikkeld om gezichten te herkennen,

to distinguish one face from another.

om gezichten van elkaar te onderscheiden.

And here, we're putting in a y that says, "me,"

Hier hebben we de y ingevoerd die mij vertegenwoordigt.

my own face parameters.

Het zijn mijn gezichtsparameters.

And when this thing solves for x,

Als dit systeem naar x gaat zoeken,

it generates this rather crazy,

genereert het een absurd,

kind of cubist, surreal, psychedelic picture of me

nogal kubistisch, surreëel en psychedelisch beeld van mij,

from multiple points of view at once.

vanuit verschillende perspectieven.

The reason it looks like multiple points of view at once

Je ziet hier verschillende perspectieven tegelijkertijd,

is because that network is designed to get rid of the ambiguity

omdat ons netwerk zo ontworpen is dat het de dubbelzinnigheid tegengaat

of a face being in one pose or another pose,

van de verschillende mogelijke poses

being looked at with one kind of lighting, another kind of lighting.

of de verschillende mogelijke belichtingen.

So when you do this sort of reconstruction,

Als je zo'n reconstructie uitvoert

en je geen afbeelding of statistieken

if you don't use some sort of guide image

or guide statistics,

als richtlijnen gebruikt,

then you'll get a sort of confusion of different points of view,

dan krijg je een samenraapsel van 'n heleboel perspectieven,

because it's ambiguous.

want het is ambigue.

This is what happens if Alex uses his own face as a guide image

Dit is het resultaat wanneer Alex zijn eigen gezicht gebruikt als richtlijn

during that optimization process to reconstruct my own face.

tijdens het optimalisatieproces om mijn gezicht te reconstrueren.

So you can see it's not perfect.

Je ziet dat het niet perfect is.

There's still quite a lot of work to do

We hebben nog wat werk voor de boeg

on how we optimize that optimization process.

om het optimalisatieproces te optimaliseren.

But you start to get something more like a coherent face,

Maar je krijgt toch iets wat meer lijkt op een gezicht,

rendered using my own face as a guide.

met mijn gezicht als richtlijn.

You don't have to start with a blank canvas

Je hoeft niet meer te beginnen met een wit doek,

or with white noise.

of met 'witte ruis'.

When you're solving for x,

Wanneer je naar x zoekt,

you can begin with an x, that is itself already some other image.

kan je beginnen met een x die op zich al een afbeelding is.

That's what this little demonstration is.

Dat toont de volgende demo.

This is a network that is designed to categorize

Dit is een netwerk dat ontworpen is

om allerlei verschillende voorwerpen te categoriseren,

all sorts of different objects -- man-made structures, animals ...

zoals kunstmatige structuren, dieren...

Here we're starting with just a picture of clouds,

We vertrokken hier gewoon van een afbeelding van wolken.

and as we optimize,

Terwijl we het beeld optimaliseren,

basically, this network is figuring out what it sees in the clouds.

probeert het netwerk te bepalen wat het kan zien in de wolken.

And the more time you spend looking at this,

Hoe langer je hier naar kijkt,

the more things you also will see in the clouds.

hoe meer je ook gaat zien in deze wolken.

You could also use the face network to hallucinate into this,

Je kunt er ook hallucinaties van het gezichtsnetwerk in verwerken.

and you get some pretty crazy stuff.

Dat levert ook gekke beelden op.

(Laughter)

(Gelach)

Or, Mike has done some other experiments

Mike heeft nog enkele andere experimenten uitgevoerd,

in which he takes that cloud image,

waarbij hij de afbeelding van de wolken neemt,

hallucinates, zooms, hallucinates, zooms hallucinates, zooms.

een hallucinatie toevoegt, inzoomt, weer 'n hallucinatie toevoegt, inzoomt.

And in this way,

Op deze manier

you can get a sort of fugue state of the network, I suppose,

krijg je een soort dissociatieve vlucht, denk ik,

or a sort of free association,

of een soort vrije associatie,

in which the network is eating its own tail.

waarin het netwerk haar eigen staart opeet.

So every image is now the basis for,

Iedere afbeelding is de basis voor...

"What do I think I see next?

"Wat zie ik hierna?"

What do I think I see next? What do I think I see next?"

"En wat daarna? En wat daarna?"

I showed this for the first time in public

Ik heb dit voor het eerst getoond

to a group at a lecture in Seattle called "Higher Education" --

aan een groep in Seattle bij een lezing, genaamd 'Hoger Onderwijs'.

this was right after marijuana was legalized.

Marihuana was toen nog maar net gelegaliseerd.

(Laughter)

(Gelach)

So I'd like to finish up quickly

Ik zou snel willen afsluiten

by just noting that this technology is not constrained.

door te zeggen dat deze technologie geen grenzen kent.

Ik heb enkel visuele voorbeelden getoond, omdat die leuk zijn om naar te kijken.

I've shown you purely visual examples because they're really fun to look at.

It's not a purely visual technology.

Maar de technologie is niet enkel visueel.

Our artist collaborator, Ross Goodwin,

Ross Goodwin, een medewerker van ons,

has done experiments involving a camera that takes a picture,

heeft enkele experimenten gedaan waarbij hij foto's nam met een camera

and then a computer in his backpack writes a poem using neural networks,

en die dan gebruikte om een gedicht mee te schrijven, met z'n computer,

based on the contents of the image.

op basis van de inhoud van de afbeelding.

And that poetry neural network has been trained

Dat poëzienetwerk werd getraind

on a large corpus of 20th-century poetry.

op een groot corpus gedichten uit de 20e eeuw.

And the poetry is, you know,

En de gedichten zijn, weet je,

I think, kind of not bad, actually.

al bij al niet slecht, denk ik.

(Laughter)

(Gelach)

In closing,

Om af te sluiten...

I think that per Michelangelo,

Ik denk dat Michelangelo

I think he was right;

het bij het rechte eind had.

perception and creativity are very intimately connected.

Waarneming en creativiteit zijn zeer nauw met elkaar verbonden.

What we've just seen are neural networks

We hebben zopas gezien dat neurale netwerken

that are entirely trained to discriminate,

die getraind zijn om keuzes te maken

or to recognize different things in the world,

of om dingen in de wereld te herkennen,

able to be run in reverse, to generate.

ook andersom kunnen werken en kunst voortbrengen.

One of the things that suggests to me

Dit doet mij afleiden

is not only that Michelangelo really did see

dat Michelangelo

de kunstwerken kon zien uit massieve blokken steen,

the sculpture in the blocks of stone,

but that any creature, any being, any alien

maar ook dat eender welk wezen, van eender welke planeet

that is able to do perceptual acts of that sort

die in staat is om waar te nemen

is also able to create

ook in staat is om te creëren.

because it's exactly the same machinery that's used in both cases.

Want in beide gevallen wordt exact hetzelfde mechanisme gebruikt.

Also, I think that perception and creativity are by no means

Ik ben er ook van overtuigd dat waarneming en creativiteit

helemaal niet uniek zijn aan mensen.

uniquely human.

We start to have computer models that can do exactly these sorts of things.

Onze computermodellen kunnen deze dingen ook al.

En dat zou niet mogen verrassen, ons brein is immers computationeel.

And that ought to be unsurprising; the brain is computational.

And finally,

En ten slotte...

computing began as an exercise in designing intelligent machinery.

Computertechnologie begon als een manier om intelligente machines te ontwikkelen.

It was very much modeled after the idea

Het was gebaseerd op het idee

of how could we make machines intelligent.

dat machines intelligent gemaakt konden worden.

And we finally are starting to fulfill now

We beginnen nu eindelijk enkele van de beloftes waar te maken

some of the promises of those early pioneers,

van vroege pioniers,

of Turing and von Neumann

zoals Turing en von Neuman,

and McCulloch and Pitts.

en McCulloch en Pitts.

And I think that computing is not just about accounting

Ik denk dat het bij computers niet enkel draait om berekeningen,

or playing Candy Crush or something.

of 'Candy Crush' of andere spelletjes.

From the beginning, we modeled them after our minds.

We hebben ze steeds vormgegeven volgens onze hersenen.

And they give us both the ability to understand our own minds better

Ze geven ons de mogelijkheid om onze hersenen beter te begrijpen

and to extend them.

en om onze capaciteiten uit te breiden.

Thank you very much.

Dankjewel.

(Applause)

(Applaus)