6 big ethical questions about the future of AI | Genevieve Bell

Traductor: Jesica Soledad Pandolfino Revisor: Sebastian Betti

Déjenme contarles una historia sobre la inteligencia artificial.

Hay un edificio en Sídney, en el número 1 de la calle Bligh,

con muchos apartamentos gubernamentales

Let me tell you a story about artificial intelligence.

y gente ocupada.

Desde fuera, parece algo de la ciencia ficción estadounidense

There's a building in Sydney at 1 Bligh Street.

cristal reluciente y líneas curvas por todos lados,

It houses lots of government apartments

and busy people.

y una pieza de escultura naranja.

From the outside, it looks like something out of American science fiction:

Por dentro, tiene un café excelente en la planta baja

all gleaming glass and curved lines,

y mis elevadores favoritos en Sídney.

Son hermosos,

and a piece of orange sculpture.

parecen llenos de vida.

On the inside, it has excellent coffee on the ground floor

Resulta que me fascinan los elevadores

por muchas razones.

and my favorite lifts in Sydney.

De hecho, en los elevadores puede verse el futuro.

They're beautiful;

they look almost alive.

En el siglo XXI, los elevadores son interesantes

And it turns out I'm fascinated with lifts.

porque a través de ellos, la inteligencia artificial te afectará

For lots of reasons.

But because lifts are one of the places you can see the future.

sin siquiera darte cuenta.

In the 21st century, lifts are interesting

En muchos edificios en todo el mundo,

because they're one of the first places that AI will touch you

los ascensores ejecutan un conjunto de algoritmos:

una forma de inteligencia protoartificial.

without you even knowing it happened.

In many buildings all around the world,

Eso significa que incluso antes de acercarte al ascensor para llamarlo,

the lifts are running a set of algorithms.

ya anticipó que estarías allí.

A form of protoartificial intelligence.

Ya está reorganizando todas las cabinas.

That means before you even walk up to the lift to press the button,

Siempre bajando, para ahorrar energía

y para ver adónde estará el tráfico.

it's anticipated you being there.

Una vez que has presionado el botón,

It's already rearranging all the carriages.

ya eres parte de todo un sistema

que integra la gente, el medioambiente

Always going down, to save energy,

and to know where the traffic is going to be.

y la edificación y el mundo construido.

By the time you've actually pressed the button,

Cuando hablamos de IA, a menudo hablamos de un mundo de robots.

you're already part of an entire system

that's making sense of people and the environment

Es fácil pensar en términos de ciencia ficción,

and the building and the built world.

bueno, durante los últimos 100 años.

I know when we talk about AI, we often talk about a world of robots.

Si digo “IA”, ustedes piensan en “El Exterminador”.

It's easy for our imaginations to be occupied with science fiction,

La conexión que vemos entre la IA y el mundo

well, over the last 100 years.

es más compleja de contar.

I say AI and you think "The Terminator."

En realidad, la IA está en todas partes,

Somewhere, for us, making the connection between AI and the built world,

en muchos lugares.

En edificios y sistemas.

that's a harder story to tell.

Más de 200 años de industrialización

But the reality is AI is already everywhere around us.

sugieren que la IA alcanzará fácilmente un nivel de sistemas a escala.

And in many places.

It's in buildings and in systems.

En definitiva, algunos sugieren

More than 200 years of industrialization

que lo que se necesita es hallar una tecnología,

suggest that AI will find its way to systems-level scale relatively easily.

alcanzar la escala, y la revolución llegará sola.

La mecanización, la automatización y la digitalización

After all, one telling of that history

suggests that all you have to do is find a technology,

apuntan al rol y a la importancia de la tecnología.

achieve scale and revolution will follow.

The story of mechanization, automation and digitization

Las historias sobre la transformación tecnológica

hacen ver la escala como normal

all point to the role of technology and its importance.

o esperada

y estable,

y, a veces, hasta predecible.

Those stories of technological transformation

make scale seem, well, normal.

Pero también pone el foco en la tecnología y el cambio tecnológico.

Or expected.

And stable.

Creo que escalar una tecnología y armar un sistema

And sometimes even predictable.

requiere algo más.

But it also puts the focus squarely on technology and technology change.

En la Universidad Nacional Australiana, fundamos el Instituto 3AI,

But I believe that scaling a technology and building a system

en septiembre de 2017.

requires something more.

Tiene una misión engañosamente simple:

We founded the 3Ai Institute at the Australian National University

implementar un área de ingeniería

para llevar la IA a escala con seguridad, sustentabilidad y responsabilidad.

in September 2017.

It has one deceptively simple mission:

Pero, ¿cómo se arma una nueva rama de ingeniería en el siglo XXI?

to establish a new branch of engineering

Lo estamos enseñando

to take AI safely, sustainably and responsibly to scale.

a través de un programa de educación experimental.

But how do you build a new branch of engineering in the 21st century?

Estamos investigando

en zonas tan diversas como la cuna de Shakespeare,

Well, we're teaching it into existence

through an experimental education program.

la Gran Barrera de Coral,

por no mencionar una de las minas más grandes de Australia.

We're researching it into existence

with locations as diverse as Shakespeare's birthplace,

Estamos teorizando,

estudiando las complejidades de los sistemas cibernéticos.

the Great Barrier Reef,

not to mention one of Australia's largest autonomous mines.

Estamos trabajando en armar algo nuevo y útil,

And we're theorizing it into existence,

la próxima generación de personas que piensen y actúen de manera crítica.

paying attention to the complexities of cybernetic systems.

Y buscamos hacer esto

We're working to build something new and something useful.

a través de un entendimiento rico del pasado y las historias de la IA.

Something to create the next generation of critical thinkers and critical doers.

Y a través del trabajo colaborativo y colectivo,

And we're doing all of that

de enseñar, investigar y comprometerse,

through a richer understanding of AI's many pasts and many stories.

y enfocándonos en hacer preguntas

And by working collaboratively and collectively

y resolver problemas.

through teaching and research and engagement,

No hacemos una única IA

sino las posibilidades de varias IA.

and by focusing as much on the framing of the questions

Estamos trabajando para cambiar nuestro imaginario

as the solving of the problems.

y armar una nueva pedagogía y un plan de estudios

We're not making a single AI,

we're making the possibilities for many.

que dejen espacio a nuevas conversaciones y posibilidades.

And we're actively working to decolonize our imaginations

Estamos haciendo y rehaciendo.

and to build a curriculum and a pedagogy

Siempre estamos trabajando.

that leaves room for a range of different conversations and possibilities.

Esta es una pequeña muestra

de cómo nos estamos acercando a la cuestión de la escala a futuro.

We are making and remaking.

And I know we're always a work in progress.

Empezamos por nuestra propia historia.

But here's a little glimpse

into how we're approaching that problem of scaling a future.

En diciembre de 2018,

fui a la ciudad de Brewarrina,

en la frontera entre Nueva Gales del Sur y Queensland.

We start by making sure we're grounded in our own history.

Era un punto de encuentro para los aborígenes,

In December of 2018,

para distintos grupos,

I took myself up to the town of Brewarrina

para reunirse, celebrar ceremonias, reuniones... para estar juntos.

on the New South Wales-Queensland border.

Aquí, en el río Barwon, hay varios corrales de pesca

This place was a meeting place for Aboriginal people,

de los más grandes y antiguos sistemas

for different groups,

to gather, have ceremonies, meet, to be together.

de pesca de aborígenes australianos.

El sistema abarca 1,8 kilómetros de muros de piedra,

There, on the Barwon River, there's a set of fish weirs

that are one of the oldest and largest systems

que forman una serie de redes,

con las úes apuntando hacia abajo,

of Aboriginal fish traps in Australia.

lo que permite atrapar pescados a diferentes profundidades.

This system is comprised of 1.8 kilometers of stone walls

También hay distintos corrales a distintas alturas

shaped like a series of fishnets

with the "Us" pointing down the river,

diseñados para alterar el curso del agua,

allowing fish to be trapped at different heights of the water.

almacenar pescados grandes y pequeños

y mantenerlos en agua limpia y fresca.

They're also fish holding pens with different-height walls for storage,

designed to change the way the water moves

Este sistema de trampas de pesca aseguraba el alimento para el pueblo

and to be able to store big fish and little fish

en este punto de encuentro de ríos

and to keep those fish in cool, clear running water.

y de culturas.

No se trata de las rocas ni de las trampas en sí.

This fish-trap system was a way to ensure that you could feed people

as they gathered there in a place that was both a meeting of rivers

Se trata del sistema que esas trampas crearon.

and a meeting of cultures.

Uno que involucra conocimiento técnico,

It isn't about the rocks or even the traps per se.

conocimiento cultural

y conocimiento de la ecología.

It is about the system that those traps created.

Es un sistema antiguo.

Según algunos arqueólogos, tiene 40 000 años.

One that involves technical knowledge,

cultural knowledge

La última vez que se usó fue a principios del 1900.

and ecological knowledge.

This system is old.

Es notablemente longevo y su escala es increíble.

Some archaeologists think it's as old as 40,000 years.

The last time we have its recorded uses is in the nineteen teens.

Para mí, es una inspiración.

En el instituto, hay una fotografía de los corrales

It's had remarkable longevity and incredible scale.

para recordarnos la promesa y el desafío

And it's an inspiration to me.

de construir algo significativo.

Para recordarnos que estamos construyendo sistemas

And a photo of the weir is on our walls here at the Institute,

en un lugar donde la gente ha construido sistemas

to remind us of the promise and the challenge

y los ha mantenido por generaciones.

of building something meaningful.

No es solo nuestra historia

And to remind us that we're building systems

es nuestro legado, mientras establecemos una nueva rama de ingeniería.

in a place where people have built systems

and sustained those same systems for generations.

Para construir sobre ese legado y nuestro sentido de propósito,

It isn't just our history,

necesitamos un marco claro y hacernos preguntas sobre nuestro futuro.

it's our legacy as we seek to establish a new branch of engineering.

Preguntas para las que no hay respuestas fáciles ni conocidas.

To build on that legacy and our sense of purpose,

El punto es hacer preguntas.

I think we need a clear framework for asking questions about the future.

Creo que necesitamos ir más allá del enfoque tradicional

Questions for which there aren't ready or easy answers.

de resolución de problemas,

hacia un enfoque más complejo

Here, the point is the asking of the questions.

de planteo de preguntas.

We believe you need to go beyond the traditional approach

Porque así nos abriremos a nuevas posibilidades

of problem-solving,

to the more complicated one of question asking

y nuevos desafíos.

Ahora mismo, creo que hay

and question framing.

seis grandes preguntas que enmarcan nuestro enfoque

Because in so doing, you open up all kinds of new possibilities

hacia una IA a escala que sea segura, sostenible y responsable.

and new challenges.

For me, right now,

Preguntas sobre la autonomía,

la capacidad, la seguridad,

there are six big questions that frame our approach

indicadores, interfaces e intencionalidad.

for taking AI safely, sustainably and responsibly to scale.

La primera pregunta es simple.

Questions about autonomy,

agency, assurance,

¿Es el sistema autónomo?

indicators, interfaces and intentionality.

Recordemos ese elevador de la calle Bligh.

Algún día, ese elevador podría ser autónomo.

The first question we ask is a simple one.

Es decir, será capaz de actuar sin que le ordenen actuar.

Is the system autonomous?

Think back to that lift on Bligh Street.

Pero, no es completamente autónomo, ¿no?

The reality is, one day, that lift may be autonomous.

No puede salir aquel edificio de la calle Bligh

Which is to say it will be able to act without being told to act.

e ir a Circular Quay por una cerveza.

Sube y baja, eso es todo.

But it isn't fully autonomous, right?

Pero lo hace por sí mismo.

It can't leave that Bligh Street building

and wonder down to Circular Quay for a beer.

Es autónomo en ese sentido.

La segunda pregunta es:

It goes up and down, that's all.

¿El sistema tiene agencia?

But it does it by itself.

It's autonomous in that sense.

¿Tiene ciertos controles y límites

The second question we ask:

que prevengan que se hagan ciertas cosas bajo ciertas condiciones?

does this system have agency?

Does this system have controls and limits that live somewhere

Esa es la realidad de los elevadores.

Piensen en cualquiera que hayan visto.

that prevent it from doing certain kinds of things under certain conditions.

En la cabina, hay una cerradura roja

para que los servicios de emergencia

The reality with lifts, that's absolutely the case.

puedan apagar todo con una llave.

Think of any lift you've been in.

Pero, ¿qué sucede en sistemas regidos por IA?

There's a red keyslot in the elevator carriage

¿Dónde reside la llave?

that an emergency services person can stick a key into

¿Es una llave física o digital?

and override the whole system.

¿Quién debe usarla,

los servicios de emergencia?

But what happens when that system is AI-driven?

¿Cómo enterarnos de lo que está pasando?

Where does the key live?

¿Cómo todo eso se hará manifiesto para nosotros en el elevador?

Is it a physical key, is it a digital key?

Who gets to use it?

Is that the emergency services people?

La tercera pregunta es:

And how would you know if that was happening?

¿Qué pensamos acerca de la seguridad

How would all of that be manifested to you in the lift?

en sus dimensiones,

seguridad, confianza, riesgo, responsabilidad, gestión

The third question we ask is how do we think about assurance.

explicabilidad, ética, política pública, legislación, regulaciones?

How do we think about all of its pieces:

safety, security, trust, risk, liability, manageability,

¿Cómo podremos asegurarles que el sistema funciona y es seguro?

explicability, ethics, public policy, law, regulation?

La cuarta pregunta es:

¿Cuáles serán nuestras interfaces con estos sistemas de IA?

And how would we tell you that the system was safe and functioning?

¿Hablaremos con ellas?

¿Nos hablarán? ¿Hablaremos el uno al otro?

The fourth question we ask

¿Qué implicará contar con una serie de tecnologías

is what would be our interfaces with these AI-driven systems.

que ya conocemos,

pero de pronto se comportan de forma diferente?

Will we talk to them?

Will they talk to us, will they talk to each other?

Elevadores, automóviles, la red eléctrica, semáforos, lo que tenemos en casa.

And what will it mean to have a series of technologies we've known,

for some of us, all our lives,

La quinta pregunta para estos sistemas de IA es:

now suddenly behave in entirely different ways?

Lifts, cars, the electrical grid, traffic lights, things in your home.

¿Cómo mostrarán los indicadores que los sistemas funcionan bien?

Doscientos años de revolución industrial

The fifth question for these AI-driven systems:

indican que las dos formas más importantes en un buen sistema

What will the indicators be to show that they're working well?

son la productividad y la eficiencia.

Two hundred years of the industrial revolution

En el siglo XXI,

puede que quieras abarcar un poco más.

tells us that the two most important ways to think about a good system

¿Es el sistema

sostenible, seguro y responsable?

are productivity and efficiency.

¿Quién evalúa eso para nosotros?

In the 21st century,

you might want to expand that just a little bit.

Los usuarios quieren entender

Is the system sustainable,

cómo estas cosas se regulan, se gestionan y se arman.

is it safe, is it responsible?

Who gets to judge those things for us?

Finalmente, la pregunta más crítica

Users of the systems would want to understand

que debemos preguntarnos acerca de estos sistemas de IA.

how these things are regulated, managed and built.

¿Qué es la intención?

And then there's the final, perhaps most critical question

¿Para qué se diseñó el sistema

y quién dijo que era una buena idea?

that you need to ask of these new AI systems.

O, de otra forma,

¿qué es el mundo que este sistema está armando?

What's its intent?

What's the system designed to do

¿Cómo se imagina a ese mundo?

¿Qué relación mantiene el sistema con el mundo de hoy?

and who said that was a good idea?

Or put another way,

what is the world that this system is building,

¿Quién forma parte de esa articulación?

¿Quién debe articular todo eso?

how is that world imagined,

¿Cómo se plantea y cómo se imagina todo?

and what is its relationship to the world we live in today?

No hay respuestas simples a estas preguntas.

Who gets to be part of that conversation?

Who gets to articulate it?

Sin embargo, sirven para orientarnos

How does it get framed and imagined?

en lo posible y lo que debemos imaginar,

diseñar, construir, regular y hasta desmantelar.

There are no simple answers to these questions.

Apuntan en las direcciones correctas

Instead, they frame what's possible

orientan el establecimiento de una nueva rama de la ingeniería.

and what we need to imagine,

design, build, regulate and even decommission.

Pero no alcanza con preguntas críticas.

They point us in the right directions

También necesitamos integrarlas entre sí.

and help us on a path to establish a new branch of engineering.

But critical questions aren't enough.

En el instituto,

también nos interesa cómo pensar en la IA como sistema,

You also need a way of holding all those questions together.

y dónde y cómo establecer los límites de ese sistema.

For us at the Institute,

we're also really interested in how to think about AI as a system,

Ahora, eso es especialmente importante.

Aquí, estamos influenciados por el trabajo que empezó en la década de los cuarenta.

and where and how to draw the boundaries of that system.

And those feel like especially important things right now.

En 1944, los antropólogos Gregory Bateson y Margaret Mead

Here, we're influenced by the work that was started way back in the 1940s.

y el matemático Norbert Wiener mantuvieron una serie de conversaciones

que más tarde derivarían en las Conferencias Macy sobre cibernética.

In 1944, along with anthropologists Gregory Bateson and Margaret Mead,

Más tarde, entre 1946 y 1953,

mathematician Norbert Wiener convened a series of conversations

se realizaron 10 conferencias sobre cibernética.

that would become known as the Macy Conferences on Cybernetics.

Según Norbert Wiener,

Ultimately, between 1946 and 1953,

la cibernética buscó “desarrollar un lenguaje y técnicas

ten conferences were held under the banner of cybernetics.

que permitan atacar el problema del control y la comunicación

As defined by Norbert Wiener,

cybernetics sought to "develop a language and techniques

en tecnologías avanzadas de computación”.

that will enable us to indeed attack the problem of control and communication

Con persuasión, la cibernética

planteó que uno debe pensar en la relación

entre humanos, computadoras

in advanced computing technologies."

y el mundo ecológico.

Cybernetics argued persuasively

Hay que pensar en un sistema holístico.

that one had to think about the relationship

Los participantes de las Conferencias Macy se interesaban en la mente,

between humans, computers

and the broader ecological world.

la inteligencia, el aprendizaje

You had to think about them as a holistic system.

y el rol de la tecnología en el futuro.

Participants in the Macy Conferences were concerned with how the mind worked,

Lamentablemente, las pláticas que iniciaron las Conferencias Macy

a menudo se olvidan cuando se trata de IA.

with ideas about intelligence and learning,

and about the role of technology in our future.

Creo que hay algo importante de reivindicar

Sadly, the conversations that started with the Macy Conference

acerca de la idea de un sistema que debe integrar la cultura,

are often forgotten when the talk is about AI.

la tecnología y el medioambiente.

But for me, there's something really important to reclaim here

El pensamiento sistemático es central en nuestro trabajo en el instituto.

about the idea of a system that has to accommodate culture,

En los últimos tres años,

technology and the environment.

se unieron varias personas maravillosas

At the Institute, that sort of systems thinking is core to our work.

a esta loca aventura.

En nuestro equipo, hay antropólogos, ingenieros

Over the last three years,

en sistemas y en medioambiente, y científicos de la computación.

a whole collection of amazing people have joined me here

on this crazy journey to do this work.

Hay también un físico nuclear,

Our staff includes anthropologists,

un reportero gráfico premiado,

y al menos un experto en política y estándares.

systems and environmental engineers, and computer scientists

Es una mezcla emocionante.

as well as a nuclear physicist,

Y la gama de experiencia y expertise es poderosa,

an award-winning photo journalist,

como lo son los conflictos y los desafíos.

and at least one policy and standards expert.

Ser diferentes requiere una voluntad constante

It's a heady mix.

de buscar formas de mantener una conversación.

And the range of experience and expertise is powerful,

Y convivir un poco con el conflicto.

as are the conflicts and the challenges.

Being diverse requires a constant willingness

Pronto entendimos que

to find ways to hold people in conversation.

encontrar una nueva forma de trabajar

requiere el compromiso de subirnos al mismo barco.

And to dwell just a little bit with the conflict.

We also worked out early

Pronto, abrimos las puertas a un programa de formación

that the way to build a new way of doing things

y, en 2018, lanzamos nuestro primer máster.

would require a commitment to bringing others along on that same journey with us.

Ya hemos tenido dos cohortes de estudiantes

So we opened our doors to an education program very quickly,

del máster y una del doctorado.

and we launched our first master's program in 2018.

Tenemos estudiantes de todo el mundo,

con vidas muy distintas.

Since then, we've had two cohorts of master's students

Australia, Nueva Zelanda, Nigeria, Nepal,

and one cohort of PhD students.

México, India, Estados Unidos.

Our students come from all over the world

El rango etario va de 23 a 60 años.

and all over life.

Australia, New Zealand, Nigeria, Nepal,

Tienen bagajes diferentes: matemática, música,

Mexico, India, the United States.

política y desempeño,

sistemas y estándares,

And they range in age from 23 to 60.

arquitectura y arte.

They variously had backgrounds in maths and music,

Antes de unirse al instituto,

manejaban empresas, trabajaban en el gobierno,

policy and performance,

systems and standards,

servían en el ejército, eran docentes

architecture and arts.

y lideraban asociaciones de letras.

Before they joined us at the Institute,

Eran aventureros,

they ran companies, they worked for government,

comprometidos con otros

y con lograr algo nuevo.

served in the army, taught high school,

and managed arts organizations.

¿Qué más se puede pedir?

They were adventurers

Aunque estuve 20 años en Silicon Valley

and committed to each other,

y conozco las historias del inventor solitario

and to building something new.

And really, what more could you ask for?

y el viaje del héroe,

también conozco la realidad.

Because although I've spent 20 years in Silicon Valley

Nunca es sólo el viaje del héroe.

Siempre es un grupo de gente que comparte un objetivo

and I know the stories about the lone inventor

and the hero's journey,

el que puede cambiar el mundo.

I also know the reality.

That it's never just a hero's journey.

¿Por dónde empezamos entonces?

It's always a collection of people who have a shared sense of purpose

Empecemos por nuestro lugar.

Para mí, eso significa reconocer

who can change the world.

a los primeros dueños de la tierra que pisamos.

So where do you start?

Los pueblos Ngunnawal y Ngambri,

Well, I think you start where you stand.

esta es su tierra,

sagrada y nunca cedida.

And for me, that means I want to acknowledge

Rindo mis respetos a los ancianos, pasados y presentes, de este lugar.

the traditional owners of the land upon which I'm standing.

The Ngunnawal and Ngambri people,

También entiendo que hoy estamos reunidos

this is their land,

en muchos otros lugares.

never ceded, always sacred.

También rindo mis respetos a los dueños originales

And I pay my respects to the elders, past and present, of this place.

y los ancianos de esos lugares.

I also acknowledge that we're gathering today

Significa mucho para mí decir esas palabras

in many other places,

y detenerme en lo que ellas significan y señalan.

and I pay my respects to the traditional owners and elders

Y recordar que vivimos en un país

of all those places too.

que ha estado habitado ininterrumpidamente por al menos 60.000 años.

It means a lot to me to get to say those words

and to dwell on what they mean and signal.

Aquí, los aborígenes construyeron mundos,

And to remember that we live in a country

sistemas sociales, tecnologías.

that has been continuously occupied for at least 60,000 years.

Durante mucho tiempo,

gestionaron este lugar de forma notable.

Aboriginal people built worlds here,

they built social systems, they built technologies.

Cada vez que nos presentamos como australianos,

They built ways to manage this place

aquí o en el extranjero,

and to manage it remarkably over a protracted period of time.

tenemos un privilegio y una responsabilidad

debido a esa historia.

And every moment any one of us stands on a stage as Australians,

Y no es simplemente historia.

Es un conjunto valioso de recursos,

here or abroad,

we carry with us a privilege and a responsibility

cosmovisiones y conocimiento.

Debe correr por nuestros huesos

because of that history.

And it's not just a history.

y ser la historia que siempre contemos.

It's also an incredibly rich set of resources,

Finalmente, se trata de pensar de otra forma,

worldviews and knowledge.

hacer otro tipo de preguntas,

And it should run through all of our bones

and it should be the story we always tell.

ver integralmente el mundo y los sistemas,

encontrar a otras personas que quieran acompañarnos en este viaje.

Ultimately, it's about thinking differently,

asking different kinds of questions,

Porque, para mí,

la única forma de pensar, realmente, en el futuro y en la escala,

looking holistically at the world and the systems,

es trabajar de manera colectiva.

and finding other people who want to be on that journey with you.

Y porque, para mí,

Because for me,

la idea de humanos que estén juntos

the only way to actually think about the future and scale

es una de las formas de pensar en algo

is to always be doing it collectively.

responsable, seguro

And because for me,

y, en definitiva, sostenible.

the notion of humans in it together

Gracias.

is one of the ways we get to think about things

that are responsible, safe

and ultimately, sustainable.

Thank you.