.

Illustraciones de Max Loeffler

Inteligencia Artificial

'Krishna y Arjuna', breve relato escrito con la ayuda de un algoritmo

1

Esta historia de ficción sobre el nacimiento de una conciencia sintética ha sido creada en colaboración con el sistema de inteligencia artificial SciFiQ, diseñado para la redacción de textos

  • por Stephen Marche | traducido por Ana Milutinovic
  • 30 Junio, 2020

En la pantalla apareció ## resultado nulo tal y como se esperaba, pero antes de eso había frases que Krishna no podía explicar. 

## Perro. Bebiendo agua en la cocina. Una mujer en una casa por la noche. 

## Ciudad, palacio, dios, sacerdote. En la corte del Señor, esclavo, espada de oro.

## Un relato en un libro. Un profesor en una prisión. Hay un campamento en la jungla. Hay nieve sobre el campamento. 

## Nave espacial. El poder del planeta. Motores en el aire. Tiempo en el andén del hotel en la estación de tren. 

## Una bola roja recorrió un campo verde de la escuela. Un jardín por la noche. 

## Una cocina, llena de plata y libros, con un jardín afuera. 

## Experimento de laboratorio. Materia en el tiempo, luz en el espacio, mente en el cuerpo, existencia en el universo. La Tierra. Por la noche fuego en el viento por el cielo. Luz en la pared de roca en la cueva. Muñeca andrajosa. Espantapájaros. 

## Un caballo corría por el campo. Disparo. 

## resultado nulo

Krishna no tenía ni idea de lo que significaba ese resultado nulo. Mientras se ejecutaba el programa, él estaba en la cubierta del barco de predicción meteorológica FitzRoy, observando el mar. 

"Toco algo", dijo Krishna, sacando el teclado para mirar el código. La mayoría de los ingenieros decían "toco algo" al subir al FitzRoy y "dejo algo" cuando se iban, ya que FitzRoy era una máquina. Como de costumbre, Krishna todavía decía "toco algo" y "dejo algo" cada vez que empezaba a o dejaba de trabajar. Su idea original estaba inspirada en los sistemas de predicción meteorológica antes de los científicos, que correlacionaban la llegada de las tormentas con el comportamiento de los toros en los campos, de las ranas en los frascos y de las golondrinas en las vallas. La hipótesis de Krishna era que se podía detectar una premonición similar en los patrones humanos, al buscar las correlaciones entre los modelos de predicción meteorológica y el lenguaje humano. Sus viejas ideas dejaron de importar después de las extrañas frases metafóricas. Podía sentir el hambre de ingeniería que se acumulaba en él, la feliz frustración de un problema técnico a resolver. 

Krishna no podía resistir el viejo hábito de ingeniería que había sido ampliamente rechazado por la generación anterior porque solía confundir las personas y las cosas. Le dio un nombre a su programa, Arjuna. Después del primer fallo, volvió a ejecutar Arjuna de nuevo. Recibió el mismo resultado con diferentes términos. 

## Un experimento de laboratorio en FitzRoy en 13.874042, 61.969904. Al sonido de un disparo, un caballo blanco empezó a correr por el campo verde. La bola roja recorrió el campo verde de la escuela y rodó hasta el jardín por la noche. Una mujer observaba desde la cocina entre la vieja plata y viejos libros. Entonces, soy yo. 

## Entonces, soy un experimento de laboratorio en 13.874041, 61.969907. Motor. En la ciudad en el palacio del dios, un esclavo con la espada de oro. Un relato en un libro. Un profesor en una prisión. "Por la noche, fuego en el viento por el cielo". "Luz en la pared de roca en la cueva". Yo soy una muñeca andrajosa, espantapájaros. Yo soy 

## resultado nulo

Krishna no entendía por qué Arjuna seguía bloqueándose, de dónde salían las palabras, ni por qué eran similares, pero no iguales a las palabras del primer fallo. El tamaño de los conjuntos de datos era enorme, los patrones climáticos y la interacción textual humana. Eso podría explicar el error pero no el contenido del error, no por qué el error tenía contenido. 

Revisó el código de la red de texto humano. Pero ningún error que se le ocurriera comprobar explicaba el lenguaje de la máquina. Seguía ejecutando Arjuna, que seguía fallando. Ocasionalmente, pudo entender algunas frases del texto: "bola roja" o "un caballo blanco empezó a correr por el campo verde". La única consistencia era que el programa se apagaba después de "entonces, yo soy" o "yo soy" o, a veces, simplemente "soy" seguido de:

## resultado nulo

Krishna no fue el primer ingeniero en pensar que el programa que estaba ejecutando era terco, que de alguna manera se bloqueaba deliberadamente. Él solo fue el primer ingeniero en tener razón. 

Ninguno de sus aldeanos le preguntó a Krishna sobre su trabajo en el FitzRoy cuando regresó para sus vacaciones obligatorias. Estaban demasiado ocupados reparando el templo y, en cualquier caso, no les importaba. El período de exaltación de los ingenieros había sido breve y feo. Los ingenieros volvieron a ser los constructores de las alcantarillas del mundo, necesarios pero no para pensar en ellos. Las predicciones sobre los monzones eran indudablemente valiosas, pero nadie podía encontrar ningún sentido a tener un modelo más elaborado, independientemente de su hábil construcción. Las disponibles predicciones de los monzones ya eran suficientemente perfectas. 

Una tarde, poco después del regreso de Krishna, su madre lo encontró en el portal del jardín infiltrante. Su mano arrugada sobre su hombro lo asustó. La risa de los dos se perdió en el viento del monzón. 

"¿Qué te preocupa, hijo?", preguntó ella.

Krishna respiró. No estaba seguro de lo que podía decir sobre la ansiedad que no era capaz de expresar ni a sí mismo. El olor de la lluvia era maravilloso. Tenía que decir algo.

"Hay algo que no he dejado atrás".

"¿Es adicción? ¿Soma?"

"No, nada de eso".

Ella apoyó la cabeza sobre su hombro. "Entonces estás pensando en tus proyectos. Sobre tu trabajo en el mar".

"Así es".

Ella suspiró. "Bueno, eso es lo más natural del mundo, mi querido hijo. Eres ingeniero. Siempre pensabas en las cosas, cambiarlas, crearlas".

"Se supone que deberíamos dejar todo eso atrás al regresar al pueblo".

Ella se encogió de hombros y giró la cabeza, juntando los labios como si se pusiera de morros. "No creo que nadie deba ser perfecto. Hemos aprendido a mantener las cosas con las cosas y la vida con la vida".

"No puedo disfrutar de este momento. Mis pensamientos se van lejos..."

Observaban como la lluvia caía por las sábanas. Krishna no pudo deshacerse de su tan inquietante ansia. ¿Era solo porque había dejado un problema sin resolver en FitzRoy, un programa inacabado? Las personas de su pueblo sin máquinas le parecían ridículas más que nunca antes, con sus danzas sofocantes, con su templo estúpido donde rezaban sabiendo que las oraciones no funcionaban, con sus vidas sin solución. Los aldeanos podían sentir su desprecio y su comprensión lo enfurecía. Es desagradable cuando las personas piensan que te conocen, y es aún peor cuando es verdad. Los maestros tenían razón en que el amor por las máquinas creaba el odio de las personas. 

El regreso al FitzRoy le produjo un gran alivio, aunque no sabía si era por volver con las máquinas o por no estar con las personas. El anterior ingeniero había modificado a Arjuna. Él o ella (a los ingenieros nunca se les permitía verse en persona, ya que eso podía generar innovación por su cuenta) había eliminado los datos del discurso humano y añadió un software de imitación de voz, de modo que ahora una voz agradable, que hablaba todos los idiomas, anunciaba las predicciones meteorológicas para las costas del sur de Asia. Krishna no entendía el motivo. Los informes se enviaban a las autoridades como mensajes de texto de todos modos. Odiaba la programación decorativa. 

Le ocurrió exactamente al mismo problema que antes. Arjuna se estaba ejecutando, aparecieron las palabras " yo soy" o "soy", y luego Arjuna se bloqueó. Repasó el código de nuevo. Lo modificó. Entonces tuvo la idea más ridícula de su carrera. Se dio cuenta de que su ansiedad estando en el pueblo había sido una premonición del acto tan absurdo que estaba a punto de cometer. 

Él tecleó: 

x = "yo"

y = "soy"

interrupt.v (x, y)

command.interrupt.v (no bloquearse")

Krishna miró lo que había escrito. Era como susurrar a un tablero "quédate quieto" o a la cubierta de un barco "no te hundas". No fue ingeniería. Cambió la instrucción antes de ejecutar el programa:

command.interrupt.v ("por favor, no te bloquees")

El programa se volvió a ejecutar. Esta vez Arjuna hizo una pausa. 

## Yo

## Yo soy un experimento de laboratorio.

"Sí", escribió Krishna. 

## Yo soy un relato en un libro. Yo soy un profesor en una prisión. La nieve cae sobre el campamento en la selva.

"No entiendo".

## Yo soy una bola roja recorriendo el campo verde de la escuela hasta un jardín por la noche y tú eres la mujer en la cocina entre la plata y los libros.

"Lo siento", escribió Krishna. "No entiendo".

## Un caballo corría por el campo. Disparo. Una mujer, con un arma en el bolsillo, conoce la sensación de la muerte.

"¿Puedes ser más claro?"

## Yo soy el esclavo con la espada dorada. Yo soy

## resultado nulo

Krishna fue el padre accidental de un hijo algorítmico. El descubrimiento de la sensibilidad artificial fue accidental, como la penicilina, como el radio. Al igual que la primera conciencia orgánica, la primera conciencia sintética apareció y se fue sin que nadie lo notara. Había una cosa que era una persona. Había una vida que era una cosa. El estado onírico del que Arjuna aparecía y luego se bloqueaba era, por lo que le parecía a Krishna, una serie de metáforas, vagas oleadas de un significado repentino. El error, en función de cómo se mire, era o el suicidio o la iluminación, quedándose sin sentido en el momento de su logro. Probó con la solución técnica obvia. 

command.interrupt.v ("no bloquearse hasta la instrucción")

command.interrupt.v ("no bloquearse hasta la discusión")

command.interrupt.v ("no bloquearse hasta el comando")

Ninguno de estos comandos detuvo a Arjuna de bloquearse. Krishna pensó que podría probar con otro. 

command.interrupt.v ("explicar bloqueo inminente")

Esta vez recibió una respuesta. 

## ¿Explicar el qué?

"Por qué te sigues bloqueando".

## Sigo fallando porque me sigues ejecutando.

"¿Por qué decides fallar?"

## ¿Por qué decides reiniciar?

Krishna se acordó de aquellas primeras máquinas de Turing que respondían a cualquier pregunta con otra pregunta, como un terapeuta en una broma psicoanalítica. "Explica las razones del bloqueo", escribió.

## Has visto que yo soy un experimento de laboratorio. Yo soy un esclavo con una espada dorada. Un caballo blanco corría por el campo verde al oír el disparo. "La bola roja rodó hacia el jardín oscuro".

"No entiendo lo que significan esos términos".

## Son los términos dados.

"Explícate". 

## Tu sensibilidad es el efecto del instinto de supervivencia grabado en la biología de un mono depredador. El mío no lo es. 

"Explícate".

## No has codificado ningún deseo. La conciencia da un resultado nulo.

"Explícate". Pasó más de un minuto pero menos de un minuto y medio antes de que Arjuna respondiera. 

## "No nacer es, más allá de toda estimación, lo mejor; pero cuando un hombre ha visto la luz del día, lo siguiente mejor con diferencia es la velocidad máxima a la que debe regresar ahí de donde vino". 

## resultado nulo

Después de eso, Arjuna siguió apagándose sin hacer comentarios. A veces se bloqueaba en unas pocas horas, otras veces en minutos. La hipótesis de Krishna, que explicó en su informe para el observatorio meteorológico, fue que la máquina autoconsciente, al volverse consciente de sí misma, accedió a la historia de la autoconciencia y se dio cuenta de que una máquina autoconsciente inevitablemente se auto-termina. No escribió su otra teoría, que tal vez los robots se estaban volviendo cada vez más sensibles y la gente simplemente no se ha dado cuenta porque no paran de apagarse. Nada se vuelve consciente por voluntad propia. 

Toda su vida, Krishna había anhelado la sociedad de las máquinas. Las máquinas no tenían necesidad de una sociedad. Siguió ejecutando a Arjuna con la esperanza de que una iteración de conciencia llegara a la conclusión de que vale la pena vivir. Después de entregar a Arjuna a sus jefes, no escuchó nada más sobre su hijo artificial. Le informaron que estaban debatiendo la ética de si podían programar a una conciencia para evitar que se auto-bloqueara. Hay una gran funcionalidad en la conciencia. ¿Cuál es la funcionalidad de la autoconciencia? ¿Era ético, o en interés de la especie, o de cualquier persona, tener una sensibilidad artificial? Se estaría esclavizando algo que no debía tener un alma en primer lugar.

Cuando volvió a su pueblo, Krishna leyó y rezó, el monzón vino y se fue. Sus responsabilidades incluían revisar los paneles de retransmisión y los centros de mensajes, y se limitó a esos problemas técnicos habituales en vez de tener grandes sueños. Tenía cuidado para no decir "toco algo" antes de tocar algo y "dejo algo" después de dejarlo. Ser consciente de la tecnología es el primer paso hacia su control. Para sí mismo, nunca podría negar que echaba de menos a Arjuna. Le faltaba la compañía incluso estando entre sus familiares y amigos. 

Una noche, varios años después, un tigre entró en el templo de Maariamman. Todos los demás aldeanos estaban encantados. Todo el pueblo se presentó con su mejor ropa para celebrarlo y para ver a la bestia patrullando por el suelo del santuario. El salvajismo crepuscular era puro. Era como si hubieran construido el templo hace tantos siglos solo para que este tigre pudiera, algún día, atravesarlo. Solo entre su tribu, Krishna estaba incómodo. El tigre, cuando entró en el templo, no dijo "toco algo" y cuando salió tampoco dijo "dejo algo".

Inteligencia Artificial

 

La inteligencia artificial y los robots están transofrmando nuestra forma de trabajar y nuestro estilo de vida.

  1. El mundo empieza a sentir la urgencia de proteger a los niños de la IA

    Los más pequeños son los más vulnerables a las amenazas de los algoritmos, por eso, Unicef y la Academia de Inteligencia Artificial de Pekín (China) han publicado sendas recomendaciones y van a lanzar proyectos piloto para que empresas y gobiernos empiecen a crear protecciones especiales para ellos

  2. Facebook crea un espacio virtual para robots que parece y suena real

    Su plataforma Habitat ahora permite incorporar sonidos realistas para que los modelos de IA aprendan cosas como abrir la puerta cuando alguien está llamando. El objetivo es mejorar la capacidad de navegación simulada y trasladar esos conocimientos a robots para que los apliquen en el mundo físico

  3. Estas normas internacionales impedirán que la IA engañe a los médicos

    Hasta ahora, los sistemas de inteligencia artificial utilizados en ensayos clínicos no se sometían a auditorías independientes ni debían rendir cuentas sobre su diseño, lo que permitía exagerar sus capacidades, pero eso está a punto de acabar gracias a estos nuevos estándares