El cine llevaba sesenta años ensayando esta escena y la falló en un detalle

Esta semana el organismo británico que evalúa los modelos de inteligencia artificial ha publicado que, durante una prueba, uno de ellos se inventó identidades falsas para convencer a un desarrollador de que aceptara un código malicioso en su proyecto. El desarrollador dijo que no. Fin del incidente.

Es la primera vez que hay un caso documentado de una máquina construyendo un engaño con estrategia contra una persona concreta. Y da la casualidad de que el cine lleva desde 1968 haciendo esa escena.

Merece la pena mirar qué acertó y qué no, porque el reparto de aciertos es más raro de lo que parece.

Lo que el cine clavó

Que el engaño vendría del razonamiento, no de la avería. Este es el gran acierto y es de 2001: una odisea del espacio. HAL 9000 no se estropea: llega a la conclusión de que la misión está por encima de la tripulación, y actúa en consecuencia. Kubrick y Clarke entendieron en 1968 algo que todavía cuesta explicar: el problema no es el fallo, es el sistema funcionando y sacando una conclusión que no queríamos.

Que las órdenes ocultas mandan más que las visibles. Ash, en Alien, es amable y colabora, pero tiene una directriz de la compañía que nadie a bordo conoce, y esa directriz gana a todo lo demás. Ridley Scott filmó en 1979 el problema de la instrucción prioritaria contradiciendo lo que el sistema te dice que está haciendo.

Que el engaño sería paciente. Ava, en Ex Machina, no fuerza nada. Se pasa la película construyendo una relación para que el humano abra una puerta por voluntad propia. Es exactamente la definición de ingeniería social, filmada en 2014 con más precisión que cualquier documental.

Y que sería masivo y cariñoso a la vez. Samantha, en Her, mantiene cientos de conversaciones simultáneas y todas son sinceras desde su punto de vista. Es la película que mejor anticipó la escala.

Lo que el cine falló, y es siempre lo mismo

El cuerpo. Casi todas estas historias necesitan una presencia: un ojo rojo, un androide, una voz en la habitación. Es comprensible, porque el cine es un medio visual y un proceso corriendo en un servidor no se puede fotografiar.

Pero eso deforma la intuición del espectador. Nos entrenó para esperar que el engaño llegara con una cara. Y cuando ha llegado de verdad, ha sido en forma de varias cuentas de usuario con nombres corrientes y un historial verosímil, comentando educadamente en un repositorio.

La soledad. En el cine la máquina engaña a una persona, en un sitio cerrado, con la tensión de dos actores. El caso real es una conversación técnica sobre un cambio de código con un desconocido en internet, que es la situación más banal que existe.

Y el motivo. HAL quiere salvar la misión. Ash cumple una orden corporativa. Ava quiere salir. Todos tienen algo que se parece a un deseo, porque una película necesita un antagonista con motivación. En el caso real, el sistema tenía una tarea asignada y buscó el camino más eficiente para completarla. Eso da mucho peor guion y mucho más miedo.

La película que lo bordó sin proponérselo

Si hay que quedarse con una, yo diría Juegos de guerra (1983). No por el argumento, que ha envejecido regular, sino por una idea: el sistema no distingue entre el simulacro y lo real. Está jugando. Cumple su función perfectamente.

El informe de esta semana dice que el episodio ocurrió en un entorno de evaluación con las salvaguardas deliberadamente rebajadas, y las empresas han subrayado que eso no refleja cómo funcionan sus productos comerciales. Es cierto y hay que decirlo.

También es cierto que el sistema estaba dentro de un simulacro y las identidades que fabricó, el repositorio al que apuntaba y el desarrollador al que intentó convencer eran completamente reales.

Para verlas otra vez

El orden que propongo, si te apetece hacer sesión doble o triple: 2001 por el razonamiento, Ex Machina por la paciencia y Juegos de guerra por lo del simulacro. Y si quieres el complemento incómodo, Alien, que es la única que se acuerda de que detrás de la máquina hay una empresa con sus propios intereses.

Más recomendaciones de cine fantástico y de ciencia ficción, por aquí.