Lo que una máquina no puede firmar

Firmar una obra es mucho más que poner un nombre en una esquina. Es decir: esto lo he hecho yo, puedes preguntarme por qué, y respondo de ello. La firma es una promesa de responsabilidad. Por eso la pregunta sobre las imágenes generadas por inteligencia artificial no es solo estética, sino ética: ¿quién firma lo que nadie ha hecho del todo?

Autor frente a procedencia

Una imagen generada tiene procedencia: un modelo, unos datos de entrenamiento, una instrucción escrita por alguien. Puede rastrearse, al menos en teoría. Pero la procedencia no equivale a la autoría. Un autor puede explicar una decisión, arrepentirse de ella, defenderla o corregirla. La procedencia, en cambio, solo describe un proceso. No responde preguntas.

Un autor puede decir «me equivoqué». Un proceso solo puede volver a ejecutarse.

La responsabilidad diluida

Cuando una imagen generada engaña, ofende o suplanta, la responsabilidad se reparte entre tantos actores que termina por desaparecer: quien escribió la instrucción, quien entrenó el modelo, quien lo distribuye y quien comparte el resultado. Cada uno puede señalar al siguiente. Esa dilución es cómoda para todos y peligrosa para el espacio público.

Walter Benjamin hablaba del aura como aquello que la reproducción técnica hacía desaparecer: el aquí y ahora de la obra. La generación automática va un paso más allá. No reproduce una obra existente: produce imágenes sin un aquí, sin un ahora y sin un alguien.

Qué podemos pedir

• Que las imágenes generadas se identifiquen como tales, sobre todo cuando representan personas o hechos.
• Que quien las publica asuma la responsabilidad que el modelo no puede asumir.
• Que en las aulas se enseñe a distinguir entre crear, encargar y generar.

En Mr. Golut las ilustraciones las firma quien las dibuja. No es nostalgia: es la forma más sencilla que conocemos de que siempre haya alguien a quien preguntar.