Joanna Zylinska. La inteligencia artificial en la creación artística

El uso de la inteligencia artificial en la creación artística

En su libro AI Art: Machine Visions and Warped Dreams explora la relación entre la IA y el arte. ¿Cómo piensa que la IA está cambiando el modo en que creamos y experimentamos arte?

En el libro era bastante crítica con muchos de los resultados reales que la IA ofrecía en su primera fase de expansión a principios de esta década: creaciones visuales estridentes generadas con tecnología GAN (Generative Adversarial Network), con resultados que transitaban entre el salvapantallas y la típica visualización kitsch para apps sobre meditación. En la mayoría de los casos, el objetivo principal de estas obras era mostrar la destreza técnica de sus creadores –y de los patrocinadores de la Big Tech–. Sin embargo, reconozco que estamos en una fase más madura y que hay interesantes avances en el campo del arte con IA. Además, es importante tener en cuenta que el término “arte con IA” es controvertido. Quizá sería más preciso hablar de “arte a partir del uso de una tecnología de aprendizaje automático”, aunque también se utilizan términos como “IA creativa”, “creatividad computacional” o simplemente “media art”. Propongo en este sentido quedarnos con la expresión “arte con IA”.

Para mí, uno de los efectos más interesantes que está teniendo la IA en la actualidad es incitarnos a repensar qué es el arte y para qué sirve, e igualmente importante es la pregunta a quién se dirige. El arte con IA nos obliga a revisar los valores culturales y económicos que atribuimos al arte, nuestra definición clasista de la cultura y nuestras ideas asociadas a la propiedad y a lo apropiado. La avalancha de creaciones generadas con herramientas de inteligencia artificial como Midjourney o DALL-E 2 suscita hoy mucha inquietud porque pone en tela de juicio nuestra idea de la creatividad como una facultad puramente humana, nos lleva a deducir que, si una máquina es capaz de producirlas, quizá lo que se consideraban características más genuinamente humanas, una expresión del alma o del yo más verdadero, no son exclusivas en absoluto. Con esto no pretendo menospreciar preocupaciones más que justificadas sobre el futuro de un sinfín de trabajos vinculados a lo creativo o sobre la creatividad como materia educativa, ni exculpar a las empresas de inteligencia artificial que se han aprovechado para desprenderse de recursos humanos y naturales, sin ningún tipo de sanción. Pero tenemos que situar el arte generado por la IA en el contexto más amplio del arte producido con recursos no humanos: impulsos, virus, drogas, o todo tipo de sistema de interconexión o red, desde el micelio hasta Internet. Tengo la esperanza de que el arte con IA nos haga reflexionar sobre qué tipo de productos artísticos y culturales valoramos y cómo podemos sostener las instituciones e infraestructuras que promueven la idea de nuestra configuración mental creativa o de un modelo creativo de estar en el mundo. No creo que dejemos de producir arte sólo porque Stable Difusion produzca infinitas mezclas de píxeles a una velocidad sin precedentes, pero tendremos que cambiar de dirección, del mismo modo que la pintura tuvo que replantearse como medio tras la invención de la fotografía.

En muchas de sus reflexiones se ha interesado por la fotografía no humana. Para las personas que aún no están familiarizadas con su trabajo, a quienes animamos a que lo hagan, ¿podría explicar brevemente qué entiende por “fotografía no humana”?

El concepto de fotografía no humana se refiere a fotografías que no son de, por o para el ser humano: (1) paisajes despoblados (por ejemplo, obras de Robert Capa, Andreas Gursky o Trevor Paglen), (2) imágenes tomadas por cámaras de satélite o equipos endoscópicos, y (3) códigos QR o fotos de rostros humanos utilizadas en sistemas de seguridad automatizados que ayudan a esos sistemas a “decidir” a quién dejan entrar y a quién no. Al proponer este concepto no estoy diciendo que no haya humanos implicados en la producción fotográfica, sólo señalo una imbricación de elementos humanos y no humanos en la constitución del mundo. Mi objetivo es asimismo llamar la atención sobre ciertos usos inhumanos de la fotografía que caracterizan parte de nuestra faceta sociopolítica. Podría decirse que el concepto de fotografía no humana ha cobrado aún más fuerza en la era de la IA generativa, con el uso de modelos de conversión text-to-image entrenados a partir de ingentes cantidades de datos fotográficos para crear imágenes fotorrealistas. Intervienen aquí múltiples procesos de agencialidad y es necesario explorarlos, además de cuestionarlos con cierta frecuencia.

En resumen, el concepto de fotografía no humana nos permite situar nuestra historia humana en una concepción mucho más amplia de lo que podemos entender como procesos no humanos, a través de los cuales efectos como cambios de color producidos por el sol o la fosilización podrían interpretarse como formas de proto-fotografía. Con ello, lo que hacemos es recalibrar lo humano a una escala diferente, abriendo la posibilidad de salir de aquel narcisismo específico de la especie humana a través del cual nos hemos atribuido una posición dominante en el mundo –y un poder nefasto para moldearlo y destruirlo–.

Además de interesarse por la fotografía no humana, su trabajo responde de forma interesante a cómo debemos entender el Antropoceno. Centrándonos en estos dos principios, nos gustaría que nos dijera cómo los combina en su trabajo.

Gran parte del trabajo sobre el Antropoceno se ha desarrollado en el contexto de intentar comprender nuestra responsabilidad humana con el planeta. En los últimos años, los estudiosos del ámbito de las Humanidades se han interesado especialmente por cómo este replanteamiento de la agencialidad humana más allá de los límites de nuestro cuerpo y mente demuestra lo que muchas ontologías no occidentales saben desde hace mucho tiempo: que somos del mundo, que estamos co-constituidos con él. Esta comprensión relacional de nuestro ser convierte la cuestión de la responsabilidad y la ética en la única respuesta viable al mundo y sus asuntos, ya sean medioambientales o sociopolíticos. La situación de “crisis climática” –término afín al de “Antropoceno”–en la que se encuentra hace que esta respuesta sea especialmente urgente. Las imágenes, especialmente aquellas imágenes técnicas conocidas como fotografías, desempeñan un papel fundamental en la comprensión de nuestro “situarnos” en el mundo.

Es importante que veamos las fotografías no sólo como figuras de representación y visualización sino, lo que quizá sea más importante, también como figuras de la imaginación. Entender los fósiles que hemos mencionado más arriba como sus antecedentes permite relacionar la práctica de la fotografía y su estatus tecnológico con el funcionamiento del sol y, desde ahí, con los procesos de contaminación, radiación, agotamiento y extinción de los combustibles fósiles. Es en este sentido que el problema del Antropoceno puede conectarse con la demanda planetaria que acucia nuestro presente. La fotografía no humana puede convertirse en un dispositivo reflexivo y visual con capacidad para acercarnos a este problema, no sólo conceptualmente, sino también material o físicamente: a través de nuestros dedos, narices y pulmones.

Presente y futuro de la creación artística con medios digitales

¿Podría hablarnos de su investigación actual sobre la inteligencia y la percepción, humana y de las máquinas?

Recientemente he publicado un libro titulado The Perception Machine: Our Photographic Future Between the Eye and AI, una continuación de Nonhuman Photography, pero entendiendo como eje central el problema de lo humano, de la percepción y la comprensión humanas. Particularmente me interesa cómo los recientes desarrollos y articulaciones de la (supuesta) inteligencia artificial nos convocan como humanos para repensar nuestras ideas y valores en lo que se refiere a cómo nos vemos a nosotros mismos y al mundo, cómo construimos nuestros sistemas de conocimiento y al papel de las imágenes en la construcción de esos sistemas. La noción de “máquina de percepción” que propongo es una metáfora de las diferentes capas que podemos utilizar para describir la organización actual de nuestra sociedad y política, y de las entidades y organismos tanto humanos como no humanos que las habitan. Como concepto, esta máquina de percepción permite describir una condición en la que todos estamos constantemente viendo y siendo vistos, no sólo por otros seres humanos, sino también por ojos mecánicos instanciados en cámaras de vigilancia y operaciones de visión artificial... y por quienes los controlan. También exploro cómo está cambiando la percepción humana en y a través de nuestra relación con las máquinas. Por último, pero no por ello menos importante, examino el funcionamiento de las tecnologías de creación de imágenes, desde las cámaras como dispositivos independientes o funciones incluidas en los teléfonos inteligentes hasta los programas y modelos de generación de imágenes. El título del libro toma prestada la “Máquina de Visión” de Paul Virilio y la sitúa en un encuentro con la obra de Vilém Flusser sobre el futuro de diversos medios de comunicación (fotografía, libros), configurando a partir de ahí mi propia visión de la filosofía de los medios. Ofrece asimismo un intento feminista de responder a acuciantes exigencias planetarias, con capacidad para superar todo tipo de salvacionismo rimbombante, ya sea filosófico o militar.

¿Cómo cree que la crisis planetaria afecta a la forma en que imaginamos el futuro, y cómo se relaciona esto con su trabajo en el arte de los nuevos medios?

La situación de crisis profunda en la que se encuentra nuestro planeta a múltiples niveles puede inducir una sensación de parálisis, la incapacidad no sólo de actuar sino también de imaginar posibilidades futuras. Creo que el arte, y el arte de los nuevos medios en particular, debido a su vínculo evidente con la tecnología, puede ayudar a superar este impasse. Puede ayudarnos a buscar nuevas ideas y nuevas articulaciones, distanciándose de la mera celebración doliente del mundo en crisis. (Y, a decir verdad, ha habido muchas declaraciones de este tipo en los últimos años, regodeándose en el placer de la ruina, que en sí mismo es un tropo artístico bien conocido, e incapacitante en igual medida). Además de mi trabajo filosófico, la práctica artística que desarrollo supone un espacio que me permite poner en movimiento una faceta diferente del sensorio y una sensibilidad diferente, para sentir y pensar de otra manera. En general, escribo y pienso siendo consciente de que sólo puedo ofrecer visiones parciales y respuestas fragmentarias, pero esta forma multimodal de trabajar es un intento de presentar un collage de imágenes e ideas a partir de estos fragmentos, al tiempo que hago visibles la costura y el adhesivo tanto en mis textos como en mis imágenes.

¿Cómo ve el futuro del arte en la era de la informática?

Me gustaría hacer de abogado del diablo y partir de que, quizás, la creatividad humana siempre ha sido algorítmica, que se ha basado en la ejecución de varios conjuntos de reglas conocidos como programas, considerando como más interesantes aquellos casos cuyos resultados que han implicado un fallo algorítmico. La computación como promotora de tecnologías y pensamientos algorítmicos procesados a partir de aquellas máquinas diferenciales que conocemos como ordenadores es sólo la etapa más reciente de este proceso. Dicho lo cual, el arte asistido por ordenador, y en particular el arte impulsado por tecnologías de aprendizaje automático, ha abierto nuevos horizontes y nuevos retos, como hemos comentado previamente. Me entusiasman las posibilidades y las preguntas que plantea este desarrollo pero igualmente creo que necesitamos una educación artística sostenible y una política creativa responsable a escala nacional si queremos evitar que el discurso en torno al arte sea secuestrado por las grandes empresas tecnológicas, convirtiendo el arte y la creatividad en una forma reducida de producción sin sentido de artefactos generados por ordenador.

Un nuevo paradigma de metodologías de la enseñanza en el campo del arte

¿Podría explicar cómo usa los medios digitales y la inteligencia artificial en la enseñanza y creación de arte?

En mi propia práctica me interesa explorar lo que el artista David Young ha denominado “pequeña IA”, esto es, quiero llamar la atención sobre el momento singular en que la tecnología es todavía bastante imperfecta, cuando revela problemas en lugar de ser completamente perfecta. Esta idea se hace evidente en la película que hice en 2021 titulada A GiF of the World (Oedipus on the JeKy), un remake del famoso fotofilm de Chris Marker La Jetée. Para realizarla, extraje las imágenes fijas de la película de Marker y las reelaboré con ayuda de un modelo GAN. También introduje la famosa frase inicial de la película “esta es la historia de un hombre marcado por una imagen de su infancia”, en el modelo de lenguaje GPT-2, que entonces produjo su propia versión del guión en respuesta a esa frase. Como la tecnología generativa, tanto a nivel de imagen como de texto, estaba aún en pañales, los resultados eran muy imperfectos, y esto los hacía desde mi punto de vista artísticamente interesantes. El guión resultante acabó siendo un vórtice de confusión entre géneros y pronombres, reescribiendo la historia de salvación eminentemente masculina presente en La Jetée como un relato contra-apocalíptico polifónico de género fluido. Este enfoque más bien desenfadado y low-tech del arte y la creación artística es visible también en mi labor docente.

¿Cómo, exactamente, se refleja en su docencia, y cómo inculca esos principios éticos en sus estudiantes cuando les enseña a usar los medios digitales y la inteligencia artificial para crear arte?

Huelga decir que, en lugar de prohibir a los alumnos el uso de la IA, les animo activamente a experimentar con la tecnología. El objetivo, sin embargo, no tiene nada que ver con el virtuosismo técnico, sino con la capacidad de comprender los fundamentos de los modelos de IA, así como sus limitaciones. Por ejemplo, en el máster que imparto, titulado The Digital Image, los estudiantes tienen que realizar un trabajo práctico sobre ecologías mediáticas o sobre la posibilidad de que todos vivamos en la máquina de la percepción, utilizando una plataforma y un conjunto de herramientas a su elección. El trabajo debe ir acompañado de un ensayo basado en la investigación, capaz de ofrecer una reflexión crítica sobre las opciones creativas, anclando estas últimas en debates teóricos más amplios. Las cuestiones éticas son importantes tanto en la fase más pedagogica como en la evaluación pero, para mí, estas cuestiones son algo distinto de la “ética de la IA”. Ésta última a menudo adopta de forma restrictiva fórmulas de ocultación de los mecanismos o procedimientos implicados para fingir que las empresas responsables son una fuerza del bien, en lugar de permitir una investigación más profunda sobre el problema de la responsabilidad en un mundo en el que el Otro plural –tanto de tipo humano como no humano–siempre me precede y me exige. (Derivo esta idea de la filosofía de Emmanuel Levinas, aunque la reelaboro a través de una perspectiva crítica posthumanista). Por eso creo que es necesario un compromiso serio con la ética y punto –no con su versión truncada llamada “ética de la IA”–.

En este sentido ¿Podría indicar alguna metodología para aplicar estas tecnologías a la práctica y a la educación artísticas?

El nombre de mi campo de trabajo es probablemente el que mejor resume mi metodología: Actualmente soy profesora de Filosofía de los medios y Práctica digital crítica en King’s College. Mi enfoque, por tanto, consiste en combinar el pensar y el hacer, y esta fórmula parte del pleno reconocimiento del hecho de que medios diferentes ofrecen posibilidades diferentes que nos permiten lograr cosas diferentes. Pero también pretendo utilizar la práctica –especialmente, en mi caso, la práctica basada en la imagen, aunque impulsada por preocupaciones conceptuales–para abrir una forma diferente de pensar y sentir. Intento transmitir esta metodología a mis alumnos a través del material que leemos y examinamos, el formato de las clases y la evaluación.

Ética de la creación artística con inteligencia artificial

En su opinión, ¿hay que tener en cuenta algunas consideraciones Éticas a la hora de desarrollar modelos de IA potentes?

Sí, absolutamente, aunque estas consideraciones deben ser tanto sociopolíticas como éticas. Como ya he dicho, desconfío de la evolución de la ética de la IA, o más bien de su lógica. Mientras las empresas tecnológicas puedan marcar la casilla de la ética demostrando que han “considerado” las cuestiones de parcialidad, representación o incitación al odio, se considerará que están del lado de los ángeles y se les permitirá seguir adelante con lo que estén haciendo, sin tener que preocuparse por los graves problemas de injusticia, desigualdad, racismo, sexismo, falsedad y violencia que sus productos puedan reforzar. Hay, por tanto, algunas cuestiones más profundas, o incluso podríamos decir fundamentales, que no se abordan en el marco de este tipo de investigación ética: si así fuera, no tendríamos que hablar de ética de la IA, sino de la ética como tal. El uso generalizado de la (así llamada) IA exige, por supuesto, una respuesta específica a este conjunto de desarrollos, pero yo diría que es en el ámbito de la regulación y la política donde tales respuestas se ejecutarían con más éxito, con beneficios para amplios sectores de la sociedad. Sin embargo, las empresas que desarrollan los modelos y herramientas dominantes de IA tienden a abominar de la regulación, equiparándola con el gran Estado, la asfixia de la innovación y el freno a sus beneficios. Por eso se inventan principios éticos débiles, bajo el único requisito de que suenen bien, como estrategia que les permite seguir con sus nocivas actividades, hasta que alguien (la Unión Europea, el Congreso de Estados Unidos, los sindicatos) les dice que paren.

¿Cómo aborda la ética en la creación artística contemporánea con medios digitales?

¿Cómo equilibra las posibilidades creativas con las preocupaciones éticas?

Como ya mostré en mi anterior trabajo sobre la “ética mínima” (Minimal Ethics for the Anthropocene), me interesan principalmente las formas no normativas de ética, es decir, las formas de ética que no ofrecen ningún catálogo de normas por adelantado. (La razón es que no creo que la ética por sí sola, como articulación sobre cómo debe vivir la gente, funcione sin convertirse de inmediato en una especie de moralismo o control). La ética necesita un suplemento político, una manera de elaborar las estrategias y los modos de ser en una sociedad en la que hay múltiples demandas, de múltiples sujetos, y múltiples grupos de sujetos, que manifiestan también diferentes formas de acceso al poder. Lo que la política necesita, a su vez, es un horizonte de justicia (en el que trabajar constantemente) y aquella condición mínima de responsabilidad de la que hablábamos antes. Creo que estos principios pueden aplicarse a la creación artística que utiliza medios digitales, incluida la IA. Hay que plantearse cuestiones en torno a la justicia aunque, en el caso de las prácticas laborales y el uso no autorizado de obras de artistas para nutrir las bases de datos del aprendizaje automático, se intenta devaluar el arte y la práctica creativa como actividades sociales sin finalidad. Aquí nos encontramos de nuevo en el ámbito de la política y la legalidad.

¿Podría comparar su punto de vista sobre cómo influye la ética en su proceso de creación artística, especialmente en los medios digitales y la inteligencia artificial?

Permítame proponer como ejemplo un proyecto que desarrollé para el libro AI Art. En 2018, en un siniestro anticipo de la situación del mundo convertido en un escaparate que propició el aprovechamiento capitalista del coronavirus, realicé una foto-película titulada View from the Window. Proponía contratar a 100 trabajadores de la plataforma Mechanical Turk (MTurk) de Amazon, una plataforma comercial online que pone en contacto a proveedores de mano de obra con demandantes de todo el mundo, para que cada uno de ellos hiciera una foto de una vista desde la ventana de la habitación en la que se encontraba. La plataforma MTurk, denominada informalmente “inteligencia artificial artificial” por la propia Amazon, reduce a los humanos al papel de meras máquinas, con trabajadores de todo el mundo en espera de un contrato que les permita ejecutar tareas sencillas pero aburridas, como etiquetar fotos o hacer encuestas, tareas que serían demasiado caras para que una empresa programara un ordenador para realizarlas.

A los MTurkers sólo se les conoce por su identificación numérica, configurando lo que podemos entender como una vaporosa nube digital. Lo que pretendía conseguir con mi fotofilm era re-materializar esa ilusión nebulosa a partir de la producción de un retrato de grupo de las ubicaciones de los MTurkers. View from the Window presenta una instantánea demográfica de la mano de obra mundial, mirando hacia fuera. La inteligencia humana de la mano de obra invisible de Amazon pone en movimiento la tecnología digital para simular el trabajo de las máquinas, pero también fractura la imagen brillante del mundo de las máquinas al introducir en esa imagen las huellas materiales de los cuerpos humanos y sus ubicaciones. Pero el uso de MTurk para este proyecto no estaba exento de problemas éticos y, de hecho, podría considerarse que contribuía a fomentar unas condiciones laborales injustas al dar publicidad a la plataforma de Amazon. Yo era consciente de ello, y la exploración de estas cuestiones y condiciones formaba el tejido mismo de mi proyecto. Mi intención, nacida de la necesidad ético-política de entender la fuerza retórica y material de la “inteligencia” en la era del capitalismo digital global, era ofrecer un punto de vista diferente a la hora de percibir la relación entre los seres humanos y la tecnología en este momento particular. Y lo más importante fue reconocer que había un punto de vista, y que aquellas “vistas desde ninguna parte” –por utilizar la frase de Donna Haraway–promovidas por muchas empresas de IA, acaban situando a un humano muy concreto (blanco, varón, ahistórico) en la imagen. Así que podría decirse que las preocupaciones éticas son la fuerza motriz de mis proyectos artísticos, proporcionan una lógica y un tejido, incluso si la obra en sí elige la estética como su principal modo de expresión. Para mí, la estética está –como lo estuvo para una larga serie de filósofos europeos, desde Immanuel Kant hasta Jean-François Lyotard y Christine Bapersby–inextricablemente unida a la ética.

Obras citadas

Zylinska, J. (202). AI Art: Machine Visions and Warped Dreams. Open Humanities Press. http://openhumanitiespress.org/books/download/Zylinska_2020_AI-Art.pdf

Zylinska, J. (2014). Minimal Ethics for the Anthropocene. Open Humanities Press. http://openhumanitiespress.org/books/download/Zylinska_2014_Minimal-Ethics-for-the-Anthropocene.pdf

Zylinska, J. (2017). Nonhuman Photography. MIT Press.

Zylinska, J. (2023). The Percep9on Machine: Our Photographic Future Between the Eye and AI (open access; includes a link to the film, A GiF of the World [Oedipus on the JeKy]). MIT Press. https://direct.mit.edu/books/oa-monograph/5687/The-Perception-MachineOur-Photographic-Future