Como afirmabas en tu conferencia (Martín Prada, 2023a), en un futuro muy cercano, aproximadamente el 90% de los contenidos audiovisuales de la red estarán generados por IA; dado que la generación de imágenes no se basa en la captura directa de la realidad sino en la interpretación y la probabilidad estadística de la información de un determinado conjunto de datos (dataset) y asumiendo que la construcción de nuestra imagen del mundo (y de la realidad) esta principalmente mediada por la red, ¿Cuáles pueden ser las implicaciones filosóficas de este enfoque en nuestra percepción de la realidad o de la verdad?
Creo que la aparición de estos modelos generativos de IA conforma un fenómeno tan relevante en la evolución de la cultura visual como lo fue, por ejemplo, la aparición de los social media a principios de este nuevo siglo. Se trata de tecnologías de imagen con las que se da un paso más hacia el primado de los simulacros, aquel estado anticipado por Jean Baudrillard en sus textos de finales de la década de los setenta y de principios de los ochenta (sobre todo en su Simulacres et Simulation de 1981). Recordemos que lo hiperreal era definido allí como el resultado de la generación por los modelos de algo real sin origen ni realidad. Y es evidente que ya las redes se están llenando de imágenes calificables como de hiperreales en este sentido. Dentro de poco dejaremos de ser capaces de saber qué imagen es un testimonio gráfico del mundo y qué no lo es. El velo de las apariencias acabará por cubrirlo todo. En realidad, la IA viene a ser como ese genio maligno del que escribiera el filósofo Descartes, ese “geniecillo”, generador de ilusiones en todas partes. Habrá que aprender a convivir con ello.
Por otra parte, si la creación artística audiovisual tuviera que replantear su sentido y finalidad a partir de ese mismo enfoque, ¿qué líneas de investigación académica consideras esenciales para comprender plenamente la influencia de la inteligencia artificial en la creación artística audiovisual?
Todos los campos del saber se están viendo ya profundamente alterados con los espectaculares desarrollos de la IA en los últimos años. Particularmente, en el campo de la estética y de la teoría del arte, es fundamental que abordemos cómo la IA problematiza conceptos como los de autoría, originalidad o creatividad. Por supuesto, en el ámbito de la educación artística es fundamental abrir líneas de trabajo específicamente centradas en los nuevos modelos generativos de creación de imágenes, así como en el conocimiento de las nuevas formas de interacción con estos. Por ejemplo, términos como “prompt design” o “prompt programming” serán centrales en la formación de los artistas. No obstante, el estudio de la IA no puede obviar el abordaje de sus implicaciones éticas.
Por otro lado, creo que, en la evolución del arte contemporáneo, el mayor impacto de la IA va a estar más centrado en la tematización crítica de la IA que en su mera utilización como forma de creación de imágenes. Frente a todas las indagaciones en torno a las capacidades derivativas y combinatorias de estos sistemas generativos, un buen número de artistas están ya optando por estrategias orientadas en una dirección totalmente diferente (pensemos, por ejemplo, en los trabajos de Trevor Paglen). Se trata de una problematización crítica de la IA desde el campo artístico, centrada en una reflexión sobre los discursos predominantes en relación a la IA. En estas vías, la IA es abordada críticamente, dejando a un lado sus potenciales como medio o herramienta para la creación visual, para dar así paso a una investigación poética y cuestionadora centrada, sobre todo, en los efectos de estas tecnologías en nuestra cotidianeidad y en la producción de nuestra subjetividad. Son propuestas enmarcables bajo el amplio concepto de “Critical AI”. Prácticas que, ante todo, se orientan a reflexionar sobre los puntos “ciegos” de los discursos dominantes acerca de estos sistemas inteligentes. El componente crítico de estas prácticas de carácter claramente neoconceptual, se enmarca en la más amplia reclamación de modelos de IA más alineados, es decir, más acordes con los principios éticos fundamentales. Propuestas creativas y críticas, muchas de ellas a caballo entre el arte y el activismo y que, en un plano más general, contribuyen a las reflexiones que desde hace tiempo hemos visto tomar forma, en el arte más comprometido con el análisis crítico de la cultura digital, en torno a la cuestión de la “gubernamentalidad algorítmica”.
En esta conferencia señalabas también que la inteligencia artificial ha influido en diversas dimensiones de nuestra cultura visual, desde las mismas representaciones visuales hasta la ética y la responsabilidad respecto de lo visual. En este sentido, considerando las desigualdades de acceso a un conocimiento crítico del funcionamiento e implicaciones de estas tecnologías, ¿cómo crees que las sociedades contemporáneas están adaptando sus sistemas de valores y normas culturales para acomodar esta transformación de la creación y percepción de imágenes?
Los actuales desarrollos de la IA suponen profundas transformaciones que exigen adaptaciones sociales y legislativas muy complejas. Son desde luego prioritarias las que tienen que ver con la educación, que debe incorporar, ya desde las primeras etapas, contenidos no solo acerca de cómo usar la IA, sino también orientadas a comprender sus efectos en la sociedad y sus posibles peligros.
Como proponía Yuval Harari, una de las primeras formas de regulación de la IA debiera ser que fuese obligatorio que una inteligencia artificial revelase siempre que es una inteligencia artificial (uno de los rasgos característicos de la IA es que continuamente juega con la irreconocibilidad). Ello ayudaría a la evitación de equívocos que fomenten fenómenos de desinformación, como las “fake news”. Igualmente, es imprescindible que se reconozca la necesidad de que las tecnologías de IA sean accesibles para todos, promoviendo proyectos basados en software libre y de código abierto que impidan la monopolización de estas tecnologías por parte de unas pocas corporaciones. Específicamente en relación a la IA aplicada a los campos de la imagen, debemos exigir más transparencia en los modos de entrenamiento de estos sistemas de IA, de modo que su uso no esté vinculado a una explotación no consentida del trabajo de miles de creadores visuales. Es particularmente importante que se desarrollen normas internacionales que protejan sus derechos frente a los usos ilegítimos o abusivos que las corporaciones de IA puedan hacer de sus creaciones.
Mencionabas también la problemática de la “creatividad parasitaria” en la generación de imágenes por IA, ¿cuáles piensas que son los desafíos éticos para los artistas/creadores cuyos estilos son reutilizados sin ningún tipo consentimiento en prompts de aplicaciones de IA? Es más, ¿crees que la mayoría de los usuarios de las distintas plataformas generativas son conscientes de que quizás no tenga derechos sobre las imágenes que están generando con estas herramientas?
Efectivamente, un grave problema es que no siempre todas las imágenes que integran estos inmensos repositorios (datasets) y que se emplean para el entrenamiento de los modelos de IA cuentan con el consentimiento expreso de sus autores para que sean empleadas en el entrenamiento de sistemas de inteligencia artificial. Es así que no pocos creadores visuales y asociaciones profesionales de artistas han denunciado cómo diversas estrategias empresariales han permitido que la recopilación no autorizada de esos millones de imágenes finalmente haya acabado conformando una suculenta fuente de ingresos en manos de ciertas corporaciones de IA, y en lo que muchos consideran, simplemente, como un “robo” empresarial masivo de imágenes y obras de arte. De ahí que, en efecto, podamos calificar a una gran parte de lo que producen estos sistemas generativos como resultado de una creatividad parasitaria, al estar basada en la imitación de imágenes y estilos desarrollados por creadores humanos. Todo lo cual hace posible que las imágenes que generan estos sistemas pudieran ser calificadas como resultado de un “manierismo computacional” que amenaza con el horizonte de una cultura visual cada vez más derivativa e inauténtica. Tanto es así que, como apuntó Will Jennings, muchos ilustradores, grafistas y fotógrafos, pueden estar en peligro, ya que dependen de la creación de imágenes de archivo para su uso en revistas y periódicos, publicaciones que ahora pueden crear una imagen a medida, y en cualquier estilo, a golpe de ratón. Además, todavía los creadores no pueden evitar que sus obras formen parte de muchos de los datasets más habitualmente utilizados por estos modelos para su entrenamiento, ni tampoco impedir en muchos de estos sistemas generativos que sus nombres aparezcan en los prompts de los usuarios.
Con toda razón, no son pocos los artistas que ven esto como una usurpación de identidad, considerando inaceptable que muchos de estos sistemas generativos ofrezcan, sin su consentimiento, la posibilidad de generar imágenes imitando su estilo, sin ser remunerados por ello. Pues, no lo olvidemos, si bien la imagen que generan estos modelos generativos es “nueva”, el estilo sí que puede ser intencionalmente copiado, algo patente, por ejemplo, cuando el usuario específicamente lo indica en su prompt. Es habitual que una parte fundamental de los prompts para obtener imágenes con pretensiones “estéticas” en los modelos generativos de creación de imágenes sea introducir en estos el nombre de algún artista (fotógrafo, ilustrador, pintor, diseñador, arquitecto, etc.) empleando fórmulas del tipo “al estilo de” o “según el estilo de”. El problema es que, con las legislaciones actuales en materia de derechos de autor, solo la obra está protegida, no el estilo de un artista. En la mayor parte de las normativas legales de derechos de autor no se reconoce que uno de los ejes de la creatividad artística contemporánea es la creación de un lenguaje estético propio.
Sea como fuere, la cuestión es que, actualmente, existen muchas dificultades para hacer que estos actos de imitación automatizada de la obra de ciertos artistas puedan ser penalizados legalmente o interrumpidos de algún modo. Y en el futuro próximo esta situación puede tener como consecuencia, como decía antes, la pérdida de carga de trabajo para muchos creadores visuales, siendo por ello razonable que estos exijan a las compañías de IA una contraprestación económica, al menos cuando el nombre de un determinado artista aparece específicamente mencionado en el catálogo de opciones de estilo de un determinado modelo generativo o indicado en un prompt. Y contra esta expropiación no consentida de su trabajo muchos artistas exigen que se tengan en cuenta alguna de las tres “ces” que conforman el eje de sus reivindicaciones: Consentimiento, Crédito o Compensación.
De todo ello, que las corporaciones de IA deberían priorizar otros usos posibles de sus modelos, como, por ejemplo, el facilitar que los creadores tengan la posibilidad de entrenar los modelos de aprendizaje automático con sus propias creaciones, de modo que estos sistemas generativos puedan producir contenido a partir de las imágenes y estilo del propio usuario, y sin que entre en juego contenido de otros creadores.
Tema aparte es, ciertamente, el que se deriva de los derechos de autor de las imágenes creadas mediante los modelos generativos de IA. Las condiciones señaladas en los “terms of service” de estos modelos, pueden implicar la reserva de muchos derechos sobre esas imágenes por parte de las corporaciones que los comercializan, o ser muy restrictivas sobre los usos de las imágenes generadas en función de las distintas modalidades de suscripción que ofrecen. Y esto es algo de lo que, ciertamente, tengo la impresión de que muchos de sus usuarios no son suficientemente conscientes.
Pensemos en la imagen que nos construimos del pasado gracias a los documentos gráficos. Si el descubrimiento de las distintas técnicas de manipulación de imágenes y fotografías, que eran asumidas como testimonios verídicos de hechos históricos, han puesto en duda el valor de la imagen como soporte del relato histórico, ¿cómo crees que afectará la IA a la memoria visual colectiva? ¿Piensas que pueden desarrollarse nuevas formas de rememorar y entender el pasado a través de imágenes generadas por IA? En la misma línea ¿crees que estamos a las puertas de una nueva era para la falsificación y reelaboración de los relatos históricos?
Esas imágenes de apariencia fotográfica, “promptografías”, son imágenes no referidas a la facticidad, sino a esa probabilidad estadística con la que operan estos modelos generativos. Ya no podemos fiarnos de que ninguna imagen de apariencia fotográfica sea resultado de la representación de algo (o alguien) captado delante de las lentes de una cámara, y de lo que tuvimos que tomar conciencia ya en febrero de 2019 con webs, por ejemplo, del tipo “This Person Does Not Exist”. En el caso de las imágenes creadas por IA, siempre se corre el riesgo de considerar a este tipo de imágenes como auténticas fotografías, como registros o testimonios de la realidad, cuando solo son imágenes que “participan” del lenguaje fotográfico. Por otro lado, resulta inevitable que las fake news encuentren en este tipo de imágenes generativas el mejor medio ahora para proliferar. Y ciertamente, uno de los efectos más perniciosos de esta proliferación de imágenes generadas por IA es el debilitamiento de la imagen fotográfica como medio de análisis histórico, y para los que nos dedicamos a la historia de las imágenes esto implica un verdadero problema. Dada la capacidad de estos sistemas generativos para la simulación del lenguaje fotográfico, es fácil que acabemos cayendo en posiciones de escepticismo extremo frente a las imágenes de apariencia fotográfica, y que, en definitiva, se extienda el velo de la sospecha sobre cualquier testimonio fotográfico del pasado.
Por otra parte, y como sistemas de generación de imágenes en función de otras ya realizadas, las producidas por IA tienen una relación peculiar con el tiempo. De hecho, es muy interesante cómo estas tecnologías nos ofrecen la posibilidad de revisitar creativamente el pasado, de reimaginarlo. Al fin y al cabo, las imágenes generadas por la IA de apariencia fotográfica son resultado de la “condensación” de pautas y patrones extraídos de otras imágenes que una vez fueron tomadas del mundo real con algún tipo de cámara. Y pese al riesgo de que el pasado quede contaminado con imágenes nuevas que reescriban la historia a través de falsas imágenes de apariencia fotográfica (y que podrían llegar a alimentar conductas escépticas e incluso negacionistas) las prácticas de la fotografía histórica generativa protagonizan no pocos proyectos artísticos. Pensemos, por ejemplo, en “Un archivo queer inexistente” (2022) de Felipe Rivas San Martín o en la serie de Boris Eldagsen titulada “Pseudomnesia” (iniciada en 2022) y en la que este trató de explorar recuerdos falsos de un pasado que nunca existió, que nadie fotografió. De hecho, creo de especial interés la indagación sobre qué representaciones del pasado pueden llegar a imaginar estas tecnologías ultramodernas, cómo estas “tecnologías del futuro” pueden ayudarnos a recordar de otras maneras.
En tu ponencia hiciste alusión a los temores que estas prácticas están generando en distintos ámbitos profesionales vinculados a la creación artística. En concreto, hacías alusión a la artista Suzi Dougherty y su imagen descalificada en un concurso de fotografía por un error del jurado. Cualquier persona en la actualidad tiene acceso a las tecnologías de generación audiovisual IA, y esto produce una influencia o cambio de paradigma en la participación (profesional y no profesional) de la creación de imágenes, ¿sería iluso plantear que, antes que suponer una merma, la incorporación masiva de usuarios de esta tecnología amplía las posibilidades para los creadores visuales? Y, en este sentido, ¿cómo ves el potencial creativo de la combinación de múltiples estilos y elementos en sistemas generativos de IA?
Creo que cuantas más personas puedan emplear una determinada tecnología más posibilidades hay de que emerjan usos creativos de interés. E indudablemente, los nuevos sistemas generativos de IA, algunos de ellos open source y muchos freeware para un uso limitado, contribuyen a la socialización de la producción artística visual digital, al permitir que, desde sencillas descripciones textuales, cualquier persona sin destrezas artísticas, conocimientos de programación o habilidades en el uso de herramientas de dibujo o edición, pueda crear obras digitales. Y esto, pienso, hay que considerarlo en términos muy positivos, aunque nunca debamos olvidar los problemas que he señalado anteriormente, y para los que habría que encontrar una pronta solución, garantizando el funcionamiento ético de estos modelos.
Por otra parte, y en relación a tu segunda pregunta, sí que, bajo mi punto de vista, el mayor potencial creativo que tienen estos sistemas generativos basados en IA reside en sus grandes capacidades combinatorias de múltiples aspectos y referencias culturales, siempre y cuando, insisto en ello, se consiga solucionar la problemática que afecta al empleo no consentido de obras artísticas en los procesos de entrenamiento (deep learning) de estos sistemas. Es así que podríamos considerar a estos sistemas como poderosísimas tecnologías de remix, como nuevas tecnologías para la mezcla y la remezcla.
Tampoco habría que olvidar que, en contra del argumento que ya he comentado y que defiende la posibilidad de que los artistas reciban algún tipo de compensación económica cuando sus obras han formado parte de los procesos de entrenamiento de estos modelos o son empleados en un prompt, o que estos puedan decidir que sus creaciones formen o no parte de los datasets de entrenamiento de las IA, se sitúan los que opinan lo contrario, los que defienden que estos modelos generativos lo que llevan a cabo no es una acción de imitación poco ética del trabajo de los artistas, sino un apropiación-transformación de estilos totalmente legítima y no muy distinta a la que los artistas han practicado a lo largo de toda la historia respecto a otros creadores y estilos, anteriores a ellos o contemporáneos. Desde este punto de vista, la extracción de patrones que estos sistemas generativos desarrollan de miles de obras no sería diferente, por ejemplo, a la que pueda hacer un artista o un historiador del arte al abstraer los rasgos estilísticos de una obra o de un movimiento artístico. Un argumento este que sirve a las corporaciones de IA para oponerse a las acusaciones de plagio, defendiendo la originalidad de las imágenes producidas por sus modelos, incluso cuando estas específicamente imitan el estilo de un artista en particular.
En tu último libro, (Martín Prada, 2023b)en el capítulo titulado “Otros interrogantes estéticos”, señalas que, en nuestros días, “el reto ya no puede ser el preguntarnos sobre el papel del artista” según “la benjaminiana socialización de los medios espirituales de producción”, sino que “esta socialización viene ahora ofrecida por defecto en las lógicas participativas que mueven los modelos de negocio de la red”. Afirmas en este sentido que “la relación entre arte y tecnologías/medios de producción debiera ser pensada más desde los efectos de estos en la producción de subjetividad, desde los ensamblajes que continuamente se establecen entre el yo y el sistema maquínico-tecnológico digital. ¿Podrías hablarnos del tipo de ensamblajes que se establecen entre el yo y el sistema maquínico-tecnológico digital y sobre las implicaciones que tiene esto para la producción de subjetividad y la emancipación intelectual?
En un texto de 1992 defendía Félix Guattari la idea de que las máquinas tecnológicas de información y comunicación operan en el corazón de la subjetividad humana, no exclusivamente en el seno de sus memorias o inteligencia, sino también en el ámbito de su sensibilidad y afectos (incluso de sus fantasmas inconscientes). Y después de más de treinta años de aquel escrito, creo que ese diagnóstico se hace especialmente patente hoy; ahora todo se ve influido por la “asistencia por computadora”, en lo que podríamos denominar una nueva maquino-dependencia de la subjetividad. Hoy ningún dominio de opinión, de pensamiento, de imagen, de afectos, de narratividad, escapa a la influencia invasora de lo digital. De ahí que, en mi opinión, el futuro de las prácticas artísticas no sea pensable sin que estas tengan muy en cuenta los operadores tecnológicos, que cada vez juegan un papel más determinante en la conformación de nuestra propia interioridad.
Y para concluir estas reflexiones, ¿podrías darnos tu opinión sobre qué perspectivas se podrían esperar para el futuro de la creación artística en un posible escenario transhumanista?
La revolución informática, es, podríamos decir, “entrada en máquina” de la subjetividad, y esto es algo que el arte no puede obviar, y no lo hace, de hecho, en muchas de las vías por las que evoluciona la creación artística actual. Y en relación a esto creo que hay que insistir mucho en un aspecto muy concreto: que hablar de las relaciones entre el arte y la cultura digital no puede reducirse a qué pueden hacer los artistas con las nuevas tecnologías y los nuevos medios informáticos; creo que la pregunta clave no es esa; la más pertinente, en mi opinión, es qué hace el sistema tecnológico con nosotros, y, en definitiva, cómo afrontar desde el arte las condiciones de producción de subjetividad en esta época nuestra de la hiperconectividad globalizada, el cómo adquirimos una subjetividad tecnológicamente mediatizada, cómo tiene lugar la ontogénesis en la cultura digital, es decir, cómo operan los modos maquínicos de construcción de la subjetividad, cuáles son sus vectores, sus líneas de fuerza en un contexto tan intensamente mediado tecnológicamente.
Fig. 01. Cubierta del libro
Teoría del Arte y Cultura digital.
Referencias
Martín Prada, J. (2023a). La creación artística visual frente a los retos de la inteligencia artificial. Conferencia presentada en el marco del Máster en Producción e Investigación en Arte el 4 de octubre de 2023 en la Universidad de Granada.
Martín Prada, J. (2023b). Teoría del arte y cultura digital. Akal.
Rivas, F. (2022). Un archivo queer inexistente [Fotografía generada con inteligencia artificial impresa sobre papel de algodón Edición de 5 + 2 PA]. Factoría Santa Rosa. https://factoriasantarosa.cl/artistas/felipe-rivas/#jp-carousel-1785
This Person Does Not Exist [Generador AI de imágenes online]. (2019). https://thispersondoesnotexist.com