5-EST.S_NCHEZ

Consideraciones ontotecnológicas sobre el ser humano y la Inteligencia Artificial: asociaciones, performance e identidad

Ontotechnological considerations on the human being and Artificial Intelligence: associations, performance and identity

Marta Sánchez Viejo

Universidad Isabel I y Universidad de Barcelona (España)

Fecha de envío: 31/03/2024

Fecha de aceptación: 17/07/2024

DOI: 10.24310/crf.16.2.2024.19039

I. Introducción

La modernidad y sus asociaciones generan una separación sujeto-objeto que no permite advertir las comunicaciones constantes entre ambos dominios. El orden clasificatorio moderno hacía necesario que se viese doble y que no se marcaran relaciones directas ni diálogos entre la representación de los humanos y no humanos, entre lo artificial de los hechos y del cuerpo político (Latour, 2022: 53). Lo híbrido fue reducido a un proceso de purificación en el cual se crearon dos dimensiones ontológicas diferentes: la humana y la no-humana. Aun con ello, ninguna de ellas se encuentra aislada y es hermética, ambas son un continuo en constante creación e identificación mutua. «Presentar a los actantes humanos y no-humanos en un plano menos vertical de lo habitual equivale a poner entre paréntesis la cuestión de lo humano» (Bennett, 2022: 12): el sujeto no se sitúa por encima de su entorno, sino que pertenece a su tejido y se modula alrededor de él. La corporalidad no se encuentra distanciada de las cosas que tiene alrededor, sino que esas mismas cosas componen su extensión, «es necesario que con los cuerpos despierten materialidades asociadas, los “otros”, que son sus congéneres» (Merleau-Ponty, 1986: 11). Asimismo, el cuerpo es inseparable de los estados mentales, es una «unión» cuerpo de un mundo y de unas materialidades exteriores a su corporalidad hacia las que extenderse. La capacidad del sujeto de entrelazarse con lo exterior es, por tanto, lo que lo configuraría como lo que es, las cosas no son objetos neutrales vinculados únicamente a nuestra contemplación (Merleau-Ponty, 2003: 30), «actúan» en el propio sujeto.

Con respecto a la dimensión tecnológica, no habría excepción y se podría afirmar que «toda técnica es “técnica del cuerpo”. Ella figura y amplifica la estructura metafísica de nuestra carne» (Merleau-Ponty, 1986: 26). Sin sujeto no existiría instrumento, el instrumento encarna el espíritu histórico del sujeto que, asimismo, co-crea al individuo en su extensión y contacto: la corporalidad del ser compone la realidad dialéctica, lo connatural es un sujeto no «natural» en términos estáticos, ahistóricos y hermético-dualistas. La «sociedad» se constituiría por un entramado heterogéneo en el que lo técnico también se presenta.

Referirse a lo humano tiene que dialogar con el medio, porque lo humano transita entre ambos, por mediación, traducción y redes (Latour, 2022: 66). No hay que limitarse a afirmar que nunca se aprehende un objeto «en sí», aislado de una interacción con el sujeto, se debe afirmar también que «nunca aprehendemos un sujeto que no esté siempre-ya en relación con un objeto» (Meillassoux, 2015: 29). En este sentido, Bernard Stiegler mantiene que la reflexión sobre los protohumanos deriva del uso de herramientas de piedra debido a que su materialidad hacía de marcador de la necesidad en el pasado, como una base de datos de su función:

Esta constatación obliga a revisar la noción de hombre puesto que lo que hay que concluir es que el hombre no ha empezado por el cerebro, sino por los pies y que con la dinámica general que se inaugura así —antropológica, pero también e indisociablemente, tecnológica—, «el desarrollo cerebral es en cierto modo secundario». La posición erguida determina una nuevo sistema de relaciones entre esos dos polos del «campo anterior»; la «liberación» de la mano de sus funciones de motricidad es también la de la cara de sus funciones de prensión. La mano apelará necesariamente a las herramientas, órganos inmóviles, ya que las herramientas de la mano apelan al lenguaje de la cara. Es evidente que el cerebro desempeña un papel, pero no es ya el director: no es más que un elemento parcial del dispositivo de conjunto, incluso si la evolución de ese dispositivo va hacia el despliegue del córtex cerebral (Stiegler, 1994: 218).

De esto se extrae cómo lo humano y lo no-humano se mantienen siempre entrelazados y «nunca hubo un tiempo en el que la agencia humana no fuese otra cosa que una red interconectada de humanidad y no-humanidad» (Bennett, 2022: 85). El sujeto no se conoce sin entorno ni existe consciencia sin él. De esta forma, se puede inferir que el ser humano no está dotado de una esencialidad fija y hermética, sino que es definido en sus relaciones y causación. En este sentido, tanto el ser humano como los propios objetos vendrían definidos por lo relacional: por sus asociaciones y no de manera directa. Lo que implica que la identidad humana se conformaría y reformaría en el contacto entorno-objetos. Recuperar el problema de la causación significaría desprenderse del bloqueo epistemológico y reactivar la pregunta sobre la relación en el contexto de la metafísica (Harman, 2019: 131). Este pensamiento se despojaría de reconocer la idea sobre una esencialidad humana fija y autónoma en favor de orientar al ser humano como otro tipo de «objeto» que existe, actúa y está en constante interdependencia y proceso de devenir.

Nosotros no vamos más allá de nada, somos más bien como topos excavando en el viento, en el agua, y en las ideas no menos que en actos de habla, textos, en la ansiedad, en el asombro y en la mugre (Harman, 2019: 148).

Frente al muro instaurado en la modernidad entre sujetos y objetos, todo ocurre en el medio y por medio de la traducción, mediación y las redes. No obstante, este espacio entre los dos no existe, no posee un «desplazamiento, deriva, invención o mediación: la creación de un lazo que no existía con anterioridad y que en cierta medida modifica a las dos iniciales» (Latour, 2001: 214). Por tanto, la explicación de una construcción del mundo en base a una interacción entre humanos y no humanos necesita de la abolición de la dicotomía sociedad/naturaleza, al igual que de otros recursos modernos como los pares cognitivo/social o sujeto/objeto. En el momento en el que se aborda al ser humano como algo variable, en constante cambio y conversación con lo exterior, se ponen en cuestión estas categorías; ya no existe una naturaleza estática a la que volver, ni una idea esencial e inmovil del sujeto. En este sentido las divisiones generan confusión porque el propio opuesto compone aquello que se intenta definir y alcanzar.

El agujero de ozono es demasiado social y demasiado narrado para ser realmente natural; la estrategia de las firmas y de los jefes de Estado, demasiado llena de reacciones químicas para ser reducida al poder y al interés. (...) ¿Es nuestra culpa si las redes son a la vez reales como la naturaleza, narradas como el discurso, colectivas como la sociedad? (Latour, 2022: 22).

Bruno Latour, en estos mismos términos se refería a la invención descubrimiento de los péptidos del cerebro, y señalaba que cuando se los describe no se trataba de una simple representación, realmente se hablaba de los mismos péptidos. Pero este proceso también incluía una estrategia textual, de semiótica, de retórica, de puesta en escena que conecta de una forma nueva el contexto social y la naturaleza de las cosas sin someterse a una u otra (Latour, 2023: 20). En este sentido, la naturaleza no es «natural»: es una maquinaria intrincada compuesta por un complejo ensamblaje de culturas y actores humanos y no-humanos (Farias, 2011: 18-20).

Todos los individuos están en la Naturaleza como en un plano de consistencia del que forman la figura completa, variable en cada momento. Y se afectan unos a otros, puesto que la relación que constituye cada uno supone un grado de fuerza, un poder de ser afectado (Deleuze y Parnet, 2013: 69).

II. Lo humano vs. lo tecnológico

La no existencia de una estaticidad en el ser, una esencia y al dotarlo de una permeabilidad, el sujeto pasa a ser una entidad móvil y dependiente de las redes de las que forma parte y definido por sus relaciones. En este sentido, la IA se conformaría como una tecnología en conversación, que delimita y es delimitada: una tecnología creada por el humano que lo configura paralelamente. Lo viviente sería, también, técnica, entre muchas otras cosas. Tanto es así, que las ciencias vinculadas con la evolución han empezado a relacionar la tecnología como cuasi-biológica por ser capaz de modificar o moldear ciertos atributos morfológicos y cognitivos del sujeto. Un ejemplo de ello es el impacto del uso de herramientas tecnológicas en el pensamiento causal (Wolpert, 2003: 1718) o en la diferenciación de los hemisferios cerebrales (Ambrose, 2001: 1750). Desde este enfoque, el cuerpo del sujeto puede leerse como un artefacto que se arma y autocomprende con otros artefactos no orgánicos, que acaban por delimitar su sentido de una forma concreta y siempre cambiante (lo cual problematiza la división naturaleza/sociedad, sujeto/objeto e impulsa a la abolición de categorías ontológicamente consistentes como «humano» o «artificial»).

Si se tiene en cuenta lo anterior y se parte de una epistemología vinculada a los híbridos o cuasi-objetos, el sentido del sujeto se afirmará posteriormente a su existencia. Así, se pueden anular las dicotomías modernas para pensar desde un plano de desclasificación o igualdad ontológica y comprender el sujeto artefactual fuera de la separación entre el sujeto-objeto. En este sentido híbrido de análisis, los procesos socio-culturales, físicos, tecnológicos o económicos ubicados en las diferentes materialidades, se encuentran y conversan para generar nuevas comprensiones de las mismas. Los intentos de la filosofía a la hora de ahondar en el problema del sujeto han generado «un privilegio ontológico al individuo constituido»(Simondon, 2009: 24). Enunciar un principio de unidad previa a la individuación misma no es posible, el principio de individuación es el sistema que deviene, es la propia génesis en marcha, durante su práctica; no se encuentra en lo que hay previamente a esa individuación (Simondon, 2009: 219). El individuo, entonces, se configuraría siempre-ya como un producto en constante formación, nunca terminado, en transformación activa y conversación con su medio de forma multidireccional. Aun si se tiene en cuenta el constante flujo de sentido en el proceso de la individualización, el resultado de una transformación en un sistema organizado genera cierres, que aunque posean fugas por la constante corriente conversacional con el resto de materia, permite una delimitación del individuo. En este sentido, el ser humano, está compuesto por diferentes niveles y sistemas de integración e integra sistemas organizados. El sujeto sería, a la hora de delimitarse y cobrar sentido, sería dependiente de los niveles de organización de los que depende y en los que se encuentra inmerso. Las redes que componen la organización en relación al medio generan un paralelismo con el ordenamiento y estructura interior del sujeto. Por ello, el ser humano no puede hacerse cargo de sí mismo por sí mismo debido a que la totalidad no está compuesta por el ser sino un «símbolo complementario de otro real, el medio asociado» (Simondon, 2008: 81). La tecnología, al pertenecer a ese medio asociado con el sujeto, participa del proceso de individuación y de la propia construcción del ser humano. Asimismo, el sujeto que forma parte de una estructura asociada condiciona su propia individuación (aunque no sea de forma consciente) al intervenir en el desarrollo del objeto técnico que puede, al mismo tiempo, volver a condicionar al individuo.

III. IA y actancia

La Inteligencia Artificial interroga al sujeto por su sentido al referirse y dialogar con sus funciones y hacer de mediador en su actividad viviente. En el contacto con lo tecnológico, se modifica la percepción y pensamiento del entorno y, por ende, la autocomprensión del propio sujeto: la técnica no se sitúa fuera del mundo humano. De esta forma, la IA es un sistema concreto inserto en un otro más amplio al estar todos sus componentes ordenados en series de causalidad mutua; no existe en un vacío, sino que está integrada en un entorno más grande donde interactúa con otros sistemas, tecnologías y entidades. La interacción de cada elemento favorece la unificación del conjunto en un sistema denominado IA, con unos cierres y sentido interno. Este «objeto técnico» cobra sentido cuando todos sus elementos confluyen y se encuentran en una unidad de sentido coherente con respecto a sí misma.

Al igual que el ser humano, se compone por distintos niveles y sistemas y, a su vez, integra otros sistemas organizados. Dentro de estos sistemas topológicos, la IA posee una interdependencia con el humano. «No existe nada más que los actantes, y todos ellos son absolutamente concretos» (Harman, 2009: 35) y a su vez siempre en relación con otros. Cada elemento que compone la IA, a su vez, es una unidad teórica que se ensambla en un sistema que crea otra unidad teórica.

Las IA emplean modelos matemáticos y algoritmos para procesar datos y generar respuestas en base a patrones derivados del aprendizaje automático. La IA puede ser un software (ej. sistemas biométricos o asistentes virtuales) o IA integrada (vehículos autónomos o robots) y, asimismo, dividirse en (Russell & Norwig, 2008: 2):

1. Sistemas que piensan como humanos.

2. Sistemas que actúan como humanos.

3. Sistemas que piensan racionalmente.

4. Sistemas que actúan racionalmente.

En esta departamentalización, se apela a lo racional y se fortalece la narrativa moderna de una naturaleza pasiva e inhábil que encuentra su sentido a través de su explotación vinculada al trabajo o en las operaciones y cálculos asociados a la ciencia: se la desposee de sus particularidades y extensión inaprensible: «la razón, a fuerza de querer aumentar su poder sobre su objeto (naturaleza) lo ha perdido como tal y se ha quedado pequeña, esclavizada a sus datos» (Garcés, 2006: 88). Asimismo, en concordancia con el pensamiento de Bruno Latour, la ciencia no descubre una naturaleza preexistente, sino que fabrica una naturaleza que es resultado de las condiciones de posibilidad creadas por las propias prácticas científicas (Hayles, 1999: 9).

La IA, en su intento de apelar a una totalidad universalizada, tropieza, se configura y apela a los mismos esquemas que el sujeto: una replicación de un comportamiento y pensamiento humano histórico-moderno y una creencia totalitaria económico-matemática. En este sentido, la caducidad de la metafísica afecta a la voluntad de pensar el absoluto mediante el principio de razón (Meillassoux, 2019: 39). La IA, cuando se dirige a lo humano y a lo racional está demostrando ser una extensión más de su ubicación histórica, un producto y una herramienta de su tiempo que encarna unos parámetros racional-productivos. En este sentido, se debe reactivar una metafísica de la materialidad que quede desprendida de los principios de la razón moderna.

III.1. Cocreación algorítmica

El procesamiento de datos derivado a los algoritmos genera un marco asociado a ellos mismos. Desde este marco se descodifica la información y se le dota de un sentido enmarcado en unos parámetros ideológicos presentes en el desarrollo de la propia lógica social: el algoritmo no se emanciparía del poder narrativo e ideológico humano del momento, lo reproducirá y ampliará, performaría lo «humano» por su propio mandato indirecto. En este sentido, el algoritmo supondría una reificación de la dimensión ideológica y narrativa del sujeto contemporáneo, sería una voz ampliada de ese propio sujeto (aunque de forma codificada).

El algoritmo traduce lo plural en singular, refuerza las verticalidades y jerarquías y, en su contacto e impacto diario en la vida de los sujetos condiciona y modela la realidad a la que se ven expuestos. La necesidad de generar unos patrones interpretativos puede producir una homogeneización, aplanamiento o abolición de la pluralidad material. Las estructuras y condiciones sociales pueden consolidarse mediante estos algoritmos y Big Data que, por medio de modelos matemáticos, modelan y reproducen una realidad concreta (O’Neil, 2016: 24-27). Los sesgos presentes en la sociedad pueden no solo ser extendidos por medio de los algoritmos, también pueden verse agravados o reforzados (Završnik, 2001: 630). Igualmente, los algoritmos de aprendizaje automático (al igual que los diseñados) aprenden del sujeto y pueden reforzar las delimitaciones y sentido histórico existente. Bajo una narrativa neutral y matemática se endurecen prejuicios y refuerzan patrones ideológicos. Esto se debe a que los algoritmos y modelos vinculados a la IA son autorreferenciales; se imitará y utilizará como patrón los valores presentes, con sus opresiones o narrativas discriminatorias. En este sentido, es preciso una colaboración interdisciplinar que incluya a diferentes expertos como ingenieros, especialistas en ética, juristas, responsables políticos o abogados (Braidotti, 2013: 45), así como valorar el entramado de actores que intervienen en la red de asociaciones para desactivar la aparente neutralidad científica. Los artefactos tecnológicos se insertan en prácticas cotidianas y co-determinan pensamientos, percepciones, acciones y comportamientos; esta tecnología encarna un papel mediador en la vida de las personas y estudiarla desde ramas como la Filosofía permite anticipar ciertas formas de mediación (Verveek, 2005: 12).

Cuando las bases de datos muestran un elevado porcentaje de delitos en una zona concreta, por ejemplo, se predice una alta probabilidad de delincuencia que afectará a una mayor presencia policial y detección de la misma. Herramientas como Predpol o CompStat diseñadas para la predicción de la criminalidad, destinan mayores medios a zonas identificadas como conflictivas y acaban por detectar mayor número de delitos menores presentes en zonas identificadas con alta tasa de criminalidad. Las predicciones acaban por cumplirse e incluso generar un mayor número de datos de criminalidad y mayor distancia con otras zonas por la propia presencia y vigilancia que fomentan una mayor detección. Estas herramientas no solo se componen por unos datos y patrones seleccionados no neutrales y con sesgos de percepción en materia definitoria del conflicto, también, al ponerlas en prácticas fortalece esas identidades locales, en muchos casos, relacionadas con cuestiones raciales o de clase de las que, posteriormente, se pueden crear correlaciones de delictividad y generar una sensación de naturaleza violenta o conflictiva en base a unos patrones físicos o económicos. Cada enfoque policial, al igual que una planificación de horarios de clases o una receta de cocina, representa un modelo y requiere datos para generarlo, seguido de unas respuestas en busca de un objetivo concreto. En el caso del control policial y la detección de la criminalidad, modelos de detección como PredPol y su gestión de datos aplican ahora a la ley, la delimitación de los estados y de las identidades dentro de ellos.

Lamentablemente, en la mayoría de las jurisdicciones, un mapa de criminalidad de este tipo rastrearía la pobreza. El elevado número de arrestos en esas áreas no haría más que confirmar la tesis ampliamente compartida por las clases media y alta de la sociedad: que los pobres son responsables de sus propias deficiencias y cometen la mayoría de los crímenes de una ciudad (O’Neil, 2016: 80)1.

La ciencia moderna, como método asumido como neutral y falazmente desligado de ideologías resulta lo opuesto: un ámbito en equilibrio con el mercado que niega sus contradicciones en los modos de producción y economía capitalista (Kurz, 20052 cita de Orlieb, 2006: 3), esencializando actores internos a sus lógicas para justificar las mismas. En lugar de cuestionar las estructuras de poder existentes las perpetúa, al esencializar a sus actores internos y justificar así las desigualdades económicas y sociales que emergen de los modos de producción moderna. En un sentido de delimitación de identidades y reproducciones de la violencia, el Big Data puede amenazar con reproducir el mismo camino tomado por la frenología. Los frenólogos buscaban en el cráneo de los pacientes golpes o hendiduras que consideraban rasgos de la personalidad que había en veintisiete áreas del cerebro: cuando un paciente padecía de alguna enfermedad los frenólogos, por defecto, acababan encontrando muestras que justificaban la conexión del área con el problema detectado (O’Neil, 2016: 106). Ahora, con herramientas algorítmicas basadas en enormes bases de datos, y sin un estudio antropológico de la ciencia, se vuelven a fijar patrones sistémicos a identidades esenciales.

Reproducir la realidad existente hace que se consagre en mayor medida. El algoritmo genera una interpretación del mundo cocreadora con respecto al mismo que acaba por confirmarse. Al igual que puede verse una criminalización de ciertos espacios alrededor de una justificación basada en herramientas matemáticas y parámetros de justicia, también la hay en la dimensión económica y sus estructuras. En este sentido:

La realización material del cálculo, las cifras, los medios de escritura, las inscripciones importan de manera decisiva en la performance del cálculo. Del hecho que unos cálculos se efectúen en los cuasi-laboratorios de las agencias económicas —el término agente ofrece demasiado al individuo— no hay que deducir que existan seres calculadores, por muy bien informados que estén. De la performance colectiva no puede deducirse una competencia individual, esa es toda la revolución introducida en las ciencias cognitivas por Ed. Hutchins (Callon y Latour, 2011: 180).

Las internalidades de la IA se construyen dentro de las lógicas de la ciencia y economía: en tanto al funcionamiento estadístico-matemático como en lo dirigido a la dimensión de su desarrollo empresarial y a las direcciones del diseño algorítmico. En este sentido, en un primer momento, la IA encarna las mismas narrativas histórico-modernas que encarna el sujeto: el capitalismo sería excepcional en la homogeneización totalitaria de toda materialidad. Al igual que un economista puede ser de poca ayuda e incluso un obstáculo para estudiar economías primitivas (Polanyi, 2018: 47), pensar el sentido y naturaleza del ser humano desde un prisma ahistórico, sin reseñar las particularidades del inicio de la modernidad puede ser generar obstrucciones. La forma en la que los algoritmos hacen su labor de traducción está mediada por la dimensión ideológica racional moderna sin generar una conciencia de que se universalizan unas tendencias y verdades históricas y se las esencializa al ser humano alrededor de ellas. En este sentido, la IA replica al sujeto moderno como sujeto histórico; en palabras de Polanyi (2018: 27): «nuestras opiniones sobre la naturaleza del hombre no se basan en los primeros, sino en los últimos».

III.ii. Redes neuronales y asociaciones

Las redes neuronales se basan en la construcción de un modelo matemático neuronal en el que cada neurona que forma parte del sistema recibe unas entradas numéricas con distintos valores. Su uso ha desarrollado diferentes algoritmos con el objetivo de que una red neuronal particular consiga «aprender» por medio de ejemplos que se le proporcionan. Estos algoritmos, a su vez, por medio de los distintos ejemplos, van cambiando los pesos de las distintas entradas neuronales para generar progresivamente salidas adecuadas (Russell & Norwig, 2008: 1081).

El sentido inicial era generar un sistema informático apto para replicar un cerebro humano, cuestión que visibiliza la tendencia homogenerizadora de las diferentes materialidades al sugerir una replicación sin tener en cuenta los materiales del primer escenario (cerebro humano). No obstante, las intenciones se acabaron distanciando de la duplicación en el ámbito biológico con un interés concreto en la especialización de tareas. En este sentido John Searle (1980: 37-38) preguntaba: «¿cual es la razón de que cualquier persona en su sano juicio suponga que la simulación por computador de los procesos mentales tendría realmente procesos mentales?».

El hecho de que un sistema posea un comportamiento que simule inteligencia y responda a estímulos externos de manera similar a un organismo no implica que ese material sea poseedor de una inteligencia propiamente dicha (Tripaldi, 2023: 75). En este sentido, podría determinarse la dependencia del humano a la hora de «pensar» o de procesar información y simular procesos mentales que, como afirma Searle, no son realmente procesos mentales humanos. No obstante, aunque no se le otorgue a la IA una conciencia alrededor de esos procesos, sí existe de manera extendida una modificación de los propios procesos mentales y conciencia del sujeto. Atendiendo a la teoría de la mente extendida de Clark y Chalmers (2011: 17-21) la cognición está presente al cerrar los ojos y resolver una operación sin medios externos, alrededor de un implante neurológico que desvía o modifica la inercia y forma de pensar y llegar a una solución del problema anterior y, también, por medio de herramientas externas como podría ser la IA, que resuelven ese mismo problema planteado y por medio de ello tienen un impacto en la cognición humana. El ejercicio de pensamiento y resolución de un problema en estas tres situaciones se lleva a cabo de una forma diferente en la que las herramientas o ausencia de ellas al formar o no parte de las redes vinculadas a la resolución tienen un impacto en la delimitación de los procesos mentales. La cognición a la hora de resolver un conflicto no tomará los mismos caminos si cuenta con unas u otras herramientas, en este sentido las herramientas tales como la IA no poseen una autonomía de los procesos mentales, no pueden replicar el pensamiento humano desde la conciencia: son un engranaje dentro de esa cognición, son parte de la delimitación de la conciencia. Una vez planteado esto, se puede ver la IA, como cualquier objeto siempre en continuidad con el ser, siempre dentro de una afectación mutua que no genera distancias ontológicas en su bidireccionalidad. Aun así, es clave desentrañar las redes internas que conforman el sistema IA para seguir una ruta afectación humano-no humano, afectación no humano-humano.

IV. Performance científico-económica

La ciencia y la economía producen objetos técnicos, herramientas o teorías que trabajan bajo la condición de posibilidad de performatividad y que conectan la acción efectiva con la teoría (Callon, 2008: 28). Los agentes científico-económicos afectan a la realidad que están describiendo o midiendo y, simultáneamente, se encuentran insertos en redes afectadas por rasgos históricos o ideológicos. En este sentido, la IA, al ser un producto económico-científico y estar entrenada en base a datos específicos, no supone solo un mecanismo de procesamiento de información y automatización de tareas, influyen en la interpretación y conformación del exterior y del sujeto mismo. Al igual que Fabián Muniesa (2014: 45-58) investiga cómo dispositivos técnicos estarán insertos en normas, funcionamientos, valores y expectativas del sujeto, la IA también interviene en la delimitación de las mismas cuestiones y reproduce dinámicas sociales y culturales. En este sentido, la IA tiene un papel mediador y participa activamente de la construcción de aquello que se pretende saber e interpretar alrededor de la misma herramienta y, del mismo modo que construye al entorno, delimita al propio sujeto. Al igual que la economía como disciplina «no describe el exterior y más o menos fielmente una cosa objetiva (...). Ella performa activamente esta cosa que no existía antes que ella y que no existiría sin ella» (Callon, 2011: 175).

Los modelos son opiniones introducidas en las matemáticas que se construyen en base a los datos que decidimos prestar atención o ignorar (O’Neil 2016: 218). No se configura en un funcionamiento ostensivo, sino que la IA es uno de los resultados perfomativos de disciplinas tales como la economía y la ciencia moderna. Es clave dejar a un lado la lógica del descubrimiento y fortalecer una relación social basada en unas asociaciones cargadas de poder; existe una conexión entre ciencia, economía y mediación para crear unos efectos buscados.

Creo que la respuesta a esta importante cuestión política y analítica está en dos giros relacionados entre sí: 1) despojarnos de las historias rituales de la historia de la ciencia y la tecnología como paradigma del racionalismo, y 2) repensar los actores implicados en la construcción de las categorías etnoespecíficas de naturaleza y cultura. Los actores no somos sólo «nosotros». Si el mundo existe para «nosotros» como «naturaleza», esto designa un tipo de relación, una proeza de muchos actores, no todos humanos, no todos orgánicos, no todos tecnológicos (Haraway, 1999: 123).

La ciencia, economía y sus herramientas no desvelan la naturaleza, la naturaleza no preexiste, se articula en base a los actores implicados. En este sentido, se podría entender que los organismos de los seres humanos son un tipo de objeto biológico que «no nacen; los hacen determinados actores colectivos en determinados tiempos y espacios con las prácticas tecnocientíficas de un mundo sometido al cambio constante» (Haraway, 1999: 123). Esto no niega las identidades biológicas o materiales de los organismos, pero sí su aspiración única interpretativa en base a cómo estén situados y de qué manera se orienten y ordenen las herramientas y propósitos investigadores. La idea de la naturaleza del ser humano siempre va a estar atravesada por dinámicas investigadoras que cocrean esa naturaleza, el descubrimiento del ser humano se genera y renueva en base a los diferentes actores que puedan incidir en su dirección. Al igual que la naturaleza no preexiste, el ser humano tampoco; y actores como la ciencia moderna y la IA afectan a su delimitación. No existe una interacción entre lo natural puro y lo social puro, todo es un flujo contaminado compuesto de actores concretos. La propia categoría «natural» estaría tan entrelazada que su propio contenido se ve desvanecido como ocurre con la dimensión social. Al igual que los objetos o dimensiones teóricas, los sujetos situados performan justificando y reproduciendo el sentido de su situación como sujeto situado, que apela asimismo a su sentido como sujeto. El sujeto no es una sustancia, una forma siempre idéntica a sí mismo: es cambiante, con márgenes difusos y en constante devenir. Asimismo, la IA como dispositivo recoge lo que es o ya no es el sujeto y es a su vez producto y agente: una dimensión acumulativa de redes que pueden rastrear el pasado y otra parte que encarna al ser humano actual (Deleuze, 1990: 155).

IV.1. Trabajo e identidad

Existe una deriva productivista que desvela la situación histórico-contextual: la IA encarna el deseo productivo infinito del sujeto moderno; su función es estratégica y cumple con los requisitos del mandato histórico moderno de reproducir o simular lógicas de transformación similares a lo que podría ser un trabajo. El propio funcionamiento y sentido de los estados modernos generan una narrativa que esencializa la dimensión productivista con cierta naturaleza humana en la que también se ven inmersos, con mayor o menos autonomía, distintos aparatos técnicos. El trabajo pasa a ser algo diferenciado de otras acciones, que agrega un componente a la «Naturaleza» que hace que el ser humano pueda poseerlos (Locke, 1999: 72). Este vínculo trabajo-propiedad-transformación hace que la dimensión del trabajo comience a ser vista como una realidad antropológica del hombre. A diferencia de las diferencias cualitativas vinculadas a la Antigüedad o Edad Media, el «trabajo3» pasó a convertirse en una actividad homogénea y abstracta. La identidad pasa de la cualidad a la cantidad. La IA, debido a un proceso de objetivación de las formas de saber, adquiere competencias del proceso de trabajo que se creían propias y constitutivas del sujeto, una suplantación identitaria al resolver problemas típicos de algunos oficios de un modo más eficiente:

Una vez inserto en el proceso de producción del capital, el medio de trabajo experimenta diversas metamorfosis, la última de las cuales es la máquina o más bien un sistema automático de maquinaria (sistema de la maquinaria: lo automático no es más que la forma más plena y adecuada de la misma, y transforma por primera vez a la maquinaria en un sistema) puesto en movimiento por un autómata, por fuerza motriz que se mueve a sí misma (Marx, 2001: 218).

La IA reproduce y performa el sentido del sujeto moderno hasta generarle extrañeza con respecto sí mismo: no solo reproduce procesos físicos, también intelectuales que no solo generan una transformación en las redes históricas, también cuestionan el monopolio del trabajo como algo puramente humano, que dota de sentido y valor al individuo. El trabajo era considerado por la tradición judeocristiana como un castigo divino; Adán y Eva son castigados al hacerlos trabajar y expulsarlos del paraíso (Camps, 1992: 123), si se rastrea el sentido del trabajo histórico se puede apreciar que no siempre ha existido una vinculación identitaria y de sentido en el dúo sujeto-trabajo. Esta conexión histórica se ve amenazada por los objetos técnicos como la IA, que tambalean los asumidos límites naturales y particularidades del ser humano en la modernidad. La pregunta por el ser humano se ha reducido a una pregunta sobre sus capacidades productivas: su identidad se reduce a su output y, paralelamente, se ve amenazada por objetos técnicos diseñados para la propia producción de mercancías.

V. Conclusiones

No existe una «condición humana» ahistórica e incondicionada. La producción humana genera sociedades pero también técnica, piezas constructoras del propio sujeto y del espacio habitado. La IA es una extensión sociotécnica más que delimita la identidad del ser humano y que, a su vez, es una identidad dinámica, en constante transformación. La condición humana es ensamblada y protésica: el sujeto es gracias a sus continuidades, gracias al contacto con las diferentes dimensiones que le impactan de forma constante. No existe una naturaleza desvinculada de la dimensión histórica y es clave apreciar y determinar las renovaciones y cambios de lo humano. La IA es un aspecto delimitador y no dinamitador de lo humano, porque no hay nada esencial que romper, el sujeto es en su conglomerado de participantes, en sus relaciones.

Referencias Bibliográficas

Ambrose, S. (2001): «Paleolithic technology and human evolution». Science, 291, no 5509, pp. 1748-1753.

Bennett, J. (2022). Materia Vibrante. Una ecología política de las cosas. Buenos Aires: Caja Negra Editora.

Braidotti, R. (2013). The Posthuman. Cambridge: Polity Press.

Callon, M. (2008): «Los mercados y la performatividad de las ciencias económicas». Apuntes de investigación del CECYP, 14, pp. 11-68.

Callon, M. y Latour, B (2011): «¡No calcularás! o cómo simetrizar el don y el capital». Athenea Digital,1(1), pp. 171-192. https://doi.org/10.5565/rev/athenead/v11n1.847

Camps, V. (1992). «El sentido del trabajo y el ethos individualista». Socialismo del futuro: revista de debate político, 6, pp. 123-132.

Clark, A. y Chalmers, D. (2011). «La mente extendida». CIC. Cuadernos de Información y Comunicación, 16, pp. 15-28.

Deleuze, G. (1990): «¿Qué es un dispositivo?». En Michel Foucault, filósofo, Barcelona: Gedisa.

Deleuze, G. y Parnet, C. (2013): Diálogos. Barcelona: Pre-Textos.

Farías, I. (2011): «Ensamblajes urbanos: la TAR y el examen de la ciudad». Athenea Digital. Revista de Pensamiento e Investigación Social, 11 (1), pp. 15-40, https://doi.org/10.5565/rev/athenead/v11n1.826

Garcés, M. (2006): «Adorno y Lukács: pensar en la grieta de la racionalidad». Revista de Filosofía, 37, pp. 85-97.

Haraway, D. (1999): «Las promesas de los monstruos: Una política regeneradora para otros inapropiados/bles». Política y Sociedad, 30, pp. 121-163.

Harman, G. (2022): El príncipe de las redes: Bruno Latour y la metafísica. Materia Oscura.

Harman, G. (2019): «De la causación vicaria». En Avanessian, A. (ed.), Realismo Especulativo. Materia Oscura, pp. 129-159.

Hayles, K. (1999). How we became posthuman. Virtual Bodies in Cybernetics, Literature and Informatics. Chicago & London: The University of Chicago Press.

Latour, B. (2022): Nunca fuimos modernos. Ensayo de antropología simétrica. Buenos Aires: Siglo XXI.

Latour, B.(2001): La Esperanza de Pandora. Ensayos sobre la realidad de los estudios de la ciencia. Barcelona: Editorial Gedisa.

Locke, J.(1999): Segundo ensayo sobre el gobierno civil, Madrid: Biblioteca Nueva.

Marx, K. (2001). Líneas fundamentales de la crítica de la economía política (Grundrisse) II. Barcelona: Crítica.

Meillassoux, Q.(2015): Después de la finitud: Ensayo sobre la necesidad de la contingencia; trad. Margarita Martínez, Buenos Aires: Caja Negra editora.

Meillassoux, Q. (2019): «Metafísica, especulación, correlación…». En Avanessian, A. (ed.), Realismo Especulativo. Materia Oscura, pp. 39-70.

Merleau-Ponty, M. (1986): El ojo y el espíritu. Barcelona: Paidós.

Merleau-Ponty, M. (2003): El mundo de la percepción. Siete conferencias. Buenos Aires: Fondo de Cultura Económica.

Muniesa, F. (2014). The Provoked Economy. Economic Reality and the Performative Turn. New York: Routledge.

O’Neil, C. (2016) Weapons of math destruction. How big data increases inequality and threatens democracy, London: Crown Pub.

Orlieb, C. (2006). «Mathematisierte ScharlatanerieZur “ideologiefreien Methodik” der neoklassischen Lehre». En Die Scheuklappen der Wirtschaftswissenschaft – Postautistische Ökonomik für eine pluralistische Wirtschaftslehre, Marburg: Metropolis, pp. 55-61.

Polanyi, K. (2018). Nuestra obsoleta mentalidad de mercado, Barcelona: Virus.

Russell, S. & Norwig, P. (2008). Inteligencia Artificial. Un enfoque moderno, Madrid: Pearson Prentice Hall.

Searle, J. (1980). «Minds, brains and programs», Behavioral and Brain Sciences, 3, pp. 417-457.

Simondon, G. (2009): La individuación a la luz de las nociones de forma e información, Buenos Aires: Ediciones la Cebra y Editorial Cactus.

Simondon, G. (2008): El modo de existencia de los objetos técnicos, Buenos Aires, Prometeo.

Stiegler, B. (1994). La técnica y el tiempo 1: El pecado de Epimeteo. Gipuzkoa: Hiru.

Tripaldi, L. (2023). Mentes Paralelas. Descubrir la inteligencia de los materiales, Buenos Aires: Caja Negra.

Verveek, P. (2005). What Things Do. Philosophical reflections on technology, agency and design, Pennsylvania: The Pennsylvania State University Press

Wolpert, L. (2003): «Causal belief and the origins of technology», Philosophical.

Transactions of the Royal Society of London, 361, pp. 1709-1719.

Završnik, A. (2021): «Algorithmic justice: Algorithms and big data in criminal justice settings», European Journal of Criminology, 18 (5), pp. 623-642.

Marta Sánchez Viejo: Doctoranda en Filosofía por la Universidad de Barcelona y docente en los grados de Filosofía, Economía y Ciencias Políticas, ADE y Periodismo en la Universidad Isabel I.

Líneas de investigación:

– Teoría del actor-red, Nuevo Materialismo, Ontología política, Ciencia, Tecnología y Sociedad y Filosofía de la Economía.

Publicaciones recientes:

– Sanchez-Viejo, M. (2024). «Cuerpos conectados. Red tecnológica e identidad de género». En V. Rodríguez, M. Martín-Moro y C. Payá (eds). Virtualmente invisibles: género, violencia y desigualdad en entornos virtuales. Aranzadi, pp. 267-282

– Sanchez-Viejo, M. (2023). «El científico y el homo economicus: similitudes y redes en el laboratorio-empresa», La Razón histórica: revista hispanoamericana de historia de las ideas políticas y sociales, 59, pp. 122-131

Correo-e: marta95sv@gmail.com

1. “And in most jurisdictions, sadly, such a crime map would track poverty. The high number of arrests in those areas would do nothing but confirm the broadly shared thesis of society’s middle and upper classes: that poor people are responsible for their own shortcomings and commit most of a city’s crimes” (traducción realizada para esta publicación del libro Weapons of Math Destruction de Cathy O’Neil).

2. Kurz, Robert (2005): Das Weltkapital. Globalisierung und innere Schranken des modernen warenproduzie- renden Systems, Berlin.

3. Trabajo en un sentido genérico de actividad transformadora, no apelando a la dimensión moderna únicamente.