1-EST.BATISTA

Dinámicas de la violencia en una realidad disruptiva: la deshumanización acelerada por la IA

Dynamics of violence in a disruptive reality: accelerated dehumanization by AI

Reinaldo Batista Cordova

Universidad de Murcia (España)

Fecha de envío: 30/03/2024

Fecha de aceptación: 24/06/2024

DOI: 10.24310/crf.16.2.2024.19629

I. Introducción: acercamiento al problema de la tardomodernidad

Reflexionar sobre la sociedad tardomoderna se evidencia como un desafío, aún más considerando que la propuesta de esa investigación contempla diversos fenómenos inconclusos. De todos modos, la intención es verificar si la Inteligencia Artificial (IA) podría contribuir a la disrupción de la violencia en una coyuntura de aceleración. Se parte de la prerrogativa de que estamos tratando de una tecnología disruptiva, cuyas consecuencias en última instancia están por develarse; entretanto, se considera pertinente buscar datos que evidencien cómo la IA puede contribuir en el proceso de deshumanización.

La investigación parte de la necesidad de entender qué es la aceleración y su posible remedio en la resonancia; conceptos propuestos y desarrollados por el sociólogo alemán Hartmut Rosa. Dos cuestiones clave surgen previamente: primera, que el autor, como representante de la Escuela de Frankfurt, trabaja con la Teoría Crítica —por lo tanto— tiene como premisa que el punto de partida de su investigación es el sufrimiento humano (Rosa, 2016: 85); y la segunda cuestión, una innovación en ese caso, es identificar, en Rosa, la proposición de una teleología para el ser humano (Rosa, 2016: 86).

Comprender cómo el sociólogo percibe la sociedad tardomoderna será clave para entender el proceso de deshumanización en el cual el ser humano está inserto. Poseer esa información será posible ver cómo el hombre poco a poco perdió su capacidad de resonancia, lo que le lleva a una situación de alienación frente a lo que efectivamente es esencial en su existencia. El autor no se dedica específicamente a investigar sobre la IA, por lo tanto, ha sido necesario aplicar su postulado a algunos casos específicos, con la intención de verificar si era viable y plausible la correlación proyectada previamente. Además de ello, se ha contemplado otros actos de violencia, más cruentos y concretos, con la intención de especular si frente a una situación de disrupción tecnológica, la violencia podría ser potenciada.

Para complementar el análisis, se recurrió a diversos autores, de distintos campos del conocimiento, como puede ser el económico con Amartya Sen y el filosófico con Adela Cortina, entre otros. El objetivo se fundamentaba en la necesidad de establecer argumentos relevantes para evidenciar cómo la IA puede ser una herramienta de fomento de la desigualdad; responsable por crear el escenario propicio para el incremento de la deshumanización y violencias.

II. Percepción de aceleración temporal

La modernidad tardía es amplia y diversa; por lo tanto, es un periodo de difícil análisis. No tanto por la ausencia de fuentes, sino más bien lo contrario. Los investigadores tienen acceso a demasiada información, una paradoja que puede generar el solapamiento de datos, una especie de caos en el cual se superponen ideas, fenómenos o incluso hechos sociales. Delimitar el objeto de análisis se vuelve un desafío. Además, en la medida en que existe una continua demanda por más análisis, siempre originales y espectaculares. Es lo que Hartmut Rosa (2016) denominaría «aumento» (Steigerung).

Frente a la percepción de que la persona, que vive en el tiempo histórico de la contemporaneidad, está en un constante quehacer, demanda el continuo incremento de la producción, en parte motivada por una espectacular publicidad capitalista y consumista que indica que es preciso aprovechar más el tiempo, sin jamás postergar una acción, como mecanismo de aprovechamiento de los potenciales de productividad, que derivan en enriquecimiento y una hipotética garantía de conquista de una vida futura estable y placentera.

Esa premisa es plausible; hay autores que demostraron su viabilidad (Korinek & Stiglitz, 2019; Rosa, 2020). Entretanto, también hay autores que de manera fundamentada desvelaron el fenómeno de la resignación. Según la cual, hay una generación que sencillamente se abstiene de esa demoledora rutina, que clama siempre por el incremento de la producción. Son las personas que rechazan las promesas de un futuro acomodado; prefieren vivir fuera de la vorágine, conforme indicado por Alexandre Lacroix en el prefacio de la obra Remedio a la aceleración: ensayos sobre la resonancia (Rosa, 2018) o el propio Hartmut Rosa, cuando comenta sobre «la resistencia intencional contra el incremento de la velocidad de la vida y la ideología de la desaceleración son claramente reacciones a las presiones de y para la aceleración» (Rosa, 2016: 67).

Aparentemente los dos modelos son encontrados en el periodo examinado. El problema radica en que son antagónicos. Una posible alternativa a ese problema sería combatir o eliminar uno de los modelos. Esa alternativa no se evidencia real; las dos situaciones son reconocibles en esas complejas sociedades contemporáneas. Restaría como posibilidad, aceptar los dos modelos, sin con ello caer en una trampa esquizofrénica.

Debido a la inviabilidad de examinar todas las variables, pero reconociendo que existen otros puntos de vista, se opta por concentrar la acción investigativa bajo la premisa de que un perfil de la sociedad tardomoderna es la preocupación y constante ocupación. El tiempo oprime de tal manera a los actores sociales que les imposibilita plantear la existencia sin la constante necesidad de sentirse productivos. Evidentemente, existen consecuencias nocivas derivadas de esa práctica. La erupción de diversas enfermedades relacionadas con el agotamiento da cuenta de que para muchas personas ese modelo de vida mecánica es insostenible; sin ir más allá, el síndrome de burnout es un ejemplo contundente de la situación.

La lectura de los hechos sociales evidencia un acto de imposición de un sistema (Novas, 2022). Difícilmente se puede considerar legítima la interpretación de que las personas son libres y eligen el camino que desean seguir. Se habla mucho de la libertad conquistada y teóricamente consolidada en la civilización occidental. Entretanto, debemos preguntarnos con Amartya Sen (2021): ¿De qué libertad estamos hablando? El sistema liberal se construye sobre la prerrogativa de que el ser humano es dueño de sus propias decisiones; es una afirmación falsa, quizás el postulado sea demasiado fuerte, por lo tanto, de manera más prudente e imparcial se diría que es incompleto porque existe una serie de constreñimientos responsables por eliminar los vestigios de libertad de elección, especialmente entre las capas marginadas de la población, pero no exclusivamente a ellos.

Hay académicos (Rosa, 2016: 92) que están de acuerdo en que un sistema omnipotente los obliga a publicar constantemente, aunque la producción no cumpla en plenitud con los valores deontológicos esperados de las investigaciones. La publicación de «nuevos» estudios ocurre porque es preciso cumplir con el cupo de artículos establecido por las agencias de calidad. Esa constante necesidad de publicación ha degenerado en revistas mercenarias, que, contemplando la oferta y demanda, se percataron de un nicho mercantil que nada tiene que ver con la búsqueda de generación de conocimiento. Cuando los investigadores se ven impelidos a capitular frente a esa semi corrupción, porque, al fin y al cabo, están en la rueda de la vida, necesitan lograr una plaza de catedráticos que supuestamente les garantizará la estabilidad, la cual conlleva a la conquista de la libertad de publicar lo que efectivamente consideran digno. ¿Dónde está la libertad en esa circunstancia? Si no hay libertad, existe opresión, por ende, violencia.

La generación de una angustia derivada de la imposibilidad de ruptura con el sistema; es lo que se puede sintetizar a partir del análisis de Hartmut Rosa (2016, 2020), cuando nos habla de una circunstancia de indisponibilidad. Lo que no deja de ser una contradicción, porque simultáneamente, se vive en un contexto en que los recursos deberían ofrecer más libertad, tanto para el ocio, como para la ejecución de las labores cotidianas.

La pregunta formulada por Hartmut Rosa (2016: 19) es pertinente: ¿La sociedad está acelerada o hay aceleración de procesos? El tiempo no es una variable cambiable. Una hora es una hora dondequiera que uno se encuentre. No obstante, nuestra percepción es cambiante; el pasado premoderno podría tener como criterio el pasaje cronológico a partir de las transformaciones físicas, día o noche, a veces una determinada partición temporal anunciada por el hambre, por una acción cultural (misa o el adhan), etc. Divisiones semejantes son observables en la tardomodernidad, con la diferencia de que la introducción de algunas herramientas fomentó la sensación de que el tiempo, en un primer momento, podría ser extendido o ahorrado.

Justificando esa visión, consideramos que existe una aceleración de los procesos. Basado en la concepción de que en el mismo espacio temporal una persona puede realizar más acciones que en el mismo tiempo despendido en el pasado. El ejemplo de enviar un mensaje puede ser bastante singular: hace relativamente pocos años, enviar una correspondencia podría tardar meses. En la actualidad, no tarda más que algunos segundos. Incluso, remitir una carta suena anacrónico, dada la posibilidad de realizar una videollamada y resolver una cuestión.

Consecuentemente, el responsable de una entidad podrá enviar y recibir cientos de mensajes en las 8 horas dedicadas a su trabajo. En ese caso, el tiempo empleado para la acción ha sido reducido; por otro lado, se incrementó de manera desproporcionada la cantidad de actividades ejecutadas en el mismo intervalo temporal (Rosa, 2016: 52). El proceso está acelerado y es difícil o imposible romper el engranaje de ese sistema. La rebeldía puede significar caer en la irrelevancia; el docente universitario que se oponga a contestar a los correos electrónicos de sus alumnos se transforma en obsoleto en el siglo XXI.

La herramienta que fue creada para acelerar el proceso de comunicación terminó siendo utilizada para demandar más comunicación. El utópico tiempo libre conquistado con la disponibilidad de enviar y recibir mensajes en segundos incrementó el número de correos recibidos y remitidos. No ha habido la conquista, sino que es preciso hacer más y en menos tiempo, con la esperanza de poder realizar otras actividades. De ahí, la erupción del fenómeno de hambre de tiempo. De manera general, las personas quieren más tiempo para hacer lo que antes era hecho en más tiempo, no en menos.

Para la persona nativa de ese sistema, ese deshumano paradigma es imperceptible. Pero está presente; hay estudios que indican el aumento del número de personas que se siente presionadas a producir más y más, en cada vez menos tiempo. Personas que no consiguen establecer límites para concluir, por ejemplo, sus jornadas laborales, se les podría definir como adictos al trabajo, pero no es exactamente eso. Es el resultado de una presión social, no la búsqueda de una satisfacción, lo que llevaría a otra forma patológica, el síndrome del desgaste profesional o burnout.

La consecuencia de esa situación observada es la desconexión del sujeto con el mundo, lo que en alguna medida se podría denominar alienación. La demanda de producción es insaciable, así como la de consumo, pero de eso se desvela un problema existencial: ¿Por qué producir tanto y consumir tanto si hay una percepción de agobio casi generalizado? La venta de ansiolíticos se dispara; no hay en esa lectura una crítica directa a la búsqueda de tratamiento para quien lo necesita; hay la constante necesidad de sentirse en resonancia (Rosa, 2020). Debería generar sorpresa la visión de la masa humana que se desplaza de las metrópolis a las playas, montañas o pueblos durante los periodos vacacionales, tantas veces movida por el espejismo de una desconexión de su rutina, o visto de otra manera, la conexión con el «mundo real».

Si es esa utópica realidad la fuente de resonancia de la persona consigo misma y con el otro (persona o mundo), ¿por qué la tardomodernidad insiste en fomentar el incremento productivo? Llega a coquetearse con la ridiculez la cantidad de veces que algunos se van de vacaciones y llevan el ordenador en la mochila. El ocio creativo, en algún momento de la historia enunciado como un beneficio, suena en la actualidad como el desperdicio de tiempo; esa «materia prima» no renovable.

Sheila López, a partir de la lectura de Adorno y Pasolini, formula la siguiente interpretación:

Ni siquiera el tiempo libre era libre, pues se trataba de una libertad controlada: fuera del trabajo, el individuo entra en el verdadero centro de adoctrinamiento, el entretenimiento. Su función es reparar al hombre para que esté listo para el trabajo (López, 2023: 11).

La noción de libertad y descanso se constituyen como espejismos; la victoria en alguna medida es del sistema que se utiliza de la industria de masas para estandarizar las necesidades, los gustos y los ocios.

Consecuentemente, se contemplan los intentos de felicidad rápida, de placer instantáneo, los cuales son efímeros porque en el fondo no favorecen el diálogo de la persona con su entorno, con el mundo. En su lugar se constituye una relación utilitarista; en la que la persona y la comunidad humana hiperconectada experimentan diversas sensaciones, sin entender los procesos en los cuales está ubicada. Ignorar los procesos y sus implicaciones deriva en una dimensión de la alienación, así como de apatía con respecto al contexto. Ocurre que la apatía puede ser interpretada de maneras distintas, siendo algunas de ellas la violencia y la enfermedad (Rosa, 2020: 139).

Estudios desvelan una tendencia a la reducción de la empatía, algo que ocasionalmente salta a la vista en los periódicos cuando se enuncia que un niño de 9 años pasó meses viviendo solo, sin que el vecindario se percatara de la anomalía (Bassets, 2024); cuando una persona mayor es encontrada muerta en su piso después de un año (BBC, 2023; Zafra, 2018); cuando jóvenes son coaccionadas a prostituirse (Sánchez, 2023) sin que la comunidad se implique para solucionar un problema de pobreza estructural o abusos domésticos (Rosa, 2018: 83).

Aparentemente, el tiempo se vuelve comprimido y no debe ser desperdiciado con supuestas banalidades o casuísticas. La prostitución, por ejemplo, no es un problema porque se puede partir del presupuesto de que las mujeres y hombres son libres para hacer lo que quieren con sus cuerpos; no obstante, como tendremos la oportunidad de observar más adelante, es una importante variable de la desigualdad socioeconómica derivada de la sociedad hiperconsumista y, paradójicamente, de una profunda escasez de ingresos e insuficiencia de recursos (Sen, 2020: 210). El cuerpo del otro no es fuente de relación, sino de consumo rápido, instrumentalizado en última instancia. La historia de vida del otro deja de importar porque es necesario optimizar el poco tiempo de placer disponible, ya que el resto de la vida se utiliza en una serie de acciones repetitivas y sin sentido.

Por otro lado, no se puede ignorar la posibilidad de la apatía como enfermedad. Por cuestión de desregulación hormonal o por variables psíquicas (Niclas Braun et al., 2018), la literatura registra la incapacidad de que una persona logre establecer la comunicación con el mundo, lo que Hartmut Rosa (2020) definiría como resonancia.

El aspecto subrayable en ese caso es que los avances técnicos y tecnológicos no logran crear las condiciones para la humanización de las relaciones entre las personas y entre estas y el mundo. El desarrollo de la IA incrementa la demanda por más producción, excluyendo no pocas veces al ser humano de ese proceso; bajo una perspectiva pesimista, el presente genera una serie de agobios y de presión no pocas veces imposible de realización.

La identificación con lo imposible no es demasiado ambiciosa, ya que debemos considerar a la masa humana excluida de los procesos productivos más avanzados. Aun así, la sed por los beneficios de la sociedad consumista y estéril de la vida cotidiana en las megalópolis industrializadas del siglo XXI —más que en el pasado— sirve de modelo para las personas que, día tras día, intentan las travesías terrestres y marítimas hacia Estados Unidos y Europa. Estos procesos migratorios están llenos de peligros, en los cuales miles de personas pierden la vida huyendo de una realidad de privaciones o violencias. Sin embargo, tampoco el éxito en la migración es completo, porque puede implicar enfrentarse a una serie de barreras y segregaciones en el mundo imaginado.

Las barreras y las fronteras no son solamente físicas, sino también sensitivas; en la burocracia despersonalizada, desde la obtención de una cita para un trámite, hasta el resultado genérico dado a las peticiones de asilo o refugiado.

III. Deshumanización en un escenario de incertidumbre

Siguiendo el debate sobre la crisis, propuesto por Koselleck (2007, 2019), podríamos tener una visión más amplia y completa sobre el problema que enfrentamos. Para el historiador, se trataba de un concepto polifacético que guarda la idea de ruptura de un proceso al mismo tiempo que provoca un llamado a la reorganización, temiendo la destrucción de algo interpretado como esencial e importante. Probablemente, la actual coyuntura social, permeada por una nueva revolución tecnológica, aporte un altísimo nivel de incertidumbre con relación al presente y al futuro más inmediato, porque existe la noción de que la Inteligencia Artificial (IA) trae en sí misma la semilla de la ruptura de una era y de los patrones de sociabilidad, de producción y de reflexión conocidos (Lee, 2020).

¿Podemos legítimamente definir esa circunstancia como una crisis? Sí, existen las variables suficientes para la aplicación del concepto. Aunque todavía no está claro la intensidad de la crisis, porque afecta no solamente al individuo, sino también al colectivo humano. Frente a esa incertidumbre surge una disyuntiva sobre si frenar el desarrollo de la IA podría ser favorable a la humanidad o al revés, terminar impidiendo un salto de desarrollo universal (Cortina, 2022).

Frente a esa cuestión todavía sin respuesta, podemos buscar paralelos históricos con la intención de examinar la representación de las rupturas de paradigmas. Con todos los matices posibles se da un paso para decir que hay un atrevimiento en la siguiente comparación. En el siglo XV, la erupción de la imprenta representó un hito en la historia cultural al permitir la reproducción de obras bajo riesgo de desaparecer; al mismo tiempo, contribuyó en la formación de un escenario de debate científico, permitiendo que pensadores y científicos de regiones alejadas pudieran beneficiarse de las investigaciones de sus pares1.

En aquel momento, hubo el debate sobre los riesgos del invento. A final de cuentas, la información era la materia prima del poder; la divulgación de obras a un coste menos elevado y más ecléctico traía el problema de contestaciones sobre el orden social. Además, Roger Chartier (2018) llamaba la atención sobre el recelo provocado por la divulgación de ideas heterodoxas y, por lo tanto, entendidas como peligrosas. Guardando las debidas proporciones, la erupción de la IA representa otro hito histórico, porque hace más económicas investigaciones que podrían tardar demasiado tiempo y consumir presupuestos faraónicos.

De ahí se desvela la disyuntiva, ¿la herramienta es la causa de la crisis? Es importante observar que gracias a la utilización de sistemas basados en la IA se lograron algunos beneficios para la humanidad. Según Henry A. Kissinger, Eric Schmidt y Daniel Huttenlocher (2023), el desarrollo de la halicina, un potente antibiótico, fue viable porque el equipo de investigadores sacó provecho de la IA para seleccionar los compuestos químicos adecuados, rechazando diversas otras candidatas, que serían de difícil reconocimiento y tardarían años en ser identificadas. Según el criterio humanista, de favorecer a la persona (Cortina, 2020), parecería muy fácil decidir sobre la moralidad de la utilización de la tecnología en situaciones claramente benéficas el ser humano.

Sin embargo, conforme registrado en el refrán: «el diablo está en los detalles». La IA no funciona de manera autónoma, tampoco es un ente; se refiere más a códigos algorítmicos que ordenan una acción. Alguien (persona o colectivo), hasta el presente momento, precisó crear el código y decirle cuál era su demanda. Con eso se subraya, no ha habido una decisión autónoma e independiente que haya decidido buscar la solución para un problema; por ejemplo, el hallazgo de un nuevo antibiótico. Para examinar el problema también es importante contemplar otras variables, antes de decidir que la IA es una tecnología necesaria a la humanidad, una alerta sería: los pasos seguidos por la IA para determinar los compuestos químicos, en el caso de la creación de la halicina no son transparentes, por lo tanto, existe una niebla sobre los criterios utilizados (Kissinger et al., 2023).

Para concluir esa línea de razonamiento, el ser humano no suele ser siempre altruista. De tal modo, los intereses financieros y de poder pueden prevalecer sobre la inicial intención de desarrollo de un antibiótico, responsable por salvar a innumerables personas. Lo que está en debate es la posibilidad de que un comando semejante, pero con intención distinta, termine por demostrar cómo desarrollar una bacteria súper resistente o un virus con finalidades específicas; caso una situación como esa ocurra, se vuelve accesible el desarrollo de armas de destrucción masiva a bajo coste, conforme previsto por diversos académicos en una publicación de la revista Science, entre los cuales sería importante subrayar las des Yoshua Bengio, David Krueger y Geoffrey Hinton (2024).

Contemplando las variables, sería viable deducir que la culpa, o quizás, la responsabilidad, en última instancia, no recae sobre la IA. No se trata de un ente moralmente imputable en la medida en que seguimos a Cortina (2022); argumento que también ha sido utilizado por otros autores: «Aunque la IA puede sacar conclusiones, hacer predicciones y tomar decisiones, no posee autoconciencia, es decir, la capacidad de reflexionar sobre su papel en el mundo» (Kissinger et al., 2023: 29).

Debemos considerar esa cuestión no como una cuestión estable, sino un aspecto esencial en todo el debate. Hasta el momento, la IA es programada y la literatura demuestra que seguirá siendo así (Lee, 2020). Los pronósticos más catastrofistas permanecen siendo un tema bastante relevante para la ciencia ficción, aunque hay estudios académicos relevantes que pronostican cambios radicales en las próximas décadas. Existen potenciales riesgos en ese proceso de transición. Un código algorítmico es incapaz, todavía (Bengio et al., 2024), de reflexionar autónomamente sobre cómo o cuándo actuar frente a un problema; en última instancia, no es persona, siendo así es todavía responsable por sus acciones.

Si desde los filósofos clásicos, pasando por los humanistas hasta llegar a los existencialistas una fracción importante de su labor intelectual giró alrededor del problema de la cognición humana y la relación del hombre con el mundo. Hay una miríada de opciones de respuestas, pero ahora surge un nuevo problema dado el desafío de que una decisión pueda ser adoptada simplemente basada en datos estadísticos, desconsiderando variables deontológicas.

De un lado tenemos la potencial promesa de que los avances tecnológicos promueven el bienestar, evidentemente para una fracción de la población. Existen suficientes estudios capaces de demostrar el incremento de la desigualdad entre las sociedades y entre los colectivos (Sen, 2021; Stiglitz, 2012). Con el continuo desarrollo de la IA, no hay evidencias de que la dinámica cambie sustancialmente. De hecho, la impersonalidad del sistema tiende a buscar la rentabilidad de las acciones, excluyendo las variables que impiden la consecución del objetivo, como la interferencia altruista o la deliberación casuística adoptada por un analista humano, acción que algunos denominarían singularidad conforme descrito por Adela Cortina (2022).

Hay un caso bastante sintomático sobre esa cuestión. Es cada vez más frecuente la utilización de algoritmos para la selección de candidatos a hipotecas. El sistema utiliza una serie de datos, previamente mapeados y añadidos a un repositorio. La máquina tiene la única tarea de predecir la probabilidad de que una persona sea cumplidora de los compromisos firmados con la institución financiadora (Moscato et al., 2021). Instituciones financieras utilizan sistemas de IA responsables por haber mejorado las tasas de rentabilidad, la clave está en filtrar las personas con elevando scoring, lo que incrementa la tasa de beneficios de la institución, debido a la eliminación de las personas identificadas como posibles morosos.

El problema está en que no hay una interpretación humanista sobre el proceso. El resultado puede ser lógico, pero no contempla la particularidad o la casuística, tan importantes en un proceso de resonancia social (Rosa, 2020). La IA se transforma en una especie de ente omnipotente, que tiene la última palabra sobre el proyecto de vida de una persona, que termina siendo marginada por variables ajenas a su propia voluntad; vivir en un entorno clasificado como de alto índice de impago, pertenecer a un determinado grupo étnico, etc. conlleva a lo que Hartmut Rosa (2020: 455) clasificó como «muerte social», según el sociólogo: «entendida como asesinato por denegación de resonancia, la indiferencia puede volverse letalmente repulsiva».

Lo que se observa es la sustitución del hombre como centro del mundo, para su reubicación en la periferia. Su lugar pasa a ser ocupado por una tecnología motivada por los intereses de una empresa, que en el estrato más elevado tendrá a una persona, que termina no involucrándose en los procesos decisorios, porque se encuentra alienada de las cuestiones esenciales de la vida cotidiana de las clases no privilegiadas. El cometido no es generar dignidad al colectivo humano, por más que en la misión de las empresas suela aparecer la información de que sí lo es.

La omnipresencia de la tecnología promueve la desagregación del ser humano, de la resonancia con el mundo. La interfaz tecnológica no suple el vacío dejado por la desubicación de entes que podían favorecer la comunicación resonante. Esa situación de alienación de la persona con el mundo es potenciada con el avance de la Inteligencia Artificial.

Conforme se ha enunciado, situaciones conocidas y otras tantas intuidas son ejecutadas por sistemas algorítmicos, sin la contemplación humana. Aunque sea posible preguntar algo a algunos sistemas de IA y obtener una respuesta humanamente emulada (Cortina, 2022). Es posible pedir la solución a un problema y obtener una respuesta plausible, como si estuviéramos hablando con una persona, porque hay una interacción lingüística.

Es una comunicación real, existe un enunciador, un enunciado y un receptor del mensaje. La cuestión de fondo es, quiénes son los agentes de la comunicación. Si se tratase de aplicar las herramientas del Análisis del Discurso enfrentaríamos una disyuntiva, porque una de las partes tiene la capacidad de enunciar, pero no es responsable de las consecuencias de su discurso. Por lo tanto, es inviable buscar las intenciones de la elección de un vocablo o leer el mensaje entre líneas.

Volviendo al ejemplo de utilización de la IA en la concesión de una hipoteca; los intentos de convencer a los algoritmos de que las decisiones son equivocadas van a fracasar irremediablemente. El sistema es incapaz de sentir empatía, por lo menos, en la dimensión humana.

Cuando preguntamos a uno de los sistemas de IA2 más utilizados en el mundo obtenemos la respuesta intuida.

No, como inteligencia artificial, ChatGPT no es capaz de sentir emociones ni de experimentar empatía de la misma manera que los humanos. Aunque puedo simular respuestas empáticas al proporcionar respuestas que reflejan comprensión y consideración hacia los sentimientos de los usuarios, estas respuestas son el resultado de algoritmos diseñados para imitar el comportamiento humano y no surgen de una verdadera experiencia emocional (ChatGPT, 15 de marzo de 2024).

Si observamos el fenómeno desde una perspectiva sartriana, nos percatamos de que el sistema no es libre; es incapaz de reflexionar por sí mismo. No tiene la intención de generar el bien o el mal; por lo tanto, incluso sería plausible el debate acerca de la definición de inteligencia atribuida a la colección de datos recopilados y correlacionados por orden de algoritmos. La IA no tiene al ser humano como objetivo teleológico, por lo tanto, se desdobla una situación atípica, porque se sabe que el fin dado al producto generado por la IA puede provocar daños individuales o colectivos a un nivel irreversible.

La incapacidad de sentir emociones imposibilita la atribución de responsabilidades al sistema, pero se puede entender que la empresa, el programador o el usuario pueden ser responsabilizados por las acciones realizadas por los algoritmos, ya sea en la manipulación de imágenes, textos o voces de personas reales. Existe un límite para la despersonalización. La cuestión de fondo es: el constreñimiento de la tecnología en la vida de las personas, por lo menos para aquellas que viven en el tiempo histórico tardomoderno, no se ve limitado por las legislaciones; aparentemente, tampoco por la reflexión de los usuarios.

El ser humano se encuentra en un proceso de deshumanización. El sistema económico no da señales de que demandará un tiempo para sopesar los beneficios y maleficios ocasionados a los sujetos. Los que más sufren son aquellos que se encuentran en la base de la pirámide económica (Stiglitz, 2012), quienes no tienen voces para imponer la ralentización del proceso de cosificación en el cual están insertados sin que se haya cumplido la promesa de incremento de vida y bienes enunciada durante las anteriores fases de desarrollo tecnológico.

Estudios académicos de agencias internacionales, muchas veces divulgados en los medios de comunicación, dan cuenta de que es inevitable la desaparición de innumerables profesiones (Korinek & Stiglitz, 2019; Georgieva, 2024). Se puede decir que es una dinámica histórica. En el pasado, hubo profesiones que en la actualidad se muestran innecesarias, y el mercado laboral se adaptó. Entretanto, es observable que a diferencia de lo que ocurría en otros periodos, en la nueva ventana tecnológica que se abre, la persona es sustituida de una manera fluida, es silenciada sin muchas veces darse cuenta. ¿Por qué pagar a un artista de doblaje, si se puede entrenar a la IA para emular distintas voces, con acentos perfectos? ¿Por qué contratar a un contable, si los datos de ingresos y pagos pueden ser examinados por un sistema preciso?

Son situaciones dramáticas para muchas personas. La desigualdad de acceso a la tecnología es otra dimensión de esa deshumanización (Cortina, 2022). Cuando se habla de tiempos históricos distintos, debemos pensar que la humanidad es muy diversa (Koselleck, 2021), y todavía hay comunidades no afectadas directamente por la mayoría de los problemas descritos aquí. «Existen nichos territoriales, además de los sociales y culturales, islas u oasis que todavía no han sido tocados por la dinámica de la modernización y la aceleración. Simplemente, han sido eximidos (parcial o totalmente) de los procesos de aceleración» (Rosa, 2016: 57). No por eso debemos excluirlos de las consecuencias de una mala praxis social y económica. A las comunidades imposibilitadas de utilizar plena y asertivamente la IA, ya sea por la edad, la situación económica, el déficit de aprendizaje o las imposiciones establecidas por eventuales autoridades, se les impone una forma de barrera que les impide integrarse en el nuevo mercado laboral que se inaugura, siguiendo las huellas dejadas por Amartya Sen (2021).

En la década de 1990 se habló de los analfabetos digitales, personas que no entendían el funcionamiento de un ordenador y tampoco de Internet. Era indispensable entrenar a una masa de trabajadores para utilizar los nuevos sistemas, los cuales, en teoría, iban a garantizar más calidad, velocidad y confianza en las acciones realizadas. Los trabajos eran más operativos, pero precisaban ser entendidos mínimamente. ¿En qué se diferencia con la época de la popularización de la IA? Probablemente, no será fácil adaptarse para convertirse en operador del sistema. Aún más, considerando la exclusión impuesta a muchos debido a la inexistencia de los recursos mínimos para aplicar las nuevas tecnologías, según lo reconocido por el Fondo Monetario Internacional (Georgieva, 2024).

La brecha entre los ricos y los pobres se ve incrementada (Korinek & Stiglitz, 2019). La comparación no tiene que ser realizada entre Bill Gates y un trabajador de supermercado; la noción de riqueza también es perceptiva (Sen, 2020: 195), para aquellos cuyo sueldo no es suficiente para cubrir las necesidades elementales de dignidad de vida, por ejemplo, asegurar la calefacción del hogar. Es económicamente beneficiado quien sí puede cargar ese costo (Barrella, R. et al., 2021), dejando el excedente para invertir en la transición al nuevo sistema. Si no hay recursos para cubrir las necesidades básicas, suena utópico el pronóstico de que los trabajadores podrán adaptarse y utilizar benéficamente la IA. Parece más plausible que se encuentren frenados por las barreras del sistema, representadas por el scoring.

Cuando la pobreza se incrementa, también se abre una brecha para la delincuencia. Aunque no se pueda hablar de determinismo, se puede contemplar como fiable la literatura que propone la relación entre la insuficiencia de recursos económicos con la captación de los excluidos a la criminalidad, lo que se identificaría como factores de riesgo.

Hartmut Rosa llega a contemplar la situación de la exclusión en su teoría de la resonancia (Rosa, 2019: 453). Sobre esa cuestión, debemos hacer dos paréntesis: el primero, la resonancia es un fenómeno positivo; por lo tanto, si hay una acción violenta no podrá ser identificada como resonante, sino como repulsiva, es decir, «una relación con el mundo para la cual el endurecimiento (interno) y el cierre son fundamentales» (Rosa, 2019: 573). Segundo paréntesis, la violencia crece en un contexto de explotación, circunstancia de reificación de la persona (Rosa, 2019: 576).

Se puede alegar que el ser humano es libre para tomar sus propias decisiones; sin embargo, existen determinadas dinámicas sociales que imposibilitan alcanzar la resonancia. Es decir, el sujeto es impedido de lograr un diálogo real y efectivo con el mundo. De hecho, está inmerso en una circunstancia de silencio impuesto; el mundo no le habla, sino que lo oprime. Es lo que se podría clasificar como muerte social (Rosa, 2019: 455).

Sin la pretensión de generar una lectura universal de la situación derivada de la erupción de la deshumanización potenciada por la IA, es observable una serie de acciones que desubican al ser humano de su centralidad, para transformarlo en una especie de pieza de repuesto, posiblemente sustituible o utilizada según la necesidad de generación de más productos en menor espacio de tiempo. La subjetividad se desvanece frente a la necesidad de asegurar la aceleración.

IV. Disrupción de violencias contra el ser humano

Podemos recordar innumerables formas de violencia cometidas por el ser humano contra el ser humano. Algunos podrían incluso afirmar que la violencia es una dinámica tan humana como respirar; quizás exista algo de plausibilidad en dicha reflexión. No obstante, la capacidad intelectual de las personas debería ser suficiente para superar ese axioma.

Al plantear una somera revisión de la historia de la humanidad, seríamos obligados a reconocer que efectivamente los pasajes de una era a otra se dieron a partir de acciones violentas. Incluso las religiones tradicionales no son capaces de ocultar legítimamente sus orígenes violentos.

Entretanto, debemos aún considerar la pregunta: ¿La violencia es innata al ser humano? El análisis de los moralistas clásicos no llega a darnos una respuesta definitiva, tampoco la filosofía contemporánea. La mezcla de postulados de autores de períodos tan dispares podría incluso embarrar el debate, corriendo el riesgo de caer en el anacronismo.

La violencia, aparentemente, es el resultado de un proceso. No parece creíble el argumento de una ley natural inscrita en el alma del ser humano, capaz de establecer modus operandi universales y atemporales. La historia demuestra (Girard, 2005; Delumeau, 2012) que los actos de violencia en el pasado buscaban la resolución de problemas concretos: desde el establecimiento de la ley del talión hasta una posible aprobación de ley de amnistía, tratan de variables relacionadas con la violencia. Someter estos dos últimos ejemplos de legislaciones a análisis conlleva reconocer la diversidad de raíces y matices de la violencia. En conclusión, la violencia debe ser vista como un fenómeno cambiante (Girard, 2005). Si en la primera legislación se reconocía como un derecho la vendetta, en la segunda se registraría la excepcionalidad del uso de la fuerza con un fin sociopolítico.

Como punto de partida, la constatación de que ha habido algunas formas de violencia legítima y legal en el pasado, las mismas serían declaradas anatema en el presente. Aunque sea sencillo encontrar apología de asesinatos o aplicación de torturas en las redes sociales, así como en las conversaciones ordinarias; no es sostenible el argumento de que la violencia ha alcanzado máximos históricos. Hartmut Rosa (2020: 510) advierte que: «El asesinato de un ser humano constituye quizá la forma más radical de reificación humana». A partir de su postulado se deduce la existencia de estratos de deshumanización, es decir, categorías de violencia a veces no tan radicales, pero no por eso insignificantes.

La violencia también puede ser obligar a una familia a migrar, bajo el riesgo de que su hijo sea asesinado al nacer. Continúa siéndolo en la actualidad. Probablemente, el anuncio de un proyecto como ese no sea publicado en el boletín oficial de un Estado, pero el constante acecho de milicias o ataques armados contra una comunidad tiene el efecto semejante a la declaración de infanticidio. Por otro lado, no parece aceptable la declaración ni la aplicación de una medida de venganza igual o equiparable al daño recibido. Los tiempos son otros, aunque exista la tentación de idealizar el pasado y demonizar el presente.

Lejos de ser una apología del tiempo presente. Siguiendo a autores como Hartmut Rosa (2018), Amartya Sen (2021), Adela Cortina (2022), entre otros, somos impelidos a identificar innumerables formas, categorías y dimensiones de la violencia. Muchas veces aplicadas de manera descarada, asumiendo aires de soberbia al sobrepasar las fronteras establecidas en el contrato social. Pero otras veces asume el perfil de sutilezas y silenciamientos, que pasan sin despertar la mínima sospecha de que una acción violenta está siendo ejecutada; en ese caso, se aprovecha la tendencia a la alienación propia de la sociedad tardomoderna: «Constituyen experiencias de indiferencia o repulsión, esto es, como encuentros con algo hostil o dañino» (Rosa, 2020: 572).

La violencia contemporánea precisa ser adjetivada. Las multifacéticas dimensiones de ese hecho social demandan entender que pueden asumir perfiles heterogéneos. La violencia explícita que se observa en una película de Pasolini o de Galder Gaztelu-Urrutia es diferente, por lo tanto, pueden ser categorizadas. Así como la violencia psicológica sufrida por una persona víctima de acoso laboral o sexual son distintas. El problema de ese amplio espectro de aplicación del concepto de violencia es producir su banalización, conforme al postulado por López-Pérez (2022: 35): «La industria cultural ha tipificado las imágenes de la violencia hasta el punto de normalizar la distribución de las snuff movies en la era de Internet».

Al contemplar los postulados de Amartya Sen (2021), Byung-Chul Han (2013) o Adela Cortina (2000); autores muy distintos entre sí, pero que en alguna medida contemplan la variable de la violencia como un fenómeno en expansión y normalización. Byung-Chul Han comentaba que tanto el proceso de aceleración como la tendencia a generalizar la transparencia provocan una despersonalización, es decir, la fractura del yo mismo. El autor se dedicó a demostrar cómo acciones banalizadas en la tardomodernidad son actos violentos. Daba como ejemplo la pornografía, un recurso también utilizado por Rosa (2020).

¿Qué relación hay entre la violencia, la aceleración y la pornografía? Es interesante la construcción de esa correlación, quizás la utilización de la correlación de Pearson desvelaría un bajo coeficiente de correlación. Sin embargo, para los objetivos de esa investigación, encontramos la línea que une estas tres variables. Antes de emitir un parecer sobre ello, debemos partir del postulado de los autores citados.

Hartmut Rosa (2020) lo examina como un problema de «silenciamiento» peculiar a la tardomodernidad. Frente a las barreras para la efectividad de la resonancia, erupcionan paliativos que intentan restaurar el contacto y la relación entre los sujetos, pero también entre ellos y el mundo; «La crisis se remonta al hecho de que la estrategia de alcance del mundo conduce paradójicamente a una progresiva pérdida de mundo y, por tanto, al silenciamiento de los ejes de resonancia» (Rosa, 2020: 548).

Probablemente, las personas se hayan acostumbrado a alejarse de sus semejantes, lo que convierte el acto de tocar al otro, tanto de manera literal como perceptible (sensorial), en una medida extraordinaria. En el intento de atenuar ese aislamiento, la adopción de prácticas que cosifican al otro se convierte en una estrategia parcialmente aceptable, en parte porque no se tendría en consideración el sentimiento o las demandas existenciales del otro. El resultado de esa ecuación es la victoria de un utilitarismo perjudicial a la sociedad, sin el hipotético beneficio individual (Singer, 1995), sino la instrumentalización del cuerpo del otro.

Byung-Chul Han se acercará al problema vinculando la pornografía a la insaciable necesidad de transparencia, demandada en el actual contexto histórico. Afirma sin tapujos: «Violencia es no solo el dispositivo que impone al rostro un rol, una máscara, una expresión, sino también la desnudez sin forma, pornográfica» (2013: 47). Los ejemplos utilizados por el autor van en la dirección de despersonificar el cuerpo, convirtiéndolo en carne, materia sin valor, es como un instrumento para un fin.

Evidentemente, la violencia sexual es tangible, existen diversos estudios que demuestran la aplicación de métodos cruentos contra personas, mayoritariamente mujeres. Podemos pensar, por ejemplo, en la trata, un fenómeno criminal en el cual la mujer es obligada a actuar de una forma contraria a su voluntad, para que una persona u organización criminal obtenga beneficios económicos. Más allá de esa constatación no se puede perder de vista, la dimensión de la violencia invisible, que conforme enunciado por Cano (2022). Las víctimas son seducidas, en parte, debido a su vulnerabilidad preexistente, lo que deslumbra bajo la promesa de una vida dignificada, con posibilidad de trabajos legítimos. Sin embargo, las ofertas de trabajo en no pocas situaciones son falsas promesas, que rápidamente se desvanecen para dar lugar a la rutina de agresiones físicas y psicosociales (Aronowitz, 2009; ONU, 2021). Hay estudios relevantes que demuestran el uso de la violencia sin subterfugios o antifaz, sino de una forma cruda, como la prostitución forzada y la explotación sexual (UNODC, 2018; Macleod, C. I. et al., 2024).

Sin embargo, no es precisamente a esa dimensión de la pornografía y de la industria sexual a la que se referían Han y Rosa, sino a una categoría de alienación de los sujetos tardomodernos, que pierden la capacidad de dialogar con el mundo, y, aun así, ese abanico de eventos posibilita la observación de los diversos matices de la violencia. Lo que Rosa subraya es que la sexualidad es una dimensión singular en el proceso de resonancia del sujeto con el otro y con el mundo. Entretanto, esa ligazón es rota cuando «la relación corporal puede ir entonces de la mano de una ausencia total de resonancia psíquica. Puede suponerse que estas formas de sexualidad existen en la industria pornográfica o en la prostitución» (Rosa, 2020: 107), porque se impone una relación mecánica, que es aprovechada por una industria que cosifica a las personas; evidentemente un acto de violencia.

Esa situación asume otros niveles con el avance tecnológico, conforme planteado por Remedios Zafra (2022) en la medida en que abre nuevas dimensiones de explotación, reificación, violencia y deshumanización, incrementadas con el advenimiento de la Inteligencia Artificial. Considerando las innumerables formas de atentar contra la dignidad del otro; creando mecanismos de explotación ya ampliamente utilizados por el crimen organizado (Di Nicola, 2022).

El cuerpo humano es reificado, conforme enunció Agamben (2011). Existe en ese proceso una serie de capas de deshumanización. La satisfacción efímera se lleva a cabo a través del sufrimiento proporcionado al otro. Para el espanto de la sociedad contemporánea, lo que era un problema tantas veces marginado en las zonas depauperadas de los centros urbanos o velado por las no miradas, pasa a ser un problema presente en el salón de la casa de las personas, porque es accesible a través de las pantallas de los dispositivos; incrementado por las explícitas amenazas provocadas por la utilización perversa de la IA, que contribuye a aumentar la vulnerabilidad de las personas.

Los casos de aplicación de la Inteligencia Artificial para herir la sensibilidad, la existencia, el honor o la dignidad de las personas erupcionan por doquier. Se puede constatar que los casos más mediáticos ocurren cuando la identidad de una persona afamada es suplantada, no obstante, existe un serio riesgo para innumerables personas, debido a que esa acción de violencia no tiene barreras de edad, de nacionalidad y tampoco pueden ser frenadas por las fronteras de los estados.

V. Una percepción pesimista sobre el tiempo presente

Al comenzar este apartado, recordamos la advertencia realizada por Asa Briggs y Peter Burke (2002) sobre la incertidumbre de escribir sobre un fenómeno aún en marcha. En aquel momento, se examinaban las consecuencias abiertas por Internet, incluso muchos de los conceptos y vocablos ampliamente utilizados ahora comenzaban a popularizarse durante esa época: ciberespacio, realidad virtual, online, etc. Los autores dijeron: «mantener un sentido de perspectiva, difícil de lograr cuando los medios se concentran en el día (hoy y mañana) y en la semana, más preocupados por anticipar lo que ocurrirá que por describir lo que ha ocurrido» (p. 370).

La adopción de esa advertencia también es plausible ahora. Cualquier investigador que intenta describir fenómenos novedosos, pero aún en transformación, precisa asumir el riesgo de que sus ideas y propuestas caduquen a una velocidad insospechada. Paradójicamente, es una de las consecuencias de la aceleración, sobre la cual postuló Rosa (2016); reflexionar sobre lo que parece ser un tsunami, pero que más adelante podría revelarse como una pequeña ola. ¿Eso inviabiliza el análisis? Posiblemente no. Porque conforme el análisis de la literatura demuestra, es plausible ver la ascensión de la IA como un elemento de incremento de la deshumanización. No es su causa, desde luego. La simple sugerencia de que podría serlo evidenciaría una equivocación, como la interpretación de que Internet provocaría una catástrofe social, derivada de la ausencia de «infraestructuras de control» (Briggs & Burke, 2002).

Pasadas dos décadas, algunas de las sospechas siguen siendo válidas. El ciberespacio es anunciado, innumerables veces, como una amenaza. Muy recientemente, el día 31 de enero de 2024, Mark Zuckerberg, el cofundador de Facebook y CEO de Meta, un holding que opera diversas redes sociales, pidió perdón a las familias de internautas por eventuales daños ocasionados por el uso de sus herramientas (Vidal, 2024). No sería baladí recordar que en 2018, el mismo magnate de las telecomunicaciones y gran impulsor de la realidad aumentada y la aplicación de la IA, pidió perdón por la ausencia de firewalls en su empresa, lo que había permitido la filtración de datos de los usuarios a empresas predatorias (Sánchez, 2018).

Si en la primera mitad del siglo XX había recelo sobre el origen de la información; las personas alfabetizadas estaban siendo «controladas» por los medios de comunicación de masa, en su caso los periódicos, responsables de marginar los libros; ¿qué decir de la actual coyuntura? Antes importaba la línea editorial del periódico, más tarde la radio, pasando por la televisión hasta llegar a la era de las redes sociales. En el pasado se podía intuir el carácter de la noticia, al contemplar quién dirigía la corporación o quién firmaba el reportaje, en la actualidad, la certidumbre sobre la originalidad del texto es cada vez más difuminada.

Un debate que se establece es: cómo proteger la información del uso indiscriminado de la IA. Saber si una fuente es efectivamente fiable, si los datos fueron contrastados, si el texto es redactado por un periodista o por una aplicación que utiliza la IA para unir las ideas, rellenar los huecos y proponer un resultado.

Los propietarios de los medios de comunicación parecían poseer el poder de controlar a la población, en la medida en que definían qué y cómo sería divulgada la información, que después sería consumida por una población carente de las habilidades para contrastar las diversas perspectivas sobre un determinado evento. Aquellos magnates de los medios de comunicación podrían haber sido reemplazados por las compañías que desarrollan y aplican la IA, sin que la masa de lectores, televidentes y usuarios de las redes sociales tengan la habilidad de reconocer la veracidad de la información o la autoría del enunciado. Es una cuestión identificada hace años (Zafra, 2017; Rosa, 2020).

Inmersos en la coyuntura de aceleración surge la tentación de adherirse a la utilización de la IA como herramienta de ahorro de tiempo. Una variable bastante legítima y coherente tanto con las necesidades de cada trabajador, quien pretende tener más tiempo para relacionarse con el mundo; lo que podría ser identificado como resonancia. Como también es una demanda de la empresa o compañía, que precisa ofrecer productos de consumo rápido, sin la necesidad de desgloses profundos o análisis complejos (Novas, 2022). Un ejemplo banal de esa situación: en muchos periódicos se informa al lector cuánto tiempo deberá dedicar a la lectura de la noticia. Es una pseudo-optimización temporal, el lector podrá juzgar si es válido o útil invertir 5 o más minutos para aprehender informaciones.

En ese sentido, es plausible entender que «los tiempos excedentarios y rápidos están ávidos de respuestas siempre que lleguen ahora» (Zafra, 2017), la coyuntura social está configurada para recordárselo a quien eventualmente quiera relacionarse de otra forma con el mundo. Para entender los fenómenos complejos como la teoría del reemplazo, el problema de las migraciones o la teoría de resonancia demandan tiempo; al final de cuentas, es preciso dedicar horas a la lectura, después a la confrontación de los postulados y al fin de generar un entendimiento. Si son cuestiones interpretadas como marginales, más efectivo sería consultar un resumen del problema en algún periódico o mejor en un blog. Los cuales ya pueden ser editados y programados con IA.

VI. Conclusión

El desarrollo de la IA y la posibilidad de que sea accesible para personas comunes es ciertamente un avance tecnológico sorprendente. De hecho, las posibilidades desencadenadas por estos sistemas de algoritmos, con capacidad de solucionar problemas complejos, que utilizan datos almacenados o simplemente aprendiendo de sus logros y equivocaciones, representan un hito para la humanidad.

Sería posible haber enfocado ese análisis en los beneficios generados por la IA; existe una literatura bastante amplia que lo demuestra. Para comprobarlo, basta consultar las bases de datos, como Scopus o Web of Science, para encontrar situaciones reales en las cuales los actores más diferentes están aplicando la tecnología para agilizar trámites burocráticos, ahorrar recursos naturales, combatir el crimen o desarrollar medicinas, como se ha evidenciado en este trabajo, cuando se registró la importancia de la IA en el desarrollo del antibiótico bautizado como halicina, en referencia a HAL 9000 de la película 2001: una odisea en el espacio.

La utilización de la IA ya ha generado beneficios para la humanidad. De todos modos, el enfoque dado a la investigación pretendió contemplar cómo la tecnología puede favorecer procesos característicos de la tardomodernidad: la aceleración y la violencia. Evidentemente, la violencia no es una peculiaridad de ese tiempo histórico; existen datos que evidencian que en otras épocas ha habido fenómenos de violencia, como podrían ser los infanticidios. Entretanto, entre los síntomas de la época examinada se subraya el multifacético carácter de la violencia, que se ve potenciado por otro fenómeno, ese sí, idiosincrático de la modernidad tardía: la aceleración.

Al principio se pretendió correlacionar los conceptos, con la intención de verificar si había plausibilidad en la hipótesis de que la IA podría contribuir a la disrupción de la violencia en una coyuntura de aceleración. Para ello, se intentó recoger la teoría postulada por el sociólogo Hartmut Rosa, uno de los principales representantes de la 4ª generación de la Escuela de Frankfurt. Se trata de un postulado amplio y todavía en construcción, pues el autor sigue realizando sus investigaciones y de manera honesta reconoce que la teoría todavía precisa ser pulida.

Como resultado de la investigación se reconoce la plausibilidad de la hipótesis, así como la necesidad de contemplar de manera más específica la variable de la violencia en el pensamiento de Rosa. Parece correcto decir, siguiendo a Rosa, que la aceleración no se trata simplemente de decir que las personas en los países desarrollados o en los territorios bajo influencia de estos perciben que el tiempo pasa más rápido. La aceleración es algo más compleja; identifica que el sujeto patrón de esa sociedad se encuentra encerrado en una búsqueda constante por realización.

Cada vez es preciso producir más y registrar más avances: económicos, culturales, científicos, etc. Es una demanda del capitalismo contemporáneo, no adecuarse a esa exigencia puede quedar rezagado. Quien permanece parado o adopta una postura más contemplativa se vería superado por la competencia. El resultado de esa ecuación es el surgimiento de una comunidad extenuada, que en consecuencia pierde su capacidad de resonancia; es decir, la persona deja de comunicarse y sentirse. No es capaz de escuchar efectivamente al mundo y tampoco ser tocado por él, se vuelve un sujeto alienado o peor, en situación de repulsión.

Para las pretensiones de esa investigación, se entiende que la identificación de la repulsión sería suficiente para demostrar que la IA tiene la capacidad de potenciar la violencia. Eso se da porque se contempla una percepción bastante amplia y heterogénea de lo que sería la violencia; esta puede darse en la circunstancia en la que la persona pierde su capacidad de comunión con el mundo, con lo que está a su alrededor, dejando, por lo tanto, de reconocerse como integrante de una comunidad. Sin embargo, para llegar a esa conclusión, fue preciso pasar por otras categorías de violencia; por esa razón, se ha tratado de manera concreta cómo la IA podría favorecer actos de violencia como la trata o la exclusión socioeconómica promovida por los sistemas financieros.

De hecho, la investigación demuestra que la sociedad tardomoderna es vulnerable frente a una serie de violencias, aunque en el cotidiano no se pare a reflexionar sobre las consecuencias del silenciamiento del mundo para las personas. De manera alegórica, el ser humano ha terminado por crear una isla de resonancia, que aparentemente le ofrece la imagen de una resonancia real, aunque no deja de ser una escenificación. Como consecuencia, se observa el incremento de la ansiedad de una generación que se ve abocada a emular resonancias, incluso cuando muchas veces promueve un acto repulsivo de violencia.

Referencias bibliográficas

Agamben, G. (2011). Desnudez. Adriana Hidalgo

Aronowitz, A. A., & Chmaitilly, M. (2020). Human trafficking: Women, children, and victim-offender overlap. In Oxford Research Encyclopedia of Criminology and Criminal Justice.

Barrella, R., Romero Mora, J. C., Linares Hurtado, J. I., Arenas Pinilla, E. M., Asín, M., & Centeno Hernáez, E. (2021). The dark side of energy poverty: who is underconsuming and why? https://www.sciencedirect.com/science/article/abs/pii/S2214629621005156

Bassets, M. (23 de enero de 2024). Un niño de nueve años vivió solo durante dos en un pueblo de Francia. ¿Por qué nadie vio nada raro? https://elpais.com/sociedad/2024-01-23/un-nino-de-nueve-anos-vivio-solo-durante-dos-en-un-pueblo-de-francia-por-que-nadie-vio-nada-raro.html

BBC. (3 de abril de 2023). Cómo mi vecina pudo estar muerta por más de dos años en su departamento sin que nadie lo descubriera. https://www.bbc.com/mundo/noticias-65162824

Bengio, Y., Hinton, G., Yao, A., Song, D., Abbeel, P., Darrell, T., Harari, Y. N., Zhang, Y. Q., Xue, L., Shalev-Shwartz, S., Hadfield, G., Clune, J., Maharaj, T., Hutter, F., Baydin, A. G., McIlraith, S., Gao, Q., Acharya, A., Krueger, D., ... Mindermann, S. (2024). Managing extreme AI risks amid rapid progress. Science 384,842-845. DOI:10.1126/science.adn0117

Braun, N., Debener, S., Spychala, N., Bongartz, E., Sörös, P., Müller, H. H., & Philipsen, A. (2018). The senses of agency and ownership: a review. Frontiers in psychology, 9, 535.

Briggs, A y Burke. P. (2002) De Guttenberg a Internet. Taurus.

Cano, A. M. F. (2022). La trata de personas en entornos digitales. Revista jurídica valenciana, (40), 119-139.

Chartier, R. (2018). Las revoluciones de la cultura escrita (Vol. 302653). Editorial Gedisa.

Cortina, A. (2000). Ética mínima. Madrid: Tecnos.

Cortina, A. (2022). Los desafíos éticos del transhumanismo. Pensamiento. Revista De Investigación E Información Filosófica, 78(298 S. Esp), 471–483. https://doi.org/10.14422/pen.v78.i298.y2022.009

Delumeau, J. (2012). El miedo en Occidente: (siglos XIV-XVIII) - Una ciudad sitiada.

Di Nicola, A. (2022). Towards digital organized crime and digital sociology of organized crime. Trends in organized crime, 1-20.

Georgieva, K. (16 de enero de 2024). La economía mundial transformada por la inteligencia artificial ha de beneficiar a la humanidad. https://www.imf.org/es/Blogs/Articles/2024/01/14/ai-will-transform-the-global-economy-lets-make-sure-it-benefits-humanity#:~:text=La%20inteligencia%20artificial%20(IA)%20afectar%C3%A1,deben%20encontrar%20un%20fino%20equilibrio.

Girard, R. (2005). La violencia y lo sagrado. Anagrama.

Han, Byung-Chul (2013). La sociedad de la transparencia. Herder

Kissinger, H., Schmidt, E., & Hottenlocher, D. (2023). La Era de la Inteligencia Artificial y nuestro futuro humano. Anaya.

Korinek, A. & Stiglitz, J. (2019). 14. Artificial Intelligence and Its Implications for Income Distribution and Unemployment. In A. Agrawal, J. Gans & A. Goldfarb (Ed.), The Economics of Artificial Intelligence: An Agenda (pp. 349-390). Chicago: University of Chicago Press. https://doi.org/10.7208/9780226613475-016

Koselleck, R. (2007) Crítica y crisis Un estudio sobre la patogénesis del mundo burgués. Trotta

Koselleck, R. (2019). Algunas preguntas sobre la historia del concepto «crisis». Philosophia, [S. l.], v. 76, n. 2, p. 101–115, Disponible en: https://revistas.uncu.edu.ar/ojs/index.php/philosophia/article/view/1872. Web. 10 Jun. 2019.

Koselleck, R. (2021). Introducción a Estratos del tiempo. Prismas, 25(2), 119-124.

LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436-444.

Lee, K. F. (2020). Superpotencias de la inteligencia artificial. Barcelona: Planeta.

López-Pérez, S. (2022). Sobre la violencia en las películas de Pasolini [On violence in Pasolini’s films]. Filmhistoria [Film History], 32(2), 18-40. https://doi.org/10.1344/fh.2022.32.2.18-40

López-Pérez, S. (2023). El giro antropológico de los años 60 según Adorno y Pasolini. ¿Cómo retomar la labor del pensamiento en una época de cultura de masas?. Disputatio, 0-00. Recuperado a partir de https://studiahumanitatis.eu/ojs/index.php/disputatio/article/view/2023-lopez-adornopasolini

Macleod, C. I., Reynolds, J. H., & Delate, R. (2024). Violence against women who sell sex in eastern and southern Africa: a scoping review. Trauma, Violence, & Abuse, 25(1), 691-703.

Merleau-Ponty, M. (2010) Lo visible y lo invisible. Nueva Visión

Moscato, V., Picariello, A., & Sperlí, G. (2021). A benchmark of machine learning approaches for credit score prediction. Expert Systems with Applications, 165, 113986.

Novas, A. L. (2019). Aceleración digital: algunos problemas de la comunicación on-line. In Antropología de la comunicación: Acción y efectos en la literatura y en los media (pp. 21-32). Fragua.

Rosa, H. (2016). Alienación y aceleración: hacia una teoría crítica de la temporalidad en la modernidad tardía. Katz Editores.

Rosa, H. (2018). Remedio a la aceleración: Ensayos sobre la resonancia. Nedediciones.

Rosa, H. (2020). Resonancia: una sociología de la relación con el mundo. Katz Editores.

Sánchez, Á. (2018). Zuckerberg pide perdón en la Eurocámara por el escándalo de la filtración de datos https://elpais.com/internacional/2018/05/22/actualidad/1526978885_742204.html

Sánchez, N. (18 de octubre de 2023). La Guardia Civil libera a una menor que era obligada a prostituirse en un campamento chabolista de Almería https://elpais.com/sociedad/2023-10-18/la-guardia-civil-libera-a-una-menor-que-era-obligada-a-prostituirse-en-un-campamento-chabolista-de-almeria.html

Sen, A. K. (2016). La desigualdad económica. Fondo de Cultura Económica.

Sen, A. K. (2021). Nuevo examen de la desigualdad. Alianza editorial

Singer, P. (1995). Ética práctica. Cambridge.

Slane, A., & Langlois, G. (2018). Debunking the myth of “not my bad”: Sexual images, consent, and online host responsibilities in Canada. Canadian Journal of Women and the Law, 30(1), 42-81.

Stiglitz, J. E. (2012). El precio de la desigualdad: el 1% de población tiene lo que el 99% necesita. Taurus.

UN. (2021). High-Level Meeting Of The General Assembly On The Appraisal Of The United Nations Global Plan Of Action To Combat Trafficking in Persons https://www.unodc.org/res/human-trafficking/TIP_GPA_appraisal_html/Written_Contributions.pdf

United Nations Office on Drugs and Crime (UNODC). (2018). Global Report on Trafficking in Persons<https://www.unodc.org/documents/data-and-analysis/glotip/2018/ GLOTiP_2018_BOOK_web_small.pdf>.

Vidal M. L. (2024). «Tienen sangre en sus manos»: los senadores de EE UU arremeten contra las redes sociales por no proteger a los menores. https://elpais.com/tecnologia/2024-01-31/tienen-sangre-en-sus-manos-los-senadores-de-ee-uu-arremeten-contra-las-redes-sociales-por-no-proteger-a-los-menores.html?ssm=TW_CM

Zafra, A, R. (2017) El entusiasmo. Anagrama.

Zafra, A, R. (2022). La intimidad conectada. Feminismo y cultura red. Atlánticas. Revista Internacional de Estudios Feministas, 7(1), 114-130.

Zafra, I. (29 de mayo de 2018). Encontrado cadáver mumificado de idosa, de quem ninguém sentiu falta, depois de quatro anos. https://brasil.elpais.com/brasil/2018/05/29/internacional/1527589357_452498.html

Reinaldo Batista Cordova: Doctor en Historia por la Universidad de Murcia y experto universitario en Filosofía Contemporánea por la Universidad Católica de Brasília. Docente e investigador en las Facultades de Humanidades y Criminología de la Universidad Isabel I.

Líneas de investigación:

– Historia contemporánea, Filosofía contemporánea, Teoría Crítica, Violencia.

Publicaciones recientes:

– Cordova, R. B. (2024): «Sentido y sinsentido de la xenofobia: aproximación al fenómeno en el tiempo presente», en Violencia, conflicto, medios de comunicación y tecnologías, Dykinson, pp. 70-88.

– Cordova, R. B. (2024): «Diversas formas de violencia: examen de las obras de Woody Allen», en Análisis de la obra de Woody Allen: un acercamiento desde las Ciencias Sociales y Humanas, Egregius, pp. 87-101.

– Cordova, R. B. (2023): «Crisis, migración y paternidad responsable: problemas de la contemporaneidad», Vergentis. Revista de Investigación de la Cátedra Internacional conjunta Inocencio III, 16, pp. 109-126.

Correo-e: reinaldo.batista@ui1.es

1. La literatura recoge el problema que puede existir al comparar la invención de la imprenta con la IA. El problema radica en que la imprenta era una herramienta de reproducción de documentos existentes, mientras que la IA es capaz de crear algo nuevo a partir de datos e información (LeCun, Bengio y Hinton, 2015). La comparación que aquí se realiza tiene la intención de evidenciar el miedo y los potenciales aspectos de ruptura provocados en ambos momentos históricos.

2. Un chatbot es un software creado para simular una conversación con usuarios humanos, especialmente a través de aplicaciones de mensajería, sitios web, aplicaciones móviles o teléfonos.