Ética y valores públicos como guía de acción ante la expansión de la inteligencia artificial: ¿por qué las administraciones públicas deberían liderar la gobernanza social de las tecnologías disruptivas?

Ethics and public values as a guide for action in the face of the expansion of artificial intelligence: why should public administrations lead the social governance of disruptive technologies?

Alberto Benítez Amado

Universidad Nacional de Educación a Distancia (España)

Fecha de envío: 08/04/2024

Fecha de aceptación: 22/07/2024

DOI: 10.24310/crf.16.2.2024.19669

I. Introducción

En los tiempos actuales, y de un modo acelerado con la aparición reciente de potentes herramientas basadas en la inteligencia artificial generativa (IAG en adelante) que se han hecho más accesibles a la ciudadanía en general (ej. ChatGPT por citar a la más conocida); asistimos a una suerte de fascinación por el discurso y el desarrollo tecnológico que presenta dos caras fácilmente visibles: la primera adquiere una naturaleza ciertamente positiva derivada de las enormes potencialidades transformadoras que posee la IA y la robótica; mientras que la segunda adquiere una naturaleza negativa que resalta los problemas y peligros que acompañan al uso de estas tecnologías, lo que en la literatura académica especializada se conoce como «el lado oscuro de la TI» (Cheng et al., 2022; Papagiannidis et al., 2023; Wirtz et al., 2020).

En cierto modo, esta preocupación o incluso fascinación, social pero también académica; está claramente motivada por la verdadera revolución social que supone la emergencia de nuevas disrupciones tecnológicas y la expansión acelerada del uso de la IA y la robótica en los diferentes ámbitos de la sociedad. Así, existe un consenso generalizado entre los especialistas que reconoce que va a provocar tensiones y alteraciones por las sucesivas transformaciones que va a imponer en la organización de nuestras sociedades y de los sistemas político y económico, de los modelos de relaciones laborales, en los patrones de conducta y modos de actuar de los individuos, e incluso del orden democrático (Mercader, 2017; Lasalle, 2024; Moreno, 2018; Moreno & Jiménez, 2018; Ocaña Orbis, 2017; Schwad, 2016).

En palabras de Roca (2018):

lo importante de la disrupción tecnológica no es su capacidad de aportar innovación a los procesos o a los negocios, sino su capacidad de transformar la sociedad. (…) Al igual que ocurriera con otras tecnologías anteriores, tras las primeras etapas de descubrimiento e ingeniería, se produce la fase de transformación, no solo con nuevos productos o servicios, sino de cambios de hábitos en las personas e incluso en las escalas de valores.

Ante este panorama, y con los complejos retos y desafíos que presenta esta denominada revolución tecnológica, se requiere la involucración no solo de los profesionales del ámbito tecnológico, sino también de especialistas de las ramas de las humanidades y las ciencias sociales y jurídicas —filósofos, politólogos, sociólogos, juristas, gestores públicos, economistas, etc.— que pueden abordar desde sus disciplinas científicas y conocimientos las múltiples aristas que conforman este fenómeno1.

El presente artículo tiene como objetivo analizar y reflexionar acerca del rol que deben tener los poderes públicos —instituciones y administraciones públicas— ante la expansión acelerada de nuevas tecnologías disruptivas como la IA como únicas instituciones capaces de preservar la ética pública, los valores públicos y el bien común. Para ello, revisa conceptualmente la función que tienen las instituciones y las administraciones públicas en la creación de valor público y la importante labor que desempeñan en la protección del bien común y de una ética pública que han de constituir el elemento de referencia para situar las tecnologías disruptivas al servicio de la ciudadanía y construir una adecuada gobernanza pública. En segundo lugar, este artículo se plantea si los poderes públicos, con los rasgos y limitaciones que se le atribuyen, poseen las capacidades necesarias para liderar la gobernanza de este proceso de disrupción tecnológica ya iniciado y sin la cual difícilmente podrá garantizarse esa salvaguarda de los valores públicos y el debido respeto a la ética de lo público.

II. La ética pública y la salvaguarda de los valores públicos como marco de referencia para situar las tecnologías disruptivas al servicio de la ciudadanía

II.i. Ética pública y creación de valor público

Podemos conceptualizar el término ética pública como

el resultado de definir lo que está bien y mal para la colectividad, aquello que podría constituir un patrón moral básico de carácter universal y generalizable, dado lo racional y razonable de sus fines, valores y prescripciones de conducta, patrón compatible con la propia búsqueda razonable del bien (Villoria Mendieta, 2009: 520 y ss.).

Esta ética refiere a todos los individuos que son miembros de la sociedad (Habermas, 2000) e incluye, además, todos aquellos principios y reglas sobre los que existe cierto consenso en tanto que propician una convivencia justa y armoniosa, que de ser respetada propiciaría una comunidad equilibrada y justa.

En este sentido, y en el contexto que ocupa a este artículo, la ética pública debería guiar las actuaciones de los poderes públicos en su conjunto y de sus administraciones para que en última instancia preserven los principios y valores que deben regir en la vida pública. A este respecto, Thompson (1985: 555) señala los siguientes principios éticos: los derechos y deberes que las personas deben respetar cuando actúan en un entorno dónde sus actos afectan considerablemente al bienestar de otras personas y de la sociedad en su conjunto; y las condiciones que las prácticas colectivas y las políticas públicas deberían satisfacer cuando también influyen en el bienestar de las personas y de la propia sociedad.

El problema radica, según Villoria (2009), en que la ética pública es una ética aplicada que trata de aplicar principios centrales de la convivencia justa al ámbito del gobierno y de la gestión de lo público, y que dada la existencia de un amplio pluralismo en el ámbito de lo moral y de lo ético resulta complejo establecer un punto de partida común desde el que evaluar y juzgar la acción pública; lo que exige identificar ciertos fundamentos nucleares tales como la promoción y protección de los derechos fundamentales y las libertades públicas, la defensa de los derechos humanos, la democracia y la igualdad de oportunidades (Cortina, 2007). Situando en dicho marco el punto de referencia de lo que ha de considerarse correcto, podrá delimitarse inicialmente la frontera entre el ejercicio honesto de toda acción pública y su ejercicio inmoral, y así, en su posterior desarrollo comenzar a generar valores y reglas de conducta instrumentales que deben respetarse y aplicarse en el ejercicio honesto de las acciones que emprenden los gobiernos y las administraciones públicas.

En consecuencia, y aplicado al objeto de estudio que nos ocupa, la ética pública ha de constituir el marco de referencia que debe guiar la actuación de los poderes públicos en sus intervenciones regulatorias relativas al desarrollo tecnológico, en la construcción de una adecuada gobernanza de la utilidad pública de la tecnología disruptiva emergente, y en la resolución de posibles conflictos y dilemas que se produzcan sobre qué derechos y deberes deben respetarse, y las condiciones que deben existir para cumplir con los mínimos estándares éticos.

Respecto a la creación de valor público, que es el fin último al que aspiran los gobiernos y las administraciones públicas, cabe afirmar, en primer lugar, que no existe una definición unánime al respecto. Como primera aproximación, el concepto de valor público hace referencia a todo aquello que las administraciones públicas han conseguido crear y sostener a lo largo del tiempo en nombre del interés general (Parrado, 2023; Parrado & Reynaers, 2017). Moore (2013), por ejemplo, acota el significado de valor público en torno a dimensiones éticas relevantes para los asuntos públicos que tienen consecuencias potenciales para la vida individual y/o colectiva de las personas. Parrado (2023: 26) entiende «el valor público como un estado deseable de la sociedad relacionado con la calidad de vida individual y colectiva (servicios y políticas que reciben) de los ciudadanos según los principios normativos consensuados en esa sociedad» (Geuijen et al., 2017).

Según la literatura académica especializada, puede establecerse una distinción entre el término valor público y su acepción en plural —valores públicos—. Cuando se hace referencia a los valores públicos se expresa un juicio para establecer si se ha conseguido lo que es considerado como justo para la ciudadanía y la sociedad (Parrado, 2023). Es decir, los valores públicos constituyen estándares sociales y principios que deben guiar la actividad gubernamental y administrativa (Nabatchi, 2018).

Como bien explica Bozeman (2007: 13):

los valores públicos proporcionan consenso normativo sobre los derechos, los beneficios, y las prerrogativas a los que deberían (y no deberían) tener derecho los ciudadanos; las obligaciones de los ciudadanos con la sociedad, el Estado y entre sí; y los principios en los que deberían basarse los gobiernos y las políticas públicas.

En este sentido, las investigaciones académicas han identificado más de quinientos valores públicos (Van der Wal et al., 2006), lo que evidencia lo difícil que resulta establecerlos, en tanto que pueden considerarse como tales para una política o servicio públicos valores como la privacidad de los datos personales, la confidencialidad, las libertades civiles, los derechos individuales o la generación de conocimiento (Parrado, 2023).

En consecuencia, y aplicado al objeto de estudio que nos ocupa, la gobernanza pública de las tecnologías disruptivas emergentes debe ser capaz de garantizar y salvaguardar los valores públicos esenciales, preservando, por ejemplo, que el uso y aplicación de herramientas basadas en IA no entre en conflicto ni colisione con tales valores públicos (Wang et al., 2021); y, en definitiva, situar a este conjunto de tecnologías emergentes al servicio de la sociedad.

II.ii. Perjuicios y conflictos a nivel de ética pública y de valores públicos que hacen necesaria una adecuada regulación del desarrollo tecnológico

Ramió (2019: 14) expresa claramente algunos de los beneficios que pueden derivarse de la smartificación de la vida pública que

implica la utilización del big data para lograr mayor inteligencia institucional para gobernar las complejas redes públicas y privadas con el objetivo final de aportar valor público a las actividades administrativas y atender de manera proactiva las necesidades de la ciudadanía y mejorar la calidad de los servicios públicos.

Sin embargo, también advierte de los muchos conflictos a nivel de ética pública y de valores públicos que pueden surgir dentro de los procesos de smartificación y robotización, principalmente en las fases más avanzadas de la automatización2, con la denominada automatización cognitiva dónde ya existe un procesamiento natural del lenguaje y dónde ya se producen operaciones con algoritmos; y con la inteligencia artificial que implica capacidades avanzadas de aprendizaje3.

Es decir, la gestión compleja de esta tecnología se produce especialmente conforme se sucede la aplicación real de la IA, y dónde comienzan a tomarse decisiones ciertamente controvertidas: qué tipo de información se introduce en el sistema y los criterios con los que se diseñan los algoritmos4; cómo se entrena a los robots y a los asistentes inteligentes para que entiendan la realidad y aprendan a relacionarse con ella. Es decir, en la forma de entender la realidad y relacionarse con ella es dónde pueden surgir problemas diversos de discriminación —por razón de sexo, ideología, religión, etnia o procedencia social—, incluso cuando las herramientas inteligentes son configuradas en un sentido más neutro.

Ramió (2019: 77 y ss.) menciona expresamente algunos ejemplos ilustrativos de posibles lógicas discriminatorias en las que podrían incurrir estas herramientas inteligentes cuando son configuradas por algoritmos cuyo aprendizaje es socialmente moldeable y puede obviar los valores públicos y terminar consolidando injusticias sociales:

cuando se entrena a los dispositivos inteligentes para que reconozcan a un médico o para que solo seleccione médicos masculinos. (…) O un potencial asistente inteligente involucrado en la prevención de la criminalidad que identifica solamente expedientes de emigrantes utilizando datos claramente sesgados.

Obviamente que suceda esto es grave en el caso de organizaciones privadas, pero resulta mucho más en el caso de instituciones públicas dónde resultaría paradójico y comprometido que determinadas decisiones públicas generasen externalidades negativas e injusticias sociales, que pueden incluso afectar gravemente a posibles discriminaciones en los derechos humanos y constitucionales: «la utilización de datos más que discutibles en los sistemas inteligentes implica que nuestras vidas pueden ser regidas por dudosos algoritmos que pueden poner en duda los derechos de los ciudadanos» (Ramió, 2019: 113). Ello lo convierte en un tema crítico sobre los derechos y las garantías jurídicas de los ciudadanos frente a las decisiones de los operadores públicos y privados que utilizan algoritmos, porque, en definitiva, el manejo de datos y algoritmos se sucede principalmente en la esfera privada-personal5 (Gadwat, 2024).

Ante tales desafíos, las instituciones y las administraciones públicas deben plantearse la intervención regulatoria6 de tales potenciales discriminaciones, aplicando criterios rigurosos y exigentes en el proceso de implementación interna de la IA. Dado que la administración es una institución pública que atiende a ciudadanos diversos con múltiples derechos, debe ejercer un control de todas sus actuaciones innovadoras considerando una renovación de los valores públicos, en lo que confiere una salvaguarda de la igualdad, la equidad y evitar todo tipo de discriminaciones directas e indirectas por parte de los dispositivos inteligentes (Ramió, 2019).

La realidad existente hasta el momento muestra lo complicado que resulta la intervención regulatoria en este ámbito. La Unión Europea lo ha intentado7, por ejemplo, con sendas regulaciones como la relativa al reglamento general de protección de datos (Reglamento UE 2016/679 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos) que limita las abusivas intromisiones de la empresas en lo relativo a la recopilación, almacenamiento, transferencia y uso de los datos sobre los usuarios; o la histórica Ley de Inteligencia Artificial impulsada recientemente en el seno de la UE (AIA, Artificial Intelligence Act, 2024) cuyo objetivo es proteger los derechos fundamentales, la democracia, el Estado de Derecho y la sostenibilidad medioambiental frente a aquella IA que entraña un alto riesgo, fijando una serie de obligaciones en función de sus riesgos potenciales y su nivel de impacto8.

Otras instituciones internacionales también han emitido informes y documentos estratégicos en forma de recomendaciones y guías de acción (OCDE, 2019; UNESCO, 2022) que han contribuido al debate iniciado y que, sin duda, han condicionado y orientado las decisiones de los gobiernos en sus primeras actuaciones regulatorias. El Consejo de Europa ha venido trabajando desde 2021 en una Convención Internacional sobre IA que ha concluido con el desarrollo del Convenio Marco sobre Inteligencia Artificial y derechos humanos, democracia y Estado de derecho (2024) que constituye el primer tratado internacional jurídicamente vinculante destinado a garantizar el respeto de los derechos humanos, del Estado de derecho y las normas jurídicas democráticas en el uso de los sistemas de inteligencia artificial (IA). Este tratado establece un marco jurídico que abarca todo el ciclo de vida de los sistemas de IA y que se ocupa de los riesgos que pueden plantear, a la vez que promueve la innovación responsable. El convenio adopta un enfoque basado en el riesgo para diseñar, desarrollar, usar y decomisar sistemas de IA, que exige considerar cuidadosamente cualquier posible consecuencia negativa del uso de sistemas de IA.

En el contexto español, merece ser destacada la creación de la Agencia Española de Supervisión de la Inteligencia Artificial (RD 729/2023 relativo al Estatuto de la Agencia Española de Supervisión de la Inteligencia Artificial). Para Ramió (2019) si bien el hecho de disponer de agencias reguladoras de la IA y la robótica es altamente necesario, en tanto que la autorización y el control sobre la comercialización de dispositivos basados en IA y robots requiere de especial vigilancia por parte de las autoridades públicas; tendría más sentido que, en el caso europeo, fuese una competencia propia de las instituciones europeas dado que el mercado tecnológico es global y los costes de la regulación y el control de la smartificación y de la robótica son muy elevados.

No obstante, el principal problema radica, como se verá después, que todo esto resulta especialmente complejo9 cuando el poder público depende enteramente del sector privado en cuanto a desarrollo tecnológico se refiere, y se limita a adquirir aquellos dispositivos y herramientas inteligentes más exitosas del mercado con sus respectivos valores privados y sesgos cognitivos.

Aquí, Ramió (2019) establece cierto matiz respecto a la robótica y la IA, por cuanto en el caso de la robótica puede tener una actuación mucho más relajada y reactiva, pudiendo limitarse a incorporar estos dispositivos inteligentes impulsados desde la iniciativa privada, pero introduciendo en ellos valores públicos; mientras que en el caso de la IA, sí que sería más conveniente una intervención más decidida por la necesidad de revisar constantemente los algoritmos para que respeten enteramente el código deontológico de las instituciones públicas y en la prestación de servicios públicos. Así, es fundamental que las administraciones públicas actúen con responsabilidad y prudencia cuando diseñen algoritmos si desean evitar errores y perjuicios en la toma de decisiones, y consolidar las asimetrías y las discriminaciones sociales (Ramió, 2019).

En cualquier caso, nadie debería oponerse a que las instituciones públicas ejerzan una función básica de regulación del impacto de la IA y la robótica, también, en el ámbito privado. Ramió (2019) se plantea, por ejemplo, qué controles públicos deben realizarse previamente a que un robot o un dispositivo basado en IA salga al mercado, y si, en definitiva, son suficientes los controles rutinarios que se hacen a los productos básicos de consumo. El autor menciona varios ejemplos contrapuestos, como son el caso de un nuevo robot de limpieza o de cocina dónde el control público debería ser similar al de cualquier otro electrodoméstico del hogar -criterios de seguridad, calidad o sostenibilidad energética-; mientras que en el caso de un nuevo dispositivo basado en IA o en el caso de robots destinados al cuidado de niños o ancianos, sería necesaria una revisión pública de los datos y los algoritmos usados y su consecuente respeto de los principios humanos y sociales básicos de los ciudadanos.

Lo anterior evidencia que tanto los datos como los procesos de aprendizaje de la IA pública deberían ser definidos por equipos multidisciplinares y especializados que sean capaces de detectar los sesgos intrínsecos o de contexto de los datos y que sigan un estricto código deontológico de carácter público que aporte valor público, seguridad y respeto a los derechos humanos y ciudadanos. Esto hace necesario que los reguladores públicos se nutran no solo de ingenieros, matemáticos y de programadores, sino también de profesionales del campo de las humanidades y de las ciencias sociales y jurídicas como los juristas (expertos en derecho de la innovación tecnológica), filósofos, sociólogos, politólogos, criminólogos, pedagogos, economistas, psicólogos, etc., que estén especializados en el impacto del desarrollo tecnológico en sus respectivas materias, y que de un modo holístico sean capaces de afrontar las implicaciones éticas, sociales, políticas y económicas derivadas de este fenómeno.

Es por ello, por lo que Ramió (2019: 24) se refiere a la ética pública en la robótica y la IA como un fenómeno trascendental y multidimensional que requiere atención prioritaria y cuya complejidad reside principalmente en las múltiples dimensiones y dilemas de carácter ético por las que se ve afectada (Coeckelberg, 2021, 2023; Degli-Esposti, 2023; Ireni-Saban & Sherman, 2021; Machado, Silva & Neiva, 2023). Así, Ramió (2019) cita, ente otras necesidades y retos centrales: la protección de la privacidad de los ciudadanos; la limitación del uso de datos y metadatos de origen público manejados por dispositivos inteligentes por actores privados; la eliminación de información de aquellos ciudadanos fallecidos y/o que por convicciones personales no quieran formar parte de la IA10; el uso de información diversa de carácter privado para fines científicos; la regulación de límites personales y de edad en el uso de esta tecnología; determinar la orientación sexual, y evitar posibles sesgos discriminatorios de género, raza, religión o estratificación social que pueden condicionar los patrones de robots y otros asistentes basados en IA; o la regulación del uso de IA en determinados sectores estratégicos —mercados bursátiles, seguridad y defensa, etc.—.

Todo lo anterior, y en el marco de interpretación de este artículo vinculado a conceptos como la ética pública y la generación de valor público como fin último de las administraciones públicas, justifica sobradamente la necesidad de establecer una adecuada regulación pública del uso de estas tecnologías disruptivas por los rasgos que poseen y por la función social que cumplen.

En lo relativo al uso de la robótica y demás dispositivos basados en la IA por parte de las administraciones públicas, siempre debería respetar el bien común y estar sujeto a la consecución del valor público como principio rector de la gobernanza pública. Es decir, todas las acciones de prestación de servicios públicos y todas las actuaciones en las que participe directa o indirectamente esta tecnología, especialmente cuando se produzca interacción con la ciudadanía y/o se haga uso de su información y datos personales privados; deberían estar sometidas a estrictos criterios, filtros y controles con valores públicos, e incluso a algún tipo de regulación especial o sensible, especialmente en esferas de intervención social, sanitaria, educativa o sexual.

Lo anterior exige y requiere que exista una adecuada gobernanza de esta tecnología, especialmente cuando preste servicios públicos, pero también en la esfera privada (Ramió, 2019). Es decir, es fundamental que esta red de gobernanza se muestre capaz de proteger la privacidad de los ciudadanos especialmente en ámbitos sensibles dónde se producen flujos de datos personales: sanitarios, educativos, económicos, etc.; y que los datos y metadatos de origen público utilizados por estas herramientas y programas de IA no puedan ser utilizados por actores privados (Ramió & Salvador, 2018). Ello implica una gobernanza de la utilización pública de la robótica y de la IA, pero también una estricta regulación pública de esta tecnología disruptiva en el ámbito privado, porque ante problemas éticos de difícil solución, si bien la autorregulación se hace necesaria, ésta y otras estrategias deliberadas de no intervención pueden acarrear graves consecuencias para la población y la salvaguarda del bien común. Es el único camino para que esta revolución tecnológica sea en palabras de Ramió (2019: 28) «más humana, más social, más pública y mucho más ordenada de lo que las leyes del mercado y las dinámicas de la tecnología pueden aportar».

En definitiva, lo que en el fondo puede observarse es el clásico conflicto entre las dos grandes tradiciones económicas que plantean estrategias opuestas de intervención regulatoria en el contexto de los países desarrollados: la tradición liberal anglosajona, (liderada por EE. UU.) que aboga por estrategias de inhibición absoluta; y la tradición europea continental (UE) que debería alejarse de un intervencionismo excesivo que impida o frene los procesos de innovación. Lasalle (2024a: 13 y ss.), lo interpreta como el reto del nihilismo tecnológico sobre el que se encuentra asentada nuestra sociedad, una corriente liderada por EE. UU. y China para alcanzar la hegemonía tecnológica mundial frente a Europa que promueve una alternativa más humanista, en una especie de «IA amigable gobernada por una sabiduría aristotélica que reserve a los seres humanos un rol decisorio y decisivo dentro de la civilización artificial hacia la que nos dirigimos».

III. ¿Pueden las administraciones publicas liderar la gobernanza de la utilidad pública de las tecnologías disruptivas?

En los estudios de gestión pública los académicos han identificado distintos modelos de gestión por los que han transitado la mayor parte de las administraciones públicas durante las últimas décadas: el modelo clientelar, el burocrático, el gerencial, el regulador y el de gobernanza. Precisamente este trabajo se inserta dentro del marco teórico que refiere el modelo de gobernanza, el cual considera que dada la complejidad de los actores que participan en la sociedad y de los problemas vinculados a la defensa del bien común y del interés general, las soluciones no pueden proceder solamente de los poderes públicos, sino que requiere la colaboración de las organizaciones empresariales, del tercer sector, de los movimientos sociales y de la propia ciudadanía. De un modo coloquial, es lo que Ramió (2019: 33 y ss.) refiere cuando afirma que la defensa del interés general no puede sostenerse «con un único músico —la Administración pública—, sino por toda una orquesta, pero para que se produzca un buen desempeño debería haber un director de orquesta que la dirija».

Precisamente ese rol de metagobernador debería recaer en la Administración pública bajo el gobierno político legitimado por la democracia representativa. Sin embargo, esta posición privilegiada de los gobiernos políticos democráticos y de sus administraciones públicas está más en entredicho que nunca, considerando que el poder político ha perdido considerablemente su capacidad de influencia sobre la economía y sobre las lógicas de los mercados (Mair, 2015; Ramió & Salvador, 2018; Ramió, 2019).

Además, la Administración pública presenta una enorme disfuncionalidad institucional y organizacional que le impide disponer de la agilidad y de la inteligencia institucional11 necesaria para ejercer con eficacia ese rol de actor metagobernador dentro de los complejos sistemas de gobernanza social.

Así, la literatura académica especializada en gestión pública y ciencia política ha analizado ampliamente las disfunciones y problemas organizacionales que presentan las administraciones públicas en el desarrollo de sus funciones y en lo relativo a cómo estos actores centrales de la sociedad responden a los cambios y transformaciones que se producen en sus entornos. En las propias palabras de Ramió (2019: 8): «las administraciones públicas tienen una increíble capacidad de digestión sin inmutarse ante los cambios de paradigma, sean estos tecnológicos, económicos o políticos».

Para este autor, han sido capaces de asimilar la revolución digital, haciendo uso, por ejemplo, de las aplicaciones y herramientas digitales para mejorar la atención directa a la ciudadanía; pero, sin embargo, han sido incapaces de modificar su modelo de organización y gestión para adaptarlo a la nueva realidad emergida.

Con tal diagnóstico, no sorprende reconocer que la aplicación cada vez más generalizada de nuevas tecnologías disruptivas como la IA no ha llegado en un momento en el que las administraciones públicas se encuentren preparadas para afrontar con éxito tales cambios. Al contrario, estas transformaciones se producen con unas administraciones públicas en un estado de anquilosamiento debido a una obsoleta articulación institucional, lo que es más evidente en contextos nacionales como el español (Ramió, 2024).

Con la expansión acelerada de la IA y la robótica, y mientras el sector privado avanza velozmente en su implantación, las administraciones públicas, condicionadas por el poder político, parecen adoptar una estrategia reactiva que les obliga a hacer uso de las herramientas y dispositivos tecnológicos consolidados y creados por las empresas privadas y los «monopolios» tecnológicos con valores privados. Ramió (2019) señala como principal riesgo de este escenario que la Administración pública se convierta en un actor irrelevante dentro de los sistemas complejos de gobernanza social. Además de dicha irrelevancia estratégica, la adopción de estrategias reactivas y pasivas implica una entera dependencia del mercado privado como actor principal que impone las reglas de juego12, y lo que es mucho peor: la privatización de los servicios públicos13.

En este sentido, la competencia con el sector privado y más concretamente con gigantes corporaciones tecnológicas como Google, Amazon, Microsoft, Facebook y otras similares no parece un asunto sencillo, porque como menciona Ramió (2019) cualquier alianza empresarial entre estas empresas es mucho más potente, ágil y posee más información e inteligencia que cualquier poder público del planeta, incluso cuando éste actúe de modo agregado y/o cooperativo.

Ramió y Salvador (2018) mencionan expresamente la necesidad de que la Administración pública promueva una robótica social, debiendo liderar, promover o cofinanciar el diseño e implantación de tecnología con un carácter social que vaya más allá de las lógicas del mercado. Ello también se vincula estrechamente con la necesidad de intervención pública en el desarrollo de tecnologías que puedan ayudar a colectivos de personas con discapacidad o con algún tipo de dependencia. Ramió (2019: 26) apunta incluso la necesidad de crear un departamento o ministerio de la robótica14 que trabaje y promulgue una regulación para que el desarrollo tecnológico y el uso de herramientas inteligentes se extienda socialmente y esté al alcance de toda la ciudadanía, evitando desigualdades sociales en este ámbito y que las enormes externalidades sociales negativas derivadas de esta disrupción tecnológica sean asumidas solamente por la ciudadanía o el sector público.

Lo anterior reafirma, por consiguiente, la consecución de valor público como finalidad de la administración pública y una plena confianza en que el Estado y el conjunto de administraciones públicas pueden ser innovadores, emprendedores, creativos, eficaces y eficientes (Mazzucato, 2014), y constituirse como actores centrales de la transformación del orden social, también en lo que se refiere a los campos de la innovación, el desarrollo tecnológico y la modernización.

¿Cómo pueden, por tanto, las instituciones públicas y el conjunto de las administraciones públicas liderar lo que Ramió (2019) denomina la «gobernanza de la utilidad pública de estas tecnologías disruptivas»? Ramió (2019: 26 y ss.) plantea diversos elementos para que las administraciones públicas prioricen el cambio tecnológico en la agenda pública y actúen de un modo proactivo:

En primer lugar, deben participar y contribuir activamente al impulso y desarrollo de esta tecnología. Como reconoce el propio autor, los cambios tecnológicos no deben ser concebidos como innovaciones que impulsa y experimenta el sector privado y que pueden o no ser acogidos por el sector público, sino que las administraciones públicas deberían permanecer siempre vigilantes y liderar su impulso y desarrollo, especialmente cuando pueden aportar valor público.

En segundo lugar, deberían trabajar en la elaboración de un riguroso diagnóstico que analice aquellos aspectos más perniciosos y negativos del uso de esta tecnología y de todas las consecuencias de esta transformación social, para así poder promover acciones diversas —regulatorias, preventivas y sociales—, y también para maximizar los efectos positivos y potenciar el rendimiento social de esta tecnología.

En tercer lugar, las administraciones públicas tendrían que ejercer un liderazgo innovador en este proceso de desarrollo tecnológico impulsando procesos experimentales piloto de robotización, smartificación y aplicación de la IAG en su seno, para así constituirse como un banco preliminar de pruebas que garantizaría la seguridad jurídica en este proceso de modernización y transformación disruptiva. Ello podría ser complementado según Ramió (2019: 26) con la creación de una red de centros públicos de investigación15 en robótica e IA que concedan al sector público una posición relevante en los procesos de investigación, desarrollo e innovación dentro de una revolución tecnológica cuyo actor principal es el sector privado. Solo así, podrían emerger ingenieros, tecnólogos y científicos especializados en estas herramientas inteligentes que fuesen empleados públicos guiados por la consecución de valores públicos. Pese a ello, parece imposible que las administraciones públicas puedan abarcar con sus propios medios el conocimiento especializado en IA, máxime cuando se aplica a campos tan diversos —sanidad, educación, seguridad, transportes, servicios sociales, etc.—. Frente a dicho reto, estos expertos y especialistas públicos en IA tendrán un papel destacado para discriminar la calidad, sofisticación de esta tecnología emergida en el sector privado, y poder adaptarla a las necesidades de los servicios y los valores públicos (Ramió, 2019).

Ello también guarda relación con la importancia de que las competencias públicas en IA, especialmente aquellas más estratégicas, no deberían ser externalizadas debiendo las administraciones públicas disponer de unidades propias y de personal especializado en esta tecnología disruptiva para poder así diseñar sus propios instrumentos y herramientas de recogida de datos y de diseño de algoritmos debidamente alineados con los valores públicos.

En cualquier caso, resulta fundamental que los responsables políticos, los directivos públicos y todo el cuerpo funcionarial comprendan el alcance que tiene esta denominada revolución tecnológica, entendiéndola como una enorme oportunidad y no como una amenaza institucional, pese a las consecuencias de todo tipo que pueda tener. En definitiva, los procesos iniciados de desarrollo tecnológico, smartificación y robotización, planificados y gestionados adecuadamente y con inteligencia institucional pueden contribuir a mejorar el sistema público haciéndolo más sostenible, innovador y creativo, generando en última instancia un mayor valor público a la sociedad a través de la prestación de más y mejores servicios públicos (Ramió, 2019; Misuraca et al., 2020; Wang et al., 2021). Con ello, el elemento capital y la condición necesaria debería ser situar al desarrollo tecnológico como uno de los temas centrales de la agenda política e institucional y capacitar consecuentemente a las instituciones y administraciones públicas, y a sus empleados, para responder adecuadamente a las exigencias correspondientes.

III.1. Evidencias reales de aplicación actual y futura de las tecnologías disruptivas, la smartificación y la robótica en la vida pública

En la última década, las administraciones públicas han realizado cuantiosas inversiones en tecnologías de la información (TI en adelante) que han introducido mejoras en la provisión de los servicios públicos y en los procesos de interacción y comunicación con la ciudadanía (Misuraca et al., 2020; Wang et al., 2021). Así, por ejemplo, han potenciado sus páginas webs institucionales y portales de transparencia, han incrementado los trámites y procedimientos que pueden realizarse electrónicamente, y han extendido los procesos internos de digitalización de la prolija documentación administrativa.

Sin embargo, en lo relativo a los procesos de smartificación y uso de la robótica, la implantación en las administraciones públicas es mucho más escasa, aunque varía su aplicación según el sector del que se trate (Sun & Medaglia, 2019). Ramió (2019: 15 y ss.; 85; 135 y ss.) cita algunos ejemplos destacados: en la ciudad de Londres han modificado las paradas de sus líneas de autobús urbano tras analizar los datos masivos adquiridos de las compañías de telecomunicaciones lo que le permitió conocer los movimientos de sus ciudadanos y adaptar su sistema de transportes a sus necesidades reales. El gobierno de Andorra también ha comprado a las empresas nacionales de telecomunicaciones los datos de sus ciudadanos y los ha transferido al prestigioso Massachussets Institute of Technology (MIT) para aplicar así IA, detectar las necesidades de los ciudadanos y mejorar los servicios públicos que prestan. Microsoft colabora con gobiernos de países de todo el mundo con los que participa en la gestión de los macrodatos y del internet de las cosas y en el uso de herramientas de análisis predictivo que mejoran la calidad de sus decisiones. Pero sin duda, el ejemplo de innovación tecnológica más consolidado es el de Estonia (Roonemaa, 2017), que es pionera en el uso de las identidades digitales protegidas para sus ciudadanos, lo que les permite firmar y encriptar los documentos y acceder sin problemas a los servicios gubernamentales, lo que está facilitando la utilización de los datos para mejorar la calidad de vida de los ciudadanos, pero proporcionando el control necesario a dichos ciudadanos para que decidan quién puede acceder a sus datos.

Este mismo autor también augura como panorama previsible que la Administración Pública del futuro sea un ámbito laboral conservador y reactivo ante el fenómeno de la robótica, por tener unas convicciones distópicas hacia la revolución tecnológica. Ramió (2019: 18) llama la atención refiriendo que mientras el gigante tecnológico Amazon se encuentra experimentando con sistemas de drones para la distribución de sus productos, la Administración pública está inactiva en este ámbito; o peor incluso que ante la emergencia de potentes programas de IA desarrollados por multinacionales tecnológicas como Amazon, Google u otras organizaciones como OpenAI (creadora del célebre chatGPT), supuestamente ninguna Administración pública de ningún país parece tener interés alguno en el desarrollo de un programa o plan similar, más allá del ámbito del espionaje y la seguridad.

Los avances conseguidos hasta el momento en materia de automatización, robótica e IA, hacen pensar que las tareas más burocráticas y con un carácter repetitivo e instrumental que se realizan en las administraciones públicas tales como la elaboración de informes, la resolución de expedientes administrativos, las auditorías y controles financieros y contables, y, en general, todos aquellos procedimientos repetitivos y estandarizados podrán ser ejecutados total o parcialmente con herramientas inteligentes (Bustos, 2014). El propio Consejo de la Agenda Global del Foro Económico Mundial (2015) mencionó ámbitos diversos como la recaudación de impuestos mediante el uso de tecnología blockchain, la realización de auditorías o actividades de intervención, o el control del censo poblacional mediante el uso de big data.

Al mismo tiempo, las administraciones públicas gestionan el espacio público (vías públicas, red de carreteras, semáforos y alumbrado público, jardines y parques, alcantarillado, canalizaciones, etc.) y numerosos inmuebles (infraestructuras, equipamientos educativos, sanitarios, sociales, culturales, deportivos, oficinas públicas, etc.), que junto a la tecnología disponible (automóviles, ordenadores, tecnología sanitaria, etc.) van a permanecer conectados mediante el denominado internet de las cosas, consiguiendo una gestión más eficaz, eficiente y proactiva (Ramió, 2019).

Ramió (2019) también ha analizado la forma en la que smartificación afectará a la propia gobernanza público-privada existente en la prestación de servicios públicos. Según este autor, el efecto de la robotización y la implantación de la IA en la Administración pública podría mejorar la capacidad y la eficacia de la gobernanza efectiva de los sistemas complejos de prestación indirecta de servicios públicos, lo que contribuiría a resolver ciertos problemas técnicos y de valor público que surgen con las externalizaciones de servicios públicos16. Ello sería posible siempre que las administraciones públicas garanticen una utilización intensiva de esta tecnología disruptiva que le permita controlar la planificación, supervisión y evaluación de la prestación de servicios y su contribución al valor público.En definitiva, la potencial aplicación de la IA y de la robotización en los procesos más burocráticos de la Administración pública es prácticamente ilimitada, y no cabe duda de que puede contribuir positivamente a que las administraciones públicas proporcionen seguridad institucional y jurídica como principio básico facilitador del desarrollo económico y humano de la sociedad. De otra forma:

la implantación de las tecnologías inteligentes en el sector público puede lograr una mayor calidad institucional —inteligencia17 y transparencia institucional— gracias a la optimización de los procesos de decisión y control, y alcanzar un buen gobierno y una buena administración, lo que conlleva una mejora de la gestión pública en lo que a prestación de servicios públicos se refiere, y también una mejor gobernanza pública (Ramió, 2019: 73).

Con relación a esto, Ramió (2019: 104 y ss.) se plantea en qué medida la IA puede cambiar el paradigma de la gobernanza política y social en un futuro no muy lejano. Ello precisaría que las nuevas tecnologías disruptivas fuesen capaces de vencer algunas de las resistencias tradicionales visibles en la participación ciudadana: el fomento de una participación activa o pasiva de la mayoría social ciudadana, y solventar el problema de la escala y que puedan producirse lógicas de democracia directa en amplios segmentos poblacionales sin caer en tentaciones populistas y demagógicas. En el nuevo escenario surgido, son visibles algunas experiencias reales dónde el uso del big data o la IA han generado nuevas oportunidades (Kinder et al., 2023). Un ejemplo de ello es la plataforma analítica avanzada basada en IA que ha lanzado Citibeats, la cual utiliza big data aplicado al programa desarrollado por la ONU para que los ciudadanos que residen en ciudades debatan sobre los Objetivos de Desarrollo Sostenible (ODS). Concretamente ofrece un observatorio de impacto local que permite a los gobiernos municipales de las ciudades conocer las problemáticas locales a partir de las opiniones y comentarios que sus vecinos comparten en redes sociales y en espacios de participación ciudadana sobre los temas que más les preocupan. De esta forma, Citibeats recoge, interpreta, sintetiza y explota miles de datos cualitativos desestructurados, y obtiene informes rigurosos sobre los que pueden actuar los gobiernos locales de forma más eficiente para solucionar así los problemas más acuciantes. Así, esta plataforma tecnológica proporciona un planteamiento y una tecnología capaces de generar el compromiso cívico necesario para el éxito de los proyectos locales18.

En cualquier caso, se trata de iniciativas que se encuentran en un estado precoz y embrionario, que, sin embargo, van abriendo paso al uso de la IA y de los datos abiertos como potenciales herramientas para la innovación en un contexto complejo de gobernanza pública inteligente que puede suponer una auténtica revolución con la adopción de decisiones a partir del uso de técnicas de análisis predictivo (Ramió, 2019).

Y es que como reconoce Ramió (2019) esta tecnología disruptiva se muestra sobradamente capacitada para actuar con la sistematicidad y rigurosidad que exige el ideal de burocracia pública19 y atendiendo fielmente a criterios basados en la igualdad.

Tanto es así, que Ramió (2019: 61 y ss.) proyecta la burocracia del futuro como una combinación compleja entre normativas y algoritmos que hay que observar para que salvaguarden los criterios de neutralidad, igualdad y equidad. Este autor alerta de las consecuencias negativas que pueden producir algoritmos de la IA si generan una gestión matemática con impactos clientelares. Como solución plantea que las administraciones públicas trabajen con herramientas y programas basados en IA que bajo parámetros de neutralidad y equidad puedan validar administrativamente al resto de algoritmos y programas de IA, garantizando siempre que las decisiones y las acciones adquieran un carácter neutral y con valores públicos.

En los últimos años, aplicaciones inteligentes de robótica y herramientas basadas en IA ya participan parcial o totalmente en el desarrollo de las tareas que realizan profesionales cualificados como juristas20; médicos; profesores o científicos. Algunos, incluso, se plantean que también ocurra en la política (Ramos, 2018), lo que ya ha sucedido en algunos países que plantean ceder algún escaño de su Parlamento a la IA, y en otros dónde se presentan robots como candidatos electos21 (Ramió, 2019).

IV. Conclusiones

Más allá de la fascinación por el desarrollo tecnológico y por el potencial disruptivo y rompedor que caracteriza a la IA (especialmente la que posee una naturaleza generativa), y sin obviar los diversos problemas que generan la aplicación de estas tecnologías, lo cierto es que esta tecnología disruptiva supone una enorme oportunidad para resolver algunos de los principales problemas globales que acontecen en el mundo, algunos de ellos considerados como problemas perversos (wicked problems) en la terminología de las políticas públicas (Geuijen et al., 2017). Rodríguez (2018: 247-248) explica como los expertos consideran que pueden contribuir, por ejemplo, a avanzar en la erradicación del hambre en el mundo propiciando mejoras en la productividad agrícola; o facilitando la reducción de la pobreza generando mapas de pobreza y haciendo uso de análisis de datos de valor predictivo. También se prevén mejoras significativas en los sistemas sanitarios y en los regímenes de bienestar a partir del análisis masivo de datos relativos a asistencia sanitaria; y avances considerables en la calidad educativa mediante la implantación de sistemas de aprendizaje personalizados. Otros beneficios esperados pueden ser la promoción de la igualdad de género a partir de una detección más exhaustiva de las desigualdades; o la consecución de otros objetivos como un agua más limpia, la eliminación de residuos, energía verde y accesible, ciudades más sostenibles, consumo y producción responsables, mayor control de las actividades ilegales de caza y pesca, una reducción considerable de la evasión fiscal y de la corrupción institucional.

En este sentido, la literatura especializada (Boden, 2017; Gawdat, M. 2024; Kissinger et al. 2023; Rodríguez, 2018; Schwad, 2016; Tamames, 2018) muestra casi unanimidad respecto a que la IA, la robótica y otras tecnologías disruptivas pueden generar unos enormes beneficios sociales, económicos y de sostenibilidad a corto plazo, y también a nivel laboral, pero a más largo recorrido.

Es por ello por lo que existe cierto consenso entre las principales potencias mundiales —EE. UU. y UE— respecto a los principales elementos que deben conformar el progresivo desarrollo de unos estándares éticos para la IA y restantes tecnologías disruptivas (Thinking heads, 2018).

En primer lugar, nadie debe obviar que la IA siempre debe perseguir el bien de la humanidad, buscando beneficiar al mayor número de personas y reduciendo al máximo el riesgo de exclusión social. En segundo lugar, los estándares y principios que guían el desarrollo y expansión de la IA deben ser altamente exigentes y pulcros en lo que tiene que ver con la seguridad de los humanos, lo que exige un control ético de la investigación que le subyace, transparencia, cooperación institucional, reversibilidad y trazabilidad en todos sus procesos de desarrollo. En tercer lugar, siempre debe garantizarse un control humano que permita en todo momento a los humanos involucrados que decidan qué pueden hacer o no los sistemas robóticos y herramientas basadas en la IA. En cuarto lugar, resulta crucial la gestión del riesgo, siendo su control y gestión directamente proporcional a la gravedad potencial que exista. En quinto lugar, ha de impedirse el desarrollo de la IA en áreas que afecten a seguridad e integridad humanas (e.g. fabricación de armas de destrucción). En sexto y último lugar, debe reconocerse la incertidumbre como principio inherente al desarrollo de esta tecnología, lo que precisa que los marcos regulatorios que vayan surgiendo deben repensarse en el medio plazo conforme vayan produciéndose nuevos avances.

La literatura académica ha evidenciado la necesidad de instaurar unos estándares éticos para el adecuado desarrollo de tecnologías disruptivas como la IA (Coeckelberg, 2021, 2023; Degli-Esposti, 2023; Ireni-Saban & Sherman, 2021; Machado, Silva & Neiva, 2023), lo que reafirma, a su vez, la importancia de que los poderes públicos configuren un modelo eficaz de gobernanza pública de esta tecnología disruptiva, en tanto que su enorme potencial y alcance puede acabar con la dirección y gestión de lo público, y su principio esencial de preservación del bien común, mediante un proceso inexorable e irreversible de privatización o de pérdida de relevancia de dichas administraciones (Ramió, 2019). Por consiguiente, y como se ha evidenciado en la revisión bibliográfica aquí realizada y en la reflexión expuesta en todo este artículo, el establecimiento de un sólido sistema de gobernanza pública de esta tecnología debería ser entendido como un aspecto prioritario por parte de los poderes públicos. Cualquier respuesta distinta de las instituciones públicas, ya sea pasiva, reactiva o inhibitoria, pondría en riesgo no solo la gestión de lo público, sino también la esencia misma del orden democrático representativo vigente como bien afirma Ramió (2019), quién alerta de las consecuencias negativas que podría tener la instrumentalización política de la IA22.

A nadie sorprende que la acelerada revolución tecnológica en la que nos encontramos inmersos también va a causar impacto en la propia política, de forma similar a la transformación radical que está sucediéndose en la economía, las relaciones laborales o las relaciones sociales. Lo cierto es que las consecuencias derivadas pueden ser mejoras sustanciales al sistema democrático, para hacerlo, por ejemplo, más colaborativo y participativo, aprovechando la tecnología mediante sistemas de participación directa ciudadana que puedan capturar la inteligencia colectiva; o para introducir mayores niveles de transparencia y rendición de cuentas, apoyándose en el escrutinio cada vez más experto de la ciudadanía. Pero también conviene advertir igualmente que el impacto de esta tecnología disruptiva podría agitar los valores y principios esenciales del modelo democrático.

Por otro lado, el liderazgo de las administraciones públicas en la gobernanza de la utilidad pública de la tecnología disruptiva, en tanto que muestra una preocupación real por la salvaguarda de los valores públicos, puede contribuir a la sociedad con el establecimiento de una nueva responsabilidad social corporativa mediante la aportación de valor ético y social a los algoritmos que utiliza la IA y la robótica, promoviendo así que estas contribuciones y prácticas públicas sean imitadas y adoptadas también por las organizaciones privadas.

Lo anterior, unido a la regulación y las políticas públicas que los gobiernos de los estados adopten en materia tecnológica influirán decisivamente en el desarrollo y expansión de la tecnología disruptiva ya existente y la que progresivamente vaya emergiendo, lo que sin duda alguna arroja un relativo halo de esperanza a la sociedad y proporciona cierto aliento a aquellos ciudadanos más escépticos y temerosos de esta revolución tecnológica.

Referencias bibliográficas

Boden, M. (2017). Inteligencia Artificial. Madrid: Taurus-Turner publicaciones.

Bozeman, B. (2007). Public values and public interest: Counterbalancing economic individualism. Washington, D. C.: Georgetown University Press.

Bustos, G. (2014). 10 rasgos del empleado público en el 2050.

Castells, M. (2005). La era de la información (Vol. I): economía, sociedad y cultura. La sociedad red. Madrid: Alianza editorial.

Cheng, X., Su, L., Luo, X. (Robert), Benitez, J., & Cai, S. (2022). The good, the bad, and the ugly: impact of analytics and artificial intelligence-enabled personal information collection on privacy and participation in ridesharing. European Journal of Information Systems, 31(3), 339–363.

Coeckelbergh, M. (2023). La filosofía política de la inteligencia artificial: una introducción. Madrid: Cátedra.

Coeckelbergh, M. (2021). Ética de la inteligencia artificial: una introducción. Madrid: Cátedra.

Cortina, A. (2007). Ética aplicada y democracia radical. Madrid: Tecnos.

Degli-Esposti, S. (2023). La ética de la inteligencia artificial. Madrid: Los libros de la Catarata.

Gawdat, M. (2024). La inteligencia que asusta: el futuro de la inteligencia artificial y cómo podemos salvar nuestro mundo. Barcelona: Paidós.

Geuijen, K., Moore, M., Cederquist, A., Ronning, R., & Van Twist, M. (2017). «Creating public value in global wicked problems». Public Management Review, 19, 621-639.

Habermas, J. (2000). Aclaraciones a la ética del discurso. Madrid: Trotta.

Ireni-Saban, L., & Sherman, M. (2021). Ethical governance of artificial intelligence in the public sector. Routledge.

Kinder, T., Stenvall, J., Koskimies, E., Webb, H., & Janenova, S. (2023). «Local public services and the ethical deployment of artificial intelligence». Government Information Quarterly, 40 (4), 101865.

Kissinger, H. A.; Schmidt, E.; & Huttenlocher, D. (2023). La era de la inteligencia artificial y nuestro futuro humano. Madrid: Anaya.

Lasalle, J. M. (2023). 2024, año de la inteligencia artificial. La Vanguardia (30/12/2023) (versión digital).

Lasalle, J. M. (2024a). Civilización artificial: sabiduría o sustitución: el dilema humano ante la IA. Barcelona: Arpa editores.

Lasalle, J. M. (2024b). Europa: un reglamento fallido sobre IA. La Vanguardia (27/01/2024) (versión digital).

Machado, H., Silva, S., & Neiva, L. (2023). «Publics’ views on ethical challenges of artificial intelligence: a scoping review». AI and Ethics, 1-29.

Mazzucato, M. (2014). El Estado emprendedor. Mitos del sector público frente al privado. Barcelona: RBA.

Mercader, J. R. (2017). El futuro del trabajo en la era de la digitalización y la robótica. Valencia: Tirant lo Blanch.

Mair, P. (2015). Gobernando el vacío: la banalización de la democracia actual. Madrid: Alianza editorial.

Misuraca, G., van Noordt, C., & Boukli, A. (2020). The use of AI in public services: Results from a preliminary mapping across the EU In Proceedings of the 13th international conference on theory and practice of electronic governance (pp. 90-99).

Moore, M. H. (2013). Recognizing public value. Boston: Harvard University Press.

Moreno, L. (2018). «Robots y humanos, empleos que no volverán». Programa de Desarrollo e instituciones.

Moreno, L. y Jiménez, R. (2018). Democracias robotizadas. Escenarios futuros en Estados Unidos y la Unión Europea. Madrid: Los libros de la Catarata.

Nabatchi, T. (2018). «Public values frames in administration and governance». Perspectives on Public Management and Governance, 1, 59-72.

OCDE, (2019). Hello, World: Artificial Intelligence and its Use in the Public Sector (Jamie Berryhill, Kévin Kok Heang, Rob Clogher & Keegan McBride, coords.). OECD Working Papers on Public Governance No. 36

Ocaña Orbis, C. (coord.) (2017). La transformación digital de la economía. Madrid: Los libros de la Catarata.

Papagiannidis, E., Mikalef, P., Conboy, K., & Van de Wetering, R. (2023). «Uncovering the dark side of AI-based decision-making: A case study in a B2B context». Industrial Marketing Management, 115, 253-265.

Parrado, S. (2023). Gestión pública e innovación. Valencia: Tirant lo Blanch.

Parrado, S., & Reynaers, A. M. (2017). Valores públicos y sector privado, ¿una cuestión de control o de confianza? Madrid: INAP.

Plaza, J. A. (2017). Lecciones de ética para máquinas que piensan y toman decisiones. Retina, El País.

UNESCO (2022). Recomendación sobre la ética de la inteligencia artificial. París.

Ramió, C. (2024). El colapso de la Administración en España: un análisis políticamente incorrecto. Madrid: Los libros de la Catarata.

Ramió, C. (2019). Inteligencia artificial y administración pública: robots y humanos compartiendo el servicio público. Madrid: Los libros de la Catarata.

Ramos, C. (2018). Sustituir a los políticos por robots. El diario.es (versión digital).

Ramió, C., y Salvador, M. (2018). La nueva gestión del empleo público. Recursos humanos e innovación de la Administración. Barcelona: Tibidabo ediciones.

Roca, G. (2018). Sobre disrupción digital, leyes y taxis. La Vanguardia (versión digital).

Rodríguez, P. (2018). Inteligencia artificial. Cómo cambiará el mundo (y tu vida). Barcelona: Deusto.

Roonema, M. (2017). El tigre digital báltico. UNESCO.

Schwad, K. (2016). La cuarta revolución industrial. Barcelona: Debate.

Socías, M. (2018). La revolución del big data en el sector privado y sus implicaciones para el sector público. Manual sobre utilidades del big data para bienes públicos. Madrid: Goberna.

Sun, T. Q., & Medaglia, R. (2019). «Mapping the challenges of Artificial Intelligence in the public sector: Evidence from public healthcare». Government Information Quarterly, 36(2), 368-383.

Tamames, R. (2018). ¿Qué robot se ha llevado mi queso? Barcelona: Alianza editorial.

Thinking Heads (2018). Ética e inteligencia artificial en la robótica: un debate abierto.

Thompson, D. F. (1985). «The possibility of Administrative Ethics». Public Administration Review, vol. 45, nº5, sept-oct, pp. 555-561.

Torrijos, C. (2023). La primavera de la inteligencia artificial: imaginación, creatividad y lenguaje en una nueva era tecnológica. Madrid: Los libros de la Catarata.

V.V.A.A. (2021). Inteligencia artificial y ética en la gestión pública. Colección Experiencias Escuela CLAD - Centro Latinoamericano de Administración para el Desarrollo.

Van der Wal, Z., Huberts, L., Van den Heuvel, H., & Kolthoff, E. (2006). «Central values of government and business: Differences, similarities and conflicts». Public Administration Quarterly, 314-364.

Véliz, C. (2021). Privacidad es poder: datos, vigilancia y libertad en la era digital. Editorial Debate.

Villoria Mendieta, M. (2009). La ética pública: conceptos y principios en «Dirección y Gestión de Recursos Humanos en las Administraciones Públicas» (Villoria Mendieta & Del Pino Matute), págs. 519-552. Madrid: Tecnos.

Wang, C., Teo, T. S., & Janssen, M. (2021). «Public and private value creation using artificial intelligence: An empirical study of AI voice robot users in Chinese public sector». International Journal of Information Management, 61, 102401.

Weber, M. ([1921] 1993). Economía y sociedad. Madrid: Fondo de Cultura Económica de España.

Wirtz, B. W., Weyerer, J. C., & Sturm, B. J. (2020). «The dark sides of artificial intelligence: An integrated AI governance framework for public administration». International Journal of Public Administration, 43(9), 818–829.

Alberto Benítez Amado: Doctor cum laude en Derecho, Gobierno y Políticas Públicas por la Universidad Autónoma de Madrid y el Consejo Superior de Investigaciones Científicas (2019). Ha sido Profesor de la Universidad Carlos III de Madrid (2016-2020) y de la Universidad Isabel I de Castilla (2020-2023). Desde 2023 es Profesor Ayudante Doctor del Departamento de Ciencia Política y de la Administración de la UNED, donde también ejerce el cargo de Vicedecano de Innovación en la Facultad de Ciencias Políticas y Sociología.

Líneas de investigación:

Sus líneas de interés docente e investigador se centran en la gestión pública y las políticas públicas; la dirección y gobierno de las organizaciones académicas; la evaluación de sistemas y políticas públicas de educación superior, ciencia e innovación; la gestión de personas y el comportamiento organizativo; y la innovación, la transformación digital y la dirección de las tecnologías de la información.

Es autor y coautor de varios artículos y capítulos de libro, y sus avances científicos han sido presentados en comunicaciones de workshops, seminarios y congresos nacionales e internacionales de reconocido prestigio en su área trabajo: «International Conference on Public Policy (ICPP)», «Conference of the European Sociological Association (ESA)», «European Forum for Studies of Politics for Research and Innovation (EU-SPRI)», «Atlanta Conference on Science and Innovation Policy», «Congreso Internacional en Gobierno, Administración y Políticas Públicas (GIGAPP)», «Congreso Nacional de Ciencia Política y de la Administración (AECPA)» o «Congreso Español de Sociología» (FES), entre otros.

Publicaciones recientes:

- Benitez-Amado, A. (2024). «Políticas regulatorias y gobernanza de la inteligencia artificial en Europa, América Latina y el Caribe: La Alianza Digital UE-LAC y la Carta Iberoamericana de la Administración Pública». En Las Relaciones entre la Unión Europea y la CELAC: Actas del II Congreso Internacional sobre las relaciones UE-CELAC. Editorial Dykinson (en edición).

- Benitez-Amado, A. (2024). «Políticas públicas de promoción y cooperación de la investigación científica, la innovación y la educación superior en el marco de las relaciones UE-CELAC» (págs. 205-225). En Las Relaciones entre la Unión Europea y la CELAC: Actas del I Congreso Internacional sobre las relaciones UE-CELAC. Editorial Tirant lo Blanch.

- Benitez-Amado, A. (2023). «La participación de las mujeres en la toma de decisiones de las universidades: un análisis comparado de su presencia en los órganos de gobierno universitario en el contexto español» (págs. 539-561). En Retos de igualdad y lucha contra la violencia de género desde una perspectiva multidisciplinar. Editorial Tirant lo Blanch. ISBN: 978-84-1197-338-0.

- Benitez-Amado, A. (2022). «Capítulo IV. Transformación digital y COVID-19: Las universidades como organizaciones adaptativas. El contexto de la COVID 19 como revulsivo», en Transformación digital de las Universidades: Una mirada 360 grados [en tiempos de pandemia], páginas 154-161. Cuadernos de Studia XXI - Fundación Europea Sociedad y Educación y Universidad Internacional de la Rioja (UNIR). ISBN: 978-84-09-38731-1.

- Benitez-Amado, A. (2021). «Las elecciones a rector en España: competición electoral, fragmentación, y modelos políticos de gobierno universitario». En Informe CYD 2020: «La contribución de las universidades españolas al desarrollo», páginas 83-88. Fundación CYD. ISBN: 978-84-09-32486-6. En Las Relaciones entre la Unión Europea y la CELAC: Actas del II Congreso Internacional sobre las relaciones UE-CELAC. Editorial Dykinson (en edición).

- Benitez-Amado, A., Cruz-Castro, L., & Sanz-Menéndez, L. (2016). «The proof of the pudding. University responses to the European Research Council». Research Evaluation, Oxford University Press. Nº 25: 4:358-370: http://rev.oxfordjournals.org/content/25/4/358.full.pdf+html (acceso abierto: doi: 10.1093/reseval/rvw015).

Correo-e: abenitez@poli.uned.es

– linkedin.com/in/albertobenitezamado (LinkedIn).

– @jalbeam (X).

–https://scholar.google.com/citations?user=vrdUZjAAAAAJ&hl=es&oi=ao (Google Académico).

– https://dialnet.unirioja.es/servlet/autor?codigo=4922297 (Dialnet).

– https://www.researchgate.net/profile/Alberto-Benitez-Amado (ResearchGate).

---

Claridades. Revista de filosofía 16/2 (2024), pp. 105-138.

ISSN: 1889-6855 ISSN-e: 1989-3787 DL.: PM 1131-2009

Asociación para la promoción de la Filosofía y la Cultura en Málaga (FICUM)

Resumen

La expansión acelerada de tecnologías disruptivas como la Inteligencia Artificial Generativa y su aplicación progresiva a las distintas esferas de la sociedad han evidenciado las enormes potencialidades transformadoras que poseen, pero también los grandes riesgos que se derivan de su uso generalizado. Sobre esa base, el presente artículo analiza y reflexiona acerca del rol que deben tener los poderes públicos como únicas instituciones capaces de preservar la ética pública, los valores públicos y el bien común ante el desarrollo tecnológico. Con ello, la creación de valor público y la preservación de una ética pública han de constituir un marco de referencia para situar las tecnologías disruptivas al servicio de la ciudadanía y construir una adecuada gobernanza pública.

Palabras claves

Administraciones públicas; ética pública; gobernanza; inteligencia artificial; tecnología disruptiva; valores públicos.

Abstract

The accelerated expansion of disruptive technologies such as Generative Artificial Intelligence and its progressive application to the different spheres of society have evidenced the enormous transformative potential they possess, but also the great risks derived from their widespread use. On this basis, this article analyzes and reflects on the role that public authorities should play as the only institutions capable of preserving public ethics, public values and the common good in the face of technological development. Thus, the creation of public value and the preservation of public ethics must constitute a frame of reference for placing disruptive technologies at the service of citizens and building appropriate public governance.

This proposal therefore reaffirms the importance of public authorities configuring an effective model of social governance of this disruptive technology, which should be understood as a priority aspect on the public agenda. Any other response from public institutions, whether passive, reactive or inhibitory, would jeopardize not only the management of public affairs, but also the very essence of the current representative democratic order.

Keywords

Public administrations; public ethics; governance; artificial intelligence; disruptive technology; public values.