Esta obra está bajo licencia internacional Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0.

RESUMEN

La Inteligencia Artificial esta a punto de cambiar nuestras vidas. Todos los sectores se verán implicados, incluidos la enseñanza del Derecho. En este punto, uno de los métodos introducidos han sido los Sistemas de Expertos, programas capaces de resolver los problemas jurídicos de manera interactiva a través de una lógica determinada. Aunque de escaso estudio en nuestro país, los SEJ aspiran a convertirse en una herramienta muy útil para el aprendizaje de determinadas habilidades jurídicas. Para facilitar su comprensión, el presente artículo propone resolver un caso práctico de derechos reales utilizando la lógica subyacente al SEJ con el objetivo de visibilizar sus fallas y virtudes.

PALABRAS CLAVE

Inteligencia Artificial, Sistema de Expertos, lógica proposicional, árbol de decisión, Base de Conocimientos, servidumbre.

ABSTRACT

Artificial Intelligence is about to change our lives. All sectors will be involved, including the learning of law. At this point, one of the methods introduced has been the Expert Systems, programs capable of solving legal problems interactively through a certain logic. Although scarcely studied in our country, ELS aspire to become a very useful tool for learning certain legal skills. In order to facilitate its understanding, this article proposes to solve a practical case of real rights (property rights) using the logic underlying the ELS with the aim of making its faults and virtues visible.

KEYWORDS

Artificial Intelligence, Expert System, propositional logic, decision trees, Knowledge Base, servitude.

Sumario: 1. La Inteligencia Artificial (IA) en el mundo actual y en el Derecho. 2. Sistemas de expertos jurídicos (SEJ): concepto, elementos, lógica proposicional ¿inservible? 3. Caso práctico: un problema típico de constitución de servidumbres entre predios vecinos. 4. Utilización del SEJ para la resolución del caso. 5. Conclusiones: dificultades, retos y oportunidades. 5.1. ¿Realmente se puede diseñar una máquina que razone/instruya como un jurista humano? 5.2. ¿Constituye el ordenamiento jurídico un propio impedimento para los SEJ? 5.3. ¿Pueden paralizar la investigación e innovación jurídica? 5.4. Una oportunidad y a su vez, una advertencia. 6. Bibliografía. 7. Páginas consultadas.

1. La Inteligencia Artificial (IA) en el mundo actual y en el Derecho

Que la sociedad está cambiando es algo innegable. El mundo se haya inmerso en la llamada Cuarta Revolución Industrial, aquella en la que la tecnología ocupa un papel crucial en el eje de la mayoría de los avances de los que disfrutamos. De entre esos nuevos campos, hay uno que ha cobrado especial fuerza en los últimos años, más allá del plano ficticio, es la Inteligencia Artificial (IA), a la cual Alan Turing describía como 1 “aquella que busca realizar actividades humanas sin la intervención de los mismos”, ciencia llamada a convertirse en la disciplina más importante en los próximos años. La IA afecta o afectará a todos los ámbitos y conocimientos, y de entre ellos, el mundo jurídico no será una excepción.

La aplicación de la IA al Derecho ha suscitado un acalorado debate acerca de las ventajas o defectos que puede acarrear, así como las posibilidades reales para su aplicación. ¿Realmente podemos desarrollar un sistema que nos ayude a nosotros, los juristas, en los quehaceres de la profesión?, ¿es moralmente ético aplicar tales sistemas a nuestras relaciones cotidianas?, de ser la respuesta afirmativa, ¿bajo qué principios regulatorios?

Las preocupaciones implícitas en estas cuestiones no son infundadas, dado que el fin último de la IA es desarrollar máquinas capaces de pensar como seres humanos, de hacer máquinas inteligentes 2, no es por tanto baladí preguntarse ¿hasta que punto puede ser reemplazado un jurista en todas sus facetas por un robot? Según un informe de Goldman Sachs 3, el desarrollo de programas cada vez más sofisticados en las predicciones de resultados —como GPT-4— determinan que en los años venideros la IA será capaz de sustituir hasta el 44% de las tareas que actualmente realizan los abogados, por medio de la automatización de muchas de estas labores. En numerosos casos, los programas diseñados por expertos legales —como CoCounsel— son capaces de revisar los documentos legales en busca de soluciones que den respuesta a los problemas jurídicos, eliminando las tareas más tediosas con el efecto añadido de realizarlo en un periodo de tiempo mucho más corto y la consecuente y bastante probable reducción de la mano de obra humana 4. Si bien las críticas a estos programas por parte de los colegios de abogados se centran en los fallos a la hora de predecir los casos, recientes estudios demuestran que dichas barreras u obstáculos se deben más a condicionantes sociales que a posibles problemas técnicos de la IA 5. En definitiva, el desarrollo de las herramientas del denominado “Legal tech” demuestran que el mundo jurídico no puede escapar de la innovación tecnológica 6.

A pesar de tratarse de una ciencia aún en pañales, tal como han expuesto otros autores antes 7, la lista de preguntas y dudas sigue siendo larga y no hay espacio suficiente ni respuestas convincentes a todas ellas. En el plano legal, la ausencia de un marco regulador de estas nuevas tecnologías, como así puso de manifiesto la Resolución del Parlamento Europeo de 20 de octubre de 2020 8, genera igualmente desconfianza hacia esta nueva disciplina, en particular las cuestiones éticas que envuelven esta materia, ya que su mal uso, tal como acertadamente apunta Lledó Benito 9, dada la probabilidad de que la maquina (“el robot”) es capaz de adquirir conocimiento de manera autoconsciente, puede aumentar las posibilidades de un comportamiento impredecible con el consecuente amplio grado de incertidumbre acerca de las consecuencias 10.

En vistas a los problemas que pueden generar la aplicación de la IA, son varias las organizaciones que han redactado directrices a la hora de utilizar y programar dichas redes. Las instituciones europeas han sido prolíficas en este sentido. El Grupo Europeo de Ética en la Ciencia y las Nuevas Tecnologías (EGE) fue creado por la Comisión europea en 1998, con el propósito de asesoras en cuestiones relacionadas con la IA. En este sentido, la Declaración sobre Inteligencia Artificial, robótica y sistemas “autónomos” elaborada por dicho grupo en el año 2019 ya especificaba la necesidad de aprobar códigos éticos a la hora de usar las nuevas inteligencias artificiales resaltando que la protección de los derechos humanos frente a los marcos autónomos era de vital importancia. Asimismo, han surgido diferentes propuestas de regulación en diversos ámbitos jurídicos, como “Normas de Derecho civil sobre robótica” (Nathalie Nevejans, 2016) encargado por el European Parliament `s Legal Affairs Committee, o el informe “Involvement of civil society in the preparation of the national strategies on artificial intelligence” del Grupo Temporal sobre Inteligencia Artificial en el que se abordan distintas estrategias para adoptar la IA.

Si la aplicación de la IA al derecho no es una cuestión de si se debe o no llevar a cabo, sino en qué medida y bajo que reglas actuarán estas máquinas, no es de extrañar que nos preguntemos si esto afectará al mundo educativo, y en lo que a nosotros nos interesa, a la enseñanza del derecho. Sin duda, se trata de la innovación mas importante que atravesará el sistema educativo superior en los próximos años, con cambios muy importantes en diferentes ámbitos, tales como la creación de algoritmos personalizados para cada estudiante 11, las “aulas inteligentes” e interfaces de interacción entre alumnos y profesores.

En todo caso, el avance de la IA no significa que inevitablemente toda la enseñanza educativa tenga que experimentar un cambio radical. Antes al contrario, lo realmente importante es que se trata más bien de aprovecharse de estas nuevas herramientas para mejorar el aprendizaje, de ponerlas al servicio de los educadores. Por ejemplo, el método del caso, introducido por las universidades americanas en la segunda mitad del siglo XX, es considerada una técnica muy útil, sobre todo para el desarrollo de competencias y habilidades 12, y surgió como una reacción frente a la tradicional lección magistral, dominada por la memorización y repetición, tachado de anticuado, llegando a ser calificado por Laswell y McDougal como un “libreto de ventrílocuo” 13. Sin embargo, ni el aprendizaje teórico despareció, ni el caso práctico se impuso, simplemente ambos, y eso lo realmente importante, se complementaron. Eso es precisamente la idea que se debe seguir con la IA, buscar su encuadre dentro de la metodología del Derecho, lograr que se incorpore de manera natural a los estudios jurídicos.

No se trata de un mero interés por intentar lograr una supuesta “modernización”, sino que es mantenerse en el contexto social y tecnológica actual. El uso de “bots” inteligentes sin ir más lejos ya está a la orden del día, pues no solo podemos encontrar asistentes virtuales en prácticamente todas los sitios web que solemos visitar, sino que modelos avanzados de generadores del lenguaje, siendo el más famoso ChatGPT, han revolucionado el aprendizaje tal como se ha visto antes, y es cuestión de tiempo que las instituciones académicas universitarias se vean obligadas a tenerlas en cuenta y regularlas 14, más aún cuando se avecina un cambio disruptivo en la mayoría áreas, desde el derecho de patentes hasta el derecho penal 15. Desde esta óptica, lo único que podemos realizar es elaborar un intento, un esbozo si así lo desean llamar, de cómo podrían usar los futuros aspirantes a la carrera jurídica estas nuevas tecnologías, ejemplificándolo en un caso inventado de derecho privado romano (relacionado con las servidumbres) como muestra de que incluso aquellas disciplinas jurídicas de mayor longevidad pueden ser enseñadas con herramientas tan avanzadas, utilizando para ello una de las aplicaciones que la IA nos proporciona, los denominados sistemas de expertos jurídicos (SEJ), intentando describir cómo se deberían usar y como podrían funcionar, reflejando a su vez los posibles obstáculos y dificultades que acarrean estas nuevas formas de razonamiento jurídico.

El presente escrito se compondrá de cuatro apartados: el primero de ellos consistirá en una breve explicación de en qué consisten estas nuevas tecnologías; en el segundo apartado se expondrá el caso que servirá como muestra de estas nuevas herramientas, destacando que de manera novedosa se abordarán cuestiones de derecho civil, lo cual es destacable teniendo en cuenta que la mayoría de los autores que han analizado estas técnicas lo han hecho recurriendo al derecho penal y al mercantil; el tercer aparatado se centrará en resolver el caso propuesto recurriendo a los SEJ; finalmente, el último apartado se destinará a resaltar una breve serie de conclusiones acerca de la utilización de estas tecnologías en el mundo docente y los defectos y mejoras que deberían llevarse a cabo.

En todo caso, a pesar de las barreras a las que se enfrentan estas metodologías, no debemos optar simplemente por ponernos una venda y rechazar tajantemente su aplicación, pues de lo que no hay que albergar dudas es que la digitalización es ya una realidad, tal como atestiguan las continuas innovaciones que afloran en los distintos ámbitos. Tal como expone Xalabarder 16, los conceptos jurídicos terminan amoldándose a las nuevas realidades, en este caso la nueva realidad tecnológica, por lo que no debemos obviar que en pocos años todo lo que conozcamos hoy haya cambiado, y en este punto, el Derecho y la Tecnología deberán ir de la mano.

2. Sistemas de expertos jurídicos (SEJ): concepto, elementos, lógica proposicional ¿inservible?

Si se tuviera que resumir los SEJ en una serie de frases concisas podríamos calificarlos como aquella rama de la IA que, a través del conocimiento que nos proporcionan las bases de datos, es capaz de resolver un problema llevando a cabo un razonamiento similar al que hubiese hecho un experto, en nuestro caso, el jurista 17, si bien suscribo la opinión de que sería más útil utilizar otras denominaciones, como “consejero legal informatizado” o “manual legal electrónico” 18.

La idea de desarrollar un programa capaz de funcionar a imagen y semejanza del jurista no es del todo reciente, sino que se enmarca en la denominada “primera ola de la IA”, un periodo de investigación iniciado en la década de los cincuenta prolongado hasta principios de los noventa, en la que tuvieron lugar varios proyectos de investigación 19 en universidades anglosajonas destinadas a diseñar este tipo de aplicaciones. El listado de programas fruto de todos estos proyectos es considerable, DENDRAL, JUDITH, TAXMAN, HYPO 20, CABARET…

El problema de todos estos programas es su falta de conexión con el camino que está tomando la IA en la actualidad, dirigida sobre todo hacia la interpretación instantánea, en vez de la fórmula puramente algorítmica basado en el razonamiento lógico proposicional de los SEJ. Sin embargo, si bien las críticas son fundamentadas, todos estos sistemas citados y de igual manera los escasos estudios actuales sobre los SEJ, están orientados a buscar simuladores de la vida real, es decir, buscan resolver problemas del día a día que se enfrentan los abogados, pero no hay ninguno centrado en el ámbito académico, en el potencial educativo que presentan tales herramientas, para lo cual, y esta es la tesis que pretendo sostener, el sistema por el que se rigen los SEJ ya creados cumplen perfectamente esta función educadora.

Para centrar la explicación, entendemos que el sistema de expertos busca la finalidad, procesando para ello la información que le proporcionamos, de resolver una serie de cuestiones, pero va más allá, puesto que no actúa como el sistema informático tradicional, sino que persigue el autoconocimiento, llegando a poder calificar que el sistema explica el “por qué” de la cuestión, y no solo dar con la solución óptima, actúa de esta manera como un consejero inteligente 21, adelantando algunas de las tareas 22 más tediosas que debe hacer el jurista, agilizando todo el proceso.

La confianza que se depositó en estos programas durante la década de los ochenta fue quizá exagerada en ese momento. Se esperaba que los costosos y prolongados análisis jurídicos se sustituyesen por agiles, eficaces y, sobre todo, baratas reflexiones legales por parte del robot. Lo cierto es que los resultados fueron bastante decepcionantes, en parte debido a la dificultad de informatizar las experiencias legales 23, pero en parte también debido a las propias limitaciones técnicas de la época.

Pero la cuestión que nos debemos plantear, o que al menos suscita cierto interés, es cómo son capaces estos sistemas informáticos de procesar toda esta información mediante un razonamiento equiparable al nuestro y a su vez proporcionarnos respuestas fundadas a esta situación. Para ello el sistema cuenta con un elemento clave, esencial para funcionar correctamente, la base de conocimientos (BC). La base de conocimientos incluye todas aquellas reglas —axiomas— necesarias para poder relacionar correctamente dichas reglas con los hechos que le proporcionamos. Las reglas se extraen tanto del conocimiento del mundo como de la experiencia del agente que le proporciona 24. De esta manera, el algoritmo creado va retrocediendo en función de la información que ya posee, resolviendo el problema de manera sólida y rápida.

Las reglas que incluyen la base de conocimientos pueden vincularse con los hechos a través de diversos mecanismos, que no son contradictorios entre sí, aunque si han sido polémicas su presunta efectividad en función del campo de aplicación 25. Así, por ejemplo, algunos utilizan un razonamiento en forma de red generando un sistema de clasificaciones y definiciones; otros identifican el objeto que les proporcionamos (imaginemos servidumbre de paso) al cual se le atribuye un determinado valor (debe ir por el camino que menos moleste al dueño del fundo), son los denominados OAV (objeto-atributo-valor); mientras que otros se basan en “frames” que aglutinan conjuntos de información de un hecho denominados “slots”. Si bien la forma de razonamiento de estos difiere, la finalidad es la misma, proporcionar soluciones coherentes y argumentadas a un problema dado.

Esta forma de razonamiento, denominado conexionismo, es la metodología de aprendizaje más utilizada en el campo de la IA, con un procesamiento de información paralelo determinando un peso concreto a cada una de las conexiones que se producen entre las “neuronas” del programa 26. Esta forma de aprendizaje es distinta a la teoría simbolista que siguen los programas diseñados hasta la fecha y el método que pretendo defender en este escrito, basado en la lógica proposicional y el encadenamiento de reglas de producción, que si bien resulta una razonamiento más sencillo y no tiene en cuenta la complejidad del mundo real, si cumple con ciertas finalidades educativas: impedir que se produzcan errores en tareas rutinarias, ampliar el conocimiento de los estudiantes y diagnosticar fallas del sistema jurídico.

El simbolismo está representado por la lógica proposicional, un sistema sencillo cuyo fundamento son las conexiones entre enunciados. A cada enunciado se le atribuye un símbolo (es indiferente cual, si bien suelen ser letras mayúsculas), y a partir de ahí de esas dos oraciones sencillas determinamos si la misma es verdadera o falsa. A partir de las premisas se obtiene resultados que deben ser verdaderas o falsas en todos los modelos, siendo el conector un condicionante (ej. Si se da la premisa A entonces se da la premisa B). Con las combinaciones adecuadas, se extraen reglas que son válidas en todos los escenarios 27, y que van encadenándose hacia adelante o hacia atrás.

Además, hay que tener en cuenta que independientemente del usuario que interactúe con el programa, tanto el conocimiento que pretende transmitir la máquina como el método utilizado deben ser entendible y no resulten inteligibles para el no experto informático 28. Si esto es aplicable a un abogado o un juez, mas aún debe ser para un estudiante de derecho que no ha adquirido todavía una solida experiencia jurídica. Por ello, el método preposicional, fácilmente intuible, es altamente atractivo para fines formativos, pues permite rápidamente aprender y entender varios esquemas de aprendizaje.

Existen además, sólidos argumentos para defender la combinación de Inteligencia Artificial y lógica proposicional y su aplicación en el ámbito educativo. La destreza jurídica requiere que cuando el jurista se enfrente a un caso, este sea capaz de encuadrarlo 29, es decir, descartar y concentrarse en la información relevante. Esto es precisamente lo que persigue la lógica proposicional, centrarse en lo que es relevante, que de igual modo es esta noción de “irrelevancia” el patrón que siguen las bases de datos 30, buscando seleccionar aquellas etiquetas que mas se ajustan a lo que nosotros buscamos. Además, a la supuesta debilidad de esta forma de razonamiento se contrapone el hecho de realmente numerosos problemas de computación pueden ser resueltos recurriendo a estas reglas 31. Por tanto, la utilización de sistemas de expertos con bases del conocimiento que apliquen la lógica proposicional resulta útil para su aplicación en la educación jurídica, además de contar con la ventaja de poder implantarse rápidamente en las facultades.

Una vez que el sistema está dotado de un buen conjunto de reglas y hechos, se deben relacionar con la información que le damos, para lo cual dispone de un motor de inferencia (MI), que permite ir vinculado los hechos y seleccionar la mejor alternativa posible de entre las dadas, ya sea encadenando las premisas con los hechos, o las conclusiones con el objetivo perseguido. En términos más concretos, podemos decir que el MI es el encargado de “razonar” a partir de los datos de la BC, aquí es precisamente, donde entra en juego el encadenamiento hacia delante y hacia atrás de la lógica proposicional 32. Separar el MI, encargada de deducir verdades a través de las relaciones de los datos de la BC permite, además, un mejor mantenimiento del software frente a los programas informáticos convencionales 33.

Es este mecanismo el que presenta una gran desventaja frente a otras tecnologías de la IA, el menor tamaño de los datos que puede manejar el programa. Sin embargo, se han propuesto varias soluciones a dicho problema. Por ejemplo, la propuesta DREE (Distributed Rule Engine Extension) diseñado por el Departamento de Tecnología Electrónica de la Universidad de Sevilla supone añadir una capa adicional al SEJ que permite integrar metadatos a partir de datos heterogéneos sin la necesidad de replicar la información 34.

Por último, también debemos mencionar la base de datos (BD), que similar a otros elementos informáticos, sirve de memoria principal del programa, almacenando todos los datos que necesita el programa en el momento que está intentando dar con la solución al problema. Para facilitar la visualización del funcionamiento del SEJ se pueden observar de forma gráfica sus elementos en el siguiente esquema (esquema 1):

Esquema 1
Funcionamiento del SEJ con sus elementos principales. Elaboración propia.

Concluido ya cuales son los elementos principales que deben formar parte del sistema jurídico, es ahora cuestionar cuál es su aplicación y su funcionamiento en el mundo del derecho, a pesar de las eventuales criticas acerca de la imposibilidad de su aplicación a este ámbito.

Conviene aclarar que cuando hablamos de sistemas de expertos, realmente existen numerosos subtipos y no es posible reunificarlos en uno solo. Por ejemplo, McCarty 35 distinguió los SEJ con relación a su finalidad llegando a considerar tres grupos, legal analysis systems (destinado a solucionar problemas de un caso real), legal planning systems (para la calificación jurídica de un hecho concreto), conceptual legal information systems (cuya finalidad es construir bases de conceptos jurídicos). En este sentido, Pérez Luño 36 diseñó una clasificación distinta en las que incluyó aquellos sistemas orientados a la enseñanza del Derecho, capaces de ser programado por el profesor con el ánimo de adaptar el nivel de dificultad necesario a alcanzar por los estudiantes.

Por tanto, lo que podemos extraer es que la utilidad de los sistemas de expertos no se agota en la mera resolución de casos jurídicos, sino que las posibilidades son variadas y viables para una gran variedad de tareas jurídicas, con la triple ventaja de ser flexibles, transparentes y heurísticos 37.

Para que el SEJ funcione correctamente tan fundamental es la labor del jurista como del ingeniero que lo diseña. Esto es especialmente debido a la forma de legislar en el derecho continental 38 con un excesivo grado de abstracción que dificulta la tarea de normalización jurídica. Para facilitar la tarea del sistema, el jurista debe abordar en primer lugar una tarea de simplificación, eliminando aquellos detalles que pueden confundir al programa y dar una solución equivocada, como pueden ser las remisiones a otras normas legales. De existir lagunas jurídicas u oscuridades, el experto legal debe proporcionar al programa aquellas soluciones que se han ido extrayendo, ya sea a partir de las sentencias de los tribunales o partir de las respuestas que ha determinado la doctrina. Incluso el experto puede dar indicaciones al programa de cómo actuar ante determinada norma, o también aclaraciones sobre alguna vaguedad. El objetivo al final es acelerar la actividad del SEJ y simplificar la solución.

Es cierto que la indeterminación va a estar más o menos presente en la solución que nos proporcione el SEJ, pues existen datos de la realidad física y humana que no son precisos. Si bien no es del todo satisfactorio, existen distintos métodos capaces de lidiar con estos problemas tales como el Teorema de Bayes que permite calcular probabilidades a partir de un suceso muy concreto.

En todo caso, la ignorancia sobre ciertos hechos siempre es algo a los que se enfrentan los seres humanos, por lo que para que la máquina actúe como un ser humano, el grado de certeza de la solución deberá ser similar a la humana siempre que se siga un razonamiento lógico de inferencias a partir de las hipótesis y hechos de los que dispone la máquina, pues el SEJ utiliza razonamientos intuitivos a partir de una serie de reglas estrictas. La utilización conjunta, tanto del conocimiento como de la ignorancia dan lugar al grado de certeza aproximativo.

La utilización del programa también requiere la implicación del usuario, ya que éste además de proporcionar la información al programa, deberá responder a ciertas preguntas que le vaya formulando el ordenador especialmente respecto a aclaraciones acerca de algún punto.

Aunque en la actualidad estos sistemas requieren de nuevos avances para superar las dificultades que presentan, hay tecnologías que ya se están investigando que pueden dar lugar a una nueva generación de SEJ 39, si bien tenemos algunos ejemplos reales de programas que ya se utilizan para la resolución de casos 40 como es el programa chino Xiao Fa, un asistente virtual capaz de resolver cuestiones de propiedad intelectual 41.

En todo caso, para entrar ya en el terreno práctico, y para facilitar el conocimiento que se ha de tener sobre el funcionamiento de los SEJ, podemos aclarar que la mayoría se basan en silogismos basados en la lógica proposicional (rule-based systems), de tal manera que se representaría en una serie de presunciones (si se da X, entonces Y) descartando las vías alternativas hasta dar con la respuesta correcta. Esta forma de razonamiento también sirve para mejorar la capacidad de aprendizaje del estudiante, pues la estructura del razonamiento seguido permite conocer las distintas opciones y no solo conocer la respuesta correcta, potenciando así el campo de conocimiento, de hecho, cuando se ha llevado al terreno educativo se han alcanzado mejores resultados en el aprendizaje y la especialización 42.

3. Caso práctico: un problema típico de constitución de servidumbres entre predios vecinos

A continuación, se expone brevemente el caso a resolver y cuáles son las cuestiones más importantes. El tema elegido es las servidumbres. La razón de esta elección se debe a dos cuestiones fundamentales: la primera es que el derecho civil es aquella rama de del derecho a la que los estudiantes se van a enfrentar en primer lugar, tal como se señala en los planes docentes de las distintas facultades; en segundo lugar, la mayoría de los expertos en estas herramientas, han tendido a aplicarlas en materias vinculadas con el derecho público como es el derecho penal o el derecho administrativo, incluso en los escasos ejemplos en los que se recurre al derecho privado, la mayoría de los casos prácticos están relacionados con la responsabilidad por daños, tanto contractual como extracontractual, dejando muy poco espacio a otras cuestiones como los derechos reales.

En el presente caso se busca, por tanto, solventar todas estas lagunas de las que ha adolecido el estudio de los SEJ. Se ha de resaltar que el caso práctico no es de elaboración personal. Se trata de la refundición de varios casos prácticos sobre servidumbres legales elaborados por Gabriel de Reina Tartière, profesor de derecho civil del Centro de Estudios Financieros (CEF) 43. Se busca cierta complejidad en el caso con el objetivo de adaptarse mejor a la realidad, y aprovechar la mayor capacidad de aprendizaje. La utilización de este ordenamiento jurídico busca resaltar que la IA y las nuevas tecnologías no solo sirven para materias de actualidad, sino que pueden ser muy útiles para las disciplinas más convencionales.

El texto del caso es el siguiente:

Ticio y Cayo son propietarios de dos fundos vecinos. Cayo contaba a su disposición con una pequeña fuente, con la que abastecía las necesidades de sus cultivos. Llegado un momento, la fuente de Cayo se seca. Desesperado, Cayo procede a buscar otras bajo su terreno. Como la búsqueda resulta infructuosa, convence a Ticio para que le permita buscar también en su fundo. Ambos convienen que, de encontrar agua, Cayo tendría el derecho de canalizarla a su fundo. Al poco tiempo, Cayo descubre una fuente de ciertas proporciones en el terreno de Ticio.

A su vez, como Cayo atravesaba por momentos de falta de liquidez, se decidió dividirlo y a vender una de las partes resultantes. Su otro vecino, Cornelio, quien estaba interesado en extender sus terrenos, se la compra. Antes de entregársela, Cayo se reserva el derecho de conducir el agua que manaba en el lote vendido al lote con el que se había quedado. Luego de dos años, cuando Cayo, se dispone a entrar en la finca de Cornelio para construir la canalización, este se lo impide alegando que su derecho se había extinguido.

4. Utilización del SEJ para la resolución del caso

Como ya hemos observado en el texto del caso práctico, se han planteado varios problemas relacionados con los distintos fundos implicados. Por ello, lo primero que ha de hacerse, incluso antes de iniciar la interacción con el programa, es aislar e identificar los distintos problemas que se nos plantean. Esto permite al estudiante no sólo desechar aquella información innecesaria, sino que a su vez sirve para formular frases determinantes al SEJ. Identificar el problema como primer paso, ayuda también a los futuros juristas a centrarse en lo realmente determinante para resolver la cuestión jurídica, por lo que aun no habiendo comenzado a interactuar, el aprendizaje es ya nítido, considerando a su vez que los sistemas actuales son capaces de comprender el lenguaje natural y codificarlo, siendo en el caso de los SEJ esta posibilidad a través de la integración de varias bases de datos en los sistemas de expertos 44, capaz de adaptarse a su vez a los formalismos legales que requiere el lenguaje jurídico 45.

Pues bien, aplicando este primer paso a nuestro caso práctico, observamos que se nos plantean varias cuestiones y habrá que instar a los estudiantes a transformarlos en frases que los resuman. El primer problema es determinar cómo debe proceder Cayo al encontrar agua en el terreno de Ticio. Aquí se debe guiar al alumno en los dos problemas subyacentes a este caso. En primer lugar, sobre qué es lo que han pactado exactamente Ticio y Cayo, para lo cual deberíamos proporcionar al programa los detalles del caso, pudiendo resumirlo a modo de ejemplo en la siguiente frase: “qué calificación jurídica merece aquel pacto por el cual se compromete a que, si un vecino encuentra agua en el fundo adyacente, éste tiene derecho a canalizar el agua encontrada”. Una vez que tengamos la respuesta a la primera pregunta, se puede abordar la segunda cuestión y las posibles variables que afectarían a la eventual servidumbre, en concreto, podríamos preguntarnos, y de ser el SEJ eficiente lo preguntaría al usuario de no cuestionárselo él mismo, es “si el hecho de no haber encontrado agua en el momento de acordarse el pacto afecta mencionado pacto”. Respecto al segundo problema, resulta más sencillo de identificar, debiendo determinar si la servidumbre pactada se habría extinguido habiendo transcurrido el plazo establecido, o si, al contrario, el derecho permanece intacto. Para ello podríamos recurrir a la frase siguiente en aras a que el SEJ lo identifique correctamente: “se extingue la servidumbre pactada si transcurrido ese periodo de tiempo, no se ha ejercido tal derecho”.

Conviene precisar que, en lo que respecta a la interacción con el usuario, algunos programas han desarrollado lenguajes artificiales destinados a tal fin, como es el caso de TAXMAN o MIT, si bien se requeriría el conocimiento previo de este tipo de lenguajes, mientras que algunas incluso utilizan el idioma nativo del usuario, como es POLITEXT 46, los cuales serán más utilizados que los primeros.

Este tipo de programación resultaría además de sencillo, más instructivo, ya que no solo se aprende en el análisis de casos jurídicos sino que también pueden poner en práctica un enfoque cada vez más demandado por los clientes corporativos 47 que prefieren que les proporcionen soluciones estandarizadas en vez de análisis complejos, y esto es gracias a que el programa funciona de tal manera que el usuario le formule preguntas y viceversa, lo cual además de facilitar una respuesta adecuada al problema jurídico, también permite al usuario (en este caso, el estudiante), adquirir y perfeccionar su aprendizaje, puesto que el programa podría solicitar aclaraciones tales como: “¿se perfeccionó el acuerdo antes de encontrase agua en el fundo del vecino?”. Este tipo de preguntas que el programa formula resultan muy formativas ya que el estudiante adquiere la capacidad de seleccionar información y hacerse las preguntas pertinentes, habilidad que no resulta fácil aprender.

Una vez que comienza la interacción con el usuario, el programa, como ya se acaba de mencionar, empieza a formular cuestiones en aras de mayores aclaraciones, en función de las respuestas que le va proporcionando el usuario estudiante 48. Este tipo de preguntas deben ser respondidas por el usuario/estudiante de manera corta y con monosílabos: SI, NO y NO SE. En nuestro caso, un ejemplo sería: ¿Firmó Cayo con Cornelio algún tipo de disposición por la que se acuerda un periodo de tiempo máximo para construir la canalización? Lo que busca el programa va a ser siempre una respuesta afirmativa o negativa. De responder el usuario con NO SE, entonces el programa cuenta con una batería de subpreguntas hasta llegar a la afirmativa o negativa, por ejemplo: ¿se guardó silencio sobre este asunto?

Este tipo de mecánica pregunta/respuesta ya se ha utilizado de manera satisfactoria en otros programas como es el caso de Issue-Based prediction (IBS) para la reformulación del derecho de daños o el sistema CABARET 49. La lógica subyacente es de tipo secuencial, en función de la respuesta afirmativa o negativa, el programa procesa la información y sigue orientando a la solución.

La BC ha sido diseñada para que sirva como herramienta digital, por lo que previamente se ha llevado a cabo un proceso de informatización del lenguaje legal, algo no siempre sencillo debido a su tendencia la mayor generalización posible 50, sin embargo los esfuerzos resultan recompensados ya que la transformación del léxico legal en formato digital resulta fácilmente comprensible para los usuarios 51. La legislación se digitaliza a través de conjuntos de reglas de decisión, ya sean estáticas o dinámicas 52, almacenadas a través de un conjunto de enunciados declarativos 53. Gracias a este proceso, el sistema de expertos es capaz a través de la Base de Conocimiento, de traducir conceptos en términos legales, y a su vez analizarlos, ya sea por medio de aclaraciones al usuario, lo cual fomenta a su vez el autoconocimiento y la capacidad de explicación a sujetos que desconocen los términos jurídicos, o por la misma base datos con la que cuenta el programa. Así, términos como dolo, compraventa, o silencio resultan fáciles de interpretar para el SEJ, y dar así la respuesta sencilla.

Al funcionar utilizando el sistema de lógica preposicional, la estructura va a ser siempre utilizando una simple regla de producción, SI ENTONCES, siendo A el precedente o la condición de que se dé B. Si en la base de datos del programa se incluido el conjunto de textos que recoge el Digesto, entonces el mismo, con la información y aclaraciones que le hemos ido proporcionando, debería acudir a lo dicho por Labeón y recogido por Paulo en D.8.5.21: “Si aún no está descubierta algún agua, no puede constituirse la servidumbre de paso o de conducción de la misma. Dice Paulo: pero yo opino que esto es falso, porque puede concederse que busques el agua, y que sea lícito conducir la alumbrada” 54, entonces el programa comenzará a funcionar recurriendo a dicha lógica, preguntándose si el agua estaba descubierta en el momento de firmarse el acuerdo entre Ticio y Cayo (condicionante A), para a continuación preguntarse si la respuesta es afirmativa entonces si había servidumbre de agua, pero si la respuesta es negativa, entonces no podría constituirse tal servidumbre. De todas maneras, aquí el Derecho Romano entra en contradicción, pues esgrime una opinión contraria por parte de Paulo. Ante esta situación, el programa debería ser capaz de proporcionar ambas respuestas, es decir, debería seguir los condicionantes tanto de la opinión de Labeón como la de Paulo, indicando que, según Paulo, si no se ha descubierto el agua, pero hay un acuerdo previo, entonces ya existe derecho de servidumbre. Lógicamente aquí debe entrar en juego también el papel del jurista/estudiante de derecho, capaz de distinguir tal contradicción, ya que el programa nos proporciona el texto del Digesto en el que se basa la reflexión, detectando los posibles fallos o trabas que no ha sido capaz de realizarlo el SEJ.

A lo largo de la conversación, el usuario sigue ejerciendo un papel muy activo, ya que por un lado, debe ir formulando preguntas encaminadas a averiguar la razón de las respuestas a la que ha llegado el SEJ, así como conocer en que fuente jurídica se ha basado el programa para llegar a tal conclusión. Por ejemplo, aplicando a nuestro caso, en el segundo supuesto, el hecho determinante para el Derecho Romano de si Cayo sigue conservando el derecho a conducir el agua, reside en el pasaje de Pomponio recogido en el Digesto, D.8.6.19, pr 55: “Si al vender parte de un fundo hubiere yo puesto por condición, que por aquella parte yo conduciría agua a lo restante de mi fundo, y hubiere transcurrido el tiempo establecido antes de que yo hiciere el cauce, no pierdo nada de mi derecho, porque no hubo ningún paso para el agua, sino que me queda íntegro el derecho; pero si yo hubiese hecho el paso, y no hubiese usado de él, lo perderé”. Si el SEJ ha funcionado correctamente y ha seguido el pasaje del texto correcto, entonces el usuario no debería tener ningún problema en conocer la fuente jurídica que sirve de base para la respuesta. Como se puede intuir, para que el programa funcione correctamente el trabajo previo tanto del ingeniero como del jurista que lo apoya es fundamental 56, pues la clasificación por categorías en la Base de Conocimiento permite acudir mediante las preguntas y respuestas correctas del usuario a la fuente necesaria.

Además, el usuario no sólo tiene la opción, sino que está obligado a mantener una participación activa, puesto que en ocasiones el programa le proporcionará una batería de respuesta válidas, como el ejemplo anterior de las opiniones diversas de Labeón y Paulo acerca del descubrimiento de agua como requisito para la existencia de servidumbre, a través de un menú desplegable en el que deberá optar por la respuesta que es válida.

En resumen, lo que tenemos que imaginar con todo este proceso es que se crea una especie de “árbol de decisión” (se ilustra un ejemplo a continuación, Esquema 2) de la cual parten múltiples ramificaciones que nos llevan a caminos distintos, lo cual tiene la ventaja frente a otros mecanismos de IA como las redes neuronales, que no presenta el problema de la “caja negra”, es decir, el desconocimiento de como un algoritmo al introducir una serie de datos, llega a una solución determinada 57, ya que podemos saber exactamente, más bien decodificar, cada uno de los pasos seguido, gracias a estas ramificaciones 58, lo cual es muy atractivo en el ámbito educativo ya que los estudiantes pueden conocer cada uno de manera individual.

Esquema 2
Ejemplo de árbol de decisión. Elaboración propia.

Antes de esquematizar el razonamiento que sigue el SEJ, no debemos olvidar que la forma del razonamiento del jurista (especialmente del abogado), como han señalado autores 59 sigue una lógica contraria a la del programa informático, pues busca a partir de la solución deseada, las premisas que le permitan llegar a tal conclusión. Sin embargo, en el plano formativo resulta mucho más interesante la forma deductiva, más utilizada por los jueces, de partir de las premisas a la conclusión. Además, el utilizar este razonamiento deductivo también puede ser igualmente de importante para el abogado, ya que puede conocer mejor otras vías alternativas que pueden jugar tanto a su favor como su contra, y por tanto, mayores posibilidades de que triunfe su tesis. En todo caso, la lógica aparentemente simplificada de los árboles de decisión clásicos está siendo superada gracias a la teoría de conjuntos difusos 60, que facilita el diseño de árboles de decisión difusos capaces de adaptarse mejor y presentar una mayor elasticidad 61. Estos modelos presentan algoritmos más avanzados capaces de manejar mucho mejor la incertidumbre que sus homólogos anteriores, ya que combinan las reglas de la lógica proposicional con la capacidad de manejo de la incertidumbre, generando una mayor robustez en los resultados arrojados por el SEJ 62, y esto es posible gracias a que a cada variable lingüística tiene términos difusos predefinidos 63, por ejemplo, el término ambiguo o difuso “error esencial” es vinculado por el SEJ a través de árboles de decisión difusos con atributos lingüísticos tales como “desconocimiento de la incapacidad jurídica del otro sujeto” o “creencia de celebrar un acto jurídico distinto”, llegando a esta conclusión gracias los datos que contiene el programa previamente junto a la información que le proporcionamos.

Partiendo ya a la resolución del caso, y realizando un simple esbozo de la metodología usada y explicada anteriormente, podemos hacernos una idea del potencial formativo que la tecnología nos proporciona, y que en unas breves pinceladas podríamos detallar de la siguiente manera: tras proporcionar toda la información necesaria al programa, entre lo que incluye, los detalles de los sujetos implicados y su situación (varios propietarios de fundos colindantes), y haberse formulado las preguntas correctas, es en ese momento cuando el programa empieza a funcionar para dar con la solución mediante el “árbol de decisión”. Así, para el primer caso, teníamos varias preguntas: ¿el pacto por el cual se compromete a canalizar agua, que calificación jurídica implica? ¿es relevante que no se hubiese descubierto agua en el momento de firmarse el acuerdo?

Ante la primera pregunta, el programa seguirá alguna serie de pautas, comenzando por preguntarse qué tipo de vínculo une a ambos sujetos, siempre que el usuario no lo hubiese proporcionado la información antes. En caso contrario, la expresión extracción de agua ya implica una importante pista, siguiendo por tanto la pregunta para el usuario, ¿son ambos sujetos propietarios del mismo terreno?, ante lo cual, las posibilidades serían:

A. Sí

B. No

C. No sé

Dado que el usuario elegiría la respuesta A, entonces el SEJ continuaría con el razonamiento deductivo: si solo uno es propietario del terreno, entonces la extracción de agua puede implicar varios escenarios:

A. Una compraventa de agua continua entre ambos sujetos

B. El derecho de extraer agua (aquae haustus)

Ante estos dos escenarios, el programa continuará realizando preguntas o elaborando deducciones en función de la información que tiene, formulando preguntas encaminadas a buscar rasgos de las servidumbres, tales como la indivisibilidad o la perpetuidad hasta llegar finalmente a la conclusión de que se trata de una servidumbre de extracción de agua.

Una vez que tenemos la respuesta a la primera pregunta, continuamos con la segunda para abordar la cuestión de si tal servidumbre existe, es decir, si el negocio jurídico se ha perfeccionado. Para ello, el programa cuenta con la ya regla inscrita en el D.8.5.21: Si aún no está descubierta algún agua, no puede constituirse la servidumbre de paso o de conducción de la misma. Dice Paulo: pero yo opino que esto es falso, porque puede concederse que busques el agua, y que sea lícito conducir la alumbrada. Por tanto, el programa tiene aquí dos escenarios distintos:

A. Según Labeón, de no haberse descubierto agua en el momento del acuerdo, no puede decirse de servidumbre existente

B. Según Paulo, aun cuando no se haya descubierto el agua si hay pacto previo, ya hay servidumbre

El condicionante se puede intuir, el conocimiento de que haya agua previa es el determinante para saber si hay servidumbre o no, pues es ese motivo en el que divergen los juristas romanos. El condicionante se codifica por tanto:

X. El conocimiento acerca del agua en el fundo objeto de la servidumbre

Por tanto, siguiendo el razonamiento deductivo que sigue el SEJ nos encontramos con la siguiente regla:

Si X

ENTONCES:

A. No hay servidumbre porque no se ha descubierto el agua

B. Si hay servidumbre puesto que hay un pacto previo

Como se puede observar, el razonamiento ha sido bastante sencillo, dado que en este caso la regla tampoco revestía mayor dificultad, sin embargo, lo importante es el procedimiento de reflexión y su fundamentación, dado que ahí reside la base de aprendizaje de este método, el poder facilitar a los futuros juristas las preguntas relevantes y las distintas vías que se pueden optar.

Una vez resuelto el primer caso, nos enfrentamos ya al segundo, aquel en el que Cayo había vendido el terreno a Cornelio pero se reservaba el derecho a conducir el agua. Para ello partimos de nuevo, de una regla jurídica, el D.8.6.19.pr: Si al vender parte de un fundo hubiere yo puesto por condición, que por aquella parte yo conduciría agua a lo restante de mi fundo, y hubiere transcurrido el tiempo establecido antes de que yo hiciere el cauce, no pierdo nada de mi derecho, porque no hubo ningún paso para el agua, sino que me queda íntegro el derecho; pero si yo hubiese hecho el paso, y no hubiese usado de él, lo perderé. Para ello, ante esta situación tenemos varios condicionantes:

X. Se ha establecido un periodo de tiempo entre ambas partes

Y. Se ha construido el cauce

Z. Se ha usado dicho cauce

La acción (o no) de estos condicionantes supondrá dos escenarios:

A. El vecino conserva el derecho de servidumbre

B. Se ha extinguido el derecho de servidumbre

De la combinación de estos condicionantes podemos extraer varias reglas:

• Regla 1: Si se dan todos los condicionantes (X, Y, Z), ENTONCES, se da el escenario A, quedando la siguiente regla: Si se ha establecido un periodo de tiempo, se ha construido y se ha usado el cauce, entonces el vecino conserva el derecho de servidumbre.
• Regla 2: Si se da X, pero no Y ni Z, siguiendo el D.8.6.19.pr, ENTONCES, se da A: si se ha acordado un periodo de tiempo, pero no se ha construido el cauce, entonces se mantiene el derecho de servidumbre.
• Regla 3: Si se da X e Y, pero no Z, en aplicación del D.8.6.19.pr, ENTONCES, se da B: si se ha acordado un periodo de tiempo y se ha construido el cauce, pero no se ha usado tal paso, entonces se extingue el derecho de servidumbre.

Una vez identificadas las reglas posibles, podemos ya saber, con la información que disponemos, que se cumple el condicionante X (se ha acordado un periodo de tiempo), pero no se da ni Y ni Z (Cayo no ha construido todavía el cauce). Esto supone que el programa aplicará la regla 2, y en consecuencia, Cayo conserva el derecho a la construcción y canalización de agua del fundo de Cornelio. El método aplicado por el SEJ no solo sirve para averiguar la solución del caso práctico, sino que también nos ayuda a conocer algunos detalles, como por ejemplo que realmente el condicionante X, es decir, el que se haya acordado un periodo de tiempo, no es tan relevante, en la medida que lo realmente importante en materia de servidumbres de aguas, es la construcción y utilización del canal de agua.

5. Conclusiones: dificultades, retos y oportunidades

5.1. ¿Realmente se puede diseñar una máquina que razone/instruya como el jurista humano?

¿A que nos enfrentamos con el avance de la IA y sus aplicaciones? Uno de los mayores expertos en IA del mundo, Sam Altman, afirmaba que la IA representa la mayor amenaza para la existencia humana y a su vez, el mayor avance potencial para la humanidad 64. Quizás sea ese el quid de la cuestión. Los SEJ presentan muchas ventajas y oportunidades, pero sin duda alguna, también plantean una serie de interrogantes, algunos más fáciles de resolver que otros, algunos más justificados que otros.

La utilización de las nuevas tecnologías provoca recelos en todos los sectores profesionales, no solo en el mundo jurídico. El temor, quizás infundado, de que dichos programas serán capaces de reemplazarnos en todas nuestras tareas hasta llegar prescindir de la utilidad humana, es seguramente el núcleo de estas animadversiones hacia la IA y sus posibilidades.

Es un hecho consumado que el desarrollo de los sistemas de expertos encuentra dificultades que no resultan fáciles de resolver. Algunos han sido tempranamente detectados por la doctrina, como es el caso de la experiencia jurídica. Tal como expuso Lancho Pedrera 65, una gran parte del conocimiento que adquieren los juristas se obtiene a partir de la experiencia, lo cual genera grandes problemas a la hora de su informatización. Aunque lo cierto es que tal meta no parece tan descabellada, hasta el punto de que en los últimos tiempos se han desarrollado inteligencias artificiales capaces de percibir e imitar los cinco sentidos humanos 66. En todo caso, la dificultad estriba en que al final, se trata de simular mediante programas informáticos todos aquellos conocimientos que se adquieren a través de las vivencias humanas. Y lo que es más importante, ¿cómo podemos traducir en un lenguaje algorítmico todas esas experiencias y reglas? Esto es especialmente relevante si el objetivo del SEJ en el ámbito educativo es transmitir conocimientos. El proceso de digitalización es complicado, sobre todo debido a que cierta normativa, tal como explica Merigoux 67, está dominada por reglas informales (como la legislación mercantil) frente a la necesaria formalidad del lenguaje informático. Esta crítica, junto a la presunta simplicidad que proporciona la lógica proposicional, han constituido el núcleo de los argumentos en contra de la aplicación de los SEJ al ámbito jurídico 68. Sin embargo, dichas deficiencias que se atribuyen a los SEJ parecen, paradójicamente, anticuadas. En primer lugar, porque gracias a los avances, especialmente en el campo de los árboles de decisión difusos, es potencialmente factible que los SEJ lleven a cabo un mejor procedimiento de adaptabilidad y de manejo de las ambigüedades del lenguaje jurídico. En segundo lugar, porque proyectos como el mencionado DREE, son capaces de diseñar bases del conocimiento capaces de procesar una mayor cantidad de información. Y, por último, si bien es cierto que la lógica proposicional puede resultar un tanto simple (que no simplista) no hay que olvidar la finalidad pretendida, la educativa. Resulta obvio que no se trata de que los estudiantes aprendan a pensar como una máquina o que traduzcan su razonamiento jurídico en el esquema “sí… entonces”, que es manifiesto que no constituye la lógica que sigue el ser humano. Se trata más bien de que puedan tener a su disposición herramientas que aumenten su potencial formativo, y si los SEJ son capaces de estimular habilidades como la de detectar fallos o lagunas en el sistema legal, o descubrir las opciones disponibles ante un caso determinado (como las posibles variables ante una servidumbre pactada entre dos partes), entonces tenemos una oportunidad de mejora en la educación.

Tampoco no debemos dejar de lado la problemática que nos enfrentamos con la antigua cuestión de la moralidad y el derecho. ¿Resulta éticamente moral introducir sujetos artificiales a una materia tan intrínsecamente humana como las relaciones sociales? Se podría discutir largo y tendido sobre este fenómeno, pero basta decir por ahora que la relevancia moral no puede constituir la fuente del ordenamiento jurídico 69. No es admisible poner una barrera a estos avances aludiendo a una frontera moral que ni resulta objetiva ni tampoco justificable.

En todo caso, el problema de la sustitución de los humanos por “jueces robots” no es reciente, ya en el siglo pasado autores como Lasswell 70 o D´Amato 71 proponían tales medidas para decidir casos rutinarios. De hecho, los sistemas híbridos en los que algoritmos orientan a los jueces ya existen 72, como el caso de Compas, utilizado en Estados Unidos para ayudar a los jueces en el monto de las fianzas en función de unas puntuaciones de riesgos analizadas por el programa informático.

5.2. ¿Constituye el ordenamiento jurídico un propio impedimento para los SEJ?

Otra cuestión aparte, y en mi opinión la más peliaguda, es la propia naturaleza del sistema jurídico, ya que el derecho suele tener numerosos matices que es necesario tener en cuenta. Las situaciones del caso pueden cambiar, y no siempre los ejemplos son tan clarividentes como los supuestos resueltos utilizando este método. Aún no disponemos de programas capaces de poder abarcar todos estos problemas, es más, no parece probable que se puedan llegar a diseñar sistemas que alcancen dicha meta. Y es precisamente aquí donde encontramos el talón de Aquiles de los sistemas de expertos, y es la magnitud del asunto que precisamente están destinados a atajar, el propio sistema jurídico.

En efecto, no debemos de olvidar en cuestiones tales como la interpretación de las normas, en los enormes problemas que generan la acumulación de normas procedentes de distintas fuentes y ordenamientos, en la apelación conjunta de disposiciones nacionales y comunitarias, en el hecho de que gran parte de las leyes que nos regulan quedan bajo la interpretación jurisprudencial. Todos estos motivos dificultan y a su vez, creo llegar al convencimiento de que imposibilitan la plena sustitución de los humanos por maquinas. Los SEJ son capaces de configurar reglas y aplicarlas al caso concreto, son capaces de almacenar numerosos archivos judiciales y agilizar así las tareas recopilatorias del jurista, son incluso capaces de analizar sentencias judiciales en el lenguaje natural y codificarlas por temas 73, pero caeríamos en un tremendo error en pensar que son capaces de reemplazar la labor humana. Y esto es debido a que el problema jurídico siempre estará presente, porque las normas son elaboradas por los humanos y, por tanto, implican fallos del lenguaje tales como vaguedades, imprecisiones y hasta conflictos con otras normas de mayor rango, tal como exponía tempranamente Biondi 74, “la decisión judicial por la peculiaridad de los elementos humanos que intervienen en el proceso difícilmente puede ser reducida a una fórmula abstracta”. El software también puede cometer errores, algunos tan absurdos u horrendos que sería imposible seguirlos ciegamente, además de sus propias limitaciones técnicas en la interpretación de los resultados, tal como comenta Wu 75, el SEJ puede explicar cómo ha llegado a ese resultado, pero es incapaz de decir el por qué, y es ahí donde interviene la labor humana, en este caso, la del profesor, para completar la tarea iniciada por el programa, ya que el SEJ, tal como apuntan Barr y Feigenbaum 76, no se convierte en profesor por el mero hecho de saber qué es lo que tiene que hacer, pues el buen profesor debe saber transmitir a los estudiantes el porqué de ese proceso.

Dado que los SEJ entienden el sistema jurídico como un sistema perfecto y cerrado 77, y sabemos a ciencia cierta que no lo es, especialmente en el Derecho Romano que no es propiamente correcto atribuirle el término de ordenamiento jurídico, su actividad nunca será completamente acertada. Las lagunas del derecho y las antinomias generan, por tanto, un importante escollo a la hora de recurrir a dichos programas, si bien puede ser a su vez útil para detectar tales fallos. Sin embargo, no impide resolver tales problemas si, tal como apuntan Alchourrón y Bulgyn 78 se acumulan suficientes datos en la base de conocimiento del programa, lo cual permitirá que éste puede mostrar al usuario los dos caminos, tal como se ilustraba en el primer ejemplo de las servidumbres, con las opiniones divergentes de Paulo y Labeón.

En conclusión, si bien las propias deficiencias del sistema normativo limitan la aplicación del SEJ a la totalidad de los casos prácticos que podrían utilizarse en las facultades, sigue siendo muy útil para mostrar, paso a paso, el razonamiento que lleva a la justificación de una decisión, aunque sea incapaz de explicar el motivo. De igual manera el SEJ ilustra de manera clara los derechos y deberes de las partes en un momento determinado ante un cierto caso, como se podía ver en el ejemplo de las servidumbres ante cada escenario en función de las condiciones del pacto alcanzado.

5.3. ¿Pueden paralizar la investigación e innovación jurídica?

Existe cierto temor a que si las máquinas inteligentes sustituyen a los juristas se detendría el progreso, lo cual se debería a la supuesta tendencia de resolver los casos jurídicos como lo haría el sistema de expertos, un sesgo judicial a responder las cuestiones como los casos anteriores tal como apunta Cárdenas Krenz 79, dinamitando consecuentemente la iniciativa individual y la evolución jurisprudencial. Es la llamada petrificación del derecho 80, que requeriría de una actualización constante para absorber los datos y “reeducarse” 81. En efecto, se ha señalado que los SEJ tienen un límite autoimpuesto, y es que se nutren únicamente de lo que el jurista previamente ha introducido en la BC, de manera que carecen de autonomía para resolver los problemas que se le plantean 82.

Si bien tal cuestión puede constituir un cierto obstáculo, lo cierto es que no resulta algo imbatible. En primer lugar, porque tal como argumenta Stone 83, los jueces siempre tienen un deber de esforzarse en el momento de juzgar, pues si bien pueden verse asistidos por la máquina, esto no les absuelve de su deber, traducido en nuestro ordenamiento en el art.1.7 CC. Además, dicho problema de “congelamiento” jurídico no se reproduce en el ámbito de la enseñanza, puesto que siempre intervendrá la labor crítica del profesor, así como la necesidad de actualización de la base de conocimientos y datos del sistema de expertos que debe realizarse periódicamente. No se trata de resolver todos y cada uno de los casos prácticos mediante el programa, puesto que también es imposible que con la tecnología actual los chatBots resuelvan de manera satisfactoria todos los casos, que aún dependen de los problemas humanos que se les plantean 84, por lo que sigue siendo una herramienta útil para el aprendizaje de las reglas jurídicas, pero no para casos complejos que requieren interpretación jurídica. El espíritu crítico se puede seguir desarrollando junto a estos asistentes virtuales.

5.4. Una oportunidad y a su vez, una advertencia

Los SEJ no son infalibles, pueden presentar sesgos y errores de interpretación y aplicación de las normas bastantes graves y en ocasiones hasta cómicos. Pero caeríamos de igual modo en un error si desdeñásemos el importante rol que pueden desempeñar. Como han señalado numerosos autores, todas estas innovaciones sirven y servirán como importantes herramientas de apoyo a los juristas, agilizando y facilitando tareas incluso en ocasiones, descubriendo nuevas vías que no se habían percatado, de hecho la utilización de consejeros legales inteligentes ya está a la orden del día 85, y es solo cuestión de tiempo que afecte a las universidades, por eso es mejor que sean juristas expertos los que diseñen estos programas y los conviertan en algo atractivo y formativo, a que los estudiantes comiencen a recurrir a programas no supervisados como chatGPT.

Esta aplicación se puede adaptar sin mayores dificultades al terreno de la enseñanza, poniendo a disposición de los alumnos unas herramientas de apoyo que, como se ha podido observar, sirven para adquirir conocimientos. La incertidumbre inherente al ser humano es plenamente trasladable a estos programas informáticos, pues los SEJ por el momento solo pueden ser infalibles en casos concretos. Y, sin embargo, la educación a través de las nuevas tecnologías, especialmente en generaciones que han vivido desde pequeños con tales soportes digitales, atrae numerosos valores positivos, en todas las disciplinas jurídicas, incluso en aquellas tan antiguas como el Derecho Romano.

La IA requerirá siempre de la supervisión humana para garantizar que no haya fallos sustanciales por parte del programa, aunque la garantía de su éxito está prácticamente asegurada gracias a los avances en este campo. Los sistemas ya son capaces de acumular y almacenar una gran cantidad de información jurídica y resolver problemas legales, hasta tal punto que en base a los silogismos judiciales alcanzan conclusiones similares que los juristas de carne y hueso 86.

En cierta medida, abrir estos programas a la enseñanza de casos metodológicos en los que la decisión se base en fuentes distintas de la norma, tales como la costumbre o los principios generales del derecho (no debería plantear demasiados problemas adicionales la jurisprudencia, puesto que tales decisiones se pueden comprimir en reglas por parte del juristas responsable del programa), no es actualmente viable, ya que al no poder subsumirse directamente en reglas, la decisión sería bastante indeterminada 87. El peligro de permitir que el alumno pueda aprender de estas situaciones a partir de la IA es que aborda demasiado terreno de la inseguridad jurídica, puesto que imaginando que fuese la máquina quien aplica un juicio de ponderación, el peso que se le atribuye a cada valor dependerá, tal como apunta Ortega Ruiz 88, del propio valor que le ha otorgado previamente el diseñador humano.

Sin embargo, estos típicos casos en los que la situación no es clara, en la que la interpretación de la norma es ambigua y en la que pueden llegarse a caminos muy distintos, no son los que suelen utilizar en la enseñanza en las facultades de derecho. Antes al contrario, son los problemas que más fácilmente resuelven los SEJ, aquellos en los que los datos y el encaje en el ordenamiento jurídico resulta sencillo, los que se recurren en la enseñanza, de ahí que no parece plantear dificultades su aplicación en la educación.

En conclusión, los SEJ pueden generar importantes controversias desde distintos sectores, desde el tradicional problema del “reemplazo por la máquina”, hasta la máxima de “garantizar la ética”, especialmente el aparente peligro del “juez robot” siempre supondrá un leitmotiv recurrente entre los críticos de la IA y su derivación en los SEJ. Sin embargo, creo firmemente que no debemos quedarnos solo con esta realidad dualista de blanco/oscuro. Lo cierto es que han terminado siendo muy provechosos en muchas áreas y tiene un gran potencial para el ámbito de la docencia. El que no puede ser aplicable a todos los problemas jurídicos no impide su utilización tanto por alumnos como por profesores, ya que son una fuente muy útil de información, tanto para visibilizar la fuente de origen como el esquema de resolución.

Por supuesto, la participación humana siempre estará presente cuando utilicemos los SEJ, ya que tanto el alumno como el profesor también deberán revisar y comprobar que tal argumentación se encuentra fundada, debiendo en el caso de los alumnos, comprobar al menos la fuente jurídica mencionada por la IA. En esencia, la utilización de estos programas es una gran fuente de oportunidades, y lo más interesante es que aún estamos comenzando a estudiar y a entender todo el abanico de posibilidades que nos puede proporcionar. Pronto será imperativo implantarlo en las facultades, pues tal como acertadamente apuntó Susskind 89, es necesario preparar juristas del siglo XXI no del siglo XX, y esto no es un desafío futuro sino un cambio presente.

6. Bibliografía

ABARCA SÁNCHEZ, J.A. (2022), “Reflexiones sobre la inteligencia artificial y derecho”, Revista de Ciencias Jurídicas, núm.159: págs. 1-14.

ABDELHAIM, A., TRAORE, I., NAKKABI, Y. (2016), “Creating decision trees from rules using RBDT-1”, Computational Intelligence, vol. 32, núm.2: págs. 216-239.

AJEVSKI, M., BARKER, K., GILBERT, A., et al. (2023), “ChatGPT and the future of legal education and practice”, The Law Teacher, vol. 57, núm. 3: págs. 352-399.

ALCHOURRÓN, C. E., BULYGIN, E. (2006). La introducción a la metodología de las ciencias jurídicas y sociales, Buenos Aires: Astrea.

BARR, A., FEIGENBAUM, E. (1982), The Handbook of Artificial Intelligence, vol. 2, Los Altos: Butterworth-Heinemann.

BELALCÁZAR, P. (2023), “La adopción de la inteligencia artificial en desarrollo práctico-profesional de la abogacía: Una herramienta de evolución en el ámbito jurídico”, Revista Latinoamericana de Ciencias Sociales y Humanidades, vol. 4, núm. 4: págs. 263-273.

BENCH-CAPON, T. (2012), “What makes a System a Legal Expert?”, en SCHAFER, B. (editor): Legal Knowledge and Information Systems, Amsterdam: Burkhand Schafer, págs. 11-20.

BERTOLINI, A., EPISCOPO, F. (2022), “Robots and AI as Legal Subjects? Disentangling the Ontological and Functional Perspective”, Robotics and AI, núm. 9: págs.1-15.

BIONDI, B. (1953), La Ciencia jurídica como arte de lo justo, Valladolid: Publicaciones de los Seminarios de la Facultad de Derecho, Universidad de Valladolid.

BROOKS, C.; GHERES, C.; VORLEY, T. (2020), “Artificial intelligence in the legal sector: pressures and challenges of transformation”, Cambridge Journal of Regions, Economy and Society, núm.13: págs.135-152.

BROZEK, B.; FURMAN, M; JAKUBIEC, M; KUCHARZYK, B. (2023), “The black box problem revisited. Real and imaginary challenges for automated legal decision making”, Artificial Intelligence and Law: págs. 1-14.

BOURCIER, D. (2003), Inteligencia artificial y derecho, Barcelona: UOC.

CÁRDENAS KRENZ, R. (2021), “¿Jueces robots? Inteligencia artificial y derecho”, Revista justicia y derecho, vol. 4, núm. 2: págs. 1-10.

CORNELIA, A., et al. (2015). “Expert systems with applications in the legal domain”, Procedia Technology, núm.19: págs. 1123-1229.

D´AMATO, A. (1977), “Can/Should Computers Replace judges?”, Georgia Law Review, núm. 11: págs. 1277-1301.

DÁVARA RODRÍGUEZ, M.A. (1994), “Introducción a los sistemas expertos”, Informática y derecho: Revista Iberoamericana de Derecho Informático, núm. 5: págs. 909-920.

DE OLIVEIRA FORNASIER, M. (2021), “Legal education in the 21st century and the artificial intelligence”, Revista Opinião Jurídica, núm. 31: págs.1-31.

DE REINA TARTIÈRE, G. (2014), Derecho romano. Casos prácticos y modelos de resolución. Cuestionarios de autoevaluación, Madrid: Centro de Estudios Financieros.

DZIENKOWSKI, J.S. (2014), “The Future of Big Law: Alternative Legal Service Providers to Corporate Clients”, Fordham Law Review, vol. 82, núm. 6: págs. 2995-3040.

GALINDO AYUDA, F., LASALA CALLEJA, M. P. (1995), “Metodología para el desarrollo de sistemas jurídicos de inteligencia artificial: el prototipo ARPO-2 como ejemplo”, Scirie: Representación y organización del conocimiento, núm. 2: págs. 72-103.

GONZALEZ-MENESES, M. (2023), “¿Se puede aplicar la Inteligencia Artificial al razonamiento jurídico?”, elnotariodelsigloxxi. [En línea] https://www.elnotario.es/index.php/academia-matritense-del-notariado/12109-se-puede-aplicar-la-inteligencia-artificial-al-razonamiento-juridico. Consultado el día 10/11/23.

GOTTWALD, S. (2014), “The Logic of Fuzzy Set Theory: A Historical Approach”, en MONTAGNA, F. (editor): Petr Hájek on Mathematical Fuzzy Logic. Nueva York: Springer, págs. 41-61.

GRANERO, H. (2020), “La inteligencia artificial entiende el lenguaje “talcahuanensis”, eldial.com. Disponible en: [En línea] https://www.eldial.com/nuevo/nuevo_diseno/v2/doctrina2.asp?id=12728&base=50&t=j. Consultado el día 13/10/23.

GUERRERO ALONSO, J. I., PERSONAL VÁZQUEZ, E., et al. (2020), “Increasing the Efficiency of Rule-Based Expert System Applied on Heterogeneous Data Sources”, en NUNES DA SILVA, I., ANDRADE FLAUZINO, R. (editores): Application of Expert Systems Theoretical and Practical Aspects, Londres: IntechOpen, págs. 27-37.

HOLMES, W., et al. (2022), Artificial intelligence and education. A critical view through the lens of human rights, democracy and the rule of law. Estrasburgo: Consejo de Europa.

HUG, A.Z. (2021), “Artificial Intelligence and the Rule of Law”, University of Chicago Law School: Public Law and Legal Theory Working Papers, núm.764: págs.1-14.

JANIKOW, C.Z. (1998), “Fuzzy Deccisions Trees: Issues and Methods”, IEEE Transactions on systems, man and cyberneticsPart B: cybernetics, vol. 28, núm.1: págs. 1-14.

KARLGREN, H., WALKER, D.E. (1983) “The POLITEXT systema new design for a text retrieval system”, en KIEFER, F. (editor): Questions and Answers. Linguistic Calculation, vol.1, Dordretch: Springer, págs. 273-294.

KOWALSKI, R. (1992), “Legislation as logic programs”, en COMYN, G., FUCHS, N.E., RATCLIFFE, M.J. (editores): Logic Programmic in Action. Zurich: Springer: págs. 203-230.

LANCHO PEDRERA, F. (2003), “Los sistemas de expertos en el derecho”, Anuario de la Facultad de Derecho. Universidad de Extremadura, núm. 21: págs. 629-636.

LANG, J., LIBERATORE, P., MARQUIS, P. (2002), “Conditional independence in propositional logic”, Artificial Intelligence, núm. 141: págs.79-121.

LASSWELL, H. (1955), “Current studies of the decisión process: automation versus creativity”, The Western Political Quarterly, núm. 8: págs. 381-399.

LASWELL, H.; McDOUGAL, M. S. (1999), “Enseñanza del derecho y políticas públicas. Entrenamiento profesional para el interés público”, en BOHMER, M.F. (compilador): La enseñanza del derecho y el ejercicio de la abogacía, Barcelona: Gedisa, págs.73-104.

LEITH, P. (2010), “The rise and fall of the legal expert system”, European Journal of Law and Technology, vol.1, núm. 1: págs. 1-16.

LI, X., PEDRYCZ, W. (2007). “The development of fuzzy decision trees in the framework of Axiomatic Fuzzy Set logic”, Applied Soft Computing, núm.7: págs. 325-342.

LI, Y. et al. (2023), “Z-number-valued rule-based decision trees”, Information Sciences, núm. 643: págs.1-15.

LLEDÓ BENITO, I. (2022), El derecho penal, robots, IA y cibercriminalidad: desafíos éticos y jurídicos: ¿hacia una nueva distopía?. Madrid: Dykinson.

LLEDÓ YAGUE, F.; BENÍTEZ ORTÚZAR, I. (2021).“La disrupción distópica de la máquina pensante y la superación del hombre óptimo”, en LLEDÓ YAGUE, F; BENÍTEZ ORTÚZAR, I; MONJE BALAMASEDA, O. (directores), La robótica y la inteligencia artificial en la nueva era de la revolución industrial 4.0, Madrid: Dykinson, págs.15-24.

LÓPEZ DE MÁNTARAS BADIA, R.; MESEGUER GONZÁLEZ, P. (2017), Inteligencia artificial, Madrid: CSIC: Los libros de La Catarata.

LÓPEZ-MUÑIZ DE MENDIZABAL, B. (1994), “Sistemas de expertos, viabilidad de su aplicación en el derecho”, Informática y derecho: Revista Iberoamericana de Derecho Informático, núm. 5: págs. 957-968.

MATHESON, A. (2023), “Applied Artificial Intelligence for Law: The Use of Expert Systems and Decision Trees in Legal Practice and the Potential of Artificial Neural Networks”, Legal Issues Journal, núm.2: págs.1-22.

McCARTHY, J. (2007), What is artificial intelligence?, Stanford University. Disponible en: [En línea] https://www.whatisai.pdf (stanford.edu). Consultado el día 22/10/23.

McCARTHY, T. (1984). “Intelligent Legal Information Systems: Problems and Prospects”, en CAMPBELL, G. (editor): Data processing and the Law, Londres: Sweet and Maxwell, págs.125-151.

MERIGOUX, D. (2022), “The Specification Problem of Legal Expert Systems”, INRIA, pág.2 [En línea] https://inria.hal.science/hal-03541637/file/main.pdf. Consultado el día 8/11/23.

MIGUEL PASTOR, L. (2020), “Consideraciones sobre el ser humano y su singularidad frente a las concepciones antropológicas actuales de carácter tecnocientífico”, Naturaleza y libertad, núm.13: págs.103-117.

MINGAY, H., et al. (2022), “Using Rule-Based Decision Trees to Digitize Legislation”, Prosthesis, núm.4: págs.113-124.

MORALES CÁCERES, A. (2021), “El impacto de la inteligencia artificial en el Derecho”, Advocatus, núm. 39: págs. 39-71.

NAIK, V., LOKHANDAV, S. (2012), “Building a legal expert system for legal reasoning in specific domain”, International Journal of Computer Science & Information Technology, vol. 4, núm.5: págs. 175-184.

NAGATA, T., SASAKI, H. (1996), “Personal computer based expert system for power system operation education”, Electrical Power & Energy System, vol.18, núm. 3: págs. 195-201.

ORTEGA RUIZ, L. G., BECERRA ORTIZ, J. A. (2022), “La Inteligencia Artificial en la decisión jurídica y política”, Araucaria: Revista Iberoamericana de Filosofía, Política, Humanidades y Relaciones Internacionales, núm.49: págs. 217-238.

PEÑA OROZCO, C. A. (2011), “Impacto de las nuevas tecnologías de la computación en el ámbito del Derecho”, Pensamiento Americano, núm.7: págs. 9-15.

PÉREZ LUÑO, A. E. (1996), Manual de Informática y Derecho, Barcelona: Ariel.

PONS, C. (2017), “Lógica proposicional”, en PONS, C., ROSENFIELD, R., SMITH, C. (autores): Lógica para informática, La Plata: Editorial Universidad Nacional de La Plata, págs. 16-40.

POPPLE, J. (1996), A pragmatic legal expert system, Londres: Dartmouth Publishing Co Ltd.

POPPLE, J. (2014), “Legal Expert Systems: The inadequancy of a Rule-Bsed Approach”, Proceedings of the Thirteenth Australian Computer Science Conference: págs.303-313.

RAVI, M., et al. (2022), “A Comparative Review of Expert Systems, Recommender Systems, and Explainable AI”, 2022 IEEE 7th International conference for Convergence in Technology: págs. 1-8.

ROGERS, J., BELL, F. (2019), “The Ethical AI Lawyer: What is required of lawyers when they use automated systems?, Law, Technology and Humans, núm.1: págs. 80-99.

ROSTAIN, T. (2014), “Designing Legal Expert Systems in the Classroom”, DocPlayer. Disponible en: [En línea] https://docplayer.net/amp/16557535-Designing-legal-expert-systems-in-the-classroom.html. Consultado el 3/11/23.

RUSSELL, S., NORVING, P. (2021), Artificial Intelligence: a modern approach, Harlow: Pearson.

SAIZ GARITAONANDIA, A. (2023), “Deus ex machina al estrado: inteligencia artificial y resolución de conflictos. Reflexiones para una aproximación flexible a un fenómeno en constante evolución”, Diario La Ley, núm.75: págs.1-25.

SHEPPARD, B. (2015),” Incomplete innovation and the premature disruption of legal services”, Michigan State Law Review, núm. 5: págs.1797-1910.

SOTOMAYOR TRELLES, J. E. (2017), “Sistemas de expertos en el Derecho, apuntes sobre un debate casi olvidado”, en GRÁNDEZ, P., MORALES, F., (editores): La argumentación jurídica en el Estado Constitucional, Lima: Palestra Editores, págs.189-204.

SPOSITTO, O., LEDESMA, V., PROCOPIO, G., et al. (2022), “Inteligencia artificial. Un ejemplo de su aplicación práctica”, Informática y Derecho: Revista Iberoamerciana de Derecho Informático, núm. 11: págs. 933-950.

STEVENS, C.; BAROT, V.; CARTER, J. (2010), “The Next Generation of Legal Expert Systems New Dawn or False Dawn?”, en BRAMER, M., PETRIDIS, M., HOPGOOD, A. (editores): Research and Development in Intelligent Systems XXVII, Londres: Springer, págs. 439-452.

STONE, J. (1964) “Man and Machine in the Search of Justice”, Stanford Law Review, vol.16, núm. 3: págs. 515-560.

SUSSKIND, R. (1986), “Expert Systems in Law: A Jurisprudential Approach to Artificial Intelligence and Legal Reasoning”, The Modern Law Review, vol.49, núm. 2: págs. 168-194.

SUSSKIND, R. (2017), Tomorrow´s Lawyers. An introduction to your future, Oxford: Oxford University Press.

SUSSKIND, D., SUSSKIND, R. (2018), “The future of proffesions”, Proceedings of the american philosophical society, vol. 162, núm. 2: págs.125-138.

TIERSMA, P. (1999), “Legal lexicon”, en TIERSMA, P. (autor): Legal Lenguage. Chicago: University of Chicago Press, págs. 87-115.

TURING, A. (1950), “Computing machinery and intelligence”, Mind, núm. 236: págs. 433-460.

VARGAS VASSEROT, C. (2009) “El método del caso en la enseñanza del Derecho: experiencia piloto de un piloto novel”, Revista de Formación e Innovación Educativa Universitaria, vol. 2, núm.4: págs.193-206.

VEGA IRACELAY, J. (2018), “Inteligencia artificial y derecho, principios y propuestas para una gobernanza eficaz”, Informática y Derecho: Revista Iberoamericana de Derecho informático, núm.5: págs. 13-48.

VELA PEÓN, A. A. (2011), “Experiencias en la formación de árboles de decisión en un sistema experto”, Praxis de la justicia fiscal y administrativa, núm. 8: págs. 1-22.

VILLALPANDO, W. (2009), “La formación del jurista. Objetivos y competencias en la enseñanza del Derecho”, Invenio, núm. 12: págs.13-28.

XALABARDER, R. (2018), “Inteligencia Artificial y Derecho”, IDP: revista de internet, derecho y política= revista d´internet, dret i política, núm.27: págs.108-109.

WU, T. (2019), “Will Artificial Intelligence Eat the Law? The Rise of Hybrid SocialOrdering Systems”, Columbia Law School: Faculty Publications, núm.119: págs. 2001-2028.

YOSHINO, H. (2000), “Use of Legal Expert System LES-5 in Legal Education”, Japan Universities Association for Computer Education. Disponible en: [En línea] http://www.meijigakuin.ac.jp/~yoshino/documents/thesis/2000e_1.pdf. Consultado el día 13/11/23.

ZOU, C., LI, F., DONG, Y. (2022), “The Rationale and Approach of the Legal Expert System Construction”, Beijing Law Review, núm. 13: págs. 204-216.

7. Páginas consultadas

GOLDMAN SACHS. (2023), “The Potentially Large Effects of Artificial Intelligence on Economic Growth(Briggs/Kodnani)”.Disponible en: [En línea] https://www.Global Economics Analyst The Potentially Large Effects of Artificial Intelligence on Economic Growth (BriggsKodnani) (key4biz.it). Consultado el día 26/10/23.

THE ECONOMIST. (2023), “Generative AI could radically alter the practice of law”, economist.com. Disponible en: [En línea] https://www.Generative AI could radically alter the practice of law (economist.com). Consultado el día 25/10/23.

THE TECHNOLAWGIST. (2019), “China, el monstruo mundial en inteligencia artificial que utiliza cientos de jueces robot”, thetechnolawgist.com. Disponible en: [En línea] https://www.thetechnolawgist.com/2019/12/13/china-el-monstruo-mundial-en-inteligencia-artificial-que-utiliza-cientos-de-jueces-robot/. Consultado el día 8/11/23.

TIME MAGAZINE. (2023), “TIME’s Interview with OpenAI CEO Sam Altman”, time.com. Disponible en: [En línea] https://time.com/6288584/openai-sam-altman-full-interview/. Consultado el día 7/11/23.

---

*  El presente artículo es el desarrollo de una ponencia mía presentada en el Congreso Internacional de Casos Prácticos e Innovación Docente, celebrado y organizado por la Universidad de Oviedo los días 28 y 29 de septiembre.

1 TURING, A. (1950), “Computing machinery and intelligence”, Mind, núm.236: págs. 433-460.

2 McCARTHY, J. (2007), What is artificial intelligence?, Stanford University. Disponible en: [En línea] https://www.whatisai.pdf (stanford.edu). Consultado el día 22 de octubre; LÓPEZ DE MÁNTARAS BADIA, R.; MESEGUER GONZÁLEZ, P. (2017), Inteligencia artificial, Madrid: CSIC: Los libros de La Catarata, pág.142.

3 GOLDMAN SACHS. (2023), “The Potentially Large Effects of Artificial Intelligence on Economic Growth(Briggs/Kodnani)”.Disponible en: [En línea] https://www.Global Economics Analyst The Potentially Large Effects of Artificial Intelligence on Economic Growth (BriggsKodnani) (key4biz.it). Consultado el día 26 de octubre.

4 THE ECONOMIST. (2023), “Generative AI could radically alter the practice of law”, economist.com. Disponible en: [En línea] https://www.Generative AI could radically alter the practice of law (economist.com). Consultado el día 25 de octubre.

5 BROOKS, C.; GHERES, C.; VORLEY, T. (2020), “Artificial intelligence in the legal sector: pressures and challenges of transformation”, Cambridge Journal of Regions, Economy and Society, núm.13: págs.135-152.

6 SHEPPARD, B. (2015),” Incomplete innovation and the premature disruption of legal services”, Michigan State Law Review, núm. 5: págs.1797-1910.

7 VEGA IRACELAY, J. (2018), “Inteligencia artificial y derecho, principios y propuestas para una gobernanza eficaz”, Informática y Derecho: Revista Iberoamericana de Derecho informático, núm.5: págs.13-48; ROGERS, J., BELL, F. (2019), “The Ethical AI Lawyer: What is required of lawyers when they use automated systems?, Law, Technology and Humans, núm.1: págs.80-99; ABARCA SÁNCHEZ, J.A. (2022), “Reflexiones sobre la inteligencia artificial y derecho”, Revista de Ciencias Jurídicas, núm.159: págs.1-14.

8 Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas (2020/2012(INL)).

9 LLEDÓ BENITO, I. (2022), El derecho penal, robots, IA y cibercriminalidad: desafíos éticos y jurídicos: ¿hacia una nueva distopía?. Madrid: Dykinson, pág.117.

10 En este sentido, Miguel Pastor plantea una serie de interesantes reflexiones críticas acerca de si el ser humano sería sustituible por seres artificiales superiores, vid. MIGUEL PASTOR, L. (2020), “Consideraciones sobre el ser humano y su singularidad frente a las concepciones antropológicas actuales de carácter tecnocientífico”, Naturaleza y libertad, núm.13, pág.109. En líneas similares, Lledó Yagüe y Benítez Ortúzar consideran la imposibilidad de una coincidencia idéntica entre la mente humana y artificial dada la carencia de esta última del sentido del “yo”, vid. LLEDÓ YAGUE, F.; BENÍTEZ ORTÚZAR, I. (2021).“La disrupción distópica de la máquina pensante y la superación del hombre óptimo”, en LLEDÓ YAGUE, F; BENÍTEZ ORTÚZAR, I; MONJE BALAMASEDA, O. (directores): La robótica y la inteligencia artificial en la nueva era de la revolución industrial 4.0, Madrid: Dykinson, págs.18 y 19.

11 DE OLIVEIRA FORNASIER, M. (2021), “Legal education in the 21st century and the artificial intelligence”, Revista Opinião Jurídica, núm. 31: págs.1-31.

12 VARGAS VASSEROT, C. (2009) “El método del caso en la enseñanza del Derecho: experiencia piloto de un piloto novel”, Revista de Formación e Innovación Educativa Universitaria, vol. 2, núm.4, pág. 204.

13 LASWELL, H.; McDOUGAL, M. S. (1999), “Enseñanza del derecho y políticas públicas. Entrenamiento profesional para el interés público”, en BOHMER, M.F. (compilador): La enseñanza del derecho y el ejercicio de la abogacía, Barcelona: Gedisa, pág. 89.

14 AJEVSKI, M., BARKER, K., GILBERT, A., et al. (2023), “ChatGPT and the future of legal education and practice”, The Law Teacher, vol. 57, núm.3, pág. 360.

15 HOLMES, W., et al. (2022), Artificial intelligence and education. A critical view through the lens of human rights, democracy and the rule of law. Estrasburgo: Consejo de Europa, págs. 63 y 64.

16 XALABARDER, R. (2018), “Inteligencia Artificial y Derecho”, IDP: revista de internet, derecho y política= revista d´internet, dret i política, núm.27: págs.108-109.

17 La propia denominación, “sistemas expertos” tiene su origen en el intento de imitar a un profesional de la materia, vid. DÁVARA RODRÍGUEZ, M.A. (1994), “Introducción a los sistemas expertos”, Informática y derecho: Revista Iberoamericana de Derecho Informático, núm. 5: págs. 909-920.

18 CORNELIA, A., et al. (2015). “Expert systems with applications in the legal domain”, Procedia Technology, núm.19, pág. 1123.

19 SUSSKIND, D., SUSSKIND, R. (2018), “The future of proffesions”, Proceedings of the american philosophical society, vol. 162, núm. 2, pág.132.

20 El programa HYPO merece una mención especial. Diseñado en 1987 por Kevin D. Ashley de la Universidad de Massachusetts, fue el primer sistema de expertos que se desarrolló para fines pedagógicos. En general, el programa cubre la Ley de Secretos Comerciales estadounidense y proporciona un modelo de razonamiento de casos jurídicos del derecho de patentes basado en la formulación de hipótesis.

21 LÓPEZ-MUÑIZ DE MENDIZABAL, B. (1994), “Sistemas de expertos, viabilidad de su aplicación en el derecho”, Informática y derecho: Revista Iberoamericana de Derecho Informático, núm. 5: págs. 957-968.

22 PEÑA OROZCO, C. A. (2011), “Impacto de las nuevas tecnologías de la computación en el ámbito del Derecho”, Pensamiento Americano, núm.7: págs. 9-15.

23 LEITH, P. (2010), “The rise and fall of the legal expert system”, European Journal of Law and Technology, vol.1, núm. 1: págs. 1-16.

24 RUSSELL, S., NORVING, P. (2021), Artificial Intelligence: a modern approach, Harlow: Pearson, pág. 265.

25 DÁVARA RODRÍGUEZ, M. A., “Introducción…cit.,”, págs. 912-913.

26 ZOU, C., LI, F., DONG, Y. (2022), “The Rationale and Approach of the Legal Expert System Construction”, Beijing Law Review, núm. 13, pág. 207.

27 PONS, C. (2017), “Lógica proposicional”, en PONS, C., ROSENFIELD, R., SMITH, C. (autores): Lógica para informática, La Plata: Editorial Universidad Nacional de La Plata, págs. 30 y 31.

28 NAIK, V., LOKHANDAV, S. (2012), “Building a legal expert system for legal reasoning in specific domain”, International Journal of Computer Science & Information Technology, vol.4, núm.5, pág.176.

29 VILLALPANDO, W. (2009), “La formación del jurista. Objetivos y competencias en la enseñanza del Derecho”, Invenio, núm. 12, pág. 19.

30 LANG, J., LIBERATORE, P., MARQUIS, P. (2002), “Conditional independence in propositional logic”, Artificial Intelligence, núm. 141, pág. 80.

31 RUSSELL, S., NORVING, P., “Artificial…cit.,”,pág. 260.

32 RAVI, M., et al. (2022), “A Comparative Review of Expert Systems, Recommender Systems, and Explainable AI”, 2022 IEEE 7th International conference for Convergence in Technology, pág. 2.

33 NAGATA, T., SASAKI, H. (1996), “Personal computer based expert system for power system operation education”, Electrical Power & Energy System, vol.18, núm. 3, pág. 196.

34 Para más información, vid. GUERRERO ALONSO, J. I., PERSONAL VÁZQUEZ, E., et al. (2020), “Increasing the Efficiency of Rule-Based Expert System Applied on Heterogeneous Data Sources”, en NUNES DA SILVA, I., ANDRADE FLAUZINO, R. (editores): Application of Expert Systems - Theoretical and Practical Aspects, Londres: IntechOpen, págs. 28 y 29.

35 McCARTHY, T. (1984). “Intelligent Legal Information Systems: Problems and Prospects”, en CAMPBELL, G. (editor): Data processing and the Law, Londres: Sweet and Maxwell, págs. 125-151.

36 PÉREZ LUÑO, A. E. (1996), Manual de Informática y Derecho, Barcelona: Ariel, págs. 201-204.

37 SUSSKIND, R. (1986), “Expert Systems in Law: A Jurisprudential Approach to Artificial Intelligence and Legal Reasoning”, The Modern Law Review, vol.49, núm. 2, pág. 173.

38 LÓPEZ-MUÑIZ DE MENDIZABAL, B. (1994) “Sistemas…cit.,”, pág. 961.

39 STEVENS, C.; BAROT, V.; CARTER, J. (2010), “The Next Generation of Legal Expert Systems - New Dawn or False Dawn?”, en BRAMER, M., PETRIDIS, M., HOPGOOD, A. (editores): Research and Development in Intelligent Systems XXVII, Londres: Springer, pág. 450.

40 SPOSITTO, O., LEDESMA, V., PROCOPIO, G., et al. (2022), “Inteligencia artificial. Un ejemplo de su aplicación práctica”, Informática y Derecho: Revista Iberoamerciana de Derecho Informático, núm. 11: págs. 933-950.

41 THE TECHNOLAWGIST. (2019), “China, el monstruo mundial en inteligencia artificial que utiliza cientos de jueces robot”, thetechnolawgist.com. Disponible en: [En línea] https://www.thetechnolawgist.com/2019/12/13/china-el-monstruo-mundial-en-inteligencia-artificial-que-utiliza-cientos-de-jueces-robot/. Consultado el día 8 de noviembre.

42 NAGATA, T., SASAKI, H., “Personal…cit.,”, pág.201; de igual manera han resultado exitosos las pruebas piloto llevadas a cabo en las facultades de derecho de las universidades Meiji Gakuin y Keio (Japón), vid. YOSHINO, H. (2000), “Use of Legal Expert System LES-5 in Legal Education”, Japan Universities Association for Computer Education. Disponible en: [En línea] http://www.meijigakuin.ac.jp/~yoshino/documents/thesis/2000e_1.pdf. Consultado el día 13 de noviembre.

43 En concreto, DE REINA TARTIÈRE, G. (2014), Derecho romano. Casos prácticos y modelos de resolución. Cuestionarios de autoevaluación, Madrid: Centro de Estudios Financieros.

44 GALINDO AYUDA, F., LASALA CALLEJA, M. P. (1995), “Metodología para el desarrollo de sistemas jurídicos de inteligencia artificial: el prototipo ARPO-2 como ejemplo”, Scirie: Representación y organización del conocimiento, núm. 2: págs.72-103.

45 En la actualidad contamos con ciertos modelos de IA capaces de resolver problemas jurídicos sin estar familiarizados con estos, si bien en algunos casos defectuosa, como el caso de chatGPT.

46 KARLGREN, H., WALKER, D.E. (1983) “The POLITEXT system- a new design for a text retrieval system”, en KIEFER, F. (editor): Questions and Answers. Linguistic Calculation, vol.1, Dordretch: Springer, págs. 273-294.

47 Así lo pone de manifiesto Tanina Rostain, profesora de la Universidad de Georgetown, quien se ha dedicado varios años a que sus alumnos construyan sistemas de expertos, cuyas conclusiones se pueden consultar en ROSTAIN, T. (2014), “Designing Legal Expert Systems in the Classroom”, DocPlayer. Disponible en: [En línea] https://docplayer.net/amp/16557535-Designing-legal-expert-systems-in-the-classroom.html. Consultado el día 3 de noviembre.

48 MATHESON, A. (2023), “Applied Artificial Intelligence for Law: The Use of Expert Systems and Decision Trees in Legal Practice and the Potential of Artificial Neural Networks”, Legal Issues Journal, núm. 2, pág. 3

49 BENCH-CAPON, T. (2012), “What makes a System a Legal Expert?”, en SCHAFER, B. (editor): Legal Knowledge and Information Systems, Amsterdam: Burkhand Schafer, págs. 12 y 13.

50 TIERSMA, P. (1999), “Legal lexicon”, en TIERSMA, P. (autor): Legal Lenguage. Chicago: University of Chicago Press, pág. 89.

51 KOWALSKI, R. (1992), “Legislation as logic programs”, en COMYN, G., FUCHS, N.E., RATCLIFFE, M.J. (editores): Logic Programmic in Action. Zurich: Springer, pág. 204.

52 Un ejemplo reciente lo podemos encontrar en el método RBDT-1 diseñado por un grupo de profesores del Departamento de Ingeniería informática de la Universidad de Victoria (Canadá) capaz de transformar en árboles de decisión problemas específicos para obtener una determinada solución. Para más información, consultar: ABDELHAIM, A., TRAORE, I., NAKKABI, Y. (2016), “Creating decisión trees from rules using RBDT-1”, Computational Intelligence, vol. 32, núm.2: págs. 216-239.

53 MINGAY, H., et al. (2022), “Using Rule-Based Decision Trees to Digitize Legislation”, Prosthesis, núm. 4, pág. 115.

54 D.8.5.21 (Labeo libro primo pithanon a Paulo epitomatorum).

55 D.8.6.19.pr (Pomponio libro trigensimo secundo ab Sabinum).

56 VELA PEÓN, A. A. (2011), “Experiencias en la formación de árboles de decisión en un sistema experto”, Praxis de la justicia fiscal y administrativa, núm. 8, pág. 9.

57 BROZEK, B.; FURMAN, M; JAKUBIEC, M; KUCHARZYK, B. (2023), “The black box problem revisited. Real and imaginary challenges for automated legal decision making”, Artificial Intelligence and Law, pág.  2.

58 MATHESON, A. (2023), “Applied…cit.,”, pág. 4.

59 LÓPEZ-MUÑIZ DE MENDIZABAL, Blanca, “Sistemas…cit.,”, p. 962; DAVARA RODRIGUEZ, Miguel Ángel, “Introducción…cit.,”, pp. 915-916; BOURCIER, D. (2003), Inteligencia artificial y derecho, Barcelona: UOC, pág. 59.

60 Con esta teoría se refiere al modelo matemático capaz de comprender aquellos conceptos vagos (“difusos”), como podrían ser las ambigüedades en las normas jurídicas, y transformarlos en lógicas de normas de manera similar a la lógica proposicional y el árbol de decisión clásico, vid. GOTTWALD, S. (2014), “The Logic of Fuzzy Set Theory: A Historical Approach”, en MONTAGNA, F. (editor): Petr Hájek on Mathematical Fuzzy Logic. Nueva York: Springer, págs. 41-61.

61 LI, Y. et al. (2023), “Z-number-valued rule-based decision trees”, Information Sciences, núm. 643, pág. 2.

62 LI, X., PEDRYCZ, W. (2007). “The development of fuzzy decision trees in the framework of Axiomatic Fuzzy Set logic”, Applied Soft Computing, núm.7, pág. 326.

63 JANIKOW, C.Z. (1998), “Fuzzy Deccisions Trees: Issues and Methods”, IEEE Transactions on systems, man and cybernetics-Part B: cybernetics, vol. 28, núm. 1, pág. 6.

64 TIME MAGAZINE. (2023), “TIME’s Interview with OpenAI CEO Sam Altman”, time.com. Disponible en: [En línea] https://time.com/6288584/openai-sam-altman-full-interview/. Consultado el día 7 de noviembre.

65 LANCHO PEDRERA, F. (2003), “Los sistemas de expertos en el derecho”, Anuario de la Facultad de Derecho. Universidad de Extremadura, núm. 21, pág. 632.

66 En este sentido, vid. ImageBind desarrollado por la empresa Meta.

67 MERIGOUX, D. (2022), “The Specification Problem of Legal Expert Systems”, INRIA, pág.2 [En línea] https://inria.hal.science/hal-03541637/file/main.pdf. Consultado el día 8 de noviembre.

68 Entre otros podemos destacar: LEITH, P. (2010), “The rise…cit.,”, pág. 12; POPPLE, J. (2014), “Legal Expert Systems: The inadequancy of a Rule-Bsed Approach”, Proceedings of the Thirteenth Australian Computer Science Conference: págs. 303-313; ZOU, C., LI, F., DONG, Y. (2022), “The Rationale… cit.”, pág. 205; GONZALEZ-MENESES, M. (2023), “¿Se puede aplicar la Inteligencia Artificial al razonamiento jurídico?”, elnotariodelsigloxxi. [En línea] https://www.elnotario.es/index.php/academia-matritense-del-notariado/12109-se-puede-aplicar-la-inteligencia-artificial-al-razonamiento-juridico. Consultado el día 10 de noviembre.

69 BERTOLINI, A., EPISCOPO, F. (2022), “Robots and AI as Legal Subjects? Disentangling the Ontological and Functional Perspective”, Robotics and AI, núm. 9, pág. 4.

70 LASSWELL, H. (1955), “Current studies of the decisión process: automation versus creativity”, The Western Political Quarterly, núm. 8: págs. 381-399.

71 D´AMATO, A. (1977), “Can/Should Computers Replace judges?”, Georgia Law Review, núm. 11, pág. 1281

72 HUG, A.Z. (2021), “Artificial Intelligence and the Rule of Law”, University of Chicago Law School: Public Law and Legal Theory Working Papers, núm. 764, pág. 4.

73 Un ejemplo lo encontramos en el programa Sherlock-Legal, GRANERO, H. (2020), “La inteligencia artificial entiende el lenguaje “talcahuanensis”, eldial.com. Disponible en: [En línea] https://www.eldial.com/nuevo/nuevo_diseno/v2/doctrina2.asp?id=12728&base=50&t=j. Consultado el día 13 de octubre.

74 BIONDI, B. (1953), La Ciencia jurídica como arte de lo justo, Valladolid: Publicaciones de los Seminarios de la Facultad de Derecho, Universidad de Valladolid.

75 WU, T. (2019), “Will Artificial Intelligence Eat the Law? The Rise of Hybrid SocialOrdering Systems”, Columbia Law School: Faculty Publications, núm. 119, pág. 2021.

76 BARR, A., FEIGENBAUM, E. (1982), The Handbook of Artificial Intelligence, vol. 2, Los Altos: Butterworth-Heinemann, pág. 227.

77 SOTOMAYOR TRELLES, J. E. (2017), “Sistemas de expertos en el Derecho, apuntes sobre un debate casi olvidado”, en GRÁNDEZ, P., MORALES, F., (editores): La argumentación jurídica en el Estado Constitucional, Lima: Palestra Editores, págs. 189-204.

78 ALCHOURRÓN, C. E., BULYGIN, E. (2006). La introducción a la metodología de las ciencias jurídicas y sociales, Buenos Aires: Astrea.

79 CÁRDENAS KRENZ, R. (2021), “¿Jueces robots? Inteligencia artificial y derecho”, Revista justicia y derecho, vol.4, núm.2, pág. 5.

80 POPPLE, J. (1996), A pragmatic legal expert system, Londres: Dartmouth Publishing Co Ltd, pág. 12.

81 SAIZ GARITAONANDIA, A. (2023), “Deus ex machina al estrado: inteligencia artificial y resolución de conflictos. Reflexiones para una aproximación flexible a un fenómeno en constante evolución”, Diario La Ley, núm.75, pág.6.

82 MORALES CÁCERES, A. (2021), “El impacto de la inteligencia artificial en el Derecho”, Advocatus, núm.39, pág. 47.

83 STONE, J. (1964) “Man and Machine in the Search of Justice”, Stanford Law Review, vol.16, núm. 3, pág. 558.

84 BELALCÁZAR, P. (2023), “La adopción de la inteligencia artificial en desarrollo práctico-profesional de la abogacía: Una herramienta de evolución en el ámbito jurídico”, Revista Latinoamericana de Ciencias Sociales y Humanidades, vol.4, núm. 4, pág. 271.

85 Dzienkowski ofrece una rica descripción de algunos de estos programas, vid. DZIENKOWSKI, J.S. (2014), “The Future of Big Law: Alternative Legal Service Providers to Corporate Clients”, Fordham Law Review, vol. 82, núm.6: págs. 2995-3040.

86 SOTOMAYOR TRELLES, J. E. (2017), “Sistemas…cit.,”, pág. 193.

87 ORTEGA RUIZ, L. G., BECERRA ORTIZ, J. A. (2022), “La Inteligencia Artificial en la decisión jurídica y política”, Araucaria: Revista Iberoamericana de Filosofía, Política, Humanidades y Relaciones Internacionales, núm. 49, pág. 227.

88 ORTEGA RUIZ, L. G., BECERRA ORTIZ, J. A. (2022), “La Inteligencia…cit.,”, pág. 227.

89 SUSSKIND, R. (2017), Tomorrow´s Lawyers. An introduction to your future, Oxford: Oxford University Press, pág. 185.