C OCOMENTARIOS MENTARIOS abr il- j uni o 20 2 3 Pompeu Casanovas* y Pablo Noriega** L a Inteligencia Artificial (ia) ha irrum- regular lo pido en nuestras vidas de una for- Cómo ma que no había sido prevista hace apenas una década. Va más allá del uso generalizado que se le dio a diversas apli- altamente caciones partir de la pandemia de covid-19: está presente en la transformación extraor- dinariamente rápida que experimentan la industria, el comercio, la administración e, inevitablemente, el derecho y el gobierno, complejo con la evolución de internet y la red se- mántica asociada al creciente enjambre de grandes datos y a las aplicaciones de técni- cas de aprendizaje automático al “internet de las cosas”. Atendiendo a esta realidad, señalaremos algunos puntos importantes en el uso de tecnologías de ia en el contexto del derecho y la ética. Partamos de una observa- ción cauta: hay enormes opor- tunidades de hacer un buen uso de la ia; sin embargo, al ser una tecnología “disruptiva”, que perturba los sistemas existentes en la sociedad, el mercado y el gobierno, existen desafíos igual- mente formidables a los que debemos hacer frente. Dicho en otras palabras, en ia hay cosas que debemos hacer, cosas que no podemos hacer y cosas que debe- ríamos hacer… pero, sobre todo, como en otras actividades disrup- tivas, hay cosas que no debería- mos hacer aunque pudiéramos. El problema es que, por ahora, no somos capaces de vislumbrar con claridad dónde se ubica esa línea roja. Las aplicaciones de Inteligencia Artificial han trastocado la Con el fin de abordar esa ambigüe- convivencia social, la lógica de los mercados y las formas dad, apuntaremos brevemente algunos elementos para construir lo que se puede de gobierno. Por su impacto en la vida de millones de denominar gobernanza jurídica en ia. Es personas, es urgente trazar la “línea roja” entre lo factible decir, tanto el uso de sistemas inteligen- tes para la regulación como la regulación y lo inadmisible desde una perspectiva ética y jurídica que de la propia ia para producir resultados aceptables, minimizando los riesgos de resguarde libertades civiles y derechos humanos. un impacto negativo en los derechos y en * Instituto de Derecho y Tecnología de la Universidad Autónoma de Barcelona (idt-uab) la vida cotidiana de los ciudadanos. Evi- La Trobe University LawTech Research Group, Victoria, Australia dentemente, existe una dimensión política ** Instituto de Investigación en Inteligencia Artificial, Consejo Superior de Investigaciones en esta cuestión, pero se trata, básicamente, Científicas (iiia-csic), España de una cuestión de razonabilidad: lo que es NUEVOS 25 DIÁLOGOS COMENTARIOS Composición gráfica: Desiga | Dreamstime.com o no razonable en la producción, la gestión El segundo dilema es parecido, pero no y la interpretación lógica clásica. y la aplicación social de la ia. deriva de la complejidad de los sistemas Dilema 2: ¿Deben los sistemas de regu- Vamos a articular esa cuestión de razo- y su implementación práctica, sino que lación artificial estar basados solamente en nabilidad bajo la forma de algunos dilemas tiene un origen formal y un alcance más reglas o deberían adoptar otros elementos que pueden ayudarnos a comprender la com- general. Procede de la propia naturaleza que no tengan esta forma? Es decir, ¿se plejidad del problema. Aclaremos que adop- de los sistemas lógicos subyacentes a la deben implementar sistemas que asuman tamos esta fórmula en aras a la simplicidad manera en que la ia suele aplicarse en los contradicciones, elementos o variables exó- expositiva. Tal y como asevera Victoria Camps sistemas jurídicos. Martin Gardner señaló genas que modifiquen los resultados, o una (2013), en ética aplicada se tratan valores que la paradoja de la reflexividad, a la que vía abierta para la incertidumbre? y soluciones en conflicto: no hay un único Bertrand Russell se enfrentó con la teoría El tercer dilema, complementario del modelo para armar. de los tipos lógicos y la noción de metalen- anterior, ocurre en el terreno de la imple- guaje, podía adoptar múltiples formas. Una mentación de normas en contextos reales. Encarar la complejidad de ellas era: “Todas las reglas tienen ex- Como apuntamos antes, las aplicaciones El primer dilema es básico y se desarrolla de cepciones” (Gardner, 1963). La noción de de la ia al derecho se han basado, casi la siguiente manera: sistema de normas o reglas ha constituido desde el principio, en la noción de iso- Dilema 1: Por una parte, es necesaria la base de los sistemas de regulación (y, en morfismo jurídico; es decir, en la extrac- la intervención humana para la aplicación parte, de los denominados sistemas jurídi- ción de reglas semánticas con la forma provechosa de sistemas inteligentes y la mi- cos) desde hace más de medio siglo. En su general de los textos jurídicos: Condición nimización de riesgos que conlleva su uso. forma convencional, esas reglas tienen una (hechos)-Efectos (normativos) [si… enton- Pero, por otra, dado que los procesos de estructura condicional: “Si... entonces...”, ces…]. Textos jurídicos entendidos, aquí, aprendizaje y funcionamiento de los siste- en sentido amplio (valores y principios mas y agentes inteligentes tienen un grado éticos, políticas públicas, protocolos, bue- de autonomía cada vez mayor, es posible 1 El primer planteamiento del isomorfismo nas prácticas, acuerdos internacionales, jurídico, después de la formalización de los afirmar que los sistemas de ia deberían artículos del British Nationality Act por el Logic etcétera).1 Estos textos son la base de los poder ser autocontrolados o controlados Programming Group del Imperial College, que instrumentos jurídicos habituales, los cua- por otros sistemas de ia. ¿Cómo pueden únicamente consideraba el contenido de las les aceptan un alto grado de ambigüedad conjugarse estas dos perspectivas? leyes. Cf. Sergot (1986) y Bench-Capon (1992). y contradicción. Más concretamente, en la NUEVOS 26 DIÁLOGOS Composición gráfica: Denisismagilov | Dreamstime.com abr il- j uni o 20 2 3 práctica, un mismo término (por ejemplo, en este trabajo se formulan tres alternati- cuenta de que no existe una teoría gene- qué es un contrato, qué significa “justicia” vas fundamentales para instrumentar esa ral que ofrezca una solución única a los o las condiciones del uso de la violencia) gobernanza. tres dilemas formulados. Hay respuestas se puede interpretar de forma contradicto- parciales, adaptadas al sector de regula- ria, tanto en tiempo presente como futuro. La impenetrabilidad del lenguaje ción, a los requerimientos normativos y a Dicho de otra manera: la base conflictiva Los dilemas de la autonomía normativa, las disposiciones del entorno (affordances) de las interacciones humanas en lenguas de la reflexividad regulativa y del isomor- que deben tenerse en cuenta para efectuar naturales no es eliminable en su represen- fismo jurídico pueden formularse de otras el modelado del sistema. tación lógica. maneras. Podríamos intentar agruparlos, Vale la pena recordar al Lewis Carroll Dilema 3: ¿Cómo debemos operar con por ejemplo, como un trilema a la manera de Alicia a través del espejo: los lenguajes formales representativos? ¿In- de James Fishkin sobre la democracia de- terpretamos el isomorfismo jurídico como liberativa (Fishkin, 2009) para mostrar la Cuando yo uso una palabra –insistió el pilar de base de los sistemas normativos interdependencia de las respuestas. Pero Humpty Dumpty con un tono de voz más y de la argumentación –esta es la práctica no es necesario hacerlo así para darse bien desdeñoso– quiere decir lo que yo más habitual– o buscamos otras soluciones quiero que diga... ni más ni menos. para el proceso de adquisición del conoci- —La cuestión –insistió Alicia– es si 2 La aplicación de semánticas formales al de- miento que debe ser modelado?2 se puede hacer que las palabras signifi- recho depende de la respuesta que demos. Se trata de usar la ia para regular la La fórmula más adoptada por los investiga- quen tantas cosas diferentes. ia, pero, también, de encontrar las formas dores de ia y derecho ha sido: “Reglas + —La cuestión –zanjó Humpty de regulación que se pueden incorporar excepciones”, con la aplicación de lógicas Dumpty– es saber quién es el que en los sistemas que se basan en la propia deónticas no estándar y no monotónicas manda... eso es todo. ia. Porque, a diferencia de otras formas de (“derrotables”) a la argumentación y los sistemas jurídicos. Cf. Bench-Capon y Gordon regulación, la gobernanza de los sistemas Este es uno de los pasajes más citados de Ali- (2009). Véase también una exposición de los artificiales conlleva adicionalmente un pro- sistemas y lenguajes disponibles para tratar cia, ciertamente, pero lo que sigue, la cues- blema de ingeniería, pues se busca regular formalmente los problemas de derechos, nor- tión de la impenetrabilidad del lenguaje, en artefactos y con artefactos i.e. mediante mas, capacidades y competencias (poderes), es menos citado e igualmente importante: artefactos. Como acabamos de exponer, Gabbay et al. (2013). “¡Impenetrabilidad! Eso es lo que yo siempre NUEVOS 27 DIÁLOGOS COMENTARIOS Control y vigilancia Sin una regulación precisa y adecuada, las tecnologías de ia pueden traducirse en acciones de gobierno que amenacen el ejercicio de libertades civiles y derechos humanos. Y esto no es una posibilidad distópica sino un hecho confirmado: en 2007, con la aprobación del Protect American Act por la administración de George W. Bush, Estados Unidos legalizó el uso de prism, un programa de recopilación masiva de comunicaciones privadas procedentes de nueve grandes compañías estadounidenses de internet. Esta operación encubierta se hizo pública en 2013 gracias a la “filtración” de Edward Snowden,1 aunque hay una larga lista de whistleblowers anteriores a él2 que denunciaron las injerencias de programas como echelon (Margaret Newsham, 1988)3 y Trailblazer (William Binney, 2002).4 El último escándalo ha sido protagonizado por Pegasus, el spyware desarrollado por la compañía de ciberseguridad israelí nso Group y adquirido y usado no sólo por gobiernos –entre ellos el mexicano y el español– sino por grupos de criminalidad organizada.5 Una versión más suave –pero no menos efectiva– del control generalizado se perfila con el desarrollo de “gemelos digitales” (digital twins) por parte de los gobiernos: El modelo integra en la réplica datos de fuentes aisladas como registros de salud, historial de crédito, registros de llamadas y ubicación de teléfonos (logs), antecedentes penales, grabaciones de 360 gra- dos (con cámaras) de clientes e infraestructura. Los gobiernos están desarrollando réplicas digitales de los ciudadanos para monitorizar el entorno en el que éstos habitan y abordar los impactos en la sociedad de la salud, la seguridad, los viajes y las redes sociales. […] La agregación de la información asociada a esos gemelos digitales de los ciudadanos puede ayudar a identificar patrones generales de comportamiento y conducir la asignación de recursos. La aplicación tiene propósitos nobles, pues “el espectro de complejidad de modelos y herramientas puede ayudar a los gobiernos a tomar mejores decisiones para monitorear y asistir a pacientes, presos, pasajeros o ancianos”.6 Sin embargo, empieza a revelarse un doble filo. Algunos gobiernos están elaborando una metodología de “puntuación”. En China, por ejemplo, se ha instrumentado el “sistema de crédito social” mediante una tarjeta personal en la que se refleja la buena –o mala– conducta ciudadana, con las sanciones positivas (la posibilidad de viajar) y negativas (la divulgación de acciones personales) que se asocian a ella. Países africanos como Ruanda, Ghana, Uganda y Zimbabue, están Composición gráfica: Agsandrew | Dreamstime.com siguiendo ese camino. 1 Al respecto, consulte el documento Revelaciones sobre la red de vigilancia mundial (2013-2015). Disponible en http://bit.ly/3NyEjVc (Consultado el 31 de octubre de 2022). 2 Para más información puede consultar List of whistleblowers, en http://bit.ly/3sWD3BG (Consultado el 30 de octubre de 2022). 3 Más información en http://bit.ly/3UoE3ds (Consultado el 31 de octubre de 2022). 4 Al respecto, revise http://bit.ly/3FHy8Mr (Consultado el 31 de octubre de 2022). 5 Pegasus se instala en dispositivos móviles (ciertas versiones de Apple y Android) con un gran poder para recabar todo tipo de datos. Cf. http://bit.ly/3UoUu9G para mayor información. NUEVOS 28 DIÁLOGOS abr il- j uni o 20 2 3 digo. […] Por ‘impenetrabilidad’ quiero de- parte, por ello, del proceso general de go- atención que Gartner, la agencia norteame- cir que ya basta de hablar de este tema y bernanza. En este sentido, integran el sis- ricana de análisis de mercado que elabora que más te valdría que me dijeras de una tema de regulación propuesto y no son en anualmente el informe de sobreexpectativas vez qué es lo que vas a hacer ahora, pues absoluto prescindibles. para tecnologías emergentes, haya incluido supongo que no vas a estar ahí parada Al contrario, si pretenden obviarse los pa- en su ciclo para el gobierno digital 2021 para el resto de tu vida.” sos precedentes podemos incurrir en lo que la “legislación programada” (Machine Rea- Efectivamente, como advierte el triste fi- podríamos denominar las paradojas de la dable Legislation, mrl) y las “reglas como nal de Humpty Dumpty cayendo de la tapia, regulación simplista de la ia. Los ejemplos programa” (Rules as Code); es decir, la web los retos y riesgos que plantea la aplicación de errores humanos y de aplicación apre- de datos jurídicos y la aplicación del derecho social de la ia tienen que ver con la acción, surada, desgraciadamente, se multiplican. El mediante reglas de computación. Pero nos la impenetrabilidad del lenguaje y la opaci- caso de Robodebt4 (la recuperación automá- ha sorprendido aún más la inclusión como dad de los métodos empleados. tica e indebida de recursos fiscales por parte tecnología emergente de lo que han deno- En nuestro caso, hemos abogado por de la administración australiana en 2016) minado citizen twins, la versión adminis- tres recursos para el modelado de los sis- es paradigmático. Los problemas de pri- trativa de digital twins. Podemos traducirlo temas jurídicos: vacidad, y de seguridad y encriptación de como ciudadano digital: la réplica o gemelo los datos, también son de sobra conocidos digital de los ciudadanos reales basándose l Distinguimos cinco niveles de gober- (O’Neil, 2016; Zuboff, 2019). Los sistemas en sus datos y metadatos, que se utiliza para nanza de los sistemas autónomos de de vigilancia electrónica utilizados por el el control (seguridad) y la asignación de re- y mediante la ia.3 programa prism,5 operado por la National cursos públicos.7 l Recuperamos algunas formulaciones Security Agency de Estados Unidos, así como Por lo que se refiere a la implementación de la cibernética y de las ciencias del los métodos de la empresa británica Cam- del mrl, la situación es igualmente inquie- diseño para la construcción de sis- bridge Analytica6 para el uso electoral de tante: “[…] el espacio para la interpretación temas normativos adaptados a su datos privados de los ciudadanos (basán- de la intención legislativa o ejecutiva es eli- entorno. Por ejemplo, para la cons- dose en técnicas de aprendizaje automá- minado del proceso, pues lo que se logra es trucción de ecosistemas regulativos tico, machine learning), deberían ponernos que la ley que se aprueba sea la misma que y jurídicos (Casanovas et al., 2022). en guardia sobre la facilidad con que la ia la que se aplica”.8 l Combinamos sistemas de reglas con puede aplicarse sin transparencia. Esta tendencia a la utilización de la valores de diseño ético para la cons- En esa perspectiva, existen descripcio- “legislación programada” es muy fuerte trucción de sistemas en línea híbridos, nes de las propuestas para automatizar las en Estados Unidos, Asia y algunos paí- en los que intervienen tanto seres normas que resultan, por lo menos, sor- ses de la Common Wealth. El uso de los humanos como sistemas artificiales prendentes. Por ejemplo, nos ha llamado la servicios jurídicos en red (que se suelen autónomos (Noriega et al., 2021). denominar RegTech o LawTech) ha venido creciendo exponencialmente desde hace 3 Los cinco niveles de gobernanza correspon- De esta manera, los objetivos y el funcio- por lo menos diez años, y está cambiando den a la toma de decisiones por parte del namiento de un sistema híbrido debieran sistema de forma autónoma en función de el panorama de las profesiones jurídicas y (y pueden) estar formalmente alineados con la complejidad del sistema. El último nivel el negocio de los despachos de abogados valores y derechos humanos (Serra et al., apunta a la Inteligencia Artificial general, (los cuales, por cierto, constituyen su prin- 2021), y podrían ser armonizados con una cuyo desarrollo sabemos que, si llega, tardará cipal cliente).9 Mediante ia aplicada, em- teoría de los derechos colectivos (o comu- en hacerlo. Cf. Noriega y Casanovas (2022). presas como Judicata o Lex Machina son nes) para la construcción consistente de co- 4 https://bit.ly/3gD8XQG capaces de predecir resultados y tiempos munidades sociales (Poblet y Sierra, 2020). 5 https://bit.ly/3zdcYlA de duración de los juicios a partir del perfil 6 https://en.wikipedia.org/wiki/Robodebt_ de comportamiento concreto de cada juez La opacidad y sus riesgos scheme en casos similares (Ashley, 2017). Este tipo de recursos son esenciales para la 7 Cf. Lo que sorprende es la pasiva aceptación Ante ello, la actitud de los estados correcta construcción del sistema jurídico por parte de los analistas de Gartner de este nacionales no está siendo homogénea ni estado de cosas, considerado críticamente que utiliza la ia y, también, para la pre- desde el punto de vista del derecho interna- uniforme. Se han producido algunas reac- vención de efectos colaterales indeseados. cional público y privado. ciones duras al impacto de la ia. Francia ha Pero obsérvese que esas decisiones no co- 8 Ibid. prohibido, bajo multa de 300 000 euros y rresponden al desarrollo del sistema: son 9 Para un análisis de la transformación de los penas de hasta cinco años de cárcel, el uso anteriores a él, guían, determinan, tanto mercados y las profesiones jurídica, cf. Casa- de métodos de análisis estadístico (“analíti- su contenido como su aplicación, y forman novas, 2022. ca jurídica”) basados en la identidad de los NUEVOS 29 DIÁLOGOS COMENTARIOS Composición gráfica: Nmedia | Dreamstime.com jueces y secretarios para “evaluar, analizar, Parece que la aplicación de técnicas de resultaría indispensable reservar tiempo y comparar o predecir sus prácticas profesio- clasificación y decisión basadas en ia es in- personal para resolver casos difíciles y esta- nales”.10 A nivel comunitario, la Unión Eu- evitable para gestionar los millones de casos blecer mecanismos de revisión para corregir ropea, siguiendo la estela del Reglamento que se acumulan cada año en la relación los errores y falsos positivos o negativos. de Protección de Datos (gdpr), ha prepara- entre los ciudadanos y el Estado –en la ex- En otras palabras, parece delinearse do ya otro Reglamento, aún en estado de pedición de certificados penales para obte- un cuarto dilema: Facilitar la ejecución de propuesta, para regular la construcción y ner trabajo, por ejemplo, o, incluso, en las derechos y la reducción de tiempos de es- aplicación de sistemas de ia (Comisión Eu- peticiones de nacionalidad (Governatori, pera a costa de aumentar el control social ropea, 2021) y otra más específica para la Casanovas y Koker, 2020). Pero, asimismo, mediante sistemas basados en ia. regulación de plataformas digitales.11 Al mismo tiempo, en contraste, los es- 10 Cf. Loi n° 2019-222 du 23 mars 2019 de pro- Una reflexión final tados tienden a introducir esquemas cor- grammation 2018-2022 et de réforme pour la El cambio de cultura jurídica que conlleva el porativos en sus administraciones públicas justice. Artículo 33, a la letra: “Les données desarrollo de la red y los sistemas de infor- (“arquitectura empresarial”, como togaf12) d’identité des magistrats et des membres du mación refleja el salto de la cultura analógi- greffe ne peuvent faire l’objet d’une réutilisa- y algunas agencias estatales en Nueva Ze- ca a la digital. No existe más una separación tion ayant pour objet ou pour effet d’évaluer, landa, Canadá, Reino Unido y Francia están d’analyser, de comparer ou de prédire leurs pra- neta entre el mundo digital y el físico. desarrollando activamente, desde 2018, el tiques professionnelles réelles ou supposées”. La ia aporta un bagaje de herramientas programa de Rules as Code, mediante el cual “Los datos de identidad de los jueces y de los y prácticas que permite la autonomía de las imponen interpretaciones “autorizadas” u integrantes del registro no podrán ser reutili- máquinas en la toma de decisiones y en zados con el fin o efecto de evaluar, analizar, la elaboración de datos sintéticos (datos “oficiales” a los ciudadanos. Esto ocurre con comparar o predecir sus prácticas profesionales el objetivo explícito de minimizar el papel de reales o presuntas”. [Traducción propia, n.e.] inferidos mediante datos). Constituye una intermediarios que, tradicionalmente, han te- realidad híbrida compleja entre humanos 11 Comisión Europea (s. f.). Una Europa adaptada nido los despachos de abogados (calificados a la era digital: nuevas normas para las plata- y máquinas con niveles superpuestos de como “módems”). Todavía es pronto para formas online. Disponible en https://bit.ly/3VS- autorregulación, corregulación y hetero- emitir un juicio, aunque hay motivos para la 5HBr (Consultado el 19 de julio de 2022). rregulación. La validación automática del crítica (Governatori et al., 2020). 12 https://bit.ly/3TxppRg. cumplimiento de las regulaciones en tiempo NUEVOS 30 DIÁLOGOS abr il- j uni o 20 2 3 real es, ya, una necesidad en los ecosistemas vidad, isomorfismo jurídico y control social nada por plataformas y procesos de infor- jurídicos relativos a la realidad aumentada, automático– no tienen una solución única. mación. De lo que sí empezamos a tomar las réplicas digitales, los sistemas híbridos Requieren de reflexión anticipada y la for- conciencia es que el proceso es irreversible en línea, así como en la construcción de in- mulación de un marco de diseño previo me- y que, sea lo que fuere, deberíamos poder fraestructura en las manufacturas, el comer- diante la asunción explícita de presupuestos tomar parte directamente en él y no de- cio y las comunidades sociales. Muy pronto, éticos, jurídicos y políticos. legar a ciegas nuestra posición a terceros en la administración y el gobierno. No podemos saber con certeza cuál jugadores, sean corporaciones o gobiernos, Los dilemas de los que hemos partido será el marco económico y regulativo en ni a un sistema artificial completamente –relativos al grado de autonomía, reflexi- los nuevos escenarios de una cultura domi- autónomo. Referencias Ashley, K. D. (2017). Artificial Intelligence and Europeo y del Consejo por el que se es- Noriega, P. et al. (2021). “Ethical Online ai Sys- Legal Analytics: New Tools for Law Prac- tablecen normas armonizadas en materia tems through Conscientious Design”, en tice in the Digital Age, Cambridge Uni- de inteligencia artificial (Ley de Inteligen- ieee Internet Computing, 25(6), pp. 58-64. versity Press. cia Artificial) y se modifican determinados Noriega, P. y P. Casanovas (2022). “La gobernan- Bench-Capon, T. J.M. y F. P. Coenen (1992). “Iso- actos legislativos de La Unión. Disponible za de los sistemas artificiales inteligentes”, morphism and Legal Knowledge-based en http://bit.ly/3tlqNLb. en O. Velarde y M. Martín Serrano, eds., Systems”, in Artificial Intelligence and Comisión Europea (s. f.). Una Europa adaptada Mirando hacia el futuro. Cambios socio- Law 1 (1), pp. 65-86. a la era digital: nuevas normas para las históricos vinculados a la virtualización, Bench-Capon, T. y T. F. Gordon (2009). “Isomor- plataformas online. Disponible en http:// Madrid, Centro de Investigaciones Socio- phism and Argumentation”, in Procee- bit.ly/3VS5HBr (Consultado el 19 de ju- lógicas (cis), Ministerio de la Presidencia dings of the 12th icail, acm, pp. 11-20. lio de 2022). del Gobierno de España (en prensa). Camps, V. (2013). Breve historia de la ética. Bar- Fishkin, J. (2009). When the People Speak: De- Poblet, M. y C. Sierra (2020). “Understanding celona, RBA. liberative Democracy and Public Consul- Help as a Commons”, en International tation, Oxford University Press. Journal of the Commons, 14(1). Casanovas, P. (2022). “Inteligencia artificial y de- recho: La doble implosión de las profesio- Gabbay D. et al. (2013). Handbook of Deontic O›Neil, C. (2016). Weapons of Math Destruction: nes y servicios jurídicos en la era digital”, Logic and Normative Systems, UK, Colle- How Big Data Increases Inequality and en O. Velarde y M. Martín Serrano, eds., ge Publications. Threatens Democracy, NY, Broadway Books. Mirando hacia el futuro. Cambios socio- Gardner, M. (1963). “Logical Paradoxes”, in The República Francesa (s. f.). Loi n° 2019-222 du históricos vinculados a la virtualización, Antioch Review, 23 (2): 172-178. 23 mars 2019 de programmation 2018- Madrid, Centro de Investigaciones Socio- Governatori, G (2020a). “On the Formal Re- 2022 et de réforme pour la justice. Dis- lógicas (cis), Ministerio de la Presidencia presentation of the Australian Spent ponible en http://bit.ly/3G33FJ6 (Consul- del Gobierno de España (en prensa). Conviction Scheme”, en International tado el 19 de julio de 2022 Casanovas, P. et al. (2022). “Law and Socio- Joint Conference on Rules and Reaso- Sergot, M. J. et al. (1986). “The British Natio- legal Governance on the Internet of ning, RuleML+RR 2020, Lecture Notes in nality Act as a logic program” en Com- Things and Industry 4.0”. Special Issue, Computer Science 12173 Cham: Springer, munications of the acm, 29 (5): 370-386. “The Impact of Artificial Intelligence on pp. 177-185. Sierra, C. et al. (2021). ”Value Alignment: a For- Law”, Open Access, J. Multidisciplinary Governatori, G. et al. (2020b). “Rules as Co- mal Approach“, en arXiv Preprint. Dispo- Scientific Journal (issn: 2571-8800) 5 de’will let Computers Apply Laws and nible en http://bit.ly/3EzKZhJ (Consultado (1): 64-91, Open Access doi: 10.3390/ Regulations. But Over-Rigid Interpreta- el 15 de noviembre de 2022). j5010005 https://www.mdpi.com/2571- tions Would Undermine our Freedoms”, Zuboff, S., 2019. The age of Surveillance Capita- 8800/5/1/5. The Conversation. Disponible en http:// lism: The fight for a Human Future at the Comisión Europea (21 de abril de 2021). Pro- bit.ly/3WPldhR (Consultado el 19 de julio New Frontier of Power, Barack Obama›s puesta de reglamento del Parlamento de 2022). books of 2019, NY, Profile Books. NUEVOS 31 DIÁLOGOS