LA “OBRA” CREADA POR UN SISTEMA DE INTELIGENCIA ARTIFICIAL AUTÓNOMO: Reflexiones desde el pos-antropocentrismo para el Derecho español de la Propiedad Intelectual The “work” created by an autonomous artificial intelligence system: Reflections from post-anthropocentrism for Spanish Intellectual Property Law Susana Navas Navarro1 RESUMEN: ABSTRACT: En este estudio se intenta poner de relieve This study attempts to highlight the excessive el excesivo antropocentrismo imperante anthropocentrism prevailing in the Law and de- en el Derecho y se defiende el dar espacio fends giving space to other non-human entities a otras entidades no humanas que podrían that could become holders of rights and/or obli- llegar a ser titulares de derechos y/o de gations. In this sense, the legal problems arise obligaciones. En este sentido, se plantean so that an artificial intelligence system can be los problemas legales para que un sistema considered an author, as well as that the result de inteligencia artificial pueda conside- generated by it be qualified as a work. The need rarse autor, así como que el resultado ge- for a minimum creative height for a human nerado por éste sea calificado de obra. La work to be considered original must be questio- necesidad de un mínimo de altura creativa ned when it comes to assessing the originality of para que una obra humana sea conside- the work generated by an intelligent machine. rada original debe de ponerse en cuestión By way of final reflections, it is proposed how the cuando se trata de valorar la originalidad regulation of works generated by artificial inte- de la obra generada por una máquina in- lligence systems could be addressed in Spanish teligente. A modo de reflexiones finales se intellectual property legislation. plantea cómo podría abordarse la regula- ción de las obras generadas por sistemas de inteligencia artificial en la legislación española de propiedad intelectual. Palabras claves: obra; inteligencia artifi- Keywords: work; artificial intelligence; creati- cial; creatividad; autor; antropocentrismo. vity; author; anthropocentrism. 1 Professora Catedrática de Direito Privado na Universidade Autônoma de Barcelona desde 2007 e Chefe do Departamento de Direito Privado desde 2018. Membro da Asso- ciação de Professores de Direito Civil (APDC) e da Associação Henri Capitant. Membro do Conselho Científico do RAILS – Expert Group on Artificial Intelligence, Membro da ASEDA (Asociación para el studio y la enseñanza del Derecho de Autor). RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 260 SUSANA NAVAS NAVARRO SUMARIO Introducción. 1.Seres humanos, animales, vegetales, máquinas inteligentes; 2. El sistema de inteligencia artificial autónomo; 3. El antropocentrismo del Derecho de autor en cuestión: 4. El autor “persona natural”. El siste- ma de inteligencia artificial como “autor”. Causalidad natural y jurídica; 5. La originalidad de la obra y su proceso de creación; 5.1. El criterio del “mínimo de altura creativa”; 5.2. Creatividad de la persona y del sistema de inteligencia artificial autónomo. Recurriendo al criterio de la “novedad”; Algunas reflexiones finales; Referencias. INTRODUCCIÓN 1 SERES HUMANOS, ANIMALES, VEGETALES, MÁQUINAS INTELIGENTES El Derecho es antropocéntrico. Siempre ha girado alrededor del ser humano. Está hecho por y para el ser humano. Es él el único al que se atribuye personalidad jurídica, por el hecho de nacer (arts. 29-30 CC), lo que implica convertirse en sujeto de derecho. Existe una excepción, como es conocido, cuando se trata de la consecución de unos mismos fines por varios individuos, en cuyo caso pueden actuar como si fueran uno solo mediante la constitución de una persona jurídica (art. 35 CC). Es la primera abstracción (ficción) legal de la persona2. Sin embargo, también existen patrimonios sin titular afectos a una finalidad a los que se aplica esta ficción legal, es decir, que se finja que son una “persona” pero “jurídica”, para actuar en el tráfico jurídico como un único sujeto. Es el caso, por ejemplo, de las fundaciones que persiguen finalidades de interés general (art. 35.1 CC). 2 Ngaire Naffine, “Legal Persons as Abstractions: The Extrapolation of Persons from the Male Case” en Visa A. J. Kurki, Thomasz Pietrykowski (eds.), Legal Personhood: Animals, Artificial Intelligence and the Unborn, Springer, 2017, p. 16. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 261 Desde el siglo XIX, a partir sobre todo de F. C. v. Savigny3, se ha ve- nido atribuyendo a la persona, en la medida en que por el mero hecho del nacimiento adquiere personalidad jurídica, como decía, la condición de sujeto de derecho4. Desde entonces no se ha revisado este planteamien- to. Parece que, como paso previo, a ser sujeto de derecho es la necesidad de que se le atribuya personalidad jurídica. Así, sin personalidad jurídica no se puede ser sujeto de derecho ya que la condición para ser sujeto de derecho es ser “persona”. Por eso, al situar en el centro a la persona física o natural, los grupos de personas o los patrimonios, para poder ser sujetos de derechos, deben emular a aquélla y eso se hace atribuyéndoles “perso- nalidad jurídica”. La atribución de personalidad jurídica va fuertemente vinculada a la idea de “persona física”. Por ello, en otros supuestos debe “fingirse” que lo son mediante la atribución de personalidad jurídica. Se convierten en “personas” pero “jurídicas”. Esto supone que para que en- tidades diferentes al ser humano puedan llegar a ser sujetos de derecho, se les debe atribuir mediante ley, como paso previo, personalidad jurídica. Sin la atribución legal de personalidad jurídica no se puede ser sujeto de derecho. Esto es así en la medida en que se pretende imitar o emular a la persona física. Precisamente, ello ha supuesto un obstáculo para que otras entidades o seres sintientes puedan llegar a convertirse en sujetos de derechos puesto que no se les atribuye personalidad jurídica al no con- siderarse equiparables al ser humano. Ahora bien, que la consecuencia de la atribución de personalidad jurídica sea el convertirse en sujeto de derecho, no debería llevar necesariamente a que sea cierta la proposición contraria; a saber, que, para ser sujeto de derecho, se tenga que atribuir previa y necesariamente personalidad jurídica. Es decir, en la medida en que la atribución de “sujeto de derecho” es una atribución que hace la ley, es pensable que se pueda asignar esa 3 Friedrich Carl von Savigny, System des heutigen Römischen rechts (Veit 1840) § 60. 4 Visa A. J. Kurki, “Why Things Can Hold Rights: Reconceptualizing the Legal Persons” en Visa A. J. Kurki, Thomasz Pietrykowski (eds.), Legal Personhood: Animals, Ar- tificial Intelligence and the Unborn, Springer, 2017, pp. 71-74. Del mismo autor, vid. Visa A. J. Kurki, A theory of legal personhood, Oxford University Press, 2019, pp. 36 ss. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 262 SUSANA NAVAS NAVARRO condición a un ente no-persona como, por ejemplo, a los animales5. En relación con éstos, tanto los legisladores nacionales6 como el interna- cional7 han eliminado su adscripción a la categoría de “cosas” sin, por supuesto, convertirse en “personas”. De esta forma, se considera a estos “seres sintientes” como un tertium genus, a caballo entre las cosas y las personas, cuando de hecho, deberían considerarse una categoría propia independiente de las otras dos con un estatuto jurídico propio autónomo respecto de las cosas y de las personas (arg. ex nuevo futuro art. 333.1 CC: “Los animales son seres vivos dotados de sensibilidad”8; art. 511-1.3 CCCat: “Los animales, que no se consideran cosas, …”). Como seres sintientes se les protege llegando a considerarse que ostentan “derecho a su bienestar”9. Los estudiosos del derecho animal, así como los activistas en este ámbito, abogan porque los animales puedan ser sujetos de derechos10, al menos, sujeto de un solo derecho sin que ello implique que se les tenga que asig- nar necesariamente personalidad jurídica: el derecho a ser protegidos, respetada su integridad física y psíquica, a que los poderes públicos de- sarrollen las políticas necesarias para garantizarles su bienestar11. Este 5 Thomasz Pietrykowski, “The Idea of Non-Personal Subjects of Law” en Visa A. J. Kur- ki, Thomasz Pietrykowski (eds.), Legal Personhood: Animals, Artificial Intelligence and the Unborn, Springer, 2017, pp. 60-63. 6 Recientemente, vid. Eva Bernet Kempers, “Neither Persons Nor Things: The Changing Status of Animals in Private Law”, ERPL, 2021/1, pp. 39-70; Marita Giménez Candela, Transición animal en España, Tirant Lo Blanch, Valencia, 2020, pp. 159-257. 7 Sabine Brels, “La protección del bienestar animal: una preocupación universal que se debe considerar globalmente y seriamente en Derecho internacional”, mayo 2012, derechoanimal.info, online: https://ddd.uab.cat/pub/da/da_a2012v3n2/da_a2012v- 3n2a5.pdf. Fecha de la consulta: septiembre 2021. 8 Proposición de Ley 122/000134 de modificación del Código Civil, la Ley Hipotecaria y la Ley de Enjuiciamiento Civil, sobre el régimen jurídico de los animales, XIV Legisla- tura, BOCG, CD, serie B, 26.3.2021, núm. 157-1, p. 1. 9 Declaración universal sobre el bienestar animal. Online: https://www.oie.int/doc/ged/ D4080.PDF. Fecha de la consulta: septiembre 2021; Marita Giménez Candela, Transi- ción animal, pp. 35 ss. 10 Sobre ello, vid. El estudio exhaustivo de Marita Giménez Candela, Transición ani- mal, pp. 35 ss. Asimismo, Thomasz Pietrykowski, “The Idea of Non-Personal Subjects of Law”, pp. 60 ss. 11 Para la implementación de políticas de bienestar animal, vid. https://www.oie.int/es/ bienestar-animal/eventos/. Fecha de la consulta: septiembre 2021. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 263 es un paso importante tendente a la dilución del antropocentrismo en el Derecho. Si bien en el respeto del bienestar animal se ha avanzado -probable- mente no todo lo deseable, pero se ha avanzado-, en el mundo de los ve- getales no se está más que empezando. En efecto, siendo, como son, seres vivos, también seres sintientes; sin embargo, prácticamente no merecen atención y, aún menos, estudio desde el Derecho. De hecho, para la vida humana son más relevantes los vegetales que los animales: sin vegetales no hay vida, en cambio, sin animales sí que puede existir12. Los vegeta- les, como seres sintientes, son acreedores del derecho a que se respete su bienestar. Bienestar vegetal podría denominarse. No sería necesario atribuirles personalidad jurídica al ir ligada ésta al hecho de ser persona, pero sí podrían ser merecedores de entrar en la categoría de “sujeto de derecho”. A medida que se vaya reconociendo la importancia del mundo vegetal, se lo valore, y se le atribuyan derechos, se seguirá diluyendo el antropocentrismo en el Derecho. La atribución de derechos a la naturaleza13 o, si no a la naturaleza en abstracto, al menos, sí a bosques, glaciares14 o ríos15, otorgándole, si 12 Stefano Mancuso, Inteligencia y sensibilidad de los vegetales, pp. 22-24. 13 Ecuador reconoció derechos a la naturaleza en su Constitución mediante una modi- ficación llevada a cabo el 20 de octubre de 2008 (arts. 71 a 74). Online: https://www. oas.org/juridico/pdfs/mesicic4_ecu_const.pdf. Fecha de la consulta: septiembre 2021. 14 En La India, en 2017, un tribunal declaró que los glaciares del Himalaya tenían de- rechos (https://www.theguardian.com/environment/2021/may/01/florida-rights-of- -nature-lawsuit-waterways-housing-development. Fecha de la consulta: septiembre 2021). 15 Elizabeth Macpherson, Erin O’Donnell, “¿Necesitan derechos los ríos? Comparando estructuras legales para la regulación de los ríos en Nueva Zelanda, Australia y Chile”, Revista de Derecho Administrativo Económico, núm. 25, julio-diciembre 2017, pp. 95-120. En Suiza, vid. las consideraciones hechas por la CENH (Commission fé- dérale d’éthique pour la biotechnologie dans le domaine non humain), La dignité de la créature dans le règne végétal, La question du respect des plantes au nom de leur valeur morale. Se puede consultar online: https://www.ekah.admin.ch/inhal- te/ekah-dateien/dokumentation/publikationen/f-Broschure-Wurde-Pflanze-2008.pdf. Fecha de la consulta: septiembre 2021. Por su parte, en Estados Unidos, se ha admi- tido, en mayo de 2021, por el Tribunal de Florida (9º circuito), que los lagos y arroyos puedan ostentar derechos. En Bangladesh se atribuyen derechos a todos los ríos del país desde 2019 (online: https://www.theguardian.com/environment/2021/may/01/ florida-rights-of-nature-lawsuit-waterways-housing-development. Fecha de la con- RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 264 SUSANA NAVAS NAVARRO bien, como paso previo, otorgándole personalidad jurídica al tener siem- pre y necesariamente al antropocentrismo como eje, está realmente en un estadio muy embrionario16. Aún así desde la Unión Europea se está trabajando en una Carta de derechos fundamentales de la naturaleza17. En esta línea de pensamiento, si se deja de atribuir necesariamente personalidad jurídica para poder ser sujeto de derecho entendiendo que, si bien toda persona física tiene personalidad jurídica desde su nacimiento y de ahí que sea sujeto de derecho, no todo sujeto de derecho ha de ser una persona o ha de atribuírsele personalidad jurídica para poder serlo, se abre el abanico de posibilidades para que otros seres o entidades no se vean privados de ser “sujeto de derecho”. La atribución de personali- dad jurídica representa, en estos casos, un obstáculo debido a su difícil equiparación a la persona humana. Admitir este planteamiento, llevaría a reconsiderar la ficción legal respecto de los patrimonios sin titular en el sentido de que podrían ser sujetos de derecho sin tener necesariamen- te que atribuírseles personalidad jurídica. Esta idea podría aplicarse, por ejemplo, el Derecho civil de Cataluña, a los “patrimonios protegidos” des- tinados a satisfacer las necesidades vitales de la persona con discapacidad o dependiente, patrimonios sin titular, que son administrados por una persona (física o jurídica), a los cuales no se les atribuye personalidad18. sulta: septiembre 2021. La declaración universal de los derechos de los ríos puede consultarse online: https://www.rightsofrivers.org/#declaration. Fecha de la consulta: septiembre 2021. 16 Acerca de esta cuestión, vid. las acertadas reflexiones de Stefano Mancuso, Inte- ligencia y sensibilidad de los vegetales, Galaxia Gutenberg, Barcelona, 2ª. ed., 2015, pp. 107 ss. Además, vid. la interesante web: https://www.acima.es/2020/10/ los-derechos-de-la-naturaleza/#:~:text=En%20lugar%20de%20tratar%20la,y%20re- generar%20sus%20ciclos%20vitales. Fecha de la consulta: septiembre 2021. 17 “Towards an EU Charter of the Fundamental Rights of Nature”, estudio encargado por el Comité europeo económico y social (diciembre, 2019). Online: https://www. eesc.europa.eu/sites/default/files/files/qe-03-20-586-en-n.pdf. Fecha de la consulta: septiembre 2021. 18 El art. 227-2.1 CCCat alude a “patrimonio autónomo, sin personalidad jurídica”. En el ámbito estatal, la Ley 41/2003, de 18 de noviembre, de protección patrimonial de las personas con discapacidad y de modificación del Código civil, de la Ley de Enjuicia- miento Civil y de la Normativa Tributaria con esta finalidad (BOE núm. 277, del 19 de noviembre de 2003) considera a este patrimonio una masa patrimonial separada de la que es titular la persona con discapacidad. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 265 De hecho, el estatuto jurídico del “sujeto de derecho-no persona” debería definirse y delimitarse en cada caso concreto. Así, en algunos casos, se atribuiría un solo derecho; en otros, varios; en otros, además de derechos, se atribuirían obligaciones. Sin asumir todavía que los vegetales y la naturaleza, también se- res sintientes, pueden merecer la consideración de titulares de derechos, se ha venido planteando la atribución de personalidad a los sistemas de inteligencia artificial (en adelante, IA), la denominada “personalidad electrónica”19, que, al menos de momento, se ha descartado al partir del discurso de que solo los seres humanos tienen personalidad y que, por tanto, a un sistema de IA por mucho que exhiba capacidades similares al humano, incluso que físicamente se asemeje a él, como en el caso de los denominados robots asistenciales (embodied AI), no se le puede atribuir tal personalidad. Ahora bien, si se deja de pensar en clave “ser humano=personali- dad jurídica=sujeto de derecho” y se piensa en clave “ser humano/no-ser humano=sujeto de derecho” podría aceptarse la atribución a un sistema de IA de la condición de “sujeto de derecho”. De todos modos, en la me- dida en que un sistema de IA revista diferentes grados de autonomía, en función de la mayor o menor intervención humana en cuanto a su vigilancia, podría atribuirse esa calificación solo a aquellos sistemas autó- nomos no supervisados, en los que la intervención humana se encuentra en la inicial concepción del sistema sin que se imaginen los resultados a los que conduce el funcionamiento del mismo, los cuales pueden ser el resultado del algoritmo creado por el algoritmo primigenio como en el caso de los denominados “algoritmos genéticos”. Consiguientemente, la imputación objetiva de este resultado a la persona difícilmente podría es- tablecerse sobre la base de la previsibilidad y de la teoría de la causalidad 19 Sobradamente conocida, a este respecto, es la resolución del Parlamento Europeo el 16 de febrero de 2017 acerca de “Civil law rules on Robotics” donde se planteó por primera vez esta atribución de personalidad a las máquinas inteligentes (P8_TA(2017)0051). Vid. Gerald Spindler, „Roboter, Automation, künstliche Intelligenz, selbst-steuernde Kfz – Braucht das Recht neue Haftungskategorien?“, CR 12/2015, pp. 774-775. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 266 SUSANA NAVAS NAVARRO adecuada20. Estos últimos tipos de sistemas son los que interesan a este trabajo. Reconocerles su condición de “sujetos de derecho” supone per- mitir que coexistan con los humanos, con los animales, con los vegetales y con la naturaleza. Es decir, supone que siga poniéndose en entredicho, aunque solo sea un poco, el antropocentrismo del Derecho porque se re- conocería como sujetos de derecho solo a aquellos que exhibieran una autonomía “casi” idéntica a la humana21. Y es que en el mundo de la IA se intenta emular al cerebro huma- no (IA fuerte22) persiguiendo incluso superarlo (superinteligencia arti- ficial23), cosa que no sucede en el ámbito animal ni en el vegetal. En ambos, sin embargo, los investigadores han constatado la existencia de “inteligencia”24, diferente a la del hombre, pero, al fin y al cabo, “inteli- gencia” entendida ésta, de forma sencilla, como la capacidad de resolver problemas25. Dicho con otras palabras, se debería asumir que la inteli- gencia humana es una de las posibles inteligencias que pueden existir. Las máquinas que, en este contexto, se identifican con los sistemas de IA, tienen su “propia” inteligencia que no tiene porqué ser o acercarse tan siquiera a la humana. Incluso las máquinas entre ellas pueden exhibir “inteligencias” diferentes26. De hecho, éstas no tienen porqué asemejarse 20 En ello me centro posteriormente en el apartado III.1. 21 Visa A. J. Kurki, A theory of legal personhood, pp. 178 ss. 22 La IA fuerte es la que muestra capacidades cognitivas idénticas a las del humano. Estas máquinas tendrían conciencia, emociones, y actuarían de la misma manera que lo hace un humano (Ray Kurzweil, How to create a mind. The secret of human thought revealed, Penguin Books, New York, 2013, in totum). 23 Se refiere a aquel sistema que exhibe capacidades superiores al humano en todos los ámbitos (Bostrom, Nick, Superintelligence. Paths, Dangers, Strategies, Oxford University Press, Oxford, 2014, in totum). 24 Stefano Mancuso, Inteligencia y sensibilidad de los vegetales, p. 117; Daniel C. Dennett, De las bacterias a Bach. La evolución de la mente, traducción de Marc Figueras, Pasado & Presente, Barcelona, 2017, pp. 86 ss. 25 Los enfoques, las técnicas y las capacidades varían según a qué entidad humana o no humana nos refiramos. Sobre ello, vid. Mark Coeckelbergh, Ética de la inteligencia artificial, Cátedra, 1ª ed., trad. Lucas Álvarez Canga, Madrid, 2021, pp. 23 ss. 26 Richard Susskind, Daniel Susskind, El futuro de las profesiones. Cómo la tecno- logía transformará el trabajo de los expertos humanos, editorial Teell, trad. por Juan Carlos Ruiz Franco, Zaragoza, 2016, pp. 263 ss. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 267 a los humanos, ni tienen porqué tener la misma inteligencia que éstos ni tienen porqué hacer cosas similares a nosotros. Son diferentes formas de inteligencia. En lugar de competir debería establecerse una suerte de colaboración con ellas. En este sentido, no necesitamos “reconstruir” al ser humano, sino entender que la visión antropocéntrica del mundo se va paulatinamente diluyendo27. En definitiva, la visión excesivamente antropocéntrica del Derecho a veces es un obstáculo para dar soluciones a los nuevos problemas y de- safíos que tiene el ser humano ante sí. Ahora mismo el inminente es el de la IA. Nunca un cambio de paradigma a todos los niveles había estado tan cerca y se había originado tan rápido como el que se vive. El Derecho elaborado por humanos para los humanos, sin embargo, parece, hoy por hoy, bastante ajeno a ello. A partir de estas disquisiciones organizo la exposición sobre la base del antropocentrismo del Derecho de autor, si bien enfatizando cómo podría ser posible dentro de este ámbito una convivencia pacífica entre las normas reguladoras del autor-persona humana y del autor-sistema de IA. En ambos casos, el objeto central de estudio es la creación, a la que se puede denominar “obra”, si reúne determinados requisitos, derivada de la actuación o comportamiento de un sistema de IA autónomo o donde la intervención humana se concreta en un estado tan inicial que no puede establecerse la causalidad jurídica con ella. En el siguiente apartado, no obstante, como paso previo, explico qué entiendo por aquél. Conocido es ya The Next Rembrandt, sistema que generó una pintura con un estilo extraordinariamente similar al del pintor28 o el caso del Portrait of Edmond de Bélamy vendido por Christies por un valor de 27 Donna Haraway, “A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century”, Simians, Cyborgs and Women. The Reinvention of Nature, Nueva York, Routledge, 1991, pp. 149-181; Rosi Braidotti, El conocimiento posthumano, Gedisa, 1ª ed., trad. por Júlia Ibarz, Barcelona, 2020, pp. 10 ss. 28 https://www.nextrembrandt.com/. Fecha de la consulta: septiembre 2021. Vid. An- drés Guadamuz, “La inteligencia artificial y el Derecho de autor”, online https://www. wipo.int/wipo_magazine/es/2017/05/article_0003.html. Fecha de la consulta: septiem- bre 2021. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 268 SUSANA NAVAS NAVARRO 432.500 USD29. También el “E-David”, creado por la Universidad de Konstanz (Alemania), es conocido por sus exposiciones de cuadros que crea a partir de las fotos que él mismo realiza30. En el ámbito de la música, se ha creado el DeepBach que genera sonidos como el archifamoso compositor31. Asimismo, escriben novelas que casi lle- gan a ganar un premio como sucedió en el premio literario japonés Nikkei Hoshi Shinchi32. Recientemente, se han hecho públicas las creaciones de la robot Ai-Da33. 2 EL SISTEMA DE INTELIGENCIA ARTIFICIAL AUTÓNOMO Los sistemas de IA son “software (y posiblemente también hardware) diseñados por humanos que, dado un objetivo complejo, actúan en una dimensión física o digital percibiendo su entorno mediante la adquisición de datos, la inter- pretación de dichos datos, ya estén estructurados o no, razonando, procesando la información derivada de los datos y tomando la mejor decisión para alcanzar el referido objetivo”34. La IA comprende diferentes técnicas y enfoques como 29 https://www.christies.com/features/A-collaboration-between-two-artists-one-hu- man-one-a-machine-9332-1.aspx. Fecha de la consulta: septiembre 2021. 30 http://graphics.uni-konstanz.de/eDavid/. Fecha de la consulta: septiembre 2021. 31 http://proceedings.mlr.press/v70/hadjeres17a.html. Fecha de la consulta: septiembre 2021. 32 https://lapiedradesisifo.com/2016/03/29/una-novela-coescrita-por-un-programa-in- formatico-casi-gana-un-premio-literario/#:~:text=Seg%C3%BAn%20informa%20 The%20Japan%20News,literario%20japon%C3%A9s%20Nikkei%20Hoshi%20Shini- chi. Fecha de la consulta: septiembre 2021. 33 https://www.ai-darobot.com/. Fecha de la consulta: septiembre 2021. 34 Acojo la definición de “inteligencia artificial” dada por el Grupo de expertos de alto nivel creado en el seno de la UE (AIHLEG, “A definition of AI: Main capabilities and disciplines”, 8. April 2019. Accesible en: https://ec.europa.eu/digital-single-market/ en/news/definition-artificial-intelligence-main-capabilities-and-scientific-discipli- nes. Fecha de la consulta: septiembre 2021). Asimismo, vid. EU Science Hub, JCR Technical reports, “AI Watch. Defining Artificial Intelligence. Towards an operational definition and taxonomy of artificial intelligence”, https://ec.europa.eu/jrc. Fecha de la consulta: septiembre 2021. Esta definición que es seguida muy de cerca por la Reso- lución del Parlamento europeo de 20 de octubre de 2020 (art. 3 letra a), no lo es tanto, en cambio, por la Propuesta europea de reglamento de inteligencia artificial [Proposal for a Regulation of the European Parliament and of the Council laying down harmo- RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 269 se indica en el Anexo I de la Propuesta de reglamento de IA, de 21 de abril de 2021. Así comprende, entre otros que pudieran existir en el futuro: a) estrategias de aprendizaje automático, incluidos el aprendizaje supervisa- do, el no supervisado y el realizado por refuerzo, que emplean una amplia variedad de métodos, entre ellos el aprendizaje profundo; b) estrategias basadas en la lógica y el conocimiento, especialmente la representación del conocimiento, la programación (lógica) inductiva, las bases de cono- cimiento, los motores de inferencia y deducción, los sistemas expertos y de razonamiento (simbólico); c) estrategias estadísticas, estimación bayesiana, métodos de búsqueda y optimización. Es conocido que un sistema de IA puede tener una lógica computa- cional predeterminada o proposicional “si….entonces”35 o bien, lo que es cada vez más frecuente, una lógica basada en casos (case based-knowledge and reasoning) en virtud de la cual el propio sistema va aprendiendo de la experiencia36, de los nuevos datos a los que está expuesto el sistema. En este caso se emplea la técnica del machine learning, expresión que se traduce por “aprendizaje automático”. El machine learning es una subárea de la IA en la que se entrena al sistema para que aprenda solo37. Todo sistema de machine learning necesita para poder funcionar un modelo computacional de referencia, dentro del cual, se desenvuelve su apren- dizaje. En la actualidad se conocen cinco modelos algorítmicos que po- drían llegar a convergir en un único algoritmo. Son conocidos como mo- delos evolutivos, conexionistas, simbolistas, bayesianos y analógicos38 nised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union legislative Acts, COM(2021) 206 final], en su art. 3 (1). La propuesta se puede consultar en: https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11e- b-9585-01aa75ed71a1.0008.02/DOC_1&format=PDF. Fecha de la consulta: septiem- bre 2021. 35 Margaret A. Boden, Inteligencia artificial, Turner Noema, trad. Immaculada Pérez Parra, Madrid, 2017, p. 18. 36 L. Karl Branting, “Data-centric and logic-based models for automated legal problem solving”, Artif. Intell Law, 2017, 25:5-27; Raúl Pino Díez et al., Introducción a la inteligencia artificial: sistemas expertos, redes neuronales artificiales y com- putación evolutiva, Universidad de Oviedo, servicio de publicaciones, 2001, pp. 5-8. 37 Ronan Hamon, Henrik Junklewitz, Ignacio Sánchez, “Robustness and Explainability of Artificial Intelligence”, JRC technical Report, European Commission, 2020, pp. 10-11. 38 Pedro Domingos, The Master Algorithm, Penguin Books, Reino Unido, 2017, pp. 51 ss. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 270 SUSANA NAVAS NAVARRO y prácticamente todos ellos están presentes en las técnicas y enfoques referidos con anterioridad. Por su parte, el deep learning es una subárea del machine learning que se caracteriza por realizar representaciones más generales, abstracciones e inducciones a partir de su aprendizaje que suele no estar supervisado39. Ese aprendizaje puede estar supervisado por el hombre, semisuper- visado o no supervisado40. En el primer caso, el programador etiqueta los pares de conceptos de suerte que sabe, a partir de los inputs que introdu- zca, los outputs que van a producirse. El entrenamiento del sistema, así como los datos que se le proporcionan para entrenarlo están controlados por la persona. En el segundo caso, el sistema es alimentado con datos de distinta procedencia, unos los da el programador, los otros los busca y recoge el sistema del entorno y, en el tercer supuesto, no hay intervención humana, salvo en el diseño del modelo de referencia con el que trabaje el sistema, éste se entrena con datos que recoge del entorno. Por su parte, el aprendizaje por refuerzo es un tipo de aprendizaje no supervisado que se rige por criterios de castigo y recompensa según falle o no en el resultado. En la técnica del aprendizaje automático se basan las redes neuro- nales artificiales que intentan emular a las redes neuronales del cerebro humano41. A su vez, se puede crear un algoritmo capaz de dar lugar a otro algoritmo que resuelve un problema o crea una obra42. Es el modelo evolutivo, conocido como “algoritmos genéticos”, en virtud del cual un algoritmo genera otro algoritmo y así sucesivamente imitando a la biolo- gía humana. Además, se pueden combinar diferentes modelos de machine 39 Ronan Hamon, Henrik Junklewitz, Ignacio Sánchez, “Robustness and Explainabili- ty of Artificial Intelligence”, JRC technical Report, European Commission, 2020, pp. 10-11. 40 Aurélien Vannieuwenhuyze, Inteligencia artificial fácil. Machine learning y Deep learning prácticos, traducido por Beatriz Goyanes Arnedo, ediciones ENI, Cornellà de Llobregat, 2020, pp. 27-28; Margaret A. Boden, Inteligencia artificial, pp. 52-54. 41 Richard Urwin, Artificial Intelligence. The Quest for the ultimate thinking machine, Arcturus, Londres, 2017, pp. 99-106; Margaret A. Boden, Inteligencia artifi- cial, pp. 83-95. 42 Richard Urwin, Artificial Intelligence, pp. 105-118. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 271 learning en el entrenamiento del sistema y diferentes modelos de machine learning aptos para resolver problemas complejos, cada uno de los cuales atiende a una tarea concreta43. Estos sistemas son los más aptos para obtener ya resultados creativos que pudieran calificarse de “originales” y, por consiguiente, de “obra” sin ser considerados propiamente sistemas de IA “fuerte”. Respecto de los datos de entrenamiento del sistema, pueden pro- ceder principalmente de dos fuentes: la primera, de datos creados artifi- cialmente por un sistema para que sirvan de entrenamiento; la segunda, de datos del entorno que circulan en el mundo digital ya se trate de in- formación digitalizada o que haya nacido ya como digital. Esta última fuente de procedencia de los datos de entrenamiento conduce a lo que se conoce como “minería de datos y textos”, es decir, al análisis de datos masivos (Big Data) para la extracción de conocimiento. El art. 2.2 Direc- tiva 2019/770, del Parlamento europeo y del Consejo de 17 de abril de 2019, sobre los derechos de autor y derechos afines en el mercado único digital44 establece una definición de “minería de datos y textos” como “toda técnica analítica automatizada destinada a analizar textos y datos en forma- to digital a fin de generar información que incluye, sin carácter exhaustivo, pautas, tendencias o correlaciones”. Una de estas técnicas analíticas es el aprendizaje automático al que vengo refiriéndome. Estos datos y textos pueden estar protegidos por la legislación de derechos de autor, por la de secretos comerciales, patentes, marcas, di- seño industrial, protección de datos de carácter personal, porque se les hayan aplicado medidas tecnológicas de protección o de seguridad o porque así se haya pactado por contrato. Se necesitará pues contar con la autorización de los titulares de tales datos para poder recogerlos, tra- tarlos, y generar nuevo conocimiento que se encuentre oculto en esa masa desestructurada de datos45. Los arts. 3 y 4 de la Directiva precita- 43 Begoña González Otero, “Machine Learning Models Under the Copyright Microscope: Is EU Copyright Fit for Purpose?”, GRUR International, 2021, p. 5. 44 DOUE L 130/92, de 17 de mayo. 45 Al respecto, vid. Aurelio López-Tarruella Martínez, “Propiedad intelectual, inteligencia artificial y libre circulación de datos” en Concepción Saiz García, Raquel Evangelio RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 272 SUSANA NAVAS NAVARRO da han previsto una excepción a los derechos de autor cuando se trate del minado de datos y textos siempre que se den unos determinados re- quisitos46, en los que no me voy a entretener porque se aleja del objeto de este estudio. Tras esta brevísima -pero necesaria- introducción al aprendizaje automático de un sistema de IA, queda enmarcado el objeto de este tra- bajo. En efecto, se trata de analizar el estatuto jurídico de las “obras” generadas por un sistema de IA autónomo que no ha sido supervisado por el humano, en el que los datos de entrenamiento no han sido sumi- nistrados por él y que, por tanto, funciona completamente solo, aunque en el origen, esto es, en su concepción inicialmente hubiera uno o varios humanos47. El resultado es impensable, impredecible e imprevisible para éstos48. En definitiva, sin “human-in-the-loop”49. 3 EL ANTROPOCENTRISMO DEL DERECHO DE AUTOR EN CUESTIÓN Con base en el antropocentrismo que impera en el Derecho de autor, parece existir consenso en que las “obras” generadas completa- mente por un sistema de IA, sin intervención humana o que existiendo ésta sea tan remota que difícilmente pueda vincularse causalmente a Llorca, Propiedad intelectual y mercado único digital europeo, Tirant Lo Blan- ch, Valencia, 2019, pp. 108-155. 46 Ángel García Vidal, “Propiedad intelectual y minería de textos y datos: estudio de los artículos 3 y 4 de la Directiva (UE) 2019/790”, ADI, Tomo 40, 2019-2020, pp. 99-124. 47 Se equipara a este supuesto aquel en que la intervención humana es de baja densidad de suerte que su influencia en el resultado es mínima (Pablo Fernández Carballo-Cale- ro, La propiedad intelectual de las obras generadas por inteligencia artificial, Thomson Reuters, Aranzadi, Cizur Menor, 2021, pp. 70-71). 48 Shlomit Yanisky-Ravid, “Generating Rembrandt: Artificial Intelligence, Copyright, and Accountability in the 3A Era-The Human-Like Authors are already here-A New Model”, Michigan State Law Review, 2017, núm. 4, p. 701. 49 De acuerdo con la clasificación que hace de los sistemas de IA la Propuesta de Regla- mento europeo sobre inteligencia artificial de 21 de abril de 2021 [COM(2021) 206 final] según el riesgo, puede afirmarse que el sistema de IA del que trato es un sistema de bajo riesgo (arts. 52 y 69). RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 273 aquél, queden fuera de esa específica protección legal50. Pertenecerían al dominio público51. Esto no quiere decir que se excluya tout court la posibilidad de reconocer un estatuto jurídico de lege ferenda52, como pudiera ser un derecho vecino o conexo al derecho de autor, en aras a proteger la inversión humana y económica realizada53, de la misma manera que se reconoce al fabricante de una base de datos un derecho sui generis54 (arts. 133 ss Real Decreto Legislativo 1/1996, de 12 de abril, 50 Vid. la contribución de P. Bernt Hugenholtz, João Pedro Quintais, Daniel Gervais en el Informe “Trends and Developments in Artificial Intelligence. Challenges to the Intel- lectual Property Rights Framework”, Final Report, bajo los auspicios de la Comisión europea, septiembre 2020. Puede consultarse en: https://ec.europa.eu/digital-single- -market/en/news/trends-and-developments-artificial-intelligence-challenges-intel- lectual-property-rights-0. Fecha de la consulta: septiembre 2021. Josef Drexl et al., Artificial Intelligence and Intellectual Property Law. Position Statement of the Max Planck Institute for Innovation and Competition of 9 April 2021 on the Current Debate, Max Planck Institute for innovation and Competition, research paper no. 21-10; Concepción Saiz García, “Las obras creadas por sistemas de inteligen- cia artificial y su protección por el derecho de autor”, InDret 1/2019, pp. 12-13. 51 Propuesta hecha por Mark Perry, Thomas Margoni, para la legislación sobre Derecho de autor de Canadá (“From Music Tracks to Google Maps: Who Owns Computer-ge- nerated Works?”, 2010 Law Publications. Paper 27, http://ir.lib.uwo.ca/lawpub/27. Fecha de la consulta: septiembre 2021). En esa dirección, vid. Pablo Fernández Car- ballo-Calero, La propiedad intelectual, pp. 108 ss. 52 Tony Bond, Sarah Blair, “Artificial Intelligence & copyright: Section 9(3) or author- ship without an author”, Journal of Intellectual Property Law & Practice, 2019, vol. 14, núm. 6, p. 423; Enrico Bonadio and Luke McDonagh, “Artificial Intelligence as producer and consumer of copyright works: evaluating the consequences of algo- rithmic creativity”, Intellectual Property Quarterly 2020, 2, pp. 112-137. Online: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3617197. Fecha de la consulta: septiembre 2021. Concepción Saíz García, “Las obras creadas por sistemas de inte- ligencia artificial”, pp. 33-34; Marta Duque Lizarralde, “Las obras creadas por inte- ligencia artificial: un nuevo reto para la propiedad intelectual”, Pe. i., Revista de propiedad intelectual, núm. 64, enero-abril, 2020, pp. 48-52. Estas autoras apuntan a la necesidad de delimitar muy bien el estatuto jurídico que se pretenda atribuir en su caso a las obras creadas por sistemas de IA. 53 Axel Grätz, Künstliche Intelligenz im Urheberrecht, Springer, Wiesbaden, 2021, pp. 132 ss. 54 Yo misma propuse la creación de este tipo de derecho como una de las opciones para la protección de estas “obras” en “Obras generadas por algoritmos. En torno a su posible protección jurídica”, Revista de Derecho civil, 2018, vol. 5, núm. 2, pp. 273-291. Además, vid. Anne Lauber-Rönsberg, Sven Hetmank, “The Concept of Authorship under Pressure: Does Artificial Intelligence Shift Paradigms?” (2019) 14 Journal of Intellectual Property Law & Practice, pp. 509, 577; Anna Ramalho, “Will Robots Rule the (Artistic) World?” (2017) 21 Journal of Internet Law, 12, pp. 16–20; Rob- RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 274 SUSANA NAVAS NAVARRO por el que se aprueba el texto refundido de la Ley de Propiedad Intelec- tual, regularizando, aclarando y armonizando las disposiciones legales vigentes sobre la materia55), si bien se trataría de un derecho sui generis diferente a éste, respecto del cual se debería analizar si lo que se pre- tende compensar es la inversión en el sistema de IA o en el resultado producido por éste, es decir, la creación generada. La delimitación de este derecho conexo es discutida y discutible proponiéndose diversos modelos56. Pero este derecho conexo parte siempre de la premisa de que estas creaciones pertenecen al dominio público. Otra opción consistiría en crear un nuevo derecho afín como el reconocido en el art. 129.2 LPI57, esto es, como un derecho conexo de determinadas producciones editoriales, según el cual “los editores de obras no protegidas por las disposiciones del Libro I de la presente Ley, gozarán del derecho exclusivo de autorizar la reproducción, distribución y comunicación pú- blica de dichas ediciones siempre que puedan ser individualizadas por su compo- sición tipográfica, presentación y demás características editoriales”. Esas obras no protegidas podrían ser las creaciones generadas por sistemas de IA, aunque el precepto está pensando en obras “humanas” no protegidas. Ahora bien, en estos casos ¿a quién se atribuirían los derechos de explo- tación que indica el art. 129.2 LPI? ¿las personas físicas o jurídicas que invirtieron en crear el sistema de IA? ¿el adquirente? ¿el usuario que di- funde las creaciones? ¿Tenemos autor único o coautoría? En este último caso, ¿Qué tipo de colaboración existe entre ellos? Sanjuán considera ert Yu, “The Machine Author: What Level of Copyright Protection Is Appropriate for Fully Independent Computer-Generated Works?” (2017) 165 U. Pa. L. Rev. p. 1245. La inadecuación del derecho sui generis del fabricante de bases de datos para compren- der el supuesto que trato la expone Pablo Fernández Carballo-Calero, La propiedad intelectual, pp. 104-106. 55 BOE núm. 97, de 22 de abril. Será abreviado como “LPI”. 56 Por ejemplo, la creación de un derecho sui generis a la diseminación pública de estas obras que otorgaría un plazo de protección al titular de dos años (Anna Ramalho, “Will Robots”, pp. 16-20; P. Bernt Hugenholtz, João Pedro Quintais, Daniel Gervais en el Informe “Trends and Developments in Artificial Intelligence, pp. 94-95). 57 Nerea Sanjuán Rodríguez, “La inteligencia artificial y la creación intelectual: ¿está la propiedad intelectual preparada para este Nuevo reto?”, La Ley mercantil, núm. 72, septiembre 2020, pp. 28-29. Asimismo, vid. Anna Ramalho, “Will Robots”, p. 24. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 275 que debe equiparse al “editor” del art. 129.2 LPI aquél que decida difun- dir las creaciones y que consiguientemente es el que realiza la inversión tendente a esa difusión. Además, quedarían excluidos de este régimen los derechos morales. La duración de la protección sería entonces de 25 años (art. 130.2 LPI)58. En última instancia, serán los particulares mediante contrato los que autorregulen este tipo de creaciones llegando a incorporar, en su caso, medidas tecnológicas de protección59. En las líneas que siguen, me voy a entretener en destacar cómo podría ser posible la convivencia pacífica entre el autor-humano y el au- tor-sistema de IA en el ámbito del Derecho de autor. No desconozco que es una hipótesis, en la actualidad, fuertemente contestada. Aún así, des- de un plano teórico, lanzo la propuesta que sigue y que, obviamente, no deja de ser una primera aproximación a la que muy probablemente se le encontrarán más aspectos negativos que positivos. En todo caso, servirá para hacer un ejercicio de imaginación. Muchas veces la “imaginación”, en forma de conceptos, acaba plasmándose en los textos legales. En efec- to, Savigny imaginó, en su momento, el concepto de “personalidad jurí- dica”, cuyo eco, aplicación y relevancia posterior es por todos conocida. 4 EL AUTOR “PERSONA NATURAL”. EL SISTEMA DE INTELIGENCIA ARTIFICIAL AUTÓNOMO COMO “AUTOR”. CAUSALIDAD NATURAL Y JURÍDICA El fundamento sobre el que se asienta el Derecho de autor, como he indicado, es que éste lo sea una persona física o “natural” como advierte el art. 5.1 LPI60. Por lo tanto, si la creación procede de la habilidad de un 58 Nerea Sanjuán Rodríguez, “La inteligencia artificial”, p. 28. 59 Begoña González Otero, “Las excepciones de minería de textos y datos más allá de los derechos de autor: la ordenación privada contraataca” en Concepción Saiz García, Ra- quel Evangelio Llorca, Propiedad intelectual y mercado único digital europeo, Tirant Lo Blanch, Valencia, 2019, pp. 73-99. 60 En el mismo sentido, entre otras legislaciones a título de ejemplo, vid. el § 2(2) Urhe- berrechtsgesetz en Alemania (https://www.gesetze-im-internet.de/urhg/inhalts_ber- RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 276 SUSANA NAVAS NAVARRO animal61 o es producida por un sistema de IA quedaría fuera del ámbito de aplicación de las leyes sobre la materia62 perteneciendo, como he ad- vertido líneas más arriba, al dominio público (art. 18 Convenio de Berna para la protección de las obras literarias y artísticas de 9 de septiembre de 188663, art. 41 LPI). Ahora bien, solo pertenecerían al dominio público, según este planteamiento, aquellas obras producidas por sistemas autó- nomos, que, en caso de emplear la técnica del aprendizaje profundo, se trataría de sistemas no supervisados, pues respecto de aquellos supervisa- dos o semi-supervisados siempre se podrá argüir que existe una persona a la que vincular la “obra” ya fuera ésta el programador o el usuario del sistema64. Así, dependiendo del grado de intervención humana o, dicho sicht.html. Fecha de la consulta: septiembre 2021) en la que solo se consideran obras protegibles aquellas que consistan en “persönliche geistige Schöpfungen”, lo que presu- pone que se trata de obras que solo puede realizar una persona física. También el art. L 111-1 del Code de propriété intellectuelle francés (https://www.legifrance.gouv.fr/ affichCode.do?cidTexte=LEGITEXT000006069414. Fecha de la consulta: septiembre 2021) que alude a las «obras del espíritu», lo que lleva implícito el que éstas sean creadas por el hombre. Asimismo, puede leerse en la sección 9.1 UK Copyright, Design and Patent Act de 1988 (“…the person who creates it”), cuyo texto se puede consultar on- line en: https://www.legislation.gov.uk/ukpga/1988/48/contents. Fecha de la consulta: septiembre 2021. Respecto a Australia y USA, vid. Pablo Fernández Carballo-Calero, La propiedad intelectual, pp. 80-86. 61 Jane C. Ginsburg, “People Not Machines: Authorship and What it means in the Berne Convention”, IIC (2018) 49:131-135; Daniel J. Gervais, “The Machine as Author”, Iowa Law Review, vol. 105: 2053; Susan Neuberger Weller, “Computer Ownership is not Monkey Business: Wikimedia and Slater Fight over Selfie Photographs”, 2014 IP Litigator 20(5) p. 33; Susan Ricketson, “The need for human authorship – Australian developments: Telstra Corp. Ltd v. Phone Directories Co Pty Ltd (Case Comment)”, 2012, E.I.P.R. 34(1), p. 54: “the need for author to be human is a longstanding assumption”; Jani McCutcheon, “Curing the authorless void: protecting computer-generated works following ICETV and Phone Directories”, 2013 Melbourne University Law Review, vol. 37:46; Pablo Fernández Carballo-Calero, La propiedad intelectual, pp. 80-82. 62 Concepción Saíz García, “Las obras”, pp. 12-15; Pablo Fernández Carballo-Calero, La propiedad intelectual, pp. 79 ss. 63 Se puede consultar online: http://www.wipo.int/treaties/es/text.jsp?file_id=283698. Fecha de la consulta: junio 2018. En adelante, será citado como “Convenio de Berna”. 64 P. Bernt Hugenholtz, João Pedro Quintais, Daniel Gervais en el Informe “Trends and Developments in Artificial Intelligence. Challenges to the Intellectual Property Rights Framework”, Final Report, bajo los auspicios de la Comisión europea, septiem- bre 2020. Puede consultarse en: https://ec.europa.eu/digital-single-market/en/news/ trends-and-developments-artificial-intelligence-challenges-intellectual-property- -rights-0. Fecha de la consulta: septiembre 2021. En estos supuestos, Concepción Saíz RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 277 de otra forma, de autonomía del sistema podrá determinarse la “autoría” del resultado: si el humano o el propio sistema de IA65. Para resolver esta cuestión, deben tenerse en cuenta dos aspectos más: el primero, el nivel de originalidad de la obra generada por el siste- ma, el proceso de creación y el grado de intervención del humano en él al que me referiré en el apartado 2; el segundo, el criterio de atribución de una obra generada por un sistema de IA bien al humano bien al propio sistema, en el que me detengo más adelante en este apartado. Si bien el autor persona física es el fundamento del Derecho de au- tor, éste reconoce en determinados casos, que la consideración de autor se atribuya a una persona jurídica. Así sucedería, en el derecho español (art. 8 LPI), francés (Art. L 113-2 Code la propriété intellectuelle), italiano (art. 7.1 Legge di protezione del diritto d’autore e di altri diritti conessi al suo esercizio66) o el portugués (art. 19 del Código de derechos de autor y derechos cone- xos67) con las denominadas “obras colectivas”. En este caso, una corrien- te de pensamiento entiende que se considera autor a la persona física o jurídica que la edita o divulga, mientras que otra corriente sostiene que se trata de una presunción iuris tantum de cesión de derechos de explotación por parte de los autores de las diferentes colaboraciones68. Asimismo, se García propone la existencia de una “obra colectiva” (“Las obras”, pp. 16 y 26, seguida por Marta Duque Lizarralde, “las obras”, p. 58) a la que Pablo Fernández añade la posibilidad de que se trate de una “obra en colaboración” de las diferentes personas físicas que intervienen (La propiedad intelectual, pp. 147 ss). 65 Shlomit Yanisky-Ravid, “Generating Rembrandt”, p. 670. Este autor afirma que: “AI systems can be characterized as creative, unpredictable, independent and autonomous, rational, evolving, capable of data collection and communication, efficient and accurate, and capable of exercising free choice among alternatives.40 AI systems are also confronting the traditional con- cept of looking for the human author behind the creation because the AI systems themselves may “replace” humans”. 66 Se puede consultar en http://www.interlex.it/testi/l41_633.htm#6. Fecha de la consul- ta: septiembre 2021. 67 Se puede consultar en http://www.wipo.int/wipolex/es/text.jsp?file_id=198457. Fecha de la consulta: septiembre 2021. 68 Respecto de las cuestiones relacionadas con la “autoría” de la obra colectiva, vid. José Miguel Rodríguez Tapia, “Comentario al art. 8 LPI” en Rodrigo Bercovitz Rodríguez- -Cano (coord.), Comentarios a la Ley de propiedad intelectual, Tecnos, 4ª. ed., Madrid, 2017, pp. 150-153. Recientemente, vid. Carlos Rogel Vide, Obras colectivas y propiedad intelectual, Reus, Madrid, 2021, pp. 59-60. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 278 SUSANA NAVAS NAVARRO reconoce que, en el caso de elaboración de programas de ordenador, el autor pueda ser un grupo de personas naturales o, incluso, una persona jurídica (art. 2.1 Directiva 2009/24/CE del Parlamento Europeo y del Consejo, de 23 de abril de 2009, sobre la protección jurídica de programas de ordenador69; art. 97.1 LPI) o, si se lleva a cabo en el marco de una relación laboral, la titularidad de los derechos sobre el programa informático corresponde al empresario, el cual usualmente, tiene forma de persona jurídica (art. 2.3 Directiva 2009/24/CE; art. 97.4 LPI)70. Si bien es cierto que en el supues- to del art. 97.1 LPI el supuesto se ha reconducido a la obra colectiva con todas las dudas que en ésta suscita la cuestión de su autoría, en el del art. 97.4 LPI, la doctrina alude a una atribución de la titularidad de los derechos de autor ex lege y automática71. Por otra parte, el fabricante de una base de datos, titular del derecho sui generis, puede ser una persona jurídica (art. 133.3 LPI). Así pues, el Derecho de autor conoce excepciones, aunque pocas, a la regla de que “solo” puede ser “autor” la persona física. Por su parte, el art. 5.2 LPI establece expresamente que “De la protección que esta Ley concede al autor se podrán beneficiar personas jurídicas en los casos expresamente previstos en ella”. Además, el art. 5.1 LPI alude a “se considerará autor”; no a “es autor”. Es decir, es la ley la que determina quién es autor. Por lo tanto, el legislador podría “considerar” autor a otras entidades que no sean perso- nas físicas72. 69 DOUE L 111/16, de 5.5.2009. 70 En otros ordenamientos, vid. art. L 113-10 Code la propriété intellectuelle (Francia); § 69b Urheberrechtsgesetz (Alemania). No entro en las cuestiones que la doctrina ha suscitado acerca del art. 97.1 LPI, que acaba por reconducir el supuesto al de la obra colectiva. Sobre ello, vid. Juan Pablo Aparicio Vaquero, “Comentario al art. 97 LPI” en Rodrigo Bercovitz Rodríguez-Cano (coord.), Comentarios a la Ley de propiedad intelectual, Tecnos, 4ª. ed., Madrid, 2017, pp. 1420 ss. 71 Juan Pablo Aparicio Vaquero, “Comentario al art. 97 LPI”, pp. 1438-1439. 72 José Miguel Rodríguez Tapia, “Comentario al art. 5 LPI” en José Miguel Rodríguez Tapia (dir.), Comentarios a la ley de propiedad intelectual, 2ª. ed., Madrid, 2009, pp. 98-99. En contra, de este planteamiento, se manifiestan Ángel Carrasco Perera, Ricardo del Estal Sastre, “Comentario al art. 5 LPI” en Rodrigo Bercovitz Rodríguez- -Cano (coord.), Comentarios a la Ley de propiedad intelectual, Tecnos, 4ª. ed., Madrid, 2017, pp. 111 ss. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 279 En esta misma línea, el legislador podría reconocer al sistema de IA autónomo como “autor material” ejercitando los derechos de explotación (y también los morales, si se quisieran mantener en este caso) sobre la obra, el que hubiera encargado y/o usado el referido sistema73, sin nin- gún tipo de intervención por su parte en el mismo o una intervención de baja intensidad. Sería una forma de “compensarlo” por la inversión llevada a cabo. La titularidad de los derechos se mantendría in testa del sistema de IA al ser considerado “sujeto de derecho”. Este planteamiento que hago se inspira en los ordenamientos jurídicos de corte anglosajón a los que después aludiré. En los modelos de aprendizaje autónomo no supervisado se desconoce el resultado del análisis de los datos. Éste puede sorprender al propio programador, el cual en ningún caso lo imaginaba74. Mientras que en el modelo semisupervisado todavía puede vislumbrarse la intervención humana, en el no supervisado, podría plantearse si el hecho de que la concepción o el diseño del sistema sea obra de una persona, esto determina que el resultado que se produzca sea atribuible, no a la máquina, sino al humano. En este caso, puede recurrirse a una distinción que es grata al derecho de la responsabilidad civil. Me refiero a la distinción entre causalidad natural o de hecho y causalidad jurídica o de derecho o imputación objetiva, también conocida en algunos textos legales, como alcance de la responsabilidad75. La primera trata de identificar si una conducta o actividad de una persona fue suficiente para desencadenar el daño sufrido por la víctima. La mayor parte de ordenamientos que acogen la causalidad de hecho aplican la regla de la conditio sine qua non o el but-for test (“but for the action, the result would not has happened”) de manera que esa actividad o conducta es causa del daño a la víctima, si de no haberse dado esa actividad o comportamiento el daño no se hubiera producido. Aplicada esta idea al tema que me ocupa, es cierto que la actividad del programador 73 Pamela Samuelson, “Allocating Ownership rights in computer-generated works”, 1985, 47 U. Pitt. L. R. 1185, pp. 1224 y ss; Robert Yu, “The Machine Author?”, p. 1241. 74 Shlomit Yanisky-Ravid, “Generating Rembrandt”, p. 701. 75 Miquel Martín Casals, “Causation and Scope of Liability in the Internet of Things (IoT)” en Sebastian Lohsse, Reiner Schulze, Dirk Staudenmayer (eds.), Liability for Artificial Intelligence and the Internet of Things, Nomos Verlag, Baden Baden, 2018, pp. 211-212. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 280 SUSANA NAVAS NAVARRO (o de los programadores) puede relacionarse con el resultado. Ahora bien, no es la única causa, puesto que, en la medida en que el sistema actúa autónomamente, analiza y procesa datos que puede combinar de forma aleatoria no esperable por el programador, podría establecerse el nexo causal con ese procesamiento de los datos. De hecho, se puede pensar que se está ante una “concurrencia de causas”. Ninguna de ellas por sí sola es suficiente para producir el resultado. Por tanto, desde la causalidad natural podría considerarse que el programador (o programadores) es una de las posibles causas que abocan al resultado-obra. En este momento, procede mirar hacia la causalidad jurídica. Dos de los criterios que más se han utilizado han sido el de la “previsibilidad”. Aplicado al caso en estudio, supondría plantearse si el programador hu- biera previsto o podido prever que se produciría ese resultado. Y resulta que, en el supuesto de aprendizaje autónomo no supervisado, el progra- mador no podía imaginarse el resultado dado. Por lo tanto, resulta difícil establecer la causalidad jurídica entre éste y la persona física a efectos de atribuirle autoría alguna. Sin embargo, es previsible que el sistema de IA autónomo dé lugar a un resultado-obra que pueda considerarse “impre- visible”, “impensable” o “inimaginable”. Es decir, la causalidad jurídica podría eventualmente establecerse entre el comportamiento del sistema inteligente y el resultado obtenido. De ahí que tuviera sentido considerar al sistema de IA como autor reservando el ejercicio de la protección de la obra realizada por éste, y que el ordenamiento jurídico considerara pertinente otorgar, al que hubiera encargado o usado el sistema. Debe recordarse que el sistema de IA po- dría ser considerado “sujeto de derechos”, con base en lo advertido en el apartado I, sin necesidad de atribuirle personalidad jurídica o electrónica alguna. Además, atribuirle la condición de “sujeto de derecho” permitiría en caso de responsabilidad por infringir derechos ajenos como, por ejem- plo, derechos de propiedad intelectual de terceros al reproducirse en el resultado parte o partes de una obra sin la debida autorización, establecer el juicio de imputabilidad con el autor “material”; mientras que el juicio de responsabilidad se establecería con el autor “jurídico”, el cual podría ser el propietario o poseedor, cuestión ésta a decidir, del sistema de IA. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 281 O sea, permitiría aplicar, por analogía, el esquema de la responsabilidad por hecho ajeno (arts. 1903-1904 CC)76. En particular, la responsabilidad vicaria del empresario. Otra cuestión es si el modelo de machine learning escogido es prote- gible o no por la PI. Existen dudas de si, a pesar de ser expresado en códi- go binaria, realmente puede protegerse como programa de ordenador. Las dificultades en atribuir los diferentes elementos que componen el modelo a un sujeto o a varios ha llevado a afirmar que más que probablemente los modelos de machine learning pertenecen al dominio público77. Más cerca de esta línea de pensamiento, como advertía, se encuen- tran los ordenamientos de tradición jurídica anglosajona. Así, en Estados Unidos, por su parte, es conocida la doctrina “work made for hire” [§ 201(b) US Copyright Act78], en virtud de la cual, el empleador u otra persona bajo cuyo encargo se realizó una obra es considerada legalmente autor, salvo que las partes hubieran pactado otra cosa. De esta forma se diferen- cia entre “autor material” y “autor jurídico”. El autor jurídico es el titular de los derechos de explotación y es el que los ejercita en relación con la obra producida por el autor material79. En esta línea de pensamiento, se ha propuesto la denominación “IA Work made for hire” cuando el “emple- ado” o “contratista independiente” es un sistema de IA80. Esta doctrina podría aplicarse al caso en que la obra es generada autónomamente por el sistema de IA, que sería el “autor material”, mientras que quién la hubie- ra encargado y/o usado el sistema sería considerado el “autor jurídico”81. 76 Al respecto, vid. mi trabajo “Sistemas expertos basados en inteligencia artificial y responsabilidad civil”, Diario La Ley, Ciberderecho, 11.12.2019. Online: https://dia- riolaley.laleynext.es/dll/2019/12/13/sistemas-expertos-basados-en-inteligencia-artifi- cial-y-responsabilidad-civil. Consulta: septiembre 2021. 77 Begoña González Otero, “Machine Learning”, pp. 10-13. 78 El texto se puede consultar en la web oficial: https://www.copyright.gov/title17/tit- le17.pdf. Consulta: septiembre 2021. 79 Edward Lee, “Digital Originality”, 2012, Vanderbilt J. of Ent. and Tech. Law 14(4):919. 80 Shlomit Yanisky-Ravid, “Generating Rembrandt”, pp. 670 ss. 81 Annemarie Bridy, “Coding Creativity: Copyright and the Artificially Intelligent Au- thor”, Stanford Technology Law Review, 5, 2012, p. 26. Para el derecho austra- liano, vid. Jani McCutcheon, “Curing the authorless void: protecting computer-gen- RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 282 SUSANA NAVAS NAVARRO Otros ordenamientos jurídicos pertenecientes a la tradición jurídica del Common Law han admitido la categoría “computer-generated works”. Así, la UK Copyright, Design and Patent Act (1988), sección 9 para. 3; la New Zee- land Copyright Act (1994), para. 2 y 582; la Ireland Copyright Act and Related Rights Act (2000), Part I, sección 2 y capítulo 2, para. 21 y la South Africa Copyright Act (1978), Nr. 9883. En ellos, se alude a los “computer-generated works” para referirse a aquellos trabajos “generated by a computer in circumstances such that there is no human autor” (por ejemplo, sección 178 UK Copyright, Design and Patent Act), en cuyo caso, “the person by whom the arrangements necessary for the cre- ation of the work are undertaken” (por ejemplo, sección 9.3 de la precitada Act) es considerada la autora titular de los derechos de autor sobre la obra creada totalmente por el programa de ordenador84. En cualquier caso, sí que es cierto que, como han apuntado algunos autores85, no queda claro que estas normas admitan, sin más, la protección de trabajos creados au- tónomamente sin intervención humana. La expresión “arrangements ne- cessary for” no supone necesariamente que se comprendan estos trabajos autónomos en su supuesto de hecho. Podría perfectamente referirse al programador o al usuario86. Tampoco resulta fácilmente comprensible la relación entre estos “arreglos” y el resultado final y, si éstos, debe hacerlos un humano o bastaría con que los llevara a cabo un sistema inteligente. Es decir, si debe existir o no una persona que dirija los “arreglos”, en el erated works following ICETV and Phone Directories”, 2013 Melbourne University Law Review, vol. 37:46. 82 Se puede consultar en: http://legislation.govt.nz/act/public/1994/0143/105.0/ DLM345634.html. Fecha de la consulta: septiembre 2021. 83 Se puede consultar en: http://www.nlsa.ac.za/downloads/Copyright%20Act.pdf. Fecha de la consulta: septiembre 2021. 84 Edward Lee, “Digital Originality”, 14(4):919; Schafer, Burkhard, Komuves, David, Niebla Zatarain, J. Manuel, Diver, Laurence, “A fourth law of robotics? Copyright and the law and ethics of machine co-production”, 2015 Artif Intell Law 23:217-240. 85 Jane Ginsburg, “The Concept of Authorship in Comparative Copyright Law”, DePaul Law Review, 52-4, 2003, p. 1070; Pablo Fernández Carballo-Calero, La propiedad intellectual, pp. 87 ss. 86 Robert C. Denicola, “Ex Machina: Copyright Protection for Computer-Generated Works”, Rutgers University Law Review, 69, 2016, pp. 286-287. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 283 proceso creativo, lo que no se correspondería con la definición que dan las propias normas de “computer-generated works”87. Debe tenerse presente que la norma se redactó en un momento en que la tecnología no estaba tan avanzada como lo está en la actualidad y que, muy probablemente, redactada la norma hoy en día, sería bastante diferente a la actual, en especial, respecto de los “arreglos”. Es cierto que estas normas jurídicas presentan inconvenientes y que ha sido discutida su conveniencia. No presentan la solución perfecta. Pero debe destacarse, por un lado, que no han generado apenas conflic- tividad que haya llegado a los tribunales88 y, por otro, muestran el cami- no hacia una necesaria flexibilidad en el Derecho de autor que permita contemplar las “obras” generadas por sistemas de IA autónomos o bien en la que la intervención humana puede minimizarse de forma tal que impide establecer el nexo causal entre ésta y la obra, todo lo limitado que se quiera, dentro del esquema de aquél. De todos modos, en mi opinión, para que el legislador reconociera a las creaciones generadas por sistemas de IA autónomos el estatuto de autor debería tenerse particularmente en cuenta su nivel de originalidad y, relacionado con ello, el proceso de creación. Por eso, me detengo segui- damente en este extremo. 5 LA ORIGINALIDAD DE LA OBRA Y SU PROCESO DE CREACIÓN En primer término, debe centrarse la atención en cómo se concibe el requisito de la “originalidad” cuando la creación proviene de la persona (2.1.), para seguidamente, aludir a los tipos de creatividad comparando la humana a la que manifiesta el sistema de IA (2.2.). 87 Paul Lambert, “Computer Generated Works and Copyright: Selfies, Traps, Robots, AI and Machine Learning”, 2017 E.I.P.R. vol: 39(1). Crítico con la expresión «arrange- ments» empleada en estas normas, se muestra Jani McCutcheon, “Curing the author- less void: protecting computer-generated works following ICETV and Phone Directo- ries”, 2013 Melbourne University Law Review, vol. 37:46. 88 Así en el caso de UK, solo existe un caso que se conozca a fecha de hoy: Nova Produc- tions Ltd v Mazooma Games Ltd & Ors Rev, 1 (2006) EWHC 24 (Ch), 20 January 2006. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 284 SUSANA NAVAS NAVARRO 5.1 El criterio del “mínimo de altura creativa” Como es sabido, las legislaciones sobre Derecho de autor exigen, como requisito para que un producto del intelecto pueda ser protegido por el derecho de autor, la “originalidad”. Ésta se concibe como un “mí- nimo” de altura creativa89, lo que se puede argumentar legalmente al admitir, primero, la protección de las obras derivadas (art. 2.3 Convenio de Berna) de otra u otras obras preexistentes y, segundo, la protección de las colecciones de obras ajenas (art. 2.5 Convenio de Berna). Cómo se interprete ese “mínimo” de altura creativa depende, en gran medida, de la tesis subjetiva u objetiva de la que se parta. Desde la primera perspectiva, se considera “creación original” a aquélla que represente a un determinado sujeto, ponga de manifiesto su impronta personal. Desde la segunda, se exige un cierto grado de “novedad” ob- jetiva, lo que hoy en día es ciertamente difícil ya que, el autor persona física, no crea ex nihilo, como parecen contemplar aún las legislaciones sobre el Derecho de autor, sino que se crea sobre la base de obras pree- xistentes, sobre la base del acervo cultural común90. Ello puede llevar a realizar modificaciones, en obras preexistentes, de escasa entidad y hacer pasar como obra propia “original” aquello que no es más que una apropiación inconsentida de una obra ajena91 o de una obra de dominio público92. 89 Robert Yu, “The Machine Author”, p. 1241. 90 Andreas Rahmantian, Copyright and Creativity. The Making of Property Rights in Creative Works, Edward Elgar Publishing, Cheltenham, 2011, p. 186; Mark Perry, Thomas Margoni, “From Music Tracks to Google Maps: Who Owns Computer-gen- erated Works?”, 2010 Law Publications. Paper 27, http://ir.lib.uwo.ca/lawpub/27. Fecha de la consulta: septiembre 2021. 91 Juana Marco Molina, “La formación del concepto de derecho de autor y la originali- dad de su objeto” en Agustín Macías Castillo, Miquel Ángel Hernández Robledo, (ed.), El derecho de autor y las nuevas tecnologías. Reflexiones sobre la reciente reforma de la Ley de Propiedad Intelectual, La Ley, Madrid, 2008, pp. 308-309; Andreas Rahmantian, Copyright and Creativity, pp. 187-188. 92 Sobre ello vid. Susana Navas Navarro, Obras de dominio público. Digitalización y preservación digital, Reus, Madrid, 2021. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 285 Aunque las dos concepciones del requisito de la “originalidad” pre- sentan inconvenientes, tanto los legisladores nacionales como el europeo se han inclinado por la concepción subjetiva. Esto viene avalado, a tenor de un sector doctrinal93, por el hecho de que la ley protege como “cre- ación original” las colecciones o recopilación de obras ajenas en las que la impronta personal del autor tiene que ver con la “selección” de los materiales y su “disposición” por aquél (art. 2.5 Convenio de Berna). En este caso, no existe novedad objetiva aparente y, sin embargo, se las ha calificado de “obras nuevas”. Por eso, se argumenta, lo que exige el le- gislador es un “mínimo de esfuerzo creativo” que viene representado en la “selección” del contenido y en la “estructuración, ordenación o dispo- sición del mismo”. Estas actividades llevarán la impronta personal de su autor y, de ahí, la protección legal. Ese esfuerzo mínimo tiene que salir de lo ordinario, rutinario u obvio. Así, el orden cronológico o alfabético o la suma de obras ajenas sin coherencia alguna no darían lugar a una «obra nueva» y, consiguientemente, carecería de protección. Por su parte, el TJUE desde la famosa sentencia Infopaq94 ha insistido en que es suficiente una combinación mínima que manifieste una elecci- ón de los elementos por parte de la persona para que el resultado de esa combinación pueda y deba protegerse por el Derecho de autor. Se trata de que el autor imprima su impronta personal al tomar decisiones libres y creativas como establece el mismo tribunal en el caso Eva-Maria Painer v. Standard Verlags GmbH y otros95. Es cierto que el TJUE parte, como no podía ser de otra manera, del principio de que quién aporta la originalidad es el autor persona física. Como en esta última cuestión ya me he entretenido en el apartado anterior, me centro en este momento tan solo en el concepto de originalidad. Lo importante, para determinar si se cumple el requisito de la “ori- ginalidad” es el “proceso de creación”, a lo largo del cual se pondrá de 93 Juana Marco Molina, “La formación del concepto de derecho de autor”, p. 312. 94 STJUE, de 16 de julio de 2009 (Asunto C-5/08). 95 STJUE de 1 de diciembre de 2011 (Asunto C-145/10). También, STJUE de 1 de marzo de 2012, Football-Dataco (Asunto C-604/10); STJUE de 22 de diciembre de 2019, Cofe- mel-Sociedade de Vestuário, S.A. v. G-Star Raw CV” (Asunto C-683/17). RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 286 SUSANA NAVAS NAVARRO manifiesto la “creatividad”, y no tanto “su” resultado96. Este proceso de creación humana comprende diferentes fases. En un planteamiento gros- so modo, se han destacado tres fases: concepción-ejecución-resultado97. La primera fase comprendería diversas subfases, tales como recogida de material, incubación de ideas, inspiración. La fase de ejecución, por su parte, se iniciaría con bosquejos, proyectos, desarrollo de ideas hasta cul- minar en el resultado. De hecho, el proceso de creación comprende tanto la concepción como la ejecución ya que solo a medida que se va desen- volviendo la idea se va creando y a medida que ésta va evolucionando va modificándose el proyecto de resultado hasta llegar a la obra acabada. En el supuesto de las creaciones generadas por sistemas de IA autónomos, éstos toman decisiones de forma libre y espontánea, a partir del modelo algorítmico de referencia, para alcanzar un resultado que es impensab- le, impredecible e incluso chocante para el algoritmista, respecto de las cuales es muy difícil establecer la casualidad jurídica. Sobre la base esas decisiones la creación va tomando forma hasta llegar al resultado final. Este proceso de creación “artificial” que existe y que no tiene por qué ser idéntico o similar al de la persona física creadora, no siempre resultará explicable como tampoco le resulta fácilmente explicable al autor-huma- no las elecciones creativas que ha tomado. Pues bien, dentro de los respectivos procesos de creación se desen- vuelve la creatividad de la persona y del sistema de IA. Seguidamente me detengo en el concepto de “creatividad”. 96 Martin Senftleben, Laurens Buijtelaar, “Robot Creativity: An incentive-based Neigh- boring Rights Approach”, EIPR, 2020. Puede consultarse online: https://papers.ssrn. com/sol3/papers.cfm?abstract_id=3707741. Fecha de la consulta: septiembre 2021. 97 Axel Grätz, Künstliche Intelligenz, pp. 91-96; P. Bernt Hugenholtz, João Pedro Quintais, Daniel Gervais en el Informe “Trends and Developments in Artificial Intelli- gence”, p. 73. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 287 5.2 Creatividad de la persona y del sistema de inteligencia artificial autónomo. Recurriendo al criterio de la “novedad” La creatividad puede definirse como la capacidad de generar nue- vas y valiosas ideas o artefactos98. El proceso de crear nuevas y valiosas ideas necesita de dos elementos: en primer lugar, información convertida en conocimiento y, en segundo lugar, tiempo para que se llegue a ese re- sultado valioso. Cuanto más amplia sea la información de todo tipo que se posea, más posibilidades de dar a luz nuevas y sorprendentes ideas. La informa- ción implica el conocimiento profundo de uno o de varios campos del sa- ber99. Es fundamental tener expertise en ellos. El tiempo implica el trabajo constante, perseverante, horas de práctica, de estudio, de pruebas, en las que el denominado pensamiento lento100 pueda llevar a cabo el procesado de ideas que van surgiendo a medida que se va avanzando, por poner algunos ejemplos, en una investigación, en un nuevo estilo artístico, ar- quitectónico, gastronómico o musical. Según la renombrada Prof. Margaret A. Boden existen tres modelos de creatividad que se dan de forma sucesiva101. El primero es el que de- nomina “creatividad combinatoria” (combinational creativity) consistente en una combinación diferente de ideas que son familiares, mediante una asociación de ideas no hecha con anterioridad o mediante razonamiento analógico. Ambos procesos pueden abocar a la creación de una estructura 98 Margaret A. Boden, “Computer models of creativity”, 30(3):23 AI Mag (2009). 99 “Probably the new thoughts that originate in the mind are not completely new, be- cause have their seeds in representations that already are in the mind. To put it differ- ently, the germ of our culture, all our knowledge and our experience, is behind each creative idea. The greater the knowledge and the experience, the greater the possibil- ity of finding an unthinkable relation that leads to a creative idea. If we understand creativity like the result of establishing new relations between pieces of knowledge that we already have, then the more previous knowledge one has the more capacity to be creative” (Margaret A. Boden, Artificial Intelligence and Natural Man, 1987, 2ª ed., Basic Books, Sussex, p. 75). 100 Daniel Kahneman, Pensar rápido, pensar despacio, 1ª ed., Barcelona, 2013, pp. 48 ss. 101 Margaret A. Boden, “Computer models of creativity”, 30(3):23 AI Mag (2009). RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 288 SUSANA NAVAS NAVARRO conceptual compleja que podría calificarse de creativa. Podría afirmarse que esta clase de creatividad es una característica natural de la mente hu- mana la cual funciona sobre la base de asociaciones, imágenes, símbolos y analogías variando según la sociedad y la cultura en la que crezca y se forme la persona. Sea lo que fuere, es el tipo de creatividad que le resulta más fácil de alcanzar al ser humano. En este sentido, todas las personas poseen creatividad, aunque sea en un grado mínimo. Se trata de una cre- atividad básica o en estado puro (creatividad natural)102, lo que no quiere decir que el resultado de la misma tenga que ser siempre y, en todo caso, protegible por las leyes. Es un tipo de creatividad más limitado y pobre, si se compara con las que seguidamente se exponen, pues mucha de la información, a partir de la cual se asocian las ideas o se hacen analogías, proviene del contexto o del conocimiento tácito adquirido en el medio en que se viva y no de un conocimiento profundo sobre una o varias mate- rias o ámbitos del saber. Por ello, tiene sentido que se exija a la persona solo un “mínimo de altura creativa”. El segundo modelo lo denomina Boden “creatividad explorato- ria” (exploratory creativity) que consiste en “explorar” un estilo de pen- samiento o un espacio conceptual propio de la persona que se define por un conjunto de ideas “productivas” (generative ideas), que pueden ser explícitas pero que también pueden ser total o parcialmente implí- citas103. En este tipo de creatividad se exploran y desarrollan los límites de ese esquema conceptual incluso introduciéndose pequeños cambios o alteraciones que no suponen necesariamente una modificación de las reglas básicas iniciales del modelo, corriente o esquema conceptual del que se parte. El resultado de esa “exploración”, en la medida en que sea suficientemente original, puede estar protegido por las leyes. Se trata de una creatividad que podría calificarse de “profesional” frente a la “natu- ral” anteriormente descrita. 102 Margaret A. Boden, “Creativity and Artificial Intelligence”, 103(1): 347-356 Artif In- tell (1998). 103 Margaret A. Boden, “Computer models of creativity”, 30(3):23 AI Mag (2009); Harry Collins, Robert Evans, Rethinking Expertise, The University of Chicago Press, Chi- cago, 2007, in totum. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 289 El tercer modelo es denominado “creatividad transformadora” (transformational creativity) en la que el espacio conceptual o el estilo pro- pio de pensamiento se transforma al alterar uno o varios de los elemen- tos que lo definen. El resultado de esa modificación es la creación de ideas nuevas que era imposible que se generaran con anterioridad a la misma. Son ideas no solo valiosas y nuevas, sino también sorprenden- tes, chocantes, contraintuitivas, rompedoras con el status quo o con al- gunas de las ideas comúnmente aceptadas por el sector social, artístico, jurídico o económico en el que se trabaje104. Son ideas que rompen con el pasado precisando de años para que se reconozcan, se estudien y las personas (incluso, otros expertos) se acostumbren a esa «nueva forma de pensar» en el ámbito de que se trate. Es el único tipo de creatividad “profesional” que realmente puede proporcionar ideas nuevas y diferen- tes de las anteriores. Este tipo de creatividad supone no solo una idea nueva para su au- tor sino también para cualquier persona puesto que es una idea plasmada en un resultado, esto es, en una obra, que no existía con anterioridad; mientras que los otros dos tipos de creatividad generan ideas y resulta- dos nuevas principalmente para su creador, pero no para la humanidad, puesto que o bien ya existían o bien otra persona había tenido la misma idea o había creado el mismo resultado sin que supieran el uno del otro105. La “creatividad transformadora” solo puede ser producto de la mente, del esfuerzo de esa persona y no de otra. La impronta personal de su creador es fundamental. En cambio, en el caso de la combinatoria y de la exploratoria, la idea y el subsiguiente resultado podrían ser creados por otra persona, esto es, la persona del creador es fungible, por lo que su impronta personal no es determinante o fundamental para el resultado “creativo”. Ello no impide apreciar que la impronta personal del autor es 104 Margaret A. Boden, “Computer models of creativity”, 30(3):23 AI Mag (2009). 105 Margaret A. Boden diferencia entre la creatividad psicológica (P-creativity) y la crea- tividad histórica (H-creativity). En la primera la creatividad toma como referente a la persona que ha producido la idea pudiendo ser incluso que otras personas ya tuvieran esa misma idea con anterioridad. En la segunda, la idea además de ser P-creativa es H-creativa en el sentido de que nadie ha tenido esa idea con anterioridad [“Computer models of creativity”, 30(3):23 AI Mag (2009)]. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 290 SUSANA NAVAS NAVARRO mayor en el segundo tipo de creatividad que en el primero. Por ser, preci- samente, la creatividad natural de la persona la combinatoria, se entiende que el requisito de la originalidad haya sido interpretado como un “míni- mo de altura creativa”. Esta creatividad natural o combinatoria fácil para el ser humano, resulta difícil, aunque no imposible, de emular para el sistema de IA au- tónomo en la medida en que se trataría de reproducir la forma de fun- cionar del cerebro, es decir, se trataría de imitar su fisiología106. Todavía se está lejos de la denominada IA “fuerte”. Además, esta creatividad no parte de un modelo de pensamiento previo, de una corriente intelectual o de un movimiento pictórico, es decir, no toma como base un modelo de referencia, en cuyo caso se podría aludir a las otras dos categorías de creatividad. Hay que tener en cuenta que el sistema de aprendizaje autó- nomo o machine learning parte de un modelo de referencia con el que ha- cer el procesado de los datos. A ello debe añadirse el hecho de que, en la creatividad natural humana, existe un conocimiento tácito que proviene del contexto, toda una serie de matices, expresiones humanas, aními- cas, costumbres o hábitos que son difíciles de interpretar por el sistema inteligente. Por eso, aunque se han desarrollado sistemas de aprendizaje que trabajan también con lo que se denomina “lógica borrosa o difusa” que permite razonar con vaguedades, ambigüedades o afirmaciones interpre- tables sin un único significado de forma similar a como lo haría el cerebro humano107, lo cierto es que se está todavía lejos de poder descifrar este conocimiento tácito. Los otros dos tipos de creatividad son más fáciles para un sistema de IA en la medida en que toman como base un modelo referencial que puede convertirse en instrucciones y, a partir de ahí, se le pueden propor- cionar datos al sistema o se le puede programar ese marco conceptual o modelo de referencia, pudiendo llegar a resultados comparables o incluso superiores a los de los más competentes profesionales. El sistema de IA 106 Sin embargo, opina que se está muy cerca de obtenerlo Ray Kurzweil, How to create a mind. The secret of human thought revealed, Penguin Books, New York, 2013, in totum. 107 Raúl Benítez et al., Inteligencia artificial avanzada, UOC, Barcelona, 2013, p. 10. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 291 puede procesar y analizar un gran volumen de datos a una velocidad que al humano le llevaría años. El sistema puede acceder y almacenar más información que la persona y generar un conocimiento que no siempre podría estar al alcance de aquélla. En este sentido, un sistema de IA pre- senta tanto una ventaja cuantitativa como cualitativa respecto del ser hu- mano. Los “sistemas de redes neuronales”108 y los “algoritmos genéticos” 109 , a los que me he referido en el apartado II de este trabajo, serían dos tipos de sistemas inteligentes especialmente aptos para generar ideas que llevan a resultados (“obras”) sorprendentes, inusitados y admirados por la propia persona. En esta dirección, mientras que la creatividad exploratoria y trans- formadora, en el mundo analógico, está, en realidad, al alcance de po- cas personas, en cambio, paradójicamente puede resultar más fácilmente asequible para los sistemas de IA. La capacidad de éstos de procesar y analizar cantidades ingentes de datos a gran velocidad y de generar co- nocimiento deja claramente en desventaja a la persona física a la hora de crear una “obra”. En este sentido, a la hora de valorar si el resultado producido por el sistema de IA tiene altura creativa que permita conside- rarlo una “obra”, no parece que deba hacerse comparándolo con la altura creativa del humano. Y no tanto porque no se dieran las fases del proceso de creación que, en gran medida, son muy similares, sino porque la crea- tividad natural propia de aquél es, hoy por hoy, difícil de alcanzar por un sistema de IA. De todos modos, siempre se podría comparar con aquellos (pocos) humanos que han llegado a la creatividad exploratoria o transfor- madora. Sin embargo, sigue existiendo una desventaja notable en la gran cantidad de datos que puede procesar una máquina y rapidez con que lo hace respecto del humano que, en mi opinión, hace que se deseche esta opción. De ahí que deba proponerse otro criterio que sirva para valorar si el resultado obtenido por el sistema de IA no supervisado puede conside- 108 Harry Barrow, “Connectionism and Neural Networks” en Margaret A. Boden (ed.), Artificial Intelligence, 2ª ed., Londres, 1996, pp. 135-155. 109 Margaret A. Boden, “Computer models of creativity”, 30(3):23 AI Mag (2009); Curtis E.A. Karnow, “The application of traditional tort theory to embodied machine intelli- gence” en Ryan Calo, A. Michael Froomkin, Ian Kerr, Robot Law, 1a ed., 2016, Chel- tenham-Northampton, pp. 56-58; Margaret A. Boden, “Creativity”, pp. 286-289. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 292 SUSANA NAVAS NAVARRO rarse una “obra”. Éste podría ser el de la “novedad” que no se entiende exactamente igual que la “novedad” en materia de propiedad industrial en el sentido de que no esté comprendido en el estado de la técnica, sino que se requiere que se aporte algo más “objetivamente” diferente a lo ya existente110. Así, se limitaría el ámbito de protección de las obras generadas por estos sistemas a aquellas que exhibieran “novedad” respecto de las obras existentes tanto humanas como generadas por otros sistemas inteligen- tes. No sería suficiente la mera combinación de elementos o materiales, en definitiva, de datos, si el resultado no es “novedoso”, lo que es más fácil que ocurra en relación con la creatividad exploratoria y transforma- dora que en la combinatoria111. ALGUNAS REFLEXIONES FINALES La IA representa todo un desafío para el antropocentrismo del Derecho de autor. Son más los autores que defienden que las, aquí lla- madas “obras” generadas por sistemas de IA autónomos queden fuera del ámbito protector del Derecho de autor, que aquellos que defienden lo contrario. En este trabajo, he intentado plantear precisamente esa opción minoritaria. Como conclusión, expongo en qué medida podrían protegerse este tipo de “obras” dentro de la LPI mediante la interven- ción del legislador. No desconozco que, idealmente, debería abordarse esa reforma directamente desde la Convención de Berna112 y/o desde el Derecho europeo, por el legislador, para evitar que le TJUE se erija en 110 Pilar Cámara Águila, “Los conceptos autónomos sobre el objeto de protección del De- recho de autor: el concepto de obra y el concepto de originalidad” en Pilar Cámara Águila, Ignacio Garrote Fernández-Díaz (coord.), La unificación del Derecho de propiedad intelectual en la Unión Europea, Tirant Lo Blanch, Valencia, 2019, p. 62 (pp. 49-93). 111 En relación con la exigencia de un mínimo de novedad para la consideración de “obra original”, vid. Rodrigo Bercovitz Rodríguez-Cano, “Comentario al art. 10 LPI” en Ro- drigo Bercovitz Rodríguez-Cano (coord.), Comentarios a la Ley de propiedad in- telectual, Tecnos, 4ª. ed., Madrid, 2017, pp. 160-169. 112 Quizá es tiempo, como propone Gervais, de ir pensando en un nuevo Convenio de Berna (Gervais, Daniel J., (Re)structuring Copyright. A Comprehensive Path to RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 293 “legislador” mediante la doctrina de los conceptos autónomos en mate- ria de Derecho de autor113. El sistema de IA al ser considerado “sujeto de derecho” podría ser titular de los derechos de explotación de la obra, si bien ejercitándolos la persona física o jurídica que, como decía, hubiera encargado y/o usado el sistema, cuestión ésta a decidir. Sólo serían protegibles como “obras” aquellas que presentaran “novedad” que fueran generadas por un siste- ma de IA autónomo no supervisado, el cual podría ser considerado autor “material”, atribuyéndose ex lege de forma automática el ejercicio de los derechos a la persona física o jurídica que lo hubiera encargo o usado, de forma parecida a como acontece en el supuesto del art. 97.4 LPI. Si bien, a diferencia de aquél, la titularidad de los derechos se atribuye directa- mente al empleador. En el caso que planteo, la titularidad permanecería in testa del sistema de IA, sujeto de derecho, y solo se atribuiría ex lege el ejercicio de los derechos114. Esa intervención legislativa podría consistir en introducir en el apartado 1 del art. 5 LPI una referencia al objeto de este trabajo, en la medida en que el precepto establece a quién “se considera” como autor y no quién “es autor”. Por tanto, al tratarse de una consideración legal podrían, también legalmente, ser consideradas otras entidades como au- toras. En esta dirección, el tenor literal del precepto mencionado quedaría así: “Se considera autor a la persona natural y al sistema de inteligencia arti- ficial autónomo que crea alguna obra literaria, artística o científica”. En el apartado 2 de este mismo precepto podría establecerse que: “No obstante, de la protección que esta Ley concede al autor se podrán beneficiar las personas jurídicas y aquellos que hayan creado, encargado o usado sistemas de inteligencia artificial referidos en el apartado anterior en los casos expresamen- te previstos en ella”. International Copyright Reform, Edward Elgar Publishing, Cheltenham, 2017, in totum). 113 Pilar Cámara Águila, “Los conceptos autónomos”, pp. 59-60. 114 La legitimación legal extraordinaria no es ajena al Derecho y, en concreto, al Derecho civil. Así, véanse los arts. 1111 CC (acción subrogatoria), 1186 CC (ejercicio de accio- nes por parte del acreedor frente a terceros, de las cuales es titular el deudor). RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 294 SUSANA NAVAS NAVARRO Por su parte, en el art. 10.1 LPI se podría añadir una letra, la k), que comprendiera a “las obras creadas por sistemas de inteligencia artificial au- tónomos”. Aunque sería más bien a efectos propedéuticos, puesto que las creaciones generadas por estos agentes entran sin problema en el marco de las “creaciones literarias, artísticas o científicas”. En cambio, me parecería necesario que se añadiera un apartado 3 al art. 10 LPI indicando que, en caso de estas obras, se requiere la presencia de “novedad”. En el art. 26 LPI -o si se quiere una norma independiente del Ca- pítulo I del Título III del Libro I de la LPI que aluda a la duración de los derechos de autor- podría establecerse una regla especial de duración de la protección en caso de este tipo de obras -que podría ser de 10 años- previo estudio o análisis económico en la materia. El plazo de protección debería ser el suficiente como para conjugar dos elementos: primero, no desincentivar la inversión en recursos humanos y tecnológicos y, segun- do, no hurtar al dominio público de material que puede alimentar nuevas creaciones y el desarrollo de futuros proyectos de sistemas de IA. Además, se añadiría un Título VIII al Libro I de la LPI donde se regularía el ejercicio, por la persona física o jurídica, de los derechos de explotación sobre la creación del sistema de IA, que sería quien lo hubiera encargado o usado. Otra cuestión es si, en este caso, se atribuirían o no derechos morales o bien se atribuirían algunos derechos morales; no to- dos, como, por ejemplo, el derecho a la integridad de la obra y el reconoci- miento de la autoría al sistema de IA, de forma parecida a como acontece en el caso de las obras de dominio público. En definitiva, como advierte Yanisky-Ravid, the traditional laws of copyright are inadequate to cope with the new tech- nology involved in creating artworks. I further argue that products and ser- vices independently generated by machines challenge the justifications under IP and copyright laws, which rely on humans to create the works. Copyright laws are simply ill-equipped to accommodate this tech revolution and are therefore unlikely to survive in their current form. In order to address the RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 295 change in the way art is being created, we must either rethink these laws, give them new meaning, or be ready to replace them115. REFERENCIAS AIHLEG, “A definition of AI: Main capabilities and disciplines”, 8. April 2019. Accesible en: https://ec.europa.eu/digital-single-market/en/news/definition-arti- ficial-intelligence-main-capabilities-and-scientific-disciplines. Fecha de la con- sulta: septiembre 2021. APARICIO VAQUERO, J. P., “Comentario al art. 97 LPI” en BERCOVITZ RODRÍ- GUEZ-CANO, R. (coord.), Comentarios a la Ley de propiedad intelectual, Tecnos, 4ª. ed., Madrid, 2017. BARROW, H., “Connectionism and Neural Networks” en BODEN, M. C. (ed.), Artificial Intelligence, 2ª ed., Londres, 1996. BENÍTEZ, R. ET AL., Inteligencia artificial avanzada, UOC, Barcelona, 2013. BENNETT MOSES, L., “Recurring Dilemmas: The Law’s Race to Keep up with Technological Change”, University of Illinois Journal of Law, Technology and Policy, 2007. BERCOVITZ RODRÍGUEZ-CANO, R., “Comentario al art. 10 LPI” en BERCOVITZ RODRÍGUEZ-CANO, R. (coord.), Comentarios a la Ley de propiedad inte- lectual, Tecnos, 4ª. ed., Madrid, 2017. BODEN, M. A., Artificial Intelligence and Natural Man, 2ª ed., Basic Books, 1987, Sussex. BODEN, M. A., “Creativity and Artificial Intelligence”, 103(1): 347-356 Artif Intell (1998). BODEN, M. A. “Computer models of creativity”, 30(3):23 AI Mag (2009). BODEN, M. A. Inteligencia artificial, Turner Noema, trad. PÉREZ PARRA, I., Madrid, 2017. BOSTROM, N., Superintelligence. Paths, Dangers, Strategies, Oxford Uni- versity Press, Oxford, 2014. BRAIDOTTI, R., El conocimiento posthumano, Gedisa, 1ª ed., trad. por IBARZ, J., Barcelona, 2020. 115 Shlomit Yanisky-Ravid, “Generating Rembrandt”, p. 670. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 296 SUSANA NAVAS NAVARRO BRANTING, L. K., “Data-centric and logic-based models for automated legal problem solving”, Artif. Intell Law, 2017, 25:5-27. BRIDY, A., “Coding Creativity: Copyright and the Artificially Intelligent Author”, Stanford Technology Law Review, Nro. 5, 2012. BULLINGER, W. en WANDTKE, A.-A./BULLINGER, W. (eds.), Praxiskom- mentar Urheberrecht: UrhG, VVG, InsO, UKlaG, KUG, EVtr, InfoSocRL, 5ª. edic., Munich, 2019, UrhG, § 2 Rn. 4. CÁMARA ÁGUILA, P., “Los conceptos autónomos sobre el objeto de protección del Derecho de autor: el concepto de obra y el concepto de originalidad” en CÁMARA ÁGUILA, P./GARROTE FERNÁNDEZ-DÍAZ, I. (coord.), La unifica- ción del Derecho de propiedad intelectual en la Unión Europea, Tirant Lo Blanch, Valencia, 2019. CARRASCO PERERA, A./DEL ESTAL SASTRE, R., “Comentario al art. 5 LPI” en BERCOVITZ RODRÍGUEZ-CANO, R. (coord.), Comentarios a la Ley de pro- piedad intelectual, Tecnos, 4ª. ed., Madrid, 2017. COLLINS, H./EVANS, R., Rethinking Expertise, The University of Chicago Press, Chicago, 2007. CHRISTENSEN, C. M. The Innovator’s Dilemma – When Technology Caus- es Great Firms to fail, Harvard Business Review Press, Boston, 1997. COECKELBERGH, M., Ética de la inteligencia artificial, Cátedra, 1ª ed., trad. ÁLVAREZ CANGA, L., Madrid, 2021. COPPS, M. J., “Disruptive Technology…Disruptive Regulation”, Michigan State Law Review, 2005. DENICOLA, R. C., “Ex Machina: Copyright Protection for Computer-Generated Works”, Rutgers University Law Review, 69, 2016. DENNETT, D. C., De las bacterias a Bach. La evolución de la mente, traduc- ción de Marc Figueras, Pasado & Presente, Barcelona, 2017. DIETZ, A., “Le concept d’auteur selon le droit de la Convention de Berne”, 155 RIDA, 1993. DOMINGOS, P., The Master Algorithm, Penguin Books, Reino Unido, 2017. DUQUE LIZARRALDE, M., “Las obras creadas por inteligencia artificial: un nue- vo reto para la propiedad intelectual”, Pe. i., Revista de propiedad intelec- tual, núm. 64, enero-abril, 2020. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 297 EU Science Hub, JCR Technical reports, “AI Watch. Defining Artificial Intelli- gence. Towards an operational definition and taxonomy of artificial intelli- gence”, https://ec.europa.eu/jrc. Fecha de la consulta: septiembre 2021. FERNÁNDEZ CARBALLO-CALERO, P., La propiedad intelectual de las obras generadas por inteligencia artificial, Thomson Reuters, Aranzadi, Cizur Me- nor, 2021. GARCÍA VIDAL, A., “Propiedad intelectual y minería de textos y datos: estudio de los artículos 3 y 4 de la Directiva (UE) 2019/790”, ADI, Tomo 40, 2019-2020. GERVAIS, D. J., “The Machine as Author”, Iowa Law Review, vol. 105:2053. GINSBURG, J. C., “The Concept of Authorship in Comparative Copyright Law”, DePaul Law Review, 52-4, 2003. GINSBURG, J. C., “People Not Machines: Authorship and What it means in the Berne Convention”, IIC (2018) 49:131-135. GONZÁLEZ OTERO, B., “Machine Learning Models Under the Copyright Micro- scope: Is EU Copyright Fit for Purpose?”, GRUR International, 2021. GRÄTZ, A., Künstliche Intelligenz im Urheberrecht, Springer, Wiesbaden, 2021. GUADAMUZ, A., “La inteligencia artificial y el Derecho de autor”, online https:// www.wipo.int/wipo_magazine/es/2017/05/article_0003.html. Fecha de la consul- ta: septiembre 2021. HAMON, R./JUNKLEWITZ, H./SÁNCHEZ, I., “Robustness and Explainability of Artificial Intelligence”, JRC technical Report, European Commission, 2020. HARAWAY, D., “A Cyborg Manifesto: Science, Technology, and Socialist-Femi- nism in the Late Twentieth Century”, Simians, Cyborgs and Women. The Reinvention of Nature, Nueva York, Routledge, 1991. HIN-YAN LIU ET AL., “Artificial Intelligence and Legal Disruption: A New Model for Analysis”, 12(2), Law, Innovation and Technology, 2020. HUGENHOLTZ, P. B./QUINTAIS, J. P./GERVAIS, D., “Trends and Developments in Artificial Intelligence. Challenges to the Intellectual Property Rights Fra- mework”, Final Report, bajo los auspicios de la Comisión europea, septiembre 2020. Puede consultarse en: https://ec.europa.eu/digital-single-market/en/news/ trends-and-developments-artificial-intelligence-challenges-intellectual-proper- ty-rights-0. Fecha de la consulta: septiembre 2021. KAHNEMAN, D., Pensar rápido, pensar despacio, 1ª ed., Barcelona, 2013. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 298 SUSANA NAVAS NAVARRO KARNOW, C. E. A., “The application of traditional tort theory to embodied ma- chine intelligence” en CALO, R./FROOMKIN, A. M./KERR, I., Robot Law, 1a ed., 2016, Cheltenham-Northampton. KATYAL, N., “Disruptive Technologies and the Law”, Georgetown Law Jour- nal, Nro. 102, 2014. KURKI, V., “Why Things Can Hold Rights: Reconceptualizing the Legal Persons” en KURKI, V./PIETRYKOWSKI, T., (eds.), Legal Personhood: Animals, Artificial Intelligence and the Unborn, Springer, 2017. KURKI, V., A theory of legal personhood, Oxford University Press, 2019. KURZWEIL, R., How to create a mind. The secret of human thought re- vealed, Penguin Books, New York, 2013. LACRUZ MANTECÓN, M. L., Inteligencia artificial y Derecho de autor, Reus, Madrid, 2021. LAMBERT, P., “Computer Generated Works and Copyright: Selfies, Traps, Ro- bots, AI and Machine Learning”, 2017 E.I.P.R. vol: 39(1). LEE, E., “Digital Originality”, 2012, Vanderbilt J. of Ent. and Tech. Law 14(4):919. LÓPEZ-TARRUELLA MARTÍNEZ, A., “Propiedad intelectual, inteligencia artifi- cial y libre circulación de datos” en SAIZ GARCÍA, C./EVANGELIO LLORCA, R., Propiedad intelectual y mercado único digital europeo, Tirant Lo Blanch, Valencia, 2019. MANCUSO, S., Inteligencia y sensibilidad de los vegetales, Galaxia Gu- tenberg, Barcelona, 2ª. ed., 2015. MARCO MOLINA, J., La propiedad intelectual en la legislación española, Marcial Pons, Barcelona-Madrid, 1995. MARCO MOLINA, J., “La formación del concepto de derecho de autor y la ori- ginalidad de su objeto” en MACÍAS CASTILLO, A./HERNÁNDEZ ROBLEDO, M. A., (ed.), El derecho de autor y las nuevas tecnologías. Reflexiones sobre la reciente reforma de la Ley de Propiedad Intelectual, La Ley, Madrid, 2008. MARTÍN CASALS, M., “Causation and Scope of Liability in the Internet of Things (IoT)” en LOHSSE, S./SCHULZE, R./STAUDENMAYER, D. (eds.), Liability for Artificial Intelligence and the Internet of Things, Nomos Verlag, Baden Baden, 2018. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 299 MCCUTCHEON, J., “Curing the authorless void: protecting computer-generated works following ICETV and Phone Directories”, 2013 Melbourne University Law Review, vol. 37:46. NAFFINE, N., “Legal Persons as Abstractions: The Extrapolation of Persons from the Male Case” en KURKI, V./PIETRYKOWSKI, T. (eds.), Legal Personhood: Animals, Artificial Intelligence and the Unborn, Springer, 2017. NAVAS NAVARRO, S. “Sistemas expertos basados en inteligencia artificial y responsabilidad civil”, Diario La Ley, Ciberderecho, 11.12.2019. Online: https:// diariolaley.laleynext.es/dll/2019/12/13/sistemas-expertos-basados-en-inteligen- cia-artificial-y-responsabilidad-civil. Fecha de la consulta: septiembre 2021. NAVAS NAVARRO, S., Obras de dominio público. Digitalización y preser- vación digital, Reus, Madrid, 2021. NEUBERGER WELLER, S., “Computer Ownership is not Monkey Business: Wi- kimedia and Slater Fight over Selfie Photographs”, 2014 IP Litigator 20(5). PANTALÉON PRIETO, F., “Causalidad e imputación objetiva: criterio de imputa- ción”, Asociación de profesores de Derecho civil (ed.), Centenario del Código Civil: 1889-1989, vol. II, Madrid, Centro de estudios Ramón Areces, 1991. PERRY, M./MARGONI, T., “From Music Tracks to Google Maps: Who Owns Computer-generated Works?”, 2010 Law Publications. Paper 27, http://ir.lib. uwo.ca/lawpub/27. Fecha de la consulta: septiembre 2021. PIETRYKOWSKI, T., “The Idea of Non-Personal Subjects of Law” en KURKI, V./ PIETRYKOWSKI, T., (eds.), Legal Personhood: Animals, Artificial Intelli- gence and the Unborn, Springer, 2017. PINO DÍEZ, R. et al., Introducción a la inteligencia artificial: sistemas ex- pertos, redes neuronales artificiales y computación evolutiva, Universi- dad de Oviedo, servicio de publicaciones, 2001. RAHMANTIAN, A., Copyright and Creativity. The Making of Property Rights in Creative Works, Edward Elgar Publishing, Cheltenham, 2011. RICKETSON, S., “The need for human authorship – Australian developments: Telstra Corp. Ltd v. Phone Directories Co Pty Ltd (Case Comment)”, 2012, E.I.P.R. 34(1). RODRÍGUEZ TAPIA, J. M., “Comentario al art. 5 LPI” en RODRÍGUEZ TAPIA, J. M. (dir.), Comentarios a la ley de propiedad intelectual, 2ª. ed., Madrid, 2009. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 300 SUSANA NAVAS NAVARRO RODRÍGUEZ TAPIA, J. M., “Comentario al art. 8 LPI” en BERCOVITZ RODRÍ- GUEZ-CANO, R. (coord.), Comentarios a la Ley de propiedad intelectual, Tecnos, 4ª. ed., Madrid, 2017. ROGEL VIDE, C., Obras colectivas y propiedad intelectual, Reus, Madrid, 2021. SAIZ GARCÍA, C., Objeto y sujeto del derecho de autor, Valencia, Tirant Lo Blanch, 2000. SAIZ GARCÍA, C., “Las obras creadas por sistemas de inteligencia artificial y su protección por el derecho de autor”, InDret 1/2019. SAMUELSON, P., “Allocating Ownership rights in computer-generated works”, 1985, 47 U. Pitt. L. R. 1185. SAVIGNY, F. C., System des heutigen Römischen rechts (Veit 1840) § 60. SCHAFER, B. et al., “A fourth law of robotics? Copyright and the law and ethics of machine co-production”, 2015 Artif Intell Law 23:217-240. SCHULZE, G., en DREIER, T./SCHULZE, G./SPECHT, L. (eds.), UrhG: Urheber- rechtsgesetz, Verwertungsgesellschaftengesetz, Kunsturhebergesetz Kommentar, 6ª. edic., Munich, 2018, UrhG, § 2 Rn. 243. SENFTLEBEN, M./BUIJTELAAR, L., “Robot Creativity: An incentive-based Neighboring Rights Approach”, EIPR, 2020. Puede consultarse online: https:// papers.ssrn.com/sol3/papers.cfm?abstract_id=3707741. Fecha de la consulta: septiembre 2021. SPINDLER, G., „Roboter, Automation, künstliche Intelligenz, selbst-steuernde Kfz – Braucht das Recht neue Haftungskategorien?“, CR 12/2015. SPINDLER, G./SCHUSTER, F. (eds.), Recht der elektronischen Medien, 4ª edic., Göttingen, 2019, UrhG, § 2 Rn. 3. SUSSKIND, R./ SUSSKIND, D., El futuro de las profesiones. Cómo la tec- nología transformará el trabajo de los expertos humanos, editorial Teell, trad. por RUIZ FRANCO, J. C., Zaragoza, 2016. TWIGG-FLESNER, Chr., “Disruptive Technology – Disrupted Law? How the Dig- ital Revolution Affects (Contract) Law” en DE FRANCESCHI, A. (ed.), Europe- an Contract Law and the Digital Single Market. The Implications of the Digital Revolution, Intersentia, Cambridge, 2016. URWIN, R., Artificial Intelligence. The Quest for the ultimate thinking machine, Arcturus, Londres, 2017. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021 La “obra” creada por un sistema de inteligencia artificial autónomo: ... 301 VANNIEUWENHUYZE, A., Inteligencia artificial fácil. Machine learning y Deep learning prácticos, traducido por GOYANES ARNEDO, B., ediciones ENI, Cornellà de Llobregat, 2020. YANISKY-RAVID, S., “Generating Rembrandt: Artificial Intelligence, Copyright, and Accountability in the 3A Era-The Human-Like Authors are already here. A New Model”, Michigan State Law Review, 2017, Nro. 4. YU, R., “The Machine Author: What Level of Copyright Protection Is Appropriate for Fully Independent Computer-Generated Works?” 165 U. Pa. L. Rev., 2017. RRDDIS – Revista Rede de Direito Digital, Intelectual & Sociedade, Curitiba, v. 1 n. 2, p. 259-301, 2021