Listado de la etiqueta: José Manuel Muñoz Vela

Usted está aquí: / José Manuel Muñoz Vela

Entradas

Representación conceptual de una inteligencia artificial fragmentada y reconstruida mediante datos y sistemas digitales, simbolizando la evolución regulatoria del AI Act y los nuevos desafíos de gobernanza de la inteligencia artificial en Europa.

Primera reforma del Reglamento IA de la UE: Digital Omnibus on AI

/0 Comentarios/en /por
I. Introducción

La IA ha dejado de ser una tecnología emergente para convertirse en una infraestructura transversal presente en prácticamente todos los sectores económicos, administrativos y sociales. Su incorporación a procesos de decisión, actividades industriales, servicios públicos, sanidad, educación, transporte o servicios financieros ha transformado el contexto regulatorio europeo y ha obligado al legislador de la Unión a afrontar uno de los mayores desafíos jurídicos de las últimas décadas: fomentar la innovación sin comprometer la protección de los derechos fundamentales, la seguridad de las personas y el correcto funcionamiento del mercado interior.

La respuesta europea se materializó en el AI Act, que adoptó una aproximación horizontal basada en la clasificación de los sistemas según su nivel de riesgo para los derechos fundamentales, la salud, la seguridad y demás intereses públicos. Su arquitectura descansa sobre el principio esencial de que, cuanto mayor sea el riesgo, mayores serán las obligaciones impuestas a quienes lo desarrollan, comercializan o utilizan. Esa lógica permitió conciliar dos objetivos a menudo contrapuestos, de un lado, garantizar un elevado nivel de protección y, de otro, preservar la competitividad, la innovación y el desarrollo tecnológico, evitando cargas desproporcionadas sobre tecnologías de impacto limitado. Su objeto, alcance y complejidad técnica hicieron previsible desde un primer momento que ciertas cuestiones precisarían ajustes incluso antes de la plena aplicación de sus disposiciones, conforme a la experiencia de otros instrumentos de extraordinaria complejidad, como el Reglamento General de Protección de Datos, la normativa financiera o la legislación sobre seguridad de productos.

La finalidad del Digital Omnibus on AI no consiste en sustituir el modelo del AI Act ni en modificar los pilares de la regulación europea de la IA, ni en reducir el nivel de protección de los derechos fundamentales, sino en mejorar la aplicabilidad del Reglamento mediante ajustes técnicos, organizativos y procedimentales. El legislador vincula expresamente el aplazamiento de algunas de sus disposiciones, no solo a la falta de normas armonizadas, sino también al retraso en la implantación de las estructuras nacionales de gobernanza y evaluación de la conformidad, sin perjuicio de que las consultas a los interesados evidenciaron la necesidad de medidas adicionales de clarificación.

La adopción por el Parlamento de su posición en primera lectura constituye, así, la primera revisión legislativa del AI Act, cuya relevancia no deriva del número de disposiciones modificadas, sino de ofrecer una primera oportunidad para valorar cómo concibe el legislador la evolución futura del Reglamento. No se trata de un mero ajuste técnico carente de relevancia jurídica, pero tampoco una revisión sustancial del modelo. El análisis revela un propósito intermedio, orientado a preservar íntegramente los principios estructurales del AI Act perfeccionando los mecanismos de su aplicación, si bien, algunas modificaciones, especialmente las que afectan al calendario y al artículo 5,  poseen un alcance que trasciende lo puramente procedimental.

Supone, además, una oportunidad para ampliar las prohibiciones de sistemas que debieron calificarse de riesgo inadmisible desde un inicio. A la vista del texto, considero, no obstante, que nos hallamos ante una nueva oportunidad perdida, en la medida que ni siquiera se valoró contemplar realidades desbordantes como la IA agéntica, ni incorporar unos principios generales mínimos exigibles a cualquier sistema inteligente, cualquiera que sea su nivel de riesgo, incluidos los agentes más autónomos, con origen en los marcos éticos de mayor consenso internacional. Tales principios llegaron a incorporarse al proyecto del AI Act en su última fase de tramitación como artículo 4 bis, pero finalmente fueron obviados, quedando de nuevo en el ámbito de lo dispositivo y no vinculante.

II. El contexto jurídico y político de la primera reforma

La primera modificación no se comprende al margen del contexto político, económico y regulatorio en que se produce. A diferencia de otras reformas impulsadas tras largos periodos de aplicación, el Ómnibus se adopta cuando una parte significativa de las obligaciones del AI Act todavía no es exigible. Esta circunstancia podría sugerir una revisión prematura, sin embargo, un examen más contextual evidencia que la finalidad no es corregir un eventual fracaso del Reglamento, sino adaptar determinados mecanismos a la realidad económica y tecnológica existente en el momento de su exigencia.

La reforma se inserta en una estrategia más amplia de simplificación normativa impulsada por la Comisión. La agenda de competitividad parte de la premisa de que la acumulación progresiva de obligaciones derivadas de los distintos instrumentos del Derecho Digital de la Unión -protección de datos, ciberseguridad, servicios y mercados digitales, resiliencia operativa, gobernanza de datos o IA- puede generar costes de cumplimiento especialmente gravosos para pymes, empresas emergentes y, según incorpora ahora el Reglamento, las denominadas pequeñas empresas de mediana capitalización («small mid-cap enterprises» o SMC), categoría definida por remisión a la Recomendación (UE) 2025/1099 y a la que se extienden diversas medidas de apoyo antes reservadas a las pymes. De este modo, la simplificación deja de concebirse como una reducción del nivel de protección para convertirse en una técnica orientada a alcanzar los mismos objetivos mediante mecanismos menos complejos y administrativamente más eficientes.

Lejos de cuestionar el enfoque basado en el riesgo, la reforma pretende reforzarlo eliminando cargas de utilidad limitada o de aplicación desproporcionada, sin reducir las obligaciones esenciales ni alterar la naturaleza del AI Act como Reglamento directamente aplicable, su fundamento competencial o su arquitectura. El enfoque basado en el riesgo, la clasificación de sistemas, la estructura de obligaciones, el régimen de los modelos de propósito general, la función coordinadora del AI Office y la vigilancia del mercado permanecen inalterados. La mayor parte de las modificaciones son de naturaleza organizativa o procedimental, de modo que no alteran los deberes materiales de los operadores, sino la forma de cumplirlos, acreditarlos o supervisarlos.

El rasgo que mejor caracteriza esta primera revisión es el desplazamiento del foco desde la creación de nuevas obligaciones hacia la mejora de los mecanismos que garantizan el cumplimiento efectivo de las existentes, en la medida que el legislador asume que la eficacia del AI Act dependerá tanto de la calidad de las obligaciones como de la posibilidad real de integrarlas en los procesos de gestión y cumplimiento de empresas y Administraciones.

III. Las principales modificaciones introducidas

El texto adoptado permite agrupar las modificaciones en varios bloques con el objetivo de posibilitar la aplicabilidad práctica del AI Act sin alterar los elementos esenciales de su arquitectura. Conviene, no obstante, distinguir las de carácter estrictamente técnico u organizativo de aquellas que, por su contenido, presentan una dimensión material que merece tratamiento singular.

1. El aplazamiento del calendario de aplicación

La modificación de mayor calado práctico afecta al calendario del artículo 113. El legislador considera que la indisponibilidad de normas armonizadas, especificaciones comunes y orientaciones, unida al retraso en la constitución de las autoridades nacionales competentes, comprometía la entrada en aplicación efectiva de las obligaciones sobre sistemas de alto riesgo y amenazaba con un incremento injustificado de los costes de implementación. En consecuencia, la fecha de aplicación de las secciones 1, 2 y 3 del capítulo III se difiere hasta el 2 de diciembre de 2027 para los sistemas de alto riesgo del artículo 6.2 y el anexo III, y hasta el 2 de agosto de 2028 para los del artículo 6.1 y el anexo I. La distinción reproduce la diferencia de plazos ya prevista en el AI Act y condiciona la efectividad del nuevo calendario a que la Comisión asegure la disponibilidad oportuna de los instrumentos de apoyo al cumplimiento.

La reforma precisa, además, el alcance del periodo transitorio del artículo 111.2, en la medida que bastará que una sola unidad de un tipo y modelo de sistema de alto riesgo se haya comercializado o puesto en servicio antes de la fecha relevante para que las restantes unidades de ese mismo tipo y modelo puedan seguir ofreciéndose sin obligaciones adicionales, siempre que el diseño permanezca inalterado. Cualquier modificación sustancial posterior reactivará la plena exigibilidad de los requisitos. Se introduce asimismo un periodo transitorio de cuatro meses para los proveedores de sistemas de IA generativa sujetos a las obligaciones de marcado del artículo 50.2 comercializados antes del 2 de agosto de 2026, que dispondrán hasta el 2 de diciembre de 2026 para etiquetar sus contenidos sintéticos. Tales precisiones, lejos de relajar el régimen, dotan de seguridad jurídica a la transición y evitan que determinadas exigencias resulten formalmente aplicables antes de que existan los medios técnicos para satisfacerlas.

2. Las nuevas prohibiciones del artículo 5. Material íntimo no consentido y material de abuso sexual infantil

La reforma incorpora al catálogo de prácticas prohibidas del artículo 5 la comercialización, puesta en servicio o uso de sistemas de IA destinados a generar o manipular material íntimo no consentido -fenómeno asociado a las aplicaciones de “nudificación”- y material de abuso sexual infantil, incluido el total o parcialmente sintético. Es la modificación de mayor trascendencia desde la perspectiva de los principios que inspiran la reforma, pues no perfecciona un mecanismo de aplicación, sino que amplía el núcleo de lo prohibido en atención a desarrollos tecnológicos y sociales sobrevenidos.

El legislador delimita cuidadosamente su alcance. Respecto de los proveedores, la prohibición no impide desarrollar las capacidades técnicas de generación o manipulación de imágenes, vídeos o audio, sino que se proyecta sobre dos supuestos. De un lado, los sistemas concebidos para producir ese material y aquellos en que tal resultado sea razonablemente previsible y reproducible y no se hayan implantado medidas técnicas de seguridad adecuadas -por ejemplo, depuración de datos, entrenamiento orientado al rechazo, filtros y clasificadores de contenido, restricciones de uso o mecanismos de detección de abusos- conformes al estado de la técnica. La responsabilidad del proveedor no se limita, así, al diseño intencionado, sino que alcanza los resultados previsibles cuando faltan tales salvaguardas.

La prohibición relativa al material íntimo se circunscribe a representaciones realistas de partes íntimas de personas identificables o de actividad sexual explícita, y excluye expresamente los usos legítimos -aplicaciones médicas, obras artísticas no realistas, supuestos amparados por el consentimiento libre, específico, informado e inequívoco de la persona representada o, tratándose de material de abuso sexual infantil, las actividades cubiertas por una excepción del Derecho nacional y las tareas de evaluación y “red-teaming”-. El uso de un sistema de IA que genere o manipule el material o las actuaciones precitadas solo estará prohibido cuando el responsable del despliegue utilice el sistema con el fin de generar o manipular dicho material o dicha actuación.

El propio texto justifica la proporcionalidad de la medida y precisa que respeta el contenido esencial de la libertad de expresión y de la libertad de empresa (artículos 11 y 16 de la Carta), a la vez que la sustenta en la protección de los derechos reconocidos en los artículos 1, 3.1, 4, 7, 8, 21, 23 y 24 de la propia Carta y a la coherencia con la Directiva 2011/93/UE y la Directiva (UE) 2024/1385, recordando la vigencia del principio “ne bis in idem”» cuando la misma conducta resulte sancionable en vía penal. La incorporación de estas prohibiciones confirma que el modelo europeo no es un sistema cerrado, sino un marco llamado a actualizar su umbral de lo inaceptable a medida que la tecnología habilita nuevas formas de lesión de la dignidad y de los derechos fundamentales, singularmente de mujeres y menores.

3. Proporcionalidad, alfabetización en IA y simplificación documental

Diversas modificaciones refuerzan la proporcionalidad de las obligaciones administrativas, sin contemplar un régimen privilegiado por razón del tamaño, en la medida que el nivel de obligaciones sigue respondiendo al riesgo del sistema. Así, la evaluación de la conformidad simplificada para el sistema de gestión de la calidad, antes reservada a las microempresas, se extiende ahora a todas las pymes, incluidas las empresas emergentes. El instrumento reformula además el artículo 4, sustituyendo la obligación de garantizar la alfabetización en IA del personal por un deber de adoptar medidas que fomenten su desarrollo, atendiendo al conocimiento técnico, la formación y el contexto de uso, sin exigir un nivel concreto de competencia individual. De este modo transforma una obligación de resultado en un deber de medios, que la Comisión y los Estados miembros deberán facilitar, especialmente a pymes. Racionaliza también las obligaciones documentales y de registro, simplificando el contenido exigible para la inscripción de los sistemas del artículo 6.3 en la base de datos de la UE conforme al anexo VIII, sin merma de las exigencias esenciales de documentación, trazabilidad y gestión del riesgo. Por último, el nuevo artículo 4 bis habilita el tratamiento excepcional de categorías especiales de datos personales, con estrictas salvaguardias, para la detección y corrección de sesgos, y extiende esa base jurídica -antes circunscrita a los proveedores de alto riesgo- a proveedores y desplegadores de otros sistemas y modelos, reconociendo que el sesgo discriminatorio no es exclusivo de los sistemas de alto riesgo y reforzando la articulación con el RGPD.

4. Normalización, evaluación de la conformidad e interacción con la legislación sectorial

El recurso a normas armonizadas y especificaciones comunes es inherente al modelo europeo de regulación tecnológica. La reforma no lo altera, pero refuerza su operatividad y la coordinación con la legislación sectorial. Cuando la legislación de armonización de la sección A del anexo I garantice un nivel de protección equivalente o superior, la Comisión podrá limitar mediante actos delegados la aplicación de determinados requisitos del Reglamento para evitar duplicidades. Se prevé una solicitud y un procedimiento únicos de evaluación para los organismos notificados ya designados conforme a aquella -como los Reglamentos (UE) 2017/745 y (UE) 2017/746 sobre productos sanitarios- y se precisa que la clasificación como alto riesgo no impone automáticamente evaluación por tercero cuando quepa acudir a normas armonizadas. En la misma línea se traslada el Reglamento (UE) 2023/1230 sobre máquinas de la sección A a la sección B del anexo I y se incorpora la regla del artículo 12 del Reglamento (UE) 2024/2847 (Cyber Resilience Act), de modo que el cumplimiento de sus requisitos esenciales de ciberseguridad se reputa cumplimiento del artículo 15 del AI Act. Del mismo modo, la reforma redefine el concepto “componente de seguridad” del artículo 3.14 -que ahora exige una función de seguridad determinada por la finalidad prevista-, evitando una expansión de la clasificación de alto riesgo más allá de lo justificado por el enfoque de riesgo. La disponibilidad de los futuros estándares técnicos incrementará la seguridad jurídica y favorecerá una interpretación homogénea de las obligaciones.

5. Gobernanza, competencias del AI Office y espacios de pruebas

La reforma incrementa la coherencia de la supervisión sin centralizar más la aplicación ni alterar el reparto competencial. Se especifica la competencia exclusiva del AI Office sobre los sistemas construidos a partir de modelos de propósito general, que alcanza no solo a los supuestos en que sistema y modelo proceden del mismo proveedor, sino también a aquellos en que ambos son desarrollados por proveedores integrados en una misma empresa, y se atribuye a la Comisión la condición de autoridad de vigilancia del mercado cuando el sistema de IA constituya o se integre en una plataforma o motor de búsqueda de muy gran tamaño en el sentido del Reglamento (UE) 2022/2065 (Digital Services Act), con coordinación entre ambos regímenes conforme a los principios de cooperación leal, proporcionalidad y “non bis in idem”. En materia de innovación, se habilita al AI Office para establecer un espacio de pruebas o sandbox regulatorio a escala de la Unión, con acceso prioritario a pymes, empresas emergentes y SMC, y se amplían las pruebas en condiciones reales fuera de los sandboxes a los sistemas de alto riesgo cubiertos por la legislación sectorial del anexo I. No se crean nuevas estructuras ni se redistribuyen las competencias, sino que se pretende mejorar el funcionamiento de las instituciones ya previstas, favoreciendo la consolidación progresiva del modelo.

IV. Impacto sobre los distintos operadores

Los efectos de la reforma no se proyectan de manera uniforme. La estructura subjetiva del AI Act -proveedores, desplegadores, importadores, distribuidores, representantes autorizados y operadores de modelos de propósito general- permanece intacta, pero la intensidad con que cada categoría experimentará las consecuencias difiere según la naturaleza de las modificaciones. Para los proveedores de sistemas de alto riesgo, no se modifica el contenido de las obligaciones esenciales -gestión del riesgo, gobernanza de los datos, documentación técnica, registros, transparencia, supervisión humana, robustez, precisión, ciberseguridad y vigilancia poscomercialización-, pero se mejora la forma de acreditarlas y se concede, sobre todo, un margen temporal adicional de adaptación derivado del nuevo calendario. La principal dificultad de muchas organizaciones no residía en comprender las obligaciones, sino en integrarlas en procesos existentes, integración que la reforma facilita sin rebajar el estándar de diligencia. Las relativas a los modelos de propósito general aportan mayor previsibilidad mediante la clarificación del reparto competencial entre el AI Office y las autoridades nacionales, relevante para operadores de dimensión transfronteriza.

Las pymes y las empresas emergentes figuran entre los principales beneficiarios. La extensión a todas ellas del sistema de gestión de la calidad simplificado y el acceso prioritario a los sandboxes favorecen la entrada de nuevos operadores, y la categoría de las SMC evita que el tránsito de pyme a gran empresa se traduzca en un salto regulatorio abrupto. Las Administraciones Públicas, autoridades supervisoras y a la vez usuarias de sistemas de IA, se beneficiarán de una aplicación más homogénea derivada de la mejor coordinación institucional, debiendo a la par adaptar sus procedimientos internos. Y los desplegadores y usuarios profesionales verán facilitada la identificación de las responsabilidades de cada operador dentro de cadenas de suministro complejas, cuestión creciente cuando las soluciones se basan en modelos de terceros integrados mediante múltiples relaciones contractuales.

V. Valoración jurídica

Un análisis conjunto, tras esta primera aproximación, permite formular varias conclusiones preliminares, al margen de la valoración profunda que el instrumento requerirá una vez aprobado y publicado en los idiomas oficiales. La primera es que la reforma responde a una lógica de continuidad y no de ruptura. El legislador no cuestiona ninguno de los principios estructurales precitados del AI Act -enfoque basado en el riesgo, régimen de prohibiciones, clasificación de sistemas, régimen de los de alto riesgo, obligaciones de los modelos de propósito general, vigilancia del mercado y arquitectura institucional-. La segunda concierne a la simplificación, que no constituye necesariamente una técnica de desregulación. Su objetivo es reforzar la eficacia del sistema eliminando obstáculos de utilidad limitada, de modo que opera al servicio del cumplimiento.

Esta lectura debe, sin embargo, matizarse. El aplazamiento del calendario y la ampliación del artículo 5 demuestran que la reforma no se agota en la dimensión procedimental, en la medida que el primero incide sobre la exigibilidad temporal de obligaciones nucleares y la segunda amplía el perímetro de lo prohibido. Ambas son coherentes con los fines del Reglamento, la primera, al supeditar la efectividad de las obligaciones a la disponibilidad real de instrumentos de apoyo y, la segunda, al extender la protección a bienes jurídicos de primer orden, pero advierten frente a su caracterización como mero ajuste técnico. La tercera conclusión es que dicho aplazamiento comporta necesariamente la extensión de un período de menor seguridad consecuente a la inexigibilidad de sus obligaciones, al margen de quienes ya invirtieron importantes esfuerzos en prepararse para dicha exigencia en las fechas primigenias. La cuarta conclusión es la importancia creciente de los mecanismos de coordinación institucional, de los que depende la aplicación uniforme del AI Act. Y la quinta, que la primera revisión pone de manifiesto la capacidad de adaptación del modelo europeo frente a quienes lo consideraban excesivamente rígido. El Ómnibus demuestra que el legislador dispone de mecanismos suficientemente flexibles para introducir ajustes cuando la experiencia lo aconseja o exige, preservando la estabilidad de los principios fundamentales. El texto adoptado deberá aún ser aprobado formalmente por el Consejo de la Unión Europea.

VI. Conclusiones

La primera reforma del Reglamento (UE) 2024/1689 constituye un hito en la evolución del marco regulador europeo de la IA, no por alterar los principios esenciales del AI Act, sino por confirmar la voluntad de las instituciones de perfeccionar progresivamente un instrumento central en la transformación digital de la Unión. La adopción por el Parlamento de su posición en primera lectura el 16 de junio de 2026 deja la reforma a falta únicamente de su adopción formal y publicación, y permite ya valorar su contenido previsiblemente definitivo. Los mecanismos organizativos adquieren un papel decisivo, pues la efectividad del Reglamento dependerá tanto de la calidad técnica de las obligaciones como de la organización institucional encargada de su aplicación homogénea, y el nuevo calendario concede a los operadores el tiempo de adaptación que la indisponibilidad de estándares e instituciones hacía necesario. Al mismo tiempo, la incorporación al artículo 5 de las prohibiciones frente al material íntimo no consentido y al material de abuso sexual infantil revela que el modelo europeo conserva la capacidad de actualizar su umbral de lo inaceptable a medida que la tecnología habilita nuevas formas de lesión de la dignidad humana.

La primera revisión consolida, en definitiva, un aprendizaje metodológico necesario en la regulación tecnológica, ya que la complejidad de las tecnologías reguladas exige marcos capaces de evolucionar mediante ajustes puntuales, técnicamente fundamentados y cuidadosamente delimitados, evitando tanto la rigidez excesiva como la inestabilidad legislativa permanente. El verdadero alcance de la reforma no debe medirse por el número de artículos modificados, sino por su contribución a hacer posible la aplicación efectiva de uno de los instrumentos normativos más complejos y relevantes aprobados por la Unión en la transformación digital. El AI Act continúa siendo el eje de la estrategia regulatoria europea, mientras que el Digital Omnibus on AI perfecciona los mecanismos necesarios para una aplicación más eficaz, proporcionada y homogénea de sus disposiciones. La reforma no altera el modelo europeo de regulación de la IA, sino que constituye, más bien, una manifestación de madurez regulatoria.

Referencias normativas
  • Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (AI Act).
  • Resolución legislativa del Parlamento Europeo, de 16 de junio de 2026, sobre la propuesta de Reglamento por el que se modifican los Reglamentos (UE) 2024/1689, (UE) 2018/1139 y (UE) 2023/1230 en lo relativo a la simplificación de la aplicación de las normas armonizadas en materia de inteligencia artificial (Digital Omnibus on AI) [P10_TA (2026)0198; procedimiento 2025/0359(COD); COM (2025) 836]. Posición del Parlamento adoptada en primera lectura con vistas a la adopción del Reglamento (UE) 2026/… [texto consolidado P10_TC1-COD (2025)0359].
  • Tratado de la Unión Europea y Tratado de Funcionamiento de la Unión Europea.
  • Carta de los Derechos Fundamentales de la Unión Europea.
  • Directiva 2011/93/UE y Directiva (UE) 2024/1385, sobre lucha contra el abuso sexual de menores y contra la violencia sobre la mujer, respectivamente.
Bibliografía básica
  • MUÑOZ VELA, J. M. (2024). La regulación de la inteligencia artificial. Reto y oportunidad desde una perspectiva global e internacional. Madrid: Aranzadi La Ley.
  • MUÑOZ VELA, J. M. (2024). «Aspectos generales del Reglamento de IA» y comentarios a los anexos I, III, IV, V y VI, en BARRIO ANDRÉS, M. (dir.), Comentarios al Reglamento Europeo de Inteligencia Artificial. Madrid: Aranzadi La Ley.
  • MUÑOZ VELA, J. M. (2025). «El Reglamento IA de la UE. Cuestiones de actualidad», en GUILLÉN, R. (coord.), Derecho de datos, inteligencia artificial e internet en el sector público y privado. Aranzadi La Ley.
  • Comisión Europea, Proposal for a Regulation laying down harmonised rules on Artificial Intelligence, COM (2021) 206 final, y comunicaciones sobre competitividad y simplificación normativa.
  • OCDE, Recommendation of the Council on Artificial Intelligence; Consejo de Europa, Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law.
Resumen

El Reglamento (UE) 2024/1689 (AI Act) constituyó un hito sin precedentes al erigirse en el primer marco horizontal y vinculante destinado a regular el desarrollo, la comercialización, la puesta en servicio y la utilización de sistemas de IA desde un enfoque basado en el riesgo. Su complejidad técnica, la amplitud subjetiva de sus destinatarios y la acelerada evolución tecnológica y su despliegue aconsejaron introducir ajustes, antes incluso de que buena parte de sus obligaciones resultara plenamente exigible.

En ese contexto se promovió la primera modificación, articulada mediante el denominado Digital Omnibus on AI. El 16 de junio de 2026 el Parlamento Europeo adoptó, en primera lectura, su posición [P10_TC1-COD (2025)0359] sobre la propuesta de la Comisión [COM (2025) 836] de modificación de los Reglamentos (UE) 2024/1689, (UE) 2018/1139 y (UE) 2023/1230, cerrando el acuerdo provisional alcanzado con el Consejo y dejando la reforma a falta únicamente de su adopción formal y publicación. Lejos de constituir una revisión estructural del modelo europeo, persigue simplificar mecanismos de aplicación, reducir cargas administrativas innecesarias, reforzar la proporcionalidad del régimen y clarificar aspectos que habían suscitado dudas interpretativas. Su rasgo más visible y de mayor impacto práctico es el aplazamiento del calendario de aplicación de las obligaciones sobre sistemas de alto riesgo, acompañado de la incorporación al artículo 5 de nuevas prohibiciones frente a la generación de material íntimo no consentido y de material de abuso sexual infantil.

El presente artículo analiza, en una primera aproximación, el texto adoptado desde una perspectiva estrictamente jurídica, identificando las principales modificaciones, su fundamento y sus consecuencias previsibles. La conclusión es que la reforma mantiene intactos los pilares estructurales del AI Act -protección de los derechos fundamentales, enfoque basado en el riesgo, supervisión pública y fomento de la innovación responsable-, pero recalibra diversos instrumentos para una aplicación más eficiente, homogénea y proporcionada.

La Gira de Derechos Digitales concluye en Madrid

/0 Comentarios/en /por

El próximo 9 de abril tendrá lugar, en la sede del Consejo General de la Abogacía Española, la sesión de cierre de la Gira de Derechos Digitales, iniciativa coorganizada por la Abogacía Española y ENATIC. La jornada se celebrará en formato presencial y online, con carácter gratuito.

Este encuentro final tiene como objetivo poner en común las principales conclusiones extraídas a lo largo del ciclo, así como analizar el papel de la abogacía en el desarrollo de competencias digitales en un entorno jurídico cada vez más condicionado por la tecnología.

La sesión se abrirá con una apertura institucional a cargo de Salvador González, presidente del Consejo General de la Abogacía Española, y de Jesús Herrero, director general de Red.es (pendiente de confirmación).

A continuación, la primera mesa, moderada por Berta Álvarez, estará dedicada a las conclusiones de la Gira de Derechos Digitales y contará con la participación de Belén Arribas, Leandro Núñez y José Manuel Muñoz, miembros de la Junta de ENATIC, quienes ofrecerán una visión de conjunto de los principales desafíos identificados a lo largo del ciclo y de cómo los derechos fundamentales se proyectan en el entorno digital.

La segunda mesa, moderada por nuestro socio Miguel Hermosa, abordará también las habilidades digitales y su impacto en la abogacía, analizando las competencias necesarias para el ejercicio profesional en un entorno cada vez más condicionado por la tecnología, con la participación de representantes institucionales y expertos del sector.

La jornada concluirá con un turno de preguntas y el cierre institucional, seguido de un espacio de encuentro entre los asistentes.

Puedes consultar el programa.

LegalTech 2026: 10 tendencias que transformarán tu despacho

/0 Comentarios/en /por

ENATIC organiza el webinar “LegalTech 2026: 10 tendencias que transformarán tu despacho”, una sesión orientada a analizar los principales vectores de cambio que están redefiniendo el ejercicio de la abogacía en un contexto de acelerada transformación tecnológica.

La irrupción de la inteligencia artificial, la automatización de procesos y la consolidación de nuevas herramientas digitales están modificando de forma sustancial la organización de los despachos, su relación con los clientes y los modelos de generación de valor en el sector legal.

En esta sesión se abordarán las diez tendencias clave que marcarán el corto plazo de la abogacía digital, con un enfoque práctico centrado en cómo integrar la tecnología de forma estratégica y alineada con las necesidades reales del ejercicio profesional.

El webinar contará con la intervención de Sara Molina Pérez-Tomé, vocal de ENATIC. Es consultora en innovación y transformación digital en el sector legal, con amplia experiencia internacional en proyectos de LegalTech, gestión contractual e implantación de inteligencia artificial en despachos y asesorías jurídicas.

La sesión será moderada por José Manuel Muñoz Vela, también vocal de la Asociación. Es abogado especializado en Derecho tecnológico e inteligencia artificial, doctor en Derecho y director jurídico de Adequa Corporación.

El encuentro se celebrará el próximo 11 de noviembre a las 17:00 horas (España), en formato online.

Acceso gratuito previa inscripción.

La Gira de Derechos Digitales llega a Cartagena y Murcia

/0 Comentarios/en /por

Los próximos días 16 y 17 de octubre se celebrarán en los Colegios de la Abogacía de Cartagena y Murcia dos nuevas sesiones del ciclo formativo de ponencias sobre derechos humanos digitales, impulsado por el Consejo General de la Abogacía Española en colaboración con ENATIC.

La Gira de Derechos Digitales busca acercar a la profesión jurídica los principales retos que plantea la protección de los derechos fundamentales en el entorno digital, así como promover la capacitación en competencias específicas y la concienciación sobre la relevancia de estas garantías.

En ambas jornadas, que podrán seguirse de forma presencial y online, se abordará la Carta española de Derechos Digitales, analizando su génesis, desarrollo y desafíos como instrumento pionero en este ámbito, y se expondrá también la propuesta europea de Carta de Derechos Digitales, situando estos derechos como auténticos derechos humanos de cuarta generación.

Las sesiones contarán con la apertura institucional de los respectivos decanos de Cartagena y Murcia, y las intervenciones de Berta Álvarez Ciordia, coordinadora de la Fundación Abogacía, y José Manuel Muñoz Vela, abogado especialista en Derecho Digital, doctor en Derecho y vocal de ENATIC, que presentará las claves de la Carta de Derechos Digitales.

Estas actividades se enmarcan en el Convenio suscrito entre Red.es, Enatic y el Consejo General de la Abogacía Española, entre otras entidades; destinado a impulsar la implementación de la Carta de Derechos Digitales en los ámbitos de libertad, protección y seguridad en el mundo digital, con financiación del Plan de Recuperación, Transformación y Resiliencia a través de los fondos NextGenerationEU.

Consulta más información sobre las sesiones: Cartagena · Murcia.

Imagen generada con ChatGPT 4.o bajo instrucciones de su autor.

Entrenamiento de modelos de IA con contenidos protegidos por derechos de autor: Novedades judiciales sobre la doctrina del fair use.

/0 Comentarios/en /por

Los debates jurídicos alrededor del entrenamiento de modelos de IA con contenidos protegidos por derechos de autor se están intensificando, especialmente en relación con la aplicación de las excepciones o limitaciones de los mismos, en particular respecto de la minería de textos y de datos (TDM) en la UE y el fair use en EE.UU., esgrimidas por la industria de la IA.

Mi opinión y posicionamiento desde hace años, expresada en diversas monografías, artículos de investigación y conferencias, ha sido muy contraria a la aplicación automática de estas excepciones, especialmente en el caso de la primera en el ámbito de la UE, en la medida que no fue concebida para legitimar la reproducción (en su caso) y uso de obras protegidas por derechos de autor para el entrenamiento de modelos de IA con finalidad comercial, sin autorización ni compensación de sus titulares.

En relación con la excepción de minería de textos y de datos, durante este último año se han ido sumando nuevas voces críticas en relación con su aplicación en este contexto, por ejemplo, expertos como Tim W. Dornis. Asimismo, esta cuestión protagonizó la tardía transposición de la Directiva (UE) 2019/790 sobre los derechos de autor y derechos afines en el mercado único digital por parte de Polonia, que analizó en su Proyecto de Ley de transposición la excepción de minería de textos y de datos previstos en la misma, concluyendo que “la reproducción de obras para minería de textos y datos no puede utilizarse para crear modelos generativos de inteligencia artificial”. Por último, el reciente borrador de informe sobre Copyright and generative artificial intelligence-opportunities and challenges, del Comité de Asuntos Jurídicos del Parlamento Europeo, de 27 de junio de 2025, en relación con la Propuesta de Resolución del Parlamento Europeo sobre los derechos de autor y la inteligencia artificial generativa – oportunidades y retos (2025/2058(INI)), abordó esta excepción, recomendando a la Comisión, con independencia de la revisión prevista del marco jurídico de los derechos de autor y de la Directiva de Derechos de Autor, que lleve a cabo urgentemente una evaluación exhaustiva de si el acervo existente de la UE en materia de derechos de autor aborda adecuadamente la inseguridad jurídica y los efectos sobre la competencia asociados al uso de obras protegidas y otras materias para el entrenamiento de sistemas de IA generativa. Del mismo modo, recomienda además que dicha evaluación tenga como objetivo apostar por un marco en el que los mecanismos de remuneración equitativa permitan generar los recursos necesarios para que la producción artística y creativa europea prospere en el contexto de la transformación mundial impulsada por la IA.

En relación con la doctrina del fair use estadounidense, durante los últimos meses se han sucedido las primeras resoluciones judiciales en EE.UU. sobre su aplicación al entrenamiento de modelos de IA en función del contexto, y que me permito analizar a continuación de manera sucinta dada la extensión limitada de este tipo de artículo, en colaboración con Mª José Montañana Bartual, quien ha profundizado en estas cuestiones y su análisis en un reciente y brillante trabajo de investigación elaborado en el marco académico de la Universidad de Valencia.

Resolución del Tribunal del Distrito de Delaware, dictada en el Caso Thomson Reuters Enterprise Centre GmbH vs. Ross Intelligence Inc. (No. 1:20-cv-613-SB). 11 de febrero de 2025 (1).

La resolución dictada por el Juez Stephanos Bibas, del Tribunal de Distrito de Delaware, representó un precedente fundamental en el derecho de autor estadounidense respecto al uso de obras protegidas por derechos de autor para el entrenamiento de modelos de IA. Se trata de la primera ocasión en la que un tribunal federal determinó que el uso de contenido protegido por derecho de autor para entrenar tecnología de IA no constituye un uso legítimo bajo la doctrina del fair use, sin perjuicio del precedente dictado en el asunto White v. West (2014), al que nos referiremos con posterioridad.

La demanda se interpuso por Thomson Reuters Enterprise Centre GmbH y West Publishing Corp contra Ross Intelligence Inc.

El objeto del litigio se sustentaba en la reproducción y uso de headnotes (2) protegidos por derechos de autor y pertenecientes a la herramienta Westlaw – una de las bases jurídicas más importantes de mundo titularidad de la parte demandante-, como datos de entrenamiento para un motor de búsqueda legal basado en IA comercializado por Ross Intelligence, un competidor emergente de Westlaw, para lo que contrató a un tercero (LegalEase), tras la negativa previa de Thomson Reuters a licenciarle su contenido para entrenar su sistema.

Westlaw contiene bases de datos legales organizadas mediante un sistema propietario llamado “Key Number System” e incluye «headnotes» o sumarios que identifican los aspectos clave de la resolución a la que van asociados.

La parte demandante argumentó que Ross había infringido sus derechos de autor sobre sus headnotes como obras individuales, sobre el sistema Key Number System como compilación protegida y sobre las decisiones editoriales incorporadas en 500 valoraciones judiciales.

Para la parte demandante los headnotes constituían obras originales protegibles por derechos de autor, ya que representaban una síntesis creativa de opiniones judiciales extensas, requiriendo juicio editorial para identificar los puntos de derecho más relevantes.

La parte demandada basó su defensa en el fair use argumentando, entre otros aspectos, de un lado, que su uso era transformativo al crear una nueva herramienta de investigación legal con propósito diferente al original, de otro, la falta de originalidad de los headnotes y, de otro, su uso intermedio para el entrenamiento de modelos de IA, como los que se vienen haciendo en la ingeniería inversa respecto del software.

El Juez consideró que los headnotes están protegidos por derechos de autor, considerando que son producto del trabajo intelectual de los redactores y que contienen explicaciones originales, habiéndose copiado más 2.200 headnotes de forma textual y casi idéntica.

El Juez estimó la mayor parte de las peticiones de la parte demandante, rechazando la aplicación del fair use esgrimido como argumento de defensa por Ross Intelligence para el entrenamiento de su modelo de IA, y declarando la infracción directa de los derechos de autor de la parte demandante por parte de la demandada.

La resolución judicial abordó la ponderación de los distintos factores a considerar para considerar concurrente la excepción de fair use, conforme a la disposición 17 U.S.C. § 107, esto es, la finalidad y carácter del uso (uso comercial y no transformador por parte de Ross, distinguiéndolo de casos anteriores como Google LLC v. Oracle Am., Inc., 593 U.S. 1 -2021-), la naturaleza de la obra protegida (aunque sea considerada de un nivel creativo medio o limitado y con originalidad), la cantidad y sustancialidad del uso de las obras protegidas (las headnotes no fueron incluidas por Ross en el producto final, solo fueron utilizadas para el entrenamiento del modelo) y el efecto en el mercado (con afectación del mercado existente y potencial de Westlaw y a su negocio, estando además entre los planes de Ross competir directamente con Westlaw). Este último factor fue considerado el más importante, conforme recoge en otros pronunciamientos judiciales anteriores referenciados en la resolución judicial, como en el asunto Harper & Row, Publishers, Inc. v. Nation Enterprises, 471 U.S. 539 (1985).

Una vez ponderados estos factores, el Juez consideró que la doctrina del fair use es inaplicable en el supuesto analizado, concluyendo que el uso de los headnotes para el entrenamiento de modelos de IA no era transformador y competía directamente con el producto original, afectando su mercado, por lo que dictó sentencia a favor de la parte demandante por infracción directa de los derechos de autor sobre los headnotes, rechazando la concurrencia de fair use.

Significar algunas de sus conclusiones: “No basta con decir que el uso fue ‘para entrenar una IA’ o que ‘nadie verá directamente los textos copiados’. Si estás usando algo protegido por derechos de autor con fines comerciales, y sin transformarlo realmente, no puedes escudarte en el fair use”. “No todo uso de obras protegidas para entrenar inteligencia artificial está amparado por el fair use”, especialmente cuando el uso no es realmente transformador y compite con el creador original.

El Juez Bibas introdujo una analogía innovadora comparando la creación de headnotes con el trabajo escultórico. Esta metáfora legal establece que, así como un escultor crea una obra protegible al extraer una forma de un bloque de mármol, los editores legales crean obras protegibles al extraer aspectos jurídicos clave de opiniones judiciales extensas.

Del mismo modo, la resolución establece una distinción entre el copying intermedio en casos de software y el entrenamiento de IA. Mientras que en casos precedentes como el indicado anteriormente entre Google vs Oracle permitieron el copying intermedio cuando era necesario para acceder a elementos funcionales no protegidos, el Juez determinó que esta justificación no se aplica al entrenamiento de IA con contenido no funcional.

El Juez también rechazó el argumento de que el entrenamiento de IA es inherentemente transformativo, estableciendo que el carácter transformativo debe evaluarse según el propósito específico del uso, no según la tecnología empleada. El caso sigue abierto donde deberá también dilucidarse sobre el uso del sistema de organización “Key Number”.

La decisión estableció un precedente restrictivo para compañías de IA que buscan utilizar contenido protegido por derechos de autor para entrenamiento, especialmente cuando a) exista competencia directa con el titular de derechos de autor; b) el uso sea comercial y sin transformación significativa y; c) afecte a mercados existentes o potenciales en relación con las obras originales.

No obstante, este pronunciamiento contrasta relativamente con otros posteriores dictados en casos recientes, como el de Anthropic o Meta, que se abordarán a continuación, en la medida que en estos últimos se determinó que el entrenamiento de IA con obras protegidas podría considerarse fair use «con transformación significativa». Estas discrepancias judiciales y la falta de una delimitación clara de la doctrina del fair use en el marco del entrenamiento de modelos de IA sugieren que la cuestión llegará a la Corte Suprema.

Resolución del Tribunal de Distrito del Norte de California (Caso C24- 05417 WHA) sobre el uso de obras protegidas por derechos de autor por parte de Anthropic PBC en el entrenamiento de modelos de IA (Claude). 23 de junio de 2025 (3).

La resolución constituye otro precedente fundamental en la aplicación de la doctrina del fair use al entrenamiento de modelos de IA con obras protegidas por derechos de autor. La decisión judicial establece criterios diferenciados para evaluar distintos usos de obras protegidas por derechos de autor en el desarrollo de IA, marcando límites claros entre usos legítimos e infracciones de los derechos de autor.

La demanda fue interpuesta por Andrea Bartz, Charles Graeber y Kirk Wallace Johnson como autores, junto con sus entidades titulares de derechos, frente a Anthropic PBC, empresa de IA desarrolladora del modelo Claude, por infracción de derechos de autor por la entidad demandada al supuestamente entrenar su modelo de IA utilizando libros protegidos por derechos de autor, algunos obtenidos de fuentes ilícitas (piratas) y otros adquiridos legítimamente por Anthropic.

La parte demandante alegó la infracción de sus derechos de autor por la reproducción no autorizada de sus obras para crear una biblioteca central de libros y entrenar los modelos de IA con sus obras, la retención en los modelos de copias comprimidas de sus obras, la obtención de sus obras de fuentes ilícitas -piratas-, la no aplicación del fair use como causa legitimadora para el entrenamiento de modelos de IA con sus obras y la emulación de su estilo y expresión narrativa por parte del sistema generativo de la demandada. Y todo ello significando la naturaleza comercial lucrativa del negocio de Anthropic y el daño en el mercado, dado que el uso desplazaba ventas potenciales y mercados de licenciamiento emergentes.

Por su parte, la parte demandada reconoció el uso y copia masiva de obras y argumentó, entre otros aspectos, de un lado, que lo hizo con finalidad y uso transformativo de entrenamiento de sus modelos de IA y para la construcción de una biblioteca de investigación interna, de otro, que sus modelos no reproducen directamente las obras y, por último, que la transformación mediante la digitalización de libros físicos comprados en tiendas y plataformas para su conversión en PDF para uso interno era un uso razonable y legítimo (fair use). Adicionalmente, argumentó la analogía con el aprendizaje humano, comparando el entrenamiento de IA con el proceso de lectura y aprendizaje humano, de modo que no debería haber diferencias en el tratamiento legal, junto con el beneficio público para la sociedad de todo ello y la necesidad técnica de utilizar grandes volúmenes de datos para entrenar los modelos de IA.

Según recoge la resolución, Anthropic descargó millones de copias pirateadas de libros desde sitios como Books3, LibGen y PiLiMi entre 2021-2022. Posteriormente compró millones de libros físicos, los destruyó y los digitalizó para crear una «biblioteca de investigación central», utilizó subconjuntos de estas obras para entrenar diversos modelos de lenguaje que alimentan a Claude y generó más de mil millones de dólares en ingresos anuales.

El Juez William Alsup, a diferencia de la resolución anteriormente analizada, admitió el fair use para el entrenamiento de los modelos de la parte demandada con obras protegidas adquiridas en el mercado por la misma y su digitalización, si bien, rechazó el fair use respecto de obras obtenidas de fuentes ilícitas, considerando su uso una infracción.

El Juez tomó como referencia normativa para su resolución la disposición 17 U.S.C. § 107 – Fair Use Doctrine, así como casos precedentes como: Google v. Oracle (593 U.S. 1, 2021), que admite el fair use incluso en uso comercial si el fin es suficientemente transformador; Campbell v. Acuff-Rose (510 U.S. 569, 1994), que aborda el uso paródico como fair use; Authors Guild v. Google (804 F.3d 202, 2d Cir. 2015), que establece que escaneo masivo de libros puede ser fair use; Andy Warhol Foundation v. Goldsmith (2023); Thomson Reuters v. Ross (D. Del. 2025), que establece que el uso de textos jurídicos para IA no fue transformativo o; White v. West Pub. (S.D.N.Y. 2014), que consideró que constituye fair use usar textos jurídicos y justificado convertir y reutilizar material público de manera transformativa en bases de datos comerciales.

De este modo, el Juez admitió el fair use esgrimido por la parte demandada, tanto para el entrenamiento de sus modelos -considerando que sus modelos fueron entrenados con los libros, sin reproducción de los textos (aprenden patrones y estructura de lenguaje), sin generación de resultados de salida literales de las obras a los usuarios y con un uso transformativo, equiparando el proceso a cómo una persona aprende a escribir leyendo libros-, como para la conversión de libros comprados de formato físico a digital con finalidades de almacenamiento y búsqueda. Sin embargo, se rechazó la aplicación del fair use en relación con la descarga de libros por la parte demandada desde sitios piratas como Books3, LibGen o PiLiMi para conformar una biblioteca centralizada.

En definitiva, la doctrina sobre la que se sustenta esta resolución es que “el uso de libros adquiridos legalmente para entrenamiento de IA sería fair use”, considerando dicho uso transformativo a los efectos de la aplicación de la excepción. La creación de copias digitales a partir de libros comprados también lo es. Pero la piratería masiva para construir una biblioteca permanente no lo es y constituye una infracción. Significar, entre otros aspectos criticables de la resolución, que las obras protegidas fueron adquiridas en el mercado por la parte demandada con esa particular finalidad comercial pero no fueron puestas en el mercado y comercializadas por los titulares de los derechos sobre las mismas con dicha finalidad para sus usuarios, sino para un uso privado no comercial.

La resolución abre la vía para una demanda de responsabilidad multimillonaria contra Anthropic que podría impactar en negocio e incluso en su continuidad, por lo que acaba de reforzar su defensa con la contratación de varios abogados expertos para afrontar la misma.

Resolución del Tribunal de Distrito del Norte de California (caso No. 3:23- cv-03417, VC) en la demanda por infracción de derechos de autor contra Meta Platforms, Inc. por el uso de libros protegidos en el entrenamiento de modelos de IA (LLaMA). 25 de junio de 2025 (4).

La demanda fue interpuesta por distintos autores como Sarah Silverman, Christopher Golden y Richard Kadrey frente a Meta Platforms, Inc., por el entrenamiento por parte de ésta de sus modelos de IA LLMs (LLaMA 1 y LLaMA 2) con libros protegidos por derechos de autor sin autorización ni compensación, y desde fuentes ilícitas (piratas).

La parte demandante alegó una infracción masiva por entrenamiento de modelos de IA con obras protegidas, Según la misma, Meta obtuvo libros desde fuentes ilícitas (piratas), copiando y procesando íntegramente sus obras sin autorización ni compensación para entrenamiento de sus modelos, argumentando que dichos modelos podrían reproducir fragmentos protegidos y contenidos que compiten con los suyos, y que ello perjudica su capacidad de licenciar sus obras.

La parte demandada reconoció haber utilizado materiales pirateados, pero argumentó que dicho uso constituye fair use conforme a la disposición 17 U.S.C. § 107, invocando la naturaleza transformadora del entrenamiento de sus modelos y sosteniendo que los mismos no reproducen ni distribuyen directamente las obras protegidas o fragmentos de ellas, conforme la parte demandante no demostró, sino que se convierten en patrones estadísticos.

Para la parte demandada, entrenar sus modelos LLMs era un uso transformativo distinto al de lectura o entretenimiento, equiparable a cómo aprender de una obra para producir algo diferente.

El Juez tomó como referencia normativa para su resolución la disposición 17 U.S.C. § 107 – Fair Use Doctrine, así como los siguientes casos: Twentieth Century Music Corp. v. Aiken, 422 U.S. 151, 156 (1975); Harper & Row Publishers, Inc. v. Nation Enterprises, 471 U.S. 539, 566 (1985); Campbell v. Acuff-Rose Music, Inc., 510 U.S. 569, 590 (1994); Sony Corp. of America v. Universal City Studios, Inc., 464 U.S. 417, 430 (1984); Google LLC v. Oracle America, Inc., 593 U.S. 1, 18 (2021), que admite el fair use incluso en uso comercial si el fin es suficientemente transformador; Andy Warhol Foundation for the Visual Arts, Inc. v. Goldsmith, 598 U.S. 508, 526 (2023); Authors Guild v. Google (804 F.3d 202, 2d Cir. 2015), que establece que escaneo masivo de libros puede ser fair use; Thomson Reuters v. Ross (D. Del. 2025), que establece que el uso de textos jurídicos para IA no fue transformativo y; White v. West Pub. (S.D.N.Y. 2014).

La doctrina sobre la que el Juez sustentó esta resolución es que el uso de libros para entrenamiento de modelos de IA sería fair use, en defecto de alegaciones y pruebas que motiven determinar su no concurrencia, considerando el carácter transformador de dicho entrenamiento y no considerando la concurrencia de daños al mercado.

A diferencia del pronunciamiento judicial analizado en el caso Claude, C24- 05417 WHA, junio 2025, el Juez, Vince Chhabria, desestimó la petición contra Meta, argumentando que el entrenamiento de los modelos de IA era altamente transformador y que los demandantes no demostraron un daño real ni impacto en el mercado, aplicando la doctrina del fair use.

El juez reconoció que el uso de obras protegidas sin autorización para entrenar IA podría ser ilegal en muchos contextos, pero en este caso concreto la demanda fue desestimada por falta de pruebas y por la argumentación incorrecta de los demandantes según el juzgador. La decisión enfatizó que el fallo no implica que cualquier uso de obras protegidas por Meta sea legal, sino que los demandantes no lograron fundamentar adecuadamente su reclamación en instancia. El fallo no pretende avalar automáticamente toda práctica de la parte demandada.

Al igual que en el caso Bartz contra Anthropic, el juzgador consideró que el fair use eximía de responsabilidad a la parte demandada por supuesta infracción de derechos de autor. Ambos tribunales llegaron a la misma conclusión, si bien, sus razonamientos sobre la aplicación de la prueba de los cuatro factores de la doctrina del fair use (finalidad y carácter, naturaleza de la obra, cantidad usada y efecto en el mercado) fueron diferentes y con importantes salvedades.

El juez Chhabria, en el caso Meta, abordó con profundidad un posible argumento que los demandantes podrían haber esgrimido, pero que no presentaron de forma adecuada, esto es, que Meta había “copiado sus obras para crear un producto que probablemente inundaría el mercado con obras similares, provocando una dilución del mercado”. La teoría de la dilución es novedosa en el ámbito de los derechos de autor y se base en la expectativa de que los usuarios de sistemas generativos puedan producir volúmenes tan grandes de obras generadas por IA que los mercados ser verán inundados de obras generadas por IA que competirán con obras creadas por autores humanos, de modo que se desincentivarán éstos para crear obras nuevas y no
podrán vivir de la creación y explotación de sus obras.

Según el juez, si la parte demandante hubiera presentado alguna prueba que un jurado pudiera haber utilizado para determinar que los demandantes se  enfrentaban a tal dilución del mercado, la demanda interpuesta habría tenido que ser sometida a un jurado (no sumario), por lo que considera que el tribunal “no tenía más remedio” que dictar una resolución sumaria. El Juez considera en su resolución que la parte demandante presentó argumentos erróneos.

En definitiva, la resolución dictada constituye una decisión limitada al caso concreto y evidencia, a nuestro juicio, que el debate jurídico sobre la doctrina del fair use sigue abierto, en la medida que la aplicación de misma no está claramente delimitada y el posicionamiento de expertos no es pacífico, de modo que es previsible la intensificación del debate doctrinal y litigioso en EE.UU. Actualmente hay más de 40 procedimientos judiciales en tramitación sobre estos aspectos y habrá que esperar a la firmeza de sus resoluciones para conformar la doctrina del uso legítimo.

José Manuel Muñoz Vela
Abogado especialista en Derecho Digital e IA
Doctor en Derecho (IA)
Director Jurídico Adequa Corporación

Mª José Montañana Bartual
Graduada en Derecho y Criminología
Universidad de Valencia

(1) Thomson Reuters v. ROSS Intelligence, 1:20‑cv‑613‑SB (D. Del., feb‑2025)
(2) Son resúmenes breves que Westlaw crea para cada sentencia judicial
(3) Recuperado de https://regmedia.co.uk/2025/06/24/anthropic.pdf. Consultado el 28 de junio de 2025.
(4) Recuperado de https://cdn.arstechnica.net/wp-content/uploads/2025/03/Kadrey-v-Meta-Motion-for-Summary-Judgment-3-10-25.pdf. Consultado el 28.06.2025

Responsabilidad civil e IA

/0 Comentarios/en /por

Novedades en la propuesta reguladora de la UE en materia de responsabilidad civil extracontractual.

El Libro blanco sobre la inteligencia artificial de la Comisión Europea, de 19 de febrero de 2020, definió la hoja de ruta reguladora de la UE en materia de IA bajo un enfoque de riesgos, agrupándolos en tres bloques, en particular, los riesgos para los derechos fundamentales, los riesgos para la seguridad y los riesgos para un funcionamiento eficaz del régimen de responsabilidad civil.

La necesidad de garantizar el derecho a un resarcimiento efectivo de los perjudicados como consecuencia de los daños derivados del uso o funcionamiento de la IA y la preocupación del legislador europeo al respecto, se evidenciaron en la Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica.

La posteriorResolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas, incorporó como propuesta del mismo a la Comisión, la “Propuesta de Reglamento del Parlamento europeo y del Consejo sobre los principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas”. El instrumento propuesto establecía, entre otras obligaciones para los sistemas inteligentes de alto riesgo, la rendición de cuentas y el derecho de resarcimiento en caso de daños causados por el desarrollo, despliegue y uso de la IA.

La coetánea Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un régimen de responsabilidad civil en materia de inteligencia artificial, incorporó igualmente una “Propuesta de Reglamento del Parlamento Europeo y del Consejo relativo a la responsabilidad civil por el funcionamiento de los sistemas de inteligencia artificial”.

El Parlamento proponía a la Comisión el establecimiento de un régimen legal de responsabilidad civil en materia de IA, mediante un instrumento jurídico con alcance general y de eficacia directa, que preveía un régimen de responsabilidad dual, de un lado, una responsabilidad objetiva para los sistemas clasificables conforme al mismo de alto riesgo y, de otro, una responsabilidad subjetiva para el resto, junto con otros aspectos como la responsabilidad solidaria en caso de pluralidad de agentes que pudieran intervenir en el ciclo de vida de un sistema inteligente.

La responsabilidad objetiva contemplada en aquella propuesta correspondía inicialmente al operador, y al fabricante cuando el control del riesgo recayera en aquél, acompañándose de la exigencia de un seguro obligatorio de responsabilidad civil, así como una limitación cuantitativa de las indemnizaciones. Del mismo modo, el Parlamento instaba expresamente a la Comisión entonces para que considerara la posibilidad de revertir las normas que regían la carga de la prueba para los daños ocasionados por las tecnologías digitales emergentes en casos concretos, previa y adecuada evaluación.

Estas propuestas no derivaron posteriormente en las correlativas iniciativas legislativas.

El 12 de junio de 2024 se publicó en el DOUE, después de más de tres años de tramitación desde la publicación de su primera versión, el 21 de abril de 2021, el Reglamento IA de la UE. El instrumento aprobado, concebido desde un enfoque de riesgos, no regula la responsabilidad civil asociada al uso y funcionamiento de la IA, al margen de la relación o impacto de algunas de sus disposiciones en la misma, por ejemplo, sus artículos25, 85 y 86.

La necesidad de revisar y ordenar jurídicamente la responsabilidad civil extracontractual asociada a la IA, ante la insuficiencia de los regímenes legales actuales para responder adecuadamente a los distintos supuestos que puede plantear la IA, motivaron la Propuesta de Directiva del Parlamento Europeo y del Consejo, relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial (Directiva sobre la responsabilidad en materia de IA), de 28 de septiembre de 2022, publicada coetáneamente con la Propuesta de Directiva del Parlamento Europeo y del Consejo, sobre responsabilidad por los daños causados por productos defectuosos.

El instrumento propuesto en materia de responsabilidad en materia de IA se apartó, de un lado, de la propuesta previa precitada del Parlamento a la Comisión, tanto en la forma como en el contenido, optando por una “Directiva” en lugar de “Reglamento y distanciándose de su objeto, contenido y alcance, y, de otro, del informe previo Liabilityfor Artificial Intelligence and otheremerging digital technologies de 2019, elaborado por el Grupo de expertos en responsabilidad y nuevas tecnologías de la Comisión Europea.

La Comisión adoptó la opción que suponía la menor intervención legislativa para la misma y que consideraba suficiente para la consecución de los objetivos pretendidos, en especial, el resarcimiento efectivo de la víctima que sufra daños, apartándose del posicionamiento de expertos y ciudadanía respecto de la exigencia de una responsabilidad objetiva para determinados sistemas  junto con la exigencia de seguros obligatorios -conforme evidenciaba la Evaluación de Impacto previa-, y atendiendo así a la demanda de la industria de la IA.

La Directiva propuesta integra un conjunto de disposiciones de carácter principalmente procesal más que sustantivo, dirigidas a facilitar la prueba a través de presunciones iuris tantum en relación con los elementos tradicionales de la responsabilidad extracontractual, esto es, la culpa y la relación de causalidad, considerándolas suficientes para equilibrar los intereses de todas las partes implicadas y con supuesta eficacia preventiva. La Directiva apuesta por una responsabilidad civil subjetiva o por culpa, no contemplando una posible responsabilidad objetiva para determinados sistemas de alto riesgo, la exigencia de seguros obligatorios o la inversión de la carga de la prueba.

La tramitación del instrumento no había avanzado durante los últimos dos años, si bien, su texto fue revisado el 24 de julio de 2024 por los Servicios de la Comisión, al objeto de considerar el contenido final del Reglamento IA de la UE, incorporando algunas adiciones de especial relevancia a los efectos de la aplicación de sus disposiciones (Por ejemplo, la nueva redacción propuesta del artículo 4.3.c).

El pasado mes de septiembre se presentó una Evaluación de Impacto Complementaria de la misma, a solicitud de la Comisión de Asuntos Jurídicos (JURI) del Parlamento Europeo, en la que se señalan deficiencias clave en la evaluación de impacto previa de la Comisión, entre ellas “una exploración incompleta de las opciones de política reguladora y un análisis abreviado de costes y beneficios, en particular del régimen de responsabilidad objetiva”.

El estudio realizado propone ahora que la Directiva propuesta amplíe su ámbito de aplicación para incluir los sistemas de propósito general y otros «sistemas de IA de alto impacto», así como los programas informáticos. Del mismo modo, analiza un marco de responsabilidad dual que equilibre la responsabilidad basada en la culpa y la responsabilidad objetiva, recomendando pasar de una directiva centrada en la IA a un reglamento sobre responsabilidad de los programas informáticos, para evitar la fragmentación del mercado y aumentar la claridad en toda la UE. Es decir, propone recuperar el instrumento regulador y modelo de responsabilidad dual recogidos en la propuesta del Parlamento Europeo precitada de 2020.

Las reuniones del Grupo de Trabajo sobre Responsabilidad Civil prosiguen en la actualidad bajo la Presidencia húngara.

Referencias bibliográficas complementarias:

MUÑOZ VELA, J.M. (2024). La regulación de la inteligencia artificial. Reto y oportunidad desde una perspectiva global e internacional. Editorial Aranzadi.

MUÑOZ VELA, J.M. (2024). “Retos, riesgos y responsabilidad de la inteligencia artificial”, en Giménez. I. (2024) Inteligencia Artificial. Retos y oportunidades. Editorial Fundación de Estudios Bursátiles y Financieros.

MUÑOZ VELA, J.M. (2023). “IA y responsabilidad civil. Comentarios a las propuestas europeas en materia de derechos de daños por productos defectuosos y adaptación de las normas de responsabilidad civil extracontractual”. Revista Aranzadi de derecho y nuevas tecnologías. Nº. 61. Editorial Aranzadi (Thomson Reuters).

MUÑOZ VELA, J.M. (2022). “Avanzando en la regulación de la IA. Hacia un equilibrio entre ética, protección de los derechos fundamentales, seguridad, confianza, innovación, desarrollo y competitividad”. Derecho Digital e Innovación. Núm. 14. Octubre-Diciembre. 2022. Ed. Wolters Kluwer.

MUÑOZ VELA, J.M. (2022). Retos, riesgos, responsabilidad y regulación de la inteligencia artificial. Un enfoque de seguridad física, lógica, moral y jurídica. Editorial Aranzadi (Thomson Reuters)