La UE pondrá coto a la capacidad de generar contenido sexual abusivo mediante inteligencia artificial (IA): el acuerdo alcanzado este jueves por el Parlamento Europeo y el Consejo (los Estados) para simplificar la Ley de IA formaliza la prohibición de los sistemas de inteligencia artificial que permitan crear imágenes sexualizadas sin consentimiento y la generación de pornografía infantil, consolidando así una enmienda que había propuesto España.
Concretamente, la nueva normativa prohibirá comercializar en la UE los sistemas de IA que tengan como objeto la creación de este tipo de contenidos. También se vetarán aquellos sistemas que, aunque no estén creados específicamente para crear estos contenidos, puedan hacerlo, salvo que dispongan de “medidas de seguridad razonables para impedir dicha creación”. Tampoco se permitirá que entren al mercado europeo los operadores que usen esos sistemas con el fin de crear este tipo de contenidos no consentidos.
El cambio a la normativa fue propuesto tras la polémica que se dio a finales de diciembre y en enero en la red social X, donde se viralizaron miles de imágenes sexualizadas de mujeres reales retocadas con IA, un proceso llamado deepfake. Según datos del Centro para Contrarrestar el Odio Digital, los usuarios de X generaron tres millones de imágenes sexualizadas en solo 11 días.
La prohibición de estos sistemas, que empezará a aplicarse el 2 de diciembre de este año, le permitirá a la UE “disponer de las herramientas necesarias para actuar si los proveedores no toman medidas respecto a los sistemas de IA que ponen en peligro los derechos fundamentales o la dignidad humana”, ha celebrado el eurodiputado liberal irlandés Michael McNamara, que participó en las negociaciones finales del texto consensuado con el Consejo —y que ahora solo queda ser ratificado formalmente por las dos partes— como relator de la Comisión de Libertades Civiles del hemiciclo europeo.
Según ha declarado la Eurocámara en un comunicado, la intención es que este último paso procedural sea realizado en un pleno antes de que comience el periodo estival, con vistas a que las modificaciones previstas al reglamento puedan estar aprobadas antes del 2 de agosto. El Consejo tampoco ha fijado aún una fecha para la ratificación final, aunque se compromete a hacerlo en las “próximas” semanas.
El motivo de la urgencia —la simplificación de la ley de IA ha sido tramitada y negociada en poco más de cinco meses desde que la Comisión Europea la propuso, a mediados de noviembre— es que el 2 de agosto es la fecha en que, originalmente, debía entrar en vigor la implementación total del pionero reglamento europeo, incluidas las normas para los sistemas de alto riesgo. Pero precisamente, la propuesta de “simplificación” de la Comisión presentada a finales del año pasado buscaba dar un balón de oxígeno a las grandes tecnológicas, al proponer un retraso de más de un año en la aplicación de la prohibición de los sistemas de IA de alto riesgo, es decir, aquellos que requieren de una supervisión permanente, como los de identificación biométrica remota, los sistemas de categorización biométrica, los que afecten a la seguridad de las infraestructuras críticas o los relacionados con la educación, el empleo y la prestación de servicios públicos esenciales, la aplicación de la ley o la gestión de la migración.
Según la normativa ahora validada, las obligaciones para estos sistemas empezarán a regir solo a partir del 2 de diciembre de 2027.
Más tiempo aún, hasta el 2 de agosto de 2028, tendrán los sistemas de inteligencia artificial utilizados como componentes de seguridad y regulados por la legislación sectorial de la UE en materia de seguridad y vigilancia del mercado, según lo acordado.
La nueva normativa también aplaza la aplicación de las obligaciones relativas al marcado digital de los contenidos generados por IA, el denominado watermarking (marcas de agua), que permite detectar y rastrear los contenidos generados por IA.
No obstante, el retraso no va tan lejos como la propuesta original de la Comisión: estas obligaciones empezarán a regir el 2 de diciembre de 2026, igual que la prohibición de los contenidos sexualizados no consentidos, y no a partir del 2 de febrero de 2027, como proponía el Ejecutivo europeo.
“Nuestras empresas y los ciudadanos quieren dos cosas de las normas sobre la inteligencia artificial: quieren que sean innovadoras, pero también sentirse seguros. El acuerdo de hoy cumple las dos cosas”, ha aseverado la vicepresidenta de la Comisión para Soberanía Tecnológica, Henna Virkkunen.