Bruselas, 20 de mayo de 2025 – La Unión Europea ha dado otro paso significativo hacia la regulación de las tecnologías de inteligencia artificial y la lucha contra la desinformación. Hoy se supo que se alcanzó un acuerdo preliminar entre representantes de los estados miembros de la UE sobre detalles técnicos clave y mecanismos de implementación para la legislación histórica previamente adoptada: la Ley de IA. Durante las negociaciones actuales, se prestó especial atención a los requisitos para garantizar la transparencia e identificación del contenido generado por sistemas de IA, en particular los llamados deepfakes.
Los nuevos acuerdos estipulan que los desarrolladores y operadores de potentes modelos de IA generativa capaces de crear contenido de audio, foto y vídeo realista pero sintético estarán obligados a implementar medios técnicos fiables para su etiquetado. Estas podrían ser "marcas de agua" digitales, metadatos u otras tecnologías que permitan al usuario final o a un sistema de verificación determinar inequívocamente que el contenido fue creado o alterado significativamente mediante IA. Esta medida tiene como objetivo aumentar la alfabetización mediática entre la población y proporcionar herramientas para reconocer información potencialmente engañosa, lo cual es especialmente relevante en vísperas de elecciones y en el contexto de amenazas híbridas.
Los expertos señalan que esta decisión es un compromiso entre la necesidad de proteger a la sociedad de la manipulación y el deseo de no reprimir la innovación en el campo de la IA, en rápido desarrollo. Los requisitos de etiquetado se diferenciarán según el nivel de riesgo del sistema de IA específico. Se espera que las reglas más estrictas se apliquen a los sistemas capaces de generar contenido que podría usarse para fraude, crear noticias falsas o desacreditar a figuras públicas. Al mismo tiempo, se pueden contemplar condiciones más flexibles para las herramientas de IA utilizadas con fines creativos con una clara indicación de su naturaleza.
La siguiente etapa será la aprobación formal de estas especificaciones técnicas y su posterior implementación en la legislación nacional de los países de la UE. La comunidad tecnológica necesitará desarrollar y estandarizar métodos de etiquetado eficaces que sean resistentes a los intentos de eliminación o elusión. Es probable que esta decisión de la UE tenga un impacto significativo en los estándares globales para el desarrollo y uso de la IA generativa, ya que muchas empresas internacionales se esfuerzan por cumplir con los altos requisitos europeos para acceder al gran mercado de la UE. También estimula el debate sobre el equilibrio entre la innovación, la libertad de expresión y la necesidad de protección contra el uso malicioso de la tecnología.