El próximo 2 de agosto entrarán en vigor las primeras normas que obligarán a informar al público cuando un contenido es creado o modificado con inteligencia artificial (IA). Estas regulaciones se implementarán en la Unión Europea (UE) y California, en Estados Unidos.
Las nuevas normas, que buscan combatir la desinformación y el fraude en línea, se enmarcan en el artículo 50 de la Ley de Inteligencia Artificial de la Unión Europea (EU AI Act), que ha sido pionera en la regulación de la IA desde 2024 y, en el caso de California, surge de la Ley de Transparencia de IA del estado.
Las autoridades se coordinaron para implementar estas regulaciones en la misma fecha, ya que se espera un fuerte impacto en las empresas desarrolladoras de IA y también en otras jurisdicciones del mundo.
¿Qué significa el etiquetado obligatorio de IA?
De acuerdo con el sitio oficial de la norma europea, la ley “establece obligaciones de transparencia para los proveedores y los responsables de la implementación de determinados sistemas de IA, en virtud de las cuales se debe informar a los usuarios cuando interactúan con un sistema de IA o cuando el contenido ha sido generado por IA”.
Si bien entra en vigencia el 2 de agosto, las empresas tendrán hasta el 2 de diciembre para adaptarse a este sistema.
En estricto rigor, será obligatorio informar el uso de IA en 4 situaciones:
1. Cuando la IA interactúe directamente con las personas.
2. Cuando la IA genere contenido sintético.
3. Cuando se utilice IA para el reconocimiento de emociones o la clasificación biométrica.
4. Cuando la IA cree deepfakes o textos sobre asuntos de interés público.
Esto significa que los proveedores de chatbot, asistentes virtuales y otros sistemas similares creados para interactuar con las personas deben estar diseñados de tal forma que los usuarios sepan en todo momento que es IA.
Por otro lado, los proveedores de sistemas de IA generativa —que producen texto, imágenes, audio y vídeo— tendrán que etiquetar sus creaciones en formato legible y fácil de identificar. La UE informó que “se está elaborando una etiqueta normalizada”.
En California, la ley AB853 actualiza la Ley de Transparencia de IA vigente e impone que las empresas pongan a disposición del público herramientas de detección de IA, pero también de otros orígenes. Esto aplica para “grandes plataformas en línea”, como las redes sociales o motores de búsqueda, así como las compañías donde se alojan grandes sistemas de IA generativa.
En el caso de las plataformas en línea, las obligaciones serán:
1. Detectar si hay datos de procedencia incrustados o adjuntos al contenido distribuido.
2. Proporcionar una interfaz de usuario para revelar la disponibilidad de datos de procedencia del sistema que indiquen de manera confiable que el contenido fue generado o alterado sustancialmente por un sistema de IA generativa, o capturado por un dispositivo de captura.
3. Permitir que un usuario inspeccione todos los datos de procedencia del sistema disponibles de una manera fácilmente accesible.
Esto se traduce en que los usuarios puedan saber en detalle y fácilmente quién o qué creó el contenido, cómo fue creado, si es que fue modificado, cuándo y con qué herramienta se modificó.
Para las plataformas de alojamiento de sistemas de IA generativa, la ley exige que el contenido creado o modificado por un sistema de IA generativa incluya:
1. Una divulgación manifiesta que identifique el contenido como contenido generado por IA; sea clara, visible, apropiada y comprensible; y sea permanente o extraordinariamente difícil de eliminar.
2. Una divulgación que transmita el nombre del proveedor del sistema, el nombre y la versión del sistema de IA generativa, la hora y la fecha de creación o alteración del contenido y un identificador único; que se pueda identificar con la herramienta de detección de IA del proveedor; sea coherente con los estándares de la industria; y sea permanente o extraordinariamente difícil de eliminar.
La norma californiana también regulará a los fabricantes de dispositivos de captura, como cámaras, grabadoras de voz o teléfonos móviles, para el 2028. El fabricante estará obligado a proporcionar al usuario la opción de incluir una divulgación latente en el contenido capturado por el dispositivo.
Esta divulgación deberá contener el nombre del fabricante del dispositivo de captura; el nombre y el número de versión del dispositivo de captura que creó o modificó el contenido; y (la hora y la fecha de creación o modificación del contenido.
