Seoul Gazette - La UE pone en marcha nuevas medidas para regular la inteligencia artificial

- Una ley pionera -

Esta legislación, aprobada hace dos años, otorga a la UE de uno de los marcos regulatorios más avanzados del mundo en materia de inteligencia artificial.

La norma prohíbe determinadas prácticas, como el uso de la IA para engañar o manipular a las personas, o para explotar vulnerabilidades relacionadas con la edad o con situaciones de discapacidad.

También impone estrictas limitaciones al uso de datos biométricos y de tecnologías de reconocimiento facial en los modelos de IA.

Además, las empresas del sector deberán adoptar medidas para evaluar y mitigar los riesgos asociados al uso de sus modelos.

A partir del domingo se sumarán nuevas obligaciones de transparencia, que exigirán, entre otras cosas, que los contenidos generados por inteligencia artificial estén claramente identificados.

Asimismo, los "deepfakes" (contenidos manipulados de forma hiperrealista capaces de inducir a error al público) deberán estar etiquetados mediante iconos, avisos o distintivos específicos.

No obstante, los modelos de IA que ya se encuentran en el mercado dispondrán de un período de adaptación hasta el 2 de diciembre para cumplir con estas nuevas exigencias.

- Más poderes -

La Oficina de IA ("AI Office"), una entidad creada dentro de la Comisión Europea, podrá realizar a partir de ahora evaluaciones y verificaciones de los grandes modelos de inteligencia artificial para comprobar que cumplen estas normas.

Para ello, los proveedores estarán obligados a facilitarle acceso a sus sistemas, incluso en determinados casos antes de su comercialización.

Los reguladores nacionales serán los encargados de aplicar las normas a los modelos más pequeños.

Los equipos de la UE podrán llevar a cabo investigaciones e inspecciones y, si detectan infracciones, exigir a las empresas que adopten medidas correctivas.

La Comisión también podrá imponer restricciones al despliegue de nuevos modelos de IA.

Estas nuevas competencias suponen un cambio importante para la UE, que en los últimos meses ha tenido dificultades para acceder a algunos de los modelos más avanzados desarrollados por gigantes de la IA con sede fuera de Europa, como Mythos, del grupo estadounidense Anthropic.

A partir de ahora, "podremos realizar evaluaciones exhaustivas y lo haremos siempre que sea necesario", aseguró el viernes un responsable de la Comisión Europea que pidió permanecer en el anonimato, sin referirse específicamente a Mythos ni a ninguna empresa en particular.

- Sanciones -

Bruselas dispondrá de toda una gama de sanciones para castigar a las empresas que incumplan la normativa.

Las multas más elevadas se reservarán en caso de actividades prohibidas. Irán hasta el 7% de la facturación anual mundial de la empresa o 35 millones de euros (40 millones de dólares). Se aplicará el monto que resulte mayor.

Las demás infracciones podrán ser castigadas con multas de hasta el 3% de la facturación anual mundial o 15 millones de euros.

Por último, las empresas también podrán ser sancionadas si obstaculizan las investigaciones.

- Más normas en los próximos años -

La regulación europea de la inteligencia artificial seguirá ampliándose en los próximos años.

A partir de diciembre quedarán formalmente prohibidos los sistemas de IA capaces de generar imágenes de personas desnudas sin su consentimiento.

Asimismo, una serie de normas específicas para las llamadas IA de alto riesgo, utilizadas en ámbitos sensibles como la salud o la seguridad, comenzarán a aplicarse entre 2027 y 2028.

Su entrada en vigor fue aplazada recientemente para dar más tiempo a las empresas para adaptarse a las nuevas exigencias.

Y.Ko--SG