Unión Europea exige mayor transparencia en la IA y advierte multas millonarias

La Unión Europea (UE) marcó un hito en la regulación tecnológica al implementar sus nuevas medidas sobre la inteligencia artificial (IA). Con esta normativa, tanto desarrolladores como plataformas están obligados a notificar de manera explícita a los usuarios cada vez que entren en contacto con contenidos o sistemas generados de forma automatizada.

A través de esta regulación, la nueva Oficina de Inteligencia Artificial de la Comisión Europea adquiere la facultad de supervisar los modelos generativos de alto riesgo. 

Asimismo, el organismo podrá multar a las grandes tecnológicas que ignoren o incumplan los criterios establecidos por la UE.

Unión Europea sintetiza aspectos fundamentales de la IA 

Las grandes firmas del sector, como OpenAI (ChatGPT), Google (Gemini) y Anthropic (Claude), estarán obligadas a mostrar alertas claras en sus interfaces que indiquen que el usuario está conversando con una máquina.

De esta manera, la norma se extiende del mismo modo a los algoritmos usados en la atención al público, servicios del Estado y procesamiento de reclamos, que utilicen IA dentro de la UE.

En la misma línea, los sistemas dedicados a la detección de emociones o a la clasificación biométrica tendrán que notificar con claridad a los usuarios que son analizados. Y esta obligación sólo se analizará en el contexto de investigaciones policiales o judiciales únicamente autorizadas por la ley.

Mientras tanto, los creadores deben identificar claramente cualquier contenido generado por IA que aborde temas de relevancia pública. Como elecciones, salud o procesos judiciales, excepto si un ser humano supervisa directamente su elaboración.

Normativa entrará en vigencia en diciembre

La normativa entrará en vigencia el próximo 02 de diciembre. También, será obligatorio para los desarrolladores incorporar marcas de agua en cualquier texto, imagen, audio o video modificado, asegurando así que su origen sintético o alterado pueda ser reconocido sin complicaciones.

La Comisión Europea está facultada para solicitar el acceso directo a los sistemas de inteligencia artificial catalogados como de alto riesgo. Con el objetivo de inspeccionar y mitigar eventuales riesgos para la seguridad.

Actualmente, Bruselas afina los protocolos de colaboración con empresas como Anthropic. De esta manera, la Agencia de Ciberseguridad de la UE (ENISA) podrá auditar sus avances tecnológicos sin comprometer la privacidad de los datos ni la estabilidad de las infraestructuras.

De no cumplir con las normativas, las compañías de IA recibirán sanciones de hasta 750 mil euros. Asimismo, la Comisión Europea podrá imponer 15 millones de euros o de hasta el 3% de su facturación anual global.

Información de NTN24 / redacción Mente Digital

No dejes de leer: EEUU prohíbe la importación de robots humanoides por seguridad: ¿Qué se sabe?


Nuestras redes sociales, únete y sé parte de la tecnología

Instagram

Telegram

YouTube

X (Twitter)

Artículos recientes