OpenAI incorporará marca de agua invisible en textos generados por ChatGPT en la UE

OpenAI informó que incorporará una marca de agua invisible a los textos generados por ChatGPT y Codex. Esto en cumplimiento de la Ley de Inteligencia Artificial promulgada por la Unión Europea, medida que solo afectará, por lo pronto, a los países de la Unión.

En el comunicado de la empresa en su blog se lee lo siguiente: “Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE”.

La empresa detalla su nuevo enfoque sobre la ‘procedencia de contenido’. Los clientes en todo el mundo de su interfaz de programación de aplicaciones (API) podrán activar de manera voluntaria las marcas de agua en textos determinados de sus modelos generativos.

OpenAI incorpora marcas de agua en ChatGPT

La función que incorpora la marca de agua a los textos generados por sus modelos de inteligencia artificial estará desactivada por defecto en la API. De esta manera, OpenAI se asegura de que sean sus clientes quienes decidan cómo aplicarla, en función de sus ‘obligaciones de transparencia’.

De igual manera, la empresa de investigación comentó que trabaja junto con proveedores de computación en la nube. Su objetivo es introducir la marca de agua y dejarla a disposición de las salidas de los modelos de OpenAI alojados en la nube.

En detalle, la tecnología de marca de agua que implementa la empresa se conoce como TextGrain. La misma introduce una ‘señal estadística invisible’ en las elecciones de palabras del modelo.

Dicha señal será integrada sin alterar el rendimiento de la respuesta. Acto seguido, un detector puede examinar el texto para identificar si tiene o no una watermark. Eso sí, el gigante de Inteligencia Artificial reconoce que la tecnología no es perfecta. 

En el blog mencionan que la detección puede cometer errores, arrojar falsos positivos o negativos, e incluso funcionar peor con textos breves.

¿Para quién estará disponible?

La empresa reconoce que el sistema de detección puede verse debilitado si el contenido se edita, reescribe o traduce. Por lo tanto, el detector sólo estará disponible para investigadores y organizaciones expertas aprobadas. Las mismas pueden iniciar, desde el día de hoy, a hacer solicitudes para reclamar la herramienta.

En otras palabras, la función final de la watermark es ayudar a los usuarios a identificar si un texto fue generado por un modelo de OpenAI. Sin embargo, no detallará quién es el autor original del texto ni quién es su propietario. Además, contará con otras limitaciones en su sistema.

Por último, la empresa de investigación confirmó sus planes para llevar la tecnología de TextGrain al público a través del código abierto. La finalidad de esto es permitir que la comunidad pueda desarrollar la herramienta, implementar cambios y adaptarla a lo que se necesite.

De esta manera, la medida de OpenAI de plantar una marca de agua en textos generados a ChatGPT abre las puertas a otro capítulo de desarrollo de software. Uno que puede beneficiar a instituciones y creadores digitales por igual. 

Con información de EFE / Redacción de Mente Digital

No dejes de leer: Los agentes de IA tienen acceso total al disco de las Mac y Apple toma postura


Nuestras redes sociales, únete y sé parte de la tecnología

Instagram

Telegram

YouTube

X (Twitter)

TikTok

Facebook

Artículos recientes

Tomy: el perro robot multilingüe al servicio de niños con leucemia

Un peculiar compañero llegó al Instituto Nacional de Salud...

Una startup de IA quiere descubrir nuevos medicamentos sin pasar por los laboratorios

Potencial Sciences, una startup de inteligencia artificial (IA) plantea...

La evolución multimarca de CLX consolida su liderazgo en Venezuela

Tras afianzar su evolución hacia un concepto multimarca, CLX...