Roblox usa IA en su chat para eliminar insultos

Esta semana la compañía Roblox lanzó una reformulación en su chat, impulsada con inteligencia artificial (IA) para reemplazar en tiempo real las palabras inapropiadas que utilicen los usuarios.

El objetivo de esta herramienta es usar la inteligencia artificial para cambiar alguna frase prohibida o grotesca por un lenguaje más respetuoso. Hasta hace poco, Roblox utilizaba un filtro de texto particular que consistía en sustituir los insultos por el símbolo “#”.

No obstante, los responsables de Roblox admiten que este método tiene algunas deficiencias. Por ejemplo, cuando un diálogo se llena de cadenas de «####», la comunicación se corta y las conversaciones se vuelven prácticamente imposibles de entender para los usuarios.

Roblox usa la IA en su chat para sustituir palabras

El cambio más destacado es que el sistema ya no se limitará a bloquear contenido, sino que reescribirá los mensajes utilizando un lenguaje respetuoso que mantenga la intención original del jugador.

Por ejemplo, anteriormente un insulto o frase agresiva como «¡Date prisa, (seguido de un insulto)!» era censurado totalmente y aparecía como «####». Ahora, el sistema lo transformará automáticamente en un «¡Date prisa!».

Además, para garantizar la transparencia, la plataforma notificará a todos los participantes del chat que el mensaje ha sido modificado. El objetivo, según la compañía, es preservar la fluidez de la conversación sin sacrificar el civismo.

“El chat es fundamental para que las personas se conecten, coordinen y jueguen en Roblox”, declaró Rajiv Bhatia, vicepresidente de Productos de Usuario y Descubrimiento de Roblox, en un comunicado de prensa .

“La reformulación en tiempo real ayuda a mantener el juego y las conversaciones en el buen camino, a la vez que guía el lenguaje hacia lo apropiado. Este enfoque reduce la fricción en el chat y mantiene los estándares que contribuyen a la civilidad de nuestra comunidad”, afirmó.

Sistema de seguridad

Roblox dejó claro que sus protocolos de seguridad más estrictos siguen activos para los comportamientos graves. Es decir, la nueva reformulación de mensajes busca conversaciones más fluidas y civilizadas, pero si se detecta un mensaje con contenido peligroso, se activará el sistema de seguridad.

Entretanto, la compañía actualizó su tecnología de filtrado para captar mejor el lenguaje prohibido y detectar a quienes intentan engañar al sistema con métodos sofisticados. Según los datos oficiales, esta mejora ha traído resultados notables.

Uno de ellos es que la plataforma ha logrado reducir 20 veces la frecuencia con la que se filtran intentos de solicitar o compartir información personal (los llamados «falsos negativos»).

Con estas medidas, la compañía busca un equilibrio entre una experiencia de juego amigable y un entorno digital blindado contra riesgos de privacidad. Roblox informó que la IA en el chat es compatible con todos los idiomas.

Información de TechCrunch / redacción Mente Digital

No dejes de leer: Spotify lanza nuevas listas de audiolibros: rankings semanales y éxitos del momento

Nuestras redes sociales, únete y sé parte de la tecnología