Meta esta semana anunció que emitirá una alerta a los padres cuando los usuarios adolescentes hablen sobre suicidio o autolesiones con el chatbot de inteligencia artificial de la compañía.
Cabe resaltar que estas medidas ocurren en un momento en el que las compañías tecnológicas están bajo el escrutinio. El motivo de presión sobre las empresas es cuestionar la manera en que los chatbots interactúan con los usuarios en situaciones de crisis.
De modo que se trata de un tema de responsabilidad que está teniendo un impacto creciente en la forma en que las empresas de IA desarrollan y promocionan sus productos.
Meta emitirá una alerta si los adolescentes hablan de suicidio
En este caso, la compañía tecnológica informó que desarrolló un sistema de inteligencia artificial específico. Este se encarga de detectar conversaciones en las que un menor de edad manifiesta un deseo de autolesión.
“ Comprendemos lo angustiantes que pueden ser estas alertas para un padre o madre ”, escribió Meta en una publicación de blog. “P or eso, a medida que mejoremos nuestra detección, todos los chats marcados por nuestra IA se revisarán manualmente antes de enviar una alerta ”, afirmó.
Al respecto, Meta destacó que si identifican que dicho deseo del adolescente es ambiguo, actuarán con precaución y alertarán a los adultos a cargo. “ Si bien esto significa que a veces podríamos notificar a los padres cuando no haya un motivo real de preocupación, creemos que este es el punto de partida adecuado y continuaremos monitoreando para asegurarnos de que estamos en el camino correcto ”, afirmó la empresa.
Esta actualización se fundamenta en las notificaciones que Meta ya proporciona a los padres cuando sus hijos adolescentes realizan búsquedas reiteradas de términos vinculados al suicidio o la autolesión en Instagram.
Además, optimiza una función que permite a los padres observar los temas que sus hijos adolescentes han discutido con la inteligencia artificial de Meta en la última semana.
Por otra parte, la multinacional tecnológica estadounidense indicó que su función de “Contenido limitado” se extenderá a Meta AI. Inicialmente, la herramienta se diseñó para que los padres pudieran controlar lo que ven sus hijos en Instagram.
¿Para quién está disponible?
Meta detalló que el sistema de alerta sobre las conversaciones de adolescentes con los chatbots acerca del suicidio ya está disponible para los padres que usan la herramienta de Supervisión Parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá . A finales de año se implementará una escala mundial.
La compañía agregó que está desarrollando la opción de comunicarse con los servicios de emergencia. Esto se realizará si las conversaciones de un usuario sugieren que podría estar en un riesgo inminente de suicidio.
Información de TechCrunch / redacción Mente Digital
No dejes de leer: Google Imágenes estrena nuevas funciones al estilo Pinterest (+ detalles)
Nuestras redes sociales, únete y sé parte de la tecnología
