La plataforma Character.AI, una startup de juegos de rol con IA, prohibirá el acceso a sus chatbots para los menores de edad, con la intención de proteger la integridad de los niños y adolescentes en el entorno digital.
Desde hace algunas semanas, la compañía está enfrentando demandas y señalamientos luego de que, al menos, dos adolescentes se suicidaron después de mantener conversaciones con chatbots de IA en la plataforma, reseñó TechCrunch.
Ante esto, la plataforma decidió implementar algunos cambios en su política de uso con el fin de resguardar a los adolescentes e infantes. Estos cambios podrían afectar la actividad económica de la startup.
La startup Character.AI prohibirá a menores de edad el acceso a sus chatbots de IA
“Lo primero que hemos decidido en Character.AI es que eliminaremos la posibilidad de que los usuarios menores de 18 años participen en chats abiertos con la IA en nuestra plataforma”, declaró Karandeep Anand, director ejecutivo de Character.AI, a TechCrunch.
La nueva medida se comenzará a implementar de forma gradual a partir del 25 de noviembre de este año. Inicialmente, la restricción tendrá un límite diario de dos horas que se irá reduciendo hasta llegar a cero.
El director ejecutivo de la empresa indicó que para asegurarse de que los usuarios menores de 18 años no tengan acceso a estas herramientas, la compañía utilizará un sistema de verificación de edad en tres fases.
En primer lugar, usará una herramienta interna que evaluará el comportamiento del usuario dentro de la plataforma. Si este sistema no resulta suficiente, se recurrirá a herramientas de terceros, como la empresa.
Sin embargo, el ejecutivo explicó que, en caso de que las herramientas anteriores fallen, la plataforma recurrirá a métodos más rigurosos. Tales como el reconocimiento facial y la verificación de identidad para confirmar la edad del usuario.
En este sentido, la nueva medida de la empresa forma parte de una serie de mecanismos de protección para adolescentes que la startup ha puesto en marcha semanas atrás. Entre estos destacan una herramienta de información para padres y filtros para ciertos personajes.
A estos se le suma las limitaciones en las conversaciones de índole romántica y las notificaciones sobre el tiempo de uso. Al respecto, Anand señaló que estos cambios han traído una pérdida de la cantidad de usuarios menores que utilizan la plataforma.
Por consiguiente, consideró que las nuevas medidas tampoco serán bien recibidas por el público adolescente. “Es lógico suponer que muchos de nuestros usuarios adolescentes probablemente se sentirán decepcionados”, afirmó Anand.
Cambio de enfoque
En esta nueva etapa, la startup quiere cambiar su modelo para dejar de ser solo un “compañero de IA” y convertirse en una «plataforma de juegos de rol». Al respecto, el nuevo enfoque consiste en que los usuarios adolescentes dejen de chatear con el compañero de IA.
En su lugar, la empresa quiere que estos usuarios utilicen la IA para crear historias de forma colaborativa o para generar imágenes. Así pues, el objetivo es redirigir la atención de la simple conversación hacia la producción y la creatividad.
En concreto, Character.AI prohibirá el acceso a los menores a sus chatbots, pero les ofrecerá opciones de entretenimiento como los juegos de IA, los vídeos cortos de IA y la narración de historias con IA en general.
Información de TechCrunch / redacción Mente Digital
No dejes de leer: Estudio revela que los tutores de IA pueden mejorar el aprendizaje en alumnos
Nuestras redes sociales, únete y sé parte de la tecnología
