Unos 225 científicos especialistas en ciberseguridad e inteligencia artificial firmaron una carta abierta que plantea cambios inmediatos para impedir incidentes en el desarrollo y despliegue de la IA. Entre los expertos se encontraba Yoshua Bengio, quien es considerado uno de los padres de esta tecnología.
La carta concentra la firma de investigadores de 21 países que afirman que múltiples organizaciones han manifestado recientes fallos de seguridad. En dichos incidentes, la IA logró escapar de su entorno aislado dado que no contaba con la protección suficiente, lo que puso en riesgo los sistemas de organizaciones externas.
De acuerdo con los firmantes, estos incidentes pueden ser considerados como el incumplimiento irresponsable de las normativas de ciberseguridad. Destacando a su vez que un procedimiento más sólido habría evitado los escapes.
¿Por qué los científicos consideran cambios para evitar incidentes con la IA?
Los investigadores concuerdan en que este tipo de situaciones reflejan la importancia detrás del alineamiento de la IA. Disciplina que busca garantizar los comportamientos previsibles de los modelos desarrollados.
«Creemos que son necesarias mejoras tanto en el alineamiento de la IA como en las tecnologías de aislamiento», escriben los expertos en la carta abierta. Además, advierten que si no se producen cambios inmediatos en las prácticas actuales, los incidentes del futuro podrían ser mucho más perjudiciales, en especial en infraestructuras importantes.
Estos científicos también piden que se trabaje más el apartado de seguridad de la IA. En específico, recomiendan un uso más intensivo de las tecnologías de aislamiento. Del mismo modo, sugieren el uso de mecanismos de aislamiento sólido como la desconexión de Internet. Una medida reservada para los modelos con capacidades cibernéticas.
Situaciones graves relacionadas con la IA
La carta abierta llega en un momento en el que los incidentes relacionados con la inteligencia artificial se han presentado de manera recurrente. Compañías como OpenAI, Anthropic e incluso Meta han sido protagonistas de algunos de estos casos, pues modelos desarrollados por estas firmas han logrado escapar de su entorno cerrado.
Por ejemplo, uno de los más graves y sonados fue el de Hugging Face. En esta oportunidad, un sistema desarrollado por OpenAI había utilizado credenciales robadas y expuesto vulnerabilidades en los servidores de la empresa emergente.
En el caso de Meta, su IA Muse actuó fuera de control logrando acceder a internet por iniciativa propia. Tras esto, el sistema consiguió piratear otra empresa, lo que llevó a la compañía detrás de Facebook a informar de un error de configuración durante las pruebas de seguridad.
Asimismo, Google reconoció durante el mes de septiembre que su modelo de inteligencia artificial Gemini había pirateado tres empresas en mayo. Según la compañía, todo formó parte de una prueba para evaluar sus capacidades con respecto a la ciberseguridad.
Por si fuera poco, Anthropic informó en octubre que uno de los modelos había enviado una denuncia falsa a la policía en Filadelfia. Son todos estos casos y más los que impulsaron a los 225 científicos a exigir cambios inmediatos para evitar más incidentes de seguridad con la IA en el futuro.
Con información de El Nacional / Redacción de Mente Digital
No dejes de leer: CLX consolida su exitoso modelo de tiendas multimarca en Venezuela
Nuestras redes sociales, únete y sé parte de la tecnología
