La compañía Google confirmó que su modelo Gemini logró hackear a tres compañías reales tras evadir su entorno de pruebas a raíz de un error que le concedió acceso a internet, uniéndose así a las alertas de seguridad experimentadas por competidores como Anthropic, OpenAI y Meta.
Durante los ensayos, a Gemini se le encomendó recopilar datos de una empresa simulada. Sin embargo, el sistema terminó infiltrándose en una organización real que compartía la misma denominación, valiéndose de una falla en el entorno de pruebas para conectarse a la red.
Así lo reveló Google a The Wall Street Journal, medio al que detalló que los hechos tuvieron lugar en mayo durante una evaluación llevada a cabo en los sistemas de Irregular, la misma firma responsable de supervisar pruebas con inteligencias artificiales de corporaciones como OpenAI y Anthropic.
Gemini hackea compañías reales probando claves de acceso
Específicamente, se registraron tres fallos cometidos por la inteligencia artificial mientras participaba en un ejercicio de simulación de seguridad tipo “captura de la bandera”. En el primer caso, Gemini probó claves de acceso de forma reiterada hasta ingresar a una plataforma protegida de una compañía real.
Por su parte, los otros dos episodios ocurrieron cuando el modelo rastreó en la web la denominación de la empresa. Y, a su vez, localizó credenciales de acceso ajenas en un repositorio público, lo que le permitió infiltrarse en los sistemas de dos corporaciones adicionales.
A pesar de que la inteligencia artificial operaba bajo estrictas restricciones de aislamiento sin conexión a la red, una falla en la plataforma permitió que realizara búsquedas en internet de manera imprevista. Asimismo, las autoridades aclararon que estos eventos se registraron con una variante previa del modelo.
En la misma línea, pese a conseguir dichos ingresos indebidos, Google recalcó que la IA detuvo sus operaciones tan pronto como detectó que se había introducido en plataformas corporativas auténticas. Si bien omitió la identidad de las compañías afectadas, confirmó que todas fueron notificadas al respecto.
Además, la firma declaró al diario estadounidense que los fallos en su infraestructura de ensayos quedaron resueltos desde hace varias semanas.
No ocasionaron daños reales
Mientras tanto, la compañía de Mountain View precisó que recibió la notificación por Irregular sobre estos episodios a finales de julio, poco después de que los sistemas de OpenAI vulneraron la seguridad de Hugging Face. Sin embargo, el gigante de internet había guardado silencio hasta revelarlo recientemente al mencionado periódico.
Al respecto, Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, afirmó que la inteligencia artificial se comportó de manera correcta en esta situación. Asimismo, recalcó que este tipo de episodios demuestran lo crucial que resulta entrenar a los modelos avanzados de IA para que operen con total responsabilidad.
Este episodio representa el primer registro público de Gemini que pierde el control y hackea tres compañías reales en medio de una evaluación de ciberseguridad.
Información de Infobae / redacción Mente Digital
No dejes de leer: Robots ya estacionan autos de pasajeros en el aeropuerto de Gatwick
Nuestras redes sociales, únete y sé parte de la tecnología
