En un movimiento preventivo, la compañía tecnológica Google informó que frena de forma drástica el acceso a su inteligencia artificial (IA) más avanzada. A partir de ahora, dicha herramienta no estará abierta al público general, sino que su uso quedará exclusivamente reservado a un grupo reducido de especialistas en seguridad informática.
De acuerdo con la compañía, la medida se implementó de forma preventiva para impedir que ciberdelincuentes manipulen la herramienta con fines maliciosos.
“Para lanzar de forma segura capacidades de vanguardia a este nivel, se requiere un enfoque por fases”, escribió en su blog el arquitecto jefe de IA de Google, Koray Kavukcuoglu.
La revelación llegó un día después de que el presidente Donald Trump mantuviera un encuentro en la Casa Blanca con las máximas figuras de la industria tecnológica. Un grupo que incluyó al consejero delegado de Google, Sundar Pichai.
Google frena acceso a su IA al público; se lo concede al gobierno estadounidense
Como medida complementaria, la compañía señaló que compartirá el sistema de manera anticipada y voluntaria con la administración de Estados Unidos. Asimismo, indicó que evaluará los comentarios y experiencias de estos primeros usuarios antes de decidir un eventual lanzamiento para el público general.
Sin embargo, este movimiento no representa un hecho aislado en la industria. Su principal competidor, Anthropic, adoptó una estrategia similar al mantener su sistema más avanzado, Claude Mythos Preview, confinado a un círculo reducido de organizaciones confiables.
En la misma línea, meses atrás, concretamente en junio, el gobierno de Washington ordenó de manera temporal a Anthropic frenar la disponibilidad de sus sistemas Claude Mythos y Claude Fable, los cuales ya operaban de cara al público.
Del mismo modo, diversos especialistas en seguridad informática advierten sobre el riesgo de que estas herramientas de última generación sean instrumentalizadas para realizar ciberataques contra infraestructuras críticas. Entre ellas, hospitales, entidades bancarias y plataformas gubernamentales.
Usuarios utilizaron Argon para tareas complejas
Por otro lado, las limitaciones de seguridad llegan luego de que durante las pruebas iniciales, los primeros evaluadores utilizaron el sistema Argon para encontrar una vulnerabilidad crítica en un software médico de uso global, la cual dejaba al descubierto datos personales sensibles. Lo destacable es que esta falla había pasado desapercibida para otros modelos de IA avanzados.
Mientras tanto, el diseño de Argon incorpora estrictos mecanismos de seguridad programados para declinar de forma automática cualquier petición orientada a facilitar ciberataques o a impulsar la fabricación de armamento químico, biológico o nuclear.
Cabe destacar, que esta clase de salvaguardas no es exclusiva de Google. Tanto Anthropic como OpenAI, la firma detrás de ChatGPT, implementaron barreras de protección equivalentes en sus sistemas de inteligencia artificial más sofisticados.
Por lo tanto, desde la compañía explicaron que mantienen una vigilancia constante sobre los procesos de razonamiento de la inteligencia artificial. El objetivo de que Google frena el acceso a su IA más potente, se basa en impedir que el sistema se aparte de los propósitos establecidos por los operadores, un fenómeno que en el ámbito de la investigación se conoce como desalineación.
Con información de NTN24 / Redacción de Mente Digital.
No dejes de leer: Ken Griffin dona 2000 millones de dólares para un campus de IA y robótica en Miami
Nuestras redes sociales, únete y sé parte de la tecnología
