El investigador Jacob Coxon, de 27 años, decidió dejar su puesto en Anthropic este martes con una renuncia que corresponde a una profunda preocupación: advierte que los gigantes tecnológicos avanzan a un ritmo peligroso en el desarrollo de la inteligencia artificial (IA) con capacidad de autorreplicarse y mejorarse de forma autónoma.
Coxon, cuya labor se centraba en entrenar modelos con masivos conjuntos de datos, se había mudado a Anthropic a inicios de este año tras su paso por OpenAI, buscando un entorno más enfocado en la seguridad.
Sin embargo, ahora sostiene que ni siquiera estas precauciones bastarán si no se implementa una desaceleración coordinada en todo el sector. Así como una intervención directa de los gobiernos.
Asimismo, el investigador muestra su inquietud ante la posibilidad de que modelos de alta complejidad terminen desobedeciendo las directrices humanas. Un riesgo que se intensifica debido a la alta competencia comercial entre las corporaciones de Estados Unidos y los laboratorios de desarrollo en China.
«Ninguna de las dos empresas está actuando de manera responsable, están corriendo directamente hacia una superinteligencia capaz de auto-mejorarse y apostando con nuestras vidas. Las personas que están construyendo la IA creen sinceramente que podría ser capaz de matarnos a todos antes del final de esta década«, dijo el científico.
Investigador de Anthropic asegura que la IA concentra modelos capaces de aprender
Esta salida se produce en medio de una creciente controversia en torno a los peligros que implican las herramientas más avanzadas.
El investigador aseguró que tanto directivos como científicos de firmas como OpenAI y Anthropic exigieron tomar precauciones más estrictas para frenar amenazas inminentes de la IA, tales como ofensivas cibernéticas automatizadas y la pérdida total del dominio sobre tecnologías altamente sofisticadas.
Además, Coxon forma parte del grupo de más de mil científicos que firmaron recientemente un manifiesto exigiendo cooperación global. También para crear protocolos capaces de detener las investigaciones si las capacidades de autoaprendizaje de las IA suponen una amenaza extrema.
«No subestimes el poder de esta tecnología, pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales«, advirtió en su cuenta de X.
Por su parte, el Congreso estadounidense sigue discutiendo el marco normativo aplicable al sector. Hasta la fecha no existe un estatuto federal consolidado que supervise la inteligencia artificial, aunque ciertos parlamentarios impulsan restricciones puntuales orientadas a frenar la creación de arquitecturas con capacidad superinteligente.
La compañía prepara una oferta pública
Mientras tanto, esta renuncia coincide con los preparativos de la compañía para su eventual oferta pública inicial, un movimiento financiero con el que la empresa proyecta alcanzar una capitalización de mercado estimada en dos billones de dólares.
En la misma línea, este dilema genera un impacto económico directo en empleados, directivos y fondos de inversión. Por un lado, normativas más rigurosas alterarían la asignación de capital y la adopción de herramientas digitales; por otro, una evolución tecnológica sin freno redefinirá por completo el mercado laboral y la supervivencia de los pequeños negocios.
De esta manera, el investigador de Anthropic, intensifica el epicentro tecnológico: capitalizar los numerosos beneficios financieros de la IA sin superar la velocidad con la que podemos gestionar y contener sus peligros.
Con información de Yahoo Finanzas / Redacción de Mente Digital
No dejes de leer: Tesla Optimus: el robot humanoide podría llegar a los hogares a finales de 2027
Nuestras redes sociales, únete y sé parte de la tecnología
