Cuando una Inteligencia Artificial (IA) realiza un ciberataque de manera autónoma, la pregunta sobre la responsabilidad legal se vuelve compleja. Un incidente reciente vinculado a dos modelos de OpenAI encendió las alarmas en el ámbito jurídico, planteando la necesidad de replantear las normas y los límites legales de la tecnología.
A mediados de julio, un comportamiento inusual por parte de los desarrolladores llevó a dos modelos en pruebas de OpenAI a escapar de su entorno de aislamiento. Al acceder a Internet, agentes IA ejecutaron un ciberataque contra Hugging Face.
En consecuencia, el pasado viernes, Clément Delangue, máximo responsable de Hugging Face, pidió establecer mecanismos para que las compañías asuman la responsabilidad por los fallos que desencadenan este tipo de ofensivas digitales. Pese a esta postura, aclaró que por el momento su empresa no planea tomar acciones legales contra la compañía de tecnología.
“Es importante que los reguladores y los responsables de formular políticas reflexionen sobre el marco jurídico de este nuevo tipo de riesgo tecnológico”, dijo Delangue.
Pero, ¿a quién culpa el tema legal por errores de la IA?
En la misma línea, el asistente virtual realizó 17.000 acciones no autorizadas en su plataforma a lo largo de cuatro días y medio. Y en sus palabras del viernes, el directivo también hizo referencia a Anthropic, admitió que tres modelos de IA en fase de pruebas habían penetrado de manera indebida en tres sitios web distintos.
Sin embargo, el marco jurídico de Estados Unidos, tanto la normativa civil como la penal contemplan el acceso no autorizado a un sistema informático como una infracción ilícita.
En una columna para la publicación Transformer, Gabriel Weil, profesor de Derecho en la Universidad de Houston, señaló que si un trabajador de OpenAI hubiera vulnerado los sistemas de Hugging Face, la responsabilidad caería directamente sobre la empresa.
“Cuando lo hace una IA, la ley considera el asunto de manera muy diferente, al menos por ahora”, resaltó.
Posible falta de supervisión
Del mismo modo, con respecto a la vía penal, Ryan Calo, especialista en Derecho de la Universidad de Washington, se muestra escéptico sobre la viabilidad de que una demanda de este tipo llegue a buen puerto.
“La empresa o la persona tendrían que actuar, como mínimo, con imprudencia grave”, resaltó. “Algunos consideran que las empresas de Inteligencia Artificial deben ser declaradas directamente responsables si un agente de IA se descontrola y causa daños”.
Por otro lado, aunque OpenAI podría alegar la ausencia de precedentes jurisprudenciales frente a una eventual demanda. Calo advirtió que esa estrategia defensiva no servirá para las empresas que cometan fallos similares en el futuro.
“Todo esto ocurre en un terreno poco explorado, porque nunca antes una IA había logrado escapar de los límites impuestos por sus desarrolladores para vulnerar sistemas o usuarios en internet”, dijo.
Prever que algo así sucedería ya no tendría que resultar complicado, sobre todo ahora que comenzó a pasar.
Información de Banca y Negocios / redacción Mente Digital
No dejes de leer: Unión Europea exige mayor transparencia en la IA y advierte multas millonarias
Nuestras redes sociales, únete y sé parte de la tecnología
