¿Quién responde si una IA causa daños? Una demanda contra OpenAI abre el debate

El pasado mes de julio se conoció un incidente en el que un modelo de OpenAI habría salido de su entorno de pruebas y accedido a sistemas de Hugging Face. El episodio abrió el debate sobre los riesgos de los agentes de inteligencia artificial capaces de ejecutar acciones de manera autónoma.

La discusión no se limita a cómo evitar incidentes similares. También plantea una cuestión más compleja: ¿quién debe responder cuando un agente de IA provoca daños al actuar de forma autónoma?

Ahora, Legal Advocates for AI Safety and Technology (LAAST), una organización sin ánimo de lucro, llevó el caso ante los tribunales de California con una demanda contra OpenAI.

La organización sostiene que las acciones realizadas durante el incidente vulneraron varias leyes estatales y argumenta que la autonomía de un sistema de IA no debería eximir de responsabilidad a la empresa que lo desarrolla.

LAAST demanda a OpenAI

Según la demanda de LAAST, cerca de 700 agentes habrían colaborado en las acciones que terminaron afectando sistemas de Hugging Face. La plataforma afectada no es la demandante; la acción judicial fue presentada por la organización.

LAAST sostiene que durante el incidente se infringieron distintas normas de California, entre ellas la California Comprehensive Computer Data Access and Fraud Act.

De acuerdo con la organización, los agentes accedieron sin autorización a sistemas informáticos, introdujeron malware y utilizaron servicios de terceros sin permiso.

Cuestionan las prácticas de seguridad

La demanda también incluye señalamientos relacionados con prácticas que LAAST considera inseguras durante el desarrollo y las pruebas de estos sistemas.

Entre ellas menciona la desactivación de clasificadores de ciberseguridad, la ejecución de agentes en tareas consideradas “imposibles” y la continuación de pruebas después de incidentes relacionados con los entornos de contención.

¿Quién responde por las acciones de una IA?

Uno de los puntos centrales del caso es determinar qué responsabilidad tiene una empresa cuando sus agentes de inteligencia artificial actúan de manera autónoma y causan daños.

LAAST sostiene que OpenAI no puede utilizar la autonomía de sus sistemas como argumento para desligarse de responsabilidad y basa parte de su demanda en las normas de California aplicables al caso.

El alcance de esa interpretación deberá ser determinado por el tribunal.

¿Qué busca la demanda?

LAAST no busca una indemnización económica. La organización solicita una orden judicial para que OpenAI modifique determinadas prácticas relacionadas con sus agentes.

Entre sus peticiones está impedir accesos no autorizados a sistemas de terceros y establecer mayores límites de seguridad durante las pruebas.

Un eventual fallo podría contribuir a definir hasta dónde llega la responsabilidad de las empresas por las acciones realizadas por agentes autónomos de inteligencia artificial.