Anthropic bloquea uso indebido de su IA en armas biológicas

Anthropic reveló el pasado jueves 10 de septiembre que frustró varios intentos de emplear sus modelos de inteligencia artificial en investigaciones relacionadas con armas biológicas.

La compañía explicó que, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, decidió bloquearlos ante el riesgo de que sus sistemas pudieran contribuir al desarrollo de patógenos peligrosos. 

“Las evaluaciones son útiles porque proporcionan evidencia de capacidad, pero no pueden demostrar concretamente que dicha capacidad se usaría en el mundo real”, señaló la empresa en su informe.

Preocupaciones por el uso dual de la IA

El reporte de Anthropic se suma a la creciente inquietud entre organismos internacionales sobre el uso dual de la inteligencia artificial. Los modelos capaces de apoyar investigaciones científicas también pueden ser aprovechados para fines peligrosos, como el desarrollo de armas biológicas. 

La corporación californiana indicó que, hasta el momento, ninguna empresa privada ha compartido públicamente evidencia de un mal uso de sus plataformas con este propósito. Sin embargo, en los últimos ocho meses se detectaron casos en China, Rusia y Yemen.

Sistemas de detección y cooperación internacional

Anthropic aseguró haber desarrollado mecanismos de detección para identificar y bloquear usos indebidos de sus modelos, incluyendo Claude. La compañía destacó que estos sistemas permiten reaccionar de forma temprana ante intentos de manipulación y reducir riesgos asociados a la autonomía creciente de la IA.

Además, la empresa expresó su disposición a colaborar con otros laboratorios y actores de la industria para debatir el ritmo de lanzamiento de nuevas herramientas y establecer estándares de seguridad compartidos.

Un debate que involucra a toda la industria

El anuncio de Anthropic coincide con un debate más amplio en el sector tecnológico. OpenAI, responsable de ChatGPT, también ha planteado la posibilidad de ralentizar el desarrollo de sus modelos más avanzados por motivos de seguridad. Investigadores y exmiembros de compañías como DeepMind han reclamado mayor transparencia sobre los riesgos de la IA avanzada.