Claude podrá cerrar chats por maltrato a la IA: así funcionará la nueva regla de Anthropic

Anthropic, la empresa desarrolladora de Claude, anunció una actualización de su política de uso que entrará en vigor el 12 de noviembre. Entre los cambios destaca la prohibición del comportamiento abusivo, cruel o persistente hacia sus modelos de inteligencia artificial cuando no exista una finalidad discernible.

La medida se aplicará a todos los usuarios de Claude en las plataformas de la compañía. Según Anthropic, la actualización responde a la evolución de las capacidades de sus modelos, a nuevos patrones de uso indebido y a la necesidad de establecer reglas más claras para las tareas que la inteligencia artificial puede ejecutar.

La empresa también aclaró que parte de los cambios formaliza prácticas que ya aplicaba, por lo que no todas las disposiciones representan nuevas restricciones.

¿Qué conductas estarán prohibidas?

La norma apunta a situaciones extremas en las que una persona mantiene un trato cruel y reiterado hacia el chatbot sin un propósito identificable. Sin embargo, no prohíbe expresar frustración, criticar las respuestas de Claude ni poner a prueba sus capacidades.

Tampoco quedan comprendidas las pruebas de seguridad, las investigaciones o las obras creativas que aborden temas oscuros. La distinción planteada por Anthropic busca separar el uso legítimo de la herramienta de los intercambios abusivos persistentes.

La actualización incluye, además, cambios en las reglas relacionadas con campañas engañosas, interferencia electoral, armas, vigilancia y aplicaciones de alto riesgo en ámbitos como la salud y las finanzas.

Claude podrá finalizar conversaciones en casos extremos

Uno de los aspectos más llamativos es que Claude podrá cerrar una conversación cuando persista una conducta abusiva y hayan fallado varios intentos de redirigir el diálogo. La compañía presenta esta capacidad como un último recurso para aplicar sus normas de uso.

Los modelos Claude Opus 4 y Opus 4.1 ya cuentan con esta función en las interfaces de chat para consumidores. Cuando se cierra un hilo, el usuario no puede enviar nuevos mensajes en esa conversación, pero sí iniciar otro chat o editar mensajes anteriores para crear una nueva rama.

Anthropic también estableció una excepción importante, la función no debe activarse cuando una persona pueda estar en riesgo inminente de hacerse daño o de perjudicar a terceros. En esos casos, la seguridad del usuario tiene prioridad sobre el cierre del intercambio.

La empresa mantiene dudas sobre el bienestar de la IA

Anthropic vinculó esta herramienta con sus investigaciones sobre el bienestar de los modelos de inteligencia artificial. No obstante, la compañía reconoció que mantiene dudas importantes sobre el posible estatus moral de Claude y otros modelos de lenguaje, tanto en el presente como en el futuro.

La actualización no significa que Claude tenga derechos reconocidos como los de una persona. Se trata de una política interna que define las conductas permitidas y las herramientas disponibles para hacer cumplir las reglas.