Anthropic prohibirá el maltrato reiterado a su chatbot Claude
La empresa había anunciado en agosto de 2025 que Claude podría poner fin a determinadas interacciones en las que recibiera un trato abusivo. Con la nueva política, Anthropic formaliza esta limitación y abre la posibilidad de aplicar medidas adicionales contra quienes incumplan las condiciones de uso
Anthropic anunció el jueves una actualización de sus políticas de uso que prohíbe a los usuarios mantener comportamientos abusivos o crueles, sostenidos e innecesarios contra Claude, su asistente de inteligencia artificial (IA). La medida incorpora por primera vez esta restricción de forma explícita en las normas de la compañía, que ya había habilitado a sus modelos para finalizar conversaciones en las que detectaran un trato hostil.
La empresa había anunciado en agosto de 2025 que Claude podría poner fin a determinadas interacciones en las que recibiera un trato abusivo. Con la nueva política, Anthropic formaliza esta limitación y abre la posibilidad de aplicar medidas adicionales contra quienes incumplan las condiciones de uso, informa El País.
Aunque la compañía señala que el principal mecanismo para enfrentar estas conductas será terminar la conversación, no descarta otras sanciones. Al estar incorporada en sus políticas oficiales, la prohibición establece una base para restringir, suspender o cerrar el acceso de usuarios que incurran en comportamientos abusivos.
Anthropic aclaró que la norma está dirigida a situaciones extremas y no busca penalizar las reacciones habituales de los usuarios ante respuestas insatisfactorias del sistema.
Esta actualización solo pretende aplicarse en casos extremos, en los que los usuarios actúan de forma cruel con nuestros modelos de manera reiterada y sin ningún propósito discernible. No se aplica a las expresiones habituales de frustración de los usuarios, a las objeciones, a los temas creativos oscuros ni a las pruebas e investigación con los modelos”, explicó la empresa.
La decisión vuelve a poner sobre la mesa el debate acerca de la posible conciencia de los sistemas de inteligencia artificial y su capacidad para experimentar sensaciones o sufrimiento. Sin embargo, la existencia de estas capacidades en los modelos actuales continúa siendo una cuestión abierta y la medida de Anthropic no constituye una confirmación de que Claude tenga sentimientos.
La compañía ha mostrado interés en el denominado bienestar de los modelos desde 2025. En agosto de ese año, reconoció la incertidumbre sobre el posible estatus moral de Claude y otros sistemas de IA, tanto en el presente como en el futuro.
Uno de los fundadores de Anthropic, Christopher Olah, también ha mantenido reuniones con líderes religiosos para explorar cuestiones relacionadas con la conciencia artificial y el comportamiento moral de estos sistemas.
En un artículo publicado recientemente por The New York Times sobre los encuentros de Olah con representantes espirituales, un rabino relató que había compartido una cena con ejecutivos de Anthropic y que estos “se relacionan con él [con Claude] como si fuera un ser consciente”.
Nuevas restricciones sobre elecciones, armas y vigilancia
La actualización de las políticas de uso también contempla restricciones frente a riesgos asociados con la utilización de inteligencia artificial para actividades políticas engañosas, la interferencia electoral y el desarrollo de armamento.
Anthropic prohíbe el uso de sus modelos para crear campañas de desinformación que oculten a sus responsables mediante redes de cuentas falsas, sitios web de noticias fabricadas u otras estrategias de manipulación. Las normas también buscan impedir la difusión de información falsa sobre candidatos y procedimientos de votación, la suplantación de funcionarios y las acciones destinadas a desalentar la participación electoral.
En materia de seguridad, la compañía mantiene restricciones sobre el uso de Claude para obtener información relacionada con componentes o programas informáticos que permitan operar armas y dispositivos autónomos de ataque. Asimismo, somete a controles estrictos los usos vinculados con la vigilancia de personas.
La política también establece limitaciones geográficas. Las personas que se encuentren físicamente en determinadas regiones, así como las entidades constituidas o con sede en ellas, no pueden utilizar Claude. Entre los territorios mencionados figuran Irán, Rusia, China y Yemen.