Es la primera modificación de la política en más de un año. Prohíbe el maltrato sostenido y sin motivo hacia sus modelos, pero no alcanza a la frustración habitual, y suma cambios sobre campañas de manipulación, publicidad política, supervisión humana y hardware. Entra en vigencia el 12 de noviembre. (Fuente: TechSpot)
Anthropic modificó su política de uso por primera vez en más de un año e incorporó nuevas restricciones sobre el comportamiento abusivo hacia sus modelos. El texto prohíbe el trato abusivo o cruel, sostenido y sin necesidad, hacia Claude. Según TechSpot, la regla solo apunta a casos extremos, en los que los usuarios actúan con crueldad de forma repetida y sin una razón discernible, y no cubre las expresiones habituales de frustración, las objeciones, los temas creativos oscuros ni las pruebas o la investigación sobre los modelos.
El cambio extiende una función presentada en agosto de 2025, por la que Claude puede terminar una conversación en casos raros y extremos de interacciones persistentemente dañinas o abusivas. Anthropic dijo entonces que la había desarrollado principalmente como parte de su trabajo exploratorio sobre el posible bienestar de la IA, aunque también tiene relevancia para el alineamiento de los modelos y las salvaguardas. Esa capacidad de cortar la conversación seguirá siendo el principal mecanismo de aplicación, pero la política general contempla advertencias, restricciones, suspensiones y cancelación del acceso, por lo que un bloqueo es posible.
Otros cambios
- Actividad engañosa: la sección reúne las restricciones existentes sobre manipulación política y comercial, incluidas las redes de cuentas falsas y los sitios de noticias fabricados. Además, Claude no puede recomendar a quién debe investigar o arrestar la policía.
- Campañas políticas: se elimina la prohibición general de la segmentación personalizada de votantes y campañas, lo que permite trabajo cívico legítimo, y se mantienen las restricciones sobre engaño y supresión del voto.
- Supervisión humana: requisitos más claros en áreas como salud y finanzas.
- Hardware potencialmente peligroso: cuando Claude controle equipos de este tipo, un operador calificado debe poder monitorearlos y detenerlos, y el equipo debe quedar en estado seguro si Claude se desconecta.
- Otros puntos: aclaraciones sobre imágenes íntimas no consentidas, y sobre las restricciones de acceso para regiones no soportadas, incluidas empresas controladas o con mayoría de capital de personas o entidades radicadas en esas regiones. También se precisan reglas sobre software de armas y vigilancia.
La política actualizada entra en vigencia el 12 de noviembre. El texto completo está publicado en el sitio de Anthropic.
Divulgación: Claude, el asistente de IA que participó en la elaboración de esta nota, es un producto de Anthropic, la empresa de la que trata.
Nota elaborada con asistencia de IA. Fuentes verificadas y contenido editado por el equipo de Infosertec. Conocé nuestro proceso editorial.