Anthropic prohíbe el abuso «sostenido y gratuito» hacia Claude en su política de uso

Qué ha cambiado

Anthropic ha actualizado su política de uso para incluir entre las conductas prohibidas el comportamiento «sostenido y gratuitamente abusivo o cruel» dirigido a sus sistemas de inteligencia artificial.

La compañía ha explicado que la norma se aplicará solo en casos extremos, cuando un usuario actúa repetidamente con crueldad hacia el modelo «sin un propósito discernible». La actualización permite que sus herramientas terminen la interacción en esas situaciones, algo que según la empresa ya había ocurrido en contadas ocasiones antes de que la norma se hiciera explícita.

La regla no se aplica a:

• Frustración común del usuario.
• Desacuerdo o crítica al sistema.
• Temas creativos oscuros.
• Pruebas y evaluación de modelos por parte de investigadores.

Por qué genera debate

La decisión ha reabierto una discusión que lleva tiempo abierta: qué tipo de relación se establece con un sistema que responde como si comprendiera, y si tiene sentido regular el trato que recibe.

Hay tres posiciones que se repiten en este debate y ninguna es descartable:

La instrumental. Un modelo de lenguaje es una herramienta. Regular cómo se le habla es, en esta lectura, una forma de desplazar la atención desde los problemas reales —sesgos, condiciones laborales del etiquetado, consumo energético— hacia un asunto sin consecuencias materiales.

La pragmática. Hay razones de producto y de ingeniería para limitar el abuso extremo: las interacciones de ese tipo degradan la calidad del servicio, consumen recursos y en algunos casos sirven para probar técnicas de manipulación que después se aplican a personas.

La relacional. Cómo se trata a sistemas que responden socialmente puede tener efectos en quien lo hace, especialmente en usuarios que desarrollan vínculos afectivos con ellos. Varios reguladores han empezado a mirar este punto por el lado de la protección del consumidor, no por el del modelo.

El contexto normativo

La actualización no ocurre en el vacío. Incluye también cambios para afrontar riesgos emergentes: la prohibición de usar Claude en «campañas engañosas» y la aclaración de que no puede emplearse para «engañar a votantes o perturbar elecciones», en un año con elecciones legislativas en Estados Unidos.

Anthropic ya señalaba en su política anterior que sus herramientas no podían usarse para desarrollar armas. La compañía ha presentado la nueva redacción como parte de una revisión más amplia de sus condiciones.

Qué implica en la práctica

Para la mayoría de usuarios, nada. La norma está redactada de forma que el umbral queda en la repetición deliberada y sin propósito, y la propia compañía insiste en que no pretende censurar el tono.

Para quien investiga con modelos, la exclusión explícita de «pruebas y evaluación de modelos» es importante: sin ella, buena parte del trabajo de evaluación de robustez y seguridad quedaría fuera de las condiciones de uso.

Qué no se sabe

• Cómo se determina de forma operativa qué es «sin propósito discernible», y si existe una vía de recurso.
• Si la medida se extenderá a otras plataformas que operan modelos de Anthropic.
• Qué efectos tendrá sobre usuarios que usan el sistema para explorar temas difíciles por razones personales.

Una nota de contexto

Este tipo de cláusulas se está convirtiendo en un terreno nuevo para el derecho de consumo y para la libertad de expresión en plataformas. Hasta ahora, la discusión se centraba en el contenido de lo que se publica; ahora empieza a alcanzar también la forma en que se interactúa con un servicio. No hay jurisprudencia consolidada al respecto, y conviene leer las actualizaciones de condiciones de uso de los grandes proveedores con esa cautela.