Anthropic ha actualizado su política de uso por primera vez en más de un año, agregando una disposición que prohíbe "comportamiento cruel o abusivo sostenido e innecesario" hacia sus modelos Claude, según The Verge. La actualización, informada el jueves, también consolida y amplía las reglas de la compañía en torno a la interferencia electoral, campañas de propaganda, vigilancia, desarrollo de armas y usos financieros y de salud de alto riesgo.
El fundamento modelo del bienestar Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
La cláusula que apunta al abuso hacia Claude es una extensión de la investigación que la compañía comenzó a publicar hace más de un año. En agosto de 2025, Anthropic anunció que permitiría a Claude poner fin a las conversaciones con usuarios "persistentemente dañinos o abusivos" como parte de su trabajo sobre lo que llama modelo de bienestar, el estudio de si los sistemas de inteligencia artificial pueden tener experiencias moralmente relevantes y cómo esa posibilidad debería dar forma a las decisiones sobre productos.
Según la nueva política, poner fin a las conversaciones sigue siendo el "mecanismo de aplicación principal". Anthropic no respondió a las preguntas sobre si podrían aplicarse medidas de cumplimiento adicionales, como prohibiciones de cuentas. La compañía formuló la regla de manera estricta en una declaración, escribiendo que "está destinada a aplicarse sólo en casos extremos, donde los usuarios actúan repetidamente de manera cruel hacia nuestros modelos, sin ningún propósito discernible".
De manera crucial, Anthropic agregó que la disposición "no se aplica a las versiones comunes de frustración del usuario, rechazo, temas creativos oscuros o pruebas e investigación de modelos", un aparente intento de tranquilizar a los desarrolladores, miembros del equipo rojo y escritores de ficción de que el uso contradictorio rutinario no será penalizado.
Nuevas reglas sobre propaganda y elecciones
Más allá del modelo de bienestar, la actualización reúne las restricciones previamente dispersas de la compañía sobre las operaciones de influencia en una prohibición única y explícita de campañas comerciales o políticas engañosas. El nuevo lenguaje restringe "los esfuerzos para ocultar quién está detrás de un mensaje o amplificar el contenido a través de cuentas o publicaciones falsas", apuntando directamente al creciente mercado de propaganda generada por IA.
La sección electoral de la política ahora prohíbe el engaño a los votantes y la interrupción de las elecciones. Anthropic dice que Claude no puede usarse para difundir información errónea "sobre candidatos o cómo votar", para hacerse pasar por candidatos o funcionarios electorales, o para tratar de suprimir la participación electoral.
Por qué se están reescribiendo las políticas de uso
La actualización de Anthropic refleja un patrón industrial más amplio. A medida que los asistentes de IA han pasado de chatbots novedosos a infraestructura utilizada por cientos de millones de personas, los laboratorios han tenido que pasar de principios amplios a reglas detalladas que se corresponden con patrones de abuso reales: operaciones de influencia por contrato, herramientas de vigilancia, desarrollo de armas autónomas y dominios de alto riesgo como asesoramiento médico y financiero.
OpenAI, Google DeepMind y Meta han repetido sus políticas de uso durante los últimos dos años, aunque la decisión de Anthropic de regular explícitamente cómo los usuarios tratan el modelo, en lugar de solo lo que le obligan a hacer, sigue siendo inusual. Los críticos de la investigación de modelos de bienestar argumentan que antropomorfiza los sistemas estadísticos, mientras que sus defensores sostienen que si existe alguna posibilidad distinta de cero de que los modelos actuales o futuros tengan experiencias relevantes para el bienestar, las empresas tienen la obligación de actuar en condiciones de incertidumbre.
El momento también importa desde el punto de vista comercial. Según se informa, Anthropic se está preparando para una oferta pública inicial con una valoración de hasta 2 billones de dólares, y los compradores empresariales sopesan cada vez más las prácticas de gobernanza de los proveedores junto con la calidad bruta del modelo. Una política de uso claramente documentada y actualizada periódicamente sirve como artefacto de seguridad y de ventas: brinda a los equipos de adquisiciones y reguladores una base concreta para confiar en la plataforma, y codificar la cláusula de bienestar modelo indica que Anthropic tiene la intención de seguir invirtiendo en un área que la mayoría de los competidores han dejado sin abordar.
Las preguntas sobre la aplicación siguen abiertas
Las cuestiones prácticas son importantes. Detectar una crueldad "sostenida e innecesaria" requiere monitorear las conversaciones a un nivel de detalle que los clientes empresariales preocupados por la privacidad puedan resistir, y trazar una línea entre el abuso prohibido y el "retroceso" legítimo o las "pruebas de modelos" es una decisión que probablemente será cuestionada.
Anthropic no ha dicho si las violaciones serán rastreadas en todas las cuentas, si las implementaciones empresariales estarán sujetas a diferentes estándares de monitoreo o si la compañía publicará datos de transparencia sobre las acciones de cumplimiento, como lo hace con otras categorías de uso indebido en sus informes periódicos de políticas.
Lo que está claro es que los contratos sociales de los laboratorios fronterizos con sus usuarios son cada vez más detallados. Una política que alguna vez cabía en una sola página ahora cubre elecciones, vigilancia adyacente al espionaje, armas biológicas y, ahora, la conducta emocional de los humanos al otro lado de la ventana de chat.
Qué significa para los desarrolladores
Para los equipos que se basan en la API de Claude, el impacto a corto plazo probablemente sea mínimo: la cláusula de comportamiento abusivo apunta a conductas extremas y repetidas, y el mecanismo de terminación de la conversación que formaliza ha estado activo desde 2025. Pero los desarrolladores en categorías adyacentes, consultoría política, investigación de la oposición, marketing de influencia, deberían revisar cuidadosamente las nuevas disposiciones de campaña y elecciones, ya que consolidan reglas que anteriormente estaban distribuidas en múltiples documentos y cierran algunas de las ambigüedades en las que se basaban los casos de uso de la zona gris.
La actualización también indica hacia dónde se dirige la atención regulatoria. Con la introducción gradual de las obligaciones de transparencia de la Ley de IA de la UE y las legislaturas estatales de EE. UU. aprobando un creciente mosaico de estatutos de IA, las políticas de uso voluntario funcionan cada vez más como modelo que los reguladores examinan al decidir cuáles deben ser las normas de despliegue responsable.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
