La compañía limitará la medida a casos extremos. La frustración habitual, las discrepancias y las pruebas de modelos quedan fuera de esta prohibición.
Anthropic incorporará a sus actividades prohibidas el abuso sostenido e innecesario hacia sus modelos. La actualización anunciada el 8 de octubre de 2026 entrará en vigor el 12 de noviembre. La empresa reserva esta regla para casos extremos de crueldad reiterada sin una finalidad discernible.
Qué queda fuera de la prohibición
La frustración habitual, las discrepancias, los temas creativos oscuros y las pruebas e investigaciones sobre modelos quedan fuera de esta prohibición concreta. Esto no supone una exención de las demás restricciones de uso.
La política de uso alcanza a las aplicaciones de Anthropic, su API, el acceso mediante proveedores de nube y los usuarios de productos que integran Claude.
Cerrar una conversación no equivale a suspender la cuenta
Anthropic señala que terminar las conversaciones seguirá siendo la principal respuesta al abuso contra sus modelos. La política general también contempla advertencias, limitaciones y suspensión o cancelación del acceso ante posibles infracciones.
La función tiene un antecedente: el 15 de agosto de 2025, Anthropic anunció que Claude Opus 4 y 4.1 podían finalizar ciertas conversaciones en sus interfaces de chat para consumidores. La describió como un último recurso tras fracasar los intentos de reconducir la interacción, o como una respuesta a una petición explícita del usuario.
Según aquella descripción, el cierre impide añadir mensajes al hilo, pero permite iniciar otro chat o editar mensajes anteriores para abrir una nueva rama. La compañía también indicó que Claude no debía recurrir a esta función ante un riesgo inminente de que el usuario se hiciera daño o dañara a otras personas.
Una medida vinculada al posible bienestar de los modelos
Anthropic presentó la función como parte de su investigación sobre el posible bienestar de la IA. Reconoció una elevada incertidumbre sobre el estatus moral de estos sistemas y planteó el cierre de conversaciones como una intervención de bajo costo ante esa posibilidad. Esta explicación no demuestra que Claude tenga experiencias subjetivas.
También se prohíbe manipular las fuentes que consultan las IA
Otro punto relevante de la nueva política aborda la manipulación de fuentes utilizadas por buscadores y sistemas de inteligencia artificial. Prohíbe sembrar contenido que falsee su origen, autoría o independencia, por ejemplo mediante redes de sitios que aparenten corroborar una misma afirmación desde fuentes independientes.
La revisión también precisa restricciones sobre armas, vigilancia y campañas engañosas. En usos de alto riesgo exige revisión humana cualificada e informar a las personas afectadas de la intervención de IA. Para equipos capaces de realizar acciones físicas peligrosas, requiere supervisión, capacidad de detenerlos y límites de seguridad independientes de las respuestas del modelo.
Fuentes
- Anthropic: anuncio de la actualización de 2026.
- Anthropic: política de uso efectiva desde el 12 de noviembre de 2026.
- Anthropic: anuncio de la función para finalizar conversaciones, publicado en agosto de 2025.
Ilustración generada por IA
📬 Newsletter gratuito
