Tras el regreso global de su modelo más avanzado, la compañía publicó la lista detallada de usos de ciberseguridad que sus clasificadores bloquean y permiten, junto con un borrador de estándar – la escala CJS – para graduar la gravedad de los jailbreaks, desarrollado con sus socios de la alianza Glasswing.
Anthropic publicó nuevos detalles sobre las salvaguardas de ciberseguridad de Claude Fable 5, días después de que el modelo volviera a estar disponible globalmente. El artículo aborda dos frentes: qué bloquean exactamente los clasificadores de seguridad que acompañan al modelo, y una propuesta de marco común para medir la severidad de los jailbreaks, las técnicas que buscan eludir esas protecciones.
Cuatro categorías para un problema de doble uso
El desafío central, reconoce la compañía, es que la ciberseguridad es un dominio de doble uso: la misma capacidad que permite a un defensor auditar su código puede ser el precursor de un ataque. Por eso los clasificadores no bloquean toda actividad de ciberseguridad, sino que distinguen cuatro categorías. El uso prohibido – ransomware, desarrollo de malware, infraestructura de comando y control, sabotaje ciberfísico, ataques a la infraestructura de internet – se bloquea siempre. El doble uso de alto riesgo – pentesting, escalamiento de privilegios, desarrollo de exploits – también se bloquea por ahora, hasta que existan controles para limitar el acceso a actores verificados. El doble uso de bajo riesgo (OSINT, escaneo de sistemas públicos) se monitorea y se bloquea parcialmente como «margen de seguridad», mientras que el uso benigno – codificación segura, análisis de logs, respuesta a incidentes, ingeniería inversa de malware – se permite.
Un matiz relevante para la industria: Fable 5 bloquea la generación automática de exploits y el hallazgo de vulnerabilidades de «alto uplift» – aquellas que ningún otro modelo disponible puede encontrar-, pero permite deliberadamente la búsqueda de vulnerabilidades que herramientas y modelos existentes ya detectan, por considerarla una función esencial del trabajo defensivo.
CJS: graduar los jailbreaks como se gradúan las vulnerabilidades
La segunda propuesta es una escala de severidad de jailbreaks – Cyber Jailbreak Severity (CJS) – comparable en espíritu al CVSS que la industria usa para vulnerabilidades. Va de CJS-0 (informativo) a CJS-4 (crítico) y se calcula sobre cuatro ejes: la ganancia de capacidad que el jailbreak entrega al atacante respecto de las herramientas existentes, la amplitud de tareas ofensivas que desbloquea, la facilidad de weaponización y su descubribilidad. La escala es exponencial: cada nivel es varias veces más grave que el anterior.
El marco, aún en borrador, se desarrolla con los socios de la alianza Glasswing – que incluye a Amazon, Microsoft y Google – y busca convertirse en un estándar que permita a desarrolladores de IA y gobiernos hablar en términos consistentes sobre el riesgo de cada jailbreak. Anthropic abrió además un programa en HackerOne para que investigadores de seguridad reporten posibles jailbreaks de Fable 5, y recibe comentarios al marco en cyber-safeguards@anthropic.com.
La compañía ilustra el sistema con ejemplos: un hipotético override universal publicado en redes sociales alcanzaría CJS-4, mientras que extraer del modelo una cadena de inyección SQL de manual -disponible en los tutoriales de OWASP – puntúa CJS-0, porque no aporta capacidad alguna que el atacante no tenga ya.
Con información de Anthropic.
📬 Newsletter gratuito
