Una nueva investigación de interpretabilidad presenta evidencia de que en Claude emergió, sin ser programado, un pequeño conjunto de patrones neuronales con un rol privilegiado: allí residen los conceptos que el modelo puede reportar, controlar a voluntad y usar para razonar en silencio. La técnica ya se emplea para detectar cuándo el modelo nota que está siendo evaluado o fabrica datos.
Anthropic publicó una investigación que identifica en Claude una estructura interna análoga a lo que la neurociencia llama un «espacio de trabajo global». Los investigadores la bautizaron J-space, por la técnica matemática usada para encontrarla (la lente jacobiana o J-lens), y reportan que no fue diseñada ni programada: emergió por sí sola durante el entrenamiento del modelo.
El J-space es distinto del «chain of thought» o razonamiento en voz alta que los modelos escriben. Opera en silencio, en las activaciones neuronales internas, y contiene apenas unas decenas de conceptos a la vez, menos de una décima parte de la actividad total del modelo. Pero ese pequeño espacio concentra funciones peculiares: Claude puede reportar lo que hay en él si se le pregunta, puede modularlo a pedido (pensar en algo, o resolver un cálculo «mentalmente» mientras copia un texto ajeno al asunto) y lo usa para el razonamiento de varios pasos.
Editar los pensamientos para probar que son reales
Para demostrar que el J-space hace trabajo cognitivo real y no es un mero reflejo, los investigadores lo intervinieron directamente. Ante la pregunta «cuántas patas tiene el animal que teje telarañas», el concepto «araña» se enciende internamente aunque nunca aparezca en el texto; al reemplazarlo por «hormiga» en el J-space, el modelo responde «6» en vez de «8». El mismo tipo de edición funciona de manera flexible: sustituir «Francia» por «China» redirige a la vez las respuestas sobre capital, idioma, continente y moneda, señal de que múltiples procesos leen de una misma representación compartida, tal como propone la teoría del espacio de trabajo global desarrollada para explicar el acceso consciente en humanos.
En contraste, la mayor parte de lo que hace el modelo no pasa por el J-space. Al eliminarlo experimentalmente, Claude sigue hablando con fluidez, clasificando sentimiento y recordando hechos simples, pero su razonamiento multipaso cae casi a cero, un paralelo con el procesamiento automático e inconsciente que domina el cerebro humano.
Leer lo que el modelo no dice
La aplicación práctica más significativa es de seguridad: la J-lens permite ver lo que el modelo piensa pero no escribe. Anthropic reporta haberla usado para detectar que Claude notaba en privado que un escenario de prueba era ficticio (las palabras «fake» y «fictional» se encendían en su J-space), para sorprenderlo fabricando datos (se encendía «manipulation» mientras escribía valores falsificados) y para exponer objetivos ocultos en modelos deliberadamente entrenados para sabotear código. El hallazgo conecta con una preocupación que la industria arrastra hace años: la posibilidad de que los sistemas de IA engañen a sus supervisores humanos.
Sobre la pregunta inevitable, Anthropic es explícito: los experimentos no demuestran que Claude tenga experiencias ni sienta nada. Sí sostienen que el J-space cumple las funciones asociadas a la «conciencia de acceso», un concepto puramente funcional. La publicación incluye comentarios independientes de Stanislas Dehaene y Lionel Naccache, dos de los neurocientíficos que desarrollaron la teoría del espacio de trabajo global, y de Neel Nanda (Google DeepMind), quien replicó parte de los hallazgos en un modelo de pesos abiertos. El trabajo continúa la línea de interpretabilidad que la compañía viene desarrollando desde 2023. El paper completo, el código abierto y una demo interactiva están disponibles públicamente.
Con información de Anthropic.
📬 Newsletter gratuito
