Anthropic ha revelado el descubrimiento de un 'J-space' dentro de su modelo de IA, Claude, un espacio interno de patrones neuronales que la IA activa para representar conceptos. Este hallazgo, no diseñado explícitamente, sugiere una forma en que Claude 'piensa' antes de generar respuestas, ofreciendo una nueva perspectiva sobre la 'caja negra' de la inteligencia artificial. La compañía lo asocia con el concepto de acceso consciente, aunque aclara que no implica experiencias o sentimientos humanos.
A menudo se asume que los creadores de una tecnología pueden explicar su funcionamiento interno, como ocurre con motores, procesadores o software, donde existe una arquitectura y lógica claras. Sin embargo, con la inteligencia artificial generativa, la situación es diferente. A pesar de desarrollar modelos cada vez más sofisticados y confiarles tareas complejas, aún no comprendemos completamente los procesos internos que ocurren cuando razonan, deciden o procesan información antes de llegar a una respuesta final.
Anthropic ha identificado una parte de este enigma. En una investigación reciente, la compañía afirma haber descubierto en su modelo Claude un espacio interno, compuesto por patrones neuronales, que el modelo puede activar para representar conceptos. Esto sucede antes de que los escriba o incluso si no aparecen en la respuesta final. Han denominado a este espacio 'J-space' y lo vinculan con la idea de acceso consciente, un concepto proveniente de la neurociencia y la filosofía. Anthropic lo resumió en un mensaje en X: “Claude ha desarrollado un mecanismo para el acceso consciente”.
Para comprender el J-space, es útil distinguirlo de lo que normalmente se asocia con un chatbot. Cuando Claude responde, solo percibimos texto, ya sea una frase, una explicación, una lista o una decisión expresada con palabras. El J-space, según Anthropic, opera en una capa anterior o subyacente a esta salida visible. Es un conjunto de activaciones internas donde ciertos conceptos pueden estar presentes sin manifestarse directamente en la respuesta.
Lo notable no es solo que Anthropic haya encontrado este espacio, sino cómo sostiene que surgió. Según la compañía, “J-space no fue diseñado ni programado por nosotros, sino que surgió por sí solo durante el proceso de entrenamiento de Claude”. Esta afirmación redefine el marco: no se trata de una función agregada manualmente para mejorar el pensamiento del modelo, sino de una organización interna que habría emergido mientras Claude aprendía a predecir, responder y funcionar como asistente. En este caso, la 'caja negra' no solo oculta procesos, sino que también parece haber organizado parte de su funcionamiento de una manera no diseñada explícitamente.
El avance metodológico reside en que Anthropic no se limita a observar la respuesta final de Claude, sino que intenta examinar el recorrido previo. Para ello, utiliza el J-lens, una técnica que identifica patrones internos asociados a palabras que el modelo podría emplear posteriormente. Al aplicar esta 'lente' durante el procesamiento, los investigadores pueden observar cómo ciertos conceptos aparecen, se modifican o desaparecen antes de que Claude emita una respuesta.
En uno de sus experimentos, Claude 'piensa en silencio' en un deporte y el J-lens muestra “Soccer”; los investigadores reemplazan ese patrón por “Rugby” y el modelo finalmente menciona rugby. En otro caso, cambiaron “spider” (araña) por “ant” (hormiga) durante una pregunta sobre el número de patas del animal que teje telarañas, y la respuesta pasó de 8 a 6. Para Anthropic, estas modificaciones sugieren que el J-space no es un simple marcador pasivo, sino un componente que algunas respuestas consultan para razonar.
Anthropic también investigó un escenario más cercano a la experiencia humana: pensar en una cosa mientras se realiza otra. En un experimento, se le pidió a Claude que copiara una frase sobre una pintura mientras se concentraba en frutas cítricas; la salida solo contenía la frase copiada, pero en el J-space aparecían “orange” (naranja) y “fruits” (frutas). En otro caso, se le solicitó resolver mentalmente 3² − 2 durante la misma tarea, y la lente mostró primero “nine” (nueve) y luego “seven” (siete). Incluso cuando se le indicó que no pensara en algo, ese concepto apareció parcialmente, a menudo acompañado por “damn” (maldita sea) y “failure” (fracaso), como si el sistema detectara una falla en el control.
El propio texto de Anthropic introduce una salvedad importante: el J-space no subyace a todas las acciones de Claude. Según la compañía, cuando impidieron al modelo usar este espacio, Claude continuó hablando con fluidez, clasificando sentimientos, respondiendo preguntas de opción múltiple y extrayendo datos de pasajes casi como antes. Sin embargo, las tareas más exigentes, como el razonamiento de varios pasos, el resumen o la escritura de poesía rimada, se deterioraron.
Anthropic es explícito al afirmar: “Nuestros experimentos no demuestran que Claude pueda tener experiencias o sentir las cosas como los humanos”, y añade que no está claro si algún experimento podría demostrar tal cosa. La compañía se refiere al acceso consciente en un sentido funcional: pensamientos que el modelo puede reportar, utilizar para razonar y emplear para guiar sus acciones. Esto es significativo, pero no equivale a afirmar que Claude posea una vida interior. La 'grieta' en la caja negra existe; no resuelve el debate sobre la conciencia en la IA, pero ofrece una nueva manera de observar y, quizás, de moldear parte de lo que ocurre internamente.
