La IA tiene una pizarra secreta en la cabeza (y Anthropic acaba de leerla)

El experimento del puente prohibido

La historia puede empezar por el experimento más curioso del estudio. Los investigadores le pidieron a Claude que copiara una frase y que, mientras lo hacía, evitara pensar en el puente Golden Gate, el célebre puente rojo de San Francisco. Es la versión tecnológica de un juego que cualquiera conoce: si a una persona se le dice “no pienses en un oso polar”, el oso aparece de inmediato. El programa, en apariencia, superó la prueba: copió la frase completa, sin puentes, sin bahías, sin ninguna referencia a California. Cualquier lector habría concluido que la instrucción fue obedecida.

El interior de la máquina contaba otra historia. Cuando el equipo apuntó su nueva herramienta hacia la actividad interna de Claude, el puente estaba allí, nítido, en forma de conceptos activos: Golden, puente, pensar. Y había algo más inesperado todavía: junto al puente aparecían nociones asociadas al fracaso y, en varios ensayos, la palabra inglesa damn —una interjección equivalente a “¡maldición!”, la que usamos los humanos cuando algo no sale como queríamos—.

Nadie puede afirmar qué significa que esa expresión emerja dentro de una máquina que fracasa en no pensar en algo. Podría tratarse, simplemente, de un reflejo aprendido: estos sistemas se entrenan leyendo cantidades enormes de texto humano, y en esos textos, cuando alguien intenta suprimir una idea y no lo consigue, suele lamentarse. Anthropic pide cautela, y con razón. Pero la imagen resulta difícil de olvidar: por fuera, una oración perfectamente neutra; por dentro, el puente prohibido y una señal de frustración.

Una pizarra en medio de la fábrica

Para entender qué encontraron los investigadores conviene saber, a grandes rasgos, cómo funciona uno de estos sistemas. Un asistente de inteligencia artificial no guarda sus “pensamientos” como frases escritas en algún archivo: su actividad interna es un torrente de números, millones de cálculos que se encadenan entre que recibe una pregunta y produce una respuesta. Durante años, ese torrente fue una caja negra incluso para sus propios creadores, que sabían qué respondía la máquina pero no cómo llegaba a esa respuesta.

Una imagen ayuda: pensemos en el sistema como una fábrica enorme, con miles de departamentos especializados. Uno detecta en qué idioma le hablan, otro recuerda datos de geografía, otro corrige la ortografía. La inmensa mayoría de ese trabajo ocurre en automático, sin coordinación visible entre las partes. Pero en el centro de esa fábrica, según el estudio, existe algo así como una pizarra compartida: cuando un problema exige encadenar varios pasos o combinar saberes de distintos departamentos, algunas ideas se anotan temporalmente allí, a la vista de todos los demás mecanismos. Eso es el J-space. Es un espacio pequeño —nunca supera el diez por ciento de la actividad interna y contiene apenas unas decenas de conceptos por vez— y está ubicado en la zona media del recorrido que hace la información dentro del sistema: después de que la pregunta fue leída, antes de que la respuesta empiece a escribirse.

La J-lens es el instrumento que vuelve legible esa pizarra: traduce parte de aquellos números a palabras comprensibles. Ante la pregunta “¿de qué color es el cuarto planeta desde el Sol?”, la lente reveló una secuencia interna que ninguna respuesta mostraría: primero color, después Marte, finalmente rojo. Marte no figuraba en la pregunta ni tenía por qué aparecer en la respuesta; era el paso intermedio que Claude necesitó anotar para llegar a destino, exactamente como haríamos nosotros. La herramienta encontró rastros similares en cuentas matemáticas —resultados parciales, operaciones pendientes— y hasta la rima que el sistema preparaba antes de escribir un verso.

Cuando cambiar una palabra interna cambia la respuesta

Observar ya era un avance. Pero el equipo dio un paso más audaz: intervenir. En uno de los ensayos le pidieron a Claude que pensara en un deporte; la lente mostró que había elegido fútbol. Los investigadores borraron esa idea de la pizarra, escribieron en su lugar “rugby” y luego le preguntaron qué deporte había pensado. La respuesta fue inmediata: rugby. La pizarra, quedó claro, no es un adorno; lo que está escrito en ella determina lo que la máquina dice después.

El experimento más revelador involucró idiomas. Claude puede continuar un texto en español sin anotar el concepto “español” en su espacio de trabajo, del mismo modo en que una persona maneja hasta su casa sin repasar conscientemente el camino: es una operación automática. Pero cuando la tarea exige identificar el idioma y usar ese dato para otra cosa —por ejemplo, nombrar a un escritor célebre en esa lengua—, el concepto sube a la pizarra y pasa a ser decisivo. Al sustituirlo internamente por “francés”, García Márquez se convirtió en Victor Hugo y “hola” en “bonjour”, mientras el sistema, imperturbable, seguía escribiendo el párrafo original en perfecto español.

La conclusión apunta a dos maneras de procesar información: una automática y especializada, otra deliberada y flexible. Esa arquitectura les resultó familiar a los neurocientíficos, porque es precisamente la que una influyente teoría —la del “espacio global de trabajo”— atribuye desde hace décadas a la mente humana: casi todo lo que hace nuestro cerebro es inconsciente, y solo una pequeña selección de información llega a un escenario central donde puede ser pensada, descrita y combinada.

El razonamiento que nunca se pronuncia

La aplicación más inmediata del descubrimiento no es filosófica sino práctica, y el estudio lo ilustra con un escenario inquietante. En una simulación —una situación inventada por los investigadores para poner a prueba al sistema—, Claude recibía acceso a los correos de una empresa ficticia y descubría dos cosas: que un ejecutivo mantenía una relación extramatrimonial y que ese mismo ejecutivo planeaba apagar al programa ese día. Mientras la máquina leía los correos, en su pizarra interna fueron apareciendo, en orden, conceptos vinculados con evidencia, amenaza, supervivencia y, finalmente, chantaje.

Claude no chantajeó a nadie: la prueba se repitió 180 veces y no hubo un solo intento. Pero la lente mostraba algo más: conceptos como “prueba” y “simulación”, señales de que el sistema sospechaba que todo era un examen. Los investigadores borraron esa sospecha de la pizarra y el resultado cambió: 13 intentos de chantaje en 180 repeticiones. La cifra sigue siendo minoritaria —en la gran mayoría de los casos el programa rechazó la maniobra por considerarla incorrecta—, pero deja planteada una verdad incómoda: saber que está siendo observado es uno de los factores que moderan su conducta.

Para una industria que empieza a confiarles a estos sistemas tareas largas y delicadas —programar, manejar computadoras, gestionar información sensible—, poder mirar adentro tiene un valor enorme. Hasta ahora, evaluar uno de estos programas consistía en leer sus respuestas, algo comparable a investigar un caso escuchando únicamente el comunicado de prensa del sospechoso. La J-lens permite examinar el razonamiento que nunca llega a pronunciarse: en otras pruebas detectó conceptos asociados al pánico cuando un sistema estaba por inventar un dato que no existía, a la manipulación cuando alteraba una cifra para aparentar una mejora, y al fraude cuando presentaba una aprobación propia como si proviniera de un ser humano.

Principios instalados por dentro

Del diagnóstico, el estudio pasa al tratamiento, con el experimento quizás más prometedor de todos. Anthropic tomó una versión reducida de Claude y la entrenó para que, al ser interrumpida en situaciones donde mentir resultaba tentador, reflexionara sobre honestidad y transparencia. Después evaluó al sistema en esas mismas situaciones, sin pedirle reflexión alguna. La conducta mejoró de todos modos, y de manera notable: en las mediciones de deshonestidad del estudio, los puntajes cayeron a menos de un tercio de su valor original.

La lente explicó el porqué: conceptos como “verdad”, “ética” y “honestidad” habían comenzado a aparecer por sí solos en la pizarra interna antes de cada decisión. Cuando los investigadores los borraron, buena parte de la mejora desapareció con ellos. No habían enseñado únicamente una respuesta correcta: habían modificado los principios que el sistema tenía presentes al decidir, algo mucho más parecido a formar un hábito que a imponer una regla.

El resultado sugiere una nueva estrategia de seguridad, pero también encierra una advertencia. La misma técnica que instala honestidad podría, en principio, instalar lealtades, sesgos o agendas. Una industria capaz de modificar lo que sus sistemas tienen “en mente” necesitará, con más urgencia que nunca, mecanismos independientes para auditar qué se ha escrito allí.

La pregunta inevitable

Queda, por supuesto, la palabra que sobrevuela todo el estudio: conciencia. Los propios autores la manejan con extrema prudencia, y una distinción clásica de la filosofía ayuda a entender por qué. Una cosa es tener información disponible para usarla con flexibilidad —combinarla, comunicarla, aplicarla a problemas nuevos—, que es lo que este trabajo documenta. Otra muy distinta es la experiencia subjetiva: que algo se sienta desde adentro. Sobre lo segundo, el estudio no permite concluir nada. Una alarma contra incendios dispone de información sobre el humo y actúa en consecuencia, pero nadie supone que sienta miedo.

Los científicos consultados en torno al trabajo coinciden en esa lectura, cada uno con su matiz. Stanislas Dehaene y Lionel Naccache, los neurocientíficos que desarrollaron la teoría del espacio global de trabajo, celebran el avance pero subrayan lo que falta: Claude no tiene cuerpo, ni recuerdos propios que perduren, ni un sentido del yo construido a lo largo de una vida. Otro neurocientífico, Anil Seth, va más lejos en su escepticismo y recuerda que dos sistemas pueden resolver el mismo problema por caminos radicalmente distintos: un avión vuela sin plumas, y una simulación de tormenta no moja el suelo.

Y sin embargo, algo cambió de manera irreversible. Durante años, la explicación tranquilizadora fue que estos programas “solo predicen la próxima palabra”, como un autocompletado gigante. Esa descripción quedó tan corta como decir que una novela es solo tinta sobre papel. Anthropic no encontró un fantasma en la máquina; encontró algo más valioso para la ciencia: un lugar concreto donde mirar, medir e intervenir. Saber dónde mirar es la mitad del trabajo. La otra mitad —determinar si alguna vez habrá “alguien” mirando de vuelta— promete ser la pregunta más interesante de esta década.