"Si la mente es un océano, pasamos nuestras vidas flotando en la superficie. Debajo de nosotros, una enorme cantidad de procesamiento se lleva a cabo sin nuestro conocimiento: nuestros sistemas visuales analizan los contornos de una cara, nuestros circuitos motores mantienen nuestra postura. En un momento dado, solo una pequeña fracción de esta actividad neuronal es accesible para nosotros".
Esa es la premisa con la que comienza el estudio "Verbalizable Representations Form a Global Workspace in Language Models" (Las representaciones verbalizables forman un espacio de trabajo global en los modelos de lenguaje), publicado este 6 de julio, en el que la empresa Anthropic presenta una herramienta capaz de observar parte del procesamiento interno de Claude antes de que este genere una respuesta.
Claude es un avanzado asistente de inteligencia artificial y modelo de lenguaje desarrollado por Anthropic. Una investigación propia de esta empresa identificó un espacio interno de representaciones que permite al modelo manipular conceptos que luego puede expresar, una capacidad clave para el razonamiento complejo.
El trabajo describe una estructura denominada J-space, detectada mediante una nueva herramienta llamada J-lens, que permite analizar los patrones internos de activación del modelo.
Según los investigadores, este espacio funciona como un área donde Claude organiza y manipula conceptos que posteriormente puede utilizar para razonar, planificar respuestas o describir información de manera deliberada.
Una investigación inspirada en la neurociencia
El punto de partida del estudio
La introducción del artículo utiliza una analogía con el cerebro humano: gran parte del procesamiento neuronal ocurre fuera de nuestra conciencia. Mientras los sistemas visuales reconocen rostros o los circuitos motores mantienen el equilibrio, solo una fracción de esa actividad llega a ser accesible para el pensamiento consciente.
Los autores plantean que un fenómeno comparable podría estar ocurriendo en los modelos de lenguaje de gran escala. No afirman que estos sean conscientes, sino que disponen de un mecanismo interno que concentra la información relevante para el razonamiento y la generación de respuestas.
Ese planteamiento se inspira en la teoría del espacio de trabajo global, desarrollada por el científico cognitivo Bernard Baars, una de las principales explicaciones sobre cómo el cerebro integra información para hacerla accesible al razonamiento consciente.
Compartir esta nota
Sigue leyendo
{{#volanta}}{{volanta}}{{/volanta}}