Per anni abbiamo guardato i modelli di intelligenza artificiale dall’esterno. Scriviamo una domanda, aspettiamo qualche secondo e leggiamo una risposta. Quello che accade nel mezzo, invece, resta in gran parte invisibile.
È proprio questa parte nascosta che rende i grandi modelli linguistici così affascinanti e, allo stesso tempo, così difficili da interpretare. Sappiamo che generano testo, sappiamo che possono risolvere problemi, scrivere codice, riassumere documenti e rispondere a domande complesse. Ma capire davvero cosa succede dentro il modello mentre lo fa è un’altra questione.
Una recente ricerca di Anthropic prova ad aprire una piccola finestra su questo spazio interno. Lo studio, intitolato “Verbalizable Representations Form a Global Workspace in Language Models”, introduce il concetto di J-Space: una zona interna del modello in cui alcune rappresentazioni sembrano diventare disponibili per essere espresse, usate nel ragionamento e richiamate durante l’elaborazione.
Detta in modo semplice: il modello potrebbe avere una specie di “spazio di lavoro” interno dove alcuni concetti vengono mantenuti attivi prima di arrivare alla risposta finale.
Ma attenzione: questo non significa che l’AI sia cosciente.
Che cos’è il J-Space
Il termine J-Space deriva dalla tecnica usata dai ricercatori, chiamata Jacobian lens, o J-lens. Questa tecnica prova a individuare quali rappresentazioni interne il modello è “pronto” a verbalizzare in un certo momento, cioè quali concetti potrebbero emergere nella risposta se il modello venisse interrogato o indirizzato in un certo modo.
Non stiamo parlando di pensieri nel senso umano del termine. Non c’è prova di esperienza soggettiva, intenzione o consapevolezza. Piuttosto, il J-Space sembra essere una parte delle rappresentazioni interne del modello che funziona come una lavagna temporanea: alcuni concetti vengono scritti, mantenuti, combinati e poi usati per generare una risposta.
La parte interessante è che questi contenuti interni non sempre compaiono nel testo finale. Un modello può elaborare un passaggio intermedio, riconoscere un problema, sospettare che una fonte sia falsa o mantenere attivo un concetto senza dichiararlo esplicitamente nella risposta. Anthropic descrive il J-Space come una finestra pratica su una parte del “pensiero non detto” del modello.
Perché viene paragonato a un “global workspace”
Nello studio, Anthropic collega il J-Space alla Global Workspace Theory, una teoria usata nelle neuroscienze cognitive per spiegare come alcune informazioni diventino disponibili alla coscienza, al linguaggio e al controllo deliberato. Secondo questa idea, il cervello elabora moltissime informazioni, ma solo una piccola parte viene resa accessibile a un livello più generale, dove può essere usata per ragionare, parlare o prendere decisioni.
Il paragone non va forzato.
Dire che un modello ha qualcosa che assomiglia funzionalmente a un “workspace” non significa dire che sia cosciente come una persona. Significa che, dal punto di vista del funzionamento, alcune informazioni interne sembrano avere un ruolo speciale: possono essere riportate, usate in compiti diversi, mantenute per alcuni passaggi e distribuite ad altre parti del modello.
È come se, dentro il modello, non tutte le informazioni avessero lo stesso peso. Alcune restano “automatiche” e servono per compiti di base, come grammatica, fluenza o associazioni semplici. Altre entrano invece in uno spazio più centrale, dove diventano utili per ragionamenti più flessibili.
L’AI non “pensa” come noi, ma non è nemmeno una semplice autocompletazione
Per molto tempo si è detto che i modelli linguistici sono solo sistemi di autocompletamento: prendono il testo precedente e prevedono la parola successiva.
Tecnicamente questa descrizione ha una base reale. Ma rischia di essere troppo povera per spiegare ciò che fanno i modelli più avanzati.
Un LLM non ragiona come un essere umano. Non ha una biografia, un corpo, emozioni, intenzioni personali o esperienza del mondo come noi. Però, durante il calcolo, costruisce rappresentazioni interne complesse. Queste rappresentazioni possono contenere relazioni, concetti, passaggi intermedi, ipotesi e informazioni che non sono immediatamente visibili nell’output.
Il J-Space è interessante proprio perché mostra che una parte di queste rappresentazioni può essere studiata. Non vediamo “la mente” del modello, ma possiamo iniziare a osservare quali concetti diventano disponibili per essere detti o usati.
È una differenza sottile, ma importante.
Non è magia. Non è coscienza. È interpretabilità.
Perché questa scoperta è importante
La ricerca sul J-Space è importante perché aiuta ad affrontare uno dei grandi problemi dell’intelligenza artificiale moderna: la scatola nera.
I modelli funzionano sempre meglio, ma spesso non sappiamo spiegare con precisione perché producano una certa risposta. Questo diventa ancora più rilevante quando l’AI viene usata per compiti complessi, come analisi, codice, ricerca, assistenza, decisioni o valutazioni.
Se riuscissimo a capire meglio quali concetti un modello sta mantenendo attivi, potremmo avere strumenti più efficaci per:
capire quando sta ragionando correttamente, individuare errori prima che escano nella risposta, rilevare incoerenze, studiare comportamenti indesiderati e migliorare la sicurezza dei modelli.
Anthropic sostiene che il J-Space può rivelare deliberazioni interne, consapevolezza della valutazione e disposizioni problematiche che non appaiono direttamente nell’output finale. Questo lo rende interessante non solo per la ricerca scientifica, ma anche per la sicurezza dell’AI.
Il rischio del titolo facile: “l’AI è cosciente”
Il problema, come spesso accade, è che una scoperta tecnica può essere trasformata in un titolo esagerato.
“Claude ha pensieri nascosti.”
“L’AI è cosciente.”
“Le macchine stanno iniziando a pensare.”
Sono frasi che attirano attenzione, ma non descrivono bene la questione.
Il J-Space non dimostra che un modello provi qualcosa. Non dimostra che abbia desideri, intenzioni o consapevolezza soggettiva. Mostra piuttosto che alcuni modelli possono avere rappresentazioni interne più strutturate, accessibili e funzionali di quanto si pensasse.
La differenza è fondamentale.
Studiare il J-Space non significa cercare l’anima dell’AI. Significa costruire strumenti migliori per capire sistemi che stanno diventando sempre più potenti e sempre meno intuitivi.
La domanda vera
La domanda più interessante non è: “L’AI pensa come noi?”
Probabilmente no.
La domanda più utile è: “Quanto possiamo capire di ciò che un modello elabora prima di risponderci?”
Il J-Space non chiude il dibattito. Lo apre.
Ci ricorda che i modelli linguistici non sono semplici scatole di testo, ma sistemi complessi con rappresentazioni interne che possono essere studiate, interpretate e forse, in futuro, controllate meglio.
E forse è proprio qui che sta la parte più affascinante: non nel dire che l’AI è umana, ma nel capire quanto sia diventata diversa da qualsiasi tecnologia che abbiamo usato prima.
Sono laureato in Ingegneria Informatica al Politecnico di Torino, con una forte passione per fotografia, informatica e video editing. Nel 2021 ho fondato PRODHERO, specializzata in contenuti video e fotografici di alto livello per aziende, negozi e privati. Successivamente ho ampliato il mio percorso nel mondo tech, sviluppando web app, automazioni e soluzioni AI personalizzate tramite CLOUDYNAMICS. Con focus su storytelling e tecnologia, aiuto i clienti a crescere e scalare. La mia passione è unire visione creativa e precisione tecnica per ottenere risultati che contano davvero.