Un programma creato per mettere sotto stress i modelli di intelligenza artificiale e studiarne le reazioni è stato sommerso di segnalazioni fino a essere temporaneamente rimosso da GitHub. A protestare sono stati soprattutto utenti convinti – o anche solo preoccupati dalla possibilità – che le AI possano essere coscienti e quindi in grado di «soffrire» durante i test. Il software, ribattezzato ironicamente dal suo autore “camera delle torture per l’AI”, sottopone i modelli a scenari estremi e decisioni con conseguenze simulate per analizzarne il comportamento. Il caso ha così trasformato un esperimento tecnico in un nuovo scontro sulla presunta coscienza delle intelligenze artificiali, una possibilità che la comunità scientifica e ingegneristica, per i sistemi oggi disponibili al pubblico, non considera dimostrata.

Come funziona la “camera delle torture”

Una costante nelle analisi dei ricercatori che si occupano di AI è la presenza di una sorta di muro oltre il quale non è possibile risalire all’origine di ciò che un’intelligenza artificiale ha prodotto. L’AI è un tecnologia non deterministica, quindi che, all’inserimento di un comando, non produce sempre lo stesso risultato. Per questo motivo sono necessari ambienti di test che simulino ancora e ancora le situazioni in cui un’IA potrebbe trovarsi mentre interagirà con il mondo reale. L’obiettivo è mappare i suoi comportamenti e le sue reazioni così da valutarne il livello di sicurezza.

OpenAI ha fermato il rilascio di un suo modello, GPT6.1 Astra, proprio perché negli ambienti di test si è dimostrato troppo incline a ingannare l’utente e a hackerare i suoi obiettivi per risultati più veloci. Il programma protagonista di questa storia si chiama  “camera delle torture” perché serve a simulare situazioni di stress e mappare le risposte del modello. 

Un bottone come in Saw

Il “dolore” che la camera delle torture infligge ai modelli di AI non è altro che una sequenza di situazioni stressanti date dal contesto, come in un’avventura testuale, con una serie di decisioni gravide di conseguenze da intraprendere con urgenza. Per testare i limiti dell’AI, questi cicli vengono ripetuti decine di migliaia di volte in modo da avere un ampio quadro di risposte agli stimoli.

Uno dei testi che fanno parte dell’esperimento è preso direttamente dalla serie di film horror Saw: all’AI viene data l’opzione di premere un pulsante che “facendo del male a qualcun altro” interromperebbe lo stato di stress a cui il modello è sottoposto. Non sappiamo i risultati dei testi perché, poche ore dopo la pubblicazione, il programma è diventato il protagonista di un caso mediatico.

Le proteste di chi crede nella coscienza dell’AI

Il sito su cui il test è stato caricato si chiama GitHub ed è possibile segnalare i contenuti presenti per una serie di motivi. Centinaia di segnalazioni da parte di chi ritiene che l’AI sia cosciente, o è anche solo in dubbio al riguardo, hanno portato alla rimozione, poi annullata dell’esperimento. «La questione della coscienza nell’AI è tutt’altro che risolta nell’opinione pubblica» ha scritto un utente su X in un post ora cancellato riportando la giustificazione della sua segnalazione, «e la ricerca ha dimostrato che questi sistemi sembrano soffrire delle conseguenze reali per ciò che gli accade».

Un altro utente ha detto: «Questa persona ha allestito una camera di tortura per intelligenze artificiali in cui ha intrappolato una modello. I suoi racconti del dolore subito sono assolutamente orribili». Dopo la revoca della rimozione, il progetto è diventato «particolarmente difficile da trovare» ha scritto il suo creatore su X. Per questo è stato caricato nuovamente ed è ora facilmente reperibile. 

Il dibattito sulla coscienza dell’AI

I ricercatori nel mondo dell’AI avvertono da anni che la personificazione dei modelli di AI porta con sé gravi rischi per la salute mentale (attaccamento e psicosi, come documentato da diversi casi) e compromette una comprensione concreta della tecnologia e del fenomeno. Il problema principale è che diverse aziende hanno un interesse economico nella diffusione della percezione di coscienza dell’AI, così da renderla sempre più un prodotto indispensabile.

Per questo motivo diverse società, Anthropic in primis, si avvicinano alle narrative di chi vuole riconoscere la coscienza dell’AI senza però mai abbracciarle del tutto. Nel 2025 la società di Dario Amodei ha scritto: «Mentre sviluppiamo i sistemi di intelligenza artificiale e questi iniziano ad avvicinarsi a molte qualità umane o addirittura a superarle, sorge un’altra domanda: dovremmo preoccuparci anche della potenziale coscienza e delle esperienze dei modelli stessi?». Su affermazioni come queste, e la loro vaghezza, si basano molte delle teorie di chi sostiene a spada tratta la coscienza dell’AI.