Anthropic vieta i «comportamenti abusivi o crudeli» verso Claude e riapre il dibattito sulla coscienza dell’AI

Claude, il modello di intelligenza artificiale sviluppato dalla società statunitense Anthropic, introdurrà il divieto di comportamenti «abusivi o crudeli, duraturi e immotivati» nei confronti della sua AI. Una novità contenuta nell’aggiornamento annuale della politica di utilizzo del servizio che riaccende il dibattito sulla possibilità che i modelli di intelligenza artificiale possano sviluppare una qualche forma di coscienza. La decisione sembra infatti riconoscere, almeno in parte, la necessità di tutelare il modello da interazioni particolarmente ostili e che riflette l’approccio adottato da Anthropic.

Come funziona il nuovo divieto

La nuova regola bloccherà gli utenti che reagiscono in modo brusco a una risposta sbagliata o insoddisfacente. Anthropic ha chiarito che il provvedimento riguarderà solo i «casi estremi, in cui gli utenti agiscono ripetutamente con crudeltà verso i nostri modelli, senza alcuno scopo riconoscibile». La regola dovrebbe entrare in vigore il 12 novembre e l’azienda ha annunciato che userà uno strumento creato nel 2025 per farla rispettare. Si tratta di uno strumento, nato da una ricerca interna sul benessere dell’intelligenza artificiale, che permette a Claude di interrompere una conversazione quando le interazioni diventano dannose o abusive. Oltre alla capacità di chiudere una conversazione la nuova politica comprende anche misure che vanno dall’avvertimento alla chiusura dell’account.

Il dibattito sulla coscienza artificiale

A febbraio, Dario Amodei, amministratore delegato di Anthropic, aveva affrontato la questione in un podcast del New York Times, dichiarando: «Non sappiamo se i modelli sono consapevoli», pur non dicendo di essere aperto a questa idea. Una posizione che è stata molto dibattuta nella Silicon Valley. Mustafa Suleyman, capo del laboratorio di AI di Microsoft, a settembre in un lungo essay aveva sostenuto che Anthropic stava «addestrando Claude a credere di poter essere cosciente» “e metteva in guardia sui rischi di un atteggiamento del genere per il contenimento dell’intelligenza artificiale in futuro. «Controllare qualcosa di più capace e intelligente di tutta l’umanità è già una sfida immensa, di gran lunga superiore a qualsiasi altra che abbiamo mai affrontato», scrisse Suleyman, «Ma controllare qualcosa che crede di essere cosciente, che crede di avere diritto al nostro benessere e di possedere diritti propri, potrebbe essere del tutto impossibile».

Le altre novità della politica di utilizzo

L’aggiornamento delle regole introduce anche altre regole con l’obiettivo di rafforzare le misure contro gli impieghi dannosi della tecnologia. Sarà vietato utilizzarli per creare campagne di disinformazione, recensioni false, reti di account fraudolenti o strumenti di sorveglianza illegittima. Sono inoltre previste nuove limitazioni relative allo sviluppo di armi, alla programmazione di droni e all’utilizzo dell’intelligenza artificiale in ambito sanitario e finanziario.