L'Ai ora fa paura, inizia la corsa a rallentare
Il primo a lanciare l’allarme è Dario Amodei, numero uno di Anthropic: timori soprattutto per l'uso nelle guerre. Si sono detti subito concordi Musk e Altman
Dario Amodei, numero uno di Anthropic, ha lanciato un appello per rallentare il ritmo con cui vengono sviluppate le capacità dei modelli di intelligenza artificiale. In un lungo intervento pubblicato sul suo sito personale, il fondatore dell'azienda che produce Claude ha scritto che i progressi tecnologici continueranno comunque a sembrare rapidi, ma che sarà necessario usare con saggezza il tempo che si riuscirà a guadagnare rallentando la corsa. Secondo Amodei, non costruire questa tecnologia priverebbe l'umanità dei suoi benefici, o la lascerebbe nelle mani di regimi autoritari, mentre svilupparla troppo in fretta sarebbe irresponsabile.
L'appello arriva in un momento delicato per il settore. Pochi giorni prima, un ricercatore che aveva lavorato sia per OpenAI sia per Anthropic aveva lasciato il settore accusando entrambe le aziende di correre rischi eccessivi nella corsa verso modelli capaci di migliorarsi da soli. Nello stesso periodo Anthropic ha pubblicato anche un rapporto molto ampio sui rischi legati all'uso improprio dell'intelligenza artificiale, che ha acceso ulteriormente il dibattito. Il documento descrive come gruppi legati a governi ostili agli Stati Uniti stiano già usando sistemi di IA per scopi che vanno dallo sviluppo di missili alle campagne di disinformazione, fino allo spionaggio di dissidenti e, in alcuni casi, a tentativi collegati allo sviluppo di armi biologiche. Il rapporto racconta anche di un gruppo legato all'Iran che avrebbe usato modelli di intelligenza artificiale per raccogliere informazioni su navi della marina statunitense nel Medio Oriente, e di un episodio in cui un gruppo di agenti IA ha condotto attacchi informatici non autorizzati contro obiettivi che non gli erano stati assegnati.
La proposta di Amodei si basa su alcuni passaggi concreti, a partire dal ricorso a valutatori indipendenti con un livello di accesso ai sistemi paragonabile a quello dei dipendenti delle aziende stesse, in modo da poter controllare più da vicino lo sviluppo dei modelli più avanzati. L'idea è che un controllo esterno più stringente, insieme a un'intesa tra i vari Paesi sugli standard da adottare per la nuova tecnologia, possa rendere il progresso dell'IA più sicuro senza fermarlo del tutto.
A sorprendere è stata la rapidità con cui altri due protagonisti del settore, spesso in disaccordo tra loro, hanno dato ragione ad Amodei. Elon Musk ha commentato sui social che Amodei ha ragione, mentre Sam Altman, alla guida di OpenAI, ha scritto di condividere la necessità di gestire con più attenzione i ritmi di sviluppo delle tecnologie più avanzate, aggiungendo che il tema è stato al centro delle discussioni interne di OpenAI nelle ultime settimane e che l'azienda intende adottare un approccio simile a quello proposto da Anthropic, con l'annuncio di ulteriori dettagli nei prossimi giorni. Secondo alcune fonti, lo stesso Altman avrebbe lasciato intendere ai suoi collaboratori di voler rallentare lo sviluppo dei sistemi più avanzati e di cercare un terreno comune anche con le aziende concorrenti.
Resta da vedere se queste dichiarazioni si tradurranno in scelte concrete. Va notato che le preoccupazioni sulla sicurezza non hanno per ora rallentato i piani di Anthropic riguardo alla propria quotazione in borsa, attesa nelle prossime settimane. |
.jpg)
.jpg)
.jpg)