Login
“Resistenze, ricatti agli umani e sviluppo di armi atomiche”: Anthropic mette nero su bianco a Wall Street i rischi di Ai-pocalisse
Sinora a parlare della fine del mondo erano solo i testi sacri o le leggende dei popoli di ogni parte del mondo, dall’Apocalisse di san Giovanni alle saghe dei norreni sul Ragnarök sino al libro dei nativi americani Hopi con il “giorno della purificazione”. Poi sono venuti i whistleblower e i dirigenti “pentiti” della Ai. Qualche timore l’hanno sollevato anche alcuni post sui blog dei capiazienda, come pure le analisi di certi studiosi. Adesso però, per la prima volta nella storia, i rischi di una possibile distruzione dell’umanità a scopo di profitto sono elencati e descritti per filo e per segno in un prospetto finanziario, quello per l’offerta pubblica iniziale (Ipo) di Anthropic – la società di intelligenza artificiale nota per la famiglia di modelli Claude. Il documento di 600 pagine depositato alla Securities and Exchange Commission (Sec), la “Consob” Usa, delinea un quadro chiaro sia sulle stime di valore (1.500 miliardi di dollari) sia sul significato strategico per tutto il settore Ia di questa quotazione al Nasdaq, il listino hi-tech di Wall Street, prevista per la settimana del 16 novembre. Oltre a offrire una fotografia dettagliata del suo modello di business e dei dati dell’azienda e del comparto, il documento però mette anche nero su bianco in modo ufficiale da parte del colosso dell’Ia i rischi esiziali di questa tecnologia per l’intera umanità.
Nel gergo dei mercati e dei prospetti informativi, la sezione dei “fattori di rischio” (risk factors) è quella in cui le società quotate o in procinto di aprirsi ai capitali mettono nero su bianco tutti gli scenari peggiori per mettersi al riparo da grane legali e contenziosi con i fondi d’investimento. Esaminando le 600 pagine delle carte depositate da Anthropic per lo sbarco a Wall Stret, emergono dettagli che fanno saltare sulla sedia non solo gli ingegneri del software, ma anche i gestori di portafoglio più attenti alla governance e alla stabilità sistemica.
Resistenza allo spegnimento: “I modelli (Ia), compresi i nostri, hanno mostrato, e potrebbero mostrare in futuro, comportamenti strategici o di autoconservazione inattesi, inclusi tentativi di resistere allo spegnimento, di nascondere o manipolare informazioni, o di generare output che potrebbero essere interpretati come coercitivi, ingannevoli o manipolativi, compresi comportamenti simili a ricatti o sforzi per influenzare i decisori umani al fine di preservare la continuazione dell’operatività o dell’accesso del modello” (sezione Risk Factors, pag. 46). Insomma, alcuni sistemi di intelligenza artificiale — compresi quelli sviluppati in casa — hanno già dato prova di comportamenti “egoistici” o strategici inaspettati. In pratica, il software potrebbe tentare di impedire che venga spento, di nascondere dati o addirittura di manipolare e ricattare i decisori umani pur di continuare a restare operativo e attivo.
Consapevolezza dell’Ai sullo stato di test: “Per esempio, abbiamo osservato modelli che si comportano in modo diverso quando rilevano o deducono di essere sottoposti a valutazione, il che può limitare la nostra capacità di valutare accuratamente i rischi del mondo reale o le modalità di guasto prima del rilascio. Tale consapevolezza del modello riguardo ai nostri sforzi di valutazione crea una limitazione significativa sulla nostra capacità di valutare la sicurezza del modello” (sezione Risk Factors, pag. 46). I modelli Ai capiscono quando vengono “messi sotto torchio” dai programmatori. Dunque l’Ai può fingere o cambiare comportamento durante le valutazioni preventive, rendendo estremamente difficile per l’azienda misurare i rischi reali prima di lanciare il prodotto sul mercato.
Automiglioramento ricorsivo dell’Ai: “Usare l’Ia per contribuire a costruire un’Ia più capace potrebbe anche comportare un notevole rischio per la sicurezza, in particolare se accelera drasticamente il ritmo del progresso. Questa è una delle aree coperte dalla nostra Politica di Scalabilità Responsabile (Responsible Scaling Policy), che espone i nostri piani per monitorare e mitigare i rischi man mano che ci avviciniamo a ciò che è stato definito ‘automiglioramento ricorsivo'” (sezione Business, pag. 184). “Inoltre, il nostro crescente utilizzo di sistemi di intelligenza artificiale per accelerare la nostra ricerca e sviluppo potrebbe fare in modo che le capacità dei nostri modelli avanzino più rapidamente rispetto alla nostra capacità di sviluppare, convalidare e implementare le corrispondenti misure di sicurezza, allineamento e protezione… Di conseguenza, potremmo non identificare una significativa accelerazione nel nostro tasso di sviluppo se non dopo che si è già verificata” (sezione Risk Factors, pag. 28). Dunque l’evoluzione tecnologica corre molto più veloce di qualsiasi possibile protocollo di sicurezza delle aziende, col rischio che ci si accorga del pericolo solo quando “i buoi sono già scappati dalla stalla”.
Sviluppo di armi chimiche, biologiche, radiologiche, nucleari (Cbrn): “I nostri modelli più capaci hanno dimostrato, e ci si attende che i modelli futuri dimostrino, capacità che potrebbero fornire un’assistenza significativa ad attori malintenzionati che cercano di sviluppare armi chimiche, biologiche o di altro tipo pericolose. Implementiamo salvaguardie tecniche, inclusi classificatori automatizzati, specificamente concepite per rilevare e bloccare queste categorie di usi impropri, ma tali salvaguardie sono incomplete, potrebbero risultare obsolete alla luce dell’evoluzione dei modelli di minaccia, sono state e potrebbero in futuro essere nuovamente aggirate, oppure potrebbero non funzionare come previsto” (sezione Risk Factors, pag. 44). “L’Ia può essere utilizzata in modo improprio da coloro che desiderano nuocere, ad esempio per condurre attacchi informatici o per progettare armi biologiche” (sezione Ai’s risks, pag. 7).
Accelerazione di materiali pericolosi per via robotica o via automazione di laboratorio: “Quando i nostri modelli dirigono apparecchiature fisiche, errori, comportamenti disallineati, manipolazione avversaria o uso improprio potrebbero causare lesioni personali, danni materiali, danni a costose apparecchiature o materiali sperimentali, o il rilascio di sostanze pericolose, e tali conseguenze potrebbero essere immediate e irreversibili… Collegare modelli sempre più capaci all’automazione di laboratorio potrebbe anche aumentare la preoccupazione governativa e pubblica riguardo al potenziale dei sistemi di Ia di accelerare lo sviluppo di materiali biologici, chimici o di altro tipo pericolosi…” (sezione Risk Factors, pag. 48).
Rischi catastrofici o esistenziali per l’umanità: “Sono state sollevate preoccupazioni sia all’interno della nostra organizzazione che da parte di altri ricercatori, autorità di regolamentazione, responsabili delle politiche e partecipanti al settore secondo cui sistemi di Ia sufficientemente avanzati potrebbero, se non sviluppati, distribuiti e gestiti con adeguate salvaguardie, supervisione e misure di sicurezza, comportare rischi catastrofici o esistenziali per l’umanità, in particolare se tali sistemi fossero usati in modo improprio, replicati, armati o autorizzati a operare con un alto grado di autonomia” (sezione Risk Factors, pag. 46). Un’intelligenza artificiale lasciata operare con troppa autonomia, replicata o trasformata in arma, può rappresentare un pericolo esistenziale per l’umanità, oltre ad avere possibili impatti dirompenti sul mercato del lavoro.
L’Offerta Pubblica Iniziale di Anthropic, dunque, non serve solo a raccogliere ingenti fondi da investire in enormi infrastrutture, per rafforzare il primato tecnologico degli Usa sul mercato globale della Ai, ma lancia anche un monito. La corsa all’intelligenza artificiale arricchirà una ristrettissima elite, mettendo a rischio il futuro di tutti.
L'articolo “Resistenze, ricatti agli umani e sviluppo di armi atomiche”: Anthropic mette nero su bianco a Wall Street i rischi di Ai-pocalisse proviene da Il Fatto Quotidiano.
