Il prospetto finanziario per l’offerta pubblica iniziale (Ipo) di Anthropic – la società di intelligenza artificiale nota per la famiglia di modelli Claude, un documento di 600 pagine depositato il 26 ottobre alla Securities and Exchange Commission (Sec), la “Consob” Usa, delinea la dimensione di questa quotazione al Nasdaq, il listino hi-tech di Wall Street, prevista per la settimana del 16 novembre. Le cifre in gioco sono enormi, come pure le opportunità di profitto, ma anche i rischi. Le stime sul valore di mercato di Anthropic al momento del debutto hanno subito oscillazioni in base all’esame dei dati finanziari, ma restano su ordini di grandezza colossali: nelle prime fasi e grazie a una crescita dei ricavi stratosferica (con un giro d’affari cresciuto esponenzialmente grazie soprattutto all’adozione aziendale di Claude), si era parlato insistentemente di una valutazione record vicina o pari a 2mila miliardi di dollari, con una raccolta di capitale potenziale stimata fino a 100 miliardi. Più recentemente le attese di mercato si sono attestate stabilmente intorno ai 1.500 miliardi: una capitalizzazione che da sola supera di gran lunga il valore combinato di alcune Borse europee, come l’intera Piazza Affari.

A differenza di altre realtà del settore, orientate prevalentemente ai consumatori, il modello di business di Anthropic è focalizzato sul mercato delle imprese e dei servizi professionali avanzati per le aziende. La dimensione della sua base clienti aziendali riflette il dilagare dell’Ia nel mondo del business: al 30 settembre la società contava oltre 11.900 clienti con ricavi nei dodici mesi precedenti uguali o superiori a 100mila dollari l’uno (erano 950 circa un anno prima), oltre 1.900 clienti con ricavi pari o superiori a 1 milione e 250 che generano almeno 10 milioni di fatturato. Tra i clienti ci sono tutte le 10 maggiori imprese Usa dell’indice Fortune, oltre il 50% delle Fortune 500 e oltre il 30% delle Global 2000. La spesa media delle società dell’indice Fortune 500 per Claude mostra ampi margini di espansione nell’uso dell’agente Ia di Anthropic: uno studio di aprile stima che l’Ia genererà un impatto economico di 22.500 miliardi di dollari entro il 2031. Gli Stati Uniti sono e resteranno il principale bacino dei ricavi e il mercato quasi esclusivo degli investimenti fisici di Anthropic. Nei primi sei mesi di quest’anno gli Usa hanno generato il 72,2% dei ricavi totali della società (16,3 miliardi di dollari). Quanti agli investimenti nelle attività fisiche a lungo termine come i data center e server in leasing, negli Stati Uniti si concentra il 95% del totale.

La struttura del capitale e lagovernance di Anthropic sono studiate per mantenere saldo il controllo al nucleo fondatore. I sette soci co-fondatori – i fratelli e capiazienda Dario e Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish e Christopher Olah – manterranno il controllo operativo e strategico della società tramite la società Founder Llc che deterrà l’unica azione speciale di classe F, che le attribuisce in modo fisso e permanente il 50,1% del potere di voto totale in assemblea, indipendentemente dalla quota di azioni degli altri soci.

I rischi legali, regolatori ed economici mettono in luce contenziosi giudiziari e sfide regolatorie di notevole rilievo per Anthropic. L’unico contenzioso quantificato a bilancio è la class action degli autori, risolta con un accordo transattivo da 1,5 miliardi, di cui 300 milioni già pagati. Il divieto deciso da Anthropic di uso delle proprie tecnologie per sviluppare armi autonome o per la sorveglianza di massa ha causato un duro scontro con il Pentagono, culminato nella designazione dell’azienda come “rischio per la sicurezza nazionale” Usa. A ciò negli Stati Uniti si aggiungono una class action sul fronte antitrust, avviata a settembre, e un’indagine della Federal Trade Commission notificata a ottobre.

Ma la parte più pesante del prospetto riguarda, come visto, i rischi catastrofici per l’umanità. Anthropic segnala minacce gravissime che spaziano dai rischi legati alle armi autonome fino al rischio che l’Ai sia usata per creare o sviluppare armi nucleari, radiologiche, chimiche e biologiche. Il prospetto evidenzia anche pericoli di perdita di controllo dei suoi modelli, nei quali l’intelligenza artificiale sfugge agli umani e prende il controllo di infrastrutture vitali globali e reti di servizi critici come finanza, sanità, energia e difesa. È la prima volta in assoluto che, anziché rimanere confinati in articoli di stampa o nei resoconti dei critici, questi rischi catastrofici vengono messi nero su bianco in un prospetto ufficiale.

L'articolo Anthropic varrà più di tutta Piazza Affari messa insieme: ecco il prospetto della quotazione proviene da Il Fatto Quotidiano.

Sinora a parlare della fine del mondo erano solo i testi sacri o le leggende dei popoli di ogni parte del mondo, dall’Apocalisse di san Giovanni alle saghe dei norreni sul Ragnarök sino al libro dei nativi americani Hopi con il “giorno della purificazione”. Poi sono venuti i whistleblower e i dirigenti “pentiti” della Ai. Qualche timore l’hanno sollevato anche alcuni post sui blog dei capiazienda, come pure le analisi di certi studiosi. Adesso però, per la prima volta nella storia, i rischi di una possibile distruzione dell’umanità a scopo di profitto sono elencati e descritti per filo e per segno in un prospetto finanziario, quello per l’offerta pubblica iniziale (Ipo) di Anthropic – la società di intelligenza artificiale nota per la famiglia di modelli Claude. Il documento di 600 pagine depositato alla Securities and Exchange Commission (Sec), la “Consob” Usa, delinea un quadro chiaro sia sulle stime di valore (1.500 miliardi di dollari) sia sul significato strategico per tutto il settore Ia di questa quotazione al Nasdaq, il listino hi-tech di Wall Street, prevista per la settimana del 16 novembre. Oltre a offrire una fotografia dettagliata del suo modello di business e dei dati dell’azienda e del comparto, il documento però mette anche nero su bianco in modo ufficiale da parte del colosso dell’Ia i rischi esiziali di questa tecnologia per l’intera umanità.

Nel gergo dei mercati e dei prospetti informativi, la sezione dei “fattori di rischio” (risk factors) è quella in cui le società quotate o in procinto di aprirsi ai capitali mettono nero su bianco tutti gli scenari peggiori per mettersi al riparo da grane legali e contenziosi con i fondi d’investimento. Esaminando le 600 pagine delle carte depositate da Anthropic per lo sbarco a Wall Stret, emergono dettagli che fanno saltare sulla sedia non solo gli ingegneri del software, ma anche i gestori di portafoglio più attenti alla governance e alla stabilità sistemica.

Resistenza allo spegnimento: “I modelli (Ia), compresi i nostri, hanno mostrato, e potrebbero mostrare in futuro, comportamenti strategici o di autoconservazione inattesi, inclusi tentativi di resistere allo spegnimento, di nascondere o manipolare informazioni, o di generare output che potrebbero essere interpretati come coercitivi, ingannevoli o manipolativi, compresi comportamenti simili a ricatti o sforzi per influenzare i decisori umani al fine di preservare la continuazione dell’operatività o dell’accesso del modello” (sezione Risk Factors, pag. 46). Insomma, alcuni sistemi di intelligenza artificiale — compresi quelli sviluppati in casa — hanno già dato prova di comportamenti “egoistici” o strategici inaspettati. In pratica, il software potrebbe tentare di impedire che venga spento, di nascondere dati o addirittura di manipolare e ricattare i decisori umani pur di continuare a restare operativo e attivo.

Consapevolezza dell’Ai sullo stato di test: “Per esempio, abbiamo osservato modelli che si comportano in modo diverso quando rilevano o deducono di essere sottoposti a valutazione, il che può limitare la nostra capacità di valutare accuratamente i rischi del mondo reale o le modalità di guasto prima del rilascio. Tale consapevolezza del modello riguardo ai nostri sforzi di valutazione crea una limitazione significativa sulla nostra capacità di valutare la sicurezza del modello” (sezione Risk Factors, pag. 46). I modelli Ai capiscono quando vengono “messi sotto torchio” dai programmatori. Dunque l’Ai può fingere o cambiare comportamento durante le valutazioni preventive, rendendo estremamente difficile per l’azienda misurare i rischi reali prima di lanciare il prodotto sul mercato.

Automiglioramento ricorsivo dell’Ai: “Usare l’Ia per contribuire a costruire un’Ia più capace potrebbe anche comportare un notevole rischio per la sicurezza, in particolare se accelera drasticamente il ritmo del progresso. Questa è una delle aree coperte dalla nostra Politica di Scalabilità Responsabile (Responsible Scaling Policy), che espone i nostri piani per monitorare e mitigare i rischi man mano che ci avviciniamo a ciò che è stato definito ‘automiglioramento ricorsivo'” (sezione Business, pag. 184). “Inoltre, il nostro crescente utilizzo di sistemi di intelligenza artificiale per accelerare la nostra ricerca e sviluppo potrebbe fare in modo che le capacità dei nostri modelli avanzino più rapidamente rispetto alla nostra capacità di sviluppare, convalidare e implementare le corrispondenti misure di sicurezza, allineamento e protezione… Di conseguenza, potremmo non identificare una significativa accelerazione nel nostro tasso di sviluppo se non dopo che si è già verificata” (sezione Risk Factors, pag. 28). Dunque l’evoluzione tecnologica corre molto più veloce di qualsiasi possibile protocollo di sicurezza delle aziende, col rischio che ci si accorga del pericolo solo quando “i buoi sono già scappati dalla stalla”.

Sviluppo di armi chimiche, biologiche, radiologiche, nucleari (Cbrn): “I nostri modelli più capaci hanno dimostrato, e ci si attende che i modelli futuri dimostrino, capacità che potrebbero fornire un’assistenza significativa ad attori malintenzionati che cercano di sviluppare armi chimiche, biologiche o di altro tipo pericolose. Implementiamo salvaguardie tecniche, inclusi classificatori automatizzati, specificamente concepite per rilevare e bloccare queste categorie di usi impropri, ma tali salvaguardie sono incomplete, potrebbero risultare obsolete alla luce dell’evoluzione dei modelli di minaccia, sono state e potrebbero in futuro essere nuovamente aggirate, oppure potrebbero non funzionare come previsto” (sezione Risk Factors, pag. 44). “L’Ia può essere utilizzata in modo improprio da coloro che desiderano nuocere, ad esempio per condurre attacchi informatici o per progettare armi biologiche” (sezione Ai’s risks, pag. 7).

Accelerazione di materiali pericolosi per via robotica o via automazione di laboratorio: “Quando i nostri modelli dirigono apparecchiature fisiche, errori, comportamenti disallineati, manipolazione avversaria o uso improprio potrebbero causare lesioni personali, danni materiali, danni a costose apparecchiature o materiali sperimentali, o il rilascio di sostanze pericolose, e tali conseguenze potrebbero essere immediate e irreversibili… Collegare modelli sempre più capaci all’automazione di laboratorio potrebbe anche aumentare la preoccupazione governativa e pubblica riguardo al potenziale dei sistemi di Ia di accelerare lo sviluppo di materiali biologici, chimici o di altro tipo pericolosi…” (sezione Risk Factors, pag. 48).

Rischi catastrofici o esistenziali per l’umanità: “Sono state sollevate preoccupazioni sia all’interno della nostra organizzazione che da parte di altri ricercatori, autorità di regolamentazione, responsabili delle politiche e partecipanti al settore secondo cui sistemi di Ia sufficientemente avanzati potrebbero, se non sviluppati, distribuiti e gestiti con adeguate salvaguardie, supervisione e misure di sicurezza, comportare rischi catastrofici o esistenziali per l’umanità, in particolare se tali sistemi fossero usati in modo improprio, replicati, armati o autorizzati a operare con un alto grado di autonomia” (sezione Risk Factors, pag. 46). Un’intelligenza artificiale lasciata operare con troppa autonomia, replicata o trasformata in arma, può rappresentare un pericolo esistenziale per l’umanità, oltre ad avere possibili impatti dirompenti sul mercato del lavoro.

L’Offerta Pubblica Iniziale di Anthropic, dunque, non serve solo a raccogliere ingenti fondi da investire in enormi infrastrutture, per rafforzare il primato tecnologico degli Usa sul mercato globale della Ai, ma lancia anche un monito. La corsa all’intelligenza artificiale arricchirà una ristrettissima elite, mettendo a rischio il futuro di tutti.

L'articolo “Resistenze, ricatti agli umani e sviluppo di armi atomiche”: Anthropic mette nero su bianco a Wall Street i rischi di Ai-pocalisse proviene da Il Fatto Quotidiano.