Più che l'etica, sull'IA pesa la fragilità delle quotazioni azionarie

L’appello dei big dell’intelligenza artificiale Usa, guidati dal Ceo di Anthropic Dario Amodei, a rallentare lo sviluppo dell’intelligenza artificiale per governarlo maggiormente ha suscitato vasto dibattito. La presunta “svolta etica” dei colossi dell’intelligenza artificiale ha suscitato ampie discussioni. Per Giuliano Noci, prorettore del Politecnico di Milano e attento studioso delle dinamiche geopolitiche ed economiche internazionali connesse anche alla corsa alla supremazia tecnologica e sull’IA, “il vero motivo di questa svolta non è etico”. Parlando con InsideOver, il professor Noci invita a riflettere a ampio raggio su un contesto che vede, oggigiorno, “l’intelligenza artificiale essere molto più di una tecnologia: l’Ia”, spiega Noci, “è una infrastruttura di cambiamento di portata enorme, è davvero un cambio di paradigma del funzionamento dei sistemi sociali, educativi, economici e geopolitici”.

L’IA è un settore che ha suscitato attenzione, interesse, investimenti. Come siamo arrivati fino al dibattito di questi giorni?

L’IA è un’infrastruttura di cambiamento e anche un’infrastruttura di potere, economico, e tecnologico, estremamente contesa. A mio avviso, il punto fondamentale su cui noi dobbiamo riflettere è che in questi due anni si sono creati delle insensate aspettative che hanno alimentato valutazioni oggettivamente senza senso delle big tech e di Nvidia, ed è questo un primo problema che oggi si ripercuote sulle dinamiche concrete della corsa all’IA.

A suo avviso, perché questo è successo?

Perché prima si è raccontato che l’intelligenza artificiale avrebbe molto rapidamente cambiato tutto. Ma proprio perché l’intelligenza artificiale non è una tecnologia ma è molto di più, un sistema complesso e in evoluzione, la sua penetrazione richiederà parecchio tempo prima che venga correttamente digerita dai sistemi economici. In un certo senso, è come avvenne con le ferrovie nel XIX secolo: allora moltissimi operatori investirono su binari e fallirono praticamente tutti. Questo non significa che la tecnologia fosse sbagliata. Come sappiamo, poi le ferrovie sono state infrastrutture che hanno avuto un impatto enorme: il problema è la scala dei tempi con cui un nuovo sistema arriva a maturazione. Sottolineerei, inoltre, il fatto che la stessa cosa avvenne con l’arrivo dell’energia elettrica, gli operatori hanno impiegato 30 anni per capire come usarla.

Questo, per quanto riguarda l’IA, come si è concretizzato?

Si è verificata un’alimentazione di aspettative che non ha riscontro reale nell’economia e che di fatto rende certe quotazioni estremamente fragili. Secondo me tutta questa narrativa è stata assolutamente alimentata dal fondatore di Nvidia, che è l’azienda con la maggior capitalizzazione di borsa al mondo e vale due volte il PIL italiano. Negli anni Jensen Huang sostanzialmente ha fatto di tutto pur di massimizzare entrate e capitalizzazione di borsa. In primo luogo ha fatto operazioni di finanza circolare, in secondo luogo ha fatto anche da “assicurazione”, garantendo ai committenti che compravano le sue GPU che Nvidia avrebbe coperto il mancato fatturato degli operatori se i data center non avessero avuto sufficientemente domanda e, infine, si è accordato con le grandi banche internazionali perché prestassero soldi ai suoi clienti. Quel che è andato in scena, a mio avviso, è stato un meccanismo di totale distorsione delle normali dinamiche di business, e questo ci porta a  renderci conto del fatto che sotto il profilo delle quotazioni l’intero costrutto dell’IA vive un momento di grandissima fragilità e di elevato rischio.

Quali novità principali degli ultimi mesi, a suo avviso, hanno contribuito a tale scenario?

Negli ultimi mesi il quadro si è complicato perché progressivamente è emersa la consapevolezza che i cinesi avessero applicazioni efficienti, sistemi di intelligenza artificiale meno potenti di quelli americani ma operanti a costi infinitamente più bassi. Questo ha reso palese che non era necessariamente vero ciò che affermavano gli americani, e cioè che la via maestra dell’IA passasse per lo sviluppo di Large Language Models sviluppati con un’enorme e costosa potenza di calcolo. Personalmente, credo che gli LLM rischino di fare la fine di molti operatori di telecomunicazioni, titolari di un’infrastruttura indispensabile ma che non genera flussi di cassa positivi e guadagno.

Insomma, le aziende dell’IA che hanno guidato l’inizio della corsa vivono una sfida importante per difendere il vantaggio acquisito...

Il tema della difesa della posizione da parte degli operatori dell’IA è fondamentale. Questi cantori delle intelligenze artificiali che adesso diventano tutto a un tratto cantori dell’etica sulle IA mirano principalmente a erigere delle barriere difensive per cercare di congelare il vantaggio acquisito ed evitare che i cinesi si inseriscano per sottrarre loro parte delle risorse disponibili nel mercato dell’IA. Manovre difensive, queste, operate da soggetti che io ritengo ormai privi di qualsiasi credibilità: mi riferisco a Sam Altman, Dario Amodei, Jensen Huang.

Per che motivo, a suo avviso?

Purtroppo, queste figure di punta dell’IA hanno la responsabilità di aver fatto salire talmente tanto questo mercato e di averlo portato a rappresentare una parte talmente rilevante del valore complessivo della borsa americana che qualora un granello di sabbia arrivasse a inceppare questo infernale meccanismo, si corre il rischio che tutto il costrutto possa venire giù. Insomma, hanno creato una situazione di rischio significativo.

OpenAI e Anthropic hanno annunciato a lungo la loro intenzione di sbarcare a Wall Street. Lo ritiene possibile?

Non si quoteranno, almeno non entrambe: c’è spazio forse per una quotazione, ma secondo me in particolar modo Dario Amodei sarà molto prudente a farla perché questo meccanismo di aspettative esagerate che hanno creato comincia a ritorcersi contro. Tenga peraltro conto che un altro fattore di incertezza è rappresentato dal fatto che questi cantori dell’IA  adesso hanno interessi che dovrebbero divergere da quelli di Trump.

In che modo, a suo avviso?

Trump ha bisogno che l’IA e gli investimenti in data center corrano per sostenere l’economia, la cui crescita è il suo unico interesse. Trump sa che se le big-tech taglieranno la corsa ai data center, già rallentata, i dati di crescita del Pil Usa saranno molto diversi e minori.

Spingendo per rallentare la corsa dell’IA loro sostanzialmente si mettono di traverso rispetto agli interessi di Trump, e questo è un altro fattore di complessità di tutta questa vicenda. Io credo che loro saranno molto prudenti a quotarsi, e secondo me in particolare Altman sa benissimo che OpenAI non può quotarsi, perché il suo è un modello business to consumer che alla luce delle promesse che ha fatto non sta in piedi.

E gli investimenti già annunciati in data center?

Affrontano una forza maggiore che si chiama materia. Di recente, ad esempio, Jensen Huang per tenersi sui mercati ha dichiarato che raddoppierà la capacità produttiva l’anno prossimo.

Vorrei proprio capire come farà, le fabbriche sono tutte a saturazione, non sono sue e per costruire fabbriche nuove di questo tipo servono 5 anni. L’IA ha un collo di bottiglia fisico, che è la catena di fornitura che non regge. Parliamo di  materie prime, semiconduttori, macchinari, ma anche, se non soprattutto, di maestranze addestrate e profili tecnici estremamente specializzati. Non è qualcosa che sia disponibile dall’oggi al domani. Per ora i mercati si stanno bevendo tutto ma alla prima difficoltà l’intera situazione potrebbe complicarsi.

Ci sono paragoni possibili col passato?

La perdita del senso della misura ricorda molto la bolla del “Dot.com” di oltre un quarto di secolo fa. Anche allora emergeva un cambio di paradigma dirompente destinato a cambiare tutto, Internet, ma nonostante l’importanza del nuovo sistema ciò che hanno fatto gli operatori in quel momento non aveva senso per le logiche di mercato. Temo che qui siamo nella stessa situazione.

In relazione a questi sviluppi il mondo cinese ha delle prospettive diverse dai colossi americani?

La Cina si è mossa in modo chiaro e diverso dagli statunitensi. Parliamo di una competizione in cui gli americani hanno fatto una scelta molto chiara: avendo le big tech e i semiconduttori più avanzati del mondo, hanno puntato su un’intelligenza artificiale di potenza, quindi Large Language Models e data center. La Cina, che è la più grande manifattura del Pianeta e non ha i semiconduttori più avanzati, ha fatto una scelta di funzione obiettivo, che è la massimizzazione della diffusione di applicazioni di intelligenza artificiale per la manifattura. Quindi la scelta di Pechino è stata una scelta applicativa, orientata alla massimizzazione della diffusione delle applicazioni, da qui il fatto anche di avere i modelli a pesi aperti.

Due filosofie diverse per due sistemi produttivi diversi...

Questa è stata una scelta ortogonale rispetto alla mossa americana. Una scelta che in qualche modo, a mio avviso, ha presupposti di coerenza con il sistema economico, è più sincrona alle esigenze del modello cinese di oggi e ha come obiettivo ulteriore la volontà di innervare con propri algoritmi altri sistemi, altri Paesi, principalmente nel Sud Globale. Quale dei due modelli prevarrà è presto per dirlo. Diciamo che io ritengo che tutta la potenza americana, allo stato attuale farà fatica a valorizzarla e a trovare un riscontro di business. Quindi credo che le strade per valorizzare al meglio l’intelligenza artificiale siano altre e tra le altre secondo me c’è quella della physical AI, dove, peraltro, anche l’Europa potrebbe trovare un’opportunità significativa e diventerà sempre più una nuova frontiera.

Fonte 

 

L’IA deve tirare il freno, che non c'è

Qualcosa si è incrinato nella corsa trionfale dell’intelligenza artificiale di tipo occidentale. Questa settimana sono balzati alle cronache i problemi di “sicurezza”, in seguito ad un incidente piuttosto clamoroso di qualche settimana fa – l’hackeraggio “autonomo” di Hugging Face da parte di un sciame di “agenti IA” evasi dal perimetro di un esperimento OpenAi (ChatGpt) – e all’allarme molto esplicito lanciato da alcuni ricercatori di Anthropic sulla possibilità che l’IA “progetti” da sola l’eliminazione della razza umana.

Improvvisamente anche gli amministratori delegati delle principali società di IA hanno concordato sulla necessità di rallentare lo sviluppo di nuove versioni. Sam Altman, guida di OpenAI, ha aperto le danze dicendo “Penso che un principio chiave su cui dovremmo tutti essere d’accordo sia che non possiamo intraprendere azioni che rischierebbero di farci perdere il controllo del futuro a favore dell’IA”. Amodei di Anthropic ed Elon Musk (Grok) gli hanno dato ragione immediatamente.

Prima constatazione: i “concorrenti” si accordano per rallentare lo sviluppo e quindi anche la concorrenza di fronte al rischio che i loro prodotti “prendano vita” su direttrici fuori controllo. Il che è un forte segnale, quanto meno, della necessità di una regolazione pubblica del settore.

Come già detto, però, chi dovrebbe scrivere le regole – il Congresso Usa, in questo caso – non è in grado di farlo, visti i 50 anni di liberismo precedenti, che hanno distrutto persino l’idea che “lo Stato” potesse impicciarsi delle dinamiche aziendali e quindi anche le competenze per fare questo lavoro.

Seconda constatazione. La frenata e la richiesta di “regole di sicurezza” efficaci e concordate viene giustificata soprattutto in termini di supremazia statunitense da difendere dall’assalto di “nemici pericolosi”. La richiesta specifica è quella di vietare l’IA basata sull’open source, che è alla base del “modello cinese” di intelligenza Artificiale, e blindare il “sistema chiuso” dell’IA statunitense.

Per giustificare la richiesta sono stati “rivelati” alcuni incidenti di percorso che ovviamente nessuno di noi può verificare. L’Iran avrebbe usato Claude (l’IA di Anthropic) per costruire manuali di targeting che tracciavano posizioni di navi, identificatori di personale, aerei e navi statunitensi, immagini satellitari e siti web che esponevano i movimenti navali.

Sempre Claude sarebbe stato utilizzato dagli yemeniti “cattivi” di AnsarAllah per sviluppare un software di guida per razzi e missili. E anche la Cina – che pure ha prodotti propri altrettanto performanti – avrebbe usato lo stesso mezzo per identificare uiguri in Siria che potessero riferire sui gruppi armati in Cina.

In Mali qualcuno se ne sarebbe servito per creare un sistema nazionale in grado di raccogliere registri di chiamate, messaggi e traffico vocale e generare dossier di intelligence su qualsiasi numero di telefono. Idem per uno Stato rimasto ignoto che cercava di modificare il virus del chikungunya per un istituto militare.

Sintetizzando il tutto, Amodei ha chiesto “un coordinamento tra i paesi democratici per stabilire standard di sicurezza, e uno sforzo affinché quei paesi si coordinino anche con i governi autoritari”. Affermando patriotticamente che “Il governo ha un ruolo critico da svolgere qui, incluso il blocco della vendita dei chip più avanzati a nazioni ostili come la Cina, l’emanazione di una legge nazionale che richieda il test dei modelli di frontiera, con il potere di bloccare i modelli più avanzati che si rivelino non sicuri”.

En passant, facciamo notare che una analoga decisione dell’amministrazione Usa – prima di Trump – aveva favorito l’inventiva della cinese Deepseek che, impossibilitata ad usare i chip più avanzati prodotti da Nvidia, aveva riscritto i propri algoritmi rendendoli più “snelli” in modo da poter essere processati anche da chip meno performanti (e costosi), ma con risultati equivalenti.

Ripetere la stessa mossa, insomma, non appare geniale... Anche perché proprio il successo di Deepseek ed altri prodotti cinesi dello stesso genere – con modello open source e open weight, molto più economici e con minori esigenze hardware, ma dalle prestazioni perfettamente in linea con quelle dei costosi programma made in Usa – ha “bucato” il primo strato della bolla speculativa gonfiatasi intorno all’IA.

Al momento, infatti, i prodotti IA di Pechino coprono il 50% del mercato globale “pagante”. Bloomberg ha riportato ad agosto che i modelli open-weight di Alibaba hanno accumulato oltre 3 miliardi di download globali negli ultimi sei mesi, superando Meta, Alphabet e altri concorrenti.

Ed è dei giorni scorsi la notizia che Humain, un’azienda tecnologica sostenuta dal Fondo di Investimento Pubblico saudita, ha annunciato il rilascio del suo modello in lingua araba humain-m3, basato sul modello open-source di punta dell’azienda cinese di IA MiniMax.

“I modelli open-source cinesi hanno raggiunto l’autonomia ecosistemica, fornendo ai paesi del Sud del mondo una base tecnologica controllabile. Questo sta spingendo il panorama globale della governance dell’IA da un paradigma unipolare a uno multipolare e coesistente”, rivendica Chen Jing, vicepresidente dell’Istituto di Ricerca su Tecnologia e Strategia.

I boss dell’IA statunitense si ritrovano così improvvisamente stretti tra concorrenza internazionale imprevista, problemi di sicurezza dei loro prodotti e incapacità del “pubblico” di fornire un quadro regolatorio adeguato.

Soprattutto l’incertezza sulla “sicurezza” ha però raggiunto livelli da catastrofe imminente. Sempre Amodei avverte che “Data la velocità accelerata dello sviluppo delle capacità dell’IA, temo che in 6-12 mesi uno sciame del genere [agenti IA fuori controllo, ndr] potrebbe essere in grado di impadronirsi dell’intera internet con una botnet persistente (potenzialmente causando centinaia di miliardi di dollari di danni), e che l’entità dei danni continuerebbe ad aumentare da lì se l’IA diventa più potente senza le necessarie salvaguardie”.

Ergo, è indispensabile rallentare, se non fermarsi, per costruire le “dighe” necessarie ad impedire l’esondazione incontrollata.

Proprio per questo, però, salta anche il programma finanziario che fin qui – piuttosto avventurosamente – aveva sostenuto la corsa dell’IA, la costruzione di data center un po’ dappertutto, le quotazioni azionarie di Nvidia, Meta, e chiunque potesse vantare di “lavorare nell’intelligenza artificiale”.

Sam Altman, in un’intervista a Fortune, ha spiegato che “In questo momento sarebbe poco saggio quotarsi in Borsa”. Ma quotarsi in borsa, con una IPO, è normalmente il modo di “rivolgersi al mercato” per rastrellare miliardi senza passare dai prestiti delle banche, grazie a quotazioni azionarie che si suppone(va) potessero volare rapidamente verso le stelle. Basti pensare che in questo momento i criminali di Palantir possono godere di un rapporto “prezzo azione/utile atteso” pari a 143,2 (invece del “normale” 16).

Se non puoi più finanziarti con questo sistema devi ricorrere al debito, e rinunciare agli investimenti più faraonici. Il che si riflette, inevitabilmente, anche sui produttori di chip (Nvidia, in primo luogo) e tutto il business dei data center.

Qualcosa si è incrinato nella navicella spaziale dei super-boss dell’IA Usa. Ma c’è incertezza sul pianeta su cui atterrare...

Fonte

Anthropic, l’etica è un problema per il Pentagono

Nelle ultime settimane si sta consumando nel mondo dell’AI a stelle e strisce una vicenda dai toni abbastanza singolari. Infatti, è diventato celebre al grande pubblico il nome di Dario Amodei, fondatore italo-americano di Anthropic – società nota per l’LLM Claude –, per la sua rottura con il Dipartimento della Guerra USA.

Una posizione piuttosto rilevante se osserviamo le ideologie di altri falchi del settore dell’IA inquadrati all’interno del complesso militare americano, come Peter Thiel di Palantir o lo stesso Altman di OpenAI, il quale si è affrettato a sostituirsi come partner del Dipartimento della Guerra in seguito alla frattura consumatasi proprio con Anthropic.

Amodei è nato a San Francisco nel 1983 da padre italiano e madre statunitense di origini ebraiche. Ha studiato in prestigiose università americane, laureandosi a Stanford, conseguendo un dottorato a Princeton e studiando come Postdoc nuovamente a Stanford.

Dopo i suoi studi comincia a lavorare nel settore dell’IA, prima a Baidu, poi a Google ed infine ad OpenAI. Nel 2021 a causa di alcune divergenze di vedute esce dalla società e fonda Anthropic insieme alla sorella Daniela.

Amodei è sempre stato molto attento alle questioni etiche legate allo sviluppo e all’utilizzo dell’IA e cura un blog dove pubblica le sue vedute sull’argomento. Ai fini della comprensione delle vicende attuali, risultano interessanti le sue ultime pubblicazioni a riguardo.

Nei suoi lunghi post il patron di Anthropic tratteggia un futuro prossimo in cui la tecnologia dell’IA raggiungerà la maturità tecnica e si pone tutta una serie di questioni etiche, che fanno da contraltare alla linea dell’azienda di perseguire lo sviluppo della Constitutional AI, ovvero un’IA etica.

In particolare alcuni scenari interessanti ipotizzano come un attore malevolo possa utilizzare un sistema che permette di organizzare sistematicamente conoscenze approfondite nei vari ambiti della scienza e della tecnica per portare a termine atti di terrorismo, sabotaggio o di repressione.

Si fa riferimento ad esempio allo sviluppo di nuove armi batteriologiche, alla realizzazione di crimini informatici su vasta scala e alla creazione di sistemi di sorveglianza e repressione di massa. Amodei identifica come immediato attore malevolo con una grande esperienza e importanti capacità nell’IA la Cina, ovviamente, ma avverte che anche i paesi “democratici” potrebbero sfruttare l’IA per imprimere una svolta autoritaria al loro interno.

Un altro punto cardine della sua riflessione è lo sviluppo dei droni e di potenziali armi autonome in grado di decidere senza la supervisione umana se uccidere un bersaglio o meno.

Proprio questi due punti sono centrali nel comunicato pubblicato dallo stesso Amodei sul sito di Anthropic alcuni giorni fa, in risposta alla rescissione di tutti i contratti siglati con il Dipartimento della Guerra USA, l’inserimento di Anthropic nella lista delle aziende a rischio per la catena di fornitura della difesa ed il divieto assoluto di utilizzo dei suoi prodotti da parte degli apparati governativi statunitensi.

Infatti, il rifiuto di realizzare armi del tutto autonome e quello di perfezionare la schedatura di massa di tutta la popolazione americana sono i due problemi etici posti da Amodei al governo Maga che sono costati all’azienda i miliardari appalti del ministero della difesa, prontamente presi in carico da OpenAI.

Rimangono però in questa vicenda alcune questioni poco chiare. Pare infatti che i nuovi accordi siglati da Sam Altman contengano clausole molto simili a quelle richieste in precedenza da Amodei. Inoltre, importanti giornali statunitensi come il WSJ affermano che l’utilizzo di Claude sia stato centrale nella pianificazione degli obbiettivi da colpire nella guerra di questi giorni contro l’Iran.

Dunque, il governo, dopo aver fatto una campagna mediatica per screditare Antropic – arrivando a definire Amodei un estremista di sinistra antiamericano – ed essersi affidato al suo più diretto competitor, continua imperterrito ad utilizzare gli strumenti della società classificata come rischio per la sicurezza nazionale, al pari della cinese Huawei.

Fonte