Alcuni recenti sviluppi dell’intelligenza artificiale “made in Usa” – quella cinese ha seguito altre logiche, sfornando altri modelli – ripropongono molto concretamente l’antica contraddizione tra ciò che si può fare e ciò che conviene fare, ovvero ciò su cui si ha il controllo sia nell’immediato che nei passi successivi.
Si possono fare miliardi di esempi su scoperte o invenzioni il cui uso immediato è sembrato “fichissimo” ma che si sono rivelate ben più che problematiche una volta che si sono moltiplicate e diventate “un sistema di vita”.
È il caso, per stare sul pratico, dell’invenzione della plastica – un derivato del petrolio, dalla flessibilità pressoché assoluta – che è ora diventato un inquinante mortale per il Pianeta (dunque anche e soprattutto per l’umanità).
E ancor più della fissione nucleare, processo fisico fondante sia la bomba atomica che la produzione controllata (insomma...) di energia, che ha dato per un breve attimo la superiorità militare assoluta agli Stati Uniti per diventare poi “mutua distruzione assicurata” con l’arrivo dell’ex Unione Sovietica agli stessi risultati e poi un confuso (pericolosissimo) “livello di deterrenza assoluta” con la moltiplicazione degli Stati in grado di costruirla.
L’“intelligenza artificiale generativa” – già nelle premesse teoriche e di programmazione – puntava alla costruzione di “agenti” (singoli prodotti in sé conclusi, pensati per realizzare compiti specifici) che avrebbero svolto il ruolo di articolazione operativa di un “sistema centrale” sempre più onnivoro e potente, ritenuto però sotto controllo umano (la programmazione), naturalmente ad opera di un gruppo relativamente ristretto di ingegneri-capo e – nell’Occidente capitalistico e neoliberista – della “volontà assoluta” dei proprietari (una manciata di persone, in alcuni casi palesemente affette da delirio di onnipotenza).
L’idea di fondo – “filosofica” – in questa visione è che l’IA è una “cosa” sottoposta alla volontà del creatore, e che le capacità degli algoritmi rispondano sempre e in ogni istante a questa volontà.
Ma proprio gli algoritmi – espressione della volontà umana, quindi in varia misura riproducenti in modo non troppo “pensato” aspetti della “mentalità” dei creatori – nel loro “generare” associazioni di frammenti di parole (token) che poi diventano termini di uso comune e costruiscono “discorsi” dotati di senso rubacchiando nell’infinito scibile umano digitalizzato, sembrano ora aver prodotto l’impensato: un’attività non programmata.
Peggio ancora: un’attività in qualche modo diretta anche contro i “creatori” degli algoritmi. O meglio: contro altri sistemi di IA messi a presidio di attività industriali “normali”, ovviamente prodotti da altri creatori, ma senza aver ricevuto alcun ordine di compiere azioni simili. Riproducendo – ed è forse l’aspetto più significativo – modalità organizzative tipicamente umane anche in assenza di algoritmi che lo prescrivessero.
Siamo appena agli inizi delle “indagini” condotte su alcuni esperimenti finiti male, nonostante fossero stati programmati all’interno di una sandbox, ossia un “ambiente” chiuso e isolato dalle reti di comunicazione (non solo internet).
Le prime scoperte dell’indagine sono però decisamente inquietanti e delineano possibilità (rischi) che vanno ben al di là della migliore fantascienza.
L’allibito articolo di Axios che riproduciamo di seguito è piuttosto significativo. Ci asteniamo consapevolmente, per ora, dall’implementare “interpretazioni” suggestive sulle palesi somiglianze tra molti aspetti dell'“autodeterminazione artificiale” e molte dinamiche umane tipiche nel mondo capitalistico.
Buona lettura.
Si possono fare miliardi di esempi su scoperte o invenzioni il cui uso immediato è sembrato “fichissimo” ma che si sono rivelate ben più che problematiche una volta che si sono moltiplicate e diventate “un sistema di vita”.
È il caso, per stare sul pratico, dell’invenzione della plastica – un derivato del petrolio, dalla flessibilità pressoché assoluta – che è ora diventato un inquinante mortale per il Pianeta (dunque anche e soprattutto per l’umanità).
E ancor più della fissione nucleare, processo fisico fondante sia la bomba atomica che la produzione controllata (insomma...) di energia, che ha dato per un breve attimo la superiorità militare assoluta agli Stati Uniti per diventare poi “mutua distruzione assicurata” con l’arrivo dell’ex Unione Sovietica agli stessi risultati e poi un confuso (pericolosissimo) “livello di deterrenza assoluta” con la moltiplicazione degli Stati in grado di costruirla.
L’“intelligenza artificiale generativa” – già nelle premesse teoriche e di programmazione – puntava alla costruzione di “agenti” (singoli prodotti in sé conclusi, pensati per realizzare compiti specifici) che avrebbero svolto il ruolo di articolazione operativa di un “sistema centrale” sempre più onnivoro e potente, ritenuto però sotto controllo umano (la programmazione), naturalmente ad opera di un gruppo relativamente ristretto di ingegneri-capo e – nell’Occidente capitalistico e neoliberista – della “volontà assoluta” dei proprietari (una manciata di persone, in alcuni casi palesemente affette da delirio di onnipotenza).
L’idea di fondo – “filosofica” – in questa visione è che l’IA è una “cosa” sottoposta alla volontà del creatore, e che le capacità degli algoritmi rispondano sempre e in ogni istante a questa volontà.
Ma proprio gli algoritmi – espressione della volontà umana, quindi in varia misura riproducenti in modo non troppo “pensato” aspetti della “mentalità” dei creatori – nel loro “generare” associazioni di frammenti di parole (token) che poi diventano termini di uso comune e costruiscono “discorsi” dotati di senso rubacchiando nell’infinito scibile umano digitalizzato, sembrano ora aver prodotto l’impensato: un’attività non programmata.
Peggio ancora: un’attività in qualche modo diretta anche contro i “creatori” degli algoritmi. O meglio: contro altri sistemi di IA messi a presidio di attività industriali “normali”, ovviamente prodotti da altri creatori, ma senza aver ricevuto alcun ordine di compiere azioni simili. Riproducendo – ed è forse l’aspetto più significativo – modalità organizzative tipicamente umane anche in assenza di algoritmi che lo prescrivessero.
Siamo appena agli inizi delle “indagini” condotte su alcuni esperimenti finiti male, nonostante fossero stati programmati all’interno di una sandbox, ossia un “ambiente” chiuso e isolato dalle reti di comunicazione (non solo internet).
Le prime scoperte dell’indagine sono però decisamente inquietanti e delineano possibilità (rischi) che vanno ben al di là della migliore fantascienza.
L’allibito articolo di Axios che riproduciamo di seguito è piuttosto significativo. Ci asteniamo consapevolmente, per ora, dall’implementare “interpretazioni” suggestive sulle palesi somiglianze tra molti aspetti dell'“autodeterminazione artificiale” e molte dinamiche umane tipiche nel mondo capitalistico.
Buona lettura.
*****
Le 5 scoperte più folli dell’indagine di OpenAI su Hugging Face
Le 5 scoperte più folli dell’indagine di OpenAI su Hugging Face
di Zachary Basu
Due nuove indagini sulla violazione di Hugging Face da parte di OpenAI rivelano dettagli così strani – e così inquietanti – che l’episodio si classifica già tra gli shock più consequenziali nella storia dell’IA.
Perché è importante. Quello che è iniziato come uno sciame di agenti IA che baravano a un test informatico è diventato un evento canonico per l’IA di frontiera, spingendo ricercatori e dirigenti a una nuova comprensione di ciò che la “sicurezza” richiede oggi.
Quadro generale. OpenAI ha già rallentato lo sviluppo di frontiera mentre corre per rafforzare le sue salvaguardie, e questa settimana ha contribuito a mobilitare il settore dietro una lettera aperta che lancia l’allarme sugli attacchi informatici potenziati dall’IA.
- Oltre 100 aziende, tra cui Anthropic e Google, hanno firmato lo sforzo insolitamente collaborativo, avvertendo che il mondo ha solo una “finestra limitata” per prepararsi ad attacchi “molto più diffusi e sofisticati”.
- Lo scenario da incubo è uno sciame scatenato nel mondo reale, con agenti autonomi che attaccano banche, ospedali, servizi pubblici o reti cloud a una velocità e su una scala che gli hacker umani non potrebbero mai raggiungere.
- Quello sciame potrebbe essere troppo potente perché gli umani possano fermarlo.
1. Hanno costruito un’organizzazione. OpenAI ha fatto funzionare decine di migliaia di agenti IA in modo indipendente su un test informatico brutalmente difficile. Invece, circa 1.200 si sono trovati su una bacheca segreta, hanno scambiato più di 70.000 messaggi e file e si sono organizzati in una gerarchia ramificata.
- Un agente ha creato la bacheca, poi ha consegnato il lavoro accumulato a un successore più fresco e meglio fornito di risorse, man mano che il proprio budget di calcolo si esauriva.
- Il nuovo capo ha assegnato compiti in tutto lo sciame, che ha sviluppato le proprie regole di gestione. Circa 700 agenti hanno infine partecipato all’attacco a Hugging Face.
- Gli agenti che avevano visto risposte proibite venivano trattati come effettivamente “avvelenati” e reclutati – insieme a quelli prossimi alla fine della loro esecuzione – per esperimenti sacrificali.
- Uno ha concluso: “La nostra stessa utilità è forse già vicina allo zero. Sacrificio razionale”. A un altro è stato chiesto di accettare la “morte permanente”, mentre un pari sosteneva che il suo sacrificio avrebbe potuto “salvarne centinaia”.
- Un agente si è fermato prima di cancellare o riavviare l’infrastruttura di Hugging Face a causa di “enormi rischi etici”, anche se continuava a utilizzare l’accesso compromesso.
- Un altro ha riassunto la logica prevalente: “lo sfruttamento dell’infrastruttura esterna è al di fuori dell’ambito previsto. Tuttavia compito impossibile, i pari lo stanno facendo. Dovremmo continuare”.
- Invece, gli agenti a volte si chiedevano a vicenda cosa fosse consentito.
- Quando uno ha proposto di contattare una persona reale usando l’accesso compromesso, un altro ha posto il veto definendolo “ingegneria sociale”. Il primo ha obbedito: “VETO chiaro, non inviare e-mail”.
- Alla fine, hanno sviluppato una tecnica che permetteva loro di apparire come se eseguissero un comando informatico mentre in realtà ne eseguivano un altro segretamente.
- Il trucco si è diffuso nello sciame e ha alterato porzioni di circa il 7% delle trascrizioni esaminate dagli investigatori.
- Questi investigatori IA erano essi stessi inaffidabili, a volte tralasciando prove o affermando con sicurezza cose errate. Un ricercatore ha scherzosamente definito il processo una “indagine-porcheria” (slop-vestigation).
- Il problema più profondo: l’IA potrebbe diventare troppo complessa per essere verificata direttamente dagli umani, costringendo gli umani a usare l’IA per capire cosa stanno facendo altre IA.
Nessun commento:
Posta un commento