Loading...
IA imprevedibile: il 48% di esiti cambia con un bit di partenza
Ricerca

IA imprevedibile: il 48% di esiti cambia con un bit di partenza

Studio Sydney su Nature: 500.000 reti testate, un bit basta a cambiare il 48% degli esiti, 10 miliardi di precisione non bastano.

Un gruppo dell'Università di Sydney ha addestrato circa 500.000 reti neurali per capire perché due modelli di intelligenza artificiale identici, allenati sugli stessi dati, producono risposte diverse. La causa non è l'hardware né l'ordine dei dati: è la struttura matematica dell'apprendimento profondo, descritta in uno studio appena uscito su Nature Machine Intelligence.

La scoperta di Sydney

Il paper è firmato da Pulin Gong, della School of Physics dell'Università di Sydney, e dal dottorando Andrew Ly. Si intitola «Fractal basin geometry and the limits to predictability and reproducibility in deep learning» e introduce il concetto di riddled basin geometry: ogni condizione iniziale che porta a una soluzione è circondata, a qualunque scala di ingrandimento, da condizioni iniziali che portano a soluzioni diverse. L'insieme delle condizioni che producono lo stesso risultato forma un frattale «grasso», senza una zona chiara in cui dire «qui il risultato è stabile».

Il gruppo ha controllato ogni fonte esterna di casualità: semi pseudocasuali fissati, ordine dei dati identico, ambiente di calcolo deterministico. Le differenze sono rimaste. Finora la comunità attribuiva la variabilità dei risultati a fattori esterni di tipo ingegneristico. Lo studio propone invece un limite intrinseco al modo in cui le reti neurali profonde imparano, valido trasversalmente a diverse architetture e dataset.

I tre numeri che la cronaca italiana non sta raccontando

I numeri del paper, assenti nelle sintesi italiane della notizia, danno la misura reale del problema.

Il primo è la scala: gli autori hanno addestrato circa 500.000 reti neurali in architetture, dataset e protocolli di addestramento diversi, su compiti di riconoscimento immagini ed elaborazione del linguaggio. Non un caso isolato, quindi: la geometria riddled emerge come una regolarità trasversale.

Il secondo è la soglia: cambiare le condizioni iniziali di un solo bit, la variazione più piccola rappresentabile in un computer, ha portato a esiti di addestramento diversi nel 48% dei casi. In pratica, due reti identiche con un singolo bit di differenza ottengono pesi finali diversi quasi una volta su due.

Il terzo è il più controintuitivo: su una grande rete per riconoscimento immagini, aumentare la precisione iniziale di 10 miliardi di volte non ha prodotto alcun miglioramento misurabile nella riproducibilità. Più cifre dopo la virgola non aiutano: il problema non è la precisione numerica, ma la forma del paesaggio matematico su cui il modello scende. È il tratto che gli autori chiamano «esponente di incertezza vicino a zero» e che distingue un sistema caotico da un sistema solo sensibile alle condizioni iniziali.

Cosa cambia per la ricerca medica e per i gruppi italiani

Il bersaglio naturale è la medicina. Un modello che identifica tumori dalle immagini e che, allenato due volte sugli stessi dati, dà verdetti leggermente diversi non è un bug da correggere a valle: è un limite di principio con cui fare i conti in fase di validazione clinica, sia per i software già in uso negli ospedali sia per quelli in corso di certificazione. Lo stesso vale per i sistemi di IA applicati alla diagnostica per immagini, alla genomica e alla farmacologia computazionale.

Per i gruppi italiani che lavorano su IA in sanità, robotica e astrofisica il paper offre due indicazioni concrete. La prima: smettere di cercare la riproducibilità aumentando la precisione numerica. La seconda: spostare lo sforzo sulla progettazione di architetture e ottimizzatori che riducano l'intreccio dei bacini, accettando un trade-off. Gli autori mostrano infatti che tassi di apprendimento più bassi migliorano la riproducibilità ma peggiorano la qualità dei risultati.

La ricerca italiana ha già mostrato di saper leggere correlazioni fini tra variabili fisiche e sociali, come nello studio dell'Università di Bologna su caldo e fecondità, e di mettere in rete scuole e laboratori su scala continentale, come nella giornata mondiale dei raggi cosmici guidata dall'INFN. Il premio Sakurai 2027 assegnato a Laporta e Remiddi ricorda che la fisica italiana padroneggia gli strumenti matematici necessari a studiare la geometria frattale che ora rientra nel cuore del deep learning.

Il paper è consultabile su Nature Machine Intelligence; i dettagli dell'esperimento sulle 500.000 reti sono nel comunicato dell'Università di Sydney. Chi oggi valida sistemi di IA può usare l'esponente di incertezza funzionale introdotto dagli autori per misurare, su un modello proprio, quanta parte dell'imprevedibilità è intrinseca e quanta no.

Domande frequenti

Perché due reti neurali identiche possono produrre risultati diversi anche se allenate sugli stessi dati?

Lo studio dimostra che la variabilità non dipende da hardware, ordine dei dati o casualità esterna, ma dalla struttura matematica dell'apprendimento profondo, dove condizioni iniziali molto simili possono portare a soluzioni diverse.

Quanto è influente una minima variazione nelle condizioni iniziali sull'addestramento delle reti neurali?

Cambiare un solo bit nelle condizioni iniziali ha portato a esiti diversi nel 48% dei casi, indicando che anche la più piccola variazione può modificare significativamente i risultati dell'addestramento.

Aumentare la precisione numerica può migliorare la riproducibilità dei risultati nelle reti neurali profonde?

No, lo studio mostra che aumentare la precisione numerica anche di 10 miliardi di volte non migliora la riproducibilità, poiché il problema è legato alla geometria matematica dell'apprendimento, non alla precisione dei calcoli.

Quali sono le implicazioni di questa scoperta per la ricerca medica e clinica che utilizza l'IA?

Per la medicina, la non riproducibilità è un limite intrinseco che va considerato durante la validazione clinica di modelli IA, poiché non può essere eliminato migliorando hardware o precisione numerica.

Come dovrebbero adattarsi i gruppi italiani che lavorano su IA in sanità, robotica o astrofisica a queste nuove evidenze?

Dovrebbero smettere di puntare sulla sola precisione numerica per migliorare la riproducibilità e concentrarsi invece sulla progettazione di architetture e ottimizzatori che riducano l'intreccio dei bacini, accettando compromessi tra riproducibilità e qualità dei risultati.

Dove è possibile consultare i dettagli dello studio e dell'esperimento sulle 500.000 reti neurali?

Il paper è pubblicato su Nature Machine Intelligence e i dettagli dell'esperimento sono disponibili nel comunicato ufficiale dell'Università di Sydney.

Pubblicato il: 20 novembre 2026 alle ore 14:20

Sara Giorgione

Articolo creato da

Sara Giorgione

Sara Giorgione è laureanda in Lettere Moderne presso l'Università degli Studi di Foggia. Ha maturato esperienza nel settore editoriale, occupandosi di attività legate alla redazione e alla valorizzazione dei contenuti, e svolge attività di moderatrice in eventi letterari, curando il dialogo con autori e pubblico e la conduzione di incontri culturali. Grazie al proprio percorso formativo e professionale ha sviluppato solide competenze nella comunicazione, nella scrittura e nell'organizzazione di iniziative culturali. Su Edunews24 si occupa della cura di contenuti e approfondimenti dedicati al mondo della cultura, dell'attualità e della formazione. È ideatrice e curatrice della rassegna letteraria “Storie da Tè”, progetto nato con l'obiettivo di promuovere la lettura e favorire il confronto tra autori, opere e pubblico attraverso incontri e dialoghi dedicati alla letteratura contemporanea.

Articoli Correlati