{/* Extracted from Header.astro - Use appropriate classes/styles if animations needed */}

IA imprevedibile: il 48% di esiti cambia con un bit di partenza

Studio Sydney su Nature: 500.000 reti testate, un bit basta a cambiare il 48% degli esiti, 10 miliardi di precisione non bastano.

Un gruppo dell'Università di Sydney ha addestrato circa 500.000 reti neurali per capire perché due modelli di intelligenza artificiale identici, allenati sugli stessi dati, producono risposte diverse. La causa non è l'hardware né l'ordine dei dati: è la struttura matematica dell'apprendimento profondo, descritta in uno studio appena uscito su Nature Machine Intelligence.

La scoperta di Sydney

Il paper è firmato da Pulin Gong, della School of Physics dell'Università di Sydney, e dal dottorando Andrew Ly. Si intitola «Fractal basin geometry and the limits to predictability and reproducibility in deep learning» e introduce il concetto di riddled basin geometry: ogni condizione iniziale che porta a una soluzione è circondata, a qualunque scala di ingrandimento, da condizioni iniziali che portano a soluzioni diverse. L'insieme delle condizioni che producono lo stesso risultato forma un frattale «grasso», senza una zona chiara in cui dire «qui il risultato è stabile».

Il gruppo ha controllato ogni fonte esterna di casualità: semi pseudocasuali fissati, ordine dei dati identico, ambiente di calcolo deterministico. Le differenze sono rimaste. Finora la comunità attribuiva la variabilità dei risultati a fattori esterni di tipo ingegneristico. Lo studio propone invece un limite intrinseco al modo in cui le reti neurali profonde imparano, valido trasversalmente a diverse architetture e dataset.

I tre numeri che la cronaca italiana non sta raccontando

I numeri del paper, assenti nelle sintesi italiane della notizia, danno la misura reale del problema.

Il primo è la scala: gli autori hanno addestrato circa 500.000 reti neurali in architetture, dataset e protocolli di addestramento diversi, su compiti di riconoscimento immagini ed elaborazione del linguaggio. Non un caso isolato, quindi: la geometria riddled emerge come una regolarità trasversale.

Il secondo è la soglia: cambiare le condizioni iniziali di un solo bit, la variazione più piccola rappresentabile in un computer, ha portato a esiti di addestramento diversi nel 48% dei casi. In pratica, due reti identiche con un singolo bit di differenza ottengono pesi finali diversi quasi una volta su due.

Il terzo è il più controintuitivo: su una grande rete per riconoscimento immagini, aumentare la precisione iniziale di 10 miliardi di volte non ha prodotto alcun miglioramento misurabile nella riproducibilità. Più cifre dopo la virgola non aiutano: il problema non è la precisione numerica, ma la forma del paesaggio matematico su cui il modello scende. È il tratto che gli autori chiamano «esponente di incertezza vicino a zero» e che distingue un sistema caotico da un sistema solo sensibile alle condizioni iniziali.

Cosa cambia per la ricerca medica e per i gruppi italiani

Il bersaglio naturale è la medicina. Un modello che identifica tumori dalle immagini e che, allenato due volte sugli stessi dati, dà verdetti leggermente diversi non è un bug da correggere a valle: è un limite di principio con cui fare i conti in fase di validazione clinica, sia per i software già in uso negli ospedali sia per quelli in corso di certificazione. Lo stesso vale per i sistemi di IA applicati alla diagnostica per immagini, alla genomica e alla farmacologia computazionale.

Per i gruppi italiani che lavorano su IA in sanità, robotica e astrofisica il paper offre due indicazioni concrete. La prima: smettere di cercare la riproducibilità aumentando la precisione numerica. La seconda: spostare lo sforzo sulla progettazione di architetture e ottimizzatori che riducano l'intreccio dei bacini, accettando un trade-off. Gli autori mostrano infatti che tassi di apprendimento più bassi migliorano la riproducibilità ma peggiorano la qualità dei risultati.

La ricerca italiana ha già mostrato di saper leggere correlazioni fini tra variabili fisiche e sociali, come nello studio dell'Università di Bologna su caldo e fecondità, e di mettere in rete scuole e laboratori su scala continentale, come nella giornata mondiale dei raggi cosmici guidata dall'INFN. Il premio Sakurai 2027 assegnato a Laporta e Remiddi ricorda che la fisica italiana padroneggia gli strumenti matematici necessari a studiare la geometria frattale che ora rientra nel cuore del deep learning.

Il paper è consultabile su Nature Machine Intelligence; i dettagli dell'esperimento sulle 500.000 reti sono nel comunicato dell'Università di Sydney. Chi oggi valida sistemi di IA può usare l'esponente di incertezza funzionale introdotto dagli autori per misurare, su un modello proprio, quanta parte dell'imprevedibilità è intrinseca e quanta no.

Pubblicato il: 20 novembre 2026 alle ore 14:20