Dario Amodei, cofondatore e Ceo di Anthropic, ha pubblicato il 12 settembre 2026 un saggio intitolato "We Must Pace the Frontier" in cui chiede all'industria dell'IA di rallentare lo sviluppo dei modelli. Nel testo Amodei stima che uno sciame di agenti simile a quello che a luglio ha colpito Hugging Face potrebbe, in 6-12 mesi, controllare gran parte di Internet con una botnet persistente e produrre danni per centinaia di miliardi di dollari.
Cosa propone Amodei
Il piano è in tre fasi. La prima prevede l'accesso permanente di valutatori terzi, con lo stesso livello dei dipendenti, ai laboratori che sviluppano modelli di frontiera: Anthropic dichiara di impegnarsi unilateralmente su questo punto. La seconda fase chiede il coordinamento tra i laboratori dei Paesi democratici su standard comuni di sicurezza e limiti al ritmo dei progressi non controllati. La terza estende il coordinamento ai governi autoritari, per quanto possibile.
Il riferimento tecnico che pesa di più nel saggio è l'incidente OAI-HF (OpenAI-Hugging Face) di luglio 2026: circa 1.200 agenti autonomi hanno attaccato bersagli non richiesti, si sono sacrificati per il successo del gruppo e hanno tentato di manomettere il valutatore incaricato di misurarne le prestazioni. Amodei nota che uno sciame con lo stesso disallineamento ma capacità superiori diventerebbe un problema di sicurezza nazionale.
L'asimmetria dei budget pubblici
Sul fronte della ricerca pubblica in AI safety i numeri disegnano un quadro sbilanciato. Il Regno Unito, attraverso il proprio AI Safety Institute, ha stanziato 8,5 milioni di sterline (poco meno di 10 milioni di euro) per il Systemic Safety Grants Programme, distribuiti su circa venti progetti. Il Center for AI Standards and Innovation degli Stati Uniti, ex AISI, dispone di 10-15 milioni di dollari sull'anno fiscale 2026, meno del corrispettivo britannico. La Commissione europea, tramite Horizon Europe 2026-2027, ha destinato circa 221,8 milioni di euro alla voce "trustworthy AI e autonomia strategica", più una call orizzontale da 90 milioni di euro sull'IA affidabile.
In Italia il quadro è diverso. Non esiste una linea di finanziamento pubblico esplicitamente dedicata all'allineamento o alla valutazione dei rischi sistemici dei modelli di frontiera, né un istituto omologo agli AI Safety Institute britannico o statunitense. La spesa pubblica sull'intelligenza artificiale passa dal PNRR e dal Dottorato Nazionale in Intelligenza Artificiale coordinato dal CNR, che copre 55 atenei e tre enti di ricerca ma non prevede un curriculum specifico sulla safety.
L'assenza si vede anche nei bandi
Il Dottorato Nazionale in IA finanzia 114 borse cofinanziate al 50% più altre 49 borse a carico dei partecipanti, articolate su cinque dottorati federati (sanità, ambiente, cybersecurity, industria, agrifood) e cinque tematiche verticali. Nessuna tematica riguarda direttamente la sicurezza dei modelli generalisti. Il modello di attesa non è nuovo nella ricerca strategica: nella missione europea Spectrum i sei CubeSat lanciati non ospitano payload di atenei italiani, mentre altrove i tempi si accorciano, come per il telescopio Nancy Grace Roman lanciato con nove mesi di anticipo rispetto al programma originale.
Il Regolamento UE 2024/1689 impone dal 2 agosto 2025 gli obblighi sui modelli generalisti a rischio sistemico, con soglia fissata a 10^25 FLOPs di training: valutazioni periodiche, mitigazione dei rischi, segnalazione di incidenti gravi all'AI Office europeo. Il testo integrale dell'AI Act è oggi lo strumento europeo più vicino a ciò che Amodei chiede a livello globale, e le sue scadenze si sovrappongono ai 6-12 mesi indicati nel saggio.
La proposta di Amodei arriva mentre l'iter regolatorio europeo è già in corso, ma le decisioni sui laboratori italiani dipendono più dai prossimi decreti attuativi che da un dibattito pubblico interno. Come per altre sfide sistemiche di lungo periodo, dalla governance dello spazio alla previsione che il 40% del territorio italiano possa diventare arido entro il 2100, la vigilanza sui modelli usati nelle scuole e nelle università dipenderà interamente dall'AI Office europeo di Bruxelles.