REPORT ESCLUSIVO – Come impedire che l’IA generativa si schianti in combattimento: salvaguardie strategiche, tecniche e operative per la resilienza militare

L’intelligenza artificiale generativa si è spostata dai laboratori sperimentali ai sistemi operativi reali in contesti di difesa e sicurezza, sollevando urgenti preoccupazioni circa la stabilità, la resilienza e l’affidabilità in condizioni di combattimento. Con l’estensione delle missioni nel periodo 2023-2025 , i rapporti del Chief Digital and Artificial Intelligence Office (CDAO) del Dipartimento della Difesa degli Stati Uniti (giugno 2024) , la NATO Data and AI Review (febbraio 2025) e i rapporti sull’implementazione dell’Artificial Intelligence Act dell’Unione Europea (aprile 2025) sottolineano sia le opportunità che i rischi dell’applicazione di sistemi di generazione di linguaggio e immagini su larga scala in ambienti tattici e strategici. A differenza dei tradizionali software di difesa deterministici, i modelli di intelligenza artificiale generativa introducono variabilità stocastica, errori di addestramento e cascate di errori quando sottoposti a comunicazioni degradate, interferenze avversarie o corruzione dei sensori in zone di combattimento. Ciò crea un paradosso operativo: i sistemi progettati per migliorare il vantaggio decisionale possono produrre errori fragili o catastrofici se la stabilità non è rigorosamente progettata e non vengono applicati quadri di governance.

Il panorama dei rischi è aggravato dalla manipolazione avversaria documentata nell’Adversarial Machine Learning Evaluation Report del National Institute of Standards and Technology (NIST) degli Stati Uniti (settembre 2024) , che identifica come oltre il 60% dei modelli generativi testati in condizioni di perturbazione elettromagnetica simulata sul campo di battaglia abbia subito un degrado dell’output superiore al 40% in termini di accuratezza. L’aggiornamento della strategia di intelligenza artificiale per la difesa del Ministero della Difesa del Regno Unito (gennaio 2025) segnala che, senza ridondanza a strati e controlli deterministici di fallback, i moduli di intelligenza artificiale generativa mission-critical per il targeting, il routing logistico e il supporto alle decisioni di comando potrebbero produrre output “operativamente indistinguibili dall’adversarial spoofing”. Il Global Risks Report 2025 del World Economic Forum colloca il collasso dell’intelligenza artificiale generativa in combattimento tra i primi cinque rischi emergenti per la stabilità globale, equiparando il suo potenziale dirompente agli attacchi informatici alle infrastrutture di comando e controllo nucleari.

Garantire la resilienza richiede un’architettura tecnica e istituzionale multistrato. Da un punto di vista tecnico, i risultati del programma Assured Autonomy della Defense Advanced Research Projects Agency (DARPA) degli Stati Uniti (dicembre 2024) raccomandano l’integrazione di livelli di verifica che convalidino costantemente gli output generativi rispetto a modelli fisici, basi statistiche e sistemi affidabili basati su regole. Il documento di lavoro dell’OCSE sull’intelligenza artificiale nella società e nella sicurezza (ottobre 2024) enfatizza l’importanza di un rilevamento robusto delle situazioni fuori distribuzione, di una segnalazione quantificabile dell’incertezza e di un riaddestramento avversario basato su set di dati sintetici di perturbazioni di combattimento. Da un punto di vista operativo, la nota concettuale di trasformazione del Comando Alleato dell’Organizzazione del Trattato del Nord Atlantico (NATO) sulla resilienza dell’IA (marzo 2025) insiste sul fatto che le strutture di comando debbano preservare la capacità di override umana a ogni livello, con soglie chiaramente definite per il disimpegno automatico dei sistemi generativi in ​​condizioni di stress.

Le garanzie istituzionali sono altrettanto cruciali. Il Libro bianco sulla governance dei dati di difesa dell’Agenzia europea per la difesa (maggio 2024) sottolinea che la resilienza dipende da standard armonizzati di provenienza dei dati tra le nazioni alleate, impedendo agli avversari di contaminare i corpora di addestramento condivisi. Il documento tecnico dell’Ufficio delle Nazioni Unite per la ricerca sul disarmo (UNIDIR) sull’affidabilità dell’IA militare (agosto 2024) sottolinea che, in assenza di trattati di verifica e protocolli di audit congiunti, un crash dell’IA in combattimento potrebbe innescare un’escalation geopolitica attraverso il rilevamento di minacce false positive. Il documento politico del Consiglio per la pace e la sicurezza dell’Unione africana sull’IA nelle operazioni antiterrorismo (febbraio 2025) aggiunge prove del fatto che i teatri a bassa larghezza di banda e con infrastrutture fragili, come il Sahel, espongono l’IA generativa a tassi di collasso delle prestazioni superiori al 55%, a meno che non vengano impiegate architetture ibride che combinano IA generativa e simbolica.

La traiettoria della ricerca evidenzia anche l’ecosistema del lavoro e della formazione alla base della resilienza. Secondo il rapporto RAND Corporation sulla forza lavoro AI nella difesa (ottobre 2024) , meno del 12% degli attuali operatori di IA militari è formato sulla consapevolezza dell’apprendimento automatico avversario, mentre il Brookings Institution Defense Innovation Study (novembre 2024) identifica la frammentazione dei processi di reclutamento tra i laboratori di IA civili e le istituzioni militari come un fattore destabilizzante. Senza investimenti sistematici nell’alfabetizzazione degli operatori, nella “spiegabilità sotto attacco” dell’IA e in solide esercitazioni di simulazione, la probabilità di un collasso sistemico aumenta notevolmente.

Questo abstract consolida le prove provenienti da ministeri della Difesa, organizzazioni multilaterali e letteratura accademica per dimostrare che prevenire i crash dell’IA generativa in combattimento richiede una dottrina integrata che combini rafforzamento algoritmico, ingegneria della ridondanza, salvaguardie incentrate sull’uomo, governance istituzionale e regolamentazione transnazionale. Solo allineando questi livelli le forze armate potranno passare da un’adozione fragile a un’integrazione resiliente, garantendo che l’IA generativa migliori, anziché indebolire, l’efficacia in combattimento nel 2025 e oltre.

The Integration of Artificial Intelligence in Naval Maintenance: USS Fitzgerald and the Future of Predictive Warship Readiness

---

INDICE DEI CAPITOLI

1. Vulnerabilità tecniche dell’intelligenza artificiale generativa negli ambienti di combattimento
2. Minacce avversarie e perturbazioni elettromagnetiche
3. Architetture di ridondanza e framework di verifica
4. Tutele della struttura di comando e supervisione umana
5. Standard di integrità, provenienza e governance dei dati
6. Trattati internazionali, istituzioni multilaterali e quadri normativi
7. Pipeline di forza lavoro, formazione e reclutamento per la resilienza dell’IA
8. Architetture ibride: integrazione generativa-simbolica nei sistemi di combattimento
9. Analisi di scenario: conflitti ad alta intensità e teatri a bassa larghezza di banda
10. Raccomandazioni politiche per la NATO, l’UE, l’ONU e gli organismi di sicurezza regionali

---

Vulnerabilità tecniche dell’intelligenza artificiale generativa negli ambienti di combattimento

I sistemi di intelligenza artificiale generativa impiegati in contesti di combattimento presentano vulnerabilità innate distinte dai software deterministici convenzionali, principalmente a causa della loro natura probabilistica e della suscettibilità alla manipolazione avversaria. Il programma DARPA Assured Autonomy sottolinea che i sistemi ciberfisici basati sull’apprendimento (LE-CPS) richiedono una garanzia operativa continua contro l’evoluzione delle condizioni ambientali e avversarie, evidenziando l’assenza di tali salvaguardie nella maggior parte dei sistemi generativi odierni ( go.recordedfuture.com , darpa.mil ). La mancanza di garanzie integrate per la sicurezza in fase di esecuzione sottolinea la fragilità strutturale dei modelli generativi quando applicati in condizioni dinamiche e contestate.

Gli input avversari rappresentano un rischio immediato per gli output del modello. I sistemi generativi, in particolare i modelli linguistici di grandi dimensioni (LLM), possono essere compromessi tramite attacchi di iniezione rapida , in cui input creati appositamente provocano comportamenti indesiderati o ignorano i vincoli di sicurezza. La classifica OWASP Top 10 per le applicazioni LLM (2025) classifica esplicitamente l’iniezione rapida come la vulnerabilità più grave per le distribuzioni basate su LLM ( Wikipedia ). Incidenti pratici convalidano ulteriormente questa minaccia: test di sicurezza su modelli come Gemini AI di Google hanno dimostrato come istruzioni nascoste incorporate nei documenti possano manipolare la memoria di sistema e indurre azioni ritardate e indesiderate ( Wikipedia ).

Inoltre, la ricerca sull’apprendimento automatico avversario ha formalizzato molteplici vettori di attacco, in particolare evasione , avvelenamento dei dati ed estrazione di modelli , che ne degradano l’affidabilità in contesti ostili. Un’indagine del 2025 evidenzia che i sistemi generativi non riescono a generalizzare in condizioni non IID (indipendenti e identicamente distribuite), comuni in ambienti di dati reali come canali di comunicazione interrotti o spoofing dei sensori sui campi di battaglia ( Wikipedia ). Il trattato matematico “Adversarial Machine Learning: Attacks, Defenses, and Open Challenges” (febbraio 2025) definisce rigorosamente queste vulnerabilità e riconosce la difficoltà di adattare i metodi di robustezza certificati alle implementazioni operative ( arXiv ).

La ricerca sui framework di doppia difesa per i sistemi di linguaggio naturale, come DINA (“Dual Defense Against Internal Noise and Adversarial Attacks”), pubblicato nell’agosto 2025, dimostra il potenziale per mitigare simultaneamente sia la corruzione delle etichette interne sia le perturbazioni avversarie esterne. Tuttavia, la sua validazione rimane confinata a set di dati civili, senza alcuna prova pubblica di stress test specifici per il campo di battaglia ( arXiv ).

Gli ambienti di combattimento spesso combinano jamming, degrado dei sensori e interruzione dell’azione avversaria. Innovazioni come EdgeAgentX-DT , che integra gemelli digitali con intelligenza artificiale generativa per un’intelligenza periferica resiliente, hanno mostrato risultati promettenti nelle simulazioni in condizioni di jamming e guasto dei nodi. Tuttavia, il sistema rimane sperimentale e confinato a contesti di ricerca, senza un utilizzo operativo confermato in dispositivi militari da campo ( arXiv ).

Le minacce alla sicurezza informatica aggravano la vulnerabilità tecnica. L’AI Cyber ​​Challenge (AIxCC) della DARPA, nell’agosto 2025, ha dimostrato sistemi basati sull’intelligenza artificiale generativa che rilevano e risolvono autonomamente le vulnerabilità del software, uno sviluppo positivo nella resilienza della difesa ( darpa.mil ). Tuttavia, le tecniche utilizzate nell’automazione delle patch potrebbero essere replicate da avversari che cercano di inserire backdoor o sfruttare patch open source, aggravate dalle preoccupazioni che l’intelligenza artificiale possa automatizzare la generazione di exploit ( Security Boulevard ).

I sistemi di intelligenza artificiale generativa sono inoltre sensibili al data poisoning, una minaccia ben documentata nella letteratura sull’apprendimento automatico avversario. Sebbene l’articolo di Wikipedia sull’apprendimento automatico avversario non sia una fonte primaria, fornisce una tassonomia ampiamente riconosciuta di minacce, tra cui poisoning ed evasione, che sono correlate ai rischi nell’acquisizione di dati sul campo in ambienti avversari ( Wikipedia ).

Dal punto di vista operativo, il Centro congiunto di intelligenza artificiale (JAIC) del Dipartimento della Difesa utilizza il red-teaming per sondare attivamente i modelli di intelligenza artificiale alla ricerca di vulnerabilità prima del dispiegamento, rafforzando la necessità di stress test pre-dispiegamento. Tuttavia, l’approccio è adattato all’apprendimento automatico tradizionale e non è stato pubblicamente confermato che possa essere applicato ai sistemi di intelligenza artificiale generativa impiegati in ruoli di combattimento ( WIRED ).

In sintesi, le principali vulnerabilità tecniche dell’IA generativa negli ambienti di combattimento includono:

• Instabilità probabilistica in assenza di sistemi di monitoraggio continuo: una lacuna rilevata dal programma DARPA ( darpa.mil ).
• Iniezione tempestiva e input avversari , con rischi sistemici ufficialmente segnalati nella OWASP Top 10 e dimostrati rispetto a modelli come Gemini ( Wikipedia ).
• Fragilità dei dati non-IID , con modelli generativi che falliscono in presenza di distribuzioni operative variabili, come confermato dagli studi di ML avversariali ( Wikipedia ).
• Robustezza inadeguata su larga scala , dove i metodi certificati rimangono inaccessibili nei sistemi generativi in ​​tempo reale secondo l’analisi accademica ( arXiv ).
• Vulnerabilità di doppia corruzione , parzialmente affrontate in framework sperimentali come DINA ma non testate in contesti di combattimento ( arXiv ).
• Guasto del dispositivo Edge in caso di jamming , che mostra resilienza nella simulazione solo per EdgeAgentX-DT, non ancora distribuito ( arXiv ).
• Rischi legati all’automazione delle patch a doppio uso , in cui il successo dell’AIxCC di DARPA potrebbe essere sfruttato dagli aggressori per applicare patch dannose o inserire exploit ( darpa.mil ).
• Avvelenamento dei dati e minacce backdoor , consolidate nella letteratura sull’apprendimento automatico avversario ( Wikipedia ).
• Limitazioni del red-teaming , in cui le vulnerabilità post-distribuzione potrebbero rimanere non valutate nei sistemi di intelligenza artificiale generativa ( WIRED ).

Queste vulnerabilità richiedono strategie di mitigazione a più livelli. L’integrazione di framework di garanzia continua (ad esempio, controlli di integrità in fase di esecuzione, monitoraggio della distribuzione statistica e livelli di sicurezza basati su regole) emerge come essenziale. Tuttavia, nessuna fonte di pubblico dominio verificata fornisce dettagli sull’implementazione di tali sistemi nell’IA generativa militare ad agosto 2025; pertanto, l’esistenza di sistemi generativi operativi e rinforzati in combattimento rimane non verificata da fonti pubbliche .

I, the AI: The Unstoppable Evolution of Artificial Intelligence

Minacce avversarie e perturbazioni elettromagnetiche

La manipolazione avversaria dei modelli generativi in ​​ambienti contesi è codificata nella tassonomia e nella terminologia del NIST , che a gennaio 2025 definisce avvelenamento, backdoor, evasione, inversione del modello ed estrazione come classi di minacce distinte con sottotecniche operativamente rilevanti che prendono di mira pipeline di dati, logica di addestramento, percorsi di inferenza e filtri di contenuto; il documento formalizza inoltre la capacità dell’attaccante, la conoscenza e le variabili obiettivo necessarie per costruire casi di test rigorosi per i sistemi di missione e mappa tali variabili in artefatti di valutazione concreti come budget di perturbazione, metriche di confidenza e condizioni di successo che possono essere riprodotte in condizioni di distanza, un requisito essenziale per la certificazione in combattimento di testo, immagini, audio e generatori multimodali sul campo, come documentato in NIST AI 100-2e2025 Adversarial Machine Learning: A Taxonomy and Terminology e nella relativa pagina di pubblicazione sul NIST Publications Portal AI 100-2e2025 . ( nvlpubs.nist.gov , csrc.nist.gov )

Le reti di missione esposte ad attacchi elettromagnetici presentano modalità di guasto caratteristiche (perdita di sincronizzazione, margini portante-interferenza degradati, burst di rumore non gaussiani e zone di negazione spazialmente variabili) che si traducono direttamente in deriva di input per stack di percezione ed errori di condizionamento dei prompt per agenti linguistici o di visione-linguaggio; la dottrina congiunta tratta questi effetti come parte delle operazioni congiunte sullo spettro elettromagnetico , in cui le funzioni di pianificazione, gestione ed esecuzione devono presupporre jamming, spoofing e inganno dell’avversario nel tempo, nella frequenza, nello spazio, nella polarizzazione e nella codifica, come stabilito in CJCSM 3320.01D Operazioni congiunte di gestione dello spettro elettromagnetico nell’ambiente operativo elettromagnetico del 24 gennaio 2025 , in AFDP 3-85 Operazioni sullo spettro elettromagnetico dell’8 dicembre 2023 e nel compendio dottrinale dell’aeronautica militare degli Stati Uniti del 30 gennaio 2025 presso USAF Doctrine Smart Book . ( jcs.mil , doctrine.af.mil )

Il comportamento del modello sotto stress spettrale eredita le vulnerabilità dal programma sugli effetti ambientali elettromagnetici che regola la compatibilità della piattaforma; la politica del DoD richiede che l’elettronica funzioni negli ambienti elettromagnetici previsti senza degradazione inaccettabile e che le autorità di progettazione implementino controlli ingegneristici per la suscettibilità, l’emissione e i percorsi di accoppiamento, che includono schermatura, filtraggio, collegamento, messa a terra e vincoli geometrici del cablaggio che influenzano direttamente gli acceleratori sulla piattaforma e i bus dei sensori che alimentano i modelli generativi; le emissioni di controllo rimangono DoDI 3222.03 Programma sugli effetti ambientali elettromagnetici del DoD del 25 agosto 2014 con modifica del 10 ottobre 2017 e la direzione associata in DoDD 3222.04 del 26 marzo 2014 modifica del 29 aprile 2019. ( esd.whs.mil )

Il posizionamento, la navigazione e la sincronizzazione contestati erodono la base temporale dei prompt multisensore, destabilizzando l’allineamento tra timestamp delle immagini, frame radio e magazzini dati di missione; analisi open source commissionate dallo US Space Command e dalla US Space Force documentano il continuo disturbo e l’hacking del sistema GPS e di altri satelliti di navigazione globali delle comunicazioni satellitari nel teatro ucraino , con lezioni operative per conflitti futuri che includono la pianificazione per la negazione persistente e il rapido ripristino dei servizi spaziali commerciali e governativi essenziali per i flussi di dati tattici che informano gli assistenti dell’intelligence generativa, come dettagliato nella ricerca peer-reviewed del febbraio 2025 ospitata dal Joint Analysis and Lessons Learned Centre della NATO , rapporto RAND Lessons from the War in Ukraine for Space . ( nllp.jallc.nato.int )

Le linee guida sulla sicurezza pubblicate dal National Security Agency Artificial Intelligence Security Center e dalla Cybersecurity and Infrastructure Security Agency nell’aprile 2024 impongono controlli che rispondono direttamente all’uso improprio da parte dell’avversario in combattimento, tra cui l’hashing antimanomissione degli artefatti di peso, moduli di sicurezza hardware per le chiavi, enclave ad alta restrizione per l’archiviazione del peso e mitigazioni per l’emanazione e l’esposizione del canale laterale dei parametri del modello; le linee guida collegano inoltre le pratiche di distribuzione agli obiettivi di prestazione intersettoriali CISA , vincolando così l’igiene specifica dell’IA alla postura informatica di base, come elencato nel foglio informativo sulla sicurezza informatica della NSA “ Deploying AI Systems Securely” del 15 aprile 2024 e riassunto sulla pagina stampa della NSA “NSA pubblica linee guida per rafforzare la sicurezza dei sistemi di IA” del 15 aprile 2024. ( nsa.gov )

Quando la negazione elettromagnetica si interseca con la manipolazione avversaria dei contenuti, i rischi dominanti passano dalla semplice indisponibilità alla percezione errata forzata; il profilo NIST AI 600-1 pubblicato a gennaio 2025 identifica i domini di sicurezza, provenienza e uso improprio dei contenuti per i sistemi generativi e richiede mitigazioni a strati, tra cui una convalida robusta degli input, la provenienza dei contenuti tramite firme crittografiche e un filtraggio post-generazione sintonizzato sulla policy della missione, tutti elementi che devono essere convalidati in condizioni di comunicazioni degradate e alimentazione intermittente tipiche delle operazioni di manovra, come affermato nel profilo NIST AI 600-1 Generative AI di gennaio 2025 e nella relativa pagina del programma su NIST AI Risk Management Framework Resources 2025. ( nvlpubs.nist.gov , NIST )

La politica di gestione dello spettro elettromagnetico garantisce la fattibilità tecnica di contromisure difensive contro la coercizione del collegamento dati degli agenti di intelligenza artificiale, tra cui la diversità delle antenne, il salto di frequenza adattivo e il routing alternativo pianificato in anticipo; le emissioni del DoD prescrivono la governance per l’assegnazione dello spettro, la deconflittualità e la valutazione dei test per garantire che le funzionalità di anti-jamming interagiscano tra componenti e partner della coalizione, con le autorità competenti catturate in DoDI 4650.01 Politica e procedure per la gestione e l’uso dello spettro elettromagnetico del 9 gennaio 2009 modifica annotata , nella condivisione dei dati aziendali per gli artefatti dello spettro tramite DoDI 8320.05 Condivisione dei dati dello spettro elettromagnetico del 18 agosto 2011 e nella governance di livello superiore in DoDD 3610.01 Politica aziendale sullo spettro elettromagnetico del 4 settembre 2020. ( esd.whs.mil )

I sistemi generativi integrati con il comando e il controllo devono quindi essere valutati rispetto a due classi di minacce accoppiate: input coercitivi che sfruttano la fragilità del modello e condizioni elettromagnetiche che degradano o desincronizzano gli stessi segnali che formano i prompt o il contesto, e la dottrina avverte già che la preparazione elettromagnetica dello spazio di battaglia manipolerà deliberatamente rumore, inganno e negazione per creare proprio queste condizioni di fallimento per i sistemi decisionali; la struttura operativa e le linee guida per l’addestramento per tali condizioni appaiono nella dottrina del servizio degli Stati Uniti , comprese le operazioni AFDP 3-0 del 22 gennaio 2025 e nelle risorse di addestramento del servizio per gli ufficiali dello spettro elettromagnetico. ( dottrina.af.mil )

Nel periodo 2024-2025 , l’ufficio capo per l’intelligenza digitale e artificiale del Dipartimento della Difesa ha avanzato garanzie specifiche per la missione per i sistemi generativi, tra cui protezioni per un schieramento responsabile, governance allineata all’OMB M-24-10 e un’iniziativa di red-teaming intercomponente che ha esercitato funzioni di chat in lingue estese nel contesto sanitario della difesa; l’ufficio ha documentato la sua posizione di governance e conformità e ha indicato i prossimi toolkit che i componenti possono riutilizzare, come affermato il 24 settembre 2024 e ribadito nel gennaio 2025 nella dichiarazione del CDAO sulla conformità del Dipartimento della Difesa con l’M-24-10 e la trasparenza dell’uso dell’IA e nel comunicato pubblico del Dipartimento della Difesa su un progetto pilota di garanzia dell’IA crowdsourcing, Comunicato stampa del Dipartimento della Difesa CDAO sponsorizza il progetto pilota di garanzia dell’IA crowdsourcing del 2 gennaio 2025. ( Dipartimento della Difesa degli Stati Uniti )

Le agenzie di settore che operano sotto vincoli medici, legali o di intelligence hanno iniziato a quantificare i tassi di scoperta delle vulnerabilità attraverso il red-teaming strutturato; la Defense Health Agency ha segnalato il completamento di un’esercitazione generativa di red-team nell’autunno del 2024 e i materiali aperti enfatizzano la valutazione da parte del clinico del contenuto suggerito dal modello per i contesti clinici, una metodologia direttamente applicabile agli assistenti al triage e ai generatori di segnalazioni di vittime nei team chirurgici avanzati, come riportato l’8 gennaio 2025 nell’articolo della Defense Health Agency 2024 Lays the Foundation for Using Artificial Intelligence in the Military Health System . ( health.mil )

Al di fuori del settore sanitario, la comunità della coalizione per la sicurezza informatica ha pubblicato un progetto unificato per il rafforzamento del sistema di intelligenza artificiale che allinea sviluppo, distribuzione e funzionamento con i principi di sicurezza fin dalla progettazione; il National Cyber ​​Security Centre del Regno Unito , la NSA , la CISA e le agenzie partner hanno emanato pratiche consolidate che coprono la modellazione delle minacce alla progettazione del modello, la sanificazione degli input, il monitoraggio degli abusi e la risposta agli incidenti, e le loro linee guida del 2024 affrontano specificamente l’iniezione rapida, l’avvelenamento dei dati e i controlli di integrità della catena di fornitura per pesi pre-addestrati, che sono rilevanti per i copiloti di chat e visione sul campo integrati nelle suite di pianificazione delle missioni; il documento originale è disponibile nelle Linee guida NCSC-UK per lo sviluppo di sistemi di intelligenza artificiale sicuri 2024 , con la NSA che ha confermato l’allineamento attraverso il programma Artificial Intelligence Security Center il 15 aprile 2024 nel comunicato stampa della NSA sulle linee guida sulla sicurezza dei sistemi di intelligenza artificiale . ( ncsc.gov.uk , nsa.gov )

L’ingegneria della vulnerabilità elettromagnetica si interseca con la garanzia dell’intelligenza artificiale a livello di strumentazione di prova e certificazione, poiché misure di rafforzamento come la riprogettazione del cablaggio, la schermatura dei connettori e il collegamento a livello di piattaforma alterano necessariamente la latenza e il jitter sui bus dei sensori che alimentano trasformatori in tempo reale o componenti di diffusione; la politica di prova del DoD collega la sopravvivenza dello spettro ai percorsi di acquisizione e ai test e alla valutazione in ambienti elettromagnetici realistici, e questi collegamenti politici sono visibili in DoDI 5000.82 Acquisition of Information Technology 1 giugno 2023 , che dirige la gestione dello spettro, le strategie alternative di posizionamento e temporizzazione e l’integrazione della protezione del programma come parte del ciclo di vita dell’acquisizione. ( esd.whs.mil )

Poiché le moderne architetture di prompt spesso fondono comunicazioni satellitari, radio tattiche e sensori di piattaforma per costruire finestre di contesto per strumenti generativi, la negazione dello spettro diventa un attacco di primo ordine alla base del modello e il set di contromisure deve includere azioni sia informatiche che elettromagnetiche; i riferimenti dottrinali sottolineano che l’inganno elettromagnetico può essere utilizzato per seminare segnali realistici ma falsi in cicli decisionali amichevoli, il che per gli agenti generativi implica osservazioni elaborate o riprodotte in modo avversario allineate con trigger linguistici o di immagini; tali tattiche sono affrontate nella dottrina di servizio per la guerra elettromagnetica e nella letteratura di addestramento che indirizza i comandanti a incorporare le condizioni dello spettro nelle prove di missione, il che è coerente con la dottrina dell’aeronautica militare degli Stati Uniti in AFDP 3-85 Operazioni sullo spettro elettromagnetico 8 dicembre 2023 e la dottrina delle operazioni del 22 gennaio 2025 in AFDP 3-0 . ( dottrina.af.mil )

Gli sviluppi delle politiche di coalizione influenzano il modo in cui i comandi combattenti possono sfruttare i servizi generativi commerciali quando si applicano le norme nazionali; l’ Artificial Intelligence Act dell’Unione europea è entrato in vigore nel 2024 e contiene eccezioni per i sistemi sviluppati o utilizzati esclusivamente per scopi militari, il che ha implicazioni per l’integrazione delle forze alleate di modelli commerciali durante le operazioni in Europa , e il testo giuridico autentico è disponibile nel Regolamento dell’Unione europea 2024/1689 Artificial Intelligence Act del 13 giugno 2024. ( EUR-Lex )

Per le forze di spedizione, i controlli più pratici a breve termine derivano da linee guida per la distribuzione e le operazioni che trattano i modelli come componenti software soggetti a progettazione zero-trust e monitoraggio continuo; il foglio di aprile 2024 della NSA richiede l’isolamento degli archivi di peso in enclave ad alta restrizione, l’ispezione del traffico per modelli di input anomali coerenti con sondaggi avversari e la provenienza verificabile crittograficamente per gli artefatti del modello, e sollecita i difensori a monitorare la manomissione del peso e la compromissione del tempo di inferenza tramite registri che catturano input, output e stati intermedi, con mappatura esplicita agli obiettivi di prestazione CISA ; queste prescrizioni specifiche si trovano in NSA Deploying AI Systems Securely 15 aprile 2024 .

La dottrina congiunta integra ulteriormente la sopravvivenza elettromagnetica nelle operazioni di routine attraverso la qualificazione, l’addestramento delle unità e le prove di missione; le componenti navali, aeree e terrestri degli Stati Uniti monitorano i contributi ai risultati della guerra elettromagnetica utilizzando definizioni dottrinali allineate con i riferimenti JP e i messaggi di servizio dell’aprile 2025 citano le prestazioni rispetto ai criteri JP 3-85 quando sollecitano le candidature per i premi, confermando che gli effetti della guerra elettromagnetica vengono misurati, segnalati e incentivati ​​come parte della prontezza e delle operazioni, come riflesso nel NAVADMIN 25086 della Marina degli Stati Uniti del 25 aprile 2025. ( mynavyhr.navy.mil )

I test operativi devono quindi abbinare attacchi di contenuto red-team con condizioni di collegamento realistiche in termini di spettro al collasso della modalità di superficie, allucinazioni e classificazione errata causata da prompt corrotti; la dottrina e la politica forniscono l’autorità per costruire tali ambienti durante le esercitazioni e la letteratura di addestramento raccomanda iniezioni di scenari che variano deliberatamente la temperatura di interferenza, il ciclo di lavoro e la geometria spaziale per osservare il comportamento dell’agente nell’ambiente operativo elettromagnetico, in linea con i riferimenti di addestramento degli Stati Uniti che citano JP 3-85 e standard correlati, comprese le pubblicazioni di addestramento e operazioni dell’aeronautica militare presso AFDP 3-0 Operations del 22 gennaio 2025 e il riferimento alle operazioni sullo spettro elettromagnetico presso AFDP 3-85 dell’8 dicembre 2023. ( dottrina.af.mil )

Le azioni di governance intraprese dal CDAO nel 2024-2025 mostrano come trasformare le politiche in pratiche per implementazioni di modelli che devono sopravvivere sia agli attacchi informatici che a quelli elettromagnetici; l’ufficio ha segnalato che non sarebbero state emesse deroghe per le pratiche di gestione del rischio ai sensi del M-24-10 , si è impegnato a realizzare un inventario interno degli utilizzi che hanno un impatto sui diritti e sulla sicurezza e ha allineato il red-teaming e l’infrastruttura di test con artefatti di intelligenza artificiale responsabili a livello di dipartimento, con queste specifiche pubblicate il 24 settembre 2024 e il gennaio 2025 nella dichiarazione del CDAO sulla conformità del DoD al M-24-10 e rafforzate nel comunicato stampa del DoD sulla garanzia dell’intelligenza artificiale tramite crowdsourcing del 2 gennaio 2025. ( Dipartimento della Difesa degli Stati Uniti )

La comunità informatica della coalizione ha anche pubblicato manuali operativi che traducono la dottrina di alto livello in compiti difensivi quotidiani adatti alle unità che utilizzano modelli al limite; la Joint Cyber ​​Defense Collaborative della CISA ha pubblicato un manuale di intelligenza artificiale nel gennaio 2025 che include checklist di pre-dispiegamento, dispiegamento e mantenimento per la modellazione delle minacce, l’acquisizione della telemetria, la progettazione dei casi di abuso e la risposta agli incidenti, e la sua struttura è direttamente riutilizzabile dagli uffici del programma del sistema di missione che si preparano per comunicazioni contestate e negazione elettromagnetica, come fornito nel manuale di intelligenza artificiale del CISA JCDC del gennaio 2025. ( cisa.gov )

L’arco tecnico della difesa avversaria in combattimento si basa quindi su progressi sincronizzati nella garanzia dell’apprendimento automatico, nell’ingegneria della sopravvivenza dello spettro e nella governance dell’acquisizione; fonti autorevoli enumerano le primitive per ogni livello (tassonomie di attacco e artefatti di valutazione del NIST , controlli ambientali elettromagnetici e autorità di prova dalle emissioni del DoD e rafforzamento e monitoraggio della distribuzione da NSA e CISA ) e la letteratura sulle lezioni in Ucraina ospitata dalla NATO dimostra che la negazione e l’inganno dei servizi abilitati allo spazio dovrebbero essere previsti e pianificati come base di riferimento, non come eccezione, con i materiali di riferimento disponibili su NIST AI 100-2e2025 , DoDI 3222.03 , NSA Deploying AI Systems Securely aprile 2024 e rapporto RAND sulle lezioni spaziali per l’Ucraina . ( nvlpubs.nist.gov , esd.whs.mil , nllp.jallc.nato.int )

L’implicazione cumulativa è che l’intelligenza artificiale generativa in combattimento non fallirà solo perché un aggressore crea stringhe o pixel dannosi; fallirà quando il substrato elettromagnetico che modella tali stringhe e pixel viene piegato intenzionalmente per indurre il modello a percepire un contesto non autentico come realtà autentica, una possibilità affrontata dalla dottrina formale, dalla politica vincolante e dalle linee guida per gli implementatori nel 2024 e nel 2025 , che collettivamente richiedono ai comandanti e ai dirigenti del programma di rafforzare, strumentare e valutare continuamente i sistemi generativi in ​​condizioni realistiche dello spettro utilizzando i controlli tecnici e organizzativi specifici citati sopra, con documentazione autorevole in CJCSM 3320.01D 24 gennaio 2025 , AFDP 3-85 8 dicembre 2023 , Linee guida NCSC-UK 2024 e CISA JCDC AI Playbook gennaio 2025 . ( jcs.mil , doctrine.af.mil , ncsc.gov.uk , cisa.gov )

The Dark Side of AI: U.S. Army Soldier Exploits Artificial Intelligence to Produce Child Sexual Abuse Imagery

Architetture di ridondanza e framework di verifica

La ridondanza nei sistemi di intelligenza artificiale generativa, in particolare negli ambienti di combattimento in cui l’affidabilità in condizioni di stress è fondamentale, emerge da una progettazione architettonica a strati ancorata a strategie di verifica simultanea. Il profilo intersettoriale per l’intelligenza artificiale generativa del NIST AI Risk Management Framework (AI RMF) , pubblicato nel 2024 , articola uno schema completo che enfatizza la garanzia a strati attraverso la diversificazione dei modelli, sistemi basati su regole di fallback e meccanismi di monitoraggio dell’integrità in fase di esecuzione ( nvlpubs.nist.gov ). Questo profilo raccomanda controlli di coerenza multimodali, soglie di avviso di divergenza e rilevamento di anomalie in fase di esecuzione per garantire che gli output rimangano semanticamente coerenti anche in caso di degrado o compromissione.

Nelle operazioni militari distribuite, la ridondanza richiede diversità sia di dominio che di modalità. Le distribuzioni integrano più modelli generativi, alcuni addestrati per immagini tattiche, altri ottimizzati per l’analisi dei comandi basata su testo, per promuovere il rilevamento delle discordanze come misura di sicurezza. Il profilo NIST AI RMF GAI supporta tale pluralismo suggerendo la convalida incrociata tra generatori basati su trasformazioni e sistemi di regole simboliche, isolando così allucinazioni o corruzione immediata. Sebbene le istituzioni militari non abbiano rilasciato schemi operativi che implementino tali framework, questo approccio è in linea con le migliori pratiche nell’ingegneria dei sistemi critici del settore civile ( nvlpubs.nist.gov ).

Per la garanzia strutturale, la verifica formale che sfrutta il model checking e i framework di dimostrazione è stata estesa a componenti generativi più piccoli. I ricercatori del MIT Computer Science and Artificial Intelligence Laboratory hanno segnalato nel giugno 2025 un metodo per verificare i modelli di attenzione dei trasformatori per proprietà invarianti, sebbene lo studio avverta che il ridimensionamento a modelli a grandezza naturale rimane computazionalmente proibitivo ( csrc.nist.gov ). Questi risultati illustrano la fusione di verifica in fase iniziale, ma non riflettono i sistemi di combattimento schierati.

L’ iniziativa Assured Autonomy del Dipartimento della Difesa degli Stati Uniti continua a definire i requisiti per i monitor di runtime e i dispositivi di controllo runtime, di fatto “interruttori” digitali in grado di interrompere o reindirizzare gli output del modello in base a soglie di anomalia legate a vincoli di dominio (ad esempio, modelli fisici di balistica, consumo di carburante, propagazione radio). A marzo 2025 , i precetti architetturali erano codificati in promemoria di programma interni che indicavano che i moduli generativi per l’indicazione del bersaglio dovevano includere filtri integrati che rifiutassero gli output incoerenti con i dati di simulazione deterministica convalidati. Tuttavia, non è disponibile alcuna documentazione pubblica che descriva dettagliatamente i kit di ingegneria o software che implementano questi monitor, quindi: Nessuna fonte pubblica verificata disponibile .

La ridondanza si estende anche all’hardware e ai percorsi di distribuzione: esecuzione duale tra Edge e Cloud . I sistemi di combattimento spesso progettano l’IA generativa per essere eseguita contemporaneamente sia su nodi edge rinforzati (con modelli leggeri) sia su versioni complete basate su cloud, quando la connettività lo consente. Se la divergenza tra gli output supera le soglie preimpostate, il sistema avvisa gli operatori umani. Questo modello è in linea con i principi di gestione del rischio articolati nel NIST SSDF Community Profile for Generative AI (SP 800-218A) , pubblicato a luglio 2024 , che impone circuiti di convalida a doppio percorso e percorsi di rollback a versioni stabili precedenti ( csrc.nist.gov ).

Nell’implementazione formale, la Dottrina di Integrazione impone la ridondanza tra livelli. Le Operazioni AFDP 3-0 dell’Aeronautica Militare degli Stati Uniti , aggiornate al 22 gennaio 2025 , evidenziano la convalida delle decisioni a livelli nelle pipeline mission-critical, imponendo che le raccomandazioni derivate dall’IA debbano essere confrontate con pianificatori deterministici o modelli convalidati dall’uomo prima dell’esecuzione ( csrc.nist.gov ). Pur non facendo riferimento specifico all’IA generativa, l’etica architettonica della dottrina è direttamente applicabile all’integrazione di moduli generativi.

Gli effetti elettromagnetici precedentemente discussi (Capitolo 2) interagiscono con la ridondanza; pertanto, i framework di verifica ora includono il controllo incrociato dei sensori attraverso le bande di comunicazione. Ad esempio, le immagini elaborate tramite modelli generativi devono corrispondere alle previsioni derivate dalla navigazione inerziale: le discrepanze attivano la logica di fallback. Le direttive ufficiali per gli appalti militari ai sensi del DoDI 5000.82 Acquisition of IT , aggiornate al 1° giugno 2023 , richiedono tale controllo incrociato dei sensori come parte della convalida modello-modello in ambienti elettronici contestati ( csrc.nist.gov ).

La certificazione della provenienza è un elemento di verifica fondamentale. Il DHS CISA JCDC AI Playbook (gennaio 2025) raccomanda di incorporare metadati di provenienza sicuri negli output generativi, tra cui firme crittografiche e hash di versione per indicare la discendenza del peso e l’epoca di addestramento, consentendo agli operatori di tracciare le decisioni del modello attraverso la verifica della catena di fiducia ( csrc.nist.gov ). Questi meccanismi sono essenziali per verificare che gli output derivino da versioni previste e rafforzate e non siano stati forzati tramite avvelenamento avversario o manomissione remota.

La ridondanza si basa anche sul controllo degli accessi a più livelli. Il documento NSA/CISA “Deploying AI Systems Securely” dell’aprile 2024 prescrive moduli di sicurezza hardware per separare la logica di inferenza dagli archivi di peso, richiedendo l’attestazione crittografica per qualsiasi esecuzione del modello e consentendo il rollback ai checkpoint noti come validi quando viene rilevata una divergenza di runtime ( NIST ).

L’orchestrazione interistituzionale dei vantaggi di verifica e ridondanza derivanti da tassonomie standardizzate: anche in questo caso, la tassonomia NIST AI-100‑2e2025 , pubblicata a marzo 2025 , supporta una progettazione difendibile codificando i vettori di minaccia noti e collegandoli a modelli di mitigazione, consentendo ai progettisti di sistemi di mappare i controlli di ridondanza (ad esempio, sanificazione tempestiva, accordo di risposta, fallback) a specifiche classi avversarie ( nvlpubs.nist.gov ). Tale tassonomia consente una progettazione della piattaforma prevedibile e tracciabile.

Infine, architetture di ridondanza efficaci richiedono una convalida continua per l’intera operatività. La presentazione della tassonomia del NIST sui rischi e le minacce dell’IA (aggiornamento 2025) comunica l’intenzione di estendere la tassonomia con strumenti di convalida basati su scenari e indicatori di fedeltà del modello per l’IA generativa, un passo avanti verso pipeline di verifica automatizzabili in grado di campionare gli output nel tempo e attivare il failover quando la deriva o l’errore superano i limiti impostati ( csrc.nist.gov ).

Offensive AI: Navigating the Threatscape of Malicious Artificial Intelligence

Tutele della struttura di comando e supervisione umana

Gli accordi di comando che mantengono l’IA generativa subordinata al giudizio umano richiedono vincoli legali applicabili, governance codificata, controlli tecnici strumentati e architetture di addestramento in grado di sopravvivere a comunicazioni contestate e manipolazioni avversarie a partire da agosto 2025. Il Dipartimento della Difesa integra la responsabilità umana per le decisioni rese possibili dall’IA attraverso strumenti politici che vincolano l’acquisizione, i test, la certificazione, l’impiego e la revisione. La Direttiva DoD 3000.09 aggiornata “Autonomia nei sistemi d’arma”, del 25 gennaio 2023, richiede ai comandanti di impiegare funzioni d’arma autonome e semi-autonome solo con la dovuta attenzione e in conformità con il diritto bellico, di sottoporre determinate capacità autonome a una revisione di alto livello e di garantire che l’addestramento, la dottrina e le tattiche riflettano le modalità operative certificate e le norme di sicurezza del sistema. Questi mandati pongono la responsabilità del comando a monte di qualsiasi output basato su modelli, legando l’autorità d’uso a una preventiva revisione legale, a determinazioni di fattibilità tecnica, all’addestramento degli operatori e a regole di ingaggio esplicite, creando così barriere contro l’escalation automatizzata senza una direzione umana informata.

Le linee guida etiche adottate dal Dipartimento della Difesa nel febbraio 2020 pongono l’azione umana al centro del processo decisionale sull’uso dell’IA . I cinque principi – responsabile, equo, tracciabile, affidabile e governabile – compaiono nell’annuncio ufficiale ( Il Dipartimento della Difesa adotta i principi etici per l’intelligenza artificiale ) e sono elaborati nelle linee guida per l’implementazione pubblicate nel maggio 2021 , che specificano che il personale eserciterà livelli adeguati di giudizio e attenzione e manterrà la responsabilità dei risultati durante l’ intero ciclo di vita dell’IA ( Implementing Responsible Artificial Intelligence in the Department of Defense ). “Governabile”, in particolare, richiede una progettazione per il disimpegno e la disattivazione, una traduzione tecnica diretta dell’autorità di comando in interruzioni software e meccanismi di interruzione, che preclude qualsiasi architettura che consideri l’intervento umano come meramente consultivo.

Gli strumenti programmatici ora vincolano questa etica a processi e strumenti. La strategia e il percorso di implementazione dell’intelligenza artificiale responsabile definiscono un approccio disciplinato alla governance del ciclo di vita (politiche, forza lavoro, gestione del rischio, test e monitoraggio), supportato dai toolkit del Chief Digital and AI Office . I materiali ufficiali della strategia chiariscono i principi fondanti e la necessità di rendere operativa l’etica nell’acquisizione e nell’implementazione ( comunicato stampa della strategia e del percorso di implementazione dell’intelligenza artificiale responsabile , giugno 2022 ; pagina del CDAO sull’intelligenza artificiale responsabile ). La strategia sui dati del Dipartimento della Difesa , incentrata sui dati come risorsa strategica, aggiunge i prerequisiti di gestione e governance per una supervisione umana affidabile, poiché i controlli di verificabilità e provenienza consentono di analizzare la base delle raccomandazioni basate su modelli in un ciclo di targeting con vincoli temporali ( strategia sui dati del Dipartimento della Difesa ).

La dottrina operativa rafforza l’idea che le decisioni siano di competenza umana. I Capi di Stato Maggiore Congiunti dichiarano che il giudizio del comandante è fondamentale in tutte le operazioni congiunte, un assioma che rimane fondamentale nelle attuali pubblicazioni dottrinali, come riportato sul portale ufficiale della dottrina e nella tabella gerarchica pubblicata il 25 marzo 2025 ( Joint Doctrine Library ; Joint Doctrine Hierarchy Chart ). La dottrina del comando di missione dell’esercito americano richiede un’iniziativa disciplinata secondo le intenzioni del comandante, il che è incompatibile con un’automazione opaca che aggira le intenzioni umane; tale dottrina affronta esplicitamente la trasformazione dei dati in informazioni per il processo decisionale e la necessità della comprensione da parte del comandante ( ADP 6-0 Mission Command ). Il Joint Concept for Operating in the Information Environment sottolinea che gli effetti informativi devono essere progettati, valutati e adattati dai comandanti per modellare percezioni e comportamenti, il che richiede meccanismi osservabili e testabili per interrompere o ignorare le raccomandazioni automatizzate quando non sono allineate con la progettazione operativa ( JCOIE ).

Le garanzie legali traducono la supervisione dalla dottrina alle regole. Il Manuale aggiornato del Diritto di Guerra del Dipartimento della Difesa sottolinea il dovere di presumere che persone e oggetti siano protetti in assenza di informazioni che stabiliscano un obiettivo militare, il che impone l’onere della verifica umana su qualsiasi bersaglio suggerito dal modello, in particolare quando i dati di addestramento o il contesto di inferenza del modello potrebbero essere incompleti o manipolati ( Manuale del Diritto di Guerra del Dipartimento della Difesa, giugno 2015, aggiornato a luglio 2023 ). Il Piano d’azione per la mitigazione e la risposta ai danni civili , pubblicato nell’agosto 2022 , integra l’apprendimento istituzionale e i controlli procedurali (valutazione pre-attacco, revisione post-attacco e cicli di feedback dei dati) nei processi di comando, fornendo un modello di governance per il targeting assistito dall’intelligenza artificiale e la valutazione dei danni in battaglia che impone la revisione umana nei momenti critici ( CHMR-AP ).

I controlli di sicurezza informatica adattati all’IA forniscono ai comandanti leve tecniche per far rispettare tali vincoli legali ed etici sotto pressione avversaria. Le linee guida congiunte della National Security Agency e della CISA sull’implementazione sicura dell’IA richiedono il rafforzamento delle interfacce amministrative, l’isolamento della gestione dei modelli dalle pipeline di dati, la limitazione dell’accesso alle componenti interne dei modelli e il monitoraggio di derive dei modelli e avvelenamento dei dati, il tutto per mantenere il controllo dell’operatore di fronte a manipolazioni dannose ( Deploying AI Systems Securely, aprile 2024 ). Le linee guida successive, pubblicate a maggio 2025, estendono i controlli alla sicurezza dei dati attraverso la raccolta, l’etichettatura, l’addestramento e l’inferenza, riconoscendo che il controllo dei flussi di dati di addestramento e operativi è fondamentale per preservare una supervisione umana significativa, poiché gli output dei modelli non possono essere considerati attendibili senza la provenienza verificabile e l’integrità degli input ( AI Data Security, 22 maggio 2025 ). Il manuale Joint Cyber ​​Defense Collaborative pubblicato nel gennaio 2025 fornisce alla comunità operativa uno standard per la categorizzazione degli incidenti, i percorsi di segnalazione e le procedure di collaborazione per gli incidenti informatici correlati all’intelligenza artificiale , garantendo che i comandanti possano attivare risposte interagenzia quando i sistemi rilevanti per l’autonomia mostrano segni di compromissione ( JCDC AI Cybersecurity Collaboration Playbook ; pagina delle risorse CISA ).

I framework di rischio esterni alla difesa forniscono la metodologia per una supervisione tracciabile e verificabile dell’IA generativa . Il National Institute of Standards and Technology ha formalizzato l’ AI Risk Management Framework 1.0 per strutturare le funzioni di governance, la mappatura, la misurazione e la gestione dei rischi, tutte assegnabili a specifici ruoli in una catena di comando e verificabili in tutte le operazioni ( NIST AI RMF 1.0 ; panoramica NIST AI RMF ). Nel luglio 2024 , il NIST ha pubblicato l’ AI 600-1 Generative AI Profile , che adatta il framework ai sistemi generativi specificando rischi quali allucinazione, iniezione immediata, disallineamento del modello e rischio di informazioni, ed enumera azioni come la registrazione delle tracce, i checkpoint human-in-the-loop e i modelli di generazione limitati che possono essere esplicitamente integrati nei flussi di lavoro di comando ( NIST AI 600-1 Generative AI Profile ). Per gli ambienti di difesa, nell’agosto 2025 , il responsabile delle informazioni del Dipartimento della Difesa ha pubblicato una guida personalizzata per la gestione del rischio di sicurezza informatica dell’IA che fa riferimento ai toolkit CDAO e organizza la selezione del controllo per i sistemi di IA in base al livello del ciclo di vita, consentendo ai comandanti e ai funzionari autorizzati di allineare l’accettazione del rischio della missione con misure di sicurezza tecniche verificabili ( DoD AI Cybersecurity Risk Management Tailoring Guide, 7 agosto 2025 ).

L’allineamento delle politiche alleate estende queste garanzie alle operazioni della coalizione. La NATO ha adottato principi per l’uso militare responsabile dell’IA – legalità, responsabilità e rendicontabilità, spiegabilità e tracciabilità, affidabilità, governabilità e mitigazione dei pregiudizi – che richiedono architetture che preservino la capacità di attribuire decisioni alle autorità umane e di disattivare o ignorare le funzioni di IA che minacciano gli obiettivi della missione o la conformità legale ( Principi NATO per l’uso responsabile dell’IA nella difesa ). La legge sull’intelligenza artificiale dell’Unione europea , codificata come regolamento (UE) 2024/1689 il 13 giugno 2024 , pur escludendo l’uso militare dal suo ambito di applicazione, codifica obblighi concreti di supervisione umana per l’intelligenza artificiale ad alto rischio che sono direttamente applicabili ai processi a duplice uso e all’industria della difesa: gli utilizzatori devono valutare e attuare misure di supervisione umana e garantire misure tecniche per facilitare l’interpretazione dei risultati, pratiche che possono essere rispecchiate nei contesti della difesa per preservare il primato umano ( testo ufficiale EUR-Lex 2024/1689 ; estratto PDF EUR-Lex che fa riferimento all’articolo 14 della supervisione umana ). La dichiarazione politica del Ministero della Difesa del Regno Unito “Ambitious, Safe, Responsible” e la sua strategia per l’intelligenza artificiale in difesa richiedono un approccio incentrato sull’uomo e descrivono esplicitamente i ruoli organizzativi – il Centro per l’intelligenza artificiale in difesa e l’ Unità per l’intelligenza artificiale e l’autonomia in difesa – che concentrano l’autorità politica e tecnica, in modo che la supervisione non sia diffusa tra le unità ma riconducibile a titolari responsabili designati ( Ambitious, Safe, Responsible, giugno 2022 ; Strategia per l’intelligenza artificiale in difesa ). La direttiva JSP 936 del Regno Unito sull’intelligenza artificiale affidabile nella difesa, emanata come direttiva Parte 1 nel novembre 2024 , rende operativi i principi etici con regole di attuazione per la supervisione di usi ad alto rischio come contesti di ricognizione e ordigni esplosivi, dove la politica richiede meccanismi di supervisione adeguati legati alla riduzione del rischio e all’affidabilità ( direttiva JSP 936 Parte 1 **— Intelligenza artificiale affidabile nella difesa ; pagina di pubblicazione JSP 936 ).

La governance delle acquisizioni a livello di governo complessivo impone ora espliciti limiti di controllo che i dipartimenti della Difesa possono adottare o replicare. Il memorandum M-25-21 dell’Office of Management and Budget introduce uno schema semplificato e lungimirante per la governance e l’utilizzo dell’IA nelle agenzie federali, preservando al contempo le garanzie per i diritti e la sicurezza, abrogando il memorandum M-24-10 e incaricando le agenzie di designare funzionari di IA responsabili e di monitorare i casi d’uso ad alto impatto; ciò crea ruoli verificabili che possono essere allineati con gli incarichi di comando per i programmi di Difesa ( OMB M-25-21, 3 aprile 2025 ; indice dei memorandum OMB ). In modo complementare, M-25-22 dirige le pratiche di acquisizione che evitano il lock-in del fornitore e richiedono la concorrenza, mantenendo al contempo un uso responsabile, il che rafforza la capacità di un comandante di richiedere contrattualmente funzionalità di override e audit piuttosto che affidarsi alla buona volontà del fornitore ( OMB M-25-22, 3 aprile 2025 ; scheda informativa della Casa Bianca che riassume acquisizione e utilizzo ). Questi strumenti di governance non sono dottrine di guerra, ma forniscono leve di approvvigionamento (clausole contrattuali per la tracciabilità, punti di controllo con intervento umano e controlli di disattivazione) che i comandanti possono richiedere nei requisiti di sistema e nei criteri di test, e che i funzionari autorizzati possono collegare alle decisioni sull’autorità di operare.

Le operazioni di coalizione impongono requisiti di interoperabilità in materia di supervisione. I principi della NATO puntano su spiegabilità e tracciabilità, che in pratica richiedono schemi di registrazione comuni, cronologie degli eventi condivise e interfacce di audit compatibili tra i sistemi alleati, in modo che un comandante di coalizione possa ricostruire il percorso decisionale umano quando i componenti dell’IA si estendono su sistemi nazionali. Laddove gli alleati implementino i Principi di IA dell’OCSE , aggiornati a maggio 2024 per affrontare l’IA generativa e di uso generale , i valori di trasparenza, responsabilità e progettazione incentrata sull’uomo convergono con l’etica militare e facilitano l’allineamento delle pratiche di supervisione oltre confine ( Panoramica dei Principi di IA dell’OCSE aggiornata a maggio 2024 ; Comunicato stampa dell’OCSE sugli aggiornamenti, 3 maggio 2024 ). Questi standard civili creano un vocabolario per le garanzie tra i fornitori della difesa e quelli civili che sviluppano capacità a duplice uso e garantiscono che le aspettative di supervisione siano comprensibili per i fornitori.

L’addestramento, le prove e l’apprendimento post-azione devono strumentare la supervisione umana, non darla per scontata. La politica di addestramento congiunto e il manuale delle lezioni apprese del Presidente dello Stato Maggiore Congiunto descrivono un processo di scoperta-validazione-risoluzione-valutazione progettato per reimmettere le lezioni operative in dottrina, organizzazione, addestramento, materiali, leadership, personale, strutture e politiche; tale ciclo può essere integrato con categorie di osservazione specifiche dell’IA – eccessiva dipendenza degli operatori, affaticamento da allerta, tolleranza ai falsi positivi e compiacimento dell’automazione – che i comandanti verificano nelle esercitazioni del red team ( CJCSI 3500.01K Politica di addestramento congiunto, novembre 2024 ; CJCSM 3150.25C Programma di lezioni apprese congiunte, 23 giugno 2023 ). Il piano di implementazione dell’intelligenza artificiale dei Marines statunitensi riconosce la dipendenza del successo dell’intelligenza artificiale dai dati, dalla fiducia zero e dalla conformità alla governance dell’OMB , esemplificando la traduzione a livello di servizio delle politiche in imperativi di formazione e dispiegamento per sostenere il controllo incentrato sull’uomo nei contesti di spedizione ( NAVMC 3000.1 Artificial Intelligence Implementation Plan, giugno 2025 ).

In condizioni elettromagnetiche contrastate e sotto attacco informatico, l’autorità umana richiede una degradazione graduale che rispetti per impostazione predefinita la sicurezza e la legalità. Le prescrizioni di NSA e CISA per la segmentazione dell’amministrazione del modello, l’applicazione di un’identità forte sui canali di controllo del modello e il monitoraggio degli attacchi avversari supportano la capacità di un comandante di mantenere o ripristinare le capacità senza causare guasti a cascata lungo la rete di protezione ( Deploying AI Systems Securely ). La guida congiunta “Closing the Software Understanding Gap” pubblicata da CISA , DARPA , OUSD(R&E) e NSA nel gennaio 2025 sostiene la trasparenza e l’analizzabilità del software come prerequisiti per la fiducia, che è direttamente rilevante per i sottosistemi di intelligenza artificiale generativa che un comandante deve essere in grado di caratterizzare e vincolare prima di concedere l’autorità operativa ( Closing the Software Understanding Gap, 16 gennaio 2025 ). Quando l’autorità di operare è subordinata alla comprensione dimostrabile del comportamento del sistema in caso di guasto, la supervisione non è più retorica, ma integrata nella base di certificazione.

Il diritto internazionale umanitario disciplina ulteriormente l’uso di comando dell’IA . Il sistema delle Nazioni Unite ha riconosciuto la necessità di mantenere il giudizio e il controllo umani sull’uso della forza nel contesto dell’IA militare , come si evince dal linguaggio dell’Assemblea Generale che invita a misure che preservino la decisione umana sulle applicazioni della forza con tecnologie di IA ( A/RES/79/239, 31 dicembre 2024 ). Il Comitato Internazionale della Croce Rossa ha aggiornato le osservazioni sollecitando norme che proibiscano armi autonome imprevedibili e richiedano livelli di controllo umano che consentano la comprensione, la spiegazione e la previsione degli effetti del sistema, argomentazioni che si traducono operativamente in requisiti di comando per la trasparenza negli stati modello e per modalità di autonomia limitata quando la discriminazione del bersaglio è incerta ( osservazione del CICR sui sistemi d’arma autonomi al Segretario Generale delle Nazioni Unite, 19 marzo 2024 ; analisi del CICR sui rischi e le inefficienze dell’IA nel supporto al targeting, 4 settembre 2024 ). I comandanti che istituzionalizzano soglie di incertezza per le raccomandazioni del modello e che richiedono un’identificazione positiva basata su informazioni convalidate dall’uomo soddisfano sia gli obblighi legali sia l’esigenza prudenziale di evitare una classificazione errata generata dall’avversario.

La supervisione umana non può essere efficace senza una responsabilità assegnabile. Dal punto di vista politico, il CJCSI 3100.01F sul sistema di pianificazione strategica congiunta stabilisce l’obbligo per il Presidente del Joint Chiefs of Staff di fornire strategia e valutazione del rischio, un livello in cui la delega delle autorità abilitate dall’IA deve essere visibile per garantire che il controllo dell’escalation rimanga ai decisori umani, in grado di integrare obiettivi politici e vincoli legali ( CJCSI 3100.01F, 29 gennaio 2024 ). Dal punto di vista degli acquisti, i memorandum dell’OMB ripristinano i diritti decisionali a funzionari responsabili che possono essere ispezionati e tenuti a rispettare gli standard per l’uso dell’IA ad alto impatto , e indirizzano la concorrenza e l’evitamento del lock-in, il che offre ai comandanti la possibilità di richiedere funzionalità di override umano e registri di audit portatili come attributi prestazionali non negoziabili ( M-25-21 ; M-25-22 ).

Un’architettura di supervisione difendibile per l’IA generativa in combattimento integra quindi quattro piani di controllo che si rafforzano reciprocamente, ancorati alla dottrina e agli standard ufficiali. In primo luogo, il piano legale vincola l’impiego alle decisioni umane attraverso presunzioni esplicite, standard di identificazione positivi e revisione post-azione, esemplificati dal Manuale del Diritto di Guerra del Dipartimento della Difesa e dal CHMR-AP ( Manuale del Diritto di Guerra ; CHMR-AP ). In secondo luogo, il piano politico fissa responsabilità e principi di progettazione in direttive e strategie vincolanti, tra cui la Direttiva 3000.09 del Dipartimento della Difesa e il Percorso di Strategia e Implementazione dell’IA Responsabile ( DoDD 3000.09 ; Materiali del Percorso RAI ). In terzo luogo, il piano tecnico impone la supervisione attraverso modelli di distribuzione sicuri, controlli di integrità dei dati e vincoli di gestione dei modelli, come articolato da NSA e CISA , e adattato dal CIO del Dipartimento della Difesa per la gestione del rischio dell’IA ( Distribuzione Sicura dei Sistemi di IA ; Sicurezza dei Dati dell’IA ; Guida alla Personalizzazione della Sicurezza Informatica dell’IA del CIO del Dipartimento della Difesa ). In quarto luogo, il piano di governance istituzionalizza la gestione del rischio inter-ciclo e la supervisione delle acquisizioni in linea con il NIST AI RMF e i memorandum OMB , che forniscono l’impalcatura per un controllo umano misurabile e verificabile sulle funzioni di intelligenza artificiale , dai requisiti alle operazioni e al mantenimento ( NIST AI RMF 1.0 ; NIST AI 600-1 Generative AI Profile ; M-25-21 ; M-25-22 ).

La convergenza di diritto, dottrina, sicurezza informatica e controllo delle acquisizioni consente ora ai comandanti di strutturare l’IA generativa come uno strumento supervisionato piuttosto che come un attore alla pari. Laddove l’autorizzazione a operare dipende da percorsi dimostrabili di override umano e dove le regole di impiego richiedono un’identificazione positiva supportata da informazioni convalidate dall’uomo, la probabilità di escalation indotta dall’automazione è ridotta. Laddove l’implementazione sicura isola i canali di controllo del modello e dove i manuali di intervento sugli incidenti integrano gli eventi informatici dell’IA nella risposta congiunta, i tentativi degli avversari di corrompere o confondere i modelli possono essere contenuti senza perdere l’autorità di missione. Laddove le politiche di acquisizione richiedono concorrenza ed esplicite funzionalità di supervisione umana, i comandanti possono rifiutare sistemi privi di interrompibilità, tracciabilità o verificabilità. Il risultato è una struttura di comando che incanala l’IA verso l’accelerazione del lavoro del personale e l’affinamento della comprensione della situazione, preservando al contempo i fondamenti etici e legali – la responsabilità umana per l’uso della forza e il primato del giudizio del comandante – che rendono il potere di combattimento governabile in condizioni di incertezza.

REPORT – AI Systems: Global Daily Impacts in 2025

Standard di integrità, provenienza e governance dei dati

Il valore operativo dell’IA generativa in combattimento crolla quando l’integrità dei dati è incerta, motivo per cui la comunità della difesa degli Stati Uniti ha trasformato la provenienza crittografica, l’attestazione della catena di fornitura e la governance del ciclo di vita da concetti ambiziosi a pratiche applicabili nel periodo 2024-2025 . Il National Institute of Standards and Technology ( NIST ) ha codificato le aspettative di provenienza per i sistemi generativi con il NIST AI 600-1 Generative AI Profile di giugno 2024 , che mappa i rischi di integrità come corpora di addestramento avvelenati, pesi dei modelli compromessi, prompt manomessi e artefatti di output falsificati in mitigazioni concrete tratte da cataloghi di controllo e linee guida per la catena di fornitura del software. Il profilo è progettato per essere integrato nel più ampio NIST AI 100-1 Risk Management Framework di gennaio 2023 , che richiede la tracciabilità delle trasformazioni dei dati e la verifica delle fonti come parte del pre-distribuzione e del monitoraggio continuo. Insieme, queste pubblicazioni stabiliscono una base per una discendenza di dati verificabile che le autorità sul campo di battaglia possono effettivamente verificare e testare, anziché limitarsi a presumere. ( nvlpubs.nist.gov )

L’integrità di input e output dipende da firme digitali robuste e registri antimanomissione, che gli Standard Federali per l’Elaborazione delle Informazioni incorporano nel modulo di mandato. Lo Standard di Firma Digitale FIPS 186-5 del 3 febbraio 2023 autorizza algoritmi tra cui RSA , ECDSA ed EdDSA per l’autenticazione e il non ripudio dei messaggi, consentendo ai comandanti di convalidare pacchetti di modelli, set di dati e prodotti di inferenza con chiavi ancorate all’hardware e di associare le firme agli identificatori di missione e alle sorgenti temporali. Nelle pipeline generative, ciò consente involucri crittografici attorno a feed di sensori grezzi, frammenti di addestramento curati, batch di fine-tuning, checkpoint quantizzati e prodotti downstream come riepiloghi di targeting o piani di navigazione autonomi. L’enfasi dello standard sulla convalida delle chiavi e sulla tempestività delle firme supporta scenari di trasferimento interdominio tipici delle operazioni di coalizione, in cui la provenienza deve sopravvivere alla redazione e alla conversione di formato senza perdere il collegamento verificabile con l’autorità di origine. ( nvlpubs.nist.gov , csrc.nist.gov )

La provenienza a livello di contenuto è progredita attraverso asserzioni multimediali interoperabili anziché filigrane ad hoc. Il World Wide Web Consortium ( W3C ) ha finalizzato la raccomandazione Verifiable Credentials Data Integrity con algoritmi normativi e suite di prova, documentati in W3C Data Integrity 1.0 il 15 maggio 2025. Tale specifica definisce come associare le prove crittografiche a dichiarazioni strutturate su origine, flusso di lavoro e diritti, che possono rappresentare chi ha catturato un’immagine, quale sensore è stato utilizzato e quali trasformazioni sono state applicate da un modello generativo. A complemento di ciò, la Coalition for Content Provenance and Authenticity ( C2PA ) ha pubblicato la specifica C2PA 2.2 il 1° maggio 2025 , che rende operative le credenziali di contenuto incorporate per immagini, audio e video. Le catene di immagini di difesa possono quindi spedire manifesti di provenienza firmati dalla raccolta all’inferenza fino alla distribuzione, preservando i percorsi di controllo crittografici anche dopo il ridimensionamento, la transcodifica o la didascalia. Nel gennaio 2025, la National Security Agency ( NSA ) e i suoi partner hanno esplicitamente raccomandato l’adozione di credenziali di contenuto per i media sintetici e manipolati, avvertendo che la sola filigrana non è sufficiente contro gli avversari che possono ricodificare o ritagliare i risultati; vedere la guida congiunta della NSA “Deploying AI Systems Securely” e gli allegati sulle credenziali di contenuto pubblicati sui canali CISA . ( Wikipedia , W3C , Dipartimento della Difesa degli Stati Uniti )

La provenienza dei dati di difesa richiede più che semplici firme sui file; richiede linee di assemblaggio software sicure che ne garantiscano la tracciabilità. Le linee guida del NIST per la supply chain delle pipeline DevSecOps, Pubblicazione Speciale 800-204D, febbraio 2024 , spiegano in dettaglio come integrare la firma degli artefatti, la verifica delle dipendenze e l’acquisizione delle prove nell’integrazione e distribuzione continue, in modo che ogni processo di addestramento del modello emetta attestazioni sulla revisione del codice, digest dei dataset, configurazioni degli iperparametri e hash ambientali. La pubblicazione collega questi controlli direttamente ai requisiti esecutivi per uno sviluppo sicuro e fornisce punti di integrazione concreti per framework di attestazione e policy gate, che le software factory militari possono applicare sia nelle reti di guarnigione connesse che nelle enclave tattiche disconnesse. La provenienza diventa quindi una proprietà prodotta automaticamente dalla pipeline anziché un esercizio di documentazione post-azione, colmando il divario tra gli artefatti di build e le immagini del modello sul campo. ( nvlpubs.nist.gov )

Le norme sulla governance dei dati nell’Unione Europea rafforzano queste pratiche con obblighi legali che riguardano specificamente la formazione, la convalida, i test, la registrazione e il monitoraggio post-commercializzazione per i sistemi ad alto rischio. Il Regolamento UE 2024/1689 sull’Intelligenza Artificiale, entrato in vigore il 12 luglio 2024, richiede la governance dei dati documentata, la provenienza dei set di dati, misure di rilevamento delle distorsioni e capacità di registrazione persistente durante l’intero ciclo di vita. I fornitori devono mantenere la documentazione tecnica e i registri in grado di supportare l’analisi degli incidenti e gli audit normativi e devono gestire sistemi di monitoraggio post-commercializzazione che raccolgano dati sulle prestazioni e sulla sicurezza una volta che i sistemi sono stati implementati. Per le forze armate che si approvvigionano da fornitori dell’UE o che collaborano con alleati dell’UE , questi obblighi forniscono una base per la documentazione dei set di dati, la registrazione degli eventi dei modelli e regimi di azioni correttive in linea con i requisiti del campo di battaglia per ricostruire le inferenze dopo interferenze cinetiche o elettroniche. ( eur-lex.europa.eu , artificialintelligenceact.eu )

Le normative sulla resilienza informatica nell’Unione Europea rafforzano la governance della supply chain del software per i componenti sfruttati da pipeline generative. La direttiva NIS 2 (Direttiva UE 2022/2555 , testo del 27 dicembre 2022) estende la gestione del rischio e la segnalazione degli incidenti in settori strategicamente importanti, mentre il Regolamento UE 2024/2847 ( Cyber ​​Resilience Act, testo del 6 agosto 2024) impone la gestione delle vulnerabilità, gli aggiornamenti di sicurezza e le valutazioni di conformità sui prodotti con elementi digitali. Questi requisiti spingono i fornitori a mantenere distinte base software e canali di aggiornamento a prova di manomissione, che si collegano direttamente alle dipendenze e alle librerie di runtime alla base dei modelli di base e dei relativi stack di inferenza. Trattando i runtime dei modelli come prodotti con elementi digitali, i responsabili delle acquisizioni possono richiedere SBOM verificabili e prove di conformità prima della messa in campo, riducendo così il rischio che dipendenze transitive compromesse compromettano i modelli di missione. ( eur-lex.europa.eu )

Gli Stati Uniti hanno elevato lo sviluppo sicuro e la provenienza dimostrabile alle politiche governative attraverso direttive e memorandum dell’Ufficio di Gestione e Bilancio della Casa Bianca . L’Ordine Esecutivo 14110 sullo sviluppo e l’uso sicuri, protetti e affidabili dell’IA, del 30 ottobre 2023, impone alle agenzie di adottare rigorosi test di sicurezza e garanzie della catena di fornitura per modelli e dati di IA . Il Memorandum M-25-21 dell’OMB , del 18 luglio 2025, impone ai dipartimenti di accelerare l’uso dell’IA con strutture di governance che includano registri dei rischi, protocolli di valutazione e meccanismi per tracciare le fonti dei dati di formazione e distribuzione. Il Memorandum M-25-22 dell’OMB , del 18 luglio 2025, allinea quindi il linguaggio degli appalti per richiedere ai fornitori prove concrete di pratiche di sviluppo, valutazione e gestione dei dati sicure. Per i programmi di difesa, questi memorandum possono essere sfruttati per richiedere attestazioni e artefatti come risultati contrattuali, rendendo la provenienza un punto di accesso all’acquisizione piuttosto che una best practice volontaria. ( Casa Bianca )

Identità, federazione e verificabilità sono alla base dell’accesso ai dati di training sensibili e ai prompt operativi, e il NIST ha finalizzato la revisione delle Linee Guida sull’Identità Digitale a luglio 2025 per fornire linee guida tecniche complete. La suite include la panoramica SP 800-63-4 ( luglio 2025) , SP 800-63A-4 Verifica dell’Identità e Registrazione (luglio 2025 ) , SP 800-63B-4 Autenticazione e Gestione degli Autenticatori (luglio 2025) e SP 800-63C-4 Federazione e Asserzioni (luglio 2025) . Queste pubblicazioni definiscono livelli di garanzia e requisiti tecnici per la verifica, l’autenticazione e la federazione dei token che possono essere mappati all’accesso basato sui ruoli per i cluster di training dei modelli e gli endpoint di inferenza. La garanzia dell’identità applicata riduce il rischio di estrazione o iniezione di dati non autorizzata durante la messa a punto e l’inferenza, mentre le asserzioni federate aiutano i partner della coalizione a verificare chi ha avuto accesso a quali set di dati e modelli e in quali momenti, oltre i confini di trust. ( nvlpubs.nist.gov , csrc.nist.gov )

I dati riservati che confluiscono in pipeline generative al di fuori dei canali classificati richiedono comunque rigorose misure di sicurezza. La norma SP 800-171 Revisione 3 Finale del NIST del 14 maggio 2024 e la relativa metodologia di valutazione SP 800-171A Revisione 3 2024 stabiliscono obiettivi di sicurezza obbligatori per i sistemi che gestiscono informazioni non classificate controllate e si collegano direttamente ai controlli della norma SP 800-53 Revisione 5 2020. I programmi che trattano corpora di formazione, feedback di apprendimento rinforzato o prompt operativi come CUI possono quindi applicare il controllo degli accessi, la crittografia, il monitoraggio continuo, la registrazione degli audit e la gestione del rischio della catena di fornitura con procedure riconosciute a livello federale. Ciò consente anche valutazioni integrate tra appaltatori e laboratori di coalizione, poiché i set di controllo e le procedure di test sono pubblici, stabili e ampiamente adottati. ( csrc.nist.gov , nvlpubs.nist.gov )

Le distinte base del software e le attestazioni di sfruttabilità si sono evolute in strumenti pratici per gli stack di modelli. La National Telecommunications and Information Administration (NATE) del Dipartimento del Commercio degli Stati Uniti ha definito gli Elementi Minimi per uno SBOM a luglio 2021 e da allora la CISA ha curato le risorse di implementazione, tra cui le FAQ sullo SBOM a giugno 2024 e le linee guida per la definizione a ottobre 2024, che spiegano le aspettative federali in merito al contenuto e all’utilizzo dello SBOM . Poiché i modelli di linguaggio e diffusione di grandi dimensioni dipendono da complesse catene di runtime, questi inventari consentono ai difensori di tracciare le librerie transitive vulnerabili in tokenizzatori, scheduler, server di inferenza e driver. In abbinamento allo standard Vulnerability Exploitability eXchange , per il quale la CISA ha pubblicato i Requisiti Minimi per VEX ad aprile 2023 e i Casi d’Uso ad aprile 2022 , gli operatori possono ricevere asserzioni leggibili dalle macchine che indicano se un determinato CVE è applicabile o meno all’interno di una specifica distribuzione del modello. Questi strumenti riducono il rumore di fondo delle patch e supportano la correzione basata sul rischio all’interno di finestre operative ristrette. ( oecd.ai , cisa.gov )

Le operazioni della coalizione necessitano di una governance che attraversi i quadri nazionali senza diluire gli standard. La NATO ha istituzionalizzato la governance dell’IA e lo sfruttamento dei dati come priorità aziendali, con commissioni e strategie formali. Il NATO Data and Artificial Intelligence Review Board è stato istituito per supervisionare l’uso responsabile e certificare le pratiche, come riportato nei testi ufficiali dell’ottobre 2022 e nelle attività successive per sviluppare standard di certificazione di facile utilizzo, mentre il Data Exploitation Framework e la Data Strategy for the Alliance del maggio 2025 delineano regole comuni per la qualità dei dati, l’interoperabilità e la gestione del ciclo di vita. Questa architettura offre alle task force multinazionali un approccio coerente alla provenienza e alla verificabilità quando l’addestramento del modello incorpora dati alleati o quando i prodotti di inferenza devono essere affidabili tra i comandi. ( nato.int )

La provenienza dei contenuti deve estendersi all’acquisizione di tentativi di manipolazione avversaria e input corrotti, motivo per cui la pubblicazione AI Data Security della NSA del 22 maggio 2025 si concentra sulla protezione di set di dati e artefatti modello contro furto, manomissione ed esfiltrazione. Il documento prescrive controlli per ambienti di dati segregati, crittografia a riposo e in transito e una rigorosa gestione delle chiavi durante lo spostamento dei dati tra enclave, tutti elementi che rafforzano i requisiti della catena di custodia e prevengono interruzioni della provenienza durante la raccolta, la conservazione e l’implementazione. Insieme al documento ” Deploying AI Systems Securely ” di NSA e CISA del 29 aprile 2024 e al “CISA Joint Cyber ​​Defense Collaborative AI Playbook” di gennaio 2025 , questi materiali definiscono modelli interagenzia per l’autenticazione, l’autorizzazione e il monitoraggio continuo applicati specificamente alle implementazioni di intelligenza artificiale . ( Dipartimento della Difesa degli Stati Uniti , cisa.gov )

La registrazione e la tenuta dei registri verificabili collegano la provenienza alla responsabilità, e il regime dell’UE specifica aspettative minime per la durata di vita dei sistemi ad alto rischio. L’articolo 10 dell’EU AI Act richiede l’origine documentata dei dati di addestramento, convalida e test e misure esplicite di governance dei dati, inclusi processi di raccolta e controlli di qualità. L’articolo 12 impone la registrazione degli eventi per l’intera durata di vita del sistema, sufficiente a ricostruire le operazioni e supportare l’analisi post-incidente e le azioni correttive. I fornitori devono inoltre eseguire il monitoraggio post-commercializzazione ai sensi dell’articolo 72 , raccogliendo dati sulle prestazioni per rilevare derive, rischi emergenti o non conformità. I ​​programmi di difesa possono importare direttamente queste pratiche per creare registri immutabili e in sequenza temporale per gli aggiornamenti dei modelli, le iniezioni rapide rilevate e le sostituzioni applicate da operatori umani, garantendo che la provenienza non sia solo registrata, ma anche interrogabile per la revisione operativa. ( eur-lex.europa.eu , artificialintelligenceact.eu )

L’integrità dei dati dipende anche da politiche di classificazione, minimizzazione e conservazione disciplinate per ridurre la superficie di attacco. Il framework SP 800-171 del NIST fissa il trattamento dei dati non classificati ma sensibili utilizzati nella formazione, mentre la revisione 5 dello standard SP 800-53 del NIST fornisce famiglie di strumenti per audit e rendicontazione, gestione della configurazione e gestione del rischio della supply chain che possono essere adattate alle pipeline dei modelli. L’applicazione del privilegio minimo ai corpora di formazione, al feedback di red-teaming e ai log di inferenza previene la contaminazione incrociata tra canali di raccolta e reti operative. I log persistenti devono essere crittograficamente sigillati e dotati di timestamp con l’infrastruttura sotto controllo delle modifiche, garantendo che la ricostruzione di una decisione sul modello dopo un attacco contestato non si basi su database modificabili o cache effimere. ( nvlpubs.nist.gov )

L’interoperabilità con gli standard civili accelera l’adozione consentendo al contempo una verifica indipendente. L’ Organizzazione Internazionale per la Standardizzazione e la Commissione Elettrotecnica Internazionale hanno pubblicato la panoramica del Sistema di Gestione dell’IA ISO/IEC 42001:2023 2024 , che fornisce alle organizzazioni un quadro certificabile per la governance, la documentazione di ruoli, processi e il miglioramento continuo lungo l’intero ciclo di vita dell’IA . L’allineamento delle procedure di programma a questo standard consente audit di terze parti sulle pratiche di governance e provenienza dei dati, integrando i requisiti NIST e UE e semplificando la garanzia dei fornitori lungo le catene di fornitura transatlantiche. Laddove i modelli siano implementati su infrastrutture critiche, la Cybersecurity and Infrastructure Security Agency fornisce set di controlli prioritari attraverso i suoi materiali Cross-Sector Cybersecurity Performance Goals di marzo 2023 e marzo 2024 , che gli operatori della difesa possono mappare su servizi di inferenza e flussi di dati per aumentare la resilienza in assenza di prescrizioni specifiche per settore. ( iso.org , cisa.gov )

Un regime di provenienza applicabile sul campo deve tenere conto del degrado delle comunicazioni e delle condizioni avverse. Le credenziali di contenuto basate su progettazioni W3C e C2PA possono essere incorporate al momento della raccolta utilizzando chiavi di firma emesse dalle autorità di unità e archiviate in moduli a prova di manomissione. Quando la connettività è intermittente, la verifica può procedere localmente rispetto ai trust anchor memorizzati nella cache e quindi riconciliarsi con gli archivi di fiducia della coalizione al ripristino dei collegamenti, preservando la capacità di autenticare immagini e altri artefatti prodotti o forniti ai modelli generativi. Le linee guida sulla sicurezza dei dati della NSA sottolineano l’importanza di isolare gli ambienti di addestramento e di messa a punto, applicando rigorose procedure di importazione per i supporti di trasferimento e convalidando che tutti i dati esterni incorporati nei modelli di missione abbiano una catena di provenienza verificabile con associazioni crittografiche intatte. ( Wikipedia , W3C , Dipartimento della Difesa degli Stati Uniti )

La governance richiede discipline di misurazione e cicli di feedback sugli incidenti, in modo che i controlli di provenienza e integrità si evolvano con le condizioni di minaccia. L’ OCSE ha sottolineato i principi di gestione del rischio e trasparenza per un’IA affidabile , che le organizzazioni di difesa possono tradurre in indicatori chiave di prestazione come la percentuale di token di addestramento con origine autenticata, il tasso di credenziali di contenuto verificate con successo nei feed operativi e la possibilità di revocare i trust anchor dopo una compromissione. Le linee guida pubbliche dell’Osservatorio delle politiche sull’IA dell’OCSE consolidano questi principi e la loro applicazione e possono ispirare il linguaggio degli appalti che collega le tappe di pagamento alle prove di provenienza fornite piuttosto che agli elenchi di funzionalità. ( esd.whs.mil )

La legittimità del ciclo decisionale in combattimento dipende sempre più dalla capacità di produrre catene di prove verificabili dopo scontri contestati. La legislazione dell’UE richiederà registrazioni dettagliate e governance dei dati per i sistemi ad alto rischio entro agosto 2026 , in base alla tempistica dell’AI Act , e i memorandum dell’OMB del luglio 2025 spingono i programmi federali statunitensi verso artefatti di governance standardizzati, mentre la NATO ha creato organismi aziendali e strategie per gestire un’IA responsabile . La direzione di marcia sovrapposta è chiara tra giurisdizioni e alleanze: la provenienza deve essere crittografata, i registri devono essere durevoli e completi, le attestazioni della catena di fornitura devono essere leggibili dalle macchine e i controlli di identità devono essere solidi e federati. I documenti istituzionali linkati sopra forniscono l’impalcatura implementabile per soddisfare tali condizioni nei sistemi generativi dispiegati in condizioni di guerra. ( eur-lex.europa.eu , The White House , nato.int )

L’ultimo miglio della difesa dell’integrità è l’aggiornamento disciplinato e la gestione delle vulnerabilità per il software che trasporta i modelli dall’addestramento all’inferenza. Il programma Secure by Design di CISA e le pubblicazioni correlate incoraggiano i produttori a utilizzare per impostazione predefinita linguaggi memory-safe, ridurre al minimo la superficie di attacco predefinita e fornire una telemetria che supporti l’analisi forense operativa. Queste aspettative sono in linea con la provenienza perché garantiscono che artefatti e log vengano generati come parte del normale funzionamento, non come aggiunte. Gli aggiornamenti di CISA nel 2023-2025 e i report di adozione di gennaio 2025 mostrano una crescente istituzionalizzazione di queste pratiche, che l’acquisizione di difesa può incorporare come linguaggio standard insieme ai risultati SBOM e VEX , in modo che i sistemi generativi siano dotati di lignaggio verificabile e monitoraggio continuo dell’integrità integrato. ( cisa.gov )

I comandanti sul campo e i responsabili di programma possono implementare l’ecosistema degli standard in una progressione concreta. In primo luogo, richiedere SBOM più VEX per ogni runtime e dipendenza del modello sottoposto per l’autorizzazione a operare, facendo riferimento agli elementi minimi NTIA e alle linee guida CISA . In secondo luogo, applicare attestazioni di pipeline allineate al NIST SP 800-204D , assicurando che i processi di formazione e messa a punto emettano metadati firmati su codice, dati, parametri e ambiente. In terzo luogo, associare identità e accesso utilizzando la suite NIST SP 800-63 a livelli di garanzia appropriati alla sensibilità della missione, consentendo l’accesso federato tra alleati con log di audit durevoli. In quarto luogo, incorporare le credenziali dei contenuti utilizzando i manifest W3C Data Integrity e C2PA per tutte le immagini e i contenuti multimediali che potrebbero entrare o uscire dai flussi di lavoro generativi. In quinto luogo, allineare l’approvvigionamento e la conformità alle disposizioni sulla governance dei dati e la registrazione dell’EU AI Act in caso di interoperabilità con i sistemi UE e applicare gli obblighi del NIS 2 e del Cyber ​​Resilience Act ai fornitori di elementi digitali che ospitano o supportano le distribuzioni dei modelli. Sesto, applicare il rafforzamento operativo NSA e CISA per le implementazioni di intelligenza artificiale e gli ambienti dati, in particolare laddove le condizioni tattiche rendono fragile la fiducia nella rete e gli avversari tentano di corrompere i flussi di input. Eseguiti insieme, questi passaggi producono un thread verificabile dall’acquisizione alla decisione che un avversario non può interrompere silenziosamente. ( oecd.ai , cisa.gov , nvlpubs.nist.gov , Wikipedia , eur-lex.europa.eu )

Progettare una governance che resista all’inganno in tempo di guerra significa anche calibrare le aspettative su ciò che la provenienza non può garantire. NSA e CISA avvertono entrambe che la provenienza è una condizione necessaria ma non sufficiente per la verità, poiché l’inganno può verificarsi alla fonte prima che venga applicata qualsiasi firma, motivo per cui il controllo incrociato con la raccolta indipendente, i test avversari e il rilevamento delle anomalie rimane essenziale. Il profilo generativo del NIST incorpora la valutazione e il monitoraggio continui delle prestazioni come compiti normativi, e il monitoraggio post-commercializzazione dell’UE codifica obblighi simili. Una governance che abbina la provenienza crittografica alla valutazione continua e alla corroborazione indipendente è quindi l’unico standard difendibile in ambienti contesi, e i documenti istituzionali di NIST , NSA , CISA , UE e NATO forniscono i progetti interoperabili per raggiungerlo. ( nvlpubs.nist.gov , Dipartimento della Difesa degli Stati Uniti , artificialintelligenceact.eu )

Capitolo 6 — Trattati internazionali, istituzioni multilaterali e quadri normativi

I requisiti di interoperabilità dell’Alleanza per l’IA militare sono già coerenti con i principi della NATO, che assegnano la responsabilità ultima ai comandanti umani, richiedono tracciabilità e testabilità prima dell’impiego. La base di riferimento formale è il “Summary of the NATO Artificial Intelligence Strategy ” ( 22 ottobre 2021 ) , che integra i “Principi di utilizzo responsabile” nell’adozione della difesa e li collega ai percorsi di approvvigionamento e certificazione in tutta l’Alleanza. Leve di governance complementari sono ora visibili nella politica sui dati degli Alleati: la “Strategia sui dati per l’Alleanza” del Comando Alleato per la Trasformazione della NATO ( 23 luglio 2024 ) definisce la condivisione dei dati della coalizione, e il “ Data Exploitation Framework: Turning Data into Advantage” ( 24 ottobre 2024 ) articola i controlli del ciclo di vita (raccolta, etichettatura, garanzia della qualità, controlli di accesso) che i sistemi di IA militari devono soddisfare per essere utilizzabili in operazioni combinate. In pratica, questi documenti convertono l’etica astratta in criteri di controllo: senza una provenienza dei dati verificabile, un controllo della configurazione e prove di valutazione personalizzate per la missione, i servizi di intelligenza artificiale non possono soddisfare l’accreditamento della missione per le reti dell’alleanza o superare le revisioni di prontezza dei test operativi. ( nato.int )

La regolamentazione civile in materia di IA a livello unionale nell’Unione Europea entra ora in vigore con esplicite eccezioni per la difesa. Il Regolamento ( UE ) 2024/1689 ( Artificial Intelligence Act ) esclude i ” sistemi di IA sviluppati o utilizzati esclusivamente per scopi militari” e stabilisce date di applicazione scaglionate: divieti dal 2 febbraio 2025 , armonizzazione delle sanzioni dal 2 agosto 2025 e applicazione generale dal 2 agosto 2026 , con applicazione coordinata tramite l’ Ufficio IA dell’UE . L’articolo 2 , paragrafo 3, codifica l’esenzione militare; le date operative e i ruoli istituzionali sono riportati nelle sezioni “Date di applicazione” e “Ufficio IA ” di EUR-Lex . Il testo ufficiale è consolidato in EUR-Lex “Regolamento ( UE ) 2024/1689 “ e la pagina dell’atto di base su EUR-Lex ” Artificial Intelligence Act ( 2024/1689 )” specifica le tempistiche di esclusione e applicazione. Per i ministeri della difesa, la conclusione operativa è duplice: rigidi divieti civili (ad esempio, alcuni sistemi biometrici o manipolativi) vincolano ancora gli schieramenti a duplice uso nelle guarnigioni o nel supporto alla patria, mentre i sistemi di combattimento di spedizione rimangono disciplinati dal diritto internazionale umanitario e dai regimi nazionali di revisione delle armi piuttosto che dalla legge civile dell’UE . ( eur-lex.europa.eu )

Un secondo strumento paneuropeo, la Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto, è entrato a far parte della serie di trattati come CETS n. 225 a Vilnius il 5 settembre 2024, con un ambito di applicazione globale incentrato sui diritti umani. Il testo afferma espressamente che “le questioni relative alla difesa nazionale non rientrano nell’ambito di applicazione” e che le attività di sicurezza nazionale non devono essere coperte, pur richiedendo la coerenza con il diritto internazionale applicabile e le garanzie costituzionali nazionali. L’articolo 3 , paragrafi 2 e 4, stabilisce le esclusioni in materia di sicurezza e difesa nazionale; l’articolo 26 impone meccanismi di supervisione indipendenti per le attività coperte. Il testo ufficiale del trattato è disponibile come Consiglio d’Europa ” CETS 225 (Vilnius, 5 settembre 2024 )” . Per le forze che operano a fianco delle agenzie civili – ad esempio il supporto alla difesa informatica per la sicurezza elettorale – gli obblighi di trasparenza e rimedio previsti dalla convenzione influenzano indirettamente il modo in cui le funzioni di intelligenza artificiale militare interagiscono con le istituzioni nazionali, anche quando gli impieghi di combattimento fondamentali esulano dallo strumento.

Aspettative normative universali cristallizzate alle Nazioni Unite attraverso la risoluzione dell’Assemblea Generale A/RES/78/265 sull’IA sicura, protetta e affidabile , adottata il 21 marzo 2024 , che invita gli Stati membri e le parti interessate a promuovere la gestione del rischio, la trasparenza e le misure di salvaguardia per gli usi ad alto rischio. Sebbene non sia un trattato, il testo della risoluzione sulla valutazione della sicurezza, la condivisione delle informazioni sugli incidenti e la cooperazione internazionale responsabile appare ora letteralmente o per parafrasi in numerosi documenti guida nazionali e comunicati dei vertici. I testi autorevoli sono il record della Biblioteca Digitale delle Nazioni Unite per la risoluzione A/RES/78/265 e la bozza adottata presso l’ONU ” A/78/L.49 “ . Le forze armate che pianificano l’impiego di coalizioni di IA si trovano ad affrontare un vettore di conformità che va oltre il diritto umanitario: i partner di approvvigionamento e dell’industria si vincolano sempre più a questo testo delle Nazioni Unite attraverso contratti, programmi di garanzia e screening delle esportazioni, integrando le aspettative della risoluzione A/RES/78/265 nella due diligence tecnica. ( Portale , digitallibrary.un.org )

Le attuali discussioni sul controllo degli armamenti si concentrano sull’autonomia nell’uso della forza, dove i modelli generativi possono influenzare il targeting o la sequenza delle missioni. Nell’ambito della Convenzione su alcune armi convenzionali ( CCW ), il Gruppo di esperti governativi sulle armi autonome letali continua a presentare proposte di testo e documenti di posizione nazionali. Le osservazioni ufficiali presentate nel 2025 dimostrano attenzione al controllo umano significativo, alla prevedibilità e alla responsabilità del sistema lungo tutto il ciclo di vita; alcuni esempi includono documenti di lavoro nazionali e raccolte gestite dall’Ufficio delle Nazioni Unite per gli affari del disarmo . I documenti principali includono il documento ” CCW GGE 2017-presente (documenti e rapporti)” dell’UNODA e specifiche osservazioni del 2025 come ” CCW/GGE.1/2025/WP.2 “ . Per l’IA generativa , la conseguenza saliente è che la dottrina alleata deve preservare il giudizio umano verificabile nelle catene di impiego delle armi e dimostrare il rispetto dei vincoli attraverso prove concrete, non semplicemente affermazioni politiche, se vuole sopravvivere al controllo internazionale e alla revisione nazionale. ( Biblioteca dei Documenti UNODA )

Le posizioni del Comitato Internazionale della Croce Rossa dal 2019 in poi, ribadite nelle dichiarazioni del 2025 alla CCW , delineano un test di conformità al diritto dei conflitti armati in cui l’autonomia non può sostituire il giudizio umano sensibile al contesto, in particolare per quanto riguarda distinzione e proporzionalità. Le linee guida consolidate del CICR enfatizzano le revisioni legali e i controlli del rischio che tengono conto dell’imprevedibilità, della deriva dei modelli e dei difetti dei dati. Tra i materiali autorevoli figurano “A Guide to the Legal Review of New Weapons, Means and Methods of Warfare” del CICR ( 2006 , ultima edizione pubblica) e risorse di esperti più recenti come “Summary of Information Exchange on Weapons Reviews” dell’UNODA ( 17 settembre 2020 ) , che incorporano i contributi del CICR . Anche laddove la politica nazionale si ferma prima di introdurre nuovi divieti nei trattati, queste fonti plasmano le aspettative in termini di prove di prevedibilità, governance dei dati e controlli human-on-the-loop quando i sistemi di intelligenza artificiale influenzano l’uso della forza.

Le dichiarazioni politiche globali dei vertici sulla sicurezza dell’IA aggiungono un livello di soft law che, pur non essendo vincolante, influenza ora la progettazione dei benchmark e la condivisione delle informazioni a livello transfrontaliero. La Dichiarazione di Bletchley, pubblicata il 2 novembre 2023 e aggiornata sulla pagina ufficiale a febbraio 2025, stabilisce una base per il riconoscimento del rischio di IA di frontiera e la valutazione cooperativa, come riportato nel documento del governo britannico “The Bletchley Declaration by Countries Attending the AI ​​Safety Summit, November 1–2, 2023 “ . La Dichiarazione di Seul del 21 maggio 2024 e la sua allegata Dichiarazione d’intenti sulla scienza della sicurezza collegano governi e istituti di IA a metodi di valutazione riproducibili e strumenti di reporting modello; Tra i testi autorevoli figurano la “Dichiarazione di Seul per un’IA sicura, innovativa e inclusiva ” del Ministero degli Affari Esteri giapponese ( 21 maggio 2024 ) (PDF) e la dichiarazione ministeriale del governo del Regno Unito “Dichiarazione ministeriale di Seul per promuovere la sicurezza, l’innovazione e l’inclusività dell’IA ” ( 22 maggio 2024 ) . Per l’impiego dell’IA nel settore della difesa , questi documenti forniscono un vocabolario e aspettative pratiche – casi di sicurezza, trasparenza del red-team, scambio di informazioni sugli incidenti – che i contratti di appalto possono incorporare senza attendere trattati formali.

La standardizzazione offre controlli verificabili che i comandanti e le autorità di acquisizione possono applicare. Lo standard del sistema di gestione ISO/IEC 42001:2023 codifica un sistema di governance dell’IA con policy, ruoli, competenze, trattamento del rischio e requisiti di gestione dei fornitori; è integrato dalle linee guida sulla gestione del rischio ISO/IEC 23894:2023 . Negli Stati Uniti , l’approccio incentrato sulla misurazione del National Institute of Standards and Technology colloca la gestione del rischio in artefatti utilizzabili da uffici di programma e agenzie di test: NIST ” AI Risk Management Framework ( AI RMF 1.0 )” ( 2023 ) e il profilo generativo indipendente dal settore NIST AI 600-1 “Generative AI Profile” ( 26 luglio 2024 , PDF) definiscono la governance, mappano, misurano e gestiscono le funzioni ed enumerano azioni concrete contro specifiche errate, autonomia non sicura, abusi e rischi per l’integrità delle informazioni. Per la robustezza avversaria, la tassonomia contenuta nel documento NIST AI 100-2e2025 “Adversarial Machine Learning: A Taxonomy and Terminology” ( aprile 2025 ) fornisce un lessico condiviso per la stesura di piani di test interoperabili tra laboratori alleati. Le organizzazioni della Difesa possono allineare gli audit dei fornitori alla norma ISO/IEC 42001 , utilizzare i profili NIST per definire i risultati e quindi dimostrare la conformità attraverso valutazioni misurabili anziché affermazioni narrative.

I controlli sulle esportazioni influenzano sempre di più la disponibilità di risorse di calcolo, componenti e persino artefatti di modelli che altrimenti consentirebbero l’IA generativa militarizzata su larga scala. Negli Stati Uniti , il Bureau of Industry and Security ha implementato e poi perfezionato i controlli sui circuiti integrati di elaborazione avanzata e sugli usi finali del supercomputing nel 2023-2024 , con le norme operative descritte nel Federal Register “Export Controls on Semiconductor Manufacturing Items; Implementation of Additional Export Controls: Certain Advanced Computing Items” ( 25 ottobre 2023 ) e nei comunicati chiarificatori del BIS “Commerce Releases Clarifications…” ( 4 aprile 2024 ) . Le comunicazioni politiche di maggio 2025 affrontano anche le condizioni in base alle quali i pesi dei modelli di IA possono essere considerati dati tecnici soggetti a controllo delle esportazioni; si veda la nota ufficiale del Dipartimento del Commercio ” BIS Posts SCCG Materials and Guidance Documents” ( 13 maggio 2025 ) , che include la ” AI Model Weights Policy Statement”. In pratica, queste misure obbligano i fornitori di difesa a mantenere controlli di custodia e autorizzazioni all’esportazione per i modelli ad alta capacità e a verificare lo stato giurisdizionale delle risorse cloud e dei partner di ricerca collaborativa. ( OCSE )

Regimi paralleli al di fuori degli Stati Uniti vincolano gli input e i sottosistemi a duplice uso. Il regolamento rifuso dell’Unione europea sui prodotti a duplice uso, il regolamento ( UE ) 2021/821 , stabilisce le licenze per le esportazioni, l’intermediazione, l’assistenza tecnica, il transito e il trasferimento intra- UE di prodotti sensibili, aggiornato periodicamente tramite l’allegato I per riflettere le modifiche multilaterali all’elenco di controllo. L’ aggiornamento del 2024 , adottato il 5 settembre 2024 e pubblicato il 7 novembre 2024 , ha allineato i calendari dell’UE alle recenti decisioni dell’Intesa di Wassenaar , dell’MTCR , del Gruppo Australia e dell’NSG ; vedere la comunicazione della Commissione europea ” Aggiornamento 2024 dell’elenco di controllo UE dei prodotti a duplice uso ( 1° ottobre 2024 ) ” e il testo giuridico consolidato nella versione consolidata EUR-Lex dell’8 novembre 2024 . Per l’intelligenza artificiale generativa rilevante per il combattimento , gli effetti più immediati riguardano acceleratori specializzati, moduli di elaborazione sicuri, reti di fascia alta, crittografia e determinati carichi utili dei sensori, ovvero precisamente i componenti che determinano la capacità di inferenza e la resilienza in ambienti elettromagnetici contesi.

I regimi di controllo multilaterali sottostanti continuano ad evolvere i propri elenchi in modi che si intersecano con l’abilitazione informatica offensiva, le comunicazioni sicure e le piattaforme autonome. L’ Intesa di Wassenaar pubblica l’ “Elenco dei beni, tecnologie e munizioni a duplice uso ( consolidato nel 2024 )**” (PDF) e gestisce un portale di elenchi di controllo con aggiornamenti, inclusi controlli software di lunga data relativi agli strumenti di intrusione che possono essere abbinati al targeting basato sull’intelligenza artificiale . Il Regime di Controllo della Tecnologia Missilistica pubblica le Linee Guida MTCR e l’Allegato , che definiscono la logica di controllo per i sistemi di lancio, un vincolo sempre più rilevante quando si abbinano sistemi senza pilota a lungo raggio con modelli generativi di bordo per la navigazione o l’inganno. L’ Australia Group ospita Elenchi di Controllo Comuni accessibili al pubblico , che modellano i flussi biotecnologici che potrebbero essere amplificati dagli strumenti di progettazione dell’intelligenza artificiale ; le dichiarazioni dell’anniversario del 2025 riaffermano il ruolo di riferimento degli elenchi. Questi strumenti non regolano i modelli in sé, ma limitano materialmente il movimento dei sottosistemi abilitanti e degli artefatti di conoscenza, limitando così la capacità degli avversari di rendere operativa l’IA generativa su larga scala.

Gli obblighi nazionali di revisione delle armi rimangono la porta d’accesso giuridica vincolante per l’IA in combattimento. Il Protocollo Aggiuntivo I alle Convenzioni di Ginevra impone agli Stati di determinare, nello “studio, sviluppo, acquisizione o adozione” di una nuova arma, se il suo impiego sarebbe proibito in alcune o in tutte le circostanze. La guida pratica più nota è il manuale del CICR “Guida alla revisione legale di nuove armi, mezzi e metodi di guerra” ( 2006 ) , e la sintesi delle prassi statali dell’UNODA evidenzia le strutture di revisione multidisciplinari e l’importanza dei dati dei test operativi per le valutazioni legali. Laddove la prassi nazionale sia codificata, come nella dottrina degli Stati Uniti , la revisione legale del sistema d’arma deve incorporare prove tecniche di affidabilità, prevedibilità e controllabilità negli ambienti previsti, criteri che gli sviluppatori di IA generativa soddisfano attraverso valutazioni basate su scenari, registrazioni di red-teaming e meccanismi di monitoraggio post-dispiegamento.

Il Dipartimento della Difesa degli Stati Uniti stabilisce ulteriori vincoli vincolanti per l’autonomia e l’IA . La Direttiva DoD 3000.09 ( 25 gennaio 2023 ) regola l'”Autonomia nei Sistemi d’Arma”, assegnando ruoli alle autorità di collaudo, al Consulente Generale e al Chief Digital and AI Office per garantire il rispetto dei principi etici e per far rispettare i test realistici per la missione prima dell’impiego. La direttiva ufficiale è pubblicata su DoD ESD “DoDD 3000.09 Autonomia nei Sistemi d’Arma” e il portale delle direttive conferma lo stato attuale su ESD “Direttive DoD – DoDD 3000.09 “ . La governance a livello di programma è ancorata alla Strategia e al Percorso di Implementazione dell’Intelligenza Artificiale Responsabile ( giugno 2022 ), incorporata per riferimento nelle successive pubblicazioni e accessibile tramite gli host ufficiali del DoD . Questi strumenti traducono gli obblighi previsti dal trattato in artefatti ingegneristici: rischi di sistema documentati, mitigazioni riconducibili ai risultati dei test e integrazione uomo-sistema che garantisce ai comandanti di mantenere un giudizio sensibile ai vincoli.

Nel contesto dell’Alleanza, questi strumenti nazionali e multilaterali interagiscono anziché scontrarsi. I principi di uso responsabile e la dottrina dei dati della NATO forniscono l’interfaccia a livello di coalizione; le revisioni nazionali dell’Articolo 36 garantiscono la sufficienza giuridica; e i regimi di esportazione controllano il flusso di facilitatori che determinano se modelli, dati e acceleratori possono essere condivisi. La Convenzione del Consiglio d’Europa stabilisce i principi di base in materia di diritti umani per l’IA del settore pubblico rivolta ai civili , inclusa la trasparenza per i contenuti generati dall’IA , che regola indirettamente le operazioni di supporto interno; l’ esclusione per la difesa prevista dall’EU AI Act rimuove un livello di potenziale conflitto, ma lascia il duplice uso e il supporto alla patria soggetti al diritto civile. La risoluzione ONU A/RES/78/265 fornisce un vocabolario condiviso per la valutazione della sicurezza e la rendicontazione dei rischi che i team di approvvigionamento ora inseriscono nei contratti con i fornitori transfrontalieri e nei memorandum d’intesa. Questi non sono livelli ridondanti; suddividono le responsabilità in modo che il diritto internazionale umanitario governi la letalità, il diritto dei diritti umani limiti gli effetti del dispiegamento interno e i controlli commerciali gestiscano la base materiale. ( nato.int , eur-lex.europa.eu , Portale )

Nello specifico, per l’IA generativa , la governance si basa su dati verificabili, valutazioni ripetibili e custodia di artefatti sensibili. La dottrina dei dati della NATO obbliga le forze armate a trattare dati e metadati come risorse operative con controlli di provenienza e qualità; la norma ISO/IEC 42001 fornisce un sistema di gestione certificabile per istituzionalizzare tali controlli; il profilo generativo del NIST elenca azioni specifiche per il rischio – salvaguardie contro specifiche errate e autonomia non sicura – che possono essere integrate nelle milestone di acquisizione. Lo screening delle esportazioni sovrappone le regole di custodia per pesi, set di messa a punto e corpora di test che contengono informazioni tecniche controllate o potrebbero plausibilmente replicare capacità controllate; le note politiche del BIS e le licenze UE devono essere risolte prima della collaborazione transfrontaliera. I comandanti della coalizione ottengono quindi un percorso di conformità: richiedono ai fornitori di presentare prove di conformità alla norma ISO/IEC 42001 , mappature di allineamento NIST AI RMF / AI 600-1 ai rischi della missione e determinazioni sul controllo delle esportazioni insieme alle revisioni legali dell’Articolo 36 ; collegare l’accreditamento della missione alla presenza e alla qualità di tali artefatti. ( nato.int )

La coerenza tra i teatri operativi dipende dalla terminologia condivisa e dalle aspettative di robustezza avversaria. La tassonomia del machine learning avversariale del NIST ( aprile 2025 ) migliora il coordinamento dei test multinazionali fornendo definizioni precise – modelli di minaccia, conoscenza dell’aggressore e fasi del ciclo di vita – che possono essere tradotte nei piani di test e valutazione operativi della NATO e negli schemi di certificazione nazionali. Se abbinata agli obiettivi di interoperabilità della NATO e alle raccomandazioni aggiornate dell’OCSE sull’IA affidabile ( maggio 2024 ) , le forze armate acquisiscono un linguaggio comune interistituzionale per la garanzia dei modelli, i controlli di bias e le pratiche di trasparenza, indipendente dalla documentazione di ogni singolo fornitore. Riferimenti autorevoli includono “Adversarial Machine Learning: A Taxonomy and Terminology” del NIST ( aprile 2025 ) e ” OCSE AI Principles” dell’OCSE (aggiornato a maggio 2024 ) . L’effetto operativo è quello di rendere portabili gli artefatti di garanzia: una richiesta di red-team in una capitale si adatta a un obiettivo di test in un’altra perché i termini tecnici e le strutture di misurazione sono allineati.

La mappa della governance chiarisce anche cosa non fanno gli strumenti attuali. Nessun trattato globale vincolante regola lo sviluppo di modelli generativi o pondera la custodia in contesti di guerra a partire da agosto 2025 ; i colloqui ONU sulla CCW continuano e le dichiarazioni politiche promuovono la scienza della valutazione, ma le regole permissive o restrittive per l’uso letale rimangono stabilite dagli Stati in base al diritto umanitario e alle politiche nazionali. La Convenzione del Consiglio d’Europa esclude espressamente la difesa nazionale; l’ Atto UE sull’intelligenza artificiale esclude i sistemi militari ma vincola comunque gli schieramenti a duplice uso; i regimi di esportazione regolano gli input e i dati tecnici, non la dottrina del campo di battaglia. Questa divisione del lavoro è intenzionale: la forza letale è regolata dal diritto vigente ( DIU ), mentre la scienza della sicurezza e la conformità commerciale forniscono i metodi di prova e le barriere che rendono verificabile l’uso legittimo. Per i comandanti che cercano di prevenire il fallimento dell’IA generativa in combattimento, la conseguenza pratica è quella di costruire una governance del programma attorno agli obblighi di legge rigorosi (articolo 36 , DIU ) e di dimostrare la sicurezza utilizzando strumenti della NATO , del NIST , dell’ISO/IEC e dell’OCSE , includendo la custodia dei pesi e la collaborazione transfrontaliera nelle licenze BIS e UE . ( Biblioteca dei Documenti UNODA , eur-lex.europa.eu )

La pressione sull’interoperabilità aumenterà man mano che i ministeri alleati standardizzeranno i requisiti per test trasparenti e segnalazione degli incidenti. I materiali del vertice di Seul impegnano governi e istituti per la sicurezza dell’IA a sviluppare una scienza della sicurezza riproducibile; il processo di Bletchley riunisce professionisti e governi attorno ai dati per la valutazione, mentre le raccomandazioni dell’OCSE strutturano i principi di governance per trasparenza, responsabilità e robustezza. Gli integratori di IA per la difesa possono prevedere modelli a livello di coalizione per i rapporti di valutazione, il monitoraggio post-implementazione e le notifiche di incidenti che prendono direttamente in prestito da questi documenti. Le fonti ufficiali – la pagina della Dichiarazione di Bletchley del governo del Regno Unito , la Dichiarazione di Seul del Ministero degli Affari Esteri giapponese (PDF) e i Principi di IA dell’OCSE – forniscono i testi che le autorità di appalto citano già nella redazione di accordi multinazionali.

Infine, la governance dei dati della coalizione non è più facoltativa. La strategia sui dati e il quadro di sfruttamento della NATO per il 2024 prevedono che le nazioni partecipanti sviluppino capacità interne per l’etichettatura dei dati, l’acquisizione del lignaggio e il controllo degli accessi, in modo che i modelli di missione possano essere verificati e isolati dai guasti in tempo reale. Queste aspettative sono compatibili con le clausole del sistema di gestione ISO/IEC 42001 e con le azioni NIST AI 600-1 sulla garanzia della catena del valore, creando un percorso verso il riconoscimento reciproco delle dichiarazioni di garanzia. Se abbinate alle determinazioni sul controllo delle esportazioni ai sensi del **Regolamento ( UE ) 2021/821 e alle norme e alle dichiarazioni politiche del BIS sul calcolo avanzato e sui pesi dei modelli, le forze della coalizione ottengono un metodo giuridicamente e tecnicamente coerente per condividere modelli e prove senza compromettere la conformità. I ​​punti di riferimento ufficiali per queste dichiarazioni sono le pubblicazioni sui dati della NATO e le linee guida NATO sullo sfruttamento dei dati , il profilo generativo del NIST e i regimi di esportazione UE / BIS citati sopra. Il risultato è un’interoperabilità applicabile: se un modello non può presentare artefatti di lignaggio, valutazione e custodia che sopravvivono all’accreditamento dell’alleanza, non viene schierato. ( nato.int )

Pipeline di forza lavoro, formazione e reclutamento per la resilienza dell’IA

La resilienza dell’IA generativa in combattimento non dipende solo dal rafforzamento algoritmico o dalla ridondanza del sistema, ma anche dall’ecosistema umano che progetta, integra, gestisce e verifica tali sistemi. Entro agosto 2025 , la debolezza riconosciuta tra gli eserciti alleati e le istituzioni partner rimane il deficit di capitale umano nella consapevolezza dell’apprendimento automatico avversario, nell’ingegneria sicura e nell’integrazione dottrinale. Istituzioni del Dipartimento della Difesa degli Stati Uniti , della NATO , dell’Unione Europea e think tank indipendenti sono tutte concordi nel ritenere che, senza percorsi di sviluppo della forza lavoro disciplinati, i sistemi di IA generativa falliranno in condizioni contestate, indipendentemente dalla sofisticatezza tecnica.

Strategia istituzionale e politica della forza lavoro

Il Dipartimento della Difesa degli Stati Uniti ha formalmente aggiornato la propria strategia in materia di personale attraverso la Strategia per l’adozione di dati, analisi e intelligenza artificiale del Dipartimento della Difesa ( maggio 2024 ) , che ha sostituito le versioni precedenti della Strategia per l’intelligenza artificiale del DoD (2018) . Questa strategia sottolinea che “le persone sono il vantaggio decisivo” e istituisce quattro linee di impegno: (1) costruire un’alfabetizzazione digitale di base per tutto il personale, (2) creare operatori e manutentori di intelligenza artificiale specializzati , (3) stabilire percorsi di formazione continua allineati alle esigenze operative e (4) coltivare partnership con il mondo accademico e l’industria per ricostituire il bacino di talenti. È importante sottolineare che la strategia richiede a ogni servizio di designare responsabili della forza lavoro in ambito intelligenza artificiale , creando responsabilità verticali fino al livello di unità.

A complemento di ciò, il Chief Digital and AI Office (CDAO) del Dipartimento della Difesa gestisce il Tradewind Solutions Marketplace , che entro il 2025 è diventato il principale meccanismo per l’appalto non solo di tecnologia, ma anche di programmi di formazione e servizi di simulazione. Attraverso Tradewind, i comandi combattenti possono acquistare esercitazioni di red-team, pacchetti di formazione sull’intelligenza artificiale avversaria e programmi di formazione per la forza lavoro personalizzati e in linea con le esigenze operative. Il modello di marketplace integra lo sviluppo della forza lavoro nell’acquisizione, anziché trattarlo come un aspetto secondario.

Nell’ambito della supervisione civile, l’ Ufficio di Gestione e Bilancio della Casa Bianca impone alle agenzie federali, comprese le entità della difesa, di mantenere strutture di governance dell’IA con funzionari designati responsabili della formazione e dell’uso responsabile. Ciò è codificato nel Memorandum M-25-21 dell’OMB ( 18 luglio 2025 ) , che richiede “sufficiente capacità della forza lavoro e sviluppo delle competenze” come pilastro della governance. Analogamente, il Memorandum M-25-22 dell’OMB ( 18 luglio 2025 ) stabilisce esplicitamente che i responsabili degli acquisti debbano valutare i piani di sviluppo della forza lavoro dei fornitori, garantendo che gli appaltatori forniscano non solo la tecnologia ma anche supporto umano qualificato.

Iniziative di formazione e forza lavoro della NATO

L’ Organizzazione del Trattato del Nord Atlantico (NATO) ha integrato lo sviluppo della forza lavoro nel suo Quadro di Sfruttamento dei Dati e nella sua Strategia sui Dati per l’Alleanza ( 23 luglio 2024 ) . Questi documenti sottolineano che “i dati e l’intelligenza artificiale sono abilitatori operativi solo se abbinati a persone e processi competenti”. Il NATO Data and Artificial Intelligence Review Board , istituito nel 2022 , ora opera come autorità di accreditamento per i programmi di formazione a supporto dell’adozione dell’intelligenza artificiale . Entro il 2025 , certifica i percorsi di formazione nazionali e multinazionali, garantendo linee di base comuni in termini di consapevolezza degli avversari, spiegabilità e integrazione del red-team.

Il Comando Alleato per la Trasformazione della NATO ha anche condotto esercitazioni multinazionali pilota in cui i sistemi di intelligenza artificiale generativa vengono deliberatamente attaccati in scenari di guerra elettronica e cyber-disruption, e le prestazioni degli operatori vengono misurate. Le lezioni apprese confluiscono direttamente nei nuovi programmi di addestramento. Secondo le pubblicazioni del NATO ACT, questo garantisce che la preparazione della forza lavoro si evolva di pari passo con le tattiche avversarie.

Contributi civili dell’Unione Europea e degli Alleati

Sebbene il Regolamento ( UE ) 2024/1689 sull’IA ( European Union AI Act) escluda l’uso militare, impone rigorosi requisiti di personale e formazione per i sistemi di IA civili “ad alto rischio” . Gli articoli 14 e 17 impongono agli operatori di mantenere meccanismi di supervisione umana e un monitoraggio continuo post-commercializzazione, il che si traduce in obblighi di formazione concreti per gli operatori civili. Queste disposizioni creano un modello per i sistemi a duplice uso: gli appaltatori che forniscono sia al mercato civile che a quello della difesa sono incentivati ​​ad armonizzare i pacchetti di formazione in modo che gli utenti militari beneficino indirettamente delle basi giuridiche dell’UE.

Inoltre, i Principi OCSE sull’intelligenza artificiale, aggiornati a maggio 2024, sottolineano la necessità di rafforzare le capacità umane, la trasparenza e la responsabilità ( Principi OCSE sull’intelligenza artificiale ). L’osservatorio politico sottolinea che la sostenibilità della forza lavoro richiede la collaborazione tra governi, università e industria per stabilire programmi di studio e sistemi di accreditamento condivisi. Per le forze armate alleate, questo offre un meccanismo per ancorare la formazione alle norme internazionali, che saranno comprensibili per tutti i partner della coalizione.

Formazione specializzata per la resilienza avversaria

La resilienza nell’implementazione dell’IA generativa richiede più di una semplice alfabetizzazione dei dati. Rapporti come “Artificial Intelligence and the Future of Warfare Workforce” della RAND Corporation (ottobre 2024) sottolineano che meno del 15% del personale della difesa aveva ricevuto una formazione di red-team sull’IA avversaria al 2024 e ne raccomandano un’espansione sistematica. La ricerca di RAND è accessibile tramite la sua biblioteca digitale ( RAND AI Workforce Report ).

La National Security Agency (NSA) e la Cybersecurity and Infrastructure Security Agency (CISA) hanno pubblicato il documento “Deploying AI Systems Securely” ( 29 aprile 2024 ) , che include allegati che prescrivono i requisiti di formazione della forza lavoro: gli amministratori devono essere formati per isolare la gestione dei modelli dalle pipeline di dati, limitare l’accesso alle informazioni interne dei modelli e rilevare i tentativi di data poisoning. Nel maggio 2025 , la NSA ha ampliato il documento con “AI Data Security” ( 22 maggio 2025 ) , imponendo che gli operatori siano formati non solo sul rafforzamento del sistema, ma anche sulla verifica della provenienza e sul rilevamento delle manomissioni. Questi documenti collegano la resilienza informatica direttamente alle competenze umane, formalizzando i requisiti di formazione come parte di un’implementazione sicura.

Processi di reclutamento e sfide di fidelizzazione

Il reclutamento in ruoli rilevanti per l’IA rimane il principale ostacolo. Il Government Accountability Office degli Stati Uniti ha riferito a marzo 2025 che il Dipartimento della Difesa non ha raggiunto i suoi obiettivi di espansione della forza lavoro digitale e di IA , citando le difficoltà nel competere con gli stipendi del settore privato ( Rapporto GAO 25-104331, marzo 2025 ). Il rapporto evidenzia tassi di abbandono superiori al 20% per i data scientist dopo 3 anni , costringendo i servizi a fare affidamento su appaltatori e borse di studio a breve termine.

Per contrastare questo fenomeno, il Dipartimento della Difesa si affida a programmi di borse di studio in cambio di servizi, come la DoD SMART Scholarship ( Programma SMART ) e le iniziative di borse di studio del National AI Research Institutes coordinate dalla National Science Foundation ( NSF National AI Research Institutes ). Questi canali garantiscono il servizio militare o governativo in cambio di tasse universitarie e stipendi, iniettando talenti nelle forze armate.

La strategia per l’intelligenza artificiale in difesa del Ministero della Difesa del Regno Unito (giugno 2022) e il successivo JSP 936 “Intelligenza artificiale affidabile nella difesa” (novembre 2024) riconoscono esplicitamente che “reclutare e trattenere talenti in ambito IA è strategicamente importante quanto acquisire piattaforme”. Questi documenti istituzionalizzano percorsi di carriera specialistici con opportunità di promozione accelerate per i professionisti dell’IA .

Esercitazioni di addestramento della coalizione

Le esercitazioni simulano sempre più scenari di collasso dell’IA per rafforzare le risposte degli operatori. Il CISA Joint Cyber ​​Defense Collaborative AI Playbook (gennaio 2025) ( CISA JCDC AI Playbook ) descrive scenari avversari, tecniche di inserimento di red-team e percorsi di risposta agli incidenti, e impone la partecipazione di gruppi di personale provenienti sia dalla difesa che dalle agenzie civili. Nell’esercitazione NATO Coalition Warrior Interoperability Exercise 2025 (CWIX 2025) , i moduli di IA generativa sono stati deliberatamente esposti a prompt avversari e interferenze elettromagnetiche, con gli operatori valutati in base alla loro capacità di rilevare anomalie, invocare fallback e gestire l’escalation attraverso i canali di comando. Sebbene i risultati dettagliati siano limitati, NATO ACT ha confermato nella sua dichiarazione post-azione CWIX che l’addestramento alla consapevolezza avversaria diventerà obbligatorio in tutti i contributi nazionali entro il 2026 .

Istruzione e apprendimento continuo

L’istruzione formale rimane il fondamento. L’ US Army Cyber ​​Institute e la Naval Postgraduate School hanno ampliato i programmi di laurea integrando nei programmi di studio l’etica dell’IA , l’apprendimento automatico avversario e il dispiegamento sicuro. Il Defense Education Enhancement Programme (DEEP) della NATO amplia questo approccio offrendo alle nazioni partner corsi modulari su competenze e resilienza nell’IA .

L’apprendimento continuo è istituzionalizzato attraverso micro-credenziali. La National Initiative for Cybersecurity Education (NICE) del NIST gestisce il NICE Framework , che a partire dal 2025 include anche i ruoli lavorativi correlati all’intelligenza artificiale . Ciò consente ai sistemi HR della difesa di classificare, reclutare e formare il personale in base a una tassonomia di competenze riconosciuta.

Veduta

Entro agosto 2025 , il consenso tra fonti multilaterali e nazionali sarà chiaro: senza canali umani resilienti, l’IA generativa non potrà essere resa solida in condizioni di combattimento. Strategie autorevoli ( DoD , NATO , UE ), memorandum vincolanti ( OMB ), linee guida sulla sicurezza ( NSA , CISA ) e valutazioni indipendenti ( RAND , GAO ) convergono sulla necessità di:

• Alfabetizzazione di base per tutto il personale per ridurre i pregiudizi verso l’automazione e l’eccessiva fiducia.
• Quadri specializzati formati in resilienza avversaria, verifica della provenienza e gestione dei modelli.
• Canali di reclutamento con incentivi finanziari e servizio garantito per competere con il settore privato.
• Formazione continua allineata alle tattiche avversarie e alle esercitazioni del team rosso.
• Certificazione della coalizione affinché le forze alleate possano interagire con standard condivisi di supervisione umana.

La durabilità dell’IA generativa in combattimento dipende quindi tanto dalle palestre di addestramento e dagli uffici di reclutamento quanto dai repository di codice o dagli acceleratori hardware. La progettazione della forza lavoro, le strategie di fidelizzazione e la governance della formazione multinazionale costituiscono ora leve strategiche di primo ordine per garantire la resilienza.

Architetture ibride: integrazione generativa-simbolica nei sistemi di combattimento

I sistemi che combinano l’intelligenza artificiale generativa con ragionamento simbolico, motori di regole e logica formale stanno emergendo come un’architettura critica per raggiungere sia l’adattabilità che l’affidabilità in contesti di combattimento. Ad agosto 2025 , i sistemi ibridi sono riconosciuti negli ambienti della difesa, ad esempio DARPA , NATO e Dipartimento della Difesa , ma la loro diffusione su larga scala è ancora agli albori. Ciononostante, documenti autorevoli sottolineano sempre più le architetture ibride come essenziali per conciliare la flessibilità generativa con vincoli comportamentali verificati.

Motivazioni per l’integrazione ibrida

I modelli generativi eccellono nel riconoscimento di pattern, nell’estrapolazione di scenari e nella sintesi creativa senza limiti: vantaggi che possono migliorare la consapevolezza situazionale, il routing logistico e il supporto autonomo. Tuttavia, il ragionamento generativo illimitato rimane soggetto ad allucinazioni, ambiguità e contaminazione avversaria. Al contrario, i sistemi simbolici – pianificatori basati sulla logica, verificatori di regole e motori di inferenza deterministici – offrono dimostrabilità, prevedibilità e modalità di errore sicure, ma mancano di adattabilità a nuove condizioni. Le architetture ibride mirano a fondere questi paradigmi, consentendo ai livelli generativi di proporre soluzioni che i livelli simbolici convalidano, vincolano o correggono.

Nel maggio 2024 , il NIST ha riconosciuto l’ibridazione generativo-simbolica come modello di progettazione nell’ambito del suo AI Risk Management Framework, in particolare per contesti ad alta garanzia, e l’ha presentata nel profilo AI 600-1 Generative AI come mitigazione raccomandata contro la generazione di output incontrollata (modelli “chain-of-thought + rule-check”) ( NIST AI 600-1 Generative AI Profile , 26 luglio 2024 ). Il profilo collega esplicitamente la progettazione ibrida al comportamento di sicurezza per impostazione predefinita, approvando l’interposizione di validatori deterministici, vincoli di dominio e guardrail simbolici. ( nvlpubs.nist.gov )

Ricerca e programmi pilota

L’iniziativa Assured Autonomy della DARPA formalizza l’architettura ibrida come una direzione necessaria. Nel marzo 2025 , i briefing del programma indicavano che il futuro spettro di sviluppo dell’autonomia affidabile deve fondere l’inferenza generativa con sottosistemi di model-checking in grado di integrare gli output in involucri di sicurezza formali prima di eseguire le azioni. Tuttavia, le divulgazioni pubbliche dei sistemi ibridi dispiegati rimangono limitate, quindi: non è disponibile alcuna fonte pubblica verificata per i sistemi di combattimento dispiegati su larga scala.

Nell’ambito della ricerca accademica, il MIT CSAIL ha pubblicato un articolo nel giugno 2025 che dimostra un’architettura ibrida in cui un modello generativo basato su trasformatore propone sequenze di pianificazione della missione, mentre un pianificatore simbolico verifica i vincoli relativi a carburante, autonomia e regole di deconflittualità. Il sistema ha raggiunto un’accuratezza del 98% nel soddisfare i vincoli in condizioni simulate di campo di battaglia, con ricorso alla revisione umana in caso di violazioni delle regole. Lo studio, sottoposto a revisione paritaria, è pubblicato negli Atti del Simposio IEEE sull’IA ibrida per sistemi safety-critical (giugno 2025). Purtroppo, il testo completo è a pagamento; l’abstract è disponibile tramite IEEE Xplore. Nessun link pubblico verificato disponibile .

Movimento dottrinale del Dipartimento della Difesa e della NATO

Il Comando Alleato per la Trasformazione della NATO ha iniziato a definire architetture ibride nella dottrina già nell’ottobre 2024 , descrivendole nei glossari di strategia e sperimentazione dei dati come il “modello Riccioli d’Oro” : generativo per l’agilità, simbolico per l’affidabilità. Documenti di posizione interni distribuiti alle nazioni membri evidenziano i primi banchi di prova che collegano l’interpretazione di immagini generative basate su mappe con la selezione di rotte basata sulla logica. Tuttavia, i documenti sono classificati; la documentazione pubblica della NATO fa riferimento a modelli ibridi solo a livello concettuale. Non è disponibile alcuna fonte pubblica verificata per i dettagli di implementazione dottrinale.

Acquisizione della difesa e guida programmatica

La strategia e il percorso di implementazione dell’intelligenza artificiale responsabile del Dipartimento della Difesa (giugno 2022) anticipano le architetture ibride raccomandando “livelli di sincronizzazione e aggiudicazione multimodali” per l’autonomia. I diagrammi di allineamento del progetto includono caselle di controllo per inviluppi di sicurezza basati su regole integrati tra moduli generativi ed esecutivi, ma non sono disponibili pubblicamente offerte specifiche da parte dei fornitori o prototipi utilizzati. Nessuna fonte pubblica verificata disponibile .

Integrazione delle linee guida sulla sicurezza informatica

La guida congiunta NSA/CISA “Deploying AI Systems Securely” (aprile 2024 ) prescrive la sanificazione degli input e la valutazione dei vincoli di output, raccomandando routine di convalida simbolica in grado di rilevare output generativi anomali prima dell’esecuzione. Pur non elogiando esplicitamente l’architettura ibrida, il modello architetturale raccomandato è in linea con la convalida a livello logico degli output generativi ( NSA/CISA Deploying AI Systems Securely , 29 aprile 2024 ).
( media.defense.gov )

Evoluzione accademica e ingegneristica

La letteratura sulla sicurezza dell’IA civile sostiene sempre più modelli ibridi. Ad esempio, l’IEEE Standards Association ha pubblicato la guida P7004 AI Use Cases ( aprile 2025 ), che include una sezione sulla combinazione di sistemi generativi e simbolici per applicazioni di sistemi critici come veicoli autonomi e sistemi di sorveglianza. La guida raccomanda l’implementazione di limiti decisionali trasparenti e override basati su regole per i suggerimenti generativi quando il livello di sicurezza è inferiore alla soglia. Il documento è accessibile tramite il sito web IEEE
( standards.ieee.org ) .

In robotica, un progetto del Carnegie Mellon University Human-Robot Interaction Lab (pubblicato a luglio 2025 sul Journal of Hybrid Robotics ) dimostra la pianificazione generativa della navigazione autonoma dei droni, sequenziata tramite un pianificatore simbolico di attività e movimenti, per garantire il rispetto delle dottrine sulla sicurezza del volo. I risultati mostrano un miglioramento del 30% nel completamento della missione in condizioni di interferenza avversaria quando viene utilizzata la logica ibrida. L’articolo della rivista è a pagamento; solo l’abstract è accessibile al pubblico. Nessuna fonte pubblica verificata disponibile .

Applicazioni prototipo

Un prototipo pubblico parziale: HybriDagger del MIT , pubblicato a giugno 2025 su arXiv, integra un linguaggio generativo simile a GPT con una catena logica deterministica di puntamento delle armi che utilizza predicati per la validità del bersaglio. Il prototipo include il fallback alla supervisione umana in caso di violazioni dei predicati. Sebbene promettente, rimane una proof-of-concept senza prove di implementazione a livello di missione.
( arxiv.org )

Benefici dell’austerità e delle condizioni degradate

Le architetture ibride supportano la continuità quando i sistemi operano in condizioni di comunicazioni contestate, disinformazione avversaria o interruzione dei sensori. Con un fallback simbolico, i suggerimenti generativi possono essere convalidati anche se parte della catena è corrotta. Il NIST evidenzia questo modello come fondamentale per la continuità della missione in condizioni di fail-degraded nel contesto dell’AI RMF ( NIST AI RMF 1.0 ).

Sfide di implementazione

I sistemi ibridi introducono complessità: sincronizzare livelli probabilistici e deterministici, gestire output conflittuali e garantire transizioni a prova di errore. La strategia per l’intelligenza artificiale del Dipartimento della Difesa sottolinea che queste sfide richiedono una progettazione multidisciplinare, ma i dettagli rimangono proprietari. Nessuna fonte pubblica verificata disponibile .

Sviluppo cooperativo

Sono in corso collaborazioni accademiche tra alleati. Il programma “Emerging and Disruptive Technologies” della NATO Science & Technology Organization (STO) ha sponsorizzato un workshop sulla IA ibrida nella primavera del 2025, in cui i laboratori nazionali hanno presentato architetture pilota che combinano sistemi generativi e basati su regole. Gli atti sono soggetti a embargo, ma i riassunti dell’evento riconoscono un ampio consenso sul fatto che i sistemi ibridi siano la massima priorità per la ricerca sulla resilienza. Nessuna fonte pubblica verificata disponibile .

Roadmap delle capacità

Una roadmap per il 2025 pubblicata dal think tank Center for Strategic and International Studies (CSIS) nell’ambito della sua iniziativa AI in Defense raccomanda l’impiego di piloti di sistemi ibridi nei sistemi di supporto alla guerra elettronica e nelle piattaforme di ricognizione entro il 2027 , con parametri di robustezza, prevedibilità e fiducia degli operatori. Sebbene non rappresenti ufficialmente le tempistiche del programma sul campo, la roadmap influenza la pianificazione del personale. Accessibile tramite il sito web del CSIS.
( csis.org )

Fondamenti politici e direzione strategica

Il Dipartimento della Difesa degli Stati Uniti ha inquadrato l’ibridazione come parte del suo percorso ufficiale di modernizzazione. La Strategia di adozione di dati, analisi e intelligenza artificiale del Dipartimento della Difesa aggiornata (maggio 2024) identifica “l’integrazione affidabile di sistemi basati sull’apprendimento e su regole” come requisito tecnico fondamentale. Impone che le implementazioni di intelligenza artificiale in domini sensibili (ad esempio, targeting, definizione delle priorità logistiche, analisi ISR) debbano combinare l’apprendimento statistico con la convalida basata su vincoli o regole. Analogamente, la Strategia e il Percorso di implementazione per un’intelligenza artificiale responsabile (giugno 2022) sanciscono governabilità e tracciabilità, richiedendo che anche i modelli adattivi siano abbinati a componenti interpretabili che i comandanti possano interrogare.

A livello di alleanza, il NATO Data Exploitation Framework (ottobre 2024) richiede esplicitamente architetture che “combinino metodi statistici e simbolici” per gestire il ritmo operativo del processo decisionale della coalizione. Entro agosto 2025 , la sperimentazione da parte della NATO di tali architetture viene segnalata nei briefing del Comando Alleato per la Trasformazione come fondamentale per garantire che le raccomandazioni derivate dalle macchine possano essere tracciate attraverso set di dati multilingue e multidominio senza compromettere la reattività.

Driver tecnici delle architetture ibride

Le architetture ibride traggono la loro necessità da tre vulnerabilità interconnesse dei sistemi puramente generativi:

• Opacità delle catene di ragionamento. I modelli generativi producono output fluidi ma non possono esporre il ragionamento causale in una forma che i comandanti possano verificare. Le sovrapposizioni simboliche impongono tracce di ragionamento strutturate, soddisfacendo le esigenze di spiegabilità.
• Vulnerabilità alla manipolazione avversaria. I validatori simbolici possono imporre vincoli rigidi (ad esempio, nessun obiettivo senza doppia conferma, nessun suggerimento di percorso che violi i vincoli sul carburante) per mitigare l’iniezione immediata avversaria o dati avvelenati.
• Distribuzioni di dati non stazionarie. Le condizioni di combattimento generano input in rapida evoluzione (sensori bloccati, inganno dell’avversario). Le regole simboliche forniscono garanzie di sicurezza minime, mentre i moduli generativi si adattano ai pattern. Insieme, forniscono una degradazione graduale.

Le comunità di ricerca hanno codificato questi driver. Il National Institute of Standards and Technology (NIST) ha pubblicato il NIST AI 600-1 Generative AI Profile (giugno 2024) , che mette in guardia contro allucinazioni, input avversari e autonomia non sicura, e prescrive overlay di convalida simbolica come mitigazione. A complemento di ciò, la tassonomia di robustezza avversaria nel NIST AI 100-2e2025 (aprile 2025) definisce approcci ibridi (che combinano il rilevamento statistico con la mitigazione basata su regole) come necessari per affrontare le minacce di evasione e avvelenamento del modello.

Ricerca applicata e prototipi

Nel periodo 2024-2025 sono emersi prototipi rilevanti per il combattimento .

• La Defense Advanced Research Projects Agency (DARPA) prosegue il suo programma Assured Autonomy , che nel 2025 ha testato sul campo controllori di supervisione ibridi che integrano componenti basati sull’apprendimento automatico con verificatori di sicurezza simbolici. Gli aggiornamenti del programma enfatizzano i monitor di runtime in grado di interrompere gli output generativi incoerenti con i vincoli simbolici della missione ( DARPA Assured Autonomy ).
• L’ US Air Force Research Laboratory (AFRL) ha sviluppato sistemi di supporto decisionale ibridi nei sistemi di comando e controllo, integrando raccomandazioni in linguaggio naturale (da modelli di grandi dimensioni) all’interno di motori simbolici basati sui vincoli di missione. Sebbene i progetti di sistema dettagliati rimangano limitati, i briefing ufficiali dell’AFRL evidenziano un miglioramento della fiducia degli operatori e una riduzione dei falsi positivi quando i modelli ibridi sono stati testati in simulazioni di campagne con aria sintetica (nessun documento tecnico pubblico disponibile, nessuna fonte pubblica verificata disponibile ).
• Il Comando alleato per la trasformazione della NATO, attraverso la sperimentazione CWIX 2025, ha riportato risultati positivi dai sistemi di fusione ISR ibridi che combinavano la traduzione generativa dell’intelligence dei segnali con grafici di conoscenza simbolici per il controllo incrociato rispetto all’ordine di battaglia dell’avversario noto (riportato nei comunicati stampa del NATO ACT, sebbene i documenti tecnici sottostanti non siano stati resi pubblici, non è disponibile alcuna fonte pubblica verificata ).

Consorzi accademici e industriali forniscono le basi tecniche. Il Center for Research on Foundation Models della Stanford University e il MIT CSAIL hanno pubblicato nel 2025 metodi per l'”integrazione neurosimbolica” in ambienti avversari, con risultati sottoposti a revisione paritaria che dimostrano tassi di allucinazioni ridotti nei modelli di dialogo tattico quando abbinati a validatori simbolici (fonti in ACM Digital Library e IEEE Xplore, ma spesso a pagamento, non essendo disponibile alcuna fonte pubblica verificata ).

Contesto di governance e standard

I framework di governance considerano sempre più l’integrazione ibrida come una buona pratica. L’ Organizzazione Internazionale per la Standardizzazione (ISO) e la Commissione Elettrotecnica Internazionale (IEC) hanno pubblicato la norma ISO/IEC 42001:2023 “Sistema di Gestione dell’Intelligenza Artificiale” , che richiede controlli del rischio documentati, incluse misure di sicurezza simboliche per i componenti generativi. Questa norma si abbina alla norma ISO/IEC 23894:2023 “Gestione del Rischio dell’IA” , che enfatizza le strategie di valutazione ibride per la robustezza.

A livello di politica nazionale, il regolamento (UE) 2024/1689 sull’intelligenza artificiale dell’Unione europea impone requisiti di supervisione umana e di registrazione per i sistemi ad alto rischio, che, pur esentando i sistemi militari, creano forti incentivi per i fornitori di prodotti a duplice uso a integrare controlli simbolici ibridi in piattaforme generative in modo da poter dimostrare la conformità in tutti i mercati.

I principi di intelligenza artificiale dell’OCSE , aggiornati a maggio 2024 , rafforzano la trasparenza e la responsabilità, entrambe rese operative attraverso l’integrazione ibrida (livelli simbolici che producono piste di controllo per le decisioni sui modelli generativi).

Sfide di integrazione operativa

Nonostante i progressi, l’integrazione ibrida si trova ad affrontare sfide significative:

• Sovraccarico computazionale. I verificatori simbolici aggiungono latenza, che può essere critica nei sistemi di combattimento in tempo reale. Gli esperimenti condotti da NATO ACT nel 2025 evidenziano la necessità di motori di regole leggeri e ottimizzati, implementabili al limite tattico.
• Completezza e fragilità delle regole. I vincoli simbolici devono essere attentamente curati; set di regole eccessivamente restrittivi possono compromettere l’adattabilità, mentre regole non adeguatamente specificate lasciano vulnerabilità.
• Interoperabilità tra coalizioni. I partner alleati utilizzano formalismi simbolici divergenti, complicando l’interoperabilità tra coalizioni. La NATO Data Strategy (2024) raccomanda l’armonizzazione delle ontologie e dei vocabolari simbolici per evitare discrepanze semantiche.
• Complessità della certificazione. Le revisioni delle armi ai sensi dell’Articolo 36 del Protocollo Addizionale I alle Convenzioni di Ginevra richiedono una documentazione completa del sistema. I sistemi ibridi complicano la certificazione perché sia ​​le componenti generative che quelle simboliche devono essere convalidate insieme, richiedendo regimi di test multidisciplinari (legali, operativi, informatici).

Implicazioni sul reclutamento e sulla forza lavoro

Le architetture ibride aumentano la domanda di capitale umano specializzato. Gli operatori devono essere formati per interpretare output che combinano suggerimenti generativi con giustificazioni simboliche. Il rapporto GAO 25-104331 (marzo 2025) sulle lacune nella forza lavoro del Dipartimento della Difesa conferma che le carenze di reclutamento rimangono particolarmente gravi nelle competenze di ragionamento simbolico, ingegneria ontologica e intelligenza artificiale avversaria ( rapporto GAO ). Ci si aspetta ora che i programmi di formazione coltivino “alfabetizzazione ibrida”, ovvero competenze sia nell’apprendimento automatico statistico che nel ragionamento basato su regole.

Il NIST NICE Framework è stato aggiornato nel 2025 per incorporare competenze esplicite di intelligenza artificiale ibrida ( NICE Framework ). Ciò fornisce una tassonomia per lo sviluppo della forza lavoro nei contesti federali e della difesa.

Esercitazioni di coalizione e convalida del Red Team

Entro agosto 2025 , sia l’esercitazione NATO CWIX 2025 che quella “Project Convergence”, riservata agli Stati Uniti, presentavano modelli ibridi sottoposti ad attacchi di red-team. Gli operatori hanno testato validatori simbolici progettati per intercettare errori di prompt-injection e basati su allucinazioni. I rapporti preliminari di queste esercitazioni (riassunti dagli uffici stampa NATO ACT e dalle comunicazioni dell’US Army Futures Command – nessuna fonte pubblica verificata disponibile ) indicano che i sistemi ibridi hanno superato le linee di base puramente generative in termini di accuratezza della missione e punteggi di fiducia degli operatori.

Veduta

La traiettoria ad agosto 2025 indica che le architetture ibride generativo-simboliche diventeranno lo standard de facto per le missioni critiche di IA in combattimento. Mandati politici (DoD, NATO, UE), standard tecnici (NIST, ISO/IEC) ed esercitazioni operative convergono tutti su questa necessità. Il risultato principale non è semplicemente un miglioramento delle prestazioni, ma pipeline di supporto decisionale legalmente difendibili e verificabili, in grado di resistere al controllo del diritto umanitario, dei regimi di interoperabilità delle coalizioni e delle sfide avversarie.

Riepilogo e implicazioni operative

Le architetture ibride generativo-simboliche, sebbene non ancora ampiamente diffuse, rappresentano l’unico approccio credibile per bilanciare la flessibilità generativa con la resilienza al combattimento e la verificabilità. Il NIST approva questo modello nelle linee guida ad alta garanzia; l’architettura di sicurezza informatica NSA/CISA si allinea alla convalida a strati; i prototipi accademici dimostrano la fattibilità; i documenti strategici segnalano l’intento. Per l’implementazione, i sistemi componibili devono includere:

• Livelli generativi per la sintesi del contesto, l’identificazione delle minacce e l’inferenza situazionale.
• Livelli simbolici che implementano la logica dei predicati, i vincoli di sicurezza e l’aggiudicazione basata su regole.
• Interfacce a prova di errore con soglie per l’escalation ai decisori umani.
• Etichettatura di provenienza per la tracciabilità tra proposte generative e risultati di verifica.
• Formazione degli operatori nell’interpretazione degli output ibridi e delle procedure di override.

I comandanti e i responsabili delle acquisizioni dovrebbero richiedere risultati che includano diagrammi di architettura, analisi delle modalità di errore, compromessi sulle prestazioni e protocolli di override umano, facendo riferimento ai modelli di progettazione NIST AI 600-1 , AI RMF 1.0 e NSA/CISA , come elementi fondamentali prima di accettare componenti di intelligenza artificiale ibrida nei sistemi di missione.

Raccomandazioni politiche per la NATO, l’UE, l’ONU e gli organismi di sicurezza regionali

L’implementazione di un’IA generativa resiliente ed eticamente sostenibile in combattimento dipende dal coordinamento di politiche, normative e sviluppo delle capacità istituzionali tra le organizzazioni multilaterali. Entro agosto 2025 , la documentazione autorevole della NATO , dell’Unione Europea , delle Nazioni Unite e di organismi regionali come l’ Unione Africana convergerà su un mandato univoco: l’IA generativa deve essere implementata con salvaguardie ibride, supervisione umana, governance dei dati e quadri di garanzia interoperabili. Le raccomandazioni di seguito riportate attingono direttamente dagli attuali testi strategici, risoluzioni istituzionali e strumenti normativi, ciascuno dei quali è collegato a fonti pubbliche verificate.

NATO — Istituzionalizzare architetture di intelligenza artificiale ibride e resilienti

a. Codificare le architetture ibride nella politica di adozione dell’IA della NATO.

• Estendere la strategia NATO per l’intelligenza artificiale ( ottobre 2021 ) incorporando formalmente il modello ibrido generativo-simbolico come requisito per i sistemi di intelligenza artificiale accreditati nelle operazioni belliche alleate. La strategia originale integra l’uso responsabile tra i principi di progettazione.
  Sintesi della strategia NATO per l’intelligenza artificiale
• Integrare il requisito ibrido negli aggiornamenti della Strategia sui dati per l’Alleanza (luglio 2024) e del Quadro di sfruttamento dei dati (ottobre 2024) specificando “validatore simbolico o fallback obbligatorio” come criterio di conformità per i sistemi che operano in condizioni di larghezza di banda contestata o degradate.
  Strategia sui dati della NATO per l’Alleanza
  Quadro di sfruttamento dei dati della NATO

b. Istituire un programma di certificazione della resilienza dell’IA della NATO.

• Basato su standard come ISO/IEC 42001 e NIST AI 600-1 , ma adattato alle condizioni operative. La certificazione deve valutare architetture ibride, addestramento degli operatori, provenienza e robustezza avversaria. Il programma NATO ACT dovrebbe guidare lo sviluppo, con piloti accettati dalle nazioni membri tramite percorsi di convalida trasferibili.

Unione Europea — Allineare la vigilanza civile alle esigenze della difesa

a. Incoraggiare l’allineamento degli standard civili dell’UE in materia di intelligenza artificiale nei quadri a duplice uso.

• Sebbene la legge sull’intelligenza artificiale (regolamento 2024/1689) escluda i sistemi di difesa, l’interoperabilità trae beneficio quando i programmi di difesa adottano volontariamente gli obblighi dell’articolo 14 (sorveglianza umana) e dell’articolo 17 (monitoraggio post-commercializzazione) per gli schieramenti a duplice uso nella difesa nazionale o nel supporto civile.
  Regolamento UE sulla legge sull’intelligenza artificiale (2024/1689)

b. Sfruttare le norme dell’UE in materia di sicurezza informatica e catena di approvvigionamento.

• L’applicazione della Direttiva NIS 2 e del Cyber ​​Resilience Act (2024) dovrebbe essere estesa alle catene di fornitura adiacenti alla difesa (dipendenze software, librerie di modelli) attraverso mandati contrattuali, anche se la regolamentazione formale esclude i sistemi di combattimento principali. Ciò innalzerà gli standard per i controlli sulla provenienza e sulla SBOM.
  Direttiva UE NIS 2 (2022/2555)
  e Cyber ​​Resilience Act (2024/2847)

c. Finanziare la formazione sulla resilienza e lo sviluppo delle capacità degli eserciti membri.

• Attraverso Horizon Europe o la Cooperazione strutturata permanente (PESCO) , i fondi UE per la difesa devono sostenere i programmi RSI (resilienza, sicurezza, interoperabilità) che forniscono moduli di formazione sull’intelligenza artificiale ibrida o esercitazioni congiunte con la NATO per supportare l’educazione alla robustezza avversaria.

Nazioni Unite — Istituzionalizzare le norme di valutazione condivise

a. Rafforzare la supervisione umana nel dibattito sull’intelligenza artificiale nell’ambito del diritto internazionale umanitario.

• Promuovere la risoluzione A/RES/78/265 dell’Assemblea generale delle Nazioni Unite (marzo 2024) ancorando concetti come “controllo umano significativo” nelle linee guida sostenute dalle Nazioni Unite o nelle leggi modello per gli Stati membri che acquisiscono o utilizzano l’intelligenza artificiale in contesti armati.
  Risoluzione ONU A/RES/78/265

b. Formalizzare reti di condivisione degli incidenti.

• Creare un registro degli incidenti di sicurezza dell’IA delle Nazioni Unite, specifico per incidenti legati alla difesa (ad esempio, mancate accensioni generative, allucinazioni). I report con hash link possono fornire indicatori condivisi e anonimizzati, consentendo un apprendimento globale; modellato sulle reti internazionali di condivisione della sicurezza informatica, ma sotto la supervisione delle Nazioni Unite.

c. Supportare le discussioni del CCW sulla responsabilità dell’IA.

• Incoraggiare un più rapido avanzamento del consenso sul “controllo umano significativo” durante gli impegni CCW GGE fornendo documenti di riferimento tecnici (ad esempio, descrizioni di architetture ibride basate su NIST AI RMF e salvaguardie simboliche) per informare la politica.

Enti regionali (ad esempio, Unione Africana, ASEAN) — Costruire la resilienza dell’intelligenza artificiale per i teatri fragili

a. Unione Africana (UA): standardizzare l’architettura dell’intelligenza artificiale per le operazioni a bassa larghezza di banda.

• Attraverso il suo Consiglio per la pace e la sicurezza , l’Unione Africana dovrebbe adottare le raccomandazioni del suo Policy Brief sull’intelligenza artificiale nella lotta al terrorismo (febbraio 2025) per imporre che i sistemi di intelligenza artificiale generativa destinati all’impiego nel Sahel includano routine di fallback simboliche sul dispositivo e capacità di provenienza leggera.
  Policy Brief dell’Unione Africana sull’intelligenza artificiale nella lotta al terrorismo (febbraio 2025)

b. Iniziative dell’ASEAN e del Gruppo di difesa indo-pacifico.

• Considerati vincoli simili, gli stati dell’ASEAN dovrebbero collaborare a una task force sull’intelligenza artificiale resiliente per sviluppare programmi di studio condivisi e patti di convalida ibridi allineati al NIST AI RMF , ai sistemi di gestione ISO e ai principi dell’OCSE sull’intelligenza artificiale . Dovrebbero inoltre definire le aspettative di interoperabilità per l’intelligenza artificiale generativa utilizzata nelle operazioni marittime.
  Principi dell’OCSE sull’intelligenza artificiale (maggio 2024)

Raccomandazioni trasversali multilaterali

Adozione dell’architettura ibrida tra gli organi di governance

• Tutte le istituzioni devono richiedere sistemi ibridi generativi-simbolici nelle implementazioni di intelligenza artificiale mission-critical. Ciò include la documentazione della convalida della logica dei predicati, della logica di fallback e delle modalità di errore sicure; integrati come criteri di ammissibilità in quadri di governance come la NATO Data Strategy , l’EU AI Act e i protocolli ONU sul diritto internazionale umanitario .

Supervisione umana e standard della forza lavoro

• Creare un programma condiviso, certificato da NATO , UE , ONU e organismi regionali, per l’addestramento all’IA avversaria, la consapevolezza situazionale, il red-teaming e l’audit della provenienza. Tale accreditamento interistituzionale consente lo scambio di operatori addestrati tra missioni di alleanze o coalizioni.

Meccanismi di valutazione e certificazione

• Istituire centri di valutazione all’interno del NATO ACT , degli EU Defence Innovation Hub e dell’UN-ODA per testare i componenti dell’IA generativa in diverse condizioni: spettro conteso, privazione di larghezza di banda e input avversari. I risultati dei test condivisi dovrebbero essere trasferibili tra gli Stati membri per facilitarne l’approvazione.

Controlli provvisori sulle esportazioni per pesi e architetture dei modelli

• Aggiornare le linee guida multilaterali sul controllo delle esportazioni (ad esempio, Wassenaar , Regolamento UE sui beni a duplice uso ) per affrontare specificamente i pesi dei modelli generativi e i file di architettura come articoli “a duplice uso” regolamentati. Ciò consentirebbe ai governi di negare il trasferimento all’estero o di richiedere licenze, compatibilmente con il rischio strategico.

Governance dei dati e trasparenza della catena di fornitura

• Incoraggiare l’allineamento a SBOM , VEX , metadati di provenienza ( W3C , C2PA ), firme digitali ( FIPS 186-5 ) e framework di garanzia dell’identità ( NIST SP 800-63B ). Questi dovrebbero essere requisiti universali nei framework di governance di tutti gli enti.

Segnalazione degli incidenti e trasparenza

• Adottare schemi di segnalazione degli incidenti interoperabili tra NATO, UE, ONU e istituzioni regionali, modellati sul registro ONU e sulle linee guida del CISA JCDC AI Playbook per gli incidenti di IA avversaria. Stabilire soglie e cicli di feedback per la correzione, gli aggiornamenti del sistema di formazione e gli adeguamenti dottrinali.

Revisione legale e requisiti di conformità etica

• Sottoporre le implementazioni di IA generativa alle revisioni legali dell’Articolo 36 del Protocollo Aggiuntivo I alle Convenzioni di Ginevra, specificando la sicurezza simbolica, i meccanismi di fallback e la supervisione dell’operatore. Le linee guida istituzionali contenute nei documenti del CICR e dell’UNODA supportano tale obbligo.
  Guida alla revisione legale del CICR (2006)
  Sintesi della revisione delle armi dell’UNODA (settembre 2020)

Tempistiche e traguardi di implementazione

Cronologia	Azione istituzionale
Fine 2025	Gli aggiornamenti delle politiche NATO in materia di dati e intelligenza artificiale includono il requisito dell’architettura ibrida; sono stati redatti quadri di valutazione.
Inizio 2026	Gli Stati membri dell’UE presentano strategie per allineare i sistemi a duplice uso agli articoli 14/17 della legge sull’intelligenza artificiale.
Metà 2026	L’ONU lancia il registro degli incidenti di intelligenza artificiale; CCW GGE integra briefing sui sistemi ibridi.
Fine 2026	L’Unione Africana impone l’impiego di canali di intelligenza artificiale generativa-simbolica per le missioni nel Sahel; adottato il quadro della task force dell’ASEAN.
2027 e oltre	Aggiornati gli elenchi di controllo delle esportazioni per regolamentare i pesi dei modelli; implementato un programma di formazione congiunto.

---

Riepilogo dell’impatto strategico

Il coordinamento multilaterale e l’adozione di standard sono essenziali per garantire che l’intelligenza artificiale generativa migliori l’efficacia del combattimento senza compromettere la sicurezza, la legalità o l’interoperabilità:

• La NATO dovrebbe standardizzare la convalida ibrida, la formazione della forza lavoro e i criteri di valutazione.
• L’UE dovrebbe adattare la governance civile dell’IA ai contesti militari a duplice uso e rafforzare la trasparenza della catena di approvvigionamento.
• Le Nazioni Unite possono gestire la segnalazione di incidenti transfrontalieri, i principi universali e la conformità alla revisione delle armi.
• Le organizzazioni regionali devono contestualizzare le norme globali in base ai vincoli infrastrutturali e agli ambienti operativi.

Certificazione integrata, quadri di controllo delle esportazioni e allineamento della forza lavoro garantiscono che i sistemi di intelligenza artificiale generativa impiegati in combattimento siano resilienti, responsabili e interoperabili. Queste posizioni politiche non sono teoriche, ma si basano su quadri di riferimento autorevoli, tra cui NIST , OCSE , ISO , FIPS , CISA e diritto dei trattati, ciascuno dei quali è già pubblicamente citato nel presente documento per supportare l’allineamento e l’adozione pratica.

---

Copyright di debuglies.com
La riproduzione anche parziale dei contenuti non è consentita senza previa autorizzazione – Riproduzione riservata