Conviene partire da una constatazione semplice: il diritto penale, per come lo conosciamo, è costruito su categorie antropocentriche, pensate, cioè, per un autore umano, capace di intendere, di volere e di rappresentarsi le conseguenze delle proprie azioni. L’impiego di sistemi di targeting basati su intelligenza artificiale nei conflitti armati contemporanei mette in crisi proprio questo presupposto, ed è per questo che il tema non trova, ad oggi, una soluzione lineare.

Rilevante in questa discussione è anche il fatto che il nostro Codice Penale è stato approvato nel 1930 quando presidente del consiglio era Benito Mussolini; ministro della Giustizia era Rocco e il tema dei droni e dell’intelligenza artificiale non esisteva.

Ed è esattamente qui che inizia il tema del confronto che oggi investe un militare o un operatore dal punto di vista giuridico, ovvero applicare categorie giuridiche pensate per realtà che neanche esistevano.

Forse un esempio può aiutare il lettore a qualche riflessione.

Si pensi al caso, tutt’altro che scolastico, di un drone dotato di targeting automatizzato che seleziona ed ingaggia un bersaglio diverso da quello lecito. In una simile ipotesi occorre stabilire, anzitutto, quale norma penale risulti violata; poi, da quale soggetto; infine, con quale elemento soggettivo – cioè con quale grado di consapevolezza e volontà: dolo, quando l’evento è voluto, colpa, quando l’evento non è voluto ma deriva da negligenza o dalla violazione di una regola cautelare. Nessuna di queste tre domande, come si vedrà, ammette una risposta scontata.

La risposta, del resto, non può essere unitaria, perché l’evento lesivo si colloca al termine di una catena che coinvolge soggetti diversi tra loro – il progettista e il produttore del sistema, il comandante che ne autorizza l’impiego, l’operatore che ne supervisiona l’azione – e ciascuno di essi risponde, se risponde, secondo criteri di imputazione differenti, che dipendono dalla posizione concretamente occupata nella catena decisionale.

1. Il quadro internazionale: principi guida e tavoli di confronto

Prima di addentrarsi nell’analisi delle singole posizioni di responsabilità, vale la pena rendere conto del contesto in cui la materia si è sviluppata negli ultimi anni. La comunità internazionale ha infatti avviato diverse iniziative volte a garantire che l’intelligenza artificiale in ambito militare venga sviluppata e utilizzata in modo etico, trasparente e conforme al diritto internazionale. Si tratta, per il momento, di principi privi di forza vincolante in senso proprio; ciò non toglie che siano proprio queste linee guida a orientare, oggi, l’adozione delle normative interne e internazionali dedicate allo sviluppo e all’utilizzo dei sistemi d’arma implementati con IA. Vale la pena ripercorrere, sia pur brevemente, le iniziative più rilevanti.

1.1. La risoluzione ONU del dicembre 2024 e il workshop MAPS

Un primo, significativo passo si deve all’Assemblea Generale delle Nazioni Unite, che nel dicembre 2024 ha approvato la risoluzione «Artificial Intelligence in the military domain and its implications for international peace and security». L’obiettivo dichiarato è quello di applicare il Diritto Internazionale Umanitario (DIU)¹ a tutte le fasi del ciclo di vita dell’intelligenza artificiale in ambito militare, e di promuovere, al contempo, trasparenza, responsabilità e cooperazione tra gli Stati. Non è un caso che il documento individui proprio nell’imputazione della responsabilità per errori commessi da sistemi di targeting alimentati dall’IA il rischio più significativo.

Nell’ottica proposta dalle Nazioni Unite assume un ruolo centrale il dialogo tra Stati: ciascuno Stato dovrebbe anzitutto dotarsi di una propria normativa interna, volta a regolare lo sviluppo e il successivo utilizzo dei sistemi d’arma implementati con intelligenza artificiale, per poi avviare, su tale base, il dialogo a livello internazionale. Proprio da questa risoluzione discende il workshop periodico «Military AI, Peace & Security» (MAPS), che ha il compito di approfondire le opportunità e le sfide poste dall’integrazione dell’IA nel dominio militare, esaminando il panorama normativo esistente e cercando di individuare, tra le posizioni dei diversi Stati membri, aree di possibile convergenza.

1.2. Il summit REAIM

Accanto al percorso avviato in sede ONU si colloca il summit «Responsible AI in the Military Domain» (REAIM), un dialogo multilaterale tra Stati, industria, mondo accademico e società civile, attivo dal 2023 e finalizzato, anch’esso, a promuovere un uso etico, trasparente e conforme al diritto internazionale dell’intelligenza artificiale nel settore militare. Nel 2024 questo percorso ha condotto alla firma di un «Blueprint for action», documento programmatico che fissa alcune linee guida per l’uso responsabile dell’IA in ambito militare, pur restando privo di efficacia vincolante sul piano giuridico.

Tra i principi affermati da queste linee guida meritano di essere ricordati, in particolare: l’idea che i sistemi d’arma implementati con IA debbano essere sviluppati e utilizzati in modo da non pregiudicare la pace, la stabilità e la sicurezza internazionale; l’esigenza di prevenire che l’intelligenza artificiale diventi uno strumento di proliferazione di armi di distruzione di massa, tanto per gli Stati quanto per attori non statali come i gruppi terroristici; la necessità di predisporre solidi sistemi di sicurezza, così da impedire che questi sistemi d’arma finiscano nelle mani di «attori irresponsabili»; l’affermazione, ancora, che i sistemi d’arma implementati con IA debbano sempre risultare conformi ai principi del diritto internazionale umanitario; e, soprattutto, il principio secondo cui la responsabilità per l’uso di tali sistemi resta comunque in capo a un essere umano – principio riassunto nella formula latina machina delinquere non potest (la macchina non può commettere un reato), su cui si tornerà più diffusamente nel prosieguo. Chiude il quadro la richiesta, altrettanto importante, di garantire un’adeguata formazione a chi è chiamato a utilizzare questi sistemi.

1.3. Il documento del Comitato Internazionale della Croce Rossa

Un contributo altrettanto rilevante proviene dal Comitato Internazionale della Croce Rossa, che nel documento «Decisions, decisions, decisions: computation and artificial intelligence in military decision-making» ha posto l’accento sui rischi connessi all’utilizzo dei sistemi d’arma di cui qui si discorre. Il punto su cui il documento insiste maggiormente è la necessità di un controllo umano persistente: gli operatori umani, si legge, non devono soltanto essere in grado di identificare gli errori commessi dal sistema, ma devono anche saper esercitare un adeguato giudizio giuridico nel decidere se ricorrere alla forza avvalendosi del suo supporto. Da questa premessa discende, quasi naturalmente, l’imprescindibilità del controllo umano e, di riflesso, l’impossibilità di imputare eventuali responsabilità al sistema d’arma in quanto tale.

1.4. Il Parlamento europeo e l’AI Act

Anche il Parlamento europeo si è occupato del tema, pubblicando nel 2025 il briefing «Defence and Artificial Intelligence»: un documento che descrive come l’intelligenza artificiale stia trasformando la guerra moderna, mettendo a fuoco tanto le opportunità – sistemi di sorveglianza avanzata, supporto decisionale, difesa cibernetica – quanto i rischi legati alle applicazioni letali autonome e al rispetto del diritto internazionale umanitario. Ne emerge, ancora una volta, la necessità di una normativa etica e trasparente, unita a una preoccupazione esplicita per lo sviluppo di sistemi d’arma implementati con IA totalmente autonomi.

Da ultimo, il Parlamento ha discusso alcune risoluzioni su un Libro Bianco per la Difesa europea, nell’ambito delle quali sono state sollevate questioni legate al dual-use – le tecnologie, cioè, utilizzabili sia per scopi civili sia per scopi militari – e all’impatto del Regolamento (UE) 2024/1689, il c.d. AI Act, che ha escluso esplicitamente l’ambito militare dal proprio campo di applicazione.

2. Gli obblighi del diritto internazionale umanitario come regola cautelare

A fronte del vuoto normativo che ancora circonda i sistemi d’arma implementati con IA, il punto di partenza obbligato per individuare i profili di responsabilità dei soggetti che li utilizzano non può che essere il diritto internazionale umanitario. Il motivo è, a ben vedere, tecnico: nel diritto penale italiano l’accertamento della colpa richiede la violazione di una regola cautelare – cioè, una regola di condotta volta a prevenire un determinato rischio – ai sensi dell’art. 43 c.p.², che a tal fine richiama anche l’inosservanza di leggi, regolamenti, ordini o discipline (la c.d. colpa specifica). Ebbene, nel contesto bellico questa regola cautelare è data, in primo luogo, proprio dagli obblighi previsti dal Primo Protocollo Addizionale alle Convenzioni di Ginevra del 1977, i quali sono normati in specifici articoli.

Si parta dall’art. 36³, che impone di verificare, ancor prima di studiare, sviluppare, acquisire o adottare una nuova arma, se il suo impiego sia vietato «in alcune o in tutte le circostanze» dal Protocollo o da altra norma di diritto internazionale applicabile. A questo si affianca l’art. 35, par. 2⁴, che vieta armi, mezzi o metodi di guerra capaci di causare mali superflui o sofferenze inutili. Un ruolo altrettanto centrale è svolto dall’art. 48⁵, che impone alle parti in conflitto di distinguere, in ogni momento, tra popolazione civile e combattenti, e tra beni civili e obiettivi militari, dirigendo le operazioni soltanto contro questi ultimi. Vi si aggiungono gli artt. 51, par. 2 e par. 5, lett. b), e 52, par. 1 e par. 2⁶, che vietano gli attacchi diretti contro la popolazione civile e, più in generale, quelli che – pur diretti contro un obiettivo militare – provochino danni collaterali eccessivi rispetto al vantaggio militare concreto e diretto atteso (c.d. principio di proporzionalità). Chiude il quadro l’art. 57⁷, che impone di adottare tutte le misure praticabili per assicurare la corretta identificazione del bersaglio e per mantenere il controllo sull’esecuzione dell’attacco, così da poterlo sospendere o annullare: è il principio di precauzione, destinato – come si vedrà – ad assumere un rilievo particolare nel caso dei sistemi d’arma automatizzati.

Questi obblighi non restano confinati al piano internazionale: proprio perché specificano il contenuto della diligenza esigibile da chi sviluppa, autorizza o utilizza un sistema d’arma, essi costituiscono le «leggi» e i «regolamenti» la cui inosservanza, ai sensi dell’art. 43 c.p., integra colpa specifica in capo a ciascuno dei soggetti che si esamineranno nel prosieguo.

3. Le regole d’ingaggio (ROE) come specificazione operativa degli obblighi di precauzione

Gli obblighi generali appena richiamati – distinzione, proporzionalità, precauzione – trovano un’ulteriore concretizzazione nelle regole d’ingaggio (Rules of Engagement, ROE), cioè in direttive emanate dall’autorità di comando – a livello politico-militare, di comando dell’operazione o di singola missione – che definiscono le circostanze, le condizioni, il grado e le modalità con cui la forza può essere impiegata in un determinato teatro operativo.

Le ROE non rappresentano però fonte di diritto internazionale, sono perlopiù, lo strumento attraverso cui i principi di distinzione, proporzionalità e precauzione vengono tradotti in criteri operativi vincolanti per la catena di comando. Vi rientrano, tra l’altro, le soglie di identificazione positiva del bersaglio (positive identification, PID), i livelli di comando abilitati ad autorizzare l’ingaggio, le condizioni di autodifesa, le eventuali restrizioni geografiche o temporali e, per quanto qui interessa più da vicino, i requisiti di controllo umano richiesti prima che un sistema a targeting automatizzato possa procedere all’ingaggio.

Sul piano della normativa interna, le ROE assumono una duplice rilevanza. Da un lato, integrano – per il personale militare – gli «ordini» e le «discipline» richiamati dall’art. 43, co. 3, c.p. quali fonti della regola cautelare la cui inosservanza costituisce colpa specifica. Dall’altro, operano quali ordini legittimi della pubblica autorità ai sensi dell’art. 51 c.p.⁸, norma che disciplina le cosiddette “scriminanti”, cioè quelle situazioni che escludono la punibilità di un fatto perché autorizzato dall’ordinamento. Ne discende una conseguenza abbastanza intuitiva: chi agisce nei limiti di ROE legittimamente emanate e conformi al diritto internazionale umanitario beneficia della scriminante dell’adempimento del dovere⁹, mentre chi le disattende – superandone i limiti operativi, oppure omettendo le verifiche da esse prescritte – risponde a titolo di colpa per inosservanza di discipline.

Il discorso si complica, tuttavia, se sono le stesse ROE applicabili a una missione a essere state redatte in violazione del diritto internazionale umanitario – si pensi al caso, per nulla teorico, di ROE che autorizzino l’ingaggio automatizzato senza le soglie di controllo umano richieste dal principio di precauzione. In un’ipotesi simile l’ordine risulterebbe manifestamente illegittimo, e la sua esecuzione non basterebbe a escludere la responsabilità di chi lo abbia eseguito: lo prevede, sul piano interno, l’art. 51 c.p.¹⁰, e lo conferma, sul piano internazionale, l’art. 33 dello Statuto di Roma¹¹, che esclude l’efficacia scriminante dell’ordine del superiore proprio quando l’ordine sia manifestamente illegittimo, o quando l’agente ne conoscesse comunque l’illegittimità.

A valle di tali considerazioni, va fatta, però, una precisazione importante: Le ROE non sono uguali in tutti i Paesi; infatti, ogni Stato – e spesso ogni singola missione – adotta le proprie, con contenuti anche molto diversi tra loro, e nessuna ROE straniera ha di per sé rilievo per il diritto penale italiano. Quando in questo elaborato si valutano le conseguenze penali del rispetto o della violazione delle ROE, il riferimento resta sempre il diritto penale italiano: le ROE applicabili al caso concreto vengono cioè assunte come un semplice dato di fatto – qual è, in quella missione, la regola che il soggetto doveva seguire – da misurare sulle categorie del nostro ordinamento, in primo luogo gli artt. 43 e 51 c.p. Cambiando le ROE applicabili, può naturalmente cambiare la valutazione del singolo caso; non cambiano, invece, i criteri giuridici con cui l’ordinamento italiano stabilisce se quel comportamento sia penalmente rilevante.

4. Machina delinquere non potest: il divieto di soggettività penale della macchina

Si è già avuto modo di anticipare, in apertura, come la comunità internazionale abbia affermato con una certa insistenza la necessità che i sistemi d’arma gestiti dall’intelligenza artificiale rimangano sempre sotto il controllo di operatori umani. Non si tratta soltanto di un auspicio politico, ma quel principio trova conferma, con riguardo alla normativa interna, nei principi costituzionali.

Basti pensare all’art. 27, co. 1, Cost.¹², che sancisce il carattere personale della responsabilità penale, e all’art. 25, co. 2, Cost.¹³, che sancisce invece il principio di legalità e tassatività. Nessuna fattispecie incriminatrice, del resto, in alcun ordinamento oggi vigente, individua nel sistema di intelligenza artificiale un soggetto attivo del reato: gli stessi artt. 42 e 43 c.p.¹⁴, definendo l’imputazione soggettiva in termini di dolo, colpa o preterintenzione, presuppongono necessariamente un agente capace di rappresentazione e volizione, qualità che, per quanto sofisticato, un sistema di intelligenza artificiale semplicemente non possiede in senso giuridicamente rilevante.

Se ne ricava allora una regola non scritta, ma sistematicamente cogente, che è utile fissare fin da ora perché costituirà la premessa di tutto il ragionamento successivo: machina delinquere (et puniri) non potest – la macchina non può commettere un reato, né essere punita. Ogni condotta materialmente realizzata dal sistema dovrà dunque essere ricondotta, ai fini penali, all’azione o all’omissione di un agente umano individuabile secondo gli ordinari criteri di imputazione.

5.1. Perché lo stesso ragionamento fatto per le società non vale per la macchina

A questo punto si può sollevare un’obiezione. Il diritto penale ha già superato, in passato, un principio molto simile: il societas delinquere non potest – a lungo usato per escludere qualunque responsabilità penale delle società, oggi abbandonato in molti Paesi, Italia compresa (sia pure sotto forma di responsabilità amministrativa: v. § 6.5). Allora ci si chiede: se quella regola è caduta, perché non dovrebbe cadere anche quella sulla macchina?

L’obiezione, nella sua forma più compiuta, si deve al giurista israeliano Gabriel Hallevy¹⁵, secondo cui un robot chirurgico o un drone autonomo avrebbero già oggi tutto ciò che serve per essere ritenuti responsabili: una condotta materiale propria, e persino un atteggiamento assimilabile alla colpa o alla consapevolezza.

È un’obiezione suggestiva, ma ad avviso dello scrivente, sbagliata: lo ha spiegato bene, nella dottrina italiana, Alberto Cappellini¹⁶, e il motivo è semplice. Una società non esiste davvero, in senso fisico: esiste solo sulla carta, come costruzione giuridica. Quando la legge punisce una società, in realtà colpisce – attraverso di essa – le persone fisiche che la amministrano e la posseggono: è il loro patrimonio a pagare, ed è sulla loro condotta futura che la minaccia della pena può davvero incidere.

Un sistema di intelligenza artificiale, invece, esiste davvero, fisicamente, nel mondo. L’uomo lo crea e lo programma, ma una volta acceso il sistema comincia a comportarsi per conto proprio – sfuggendo al controllo umano in tempo reale. Ed è qui il punto: proprio perché la macchina non è uno schermo dietro cui si nascondono interessi umani concreti, punirla non “toccherebbe” nessuno. Nessun patrimonio, nessuna reputazione, nessuna libertà di una persona fisica ne risente. Inoltre nessun messaggio, rivolto a una macchina, può dissuadere altri esseri umani dal commettere reati in futuro.

Ecco perché il problema non è, in fondo, capire quanto sia «intelligente» un sistema di IA; ma nella punibilità in senso proprio, che nessun progresso tecnologico può da solo risolvere. Una pena inflitta alla macchina non servirebbe a nulla: non punirebbe una vera colpa (che manca), non la «rieduca» – si può solo riprogrammarla – e non fa paura a nessuno, perché una macchina non prova timore, né un’altra macchina può capire il senso di un esempio. Per questo ogni condotta della macchina va sempre ricondotta a un essere umano: non perché la tecnologia sia ancora indietro, ma perché, così come è costruito oggi il diritto penale, punire un soggetto artificiale non è possibile.

5. I soggetti della catena

Messi a fuoco il quadro normativo di riferimento e il principio per cui la responsabilità resta sempre umana, si può ora provare a percorrere, uno per uno, i soggetti che compongono la catena decisionale, chiedendosi per ciascuno quale sia il criterio di imputazione applicabile.

5.1. Il progettista e il produttore del sistema

Conviene distinguere subito due ipotesi, agli antipodi circa la gravità. La prima, meno frequente ma concettualmente più semplice, è quella in cui l’errore di bersaglio discende da una manipolazione intenzionale del sistema: si pensi a un dataset di addestramento alterato consapevolmente, allo scopo di abbassare la soglia di riconoscimento di un obiettivo civile. In un caso simile l’elemento soggettivo doloso (art. 43, co. 1, c.p.) non incontra particolari ostacoli teorici, perché il sistema non è altro che l’instrumentum sceleris, cioè lo strumento consapevolmente piegato alla commissione del reato. Se poi il fatto integra un attacco intenzionalmente diretto contro la popolazione civile, entra in gioco anche il diritto penale internazionale, e in particolare l’art. 8, par. 2, lett. b), n. i), dello Statuto di Roma¹⁷, che richiede però – ai sensi dell’art. 30 dello stesso Statuto¹⁸ – la prova dell’intent e della knowledge rispetto agli elementi materiali del crimine: occorre, in altre parole, dimostrare che l’autore volesse la condotta e fosse consapevole delle sue conseguenze.

Assai più frequente, nella pratica, è la seconda ipotesi: quella in cui l’errore è riconducibile non a un intento doloso, ma a un difetto di progettazione o a un addestramento inadeguato del sistema. In questo caso il produttore risponde, sul piano interno, a titolo di colpa (art. 43, co. 3, c.p.), per violazione della regola cautelare specifica costituita dall’obbligo di revisione giuridica previsto dall’art. 36 del Primo Protocollo Addizionale, di cui si è detto al § 3: l’immissione in servizio di un sistema non validato – o validato per scenari operativi diversi da quelli di effettivo impiego – integra, appunto, l’inosservanza di quella regola cautelare.

Un’ulteriore complicazione si presenta quando il sistema sia stato sviluppato e commercializzato come prodotto per il mercato civile (general purpose AI), per poi trovare, in un secondo momento, un impiego militare. In un caso simile occorre infatti tenere presente che l’art. 2, par. 3, del Regolamento (UE) 2024/1689 (AI Act)¹⁹ esclude dall’ambito di applicazione del regolamento i sistemi utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale. Ne consegue che gli obblighi di gestione del rischio e di validazione previsti dall’art. 25 dell’AI Act²⁰ per i sistemi che transitano dall’uso civile a quello militare non trovano, qui, applicazione diretta: la posizione di garanzia del produttore deve dunque essere ricostruita sui soli principi generali della colpa da prodotto pericoloso, senza il conforto di un parametro normativo europeo specifico – una lacuna, questa, non priva di conseguenze pratiche.

Resta, in ogni caso, un profilo più problematico di tutti gli altri: quello dell’accertamento causale. L’art. 40, co. 1, c.p.²¹ richiede, come è noto, che l’evento sia conseguenza dell’azione o dell’omissione; l’art. 41, co. 2, c.p.²² esclude, a sua volta, tale rapporto solo quando sopravvenga una causa da sola sufficiente a determinare l’evento. Ci si potrebbe chiedere, a questo punto, se l’opacità delle architetture di apprendimento automatico – la c.d. black box²³ – non finisca per interrompere essa stessa il nesso causale. La risposta, tuttavia, è negativa: la mera imprevedibilità statistica del comportamento del sistema, se genericamente prevedibile in astratto – se, cioè, il produttore era in condizione di sapere che il sistema potesse produrre errori di quel tipo, pur non nello specifico caso concreto – non esclude né il nesso causale né la colpa, ma impone semmai un dovere di prevenzione ancora più rigoroso. Diverso, invece, è il discorso per il caso fortuito previsto dall’art. 45 c.p.²⁴, che esclude la responsabilità soltanto per gli eventi realmente imprevedibili e inevitabili secondo la miglior scienza ed esperienza del momento.

5.2. Il comandante che autorizza l’impiego

Spostando lo sguardo dal produttore a chi il sistema lo utilizza sul campo, occorre anzitutto considerare la posizione del comandante che dispone l’impiego del sistema in una determinata missione. Questi risponde, in primo luogo, per violazione dell’obbligo di precauzione di cui all’art. 57 del Primo Protocollo Addizionale, che gli impone di verificare – prima di autorizzare l’attacco – che il bersaglio sia stato correttamente identificato, e che il contesto operativo (si pensi a uno scenario urbano, con commistione tra combattenti e civili) sia compatibile con le capacità effettivamente dimostrate dal sistema.

Sul piano dell’elemento soggettivo la distinzione decisiva corre tra due figure spesso confuse tra loro. Se il comandante era consapevole dell’inadeguatezza del sistema rispetto al contesto, e ha comunque autorizzato l’attacco accettando il rischio dell’evento, si configura dolo eventuale²⁵; se invece l’inadeguatezza non era conoscibile con l’ordinaria diligenza, ma il rischio era stato quantomeno rappresentato, si configura piuttosto colpa cosciente (art. 43, co. 3, c.p., seconda ipotesi). La differenza, per quanto sottile, non è affatto irrilevante.

Essa rileva, anzitutto, sul piano internazionale: l’art. 8, par. 2, lett. b), n. iv), dello Statuto di Roma²⁶ – che incrimina l’attacco lanciato «nella consapevolezza» (in the knowledge) che esso causerà perdite civili incidentali manifestamente eccessive rispetto al vantaggio militare concreto e diretto atteso – richiede infatti un elemento soggettivo qualificato in termini di conoscenza, ai sensi dell’art. 30 dello Statuto. Ne discende che una condotta meramente colposa del comandante non basta, di per sé, a integrare il crimine di guerra da sproporzione, pur potendo residuare, sul piano interno, una responsabilità colposa.

Vi è poi un secondo, distinto profilo di responsabilità, legato non a ciò che il comandante ha autorizzato, ma a ciò che ha omesso di fare. L’art. 40, co. 2, c.p.²⁷ consente infatti di imputare al comandante anche l’omesso esercizio dei poteri di controllo e interruzione dell’attacco, quando un simile obbligo gli fosse riferibile ai sensi dell’art. 57 del Protocollo. Sul piano internazionalpenalistico, un ruolo analogo è svolto dall’art. 28 dello Statuto di Roma²⁸, che disciplina la responsabilità del comandante per i crimini commessi da forze sotto il suo effettivo controllo, quando questi non abbia esercitato il controllo che le circostanze richiedevano. È vero che questa norma è stata pensata per l’omesso controllo su subordinati umani, e che la sua applicabilità a un sistema d’arma autonomo resta questione dibattuta in dottrina, non ancora definita in via giurisprudenziale; resta però il fatto che l’analogia strutturale – l’omesso esercizio di un potere di controllo su un’azione che produce l’evento – rende quantomeno plausibile un’estensione interpretativa in tal senso.

In questa valutazione le regole d’ingaggio applicabili alla missione tornano ad avere un ruolo centrale, perché costituiscono il parametro immediato cui fare riferimento per accertare la colpa: un comandante che autorizzi l’impiego del sistema in violazione delle ROE vigenti viola, in altre parole, una regola cautelare specifica ai sensi dell’art. 43, co. 3, ultima ipotesi, c.p. (inosservanza di discipline).

5.3. L’operatore che supervisiona l’esecuzione

Scendendo ancora lungo la catena, si arriva infine all’operatore, cui è affidato il controllo umano sull’esecuzione dell’attacco. Anche questi è titolare, come il comandante, di una posizione di garanzia ai sensi dell’art. 40, co. 2, c.p. (v. supra, § 6.2), correlata in questo caso all’obbligo di mantenere la possibilità di sospendere o annullare l’attacco (art. 57, par. 2, lett. b), del Protocollo I). Se l’operatore omette di esercitare tale potere, e l’errore era riconoscibile con l’ordinaria diligenza sulla base delle informazioni disponibili, si configura colpa ai sensi dell’art. 43, co. 3, c.p.

Non ogni omissione, però, è ugualmente rimproverabile. Il limite dell’imputazione soggettiva è segnato, anche qui, dal principio per cui la colpa richiede la violazione di una regola cautelare esigibile: se l’operatore ha fatto ragionevole affidamento sull’output del sistema, restando entro i limiti della formazione ricevuta, e l’errore era generato da un comportamento del sistema non intelligibile con gli strumenti a sua disposizione, viene meno la rimproverabilità soggettiva richiesta dall’art. 43 c.p., e può residuare, nei casi di reale imprevedibilità, l’esimente del caso fortuito ex art. 45 c.p. (v. supra, § 6.1). Le cose stanno diversamente quando l’operatore trascuri specifiche procedure di verifica che era stato addestrato a seguire – si pensi al mancato controllo di un’informazione di intelligence agevolmente disponibile, e per di più contraddittoria rispetto all’indicazione del sistema: in un caso simile si configura colpa specifica per inosservanza di discipline, ai sensi dell’art. 43, co. 3, ultima ipotesi, c.p.

Anche qui, come già per il comandante, le ROE della missione forniscono il parametro concreto di riferimento: se specificano i passaggi che l’operatore è tenuto a compiere prima di consentire l’ingaggio – la verifica di identificazione positiva del bersaglio (PID), il rispetto dei livelli di autorizzazione previsti – la loro inosservanza costituisce colpa specifica ai sensi dell’art. 43, co. 3, c.p. Il rispetto delle ROE vigenti, per converso, quando l’errore residuo sia imputabile a un difetto del sistema non rilevabile con gli strumenti a disposizione dell’operatore, rileva ai fini della non esigibilità della condotta alternativa lecita e, nei casi di reale imprevedibilità, del già ricordato caso fortuito ex art. 45 c.p.

5.4. Il concorso colposo tra più soggetti

Fin qui si è ragionato come se, in ogni singolo caso, fosse possibile isolare la condotta di un unico responsabile. Nella realtà, però, accade sovente che l’evento sia il risultato del concorso di più condotte colpose autonome tra loro: un difetto di progettazione non del tutto risolutivo, unito a un contesto operativo inidoneo autorizzato dal comandante, unito ancora a un’omessa verifica dell’operatore. In un’ipotesi simile trova applicazione l’art. 113 c.p.²⁹, che disciplina proprio la cooperazione nel delitto colposo: ciascun soggetto risponde della propria condotta colposa, purché essa abbia dato un contributo causale efficiente all’evento, senza che sia necessaria la consapevolezza dell’altrui apporto colposo.

Questa norma consente di superare, sul piano interno, un’obiezione che potrebbe altrimenti apparire fondata: quella secondo cui la frammentazione della catena decisionale impedirebbe di individuare un responsabile unico, e finirebbe così per dissolvere la responsabilità penale nel suo complesso. Le cose, però, non stanno così: la responsabilità, in questi casi, si distribuisce – non si dissolve – tra i soggetti che hanno concorso colposamente, ciascuno nei limiti della propria regola cautelare violata.

5.5. La responsabilità dell’ente produttore

Un’ultima considerazione riguarda l’ipotesi, tutt’altro che infrequente, in cui il sistema sia stato sviluppato da un’impresa. Si pone, in questo caso, il tema della responsabilità amministrativa da reato dell’ente, disciplinata in Italia dal D.Lgs. 231/2001³⁰ (e da normative analoghe, ove esistenti, in altri ordinamenti). Perché l’ente risponda occorre che il reato-presupposto sia stato commesso, nel suo interesse o a suo vantaggio, da un soggetto in posizione apicale o subordinata (art. 5 D.Lgs. 231/2001), e occorre altresì che l’ente non riesca a dimostrare di aver adottato ed efficacemente attuato, prima del fatto, un modello di organizzazione e gestione idoneo a prevenire reati della specie verificatasi (artt. 6 e 7 D.Lgs. 231/2001).

Qualora il fatto colposo del progettista integri, in concreto, una fattispecie di reato-presupposto colposo prevista dal catalogo del decreto, un elemento assume qui particolare rilievo: l’assenza di una valutazione preventiva dei rischi digitali (digital risk assessment) che avesse specificamente considerato i rischi di opacità algoritmica e di comportamento emergente del sistema. Una simile lacuna costituisce, infatti, un elemento sintomatico dell’inidoneità del modello organizzativo, e come tale rileva ai fini dell’accertamento della colpa di organizzazione dell’ente.

6. Conclusioni

Di tutto questo percorso v’è da affermare dunque che l’errore di bersaglio generato da un sistema di targeting basato su intelligenza artificiale non apre, come si potrebbe pensare a un primo sguardo, un vuoto di responsabilità in senso assoluto. Apre, piuttosto, un accertamento normativamente frammentato, nel quale ciascun soggetto della catena – produttore, comandante, operatore, eventualmente l’ente – risponde, se risponde, secondo la propria regola cautelare violata (gli artt. 36 e 57 del Primo Protocollo Addizionale; le regole d’ingaggio applicabili alla missione, quali «discipline» ai sensi dell’art. 43, co. 3, c.p.) e secondo il proprio elemento soggettivo (artt. 42-43 c.p.; art. 30 dello Statuto di Roma), fermo restando il concorso colposo disciplinato dall’art. 113 c.p. quando le condotte negligenti si sommino.

Resta, tuttavia, un rischio concreto, che è bene non sottovalutare. Alla luce dell’opacità dei sistemi ad apprendimento automatico, è possibile che l’accertamento causale richiesto dagli artt. 40 e 41 c.p., e dall’art. 30 dello Statuto di Roma, non riesca in concreto a essere condotto con il rigore che pure la legge richiede – non perché la responsabilità sia esclusa in astratto, ma perché la prova del nesso causale e della colpa specifica diventa, nella pratica, difficilmente raggiungibile. Da qui l’esigenza, già segnalata in sede internazionale, di sistemi tracciabili e spiegabili; infatti solo sistemi di questo tipo, possono rendere possibile – e non soltanto teoricamente predicabile – l’accertamento che le norme oggi vigenti già impongono.

_{*L’autore, avv. Maurizio Bortolotto, è esperto di diritto penale industriale}

_{1Il Diritto Internazionale Umanitario (DIU), detto anche diritto dei conflitti armati, è l’insieme delle norme internazionali che regolano la condotta delle ostilità e mirano a limitarne gli effetti sulle persone che non partecipano, o non partecipano più, alle operazioni militari (civili, feriti, prigionieri). Le sue fonti principali sono le quattro Convenzioni di Ginevra del 1949 e i loro due Protocolli Addizionali del 1977.}

_{2L’art. 43 c.p. definisce l’elemento soggettivo del reato, cioè il rapporto psichico tra l’autore e il fatto commesso. Il delitto è doloso quando l’evento dannoso o pericoloso è preveduto e voluto dall’agente come conseguenza della propria azione od omissione. È colposo (o contro l’intenzione) quando l’evento, pur non voluto, si verifica a causa di negligenza, imprudenza o imperizia (colpa generica), oppure per inosservanza di leggi, regolamenti, ordini o discipline (colpa specifica). È infine preterintenzionale quando dall’azione od omissione deriva un evento dannoso o pericoloso più grave di quello voluto dall’agente.}

_{3L’art. 36 del Primo Protocollo Addizionale alle Convenzioni di Ginevra del 1977 impone a ogni Stato, prima di adottare o impiegare una nuova arma, un nuovo mezzo o un nuovo metodo di guerra, di verificarne la conformità al diritto internazionale, valutando se il suo utilizzo sia vietato in tutte o in alcune circostanze. È il c.d. obbligo di legal review (verifica giuridica preventiva) delle nuove armi, che nel caso dell’intelligenza artificiale applicata ai sistemi d’arma comporta la validazione del sistema rispetto agli scenari operativi in cui sarà effettivamente impiegato.}

_{4L’art. 35, par. 2, del Primo Protocollo Addizionale vieta l’impiego di armi, proiettili, materiali e metodi di guerra tali da causare mali superflui o sofferenze inutili rispetto al vantaggio militare concretamente perseguito.}

_{5L’art. 48 del Primo Protocollo Addizionale enuncia il c.d. principio di distinzione: le parti in conflitto devono sempre distinguere tra popolazione civile e combattenti, e tra beni di carattere civile e obiettivi militari, dirigendo le operazioni soltanto contro questi ultimi. È uno dei principi cardine del diritto internazionale umanitario.}

_{6Gli artt. 51 e 52 del Primo Protocollo Addizionale vietano gli attacchi diretti contro la popolazione civile e sanciscono il c.d. principio di proporzionalità: anche un attacco diretto contro un obiettivo militare legittimo è vietato se ci si può attendere che causi perdite civili o danni ai beni civili eccessivi rispetto al vantaggio militare concreto e diretto che si intende conseguire.}

_{7L’art. 57 del Primo Protocollo Addizionale codifica il c.d. principio di precauzione: chi pianifica o decide un attacco deve adottare tutte le misure praticabili per verificare che il bersaglio sia effettivamente un obiettivo militare, per scegliere mezzi e metodi idonei a ridurre al minimo i danni ai civili, e per sospendere o annullare l’attacco qualora emerga che l’obiettivo non è legittimo o che i danni collaterali sarebbero eccessivi.}

_{8Le cause di giustificazione, dette anche scriminanti, sono situazioni che escludono l’antigiuridicità di un fatto altrimenti conforme a una norma incriminatrice, perché la condotta è autorizzata – o addirittura imposta – dall’ordinamento nel suo complesso.}

_{9L’art. 51 c.p.: “non è punibile chi commette un fatto per adempiere un dovere imposto da una norma giuridica o da un ordine legittimo dell’autorità.”}

_{10 Se l’ordine è manifestamente illegittimo – se, cioè, la sua illiceità sarebbe percepibile da chiunque, indipendentemente da competenze tecniche particolari – risponde penalmente sia chi lo ha impartito sia chi, consapevole dell’illegittimità, lo ha comunque eseguito.}

_{11L’art. 33 dello Statuto istitutivo della Corte penale internazionale (Statuto di Roma, 1998) prevede che l’ordine di un governo o di un superiore non esclude, di regola, la responsabilità penale di chi lo ha eseguito, salvo che sussistano contestualmente tre condizioni eccezionali: l’esistenza di un obbligo giuridico di obbedienza, l’ignoranza dell’illegittimità dell’ordine, e la non manifesta illegittimità dell’ordine stesso. In ogni caso, gli ordini di commettere un genocidio o un crimine contro l’umanità sono sempre considerati manifestamente illegittimi.}

_{12L’art. 27, primo comma, della Costituzione italiana stabilisce che la responsabilità penale è personale: nessuno può essere chiamato a rispondere penalmente per un fatto altrui, né – per quanto qui interessa – può essere ritenuto autore di un reato un soggetto privo della capacità di intendere e di volere, come una macchina o un sistema di intelligenza artificiale.}

_{13L’art. 25, secondo comma, della Costituzione sancisce il principio di legalità e di tassatività: nessuno può essere punito se non in forza di una legge entrata in vigore prima del fatto commesso, che qualifichi espressamente quel fatto come reato e ne descriva con precisione gli elementi costitutivi, compresa la figura dell’autore.}

_{14Gli artt. 42 e 43 c.p., nel definire l’imputazione soggettiva del reato in termini di dolo, colpa o preterintenzione, presuppongono un agente capace di rappresentazione (cioè di percepire e valutare la realtà) e di volizione (cioè di orientare consapevolmente la propria condotta): capacità che, allo stato, un sistema di intelligenza artificiale non possiede in senso giuridicamente rilevante.}

_{15Gabriel Hallevy ha sviluppato l’argomento del parallelo con la responsabilità delle società in diversi lavori, tra cui The Criminal Liability of Artificial Intelligence Entities, in Akron Intellectual Property Journal, 2010, 171 ss., e nelle monografie When Robots Kill. Artificial Intelligence under Criminal Law, Boston, 2013, e Liability for Crimes Involving Artificial Intelligence Systems, Dordrecht, 2015.}

_{16A. Cappellini, Machina delinquere non potest? Brevi appunti su intelligenza artificiale e responsabilità penale, in Criminalia, 2018, 499 ss. (anticipato online su disCrimen il 27 marzo 2019). A questo saggio si deve la formula ripresa nel titolo del presente lavoro, e la trattazione più completa, nella letteratura italiana, del confronto con la responsabilità delle società (§ 7 del saggio). Nello stesso senso, tra gli altri, C. Bagnoli, Teoria della responsabilità, Bologna, 2019, 72 ss.; nonché le raccomandazioni della prima Sezione del XXI Congresso internazionale dell’Association Internationale de Droit Pénal, che escludono espressamente un’imputazione diretta ai sistemi «intelligenti»: v. la relazione di L. Picotti, Categorie tradizionali del diritto penale e intelligenza artificiale: crisi o palingenesi?, in Sistema Penale.}

_{17L’art. 8, par. 2, lett. b), n. i), dello Statuto di Roma della Corte penale internazionale qualifica come crimine di guerra l’attacco intenzionalmente diretto contro la popolazione civile in quanto tale, o contro singoli civili che non prendono parte diretta alle ostilità.}

_{18L’art. 30 dello Statuto di Roma richiede, salvo diversa previsione, che l’autore di un crimine di competenza della Corte penale internazionale abbia agito con intent (la volontà di realizzare la condotta o di provocare l’evento) e knowledge (la consapevolezza che una circostanza esiste, o che l’evento si verificherà nel corso normale degli avvenimenti): uno standard soggettivo assimilabile, pur con alcune differenze, al dolo del diritto interno.}

_{19L’art. 2, par. 3, del Regolamento (UE) 2024/1689 (AI Act) esclude dal proprio ambito di applicazione i sistemi di intelligenza artificiale sviluppati o utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale, anche quando tali sistemi siano forniti da soggetti privati.}

_{20L’art. 25 del Regolamento (UE) 2024/1689 disciplina gli obblighi che si applicano quando un sistema di IA, inizialmente immesso sul mercato per finalità civili, muta la propria destinazione d’uso in un ambito ad alto rischio: in tal caso il soggetto che ne modifica la destinazione assume, in linea di principio, gli obblighi propri del fornitore, tra cui la gestione del rischio e la validazione del sistema.}

_{21L’art. 40, primo comma, c.p. sancisce il principio per cui nessuno può essere punito per un fatto previsto dalla legge come reato se l’evento dannoso o pericoloso non è conseguenza della sua azione od omissione: è la norma che disciplina il nesso di causalità, cioè il collegamento tra la condotta e l’evento.}

_{22L’art. 41, secondo comma, c.p. stabilisce che le cause sopravvenute interrompono il rapporto di causalità soltanto quando, da sole, siano state sufficienti a determinare l’evento, rendendo così irrilevante il contributo causale del comportamento precedente.}

_{23Con l’espressione black box si indica l’opacità tipica dei sistemi di apprendimento automatico più complessi (in particolare le reti neurali profonde), il cui funzionamento interno – cioè il modo in cui, a partire dai dati in ingresso, il sistema perviene a un determinato output – non è agevolmente ricostruibile né spiegabile, talvolta nemmeno da chi lo ha progettato.}

_{24L’art. 45 c.p. esclude la punibilità di chi ha commesso il fatto per caso fortuito o forza maggiore, cioè in presenza di un evento che, secondo la miglior scienza ed esperienza del momento, era realmente imprevedibile e inevitabile: si tratta di un limite esterno alla colpa, che opera quando l’agente non poteva in alcun modo prevedere né impedire l’accadimento.}

_{25Si parla di dolo eventuale quando l’agente si rappresenta la possibilità che si verifichi l’evento lesivo e, pur non desiderandolo direttamente, agisce comunque accettandone il rischio. Si parla invece di colpa cosciente (o con previsione) quando l’agente si rappresenta la possibilità dell’evento ma, per un’errata valutazione, confida di poterlo evitare o ritiene che non si verificherà. La differenza – sottile ma decisiva ai fini della pena – sta nell’atteggiamento interiore verso l’evento previsto: accettazione del rischio, nel primo caso; rifiuto confidente, nel secondo.}

_{26L’art. 8, par. 2, lett. b), n. iv), dello Statuto di Roma qualifica come crimine di guerra il lancio di un attacco nella consapevolezza che esso causerà perdite umane o danni ai beni civili manifestamente eccessivi rispetto al vantaggio militare concreto e diretto atteso, in violazione del principio di proporzionalità.}

_{27L’art. 40, secondo comma, c.p. equipara, ai fini della responsabilità penale, il non impedire un evento che si ha l’obbligo giuridico di impedire al cagionarlo direttamente. Chi è titolare di una simile posizione di garanzia – cioè di un obbligo giuridico di tutela o di controllo su una determinata fonte di rischio – risponde quindi anche per la propria inerzia, se questa ha consentito il verificarsi dell’evento che era tenuto a evitare.}

_{28L’art. 28 dello Statuto di Roma disciplina la c.d. responsabilità di comando: un comandante militare risponde dei crimini commessi dalle forze sotto il suo comando ed effettivo controllo quando sapeva, o avrebbe dovuto sapere in base alle circostanze del momento, che tali forze stavano per commettere o avevano commesso i crimini in questione, e non ha adottato le misure necessarie e ragionevoli per prevenirli, reprimerli o sottoporre la questione alle autorità competenti.}

_{29L’art. 113 c.p. disciplina la cooperazione nel delitto colposo: quando un evento è cagionato dalla condotta colposa di più persone, ciascuna risponde della propria violazione della regola di diligenza, prudenza o perizia, purché il proprio comportamento abbia dato un contributo causale efficiente all’evento. A differenza del concorso doloso, non è necessario che i concorrenti fossero consapevoli l’uno dell’apporto colposo dell’altro.}

_{30Il D.Lgs. 8 giugno 2001, n. 231, introduce nell’ordinamento italiano la responsabilità amministrativa degli enti (società, associazioni e altre organizzazioni) dipendente da reato: se un reato compreso nel catalogo del decreto è commesso, nell’interesse o a vantaggio dell’ente, da chi riveste una posizione apicale o da un suo sottoposto, l’ente risponde con sanzioni pecuniarie e interdittive, a meno che dimostri di aver adottato ed efficacemente attuato, prima del fatto, un modello di organizzazione e gestione idoneo a prevenire reati di quel tipo.}

L’articolo Intelligenza artificiale nel targeting militare: chi risponde se la macchina sbaglia? proviene da Difesa Online.

Conviene partire da una constatazione semplice: il diritto penale, per come lo conosciamo, è costruito su categorie antropocentriche, pensate, cioè,…

L’articolo Intelligenza artificiale nel targeting militare: chi risponde se la macchina sbaglia? proviene da Difesa Online.