Alla ricerca del miglior algoritmo per i crimini di guerra etici

OSAKA, GIAPPONE – 26 SETTEMBRE 2016: Modello endoscheletro T-800 a grandezza umana dal Terminator 3D negli Universal Studios japan© Sarunyu L / shutterstock.com

In tempo di guerra, ogni cittadino preoccupato dovrebbe chiedersi quali politici e militari stessi considerino limiti accettabili alla loro azione. Sono queste le persone che prendono le decisioni presumibilmente grazie alla loro seria comprensione della posta in gioco e al loro impegno per il bene comune.

L’intelligenza artificiale introduce una nuova dimensione. Poiché la maggior parte delle persone crede che l’intelligenza artificiale sia stata progettata per prendere decisioni razionali seguendo una comprensione algoritmica delle priorità, quando tali decisioni assomigliano a un crimine di guerra, nessun essere umano può essere incolpato per il risultato. La nozione stessa di responsabilità, che è al centro di ogni sistema etico, scompare. Non puoi incolpare la persona che ha creato l'algoritmo perché la sua intenzione non era criminale. Si può solo incolpare l’agente che ha creato le condizioni che hanno prodotto il crimine di guerra. Ma nel caso dell’intelligenza artificiale l’agente è un’astrazione.

Quindi, come conciliare tre forze disparate e potenzialmente contrastanti: la nozione estremamente pragmatica di efficacia militare, l’idea molto più astratta di standard etici e la presunta razionalità dell’intelligenza artificiale?

Secondo il Washington Post un alto ufficiale ritiene che non ci sia molto di cui discutere negli Stati Uniti perché questa è una “società giudaico-cristiana”.

Interrogato sulle opinioni del Pentagono sulla guerra autonoma, il generale a 3 stelle Richard G. Moore Jr., vice capo di stato maggiore dell'aeronautica militare per piani e programmi, ha offerto questa spiegazione in un evento dell'Hudson Institute a luglio. “Indipendentemente da quali siano le vostre convinzioni, la nostra società è una società giudaico-cristiana e abbiamo una bussola morale. Non tutti lo fanno. E c’è chi è disposto a perseguire i fini indipendentemente dai mezzi che devono essere impiegati”.

Di oggiDizionario settimanale del diavolodefinizione:

La retorica di Moore è rivelatrice. Inizia la sua affermazione con quello che è diventato un cenno obbligatorio all’inclusività, “indipendentemente da quali siano le tue convinzioni”. Ciò gli permette di riconoscere l’intera gamma di pensieri religiosi o addirittura antireligiosi consentiti dalla Carta dei diritti degli Stati Uniti prima di affermare quella che considera una verità fondamentale: “la nostra società è una società giudaico-cristiana e abbiamo una bussola morale”.

Proprio come la Corte Suprema ha affermato che le aziende sono persone in base all’idea del 19° secolo secondo cui le società commerciali dovrebbero essere considerate “persone morali”, Moore ritiene che anche una società multiculturale e democratica abbia un’identità morale. Ciò presumibilmente significa che è responsabile delle sue azioni, come deve essere qualsiasi essere morale.

Ma il pensiero di Moore fa un ulteriore passo avanti. Non solo gli Stati Uniti hanno un’identità morale e possono essere pensati come un’unità morale in cui tutti condividono la responsabilità delle proprie azioni. Possiede anche una “bussola morale”. Dictionary.com lo definisce come “un insieme interiorizzato di valori e obiettivi che guidano una persona riguardo al comportamento etico e al processo decisionale:” Vari commentatori lo paragonano all’idea agostiniana di “coscienza”. Ma la coscienza, proprio come la coscienza, è un concetto che sfugge a una chiara definizione filosofica anche se focalizzato sul processo decisionale personale. Entrambi si riferiscono al sistema di percezione di un individuo e implicano la soggettività. Né l'una né l'altra possono essere applicate agli enti collettivi. Per questo motivo, nessuno ha teorizzato con successo l’idea di una società, di una nazione o di qualsiasi altra entità collettiva dotata di una bussola morale che vada oltre l’idea di un codice di condotta o di una dichiarazione di intenti.

Quando descrivono la condivisione collettiva o l’armonizzazione di tutto ciò che incide sulla percezione, antropologi e sociologi preferiscono descrivere quelli che chiamano “valori fondamentali” delle culture. Ma questi valori non dovrebbero essere confusi con principi morali o etici. L’idea piuttosto contestabile di una cultura “giudaico-cristiana” ha poco a che fare con un quadro etico e più con presupposti politici ed economici vagamente formulati.