Uccidere l'umanità

AI: dalla licenza di uccidere alle diagnosi mediche

Angoscia e domande aperte sull'uso militare dell'intelligenza artificiale

Da un report del Consiglio di sicurezza delle Nazioni Unite apprendiamo che in Libia sono state impiegate armi autonome, cioè non controllate dall’essere umano. Sul sito www.peacelink.it un articolo di Maria Pastore su armi non controllate dall'uomo


In un recente report del Consiglio di sicurezza delle Nazioni Unite si rende noto che l’anno scorso, in Libia, sono state impiegate armi autonome, cioè non controllate dall’essere umano.

Sebbene siano sperimentate da tempo all’interno dei laboratori, si tratterebbe del primo utilizzo sul campo.

Non è chiaro come i droni riescano a riconoscere i loro bersagli nel caos di un campo di guerra, e come e a chi imputare le responsabilità quando un algoritmo ucciderà per sbaglio delle persone.

La Convenzione delle Nazioni Unite sulle armi non convenzionali (Ccw) (1) sta discutendo di armi autonome da pochissimo, dal 2013. In questi anni non si è raggiunto alcun accordo, alcuni Paesi (Stati Uniti, Francia, Israele, Regno Unito e Russia) hanno invocato la libertà di ricerca sull’intelligenza artificiale.

Per queste armi l’esercito statunitense ha messo a bilancio, tra il 2016 e il 2020, 18 miliardi di dollari.


Nel 2015, figure di spicco della tecnologia come il CEO di Tesla (TSLA) Elon Musk e il co-fondatore di Apple (AAPL) Steve Wozniak, più migliaia di ricercatori di intelligenza artificiale, hanno firmato una lettera aperta chiedendo il divieto di tali armi.

Al momento oltre 180 organizzazioni non governative di tutto il mondo stanno portando avanti la campagna “Stop killer robots”, chiedendo di limitarne l’uso almeno in fase offensiva.

Il professor Dino Pedreschi, ordinario di Informatica dell'Università di Pisa precisa che chi appartiene al filone della human-centered AI (2) crede fermamente che non si possa delegare a un algoritmo qualunque scelta che abbia una valenza etica o legale.


Le strategie di apprendimento sono così complesse (il cosiddetto deep learning) da sfuggire alla comprensione degli stessi programmatori. Il rischio è quindi di trovarsi in compagnia di vere e proprie scatole nere che forniscono risposte senza che sia ben chiaro il percorso che hanno compiuto per arrivarci. Sempre secondo il prof. Pedreschi la sfida per il futuro è quella di creare nuovi modelli di machine learning progettati in “explainable AI”, intelligenza artificiale in grado di decodificare il senso delle scelte in modo comprensibile a sviluppatori ed esperti.


I programmatori possono essere animati dalle migliori intenzioni, ma, inserire in un dato contesto un’intelligenza non in grado di recepire tutto quello che serve per avere le risposte desiderate, può creare guai seri. Un esperimento che ben esemplifica questo problema riguarda l’apprendimento della differenza tra husky e lupi: alla macchina è stata mostrata un’enorme quantità di immagini dei due animali. A un certo punto, si è osservato che l’intelligenza artificiale sbagliava su alcune foto ritenute semplici, senza che fosse chiaro il ragionamento alla base dell’errore. Alcuni ricercatori hanno provato ad “aprire” questa black box, scoprendo che tutte le immagini proposte alla macchina per l’apprendimento collocavano il lupo sulla neve. In presenza di questa, quindi, l’AI catalogava l’animale come “lupo”.


Siamo all'alba di una nuova era, in cui la tecnologia può essere pensata e organizzata al servizio dell'essere umano. La grande sfida è pensare a strumenti che ci aiutino a fare delle scelte invece di suggerircele in modo passivo.


L’intelligenza artificiale sviluppata finora ha dei grandi punti di forza, può aiutare gli esseri umani a coordinarsi per raggiungere determinati obiettivi nel modo migliore possibile.

È in grado, per esempio, di analizzare grandi quantità di dati in poco tempo, ha capacità di calcolo molto potenti.

Un oncologo vedrà un gran numero di tumori nella sua vita, ma questa casistica sarà solo una piccolissima percentuale di quelli che si possono dare in pasto a un algoritmo, e che il medico potrà consultare, sperimentando un processo decisionale condiviso con la macchina.

In Europa, nell’ultimo periodo, sono stati elaborati documenti importanti come il libro bianco sull’AI, il documento sulla strategia dei dati, quello sul digitale europeo. Ma per disegnare un digitale europeo di aiuto agli esseri umani dobbiamo prima costruire una società inclusiva e migliore.

Nel 2016 fece la sua apparizione su Twitter Tay, un bot (cioè un account dietro il quale si cela un programma automatico) progettato da Microsoft per interagire con i giovani americani, imparando dal confronto con gli utenti. Non finì benissimo: dopo appena 24 ore Tay simpatizzava con i comportamenti di Hitler e diffondeva fake news. L’esperimento fu bloccato, regalandoci due preziosi insegnamenti: le intelligenze, anche quelle artificiali, apprendono dalle esperienze umane. Se queste non sono di qualità, perché contengono magari pregiudizi più o meno espliciti, le macchine si comporteranno di conseguenza.



Note: Articoli/Fonte per questo articolo

https://oggiscienza.it/2020/08/03/che-razza-di-intelligenza-artificiale-vogliamo/

https://oggiscienza.it/2021/10/25/licenza-di-uccidere/


(1) La Ccw si occupa di regolamentare, tra le altre cose, le mine anti-uomo e i laser accecanti

(2) L'intelligenza artificiale che pone al centro l’essere umano