Sommario: 1. Droni: tra cielo, terra e mare; 2. Una prima ipotesi di tassonomia; 3. Ancora una classificazione: i livelli di automazione; 4. Il caso ‘Uber’; 5. Sunny spells from the ‘UK judicial sea’; 6. Approdo alla ‘baia’ delle possibili risposte; 7. La ‘tradizionale’ responsabilità in tema di collisione; 8. Tra cielo, terra e mare; 9. Non definitive riflessioni conclusive.
1. Droni: tra cielo, terra e mare
«Le donne, i cavallier, l’arme, gli amori, le cortesie, l’audaci imprese io canto»[1]: ‘droni’, robot, servizi, trasporti, assicurazioni, responsabilità divengono oggetto di studio. Come Orlando nel proemio preannuncia i filoni narrativi, la stessa metodologia viene seguita in questo contributo. La precisazione necessaria, da anticipare, è che il focus sarà incentrato sui veicoli autonomi, cd. ‘droni’, e il riferimento all’automazione del settore dell’erogazione dei servizi al cittadino viene richiamata solamente ai fini classificatori.
I sistemi a pilotaggio remoto, conosciuti maggiormente con l’espressione di droni[2], rappresentano una delle innovazioni maggiormente importanti del settore aeronautico integrando una sfida giuridica posta la progressiva ed esponenziale crescita[3]. Una caratteristica peculiare di questa tecnologia attiene al fatto che la stessa possa essere definita come tecnologia «dual use» in quanto suscettibile di applicazione sia in campo militare che in campo civile[4].
L’origine dei sistemi a pilotaggio remoto era, in origine, esclusivamente militare[5]: i prototipi, infatti, vennero progettati per soddisfare necessità belliche, poiché impiegati nelle missioni definite «dull, dirty, dangerous[6]». Essi consentivano un dispendio minore sia in tema di costi operativi sia di rischi per l’equipaggio che poteva operare da remoto e non sul campo[7].
Il primo riferimento normativo che si rinviene a livello internazionale è l’art. 15, par. 2 della Convenzione di Parigi del 13 ottobre 1919: quest’ultima, tramite l’adozione del Protocollo di emendamento del 15 giugno 1929, disciplinava il sorvolo del «pilotless aircraft».
Ulteriore disposizione è l’art. 8 della Convenzione di Chicago del 1944 in tema di areazione civile internazionale[8] il quale riprende l’art. 15, par. 2 della Convenzione di Parigi. Ai sensi di questa disposizione viene vietato il sorvolo dello spazio aereo civile di uno Stato terzo da parte dei «pilotless aircraft» senza aver ottenuto una previa autorizzazione in tal senso da parte dello Stato sorvolato. Quest’ultimo, infatti, il quale deve garantire che il sorvolo avvenga in condizioni idonee a non compromettere la sicurezza degli aeromobili civili con equipaggio[9]. Questa disposizione, ai fini di adeguare il dettato normativo del 1944 alle nuove esigenze, è stata oggetto di integrazione da parte della normativa ICAO[10] relativa ai mezzi aerei a pilotaggio remoto. Grazie a questa implementazione, diviene necessario assicurare che le operazioni svolte da codesti mezzi venga condotta in maniera tale da minimizzare i rischi per le persone, cose o altri velivoli[11].
In relazione all’aspetto terminologico, i meccanismi aerei a pilotaggio remoto hanno differenti denominazioni[12] quali «unmanned aircraft or ship guided by remote control or onboard computers»[13]. Gli stessi sono altresì conosciuti come veicoli aerei inanimati o anche sistemi aeromobili senza pilota, «Unmanned aerial vehicle» (UAV) (espressione ritenuta ormai desueta), «Unmanned aircraft systems» (UAS), «Remotely piloted aircraft» (RPA), «Remotely piloted aircraft systems» (RPAS), Aeromobili a pilotaggio remoto (APR), Sistemi aeromobili a pilotaggio remoto (SAPR[14]).
Spesso, per riferirsi a queste nuove tecnologie, si ricorre al termine drone, utilizzando, però, una nomenclatura definita, dalla dottrina più autorevole, come generica e imprecisa[15]. E’ «generico, in primis, poiché richiama soltanto il veicolo volante. E’ anche impreciso, in quanto non accenna al controllo remoto, così accomunando in una sola categoria gli apparecchi senza pilota a bordo, ma gestiti da remoto e quelli pre-programmati e totalmente autonomi. Nondimeno, la parola drone è ampiamente impiegata nella prassi e richiamata in sede istituzionale, con l‘obiettivo di semplificare il linguaggio giuridico a vantaggio del pubblico non specialista del settore»[16].
Per quanto attiene alle fonti nazionali, il testo originario del codice della navigazione del 1942 non conteneva alcun riferimento alcuno ai mezzi aerei a pilotaggio remoto. Solamente a seguito della revisione[17] avvenuta grazie ai d.lgs. n. 96/2005 e 151/2006 gli aeromobili senza equipaggio sono stati ricompresi nella nozione di aeromobile ex art. 743 cod. nav[18]. Dal tenore della disposizione emerge che i SAPR sono assimilati agli aeromobili venendo qualificati come tali.
Si aggiunga a ciò che gli stessi sono altresì suscettibili di soddisfare il requisito funzionale della destinazione al trasporto determinante ai fini della nozione stessa di aeromobile[19]. Parte della dottrina, sul punto, sostiene, in maniera contrapposta, come l’art. 743 co. 2 cod. nav. non avrebbe assimilato i SAPR agli aeromobili sulla scorta di una fictio iuris. Più recisamente, questi ultimi non sarebbero ontologicamente aeromobili posto che non sono destinati al trasporto in quanto la loro unica funzione sarebbe quella di trasferire nello spazio aereo gli elementi che li compongono[20].
La dottrina più recente, invece, sostiene che, essendo alcuni SAPR capaci di trasportare cose o persone, essi integrerebbero l’eccezione ex art. 743 co.1 cod. nav[21]. Nonostante questa affermazione è doveroso osservare che «dell‘essere considerati aeromobili e non dell‘esserlo è un punto importante […], nel senso che può trarsi la conseguenza che lì ove non vi sia un espresso riconoscimento non vi è un mezzo aereo a pilotaggio remoto che sia di per sé aeromobile da un punto di vista giuridico»[22].
Con riferimento ai veicoli terrestri ‘autonomi’ è difficile rinvenire una definizione univoca accettata a livello internazionale. Le espressioni che si rinvengono per riferirsi a macchine terrestri senza guidatore sono: robotic-cars, self-driving cars, driverless car[23]. Sebbene quanto appena riportato possa, prima facie, irrilevante, è stato osservato che la terminologia assume un ruolo centrale nel momento in cui si vuole ci si vuole esprimere in modo chiaro e preciso rispetto a una determinata tematica[24].
Ulteriore applicazione di automazione è da riferire alle navi, o vascelli: l’International Maritime Organisation (IMO) sta iniziando a redigere un codice per quanto attiene alle navi autonome, il cd. MASS[25]. In questo documento si rinviene la definizione dei livelli di automazione delle navi a cui sono collegate le specifiche tecniche e le potenziali problematiche. L’aspetto che viene messo in evidenza concerne proprio l’assenza dell’equipaggio: si tratta di elemento di nevralgica importanza poiché impone che i programmatori adottino le opportune procedure e apparecchiature funzionali a evitare la collisione[26]. In altri termini, l’aspetto maggiormente problematico attiene alla circostanza che qualora la nave sia completamente autonoma, per tale intendendo l’assenza di qualsivoglia interferenza umana, significa che le decisioni vengono assunte da un sistema algoritmico senza conoscerne le modalità[27].
Per quanto attiene alle fonti normative, il riferimento va a: 1) Convenzione Marpol; 2) Convenzione di Ginevra del 1986; 3) COLREG del 1972. A questo si aggiunga che il Comité Maritime International ha sostenuto che le «unmanned ships» possono essere qualificate a tutti gli effetti come navi a condizione che esse siano dotate di tutti i requisiti per essere registrate come tali negli appositi registri di uno specifico Stato[28].
Sempre da una prospettiva terminologica, si deve precisare che in dottrina si è discorso di «drone finanziario» per indicare la SPV[29] quale “drone” o operatore remoto. Quest’ultima, sebbene prima facie potrebbe sembrare una questione puramente di diritto societario, alla fine, potrebbe arrivare a realizzare un ponte tra le tematiche di diritto societario intimamente intese e il progressivo incremento delle tecniche algoritmiche.
Il punto di partenza è dato dalla considerazione secondo cui il veicolo, utilizzato per lo svolgimento di attività di finanza strutturata, potrebbe essere definito come «imprenditore remoto»[30]. Esso sarebbe differente rispetto all’imprenditore occulto[31] in quanto l’imprenditore remoto, definibile altresì come auto-pilota, verrebbe identificato come un meccanismo complesso e dinamico che stabilisce ex ante, dunque pre-stabilisce, i termini dell’operazione. In tale direzione, la SPV sarebbe non solamente «pilotata» a distanza, ma avrebbe, altresì, delle connotazioni oggettive piuttosto che soggettive.
In conclusione, dunque, sempre da una prospettiva terminologica, il termine ‘drone’ indicherebbe qualsivoglia meccanismo tecnologico e remoto. Alla luce di quanto appena detto anche il sistema della giustizia, e soprattutto delle online dispute resolution, potrebbe essere affidato a un “giudice drone”[32]. Di conseguenza, il vero interrogativo attiene alla responsabilità del sistema di intelligenza artificiale e, quindi, alla possibile regolamentazione.
2. Una prima ipotesi di tassonomia
Nel precedente paragrafo si è dato conto della possibilità di qualificare come “droni” differenti tipologie di applicazioni tecnologiche totalmente autonome o controllate a distanza da un essere umano.
A partire da ciò è possibile proporre una prima ipotesi di tassonomia ricostruttiva delle fattispecie. In primo luogo, si potrebbero individuare i veicoli autonomi riferiti al settore dei trasporti e della logistica. Essi comprenderebbero le navi, le automobili e, infine, i velivoli aerei. Tra questi autonomous vehicles, la distinzione può avvenire non solo per quanto attiene alla porzione ‘territoriale’ in cui sono chiamati a operare ma, altresì, in base alla capacità di trasportare o meno persone. Di conseguenza, le navi[33] e le automobili a guida autonoma, anche da una prospettiva assicurativa, possono essere utilizzate sia nel trasporto di persone che di merci. A contrario, i veicoli autonomi aerei, al momento attuale, possono essere impiegati solamente per il trasporto di merci o per attività di sorveglianza o ricognizione.
Ulteriore classificazione, attiene all’applicazione dell’autopilota ai meccanismi di finanza strutturata: le cartolarizzazioni. Riprendendo la teoria dell’imprenditore-drone, si assisterebbe all’emersione di un diritto societario “nuovo”: «dallo shadow banking al techno banking, si potrebbe essere vicini ad una dimensione del diritto societario nuova. La cartolarizzazione ed il suo trasferimento del rischio per finalità di investimento può semplicemente segnare la conferma di un fenomeno già in atto: l’impresa “macchina”, tecnologica, rispetto ad un modello tradizionale di imprenditore individuale e collettivo»[34].
Andando oltre, la SPV potrebbe essere rappresentata dal drone, da intendere quale veicolo autonomo, il quale non solo sarebbe “remoto” – nel senso di controllato a distanza – ma potrebbe addirittura introdurre un nuovo concetto di cartolarizzazione, ossia, quello di «personal data securitisation». Partendo dalla considerazione secondo cui i dati personali stanno acquisendo sempre di più una connotazione economica è possibile che gli stessi confini dell’operazione di cartolarizzazione divengano sempre più sfumati. Non solamente si assisterebbe a una cartolarizzazione di dati personali, da intendere quali crediti, ma anche alla possibilità che il veicolo autonomo aereo (drone, appunto), fornisca esso stesso i “crediti” rappresentati dai dati personali arrivando a determinare una unione tra la figura dell’originator e quella del veicolo autonomo propria dello schema “classico” delle cartolarizzazioni[35].
Infine, la terza e ultima categoria di droni, è quella attinente alla erogazione, e dunque fruizione, dei servizi pubblici essenziali. Il riferimento va al giudice robot o al medico robot. La prima applicazione di industria tecnologica in medicina è stata nel 1985 quando un robot eseguì una biopsia al cervello[36].
Poste queste premesse classificatorie, il presente contributo è incentrato sull’analisi e disamina della prima categoria di ‘droni’ da un punto di vista di regolamentazione in tema di responsabilità. La peculiarità dell’analisi è data dalla attività di comparazione con il sistema legale per eccellenza del diritto assicurativo, cioè, il common law. A tal proposito, prendendo le mosse dalle «autonomous ships», si cercherà di capire se sia possibile estendere il ragionamento sottostante anche alle altre categorie di veicoli autonomi.
3. Ancora una classificazione: i livelli di automazione
Comune a tutte le categorie di veicoli autonomi sono i livelli di automazione. Con questa espressione ci si riferisce ai livelli di assistenza, o di ausilio, alla guida diventati una presenza costante nei veicoli[37].
Il livello 0 non è da riferire ad alcun livello di automazione perché il totale controllo è rimesso al conducente: tutta la responsabilità è rimessa al guidatore, appunto.
Il livello 1 di automazione fornisce un’assistenza al guidatore posto che il sistema include alcune modalità di guida circa il controllo dello sterzo e della velocità. La supervisione dell’ambiente circostante è rimessa all’uomo come la gestione delle situazioni dinamiche.
Solamente con il livello 2 ci si approccia a una parziale automazione poiché il sistema può controllare tutti gli aspetti dinamici della vettura grazie all’utilizzo delle informazioni sull’ambiente di guida e il guidatore supervisiona il resto.
Ancora differente è la cd. automazione condizionata con la quale il sistema controlla tutti gli aspetti dinamici di guida: il guidatore deve rispondere in modo tempestivo qualora vi fosse una richiesta di intervento. A contrario, il sistema può avere il controllo della velocità e dell’ambiente circostante. Con questo livello di automazione, il numero 3, è possibile che il veicolo proceda in modo autonomo senza necessità dell’intervento umano.
Solamente con i livelli 4 e 5 si entra nel campo della automazione. Con il primo vengono controllati tutti gli aspetti dinamici della vettura anche nell’ipotesi in cui il guidatore non dovesse intervenire in caso di richieste. L’ultimo, il numero 5, rappresenta la totale automazione: il sistema si sostituisce, infatti, in modo totale all’essere umano poiché controlla tutti gli aspetti normalmente gestiti dall’uomo.
4. Il caso ‘Uber’
Quando si affronta la tematica dell’applicazione dell’automazione ai veicoli, siano essi aerei o navali, i profili di responsabilità emergono qualora si realizzi una collisione o venga provocato un danno.
Per quanto concerne la casistica giurisprudenziale e la normativa, attualmente il materiale che si rinviene è da riferire solamente alle macchine a guida autonoma. Per quanto attiene al primo formante del diritto, il case-law, il riferimento va necessariamente al ‘caso-Uber’. Si tratta di un incidente provato da un veicolo a guida autonoma. I fatti risalgono al 18 marzo 2018 quando un veicolo a guida autonoma di Uber ha investito una donna mentre questa attraversava a piedi Mill Avenue, in Arizona[38]. Sebbene si trattasse di veicolo a guida autonoma, al suo interno vi era un soggetto “umano” quale «designated driver» nonché dipendente di Uber[39], Mr. Vaquez. Su quest’ultimo gravava il dovere di monitoraggio sui messaggi che provenivano dal veicolo e di intervento qualora si fosse realizzato un guasto del sistema[40]. Al momento dei fatti, però, Mr. Vaquez non vigilava sul funzionamento del veicolo poiché “impegnato” a guardare una trasmissione[41].
Secondo la ricostruzione fornita da Uber, la collisione ha avuto quale causa un problema di funzionamento del software il quale avrebbe “autonomia” circa le decisioni da assumere al momento in cui rileva la presenza di oggetti sul proprio percorso. È prevista, altresì, la possibilità che il veicolo possa ignorare i cd. «falsi positivi», ossia oggetti realmente esistenti ma non suscettibili di determinare incidenti; il riferimento è, ad esempio, a un sacchetto di plastica[42].
È proprio questo secondo elemento che emerge dal Report[43] della National Transportation Safety Board (NTSB)[44]: il sistema software ha qualificato il pedone come oggetto non riconosciuto. A ciò si aggiunga che «designated driver» era intervenuto pochi secondi prima della collisione. Un secondo rapporto, quella della polizia, conteneva la trasmissione degli atti al Procuratore affinché si accertasse l’eventuale responsabilità del «designated driver» da qualificare, almeno, quale omicidio colposo. Dalle indagini, infatti, era emerso che il «designated driver» era distratto, circostanza che non gli ha consentito di prendere il controllo del veicolo e, dunque, evitare la collisione[45].
L’aspetto di particolare interesse concerne la possibilità che accanto alla responsabilità della persona fisica e di quella giuridica si delinei lo spazio anche per quella della “persona elettronica”[46] o per il sistema di intelligenza artificiale. In tale direzione il nodo gordiano attiene alla possibilità di riconoscere il sistema artificiale come capace giuridicamente e, di conseguenza, la possibilità di attribuirgli una personalità anche se limitata ad alcuni aspetti soltanto[47].
Più precisamente, nel momento in cui l’essere umano e l’essere digitale interagiscono tra di loro, sarebbe equo che si realizzasse una ripartizione di colpa da imputare sia all’azione od omissione umana sia al non corretto funzionamento del veicolo a guida autonoma. Condicio sine qua non di tutto questo è la dimostrazione che l’evento lesivo è stato causato, appunto, da questa attività di cooperazione tra essere umano ed essere sintetico[48]. Sul punto, parte della dottrina ha discusso di «culpa in interagendo»[49].
5. Sunny spells from the ‘UK judicial sea’
Sebbene al momento attuale l’unico caso affrontato dalle Corti sia quello richiamato nel paragrafo precedente, a partire da Nautical Challenge Limited v Evergreen Marine (UK) Limited[50] è possibile desumere alcune indicazioni per quanto attiene al possibile ‘addestramento’ dei vascelli autonomi.
Il caso appena citato riguarda una collisione tra la nave Ever Smart, del ricorrente, e la nave Alexandra 1 (del convenuto) avvenuta in data 11 febbraio 2015 appena fuori dal canale dal quale entrano ed escono dal porto le navi di Jebel Ali (Emirati Arabi Uniti). La prima nave era diretta verso l’esterno mentre la seconda era in arrivo.
Secondo il decisum della Amdiralty Court, Ever Smart avrebbe dovuto sopportare l’80% della responsabilità per la collisione mentre, Alexandra 1 sarebbe stata responsabile solamente per una porzione pari al 20%. Più precisamente, non vennero ritenute applicabili le regole di attraversamento, precisamente le n. 15 e 17 del Collision Regulation) e che Alexandra 1 non avesse navigato in violazione della regola n. 16.
Avverso questa prima decisione, il ricorrente proponeva ricorso all’High Court la quale accoglieva all’unanimità le doglianze del ricorrente. Nel ragionamento dell’High Court, in modo più approfondito, le regole di attraversamento devono essere interpretate nel loro contesto che concretamente si è realizzato. Viene precisato che il Regolamento tratta di collisione, definendo le differenti tipologie di collisione che si possono realizzare, da distinguere dall’attraversamento.
La prima espressione è da riferire a tre situazioni, ossia: 1) sorpasso di navi; 2) navi che si avvicinano l’una all’altra frontalmente; 3) navi che attraversano in modo da comportare il rischio di collisione. Per “crossing”, invece, si fa riferimento alle rotte di navi che non sono parallele ma che si intersecano: in questo scenario, dunque, è possibile che si determini il rischio di collisione, rischio che può essere evitato in differenti modi.
Tuttavia, se i vascelli si avvicinano gli uni agli altri in base a un rilevamento costante, è possibile che si profili un rischio di collisione. In altri termini, le regole di attraversamento sono al centro dello schema per evitare delle collisioni nell’ipotesi in cui, appunto, due navi si avvicino l’una all’altra su di un costante rilevamento. Quest’ultimo, a sua volta, deve differire, dal sorpasso o dallo scontro frontale.
Nel caso di specie, lo scontro tra le due navi sembra essere stato determinato da un errore umano, ossia, dall’autorizzazione data all’arrivo anticipato di Alexandra I al canale di avvicinamento e l’approvazione dell’ufficiale del servizio di traffico navale per procedere a entrare nel canale in quel momento. Ulteriore elemento è dato dal mancato funzionamento dell’AIS di Alexandra I, circostanza che ha impedito di mantenere una sorveglianza adeguata.
Dalle circostanze riportate appare evidente che, probabilmente, se la nave fosse stata autonoma l’errore umano sarebbe stato evitato. Di qui verrebbe corroborata la tesi secondo cui, l’applicazione tecnologica potrebbe divenire funzionale a evitare piccoli errori umani che, sommati gli uni agli altri, determinano la profilazione di un disastro. Vi è da aggiungere che, sempre nel caso di specie, l’impatto non è stato evitato a causa di una mancata attività di sorveglianza adeguata. Appare evidente che il funzionamento dei vascelli autonomi avviene grazie a tecnologia Radar, GPS, AIS e sensori/telecamere a infrarossi, algoritmi di controllo predittivo per tracciare i movimenti delle navi.
Sempre dalla narrativa del caso, si ha contezza che la collisione è stata altresì determinata dall’alta velocità con cui Ever Smart percorreva il lato sinistro del canale, elemento che non le consentì di mantenere una buona visuale. Qualora le navi fossero state automatizzate totalmente sarebbe stato possibile assicurare una implementazione dei sistemi, già esistenti, attinenti alla cd. “safety speed”.
Sebbene l’impiego di vascelli autonomi sarebbe funzionale a evitare il rischio di collisione, è pur sempre vero che vi sono ancora aspetti da definire e che i programmatori dovranno prendere in considerazione. Proprio dal caso Nautical Challenge Limited è possibile individuare almeno due parametri che i programmatori delle ‘navi senza capitano’ dovranno cercare di riprodurre nella loro attività di programmazione, ossia il concetto di «sufficiently defined course» e «good seafarer behaviour».
Il primo è una questione di stretto diritto funzionale a mostrare la rotta che si sta seguendo all’altra nave al fine ultimo di evitare la collisione. Più precisamente, la rotta di una nave può dirsi sufficientemente definita quando è idonea a metterla in costante rilevamento con un’altra nave al fine di far comprendere la rotta intrapresa[51].
Con il secondo, si fa riferimento al canone della “prudente navigazione”[52] al fine di evitare rischi di collisione tra navi e che, nel caso di specie, ossia di entrata dal canale, richiede che la nave regoli la propria velocità e permanga nel canale il tempo strettamente necessario al transito. In altri termini, la nozione di «good seafarer behaviour» è da riferire al marinaio dotato di ordinaria capacità e intelligenza non richiedendo, dunque, che egli possa prevenire qualsivoglia incidente.
Al tempo stesso, non vi è una aspettativa a che un marinaio possa porre in essere una attenzione superiore a quella “ordinaria” qualora egli si trovi in circostanze eccezionali. In quest’ultima ipotesi è necessario che egli si conformi agli standard ordinari di diligenza e capacità in forza dei quali adottare precauzioni eccezionali. È anche vero che definire esattamente la figura del «good seamanship»[53] richiama una valutazione di fatto che, a sua volta, impone una analisi delle circostanze rilevanti concretamente realizzatesi[54].
6. Approdo alla ‘baia’ delle possibili risposte
Sebbene alcune indicazioni provengano dalla pronuncia esaminata nel paragrafo, permangono ancora dei dubbi. A titolo esemplificativo ci si chiede come i programmatori arriveranno a definire la discrezionalità degli autonomous vessels e, di conseguenza, come avverrà la fase di addestramento algoritmico.
In questo contesto, dunque, l’interrogativo attiene alle scelte che il meccanismo remoto dovrà adottare nei casi delle cd. scelte tragiche, ossia, qualora si dovrà assumere una decisione tra i danni alla nave autonoma e alla salvaguarda delle vite umane. Oppure, che cosa potrebbe accadere qualora il vascello autonomo dovesse subire un guasto elettronico completo. Infine, ulteriore interrogativo attiene alla responsabilità dei programmatori qualora venisse dimostrato che una programmazione non corretta ha provocato la collisione.
La sentenza Nautical Challenge Limited v Evergreen Marine (UK) Limited risulta essere anche dirimente poiché fornisce una regula iuris qualora la collisione sia determinata da una molteplicità di fattori causali.
La bussola, metaforicamente parlando, che deve seguire il Giudice è quella di aumentare la responsabilità della nave che procede a una velocità eccessiva a condizione che, dopo aver esperito una analisi dettagliata, si giunge alla conclusione che una velocità eccessiva sia un fattore che contribuisce alla realizzazione del danno[55].
Una possibile soluzione sembra provenire dall’ultimo Joint Report della Law Commission[56] contenente delle “raccomandazioni” che il Governo britannico dovrà seguire nella regolamentazione dei veicoli a guida autonoma. Si tratta di un documento frutto di tre tornate di consultazione avvenute tra il novembre del 2018 e il dicembre del 2020. Durante questo periodo l’attività è stata piuttosto intensa e caratterizzata da una intensa attività di ricerca come testimoniato dalla raccolta delle numerose risposte che sono pervenute a seguito delle consultazioni, ai “meeting” che sono stati organizzati.
L’aspetto che giustifica questa intensa attività è dato dalla circostanza che la tecnologia dei veicoli a guida autonoma determina un cambiamento dirompente rispetto al passato. Il guidatore “umano”, infatti, una volta installato il meccanismo ADS non è tenuto a prestare attenzione all’attività di guida poiché, questa, essendo “autonoma” non solo non richiede un suo coinvolgimento ma, addirittura, lo esenta da responsabilità[57].
Il Report della Law Commission rappresenta, al momento attuale, l’unico framework legislativo completo che dovrà fungere da modello per il legislatore britannico nella regolamentazione dei veicoli a guida autonoma.
La disciplina britannica, a contrario, al momento attuale, fa discendere una responsabilità, al momento attuale, solamente nell’ipotesi in cui vi sia una violazione del cd. «duty of candour»[58]. Si tratta di un particolare dovere che incombe sulla «nominated person» e dalla cui violazione scaturisce la disciplina sanzionatoria molto simile a quella contenuta nella Bribery Act 2010.
Il «duty of candour»[59] rappresenta una novità, nel panorama della disciplina in tema di AV, introdotta dall’ultimo Join Report della Law Commission. Nella sezione a esso dedicata viene precisato come l’obiettivo sia quello di promuovere una cultura della sicurezza fondata sulla consapevolezza di poter apprendere dagli errori che vengono commessi. Di conseguenza, il sistema che viene costruito concerne su di una attività di condivisione di informazioni fornite dall’ «Authorised Self-driving Entity» (ASDE)[60] e dall’operatore NUIC[61] al regolatore. Questo processo, dunque, deve essere “candido”, appunto: la conseguenza è la previsione di sanzioni penali qualora i soggetti in precedenza menzionati dovessero fornire delle dichiarazioni o, altrimenti, divulgare informazioni false.
Il «duty of candour», nel contesto della regolamentazione dei veicoli a guida autonoma, rappresenta una novità nonostante la sua origine antica, affascinante e di confine. Il «duty of candour», infatti, può assumere dei significati differenti a seconda che si riferisca alla riflessione etica o giuridica.
Partendo dalla prima, ossia, dall’etica, il «duty of candour» deve essere riferito ai concetti di trasparenza, onestà e chiarezza. Sebbene tutto questo sia vero, non si deve confondere il candore quale sinonimo di onestà o fedeltà poiché il significato risulta essere assai più ampio posto che comprende, altresì, completezza e franchezza[62].
Se, a contrario, la prospettiva prescelta è quella del diritto, il «duty of candour», invece, si deve distinguere tra diritto sanitario, più correttamente «medical law», e diritto amministrativo. Nella prima ipotesi, il «duty of candour» è un dovere che incombe sul National Healt Service, meglio conosciuto come NHS, che si sostanzia nell’offrire servizi che siano rispettosi della persona, trasparenti e accessibili. Nell’ambito del diritto amministrativo, invece, il dovere di candore è assimilabile al principio di trasparenza: più precisamente esso è da riferire al dovere di fornire una motivazione a qualsivoglia decisione proveniente dalla Pubblica Amministrazione[63]. In questa seconda accezione legale, ergo, il «duty of candour» diviene strumentale a perseguire l’interesse pubblico poiché non solamente consente di individuare gli errori commessi dall’organo pubblico e prevenire eventuali e futuri “incidenti” ma, altresì, impone di potenziare, nell’ambito del diritto sanitario, la conformità ai requisiti di accessibilità e trasparenza[64].
Volendo riassumere quanto fino a ora prospettato, il «duty of candour» è il dovere che dovrebbe essere posto alla base di quella della “cultura della sicurezza”: in dottrina è stato sostenuto, infatti, che «la cultura del candore è una cultura fondata sulla sicurezza»[65].
La violazione del «duty of candour», nel sistema giuridico britannico, legittima “la Corona”, ossia il responsabile dell’azione penale, a perseguire penalmente la «company» nonché la «nominated person»[66], secondo la terminologia adottata dal Join Report. L’obiettivo dell’azione penale, più precisamente, concerne la necessità di accertare che i soggetti in precedenza nominati abbiano assunto tutte le precauzioni necessarie e che abbiano conformato il loro comportamento alle regole di correttezza («due diligence») nella prevenzione di illeciti.
Un altro soggetto che può essere destinatario dell’azione intentata dalla “Corona” è il «senior manager»[67], ossia, colui che ha acconsentito alla falsa dichiarazione o alla mancata divulgazione. In questa particolare fattispecie, è onere della “Corona” provare l’elemento psicologico, cioè, alternativamente, che il “dirigente” fosse a conoscenza dell’illecito o che l’abbia, in modo volontario e cosciente, ignorato[68].
7. La ‘tradizionale’ responsabilità in tema di collisione
Secondo la legislazione di common law, quando si realizza una collisione la responsabilità è determinata dalle regole generali in tema di imperizia e/o negligenza («tort of negligence»[69]). L’aspetto problematico, tuttavia, è strettamente connesso alla prova che l’attore riesce a fornire a titolo di responsabilità extracontrattuale («tort»)[70]. Di conseguenza, il vero problema è cogliere realmente quando la responsabilità sia da attribuire all’azione umana («human agency») e quando invece sia da attribuire al proprietario della nave («shipowner»).
La maggior parte della dottrina britannica[71] suggerisce di ricostruire la responsabilità dell’autonomous ship applicando il principio espresso in Donoghue v Stevenson[72]. In questa pronuncia venne stabilito non solamente che il successo di un’azione per danni derivante dalla collisione in mare dipende da un attore vittorioso nel dimostrare i fatti che ne danno origine ma, altresì, dalla dimostrazione che il danno subito è conseguenza della violazione del dovere. Il punto di partenza, in altri termini, è capire quale azione sia la vera causa e se il proprietario della nave sia veramente responsabile. In altri termini, si tratta di realizzare un’indagine in tema di vicarious liability.
Alla luce di questo è stato sostenuto che la responsabilità plasmata nel diritto del lavoro tra agency e indipendent contractor[73]. Di conseguenza, un proprietario di una nave autonoma che nomina una società per gestire le attività di tale nave realizza un rapporto di agenzia. In ipotesi di collisione, dunque, il proprietario risulterà essere responsabile[74].
L’aspetto problematico, tuttavia, sembra essere dovuto al fatto che, nel caso di veicoli autonomi, non vi è un rapporto che intercorre tra esseri umani ma tra essere umano ed essere sintetico. Sebbene sia vero che il proprietario di una autonomous ship si rapporti con un programmatore, e che potenzialmente sia quest’ultimo a programmare le attività e le decisioni che la nave assumerà, manca un potere di controllo diretto da parte del proprietario. Di conseguenza, questa potrebbe essere una circostanza idonea a non consentire una ricostruzione secondo le regole proprie del diritto del lavoro.
8. Tra cielo, terra e mare
La disamina condotta fino a questo momento dimostra come sia difficile, e non fruttuoso, non affrontare la problematica dei veicoli autonomi con un approccio settoriale e chirurgico[75].
Più precisamente, sebbene il Joint Report della Law Commissions sia da riferire solamente alle «driverless car» esso contiene dei riferimenti, quali ad esempio il duty of candour, da utilizzare anche nella regolamentazione degli altri veicoli autonomi.
A questo si devono aggiungere i principi inferibili da Nautical Challenge Limited v Evergreen Marine (UK) Limited, «sufficiently defined course» e «good seafarer behaviour». In altri termini, un approccio di ampio respiro e che si rifà a concetti giuridici generali ma precisi sembra essere preferibile proprio perché funzionale a rappresentare la ragnatela della regolamentazione giuridica di questo settore in continua evoluzione.
Si deve altresì aggiungere che il framework dovrebbe essere unico e compatto per tutti i veicoli (terrestri, aerei e navali) salvo poi differenziare la regolamentazione in base alle peculiarità proprie di ciascuno di essi. In altri termini, vi potrebbero essere delle ‘sovrapposizioni’ ma anche degli scostamenti dettati dalla necessità che di volta in volta il settore chiede di affrontare.
Il duty of candour e il good seafarer behaviour appaiono essere istituti giuridici di ampio respiro, non intrisi di una soffocante regolamentazione ma, piuttosto, ispirati a una attività di collaborazione e dialogo[76]. Quest’ultima sembra essere la strategia vincente proprio per la peculiarità dell’impiego dell’uso di questa tecnologia[77].
A titolo esemplificativo, vi sono almeno due aspetti comuni a queste tre diverse declinazioni di veicoli autonomi. Il riferimento va, necessariamente, alle ipotesi di trolley problem[78] e data protection.
Il primo aspetto impone una valutazione tra costi/benefici, ossia, se sia preferibile sacrificare la vita di in singolo individuo a favore dell’interesse della società. Nel momento in cui l’algoritmo venisse progettato nel senso di esprimere la preferenza alla tutela della società, andando quindi a sacrificare la vita del singolo soggetto, seguirebbe un approccio strettamente utilitaristico. Adottare l’impostazione appena descritta induce sia il programmatore che il produttore di veicoli autonomi a effettuare ex ante e in modo astratto una valutazione relativa alla massima utilità, valutazione che, appunto, risulta essere sganciata dalla concreta situazione che si potrebbe realizzare.
Si tratta di una soluzione che, da un punto di vista strettamente economico, sarebbe migliore. L’intelligenza artificiale, in altri termini il conducente del unmanned vehicles, al pari di qualunque altro conducente di automobile, deve rispettare il codice della strada, quindi le regole di precedenza, i divieti e i comportamenti imposti. La differenza è che il sistema di AI non possiede un istinto di sopravvivenza irrazionale consentendo, di conseguenza, di assumere la decisione migliore, ponderando anche la probabilità di vita dei propri passeggeri in caso di incidente, nonché il costo, in termini di incolumità fisica delle altre persone, nell’esecuzione di manovre preordinate a garantire la sopravvivenza dei propri passeggeri[79].
Nonostante quanto appena evidenziato, non si ritiene che questo sia l’approccio migliore da un punto di vista strettamente filosofico. Gli interrogativi che si porrebbero alla base attengono alla valutazione che l’AI deve effettuare per quanto attiene al valore della vita umana, sia della collettività che dei singoli soggetti, oppure di oggetti non suscettibili di valutazione economica, come, ad esempio monumenti, opere d’arte o lo stesso ambiente.
Si tratta di valutazioni che non attengono a mere disgressioni filosofiche ma possiedono un risvolto pratico poiché i giudizi etici appena menzionati vengono assunti dai programmatori e producono le loro conseguenza sul mondo reale. Si deve aggiungere che, i giudizi che vengono espressi in fase di progettazione potrebbero essere influenzati propri dai clienti. I potenziali clienti potrebbero desiderare che il veicolo funzioni in modo tale da proteggere pedoni o proprietà private e beni appartenenti al patrimonio artistico, altri, a contrario, potrebbero desiderare che il veicolo prediliga altri valori da salvaguardare in ipotesi di tragic choice[80].
Se si segue il ragionamento poc’anzi descritto, emerge un ulteriore problema. Se si parte dal presupposto che driveless car possiede un controllo totale sulla vita dei propri passeggeri, potenzialmente potrebbe avere un dovere, altresì, nei confronti dei propri produttori. Questo dovere potrebbe concretizzarsi nel proteggere i propri passeggeri, quindi le persone che trasporta, da eventuali danni alla loro incolumità fisica[81].
Si tratta di una soluzione non priva di aspetti negativi. In primo luogo, consentire che sistemi di IA possano assumere decisioni potenzialmente irrazionali impedisce il soddisfacimento del pieno beneficio economico alla società andando quindi a non eliminare il verificarsi di incidenti. In secondo luogo, vi potrebbe essere una riluttanza di programmatori[82] e assicuratori di, rispettivamente, produrre e assicurare veicoli che siano realizzati esclusivamente per proteggere la vita dei passeggeri. In terzo luogo, in base all’attuale stato di fatto, gli unici responsabili sarebbero i produttori di veicoli autonomi e si troverebbero, di conseguenza, a risarcire danni che altrimenti sarebbero stati supportati dagli assicuratori[83].
Strettamente connesso a questo profilo, è quello che attiene alla privacy[84] la quale diviene sotto attacco da numerosi profili. Ad esempio, gli AV possono influenzare l’autonomia individuale assumendo il controllo sulla vita delle persone posto che possono influenzare il modo e il percorso negli spostamenti, al tempo stesso generano informazioni personali relative agli utilizzatori al punto da poter monitorare, quasi completamente, il tragitto effettuato dall’utilizzatore. L’aspetto privacy è complicato da due circostanze: non poter, ancora, osservare l’interazione tra autonomous vehicle e le persone e, secondariamente, il fatto che il concetto di privacy[85] è un concetto complesso e multiforme.
La dimensione della problematica privacy dipenderà dalla progettazione nonché dal funzionamento del AV. Se l’aspetto comune è che essi sostituiranno il driver, persona fisica, con l’intelligenza artificiale, gli aspetti di programmazione potranno seguire percorsi differenti portando, potenzialmente, a risultati diversi.
Nel momento in cui l’AI sostituisce il conducente di un’automobile, i sistemi del veicolo adottano ed elaborano una serie di dati per valutare l’ambiente circostanze, il funzionamento e la presenza di altri veicoli presenti. Per valutare l’impatto sulla privacy è necessario declinare la riflessione su almeno tre aspetti: 1) chi controlla l’intelligenza artificiale; 2) che quantità di dati esterni (careggiata, presenza di altri veicoli e di persone) vengono raccolti e trasmessi al veicolo; 3) la propagazione dei dati ad altri veicoli[86].
I veicoli autonomi si basano su sensori sia esterni che interni che hanno l’obiettivo di raccogliere dati relativi alla presenza di ostacoli esterni, a rilevare la temperatura nonché il proprio funzionamento ma anche di segnalare eventuali malfunzionamenti o attivare meccanismi di sicurezza in caso di incidente o urto. La privacy diviene di centrale importanza quando un determinato veicoli è associato a un individuo, identificato o identificabile: in questo modo i dati assurgono al ruolo di informazioni personali.
Ulteriore riflessione da svolgere concerne la distinzione tra veicoli autonomi, i quali possono definirsi come “autonomi”, e quelli che sono interconnessi. Per quanto attiene ai primi, essi utilizzano solamente le informazioni che vengono generate al proprio interno, senza che esse vengano comunicate all’esterno o ad altri veicoli. A contrario, i veicoli interconnessi comunicato, tramite wifi, con una rete di comunicazione maggiormente ampia avente lo scopo, appunto, di mettere in comunicazione tra di loro più autonomous vehicles. Di conseguenza, si assiste a un continuo scambio di informazioni relative all’ambiente stradale circostante, al percorso che sta percorrendo e che verrà percorso, ma anche i messaggi che vengono scambiati dagli altri passeggeri.
Questi due modelli di driveless car pongono differenti implicazioni in tema di privacy. Il primo modello non porrà alcuna problematica posto che i dati personali che vengono raccolti rimangono all’interno del veicolo medesimo. Il secondo, proprio perché pensato per interagire con una rete esterna, potrà, alternativamente, fornire solamente le informazioni ritenute come strettamente necessarie per determinare il modus operandi degli altri veicoli presenti, oppure, comunicare anche quanto avviene al proprio interno.
È evidente, quindi, il primo modello, ossia quello degli AV terrestri autonomi, possa essere ritenuto maggiormente sicuro sotto un profilo di privacy poiché gli altri divengono suscettibili di controllo esterno almeno attraverso due modalità differenti. In primo luogo, un veicolo può essere controllato attraverso la manipolazione delle informazioni che sono state inviate a un altro veicolo autonomo[87], in secondo luogo potrebbe essere la stessa Rete a imporre al veicolo un comando determinando un mutamento della destinazione inizialmente prescelta dall’utente. In quest’ultima ipotesi, l’autonomia decisionale del passeggero risulta essere annullata.
9. Non definitive riflessioni conclusive
Quanto sopra esposto dimostra, ancora una volta, che problematiche analoghe richiedono una regolamentazione proattiva e tale da fornire un giardino sicuro all’interno del quale muoversi.
Vista la complessità della tecnologia e le sfide che devono essere affrontate è imperativo che il Legislatore, qualunque esso sia, fornisca delle certezze ai propri cittadini.
La Gran Bretagna, sebbene non faccia più parte dell’ordinamento giuridico dell’Unione Europea, non solamente rappresenta uno spiraglio di luce ma, potenzialmente, anche una “safe arbour” per quanto concerne la possibile definizione a livello europeo di framework legislativo per i veicoli autonomi. La peculiarità della disciplina britannica è quella di costruire il sistema della responsabilità per i danni provocati dalla circolazione di veicoli a guida autonoma imperniata su di un concetto di collaborazione tra «Authorised Self-diriving Entity» (ASDE) e l’operatore NUIC. Viene richiesto non solo che il processo di condivisione di informazioni tra questi soggetti sia ‘candido’ ma anche la previsione di sanzioni penali qualora questo venisse violato.
È lapalissiano come il Joint Report della Law Commissions sia solamente una proposta di regolamentazione e non esclude la possibilità di soluzioni differenti per quanto attiene la qualificazione della responsabilità dei meccanismi autonomi. Se si dovesse adottare una prospettiva di diritto europeo, proprio alla luce della frammentaria disciplina di origine euro-unitaria, l’approccio da seguire potrebbe essere quello di ritenere responsabile direttamente il sistema autonomo. Di tal via verrebbe garantita la nascita della persona tecnologica[88].
Questa seconda ipotesi ricostruttiva è stata adottata da una pronuncia della Corte Internazionale Commerciale di Singapore la quale ha ritenuto responsabile il sistema di intelligenza artificiale[89]. Si tratta solamente di un iniziale spunto di riflessione in quanto il caso non è direttamente applicabile ai sistemi di intelligenza artificiale ma agli algoritmi. Partendo dalla considerazione secondo cui questi ultimi devono rispettare le disposizioni legali, i Giudici sono arrivati a estendere questo assunto anche ai sistemi di Intelligenza Artificiale poiché anch’essa è formata da algoritmi.
In conclusione, dunque, per quanto attiene ai profili di responsabilità delle «autonomous ships» potrebbe essere simile a quello che la Joint Commissions ha redatto per le cd. «autonomous cars» a cui aggiungere i parametri del «good seafarer behaviour» nonché del «sufficiently defined course». Più precisamente, si ritiene preferibile realizzare una disciplina organica con la quale fornire delle linee-guida ma senza che questo si traduca in una iper-regolamentazione che, al momento attuale, potrebbe risultare controproducente[90].
La soluzione migliore atterebbe alla redazione di un unico documento, suscettibile di aggiornamento, con il quale fornire una disciplina organica per tutti i veicoli autonomi. Si precisa sin d’ora che quest’ultima dovrebbe, ovviamente, dare conto delle peculiarità dei differenti mezzi andando a differenziare ove necessario. Al momento attuale, la creazione di una cultura della sicurezza[91] sembra essere il miglior approccio possibile.
In questo senso è stato sostenuto[92], con riferimento alle «unmanned ships» che proprio per le loro peculiari caratteristiche tecnologiche, sia impossibile eseguire una operazione di ‘trapianto’ circa le regole tradizionali e attualmente esistenti in tema di responsabilità dettate per le tradizionali attività “umane”. Una possibile soluzione è quella di allocare la responsabilità tra colui che controlla dal programmatore del software, il proprietario e il pre-programmatore[93].
In conclusione, dalla nebbia si sembra scorgere il ben noto “Flying Dutchman”[94] i cui marinai fantasma, sospesi tra mare e cielo, forse, potrebbero lanciare alcuni messaggi.