I ROBOT E LA RESPONSABILITÀ CIVILE IN SANITÀ: IL GRANDE IGNOTO
Il problema della consapevolezza dei robot appartiene alla fantascienza. Quello della responsabilità civile per i danni che potrebbero causare alle persone appartiene invece al presente in cui viviamo.
Tre certezze hanno spinto il Parlamento Europeo [1] a chiedere alla Commissione di pronunciarsi sul tema con una certa urgenza.
Uno: i robot, [2] sistemi di sensori e intelligenze artificiali stravolgeranno gli stili di vita , i trasporti , la produzione e l’assistenza sociale e sanitaria . E il 2017, come si vedrà più avanti, si pone agli albori di questa trasformazione che è già in atto.
Due: le norme concernenti la responsabilità civile sono gravemente inadeguate per affrontare i danni creati da queste macchine alle persone. [3]
Tre: la capacità delle macchine di modificare la loro programmazione e prendere delle decisioni autonome sulla base dell’esperienza pone di fronte all’eventualità, tutt’altro che paradossale, di dover dividere in futuro la responsabilità civile per eventuali errori tra gli uomini – produttori, programmatori, operatori etc. – e le macchine stesse. [4] Senza essere riusciti, finora, a definire esattamente di chi sia la colpa se un robot sbaglia.
Il problema potrebbe far sorridere, se non ci fossero due elementi che testimoniano la sua assoluta serietà: la velocità di diffusione di queste tecnologie e i campi di applicazione, sanità in primis .
Secondo i dati del Parlamento Europeo [5] tra il 2010 e il 2014 la crescita media delle vendite di robot era del 17% annuo. Nel 2014 è aumentata al 29%, mentre le richieste di brevetto per le tecnologie robotiche sono triplicate nel corso dell’ultimo decennio.
La sanità è uno dei campi in cui la rivoluzione della robotica si sta affermando velocemente ed è, anche, uno dei settori più delicati dal punto di vista della responsabilità civile e della conseguente necessità di assicurazione.
L’ultimo anno ha visto una successione di “prime volte” che testimoniano la diffusione degli interventi con ausilio robotico in Italia e nel mondo.
Nell’ottobre 2016 al John Radcliffe Hospital di Oxford il professor Robert McLaren impiega un robot manovrato con joystick per sollevare dalla retina una membrana spessa un centesimo di millimetro : il primo intervento robotico dentro l’occhio nella storia. [6]
Ad agosto 2017, a Firenze, è stato portato a termine con successo il primo trapianto di rene da donatore a cuore fermo mediante chirurgia robotica d’urgenza in Italia. [7]
Dall’inizio del 2017 “presso il San Luigi di Orbassano (Piemonte) vengono impiantate protesi di ginocchio e di anca con metodica robot-assistita”. [8]
Il 2 novembre 2017, infine, Quotidiano Sanità ha riportato la notizia che un gruppo di ricercatori taiwanesi della National Chiao Tung University, ha sviluppato un’intelligenza artificiale programmata per analizzare e riconoscere i piccoli polipi intestinali. “Il sistema è riuscito a classificare i polipi come neoplastici o iperplastici con una precisione del 90,1% , mentre due endoscopisti, con almeno cinque anni di esperienza, li hanno classificati con un’accuratezza, rispettivamente, del 90,5 e dell’87%”. [9] Il software era stato “allenato” mostrandogli poco più di 2mila immagini di polipi.
Questo è il trend. Secondo la testata Sanità Informazione “a partire dal 1999, nel mondo, i robot hanno eseguito 4 milioni di operazioni chirurgiche. In Italia, sono fra le 12.000 e le 15.000 le procedure di chirurgia robotica annue, stanziandosi al secondo posto in Europa, dopo la Francia”. [10]
Sebbene agli interventi con supporto robotico siano riconosciute una precisione e un grado di invasività ai limiti della perfezione, gli errori o gli esisti indesiderati avvengono come con i chirurghi in carne ed ossa.
“Uno studio pubblicato quest’anno [2016, ndr] da ricercatori dell’università dell’Illinois e dal MIT ha analizzato i casi di chirurgia assistita da robot registrati negli archivi della Food and Drug Administration statunitense nel periodo dal 2000 al 2013, accertando più di 10.000 incidenti con 144 esiti mortali e 1.391 eventi avversi con «significative conseguenze per i pazienti, incluse le lesioni»”. [11]
Chi ha la responsabilità civile di queste lesioni? È una domanda alla quale diventa sempre più urgente rispondere man mano che la robotica si fa strada in sanità.
L’European Civil Law Rules on Robotics, October 2016, [12] il testo che ha originato la Risoluzione del Parlamento Europeo, prova a delineare i termini del problema. E il quadro è complicato fin dall’inizio perché, per ogni robot o intelligenza artificiale (o entrambi) la responsabilità civile è divisa in partenza tra l’operatore – (per esempio il chirurgo, il medico diagnosta, l’operatore della casa di riposo) – che si avvale del supporto/apporto del robot, il costruttore e il programmatore.
Il quadro si complica notando che molti dei programmi operativi dei robot più complicati sono sviluppati ad hoc per le operazioni più specializzate. I programmi di partenza, perciò, sono open source e possono vedere la combinazione di tanti stadi di programmazione prima di arrivare al livello operativo. La complessità diventa massima una volta preso in considerazione che le intelligenze artificiali sono tali perché tendono a ‘migliorare’ e sono programmate per prendere decisioni autonome sulla base dell’esperienza. Uno scenario che rende rintracciare la responsabilità civile per errori nati dal “processo di apprendimento” della macchina poco meno che un incubo giuridico.
“Non succederà domani” [13] spiega una delle relatrici, la deputata lussemburghese Mady Delvaux “ma le successive generazioni di robot saranno sempre più capaci di apprendere da sole. Quello di cui abbiamo bisogno adesso è creare un’infrastruttura legale nella quale inserire i robot già presenti sul mercato, cercando di anticiparne gli sviluppi nei prossimi 10 o 15 anni”.
Le soluzioni proposte non sono tante: o “un’interpretazione stretta che attribuisca la responsabilità al costruttore” oppure “una valutazione del rischio preliminare (prima dell’uso, ndr) che quantifichi il rischio e fissi le compensazioni divise tra tutti gli stakeholders”.
Una definizione abbastanza vaga da giustificare pienamente la richiesta di “un’assicurazione obbligatoria” a prescindere e almeno per i robot più grandi, complessi e autonomi. Intanto, nel futuro, si profila l’ipotesi di una nuova persona giuridica a responsabilità limitata: la persona elettronica, da assegnare ai robot più evoluti in modo da attribuire loro una responsabilità affine a quella per le aziende s.r.l.
Il dilemma della responsabilità è particolarmente acuto per gli operatori che, man mano che i robot diventeranno più numerosi – sono 1.7 milioni quelli censiti al mondo [14] – si dovranno confrontare con il rischio di rispondere degli effetti causati da macchine sulle quali hanno una comprensione e un controllo limitati a prescindere dal loro livello di specializzazione.
Quello che è certo, al momento, è che il nodo della responsabilità civile dovrà essere sciolto per poter raggiungere la massificazione, e quindi il successo, della nuova era della robotica. [15]
Anna Guerrieri
Risk Manager Sham Italia
[1] Risoluzione del Parlamento europeo del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (2015/2103(INL)) https://goo.gl/GSZwYm
[2] News European Parliament “Rise of the robots: mady delvaux on why their use should be regulated”, 15 February 2017 “We define robots as physical machines, equipped with sensors and interconnected so they can gather data”. https://goo.gl/47Y63C
[3] Ernesto Macrì , il Sole24Ore – Sanità 24, 27 dicembre 2016 “L’attuale cornice normativa europea appare inadeguata e carente di fronte alle poliedriche applicazioni potenziali della robotica, dal momento che circoscrive l’uso dei robot e le sue eventuali conseguenze alla disciplina concernente l’immissione dei prodotti sul mercato e la responsabilità per danno da prodotti difettosi, prescindendo dalle peculiari caratteristiche e funzionalità che contraddistinguono le diverse tipologie di robot”.https://goo.gl/1gXnqW
[4] EU Parliament, Direttorato Generale per le Politiche Interne, Policy Department C: “ European Civil Law Rules on Robotics, October 2016 ”: “ the more autonomous robots are, the less they can be considered simple tools in the hands of other actors”; “[…] autonomous robots will bring about further unprecedented difficulties, since it may be more difficult to ascertain what caused the damage in certain situations, particularly if the robot is able to learn new things by itself”. https://goo.gl/QaGtdt
[5] Risoluzione , op cit.
[6] BBC.com “Robot operates inside eye in world first” https://goo.gl/6joZv4
[7] http://www.sanitainformazione.it , “Chirurgia robotica: a Firenze portato a termine primo trapianto di rene da paziente a cuore fermo”, 24 agosto 2017 https://goo.gl/UKFKgQ
[8] www.quotidianosanità.it “ L’impiego della chirurgica robotica in campo ortopedico. Nuovo modello sperimentale al San Luigi di Orbassano”, 5 ottobre 2017 https://goo.gl/ioeQE6
[9] www.quotidianosanità.it Diagnostica. In gastroenterologia il robot supera gli endoscopisti, 2 novembre 2017 https://goo.gl/HDgBcG
[10] http://www.sanitainformazione.it , “Festival Internazionale della Robotica: ecco i robot chirurghi che ci opereranno”, 7 settembre 2017 https://goo.gl/D91SvS
[11] Ernesto Macrì , art. cit.
[12] Op.cit. nota 3
[13] News European ParliamentArt. Cit https://goo.gl/47Y63C
[14] News European Parliament Art. Cit.
[15] European Civil Law Rules on Robotics, October 2016 ” Op.Cit. “[…] the liability law solutions adopted in respect of autonomous robots determine whether this new market booms or busts”.
