Le app di tracciamento dei contatti non sono una soluzione al COVID-19
Questa è la traduzione del testo citato nella precedente traduzione e come quello mette in luce i possibili rischi delle app di tracciamento dei contatti, che anche in Italia stanno creando dibattito.
Contact-tracing apps are not a solution to the COVID-19 crisis
di Ashkan Soltani, Ryan Calo, and Carl Bergstrom
La minaccia senza precedenti del nuovo coronavirus ha confinato molti americani nelle loro case, allontanandoli l’uno dall’altro, a costo elevato per le economie locali e il benessere personale. Nel frattempo cresce la pressione sulle istituzioni americane per fare qualcosa, qualsiasi cosa, contro la pandemia.
Incoraggiata dalla Casa Bianca, gran parte di quella pressione si è concentrata sulla Silicon Valley e sull’industria tecnologica, che ha risposto con una fragile soluzione digitale. Le aziende tecnologiche e i dipartimenti di ingegneria delle principali università stanno sperando di far tornare gli americani al lavoro e al gioco con la promessa delle app per smartphone. Coronavirus? C’è un’app per questo.
Siamo preoccupati da questo crescente entusiasmo per la tecnologia automatizzata come elemento centrale del controllo delle infezioni. Al nostro interno abbiamo una vasta esperienza in tecnologia, diritto e politica ed epidemiologia. Abbiamo seri dubbi sul fatto che il tracciamento volontario e anonimo dei contatti attraverso le app per smartphone – come Apple, Google e le facoltà di un certo numero di università propongono – possa liberare gli americani dalla terribile scelta tra stare a casa o rischiare l’esposizione. Temiamo che le app di tracciamento dei contatti serviranno da veicolo per abusi e disinformazione, fornendo al contempo un falso senso di sicurezza per giustificare la riapertura delle economie locali e nazionali ben prima che sia sicuro farlo. Le nostre raccomandazioni mirano a ridurre il danno di un intervento tecnologico che sembra sempre più inevitabile.
Non abbiamo dubbi sul fatto che gli sviluppatori di app per tracciare i contatti e le relative tecnologie siano ben intenzionati. Tuttavia, invitiamo gli sviluppatori di questi sistemi a intensificare e riconoscere i limiti di tali tecnologie prima che vengano ampiamente adottate. Le agenzie sanitarie e i responsabili politici non dovrebbero fare eccessivo affidamento su queste app e, a prescindere, dovrebbero stabilire regole chiare per evitare la minaccia alla privacy, all’equità e alla libertà, imponendo garanzie adeguate.
Le proposte per combattere il coronavirus utilizzando gli smartphone si concentrano in gran parte sull’agevolazione del processo di “tracciabilità dei contatti”. Il tracciamento dei contatti implica un lavoro a ritroso dei casi infetti per identificare le persone che potrebbero essere state esposte al virus, in modo che possano essere testate, isolate e, quando possibile, curate. La tracciabilità dei contatti tradizionale è un processo ad alta intensità di colloqui e lavoro investigativo. Alcuni paesi come Singapore, Corea del Sud e Israele hanno usato la tecnologia, comprese le app mobili, per facilitare la ricerca dei contatti sui casi di coronavirus e questa idea sta prendendo piede negli Stati Uniti. Il Nord Dakota e lo Utah hanno rilasciato app di tracciamento dei contatti volontarie che si basano sul tracciamento della posizione degli utenti mentre si spostano, e la società di consulenza PwC ha iniziato a promuovere uno strumento di tracciamento dei contatti per consentire ai datori di lavoro di verificare quali dipendenti possono tornare al lavoro. Diverse società tecnologiche e istituti di istruzione superiore americani stanno sviluppando l’infrastruttura che consentirebbe un tracciamento automatico dei contatti di un certo tipo, evitando al contempo determinati problemi di privacy.
Il tracciamento del contatto può essere una componente importante per una risposta epidemica, specialmente quando la prevalenza dell’infezione è bassa. Tali sforzi sono più efficaci laddove i test sono rapidi e ampiamente disponibili e quando le infezioni sono relativamente rare – condizioni attualmente poco frequenti negli Stati Uniti. Idealmente, il tracciamento manuale dei contatti da parte di professionisti qualificati può aiutare a identificare i casi che necessitano di test e quarantena per contribuire a contenere la diffusione del coronavirus.
L’attrattiva dell’automazione del minuzioso processo di tracciamento dei contatti è evidente. Ma ad oggi nessuno ha dimostrato che è possibile farlo in modo affidabile, nonostante i numerosi tentativi. Le app che comunicano ai partecipanti l’esposizione potrebbero, ai margini e nelle giuste condizioni, aiutare a indirizzare le risorse per i test diagnostici a quelli a rischio più elevato. Qualsiasi altra cosa ci appare come non plausibile nella migliore delle ipotesi e pericolosa nella peggiore delle ipotesi.
In risposta all’aumento della pressione da parte dell’amministrazione Trump sulle piattaforme tecnologiche per la condivisione dei dati, Apple e Google hanno proposto un’application programming interface (“API”)1 per condurre il tracciamento dei contatti tramite telefoni cellulari, che descrivono come un sistema possa fornire notifica dell’esposizione agli utenti una volta diagnosticati o segnalati automaticamente come infetti. Le API Apple-Google supportano la funzionalità specifica di avvisare i partecipanti se il loro telefono è stato vicino al telefono di una persona che ha dichiarato di essere positiva al COVID-19. Per essere chiari, queste due aziende non stanno pianificando di sviluppare un’app da soli, il che richiederebbe di affrontare alcuni dei problemi più impegnativi su come verificare che un utente sia stato infettato e quali politiche suggerire quando gli individui vengono avvisati di essere “in contatto” con un individuo infetto. Alla fine lo hanno lasciato fare ai funzionari della sanità pubblica, o a chiunque altro sviluppi le app, determinare le loro funzionalità e usi – soggetti, ovviamente, ai vincoli della piattaforma.
Noi e molti altri abbiamo sottolineato una serie di insidie per questa tipologia di app volontarie e basate sull’autodichiarazione del tipo che Apple, Google e altri prendono in considerazione. In primo luogo, è probabile che le notifiche delle app relative al contatto con COVID-19 siano simultaneamente sia in eccesso sia in difetto. Esperti in diverse discipline hanno dimostrato perché i telefoni cellulari e i loro sensori creano proxy imperfetti per l’esposizione al coronavirus. I falsi positivi (segnalazioni di esposizione quando non è avvenuta) possono sorgere facilmente. Le persone possono essere contrassegnate come se si fossero messe in contatto l’una con l’altra nonostante la bassissima possibilità di trasmissione, ad esempio quando le persone sono separate da pareti abbastanza porose da penetrare un segnale Bluetooth. Né i sistemi tengono conto di quando le persone prendono precauzioni, come l’uso di dispositivi di protezione individuale, nelle loro interazioni con gli altri.
Anche tra i veri eventi di contatto, la maggior parte non porterà alla trasmissione. Gli studi suggeriscono che le persone hanno in media circa una dozzina di contatti stretti al giorno – episodi che coinvolgono il contatto diretto o una conversazione individuale – eppure, anche in assenza di misure di distanza sociale, la persona infetta in media trasmette il virus solo a 2 o 3 altre persone in tutto l’intero decorso della malattia. Le interazioni fugaci, come l’attraversamento dei corridoi nei negozio di alimentari, saranno sostanzialmente molto comuni e sostanzialmente poco probabili nel causare la trasmissione. Se le app segnalano anche questi incontri a rischio più basso, lanceranno una rete ampia quando segnalano l’esposizione. In caso contrario, mancheranno una parte sostanziale degli eventi di trasmissione. Poiché la maggior parte delle esposizioni contrassegnate dalle app non porterà a infezioni, molti utenti verranno fatti mettere in quarantena autonomamente anche quando non sono stati infettati. Una persona può tollerarlo una o due volte, ma dopo alcuni falsi allarmi e il conseguente inconveniente di un autoisolamento prolungato, prevediamo che molti inizieranno a ignorare gli avvertimenti. Naturalmente questo è un problema anche con il tracciamento dei contatti convenzionale, ma può essere gestito con un’efficace comunicazione diretta tra il contatto che si sta tracciando e il sospetto contagiato.
Almeno altrettanto problematico è il problema dei falsi negativi: casi in cui queste app non saranno in grado di contrassegnare le persone potenzialmente a rischio anche quando hanno incontrato qualcuno con il virus. La penetrazione degli smartphone negli Stati Uniti rimane all’81% circa [in Italia è ancora meno, ndr], il che significa che anche se il 100% dei possessori di smartphone installasse l’app (il che è estremamente improbabile senza politiche obbligatorie), vedremmo comunque solo una frazione degli eventi di esposizione totale (65% secondo la legge di Metcalf). Inoltre, le persone non hanno sempre i loro telefoni con sé. Immagina il corriere che lascia il telefono in macchina. Oppure considera che il coronavirus può essere trasmesso attraverso le superfici, su cui rimane dopo che una persona e il suo telefono hanno lasciato l’area. Le persone nei gruppi a più alto rischio – anziani o a basso reddito – hanno forse meno probabilità di scaricare l’app mentre hanno più bisogno di sicurezza. Altri possono scaricare l’app ma non riportano uno stato positivo, per paura, perché non vengono mai testati o perché sono tra la percentuale significativa di asintomatici.
Le app di tracciamento dei contatti quindi non possono offrire la certezza che uscire sia sicuro solo perché non è stata segnalata alcuna persona infetta nelle vicinanze. In definitiva, il tracciamento dei contatti è un intervento di salute pubblica, non di salute individuale. Può ridurre la diffusione della malattia all’interno della popolazione, ma non conferisce protezione diretta a nessun individuo. Ciò crea problemi di incentivazione che richiedono un’attenta riflessione: cosa conviene all’utente che a volte viene invitato a lasciare il lavoro ed evitare di socializzare, ma non trae benefici immediati dal sistema?
Alcuni dei framework di tracciamento dei contatti sono stati progettati pensando alla sicurezza e alla privacy, in una certa misura. La proposta Apple-Google, ad esempio, memorizza le informazioni su quali “contatti” il dispositivo ha rilevato sul dispositivo di ciascun utente, piuttosto che riportare tali informazioni in un server centrale come nel caso di alcuni degli altri approcci. Questa architettura “decentralizzata” non è completamente priva di problemi di privacy e sicurezza, e in realtà apre app basate su queste API a nuove e diverse classi di vulnerabilità. Ad esempio, poiché questi sistemi di tracciamento dei contatti rivelano lo stato di salute in relazione a un identificatore univoco, è possibile correlare le persone infette con le loro immagini utilizzando una fotocamera fissa collegata a un dispositivo Bluetooth in un luogo pubblico.
Infine, la questione dell’uso doloso è di primaria importanza, in particolare dato l’attuale clima di disinformazione, astroturfing e manipolazione politica. Immagina un politico senza scrupoli che vuole limitare la partecipazione al voto in un determinato distretto o un imprenditore disperato che vuole frenare la concorrenza. Entrambi potrebbero riferire erroneamente contatti di coronavirus senza molta paura di ripercussioni. I troll potrebbero seminare il caos per il piacere di farlo. I manifestanti potrebbero scatenare il panico come una forma di disobbedienza civile. Un’operazione di intelligence straniera potrebbe bloccare un’intera città segnalando in modo falso infezioni COVID-19 in ogni quartiere. Ci sono molte vulnerabilità alla base di questa piattaforma che devono ancora essere esplorate.
Sebbene i tecnici di Apple, Google e un certo numero di istituzioni accademiche abbiano riflettuto nei loro documenti di pianificazione sulla possibilità che i loro strumenti possano essere strumentalizzati e violati, devono essere molto più sinceri sui limiti della tecnologia, incluso il fatto che questi approcci non dovrebbero mai essere usati da soli, se proprio devono essere usati. Come termometri, pneumatici e molti altri prodotti che funzionano in modo sicuro solo all’interno di un uso specifico, queste app dovrebbero avvisare sui loro numerosi punti deboli.
Esiste anche un pericolo molto reale che queste tecnologie di sorveglianza volontaria diventino effettivamente obbligatorie per qualsiasi relazione pubblica e sociale. I datori di lavoro, i negozianti o anche i responsabili politici possono richiedere che i consumatori visualizzino i risultati della loro app prima di poter entrare in un negozio di alimentari, tornare al lavoro o utilizzare i servizi pubblici: sta lentamente diventando la norma in Cina, Hong Kong ed è stato anche provato per i turisti alle Hawaii.
Alle prese con i falsi positivi e i problemi di trolling2 delineati sopra, c’è il rischio reale che queste app basate su dispositivi mobili possano trasformare individui non infetti in emarginati a cui è vietato accedere a spazi pubblici e privati o partecipare a eventi sociali e attività economiche. Anche la probabilità che ciò abbia un impatto di vario tipo su quelli già più colpiti dalla pandemia è alta. Gli individui che vivono in quartieri densamente popolati e condomini – caratteristiche che sono anche correlate a comunità non bianche e a basso reddito – sono più propensi a sperimentare l’incidenza di falsi positivi a causa della loro stretta vicinanza.
Pertanto, esortiamo gli sviluppatori di app di tracciamento dei contatti, nonché le aziende che consentono il loro sviluppo, ad essere sinceri sui limiti e le implicazioni della tecnologia. Per essere amministratori etici di questi nuovi strumenti di sanità pubblica, devono anche fornire linee guida esplicite e raccomandazioni sulle “best practice” per lo sviluppo delle app. Questi dovrebbero includere raccomandazioni su come proteggere i sistemi di back-end e per quanto tempo devono essere conservati i dati, criteri con i quali istituzioni di sanità pubbblica possono qualificarsi per utilizzare queste tecnologie e politiche esplicite di app store in base alle quali possono essere raccolte informazioni aggiuntive, come GPS o numeri di documenti di identità rilasciati dal governo . Dovrebbero adottare pratiche comunemente accettate come audit di sicurezza, bug bounting e abusability testing per identificare le vulnerabilità e le conseguenze indesiderate di una nuova tecnologia potenzialmente globale. Infine, i creatori di app, così come le piattaforme che abilitano queste applicazioni, dovrebbero assumere impegni espliciti su quando tali app e le loro API sottostanti saranno ritirate.
C’è anche un ruolo per le autorità e la politica ufficiale. Se vogliamo usare la tecnologia per combattere il coronavirus, è fondamentale farlo con adeguate garanzie in atto. Qui intendiamo salvaguardie tradizionali, come il controllo giudiziario e le disposizioni sul “termine”3 che proteggono dall’aumento e intensificazione della missione o limitazioni sull’uso secondario e la conservazione dei dati che proteggono la privacy dei consumatori. Concordiamo con i nostri colleghi del Civil Liberties Oversight Board che la sorveglianza per il coronavirus dovrebbe imparare dalle lezioni dell’11 settembre. Ma vediamo anche un ruolo della legge e delle politiche di polizia contro una distopia fin troppo plausibile che le soluzioni tecnologiche potrebbero consentire.
I legislatori, da parte loro, devono essere proattivi e imporre rapidamente garanzie riguardo la privacy dei dati, proteggendo nel contempo quelle comunità che possono essere – e storicamente sono state – danneggiate dalla raccolta e dallo sfruttamento dei dati personali. È necessario istituire protezioni per vietare espressamente la discriminazione economica e sociale sulla base di informazioni e tecnologie progettate per affrontare la pandemia. Ad esempio, gli accademici nel Regno Unito hanno proposto un modello di normativa per impedire l’uso obbligatorio o forzato di questi sistemi non testati per impedire alle persone di tornare al lavoro, a scuola o di accedere a risorse pubbliche. La prospettiva di sorveglianza durante questa crisi serve solo a rivelare quanto poche siano le garanzie per la privacy dei consumatori, specialmente a livello federale.
Alla fine della giornata, nessuna tecnologia innovativa – presa da sola – ci farà uscire da questa minaccia senza precedenti per la salute e la stabilità economica. Nel migliore dei casi, le soluzioni tecnologiche più in vista potranno offrire un aiuto. Nel peggiore dei casi, è obbligo dei loro progettisti assicurarsi che non facciano alcun danno.
Ashkan Soltani is an independent researcher and technologist specializing in privacy, security, and behavioral economics. He was previously a senior advisor to the U.S. Chief Technology Officer, the chief technologist for the Federal Trade Commission, and a contributor to the Washington Post team that in 2014 won a Pulitzer Prize for its coverage of national-security issues.
Ryan Calo is a professor of law at the University of Washington, with courtesy appointments in computer science and information science and the co-founder of two interdisciplinary research initiatives.
Carl Bergstrom is a professor of biology at the University of Washington with extensive experience in the epidemiology of emerging infectious diseases, which he is integrating into ongoing research on spread of disinformation through social and traditional media channels during the SARS-CoV-2 pandemic.
NOTE:
1. Libreria software per lo sviluppo di applicazioni.
3. Qui usano il termine “sunset provisions”, cioè una una misura all’interno di uno statuto, regolamento o altra legge che prevede che la legge cesserà di avere effetto dopo una data specifica, a meno che non vengano intraprese ulteriori azioni legislative per estendere la legge.
