Assistenti vocali: con l’espansione aumentano i problemi di privacy e sicurezza

Gli assistenti intelligenti sono la nuova frontiera del mercato smart living ma il loro ingresso nelle abitazioni porta grossi rischi legati alla privacy e alla sicurezza. Ecco una panoramica dell’ascesa, dei rischi e di nuove proposte in risoluzione al problema.

Indice

Introduzione 

  1. L’ascesa degli assistenti vocali 
    • 1.1 Un fenomeno globale 
    • 1.2 Un mercato in forte crescita    
    • 1.3 Abitudini dei consumatori Italiani
  2. Privacy e sicurezza informatica 
    • 2.1 Gli  assistenti vocali sono un pericolo ?
    • 2.2 Il problema del Passive listening/Stand-by vigile
    • 2.3 La percezione degli utenti 
  3. Casi di controversie passate
    • 3.1 Il caso dei dipendenti di Amazon che ascoltano i clip audio per migliorare il servizio 
    • 3.2 Trasmissione involontaria di dati sensibili a terzi 
    • 3.3 Alexa chiamata a testimoniare 
  4. L’Europa in risposta ai problemi di privacy e sicurezza
    • 4.1 GDPR
    • 4.2 Cybersecurity Act
    • 4.3 I consigli del garante della privacy (GPDP)
  5. Progetti in risoluzione al problema 
    • 5.1 Progetto Alias
    • 5.2 Sistema Almond

Conclusione

Fonti


Introduzione

Il monopolio degli smartphone nel mondo del tech vede tali device popolare il mercato da alcuni anni, ma nel 2018 è avvenuta una svolta con il boom di vendite di una nuova innovazione volta a mutare il modo con cui interagire con la tecnologia: l’assistente vocale. Il primo fu Google Home, per poi proseguire con Alexa e gli Echo di Amazon. Da lì una rapida ascesa fino a divenire una delle principali tendenze del mondo smart living che dominano fino ad oggi e che si diffondono a ritmo esponenziale.

Al giorno d’oggi  la maggior parte di utenti connessi non riuscirebbe ad immaginare la quotidianità  senza le numerose funzionalità che offre l’assistente intelligente rispondendo ad ogni comando richiesto contribuendo al risparmio in termini di tempo ed efficienza.

Gli assistenti vocali si trovano ovunque, negli appartamenti, negli elettrodomestici e in ogni oggetto legato al mondo smart. Essi, insomma, circondano la nostra vita in ogni momento. 

Allo stesso tempo, però, la  crescente diffusione dei dispositivi ha attirato l’attenzione dei predatori di dati, i quali utilizzano quest’ultimi per fini secondari, attirando inoltre l’attenzione di hacker del web. Le conseguenze potrebbero essere gravi, con effetti importanti sulla privacy e sicurezza. 

A tal proposito, questo approfondimento ha l’obiettivo di presentare agli utenti un background sui rischi che si hanno nel momento in cui si decide di introdurre nelle proprie abitudini di vita quotidiana questo prodotto. Partendo dalla diffusione esponenziale del prodotto in questi ultimi anni, si proseguirà con l’esposizione dei diversi problemi legati alla privacy e alla sicurezza per poi arrivare a concludere con prerogative istituzionali e potenziali soluzioni in risposta al problema. I numerosi studi e ricerche che verranno presentati andranno a confermare i possibili rischi.

1. L’ascesa degli assistenti vocali 

1.1 Un fenomeno globale 

A partire dalla loro ascesa nel mercato, gli assistenti digitali sono diventati un fenomeno in grande crescita ogni anno sempre più diffuso. Grazie alla guida delle aziende multinazionali che dominano la produzione di smartphone, essi sono riusciti a raggiungere livelli di adozione alti in poco tempo. Il prezzo alla portata di tutti ha favorito inoltre una maggiore possibilità di incremento delle vendite del prodotto, anche dovuto dai prezzi ridotti durante i periodi di Black Friday ( un esempio è  l’edizione Italiana 2020 del black friday  che si è caratterizzata per la vendita degli assistenti vocali ‘echo’ di amazon tra i prodotti più scontati e graditi dai consumatori). 

Alcune ricerche nel campo svolte nel 2020 da Voicebot hanno rilevato che a dominare il mercato sono gli smart speaker di Amazon con il 23% dei prodotti totali acquistati, al secondo posto si trova Google con il 19% mentre i device Apple rappresentano solamente il 5%, con una variazione percentuale rispetto al 2019 comunque marginale. 


Il fenomeno globale varia da Paese a Paese. Se viene ristretto il campo ponendo lo sguardo ai singoli mercati di ogni paese, possiamo notare notevoli differenze. Prendendo ad esempio Il mercato statunitense, emerge come gli assistenti Amazon e Google rappresentino la maggiore fetta di mercato, rispetto ai produttori cinesi che si posizionano per ultimi nella classifica. In Cina i protagonisti sono invece brand come Alibaba (AliGenie), Baidu (DuerOS), Xiaomi (Xiao AI) e Tencent (Xiaowe). In Russia a prendere una grande fetta del mercato è invece Alice di Yandex, leader che produce il più usato motore di ricerca del paese.

Da qui notiamo una chiara differenziazione globale in termini di mercati nazionali, dove i l’uso di assistenti digitali è influenzato dai leader del tech che dominano il paese di riferimento, che grazie alla fidelizzazione da parte del consumatore riescono a affermarsi in quella parte di mercato. 

1.2 Un mercato in forte crescita 

Una ricerca svolta da Strategy Analytics ha affermato che l’emergenza sanitaria non ha fermato l’ascesa degli smart speaker, che si presenta con una crescita dell’8,2% su base annua. Questo rende più chiara l’espansione di questo prodotto come rilevato dal rapporto svolto da  Juniper Research in cui si prospetta che il numero di assistenti vocali installati sui dispositivi supererà quello della popolazione mondiale raggiungendo 8,4 miliardi di dispositivi entro il 2024, rispetto ai 105 milioni che aveva raggiunto nel 2019.

Questo continuo sviluppo si ha grazie alle capacità strategiche dei grandi brand del tech che, per mantenere monetizzata quella parte di mercato, ampliano l’uso degli assistenti vocali non solo dando la possibilità di utilizzo nelle proprie case ( inclusi anche nei sistemi smart home) ma anche al di fuori dell’ambiente casalingo. 

Amazon, ad esempio, ha esteso l’utilizzo del prodotto nel settore automotive, lanciando il dispositivo Echo auto compatibile con numerosi marchi di automobili. Samsung, introducendo la tecnologia Smartthings, è invece riuscita ad integrare l’assistente vocale in oggetti alternativi come nel caso dello zaino smart konnect-ai nato dalla collaborazione tra Google e Samsonite e presentato in uno dei nostri primi articoli. Infine, brand meno comuni come l’azienda di telecomunicazioni Swisscom hanno integrato le funzioni di assistente vocale nei sistemi di smart home dei propri abbonati.

di Chiara Monforte

1.3 Abitudini dei consumatori italiani

Per comprendere al meglio i rischi che può portare l’utilizzo del prodotto è utile sapere come viene utilizzato e per quali scopi. 

Una ricerca svolta nel 2020 e designata da Celi, società attiva sul fronte delle tecnologie di riconoscimento vocale, attraverso la collaborazione con l’istituto di ricerca Kklein ha analizzato il rapporto tra gli italiani e i dispositivi intelligenti. Grazie alla testata del Sole 24 ore siamo riusciti a rilevare alcuni dati interessanti riguardo le abitudini dei consumatori Italiani. Il focus preso come riferimento è stato quello delle richieste fatte abitualmente agli assistenti vocali che vengono riassunte qui sotto: 


Dall’indagine è inoltre emersa una grande curiosità e soddisfazione rivolta verso questo prodotto, infatti un terzo degli utenti ha affermato che ripeterebbe l’acquisto con certezza.

Questi risultati ci presentano una chiara panoramica dell’utilizzo comune degli assistenti vocali da parte dei consumatori Italiani comprendendo, inoltre, come il prodotto venga utilizzato più volte al giorno per richieste e scopi di vario genere e sostituendo inoltre molti dei nostri comportamenti che venivano svolti precedentemente in modo autonomo. Insomma, essi dimostrano di circondare la nostra vita e venirci in aiuto in ogni momento e in ogni luogo.

2. Privacy e sicurezza informatica 

    2.1 Gli assistenti vocali sono un pericolo?

Il contesto delineato nei paragrafi precedenti ci mostra come l’adozione di questi strumenti stia crescendo sempre di più e come, ormai, siano entrati a far parte della quotidianità delle persone. Ma se da un lato le funzionalità che offrono sono numerose e semplificano la vita dei consumatori, dall’altro non mancano i dubbi dei possibili rischi in termini di sicurezza e privacy. 

Tali rischi sono imputabili al funzionamento del prodotto stesso. Una delle caratteristiche che lo contraddistingue da molti altri dispositivi digitali è la presenza interna del sistema di intelligenza artificiale che attiva la capacità di apprendere ogni volta che viene fatta una richiesta. Perciò, tutte le interazioni che vengono svolte dall’utente rimangono memorizzate all’interno e, sfruttando il meccanismo di apprendimento di Machine learning/ Deep learning, vengono elaborate per migliorare in modo costante la comprensione delle richieste. Tutte le interazioni vengono memorizzate in un cloud e sono rese disponibili su richiesta (ai cittadini dell’UE ai sensi del GDPR).  Dunque possiamo definire il servizio come in continua evoluzione che anche grazie all’esperienza è in grado di migliorare l’interazione e il rapporto tra macchina ed utente riducendo costantemente gli errori. 

Per quanto questo meccanismo abbia contribuito alla popolarità e alla vendita globale del prodotto, esso genera un problema considerevole: la conservazione sicura dei dati. 

Possiamo quindi porci dei quesiti: Quante e quali interazioni riesce a memorizzare? Tutte le interazioni memorizzare rimangono protette o possono essere accessibili a terzi ? Una risposta interessante a questi quesiti ci viene fornita da un TEDx talk che ci offre uno spunto di riflessione molto aperto. I protagonisti del talk sono Kashmir Hill e Surya Mattu che hanno svolto un esperimento durato circa due mesi per comprendere al meglio fino a dove si spinge la profilazione di dati di questi dispositivi (compresi gli assistenti digitali). L’esperimento si è svolto dotando un appartamento con 18 dispositivi smart connessi e costruendo un router per tenere traccia della frequenza con cui hanno contattato i loro server per vedere quali segnalazioni venissero fatte.

    2.2 Il problema del Passive listening/Stand-by Vigile

L’assistente vocale per essere in grado di capire quando abbiamo bisogno di lui deve rimanere sempre passivamente in ascolto. In questo contesto si parla di Passive listening o stand by vigile, ovvero la condizione in cui essi rimangono in ascolto passivo e vengono attivati solo nel momento in cui viene pronunciata la parola di attivazione (ad esempio, ‘Hey Google’) che abilita il dispositivo. Stando a queste condizioni, ogni parola che viene pronunciata nell’ambiente simile a quella di attivazione può abilitare il prodotto portando anche ad azioni non volute dall’utente. Uno studio svolto da alcuni ricercatori della North Carolina State University e dell’Università di Paris Saclay ci conferma come tale meccanismo di Passive listening diventi invasivo nei casi in cui il dispositivo si attivi anche in presenza di parole diverse da quella di attivazione (come detto precedentemente, “Hey Alexa” o simili). Lo studio ha inoltre fornito un lista di parole in lingua inglese che accidentalmente attiverebbe il prodotto se pronunciate nel raggio di azione del device. Per svolgere l’esperimento hanno sviluppato un software chiamato LeakyPick, il quale monitora i dispositivi connessi dotati di microfono. Il software, controllando il traffico di rete, va a ricercare schemi di pacchetti che indicano trasmissioni di file di suono tra i dispositivi. Nello specifico, il software è costruito su un sistema chiamato Raspberry Pi che genera periodicamente rumori e monitora il traffico di rete attraverso un approccio statistico applicabile ai dispositivi vocali.

Le funzioni del software sono state messe alla prova per 52 giorni su otto dispositivi vocali: Echo Dot, Google Home, HomePod, Netatmo Welcome and Presence, Nest Protect e Hive Hub 360. La prima fase è stata quella di monitorare il traffico degli assistenti vocali selezionando un elenco di 50 parole tra le 1000 più utilizzate della lingua inglese che presentano fonemi simili rispetto alle cosiddette ‘wakeword’ ufficiali che attivano i dispositivi. In seguito, come parte dell’esperimento, i proprietari hanno interagito con il prodotto per alcune settimane. Grazie ad un sensore ottico, LeakyPick è riuscito con precisione a identificare l’attivazione dei dispositivi nel momento in cui venivano ascoltati i comandi. La ricerca si è conclusa identificando 89 parole in diversi cicli di test che riescono ad attivare inconsapevolmente il device Echo Dot. Nella lista delle parole attivatrici, molte di esse risultano foneticamente molto diverse da ‘alexa’, come ad esempio la parola “electrographic”.

Un portavoce di Amazon ha commentato i risultati della ricerca affermando: “Sfortunatamente, non ci è stata data l’opportunità di rivedere la metodologia alla base di questo studio per convalidare l’accuratezza di queste affermazioni prima della pubblicazione. Tuttavia, possiamo assicurare che abbiamo profondamente integrato la privacy nel servizio Alexa e che i nostri dispositivi sono progettati per attivarsi solo dopo aver rilevato la parola di attivazione. I clienti parlano con Alexa miliardi di volte al mese e in rari casi i dispositivi possono attivarsi dopo aver sentito una parola che suona come “Alexa” o una delle altre parole di riattivazione disponibili. In base alla progettazione, il nostro rilevamento delle parole d’ordine e il riconoscimento vocale migliorano ogni giorno questo perché i clienti utilizzano i loro dispositivi e ciò ci permette di ottimizzarne le prestazioni “.  

Come affermato dagli autori della ricerca, con l’adozione crescente di questi dispositivi abbiamo sempre più bisogno di pratiche in difesa della privacy.  

 2.3 La percezione degli utenti 

Come abbiamo visto dai paragrafi precedenti, ricercatori e studiosi confermano i numerosi problemi di privacy e sicurezza che presentano gli assistenti vocali. Ciò che viene spontaneo chiedersi è: gli utenti sono consapevoli di questi rischi ? A tale quesito risponde una ricerca fatta da Voicebot.ai nell’edizione più recente (2020) del report Speaker Consumer Adoption svoltosi ogni anno dal 2018 attraverso un sondaggio nazionale. In questa edizione sono stati coinvolti circa 1.000 adulti statunitensi, sia i possessori di assistenti vocali ma anche i non possessori. Per quanto riguarda la percezione dei rischi della privacy, il 30% degli intervistati si colloca nella fascia di ‘molto preoccupati’ rispetto al 26% del 2019. Inoltre, complessivamente, più della metà degli intervistati (53%) si ritiene generalmente preoccupata per i rischi associati alla stessa privacy. Infine, solo il 6% non riesce a trovare una posizione a riguardo.

Fonte: Voicebot.ai

Gli intervistati che non possiedono un assistente vocale esprimono diverse posizioni rispetto alle motivazioni per il quale scelgono di non acquistare tali device. Si nota una differenza sostanziale con i report degli anni precedenti (2018 e 2019), dove emerge una mancanza di interesse nei riguardi della privacy o come i soli smartphone soddisfacessero le esigenze di quel momento. La preoccupazione nei confronti dei rischi della privacy ha invece subito un’impennata tra il 2019 e il 2020, dove il 33% degli intervistati ha indicato come motivo la paura di essere ascoltati per tutto quello che si viene detto. La stessa risposta, infatti, nel 2018 aveva raccolto solo il 16% dei consensi, con solo 1 intervistato su 6 che riteneva la privacy una priorità. In percentuale simile, il 35% degli intervistati si ritiene non interessato ad acquistare il prodotto, evidenziando quindi come privacy e mancanza di interesse siano le due cause principali per non acquistare il prodotto. 

Fonte: Voicebot.ai

Dal grafico emerge anche un forte calo di utenti che vogliono acquistare il prodotto rispetto agli anni precedenti: solo il 5% degli intervistati rispetto al 7% del 2018 e 2019. 

A cosa è dovuto questo innalzamento della percezione del rischio da parte degli utenti ? 

A determinare questa crescita di percezione del rischio nel corso degli anni è stata la divulgazione di una serie di eventi in alcune testate online, in cui venivano esposti dei casi di violazione della privacy e controversie riguardo la trasmissione di dati.

3. Casi di controversie passate

3.1 Il caso dei dipendenti di Amazon che ascoltano le registrazioni per migliorare il servizio 

Una delle controversie che ha suscitato più clamore tra gli utenti è stata quella pubblicata nel 2019 dalla testata Bloomberg. La notizia raccontava un’indagine approfondita la quale faceva luce su come dietro Alexa ci fosse un gruppo di impiegati di Amazon, i quali ascoltavano i clip audio delle conversazioni tra l’utente e il prodotto. Le richieste che venivano fatte all’assistente vocale venivano infatti trascritte e confrontate con la risposta che veniva data da Alexa, e in caso di errori, gli impiegati provvedevano ad apportare le correzione nel software. Nell’inchiesta veniva affermato inoltre che gli utenti venivano registrati anche senza aver ancora accettato i termini dell’utilizzo dell’app Alexa, essendo esposti al trattamento dei dati senza il loro consenso esplicito. 

In seguito a questa indagine, nasce la paura dei consumatori riguardo alla questione legata alla privacy e specificatamente legata alla protezione dei minori. Si credeva infatti che molte conversazioni private potessero potenzialmente consentire l’identificazione dell’utente e dei minori. 

Amazon, dall’altro lato, rispondendo a questa indagine ha dichiarato come la priorità per l’azienda fosse quella della privacy dell’utente e come i clip audio non fossero associati a dati personali dell’utente ma solo al codice cliente. Questo non avrebbe perciò consentito ai dipendenti di identificare nome e cognome.

Florian Schaub, esperto di privacy informatica alla University of Michigan, spiega alla testata Blomberg che questo clamore da parte delle persone viene giustificato dal fatto che, normalmente, non ci si aspetta che dietro a un oggetto smart ci possa essere questa componente umana. In realtà, per migliorare il rendimento del prodotto, risulta necessaria questa componente “umana”, soprattutto se si tratta un sistema di machine learning come quello degli assistenti vocali. In questo contesto, un rapporto pubblicato da Wired ha messo in luce come Amazon utilizzi tecniche sempre più all’avanguardia come l’apprendimento attivo per ridurre i tassi di errore senza richiedere l’aiuto umano. Da quì si comprende come Amazon sia attivamente alla ricerca di tecniche per allontanarsi dal tipi di apprendimento supervisionato da soggetti umani e che va a migliorare in modo crescente con gli anni. 

In seguito a questa inchiesta è stata resa nota una delle funzioni da selezionare che avrebbe bloccato la trasmissione dei clip ovvero l’opzione “Help to develop new features”(“aiuta a sviluppare nuove funzionalità”) che può essere disattivata nelle impostazioni della propria applicazione. 

Fonte: Cnet.com

Inoltre, a seguito della pubblicazione del rapporto di Bloomberg, Amazon ha introdotto numerose funzionalità legate alla privacy e sicurezza. Una delle funzioni rappresenta la possibilità di eliminare tutte le informazioni registrate dal device sia attraverso l’applicazione ma anche tramite comando vocale. 

3.2 Il caso della trasmissione involontaria di dati sensibili a terzi 

Altre conversie legate alla privacy dei dati sono state legate ad errori dovuti dal passive listening con l’attivazione involontaria del sistema e la mancata comprensione delle richieste da parte dell’assistente vocale. Due casi sono circolati per molto tempo su numerose testate online coinvolgendo l’attenzione degli utenti. 

Uno di questi riguarda una donna di Portland ( qui il video dell’intervista completa del fatto accaduto) che ha sostenuto come durante una conversazione privata con il marito, il dispositivo Amazon echo abbia inviato la registrazione a un dipendente del marito inconsapevolmente. L’accaduto è stato confermato da un portavoce di Amazon che ha dichiarando a the Verge, come l’accaduto si fosse verificato a causa di un errore del dispositivo che ha confuso la conversazione con i comandi.

Una seconda controversia dello stesso genere si è verificata in Germania, dove un uomo per errore ha ricevuto un file contenente 1.700 registrazioni vocali e informazioni di Alexa di un altro utente sconosciuto. L’utente, non possedendo alcun device Amazon echo, ha perciò chiesto chiarimenti alla stessa azienda rispetto ai dati in posesso del colosso americano e perchè le registrazioni fossero arrivate al malcapitato. L’uomo non avendo ricevuto risposta da Amazon ha chiesto perciò ai giornalisti della rivista tedesca c’t di comprendere chi fosse il proprietario delle registrazioni. I giornalisti sono riusciti ad identificare il nominativo della persona, riuscendo anche a comprendere i comportamenti, i dispositivi smart adottati nella propria casa come il termostato e gli allarmi, e anche il suo cerchio ristretto di conoscenze, rivelando una serie di implicazioni per la privacy tramite la disseminazione involontaria di dati da parte di Amazon. 

3.3 Alexa chiamata a testimoniare?

Questi dispositivi basati su sistemi di attivazione passiva e l’accumulo di informazioni in ogni momento della vita quotidiana sono stati usati anche per scopi alquanto bizzarri. Un caso di questo genere è accaduto in Florida nel 2019 in un processo per omicidio di una donna dopo una lite con il marito, il quale ha dichiarato che si trattasse di un tragico incidente avvenuto per fatalità. La coppia però al momento dell’accaduto non si trovava sola, infatti nella loro abitazione era presente un assistente vocale di Amazon, la quale secondo l’accusa avrebbe sentito e registrato momenti decisivi per il caso. Per questo gli agenti hanno chiesto ad Amazon di fornire numerose informazioni contenuto nell’Eco della coppia, anche se private. Le registrazioni sono state in seguito analizzate riscontrando informazioni chiave per il caso. Amazon ha precisato che «non divulga le informazioni dei clienti in risposta alle richieste del governo a meno che non sia tenuto a farlo per rispettare un ordine legalmente valido e vincolante». 

Fonte: Mashable

Questo, infatti, non è il primo caso in cui Amazon decide di rendere disponibili delle informazioni private per casi di cronaca nera, trovandosi costretta a farlo di fronte a dei mandati legali. É già successo nel 2015 con un il caso soprannominato “Bates” ( Qui la cronaca completa) e nel 2018 con un duplice omicidio avvenuto in New Hampshire ( Qui la cronaca completa ).

Tutti questi casi qui sopra riportati hanno fatto il giro di molte riviste online internazionali, guadagnando attenzione mediatica sulle implicazioni negative di tali tecnologie ma anche come esse possano rivelarsi uno strumento utile per perseguire casi di giustizia penale. Sicuramente non rassicura gli utenti sapere che un oggetto utilizzato quotidianamente potrebbe registrare conversazioni private in qualsiasi momento e inviare informazioni a degli sconosciuti o addirittura testimoniare in un processo, generando una paura legata al serio rischio di compromissione della privacy domestica. Di conseguenza, ciò potrebbe potenzialmente indebolire la fiducia sia da parte dei consumatori, sia di coloro che ancora non possiedono il prodotto (come si vede nel paragrafo 2.3 è già rilevante un abbassamento del grado di fiducia nei confronti di questi device a partire dal 2019). Ma c’è un modo per tenere lontani questi rischi legati alla privacy e sicurezza ? Secondo delle precauzioni che stanno prendendo le istituzioni e secondo i consigli da parte di figure esperte, SI.

4. L’europa in risposta ai problemi di privacy e sicurezza

4.1 GDPR

Il problema della sicurezza e della privacy degli assistenti vocali è attenuata dai provvedimenti presi in ambito amministrativo dai paesi. In Europa tutti i prodotti che raccolgono dati sensibili (inclusi i produttori di assistenti vocali) devono attenersi alle regole e ai principi del regolamento Europeo GDPR 679/2016 in materia di protezione dei dati personali. Alcuni dei principi essenziali del regolamento come quelli denominati ‘Privacy by design’ e ‘Privacy by default ‘prevedono che i sistemi elettronici/smart siano configurati per ridurre al minimo la raccolta e il trattamento di dati sensibili. Inoltre risulta fondamentale anche il principio di trasparenza riguardo la gestione del trattamento dei dati e i diritti delle persone fisiche. L’obiettivo è quello di armonizzare le scelte applicative fatte dai consumatori nei riguardi del mercato europeo cercando di ridurre al minimo i rischi legati alla privacy dell’individuo.

Nel momento in cui decide di attivare un assistente digitale ogni utente potrà infatti fare riferimento all’informativa sul trattamento dei dati che secondo il Regolamento europeo deve essere sempre disponibile al momento dell’acquisto. Ogni acquirente così potrà avere una panoramica sull’uso che viene fatto dei dati che vengono raccolti con il prodotto, potrà essere a conoscenza di:

  • Quali e quanti dati saranno acquisiti dal prodotto
  • Come possono essere utilizzate le informazioni raccolte
  • Trasferimento a terzi
  • Chi e come potrebbe ricevere i dati raccolti ( o se vengono attivati da parte del servizio clienti che gestisce i servizi offerti) 
  • Dove sono conservati e per quanto tempo

Dunque grazie all’informativa ogni consumatore sarà consapevole degli eventuali rischi connessi e potrà cercare soluzioni adatte per evitare i possibili rischi connessi. 

Fonte: TeamSystem

4.2 Cybersecurity Act

Per quanto concerne la sicurezza informatica dei prodotti elettronici, le istituzioni Europee in questi ultimi anni si sono impegnati ad adottare misure volte al rafforzamento della sicurezza cibernetica in ambito unitario. Una delle ultime misure adottate è stata proposta dall’agenzia dell’Unione europea per la sicurezza delle reti e delle informazioni ( ENISA) che ha istituito il cosiddetto Cybersecurity Act. Il regolamento entrato in vigore nel 2019, che ha valenza europea, costituisce una strategia che,come delineato dalla rivista online AgendaDigitale, “mira a rafforzare la resilienza dell’Unione agli attacchi informatici, a creare un mercato unico della sicurezza cibernetica in termini di prodotti, servizi e processi e ad accrescere la fiducia dei consumatori nelle tecnologie digitali.” 

Precedentemente al regolamento tutte le certificazioni di cyber sicurezza esistenti negli stati membri avevano valenza nazionale e non erano riconosciuti all’estero. Con l’attuazione del Cybersecurity Act, questi processi vengono resi solidi grazie a delle linee guida che rendono le certificazioni omogenee e riconosciute nell’Unione Europea. Si tratta quindi dell’introduzione di un sistema europeo di certificazioni legate alla sicurezza dei prodotti digitali, volti a facilitare lo scambio di questi prodotti nell’UE e ad accrescere la fiducia dei consumatori. Un secondo ruolo di questo regolamento è il rafforzamento dei compiti svolti da ENISA, che oltre a svolgere compiti di consulenza tecnica si impegnerà anche in attività di supporto alla gestione operativa degli incidenti informatici, con il fine di fornire un sostegno più tangibile. 

Il Cybersecurity Act è di grande rilievo per i produttori del settore degli assistenti vocali che dovranno anch’essi attenersi al rispetto di queste nuove regole di sicurezza con l’obiettivo di rendere la sicurezza del prodotto omogenea nel territorio Europeo. 

4.3 I consigli del garante della privacy (GPDP)

Nel momento in cui scegliamo di introdurre nelle nostre case un assistente digitale per facilitare la nostra vita quotidiana è quindi fondamentale essere consapevoli dei rischi annessi all’utilizzo e cercare di ridurre al minimo possibili violazioni legate alla privacy e sicurezza attuando determinati comportamenti. 

In questo contesto è rilevanteriportare alcune parole affermate durante un’intervista (qui l’intervista completa) ad Antonello Soro, ex presidente dell’autorità garante per la protezione dei dati. Esso in materia di assistenti vocali afferma: “ Innovazioni come quelle dello smart assistant determinano indubbi vantaggi nella vita quotidiana di ciascuno e vanno quindi, come tali, promosse. Tuttavia, proprio il flusso di dati che tali tecniche permettono, integrando tecnologie diverse, esigono garanzie adeguate tanto per gli utenti, quanto per la sicurezza dei dati e delle reti coinvolti in questi processi”. Aggiungendo inoltre che: “Queste misure compensano quel deficit di consapevolezza che abbiamo nell’utilizzare dispositivi intelligenti di uso quotidiano, la cui apparente innocuità ci induce a sottovalutarne la potenziale esposizione ad attacchi informatici o comunque la capacità di rivelare, tramite i dati raccolti, stili e tenore di vita, persino patologie o dipendenze”. Inoltre, nell’intervista ha discusso la questione di come questi dispositivi possano incentivare la profilazione e il microtargeting. Soro crede che nel processo decisionale per la gestione di quest’ultimi, ci sia anche bisogno dell’intervento umano (contrastando le decisioni automatizzate). 

Nel marzo 2020 il garante per la protezione dei dati personali ha pubblicato una scheda informativa contenente di comportamenti che dovrebbero essere seguiti dai consumatori per ridurre al minimo i rischi di sicurezza legati all’uso degli smart assistant.

Ecco un’infografica che mostra i punti principali che verranno approfonditi di seguito:

Informati sempre su come vengono trattati i dati: Come già mostrato nel paragrafo 4.1, al momento dell’attivazione del dispositivo, prima di accettare e procedere è bene leggere con attenzione l’informativa del trattamento dei dati personali che per il regolamento europeo GDPR deve essere sempre presente nel prodotto o nell’applicazione. L’informativa contiene numerose informazioni su come vengono utilizzati dati (vedi paragrafo 4.1). 

Non dire troppe cose all’assistente vocale: Nel momento dell’attivazione sarebbe consigliato di fornire le informazioni necessarie per poi procedere con la registrazione e attivazione dei servizi. Per la sicurezza dei minori, utilizzare pseudonimi e impostare delle password o impronte vocali che limitano l’accesso al servizio solo a specifici utenti adulti. 

Disattiva l’assistente digitale quando non lo usi: Per evitare i problemi legati al passive listening ( vedi paragrafo 2.2 per chiarire il concetto) e evitare l’acquisizione non desiderata  di dati quando non si usa si consiglia di: 

  • Se è possibile scegliere una parola di attivazione poco frequente per non rischiare che si attivi in momenti non richiesti
  • Disattivare l’assistente digitale di notte o quando non si è in casa 
  • Se è consentito disattivare il microfono o la videocamera( se presente), a seconda dei casi, attraverso le impostazioni app.

Decidi quale funzioni mantenere attive: L’assistente digitale viene considerato l’hub principale del controllo dei sistemi domotici/smart presenti nelle proprie case. E’ perciò consigliato inserire apposite password per controllare l’attivazione e disattivazione dei sistemi per evitare l’eventuale rischio che la voce venga clonata da terzi e usata per controllare elettrodomestici, ingressi, sistemi di protezione o spiare l’interno della casa. (dunque, per evitare di trovarsi in situazioni spiacevoli, come la famosa scena tratta dalla serie “Mr. Robot”):

Inoltre se il prodotto è in grado di svolgere determinate azioni come effettuare acquisti online, pubblicare contenuti sui social, si può decidere di disattivare tali funzioni o inserire password per autorizzare l’uso.

Cancella periodicamente la cronologia delle informazioni registrate: Per limitare il trattamento dei dati raccolti dal prodotto, si può eliminare la cronologia di alcune tipologie di dati (ad esempio le informazioni più sensibili) attraverso l’applicazione.

Se lo vendi, non cedere anche i tuoi dati: Nel caso in cui si decida di vendere, regalare o dismette l’assistente vocale, è consigliato disattivare gli account collegati o provvedere alla cancellazione dei dati registrati. Se le informazioni sono state trasmesse e conservate nei database dell’azienda produttrice o di altri soggetti è opportuno chiederne la cancellazione.

Imposta password crittografate: è consigliabile impostare password di accesso complesse sia per l’attivazione del prodotto che per la sua connessione internet. Le possibili precauzioni da prendere sono:

-Verificare che la crittografia della rete wifi sia impostata sul protocollo di sicurezza WPA 2

-Cambiare spesso la password

5. Progetti in risoluzione al problema 

5.1 Progetto Alias 

In seguito alle numerose controversie e casi di violazione di privacy mostrate precedentemente, molte aziende si sono impegnate a rafforzare tale caratteristica nei propri prodotti. Inoltre, il mercato ha visto numerosi tentativi di sviluppo di nuovi ecosistemi smart speaker incentrati interamente sulla privacy e sicurezza (come ad esempio JOSH.AI discusso già in un nostro articolo) i quali non riescono a spiccare a livello globale a causa dei costi molto alti o della fidelizzazione dei marchi già noti (‘big players’). Ma un progetto interessante che potrebbe ovviare a questo problema è chiamato Alias, un progetto open source, con codice sorgente disponibile su GitHub e istruzioni di costruzione su Instructables ancora disponibili solo per i dispositivi Alexa echo e Google home. Si tratta di un dispositivo che si posizione al di sopra dell’assistente vocale che genera un rumore bianco e non permette all’assistente digitale di utilizzare il microfono in ascolto. Solo pronunciando “Alias” (o un nome a scelta rilevato da una piccola rete neurale), verrà disattivato il rumore di fondo attivando assistente vocale. Utilizzando questa parola di attivazione ‘locale’, l’assistente non richiede necessariamente l’utilizzo del cloud quindi lavorerà offline (grazie ad uno spazio di archiviazione locale) al riparo da possibili pericoli. 

Utilizzando questo meccanismo non potranno capitare casi di attivazione indesiderata.Come affermato dai creatori del progetto, il nostro rapporto con la tecnologia si fonda dal modo in cui interagiamo con essa, ma al giorno d’oggi i nostri modelli di interazione sono determinati dai progettisti di questi prodotti. Per questo il progetto è nato con l’obiettivo di mutare questa relazione dando maggior potere agli utenti finali soprattutto quando si tratta della loro privacy. Queste sono alcune parole affermate dei creatori del progetto Alias: 

 “Il futuro entusiasmante che le tecnologie “intelligenti” possono darci, spesso viene fornito con condizioni che riducono la nostra privacy. Con Alias vogliamo sfidare questa condizione e chiederci che tipo di “smart” vogliamo effettivamente in futuro. Pertanto abbiamo avviato Project Alias ​​per dimostrare come la cultura del produttore possa essere utilizzata per ridefinire il nostro rapporto con le tecnologie della casa intelligente, delegando più potere dai progettisti agli utenti finali dei prodotti.” 

Ecco Alias in azione:

5.2 Sistema Almond 

Un team di informatici di Stanford si è impegnato ad ovviare al problema legato alla  privacy e sicurezza dei big players sviluppando un innovativo servizio smart speaker che segue un approccio decentralizzato dell’informazione promuovendo la concorrenza aperta. In alternativa ai comuni assistenti vocali, questo ecosistema denominato ‘Almond’ offre un approccio indipendente in cui le informazioni sono archiviate e condivise in base a ciò che gli utenti desiderano (e non necessariamente che preferiscono). L’obiettivo di Almond è raggiungere un grado di indipendenza dalle grandi società decentralizzando il software dello smart speaker e collegandolo a modelli di programmazione, così da rendere l’utente più consapevole dell’archiviazione delle sue informazioni. Un database condiviso chiamato Thingpedia ( in stile Wiki o IFTTT) offre agli sviluppatori la possibilità di trovare modi alternativi per connettere i loro dispositivi ad Almond.

Secondo i ricercatori, gli assistenti digitali, per come sono stati ideati, potrebbero avere un forte impatto sulle informazioni dei consumatori rispetto a quelle acquisite tramite smartphone o siti web.  Per questo il sistema Almond, come spiegato dall’intervista fatta allo sviluppatore principale del sistema Giovanni Campagna ( Qui l’intervista completa) si è posto l’obiettivo di respingere il controllo delle informazioni personali da parte delle grandi aziende produttrici evitando così la violazione della privacy. 

Ecco un esempio di ciò che Almond può fare e alcuni comandi che gli utenti e sviluppatori ritengono interessanti: 

videoscreen sito Almond.standford

Conclusione 

Questo elaborato si è posto come obiettivo di rendere noto attraverso numerose testimonianze nel corso degli ultimi anni l’importanza di una maggiore consapevolezza nei confronti del trattamento dei dati sensibili di ogni utente e come per fine ultimo essi debbano essere protetti anche dalle stesse grandi società del tech. Per ridurre al minimo queste problematiche occorre infatti un approccio diretto a prevenire eventuali rischi legati alla privacy e sicurezza. Ogni utente, infatti, deve essere consapevole delle potenziali implicazioni dei benefici di questi prodotti e agire con prudenza per allontanare le potenziali minacce derivanti dal loro uso quotidiano. Più in generale, sarebbe di vitale importanza contare sulla tecnologia per beneficiare dei comfort che essa ci propone con uno sguardo attento nei confronti delle potenziali minacce per la propria privacy negli anni a venire. Un approccio positivo ma consapevole nei confronti di tali soluzioni smart ci permetterà infatti di rendere le nostre vite sempre più veloci ed efficienti non dimenticando i rischi derivanti da un uso imprudente delle soluzioni che il progresso tecnologico continua ad offrire. 

Fonti

Assistenti vocali, doppio rischio privacy e security: quali soluzioni ( Data di pubblicazione: 2019), Agenda Digitale

Cybersecurity Act, ecco le nuove norme in arrivo su certificazione dei prodotti e servizi ICT (Data di pubblicazione: 2019), Agenda Digitale

Smart speaker, tutti i rischi privacy dell’intelligenza artificiale (e possibili soluzioni)( Data di pubblicazione: 2019), Agenda Digitale

Mitev, R., Pazii, A., Miettinen, M., Enck, W., & Sadeghi, A. R., LeakyPick: IoT Audio Spy Detector (Data di pubblicazione: 2020).

Bjørn Karmann › project_alias ( Ultima consultazione: 2021), bjoern karmann

Privacy e sicurezza degli assistenti vocali: la situazione attuale (Data di pubblicazione: 2019), Cybersecurity360

Alexa ci spia? Un po’ sì, ma lo fa per aiutarci meglio…( Data di pubblicazione: 2019), Focus

Assistenti digitali (Data di pubblicazione: 2020), GPDP: Garante per la protezione dei dati personali

Alexa, Siri e Google Assistant attivati “accidentalmente”: due studi fanno luce sul problema (Data di pubblicazione: 2020), Hardware Upgrade

Amazon just got hit with a lawsuit that claims it’s putting children’s privacy at risk by recording what they say to Alexa (Data di pubblicazione: 2019), Inside

Smart speaker, i consigli del Garante per proteggere i propri dati sensibili | Internet 4 Things (Data di pubblicazione: 2020) , Internet 4 Things

 Alexa, unica testimone di un omicidio. E (legittime) domande sulla nostra privacy (Data di pubblicazione: 2020), IvG

Abstract – Voice Assistants Market Report | Devices & Technologies( Data di pubblicazione: 2020), Juniperresearch

Number of Voice Assistant Devices in Use to Overtake World Population by 2024 ( Data di pubblicazione: 2020), Juniperresearch

Nel 2024 gli assistenti vocali supereranno la popolazione mondiale ( Data di pubblicazione: 2020), La stampa

Interagire con gli assistenti virtuali? Un’abitudine per un italiano su dieci  (Data di pubblicazioni: 2019), Il sole 24 ore

Where is voice tech going? – TechCrunch ( Data di pubblicazione: 2020), techCrunch

Amazon explains how Alexa recorded a private conversation and sent it to another user (Data di pubblicazioni: 2018), The Verge 

Amazon sent 1,700 Alexa voice recordings to the wrong user following data request (Data di pubblicazioni: 2018), The Verge 

Amazon’s Alexa isn’t just AI — thousands of humans are listening (Data di pubblicazione: 2019), The Verge  

Researchers identify dozens of words that accidentally trigger Amazon Echo speakers (Data di pubblicazione: 2020), Venture Beat

 Il Mercato Degli Assistenti Vocali Intelligenti (Data di pubblicazione: 2020), Vincos Blog

Global Smart Speaker Growth Cools in Q1 as Pandemic Leads to Declining China Sales, Amazon Retains Top Spot Says Strategy Analytics (Data di pubblicazione: 2020),  VoiceBot

Privacy Concerns Rise Significantly as 1-in-3 Consumers Cite it as Reason to Avoid Smart Speakers( Data di pubblicazione: 2020), Voicebot

Project Alias is a Smart Parasite that Gives Users Privacy from the “Always Listening” Smart Speaker Model (Data di pubblicazione: 2019), Voicebot

Stanford Scientists Are Developing An Open Virtual Assistant( Data di pubblicazione: 2019), Voicebot

Categoria:

2 Responses

  1. Questo articolo inevitabilmente mi ha portato alla mente un argomento che forse oggi si tralascia per negligenza o più probabilmente non si riesce a capirne l’importanza: l’etica dell’informazione.
    Le macchine saranno mai capaci di riuscire ad arrivare ad un livello tale da garantire massima privacy? Dovrebbero assumere delle caratteristiche troppo vicine a quelle umane… Ottimo spunto questo articolo!

  2. Ho trovato interessante come questi device interagiscono con gli utilizzatori, rivelando aspetti che non conoscevo. Inoltre, trovo alquanto preoccupante come la tecnologia a volte riveli aspetti oscuri, in questo caso celati nell’utilizzo anche di device domestici!
    Articolo molto interessante che cambia la mia visione su questi strumenti per un eventuale uso futuro.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.