1 agosto 2019

Hey gugu, ma origli le mie conversazioni?

Dice il sito del Corriere, il 31 luglio: "Dipendenti di Apple ascoltano quello che diciamo a Siri"

​In effetti non è solo Siri, ma anche Alexa (l'assistente di Amazon) e Gugu, l'assistente di Google. A dire la verità l'assistente di Google non si chiama Gugu, ma dovrebbe, dopo il bellissimo clip della nonnina italiana: Italian grandmother learning to use Google home.

Evidentemente un sistema che può essere invocato verbalmente deve sempre stare all'ascolto, per capire se per caso lo stiamo invocando. E chiaramente nessuno di noi è "costretto" a comprarsi un Gugu o una Alexa. Salvo il fatto che è quasi impossibile procurarsi uno smartphone che non sia dotato di uno di questi assistenti. Quindi nel procurarci un Gugu o una Alexa dobbiamo sapere che ci ascolteranno ininterrottamente.

Ma il buon senso ci dice che non ci "ascoltano" veramente, si limitano a cercare di capire se li abbiamo invocati. E solo in questo caso si attivano e cercano di capire cosa gli abbiamo detto, Giusto? Sbagliato, perché ovviamente possono sbagliarsi. Tanto che Gugu reagisce anche se lo chiami Gugu, e non Google, appunto. Quindi ci ascoltano se li invochiamo e ci ascoltano se credono di essere stati invocati.

E qui casca l'asino. L'oggetto non ha la capacità autonoma di capire, comprendere e rispondere ad una richiesta verbale. Lo fa aiutandosi con il cloud, dove sono ospitati i servizi che interpretano, comprendono, rispondono. Per farlo deve trasmettere al cloud la registrazione della richiesta, che serve solamente per il tempo necessario a capirla. E che quindi non è evidente che venga tenuta o archiviata, magari insieme alla interpretazione e ai dati identificativi della provenienza. Ma i provider del servizio ritengono di avere necessità di tenere la registrazione, e di farla ascoltare ai propri tecnici, per avere modo di capire quanto bene funziona il sistema e di intervenire raffinando sempre di più gli algoritmi. A questo si riferisce il Corriere. In realtà è un fatto noto da tempo, e a nostro parere è del tutto inaccettabile.

Perché, ammesso che sia davvero necessario esaminare un campione di dati reali (quindi non di test), non si capisce chi gli ha dato il permesso di usare i dati a loro piacimento. Quando installo certi prodotti software (Microsoft Windows 10 ad esempio) durante l'installazione ci viene chiesto il permesso di condividere i dati di utilizzo con il produttore, per migliorare la qualità del prodotto. Se diciamo di no, i dati non vengono trasmessi. La stessa cosa potrebbero farla anche Gugu, Alexa e Siri. Potrebbero persino chiedercelo, una volta ogni tanto: "scusa, questa conversazione mi è molto piaciuta, ti spiace se la faccio sentire ai miei tecnici?". Così se stavo facendo versi imbarazzanti al mio gatto di nome Gugu, posso rispondere "mavaffa", e tutto finisce lì.

Invece no. Non se lo sognano nemmeno. I nostri dati li usano per guadagnare soldi, farsi i cavoli loro coi cavoli nostri, vendere i cavoli nostri a chi paga di più, e prestarsi ad essere strumento di manipolazione sotterranea della opinione pubblica. Sarebbe ora di intervenire con la mannaia.


Segui la nostra
pagina su LinkedIn