Il racconto breve “Nemico segreto” di Clelia Farris è stato pubblicato per la prima volta nel 2016 da Italian Institute for the Future in “Segnali dal futuro” e nel 2018 da Future Fiction all’interno dell’antologia “La consistenza delle idee”.

Yuliano Nagai è assistito da un sistema molto sofisticato che si prende cura di lui nel corso della sua routine quotidiana al punto che tra i due si crea un rapporto complesso, un gioco di specchi in cui l’immagine che appare può non essere piacevole.

I progressi nel campo dell’informatica, sia per quanto riguarda la potenza dell’hardware che algoritmi come quelli di apprendimento automatico e apprendimento profondo, stanno portando alla creazione di assistenti personali sempre più sofisticati. Tra le altre cose, sono in grado di analizzare con crescente precisione i nostri gusti e le nostre esigenze, fino a che punto potranno arrivare?

Clelia Farris ha provato a immaginare le possibili conseguenze della presenza costante di un assistente personale basato su un’intelligenza artificiale. Esso potrebbe andare ben oltre i consigli dei libri nuovi da acquistare conoscendo gusti del proprietario ma sarebbe in grado anche di analizzare costantemente il suo stato fisico e mentale consigliandogli ciò che è meglio per la sua salute.

Come parte di una casa intelligente altamenta automatizzata, un sistema del genere diventerebbe un servitore del proprietario per una serie di operazioni di routine come la gestione dei pasti. “Nemico segreto” il tema viene sviluppato in particolare attraverso un originale elemento psicologico con quel sistema che vigila costantemente su Yuliano Nagai.

Nel racconto ci sono parecchi riferimenti allo specchio, che va inteso in senso letterale come parte dell’assistente personale ma anche in senso figurato, perché quel sistema va ben oltre le precedenti innovazioni domotiche. L’intelligenza artificiale valuta non solo i gusti ma anche le azioni e le motivazioni di Yuliano Nagai vedendone i lati oscuri che l’uomo preferisce ignorare.

Il risultato è un racconto per certi versi abrasivo sul rapporto tra uomo e intelligenza artificiale. Sistemi in grado di comprendere in modo sempre più perfezionato i risvolti psicologici degli esseri umani potrebbero finire per non averne una grande opinione. Saremo pronti a guardarci allo specchio e a rivelare a sistemi così avanzati tutto ma proprio tutto di noi?