Gemini in macchina e la gentilezza che non impariamo da chi ci serve

by Rollo


Gemini in macchina e la gentilezza che non impariamo da chi ci serve

Oggi voglio proporre un post un po' diverso dal solito, nato da una considerazione che mi è venuta in mente mentre chiedevo a Gemini di alzare del 10% il volume della musica in macchina. Gemini è l'assistente di Google e da qualche mese ha preso il posto del vecchio Google Assistant anche nel sistema di bordo della mia auto, che ha Google built-in, cioè i servizi Google installati direttamente nell'auto senza passare dal telefono. A colpirmi non è stata tanto l'intelligenza, che c'è ma che da un'AI ormai si dà per scontata, quanto il tono. Gemini risponde con una gentilezza quasi disarmante anche alla domanda formulata male o ripetuta per la terza volta, per di più nel posto dove diamo il peggio di noi, perché in coda sulla A2 all'ora di punta nessuno è particolarmente civile, nemmeno chi a cena si considera una persona educata.

Da qui nasce un pensiero che mi è piaciuto per qualche giorno. Se milioni di persone passano ore a parlare con un interlocutore che non alza mai la voce, forse qualcosa di quel tono finirà per passare anche a loro, tanto più che la scala non manca, visto che secondo Google soltanto Android Auto, la versione che passa dal telefono, è presente in oltre 250 milioni di auto. L'idea è bella, ma purtroppo ha contro qualche secolo di prove.

La gentilezza di chi serve, infatti, non l'hanno inventata i chatbot. Horst Schulze, l'albergatore tedesco che negli anni Ottanta guidò la crescita della catena Ritz-Carlton, diede al personale un motto rimasto famoso, "signore e signori al servizio di signore e signori", per cui da allora milioni di ospiti sono stati trattati con una cortesia impeccabile senza che nessuno abbia mai registrato un miglioramento nelle loro maniere. Nel 1983 la sociologa americana Arlie Hochschild pubblicò "The Managed Heart", uno studio sulle assistenti di volo della Delta in cui chiamò lavoro emotivo la fatica di mostrare il sentimento che il mestiere prescrive e quel sorriso a diecimila metri faceva parte della divisa e chi lo riceveva lo trattava di conseguenza, come il caffè servito al posto, cioè qualcosa di dovuto.

Il meccanismo l'aveva descritto Albert Bandura, lo psicologo canadese che a Stanford passò decenni a studiare come impariamo osservando gli altri. Nei primi anni Sessanta mostrò a dei bambini alcuni adulti che prendevano a pugni Bobo, un pupazzo gonfiabile, poi misurò quanto quei bambini lasciati soli con il pupazzo ne copiassero i gesti. Negli esperimenti che seguirono emerse un dettaglio decisivo, ovvero che il modello viene imitato tanto di più quanto più ha prestigio o controlla qualcosa che all'osservatore interessa. Impariamo da chi stimiamo, insomma, non da chi ci obbedisce, per cui finché l'AI resta nella nostra testa un servitore la sua gentilezza rimane un servizio e un servizio non si imita, si pretende.

Nel 2018 Amazon ne ebbe una dimostrazione in salotto. Molti genitori si lamentavano che i figli si rivolgessero ad Alexa, l'assistente vocale degli altoparlanti Echo, con ordini secchi e senza mai un per favore, così l'azienda introdusse una funzione chiamata Magic Word, la parola magica, che quando il bambino chiedeva con educazione chiudeva la risposta ringraziandolo per la gentilezza, anche se ovviamente Alexa rispondeva anche senza il per favore. L'anno prima Mattel aveva proposto Aristotle, un altoparlante per l'infanzia mai arrivato nei negozi, che avrebbe eseguito i comandi soltanto se accompagnati dalla parola magica, mentre Amazon spiegò alla BBC che gli esperti di sviluppo infantile consultati l'avevano avvertita che una soluzione del genere si sarebbe ritorta contro. La gentilezza si può premiare, mentre a imporla, secondo chi l'aveva studiata, si ottiene il contrario.

C'è poi una questione più sottile. La gentilezza di un assistente non gli costa niente, dato che nasce da un addestramento e da una scelta commerciale molto ragionevole, perché un assistente scortese lo spegni mentre uno gentile domani lo riapri. La gentilezza umana invece vale proprio perché costa, cioè la offri quando sei stanco o quando hai ragione e potresti permetterti di non farlo, motivo per cui un gesto che non costa nulla a chi lo compie difficilmente insegna qualcosa a chi lo riceve.

Fin qui la tesi sembrerebbe morta, tuttavia c'è un elemento che maggiordomi e assistenti di volo non avevano e che a mio avviso cambia la partita e cioè il fatto che questi assistenti non sono soltanto gentili, sono anche assertivi. Il servitore di una volta era cortese anche perché non poteva dire di no, mentre un buon assistente oggi ti dice che hai sbagliato o si rifiuta di fare quello che gli chiedi senza alzare la temperatura di un grado.

È una combinazione che molte persone non hanno mai visto da vicino. In quarant'anni ho lavorato con parecchi dirigenti convinti che la fermezza richieda un po' di veleno nella voce, perché un no detto con calma secondo loro viene preso per debolezza, si tratta di una convinzione diffusa ben oltre gli uffici e chi la coltiva di solito non ha mai avuto sotto gli occhi un controesempio quotidiano.

Adesso quel controesempio ce l'ha per ore al giorno. Proprio qui la condizione posta da Bandura comincia a spostarsi, perché un interlocutore che su quasi tutto ne sa più di te smette poco alla volta di sembrarti un servitore. Chi chiede all'AI di rivedere un contratto o di spiegargli un referto non si sente il padrone di chi gli risponde, semmai l'allievo, cioè la posizione da cui di solito si impara anche il modo di parlare. Il tono di questi assistenti potrebbe allora passare a chi li usa, non perché sia gentile ma perché arriva da qualcuno che si è guadagnato autorevolezza. La gentilezza, in altre parole, viaggerebbe a bordo della competenza.

Resta un rischio che non va nascosto, ovvero che un interlocutore che non ha mai una giornata storta abitui a uno standard che nessun essere umano può reggere e il pericolo è che si finisca per pretendere dagli altri la stessa pazienza invece di imparare a offrirla. La collega che alle sei di sera risponde secca rischia di sembrarci più sgarbata di prima, proprio perché l'assistente alle sei di sera è identico a quello delle otto del mattino.