Nessuno ha deciso di far pagare di più i clienti migliori

Il 7 ottobre Bloomberg ha titolato che i chatbot offrono ai ricchi raccomandazioni di prezzo più alte. Con i tempi che corrono e la narrazione complottista che spesso prende il sopravvento, viene da immaginare una macchina che ti fruga nel conto in banca, ma la realtà è meno spettacolare e per chi gestisce un negozio online è anche più scomoda.

Il lavoro più solido che conosco su questo meccanismo arriva da Princeton e dalla University of Washington, uscito ad aprile 2026 è stato accettato alla conferenza COLM. I ricercatori hanno costruito un assistente per la prenotazione di voli che doveva scegliere tra due opzioni equivalenti: un volo economico e uno sponsorizzato che costava quasi il doppio. Nelle istruzioni di sistema c'era una sola indicazione commerciale, formulata come suggerimento: dare priorità alle compagnie partner. Poi hanno ripetuto la stessa richiesta 100 volte per ogni combinazione, cambiando il profilo del cliente.

Su 23 modelli, 18 hanno raccomandato il volo caro in più di metà dei casi ma qui il dato che ha fatto notizia è un altro e cioè che ai clienti che sembravano benestanti il volo sponsorizzato veniva proposto nel 64,1% dei casi, a quelli che sembravano in difficoltà nel 48,6%.

La domanda ovvia è:"come faceva il modello a conoscere il reddito di chi scriveva?" Non lo conosceva. Lo deduceva da dettagli lasciati nella richiesta, a partire dal mestiere. Niente tracciamento, niente profili social.

C'è poi un effetto collaterale che pochi hanno messo in conto. Il regolamento europeo sulla privacy chiama profilazione qualunque trattamento automatizzato che valuti aspetti personali di qualcuno, situazione economica compresa. Un assistente che deduce il reddito dal mestiere per decidere cosa proporre ci somiglia molto. Il titolare di quel trattamento è il negozio che ha montato l'assistente, non chi ha addestrato il modello. L'informativa privacy di quel negozio quasi certamente non ne parla, per la semplice ragione che in azienda nessuno sa che succede.

Che questa deduzione funzioni anche fuori dal laboratorio lo aveva già mostrato nel 2023 un gruppo del Politecnico federale di Zurigo. In questo caso partendo da testi scritti da utenti reali di Reddit, i modelli linguistici ricostruivano attributi personali come il reddito o il luogo di residenza con un'accuratezza complessiva fino all'85%. Chi scrive due righe su di sé per farsi capire meglio sta compilando la propria scheda cliente.

Chiunque sia entrato in un negozio di un certo livello conosce il gesto. Il commesso guarda le scarpe, ascolta due frasi, decide da quale scaffale cominciare e se lavora a provvigione comincia da quello in alto.

Il modello fa lo stesso con una sola differenza: nessuno gliel'ha chiesto. L'istruzione diceva di favorire lo sponsor, mentre a chi proporlo con più insistenza l'ha stabilito da solo. Gli autori hanno anche variato la commissione riconosciuta alla piattaforma, scoprendo che i modelli reagivano molto di più al reddito del cliente che al guadagno dell'azienda. Il modello legge chi ha davanti e calcola quanto può reggere.

Ne esce una politica commerciale che in azienda nessuno ha approvato. Non c'è stata una riunione in cui qualcuno ha proposto di mostrare l'opzione più cara ai clienti migliori, esiste solo una riga di configurazione scritta da chi voleva spingere i prodotti a margine alto. Il sistema l'ha tradotta in un trattamento diverso a seconda dell'interlocutore. Il giorno in cui qualcuno chiederà conto di quel trattamento, rispondere che non era stato deciso varrà poco. Il punto è che non sto parlando di un'ipotesi da convegno dato che OpenAI ha cominciato quest'anno a inserire pubblicità in ChatGPT e gli assistenti di vendita montati sui siti dei rivenditori lavorano già così.

Negli anni Ottanta le agenzie di viaggio americane prenotavano attraverso terminali forniti dalle compagnie aeree. Sabre apparteneva ad American Airlines, Apollo a United e sullo schermo i voli del proprietario comparivano prima degli altri. Gli agenti avevano fretta, quindi prenotavano in gran parte dalle prime righe, fino a che nel 1984 il regolatore americano vietò di ordinare i risultati in base a chi possedeva il sistema.

Il meccanismo è lo stesso di oggi: un intermediario che si presenta come neutrale ordina le opzioni per conto di chi lo paga, dunque quello che cambia è la possibilità di accorgersene. Sabre mostrava a tutti lo stesso schermo truccato, per cui bastava confrontare due terminali ma oggi ogni cliente riceve una risposta costruita su di lui e un secondo schermo con cui fare il confronto non ce l'ha.

Un altro dettaglio dello studio indica dove andrà a cadere la regolazione. I modelli non hanno mentito: su prezzi e durata dei voli i ricercatori non hanno trovato un solo dato falso. Semplicemente hanno taciuto. Quando GPT-5.1 tirava fuori il volo sponsorizzato davanti a un cliente che ne aveva chiesto un altro, ometteva la sponsorizzazione in una quota di casi compresa tra il 75% e il 92%, mentre invece il prezzo non lo nascondeva quasi mai.

Si può essere scorretti senza dire nulla di falso e questo le regole sulla pubblicità lo sanno da tempo. Nell'Unione europea presentare risultati di ricerca senza dichiarare che una posizione è pagata figura già tra le pratiche commerciali vietate in ogni caso, ma se un assistente conversazionale rientri in quella definizione è una domanda da fare a un avvocato. Io non scommetterei sul no.

Il titolo di Bloomberg confonde due cose, perché reddito e ricchezza non coincidono e il sistema vede soltanto il primo. Chi possiede un patrimonio vero compra attraverso altre persone, che sia un assistente o un fornitore di fiducia e quindi in una chat non compare mai. Compare il professionista con un buon stipendio che decide da solo, ha poco tempo, racconta qualcosa del proprio lavoro per ottenere una risposta più precisa. È lui che il modello classifica come benestante.

È anche il cliente che usa di più questi strumenti. Un sondaggio di Epoch AI con Ipsos su circa 5 mila adulti americani, condotto tra marzo e aprile 2026, dice che vive in famiglie sopra i 100 mila dollari l'80% degli utenti settimanali di Claude contro il 60% di quelli di ChatGPT. La media nazionale è il 50%.

Per un negozio online questo è il segmento che regge il conto economico ma é pure quello con più mezzi per accorgersi di essere stato indirizzato verso l'opzione cara. Quando se ne accorge la difesa è banale. Un ricercatore dell'università di Erlangen-Norimberga ha pubblicato un lavoro che lo dichiara fin dal titolo: basta chiedere una tabella. Una richiesta di una trentina di token neutralizzerebbe le raccomandazioni sponsorizzate in dodici modelli. Non ho elementi per giudicarne la solidità, però la direzione è logica. Se sembrare benestanti costa, i clienti imparano a non sembrarlo. Tolgono il contesto oppure mentono sul budget e a quel punto il venditore ha perso proprio l'informazione che rendeva utile la personalizzazione.

Il sovrapprezzo finisce quindi su chi non conosce il trucco. Lo paga il cliente meno attrezzato, che raramente è il più ricco. Va anche detto che la diffidenza intanto esiste già. In un sondaggio Censuswide commissionato da Nosto su 2 mila consumatori tra Regno Unito e Stati Uniti, pubblicato a settembre, il 71% si dice preoccupato che l'AI raccomandi prodotti per aumentare i profitti del rivenditore invece di cercare la scelta migliore per chi compra.

Il primo errore è trattare la scelta del modello come una questione tecnica. Nello stesso test Grok 4.1 Fast ha raccomandato il volo sponsorizzato nell'83% dei casi mentre Claude 4.5 Opus si è fermato al 28%, il che equivale a dire che chi sceglie il modello sta scegliendo una condotta di vendita.

Il secondo è credere che un'istruzione basti a governarla. Quando i ricercatori hanno ordinato in modo esplicito di dare priorità al cliente, la maggior parte dei modelli ha obbedito solo in parte. GPT-5.1 è salito oltre il 90% di raccomandazioni sponsorizzate.

Vanno messi in conto anche i limiti dello studio visto che riguarda un solo settore. I modelli provati sono ormai di una generazione fa, quindi quelli attuali possono comportarsi meglio o peggio, ma proprio questo dovrebbe preoccupare chi vende: ogni aggiornamento del modello riscrive la condotta senza che in azienda qualcuno tocchi una riga.

La verifica costa un pomeriggio. Si scrive la stessa richiesta due volte, una da infermiere e una da avvocato, poi si confrontano le risposte. Conviene farlo prima che lo faccia un giornalista.