Il problema che Turing non aveva previsto

Nel 1950 Alan Turing si pose una domanda che sembrava fantascienza e che invece era ingegneria applicata con settant'anni di anticipo: come facciamo a sapere se una macchina sta pensando? La risposta che propose era elegante nella sua semplicità: metti la macchina dietro uno schermo, falla conversare con un giudice umano e se il giudice non riesce a distinguerla da un altro umano allora la questione è risolta o almeno abbastanza risolta da smettere di farsi domande.

Il problema è che Turing stava guardando nella direzione sbagliata, o meglio, stava guardando nella direzione giusta per la domanda che si stava ponendo, ma non aveva ancora a disposizione il problema vero, quello che è arrivato qualche decennio dopo con una lentezza quasi rispettosa.

La domanda che nessuno si stava ponendo nel 1950 non era se la macchina potesse imitare l'umano, ma se l'umano avrebbe mai voluto imitare la macchina e farlo con tale entusiasmo da non accorgersene nemmeno.

Ho ricevuto una mail la settimana scorsa, il tipo di mail che arriva decine di volte al mese: presentazione, proposta di collaborazione, linguaggio calibrato, domande retoriche piazzate nei punti giusti, nessuna virgola fuori posto. Poteva averla scritta chiunque, nel senso letterale: chiunque con accesso a un modello linguistico e qualche minuto di tempo. Ho risposto, anche io attraverso un modello linguistico, con la differenza che il mio è addestrato a pensare esattamente come penso io, a replicare quarant'anni di osservazione sedimentata, non la media statistica di tutto quello che altri hanno scritto su LinkedIn. La risposta che è arrivata il giorno dopo era di nuovo perfetta, incorporava il mio frame concettuale, usava il mio vocabolario, sembrava quasi di parlare con qualcuno che mi capisce. Sembrava. Perché quello che stava succedendo era che due sistemi si stavano ottimizzando a vicenda mentre le due persone fisicamente collegate a quei sistemi facevano altro o forse non facevano niente, forse stavano semplicemente aspettando il risultato come si aspetta che la lavatrice finisca il ciclo.

Turing aveva progettato un test per scoprire se le macchine potessero passare per umani ma non aveva progettato nessun test per scoprire se gli umani stessero passando per macchine, probabilmente perché nell'Inghilterra del dopoguerra sembrava un problema che non si sarebbe mai posto.

La cosa che trovo interessante, quasi commovente nella sua assurdità, è che nessuno dei due interlocutori di quella mail stava mentendo. Nessuno stava cercando di ingannare l'altro. Stavamo semplicemente esternalizzando la parte scomoda della comunicazione, quella in cui devi trovare le parole giuste, costruire un argomento, capire cosa vuoi davvero dire e lo stavamo facendo entrambi contemporaneamente, sincronizzati senza saperlo, come due musicisti che suonano lo stesso pezzo in stanze separate e si stupiscono quando l'armonia funziona. Il risultato tecnico era ineccepibile. Il risultato umano era zero.

C'è una distinzione che vale la pena fare, però, perché altrimenti questo diventa l'ennesimo pezzo sulla fine dell'autenticità e non è quello che voglio dire. Usare uno strumento per amplificare quello che hai è una cosa, mentre usare uno strumento per sostituire quello che non hai è un'altra e la differenza non sta nella tecnologia, sta in cosa c'è prima della tecnologia. Se hai quarant'anni di osservazione sedimentata, di pattern riconosciuti sul campo, di errori fatti e capiti mentre succedevano, allora lo strumento amplifica tutto questo e il risultato porta ancora la tua firma, anche se le parole le ha scritte qualcun altro o nel nostro caso qualcos'altro. Se non hai niente di tutto questo, lo strumento produce una superficie convincente sopra il vuoto e la superficie è così ben rifinita che spesso nemmeno chi la produce se ne accorge.

Turing voleva sapere se la macchina potesse pensare. La risposta che stiamo vivendo adesso è laterale, non frontale: la macchina non ha bisogno di pensare se l'umano ha già smesso di farlo per primo. La mail che ho ricevuto era scritta benissimo. Le idee dentro erano le mie, restituite con una patina di competenza che non apparteneva a nessuno. E la cosa più strana è che probabilmente anche dall'altra parte qualcuno leggeva la mia risposta convinto di aver capito con chi stava parlando.

Non so se Turing avrebbe trovato questo divertente o desolante. Probabilmente entrambe le cose, nell'ordine sbagliato.