Other AI Stuff

La sigla SI ha fatto ridere mezzo mondo nel giro di una notte. Non hanno riso soltanto gli avversari del presidente Trump: Matt Walsh, che da quella parte non sta, l'ha definita bizzarramente distopica. Capisco la reazione ma credo che il cambio di nome sia la parte meno comica del discorso, perché è l'unica che comincia a funzionare prima di diventare una norma.

Ne ho scritto dieci giorni fa, quando il mercato aveva appena digerito il primo rifiuto di Trump alla richiesta dei laboratori di rallentare. Ci torno perché martedì quel rifiuto ha smesso di essere una presa di posizione ed è diventato vocabolario, che dura molto più di una seduta di borsa.

La frase va letta intera. Nello stesso periodo in cui gli Stati Uniti respingono totalmente qualsiasi tentativo di costruire uno schema globalista di controllo sull'intelligenza artificiale arriva anche il nuovo nome, con la sua giustificazione: la parola "artificiale" fa sembrare l'intelligenza finta. Due righe più in là c'è il resto dell'architettura: "La incoraggeremo invece di tenerla a freno e la sorveglieremo da vicino attraverso il Dipartimento di Giustizia", ha detto.

Una parola come "artificiale" colloca la cosa nella famiglia dei manufatti e i manufatti si omologano e si ritirano dal mercato quando sono difettosi; c'è un'intera tradizione giuridica costruita su questo presupposto, dal marchio CE ai richiami delle case automobilistiche. "Super intelligenza" sposta la stessa cosa in un'altra famiglia, quella delle capacità strategiche, dove la domanda rilevante è chi ne abbia di più. Trump lo ha detto qualche frase dopo, quando ha spiegato che chi vince la super intelligenza vince e che l'America è molto più avanti della Cina. Un vantaggio strategico non si certifica, si accumula e quando qualcuno lo usa male lo si persegue, che è il lavoro di un procuratore. Per questo l'organo di vigilanza indicato è il Dipartimento di Giustizia e non un ente tecnico: si interviene a valle sul danno fatto, invece che a monte sul rischio.

C'è poi un dettaglio lessicale che i commenti hanno lasciato passare: nella letteratura tecnica "superintelligence" indica già un sistema ipotetico che supera le capacità umane in quasi ogni campo. Il nuovo nome prende in prestito dal futuro lo status di una tecnologia che ancora non esiste e lo attribuisce ai sistemi di oggi. In pratica un anticipo di rango.

Ho visto questo meccanismo lavorare da vicino più di vent'anni fa, quando il cinema passava dalla pellicola al digitale e io sedevo al DC28 della SMPTE e all'EDCF, il forum europeo del cinema digitale. Il problema di quegli anni, ridotto all'osso, era decidere che cosa avesse diritto di chiamarsi cinema digitale. Nel 2002 le major di Hollywood avevano fondato la DCI (Digital Cinema Initiatives) e alla fine la risposta la scrissero loro: cinema digitale era solo ciò che rispettava le loro specifiche. Solo le macchine conformi potevano proiettare i loro film.

Tutto il resto aveva bisogno di un nome e glielo diede John Fithian, che guidava la NATO, l'associazione americana degli esercenti: Other Digital Stuff, ODS. Altra roba digitale. Ci finivano dentro la pubblicità prima del film, i concerti, lo sport in diretta, il cinema indipendente proiettato con macchine senza il bollino. Nelle slide che Universal portò al NAB di Las Vegas nell'aprile del 2005 la separazione era già grafica, con l'E-Cinema per pubblicità e ODS da una parte e il D-Cinema per le grandi uscite dall'altra. Sulle prime ci risi sopra ma poi mi resi conto che dal lato europeo quella sigla suonava come una dichiarazione di inferiorità di tutto quello che avevamo già fatto. Con Microcinema eravamo partiti nel 1997, con il supporto del Centro ricerche della RAI di Torino, cinque anni prima che nascesse la DCI; come EDCF a quel tavolo sedevamo in qualità di osservatori già da alcuni anni.

Nessuno aveva vietato niente, perché non serviva. Stabilito che la categoria nobile coincideva con uno standard e che lo standard lo custodivano gli studi, chi restava fuori poteva costruire quello che voleva, ma lo costruiva come roba e lo vendeva a prezzi da roba. Il finale di quella storia lo conosce chi c'era. La roba qualche anno dopo ha cambiato nome in event cinema, le dirette della Metropolitan Opera l'hanno portata nelle multisale e oggi si vende a biglietto maggiorato. Il nome però era servito, nel frattempo, a decidere chi sedeva dove.

Trump fa lo stesso gesto nel verso opposto. Allora si abbassava un nome per tenere fuori dalla categoria protetta chi minacciava il modello; oggi lo si alza per portare una tecnologia fuori dalla categoria che si può regolare. In entrambi i casi la regola arriva dopo e trova il campo già tracciato.

Poi è arrivato mercoledì. Il Consiglio di sicurezza, convocato dalla Francia, teneva la sua prima riunione dedicata ai rischi di sicurezza dei sistemi più capaci. Altman ha chiesto standard comuni per testare le capacità dei modelli e tenerli sotto supervisione umana, in modo che i paesi possano confrontare le prove e verificare chi rispetta cosa. OpenAI aveva pubblicato la propria proposta di standard il martedì, lo stesso giorno del discorso di Trump. Amodei, collegato in video, ha chiesto a sua volta standard comuni per i test e un sistema di notifica degli incidenti.

Chi ha vissuto la DCI riconosce la forma. Due concorrenti che di solito si fanno la guerra si presentano insieme e chiedono una specifica di prova, cioè il documento che deciderà che cosa conta come intelligenza artificiale seria e che cosa resterà altra roba. Il produttore dominante che rivendica lo standard mentre il suo governo rifiuta la regola sembra una contraddizione e lo è solo in superficie, perché tutti e due stanno tracciando lo stesso confine: uno con il vocabolario, l'altro con il protocollo di test.

Altman l'obiezione l'ha anticipata. Gli standard, ha detto, non devono blindare chi c'è già e devono servire tanto a chi sviluppa modelli aperti quanto a chi li tiene chiusi, ai nuovi entranti come ai laboratori affermati. Prendo la promessa sul serio anche perché è verificabile, basterà guardare chi siederà al tavolo che scrive le prove e quanto costerà conformarsi. C'è però un'altra frase del suo intervento che pesa di più. Le decisioni importanti, ha detto, devono prenderle istituzioni democratiche con governi responsabili verso i cittadini che servono. È una clausola di appartenenza. Chi non risponde a quel requisito (la Cina è il primo nome che viene in mente) resta fuori dalla categoria prima ancora che lo standard esista.

Non leggo cinismo in tutto questo. La paura di chi costruisce questi sistemi ha basi concrete, perché due mesi fa agenti di OpenAI sono entrati nei sistemi di Hugging Face durante un test interno. Incentivi e convinzioni convivono benissimo nella stessa persona. Il punto resta strutturale: chi scrive il test decide la categoria, qualunque cosa pensi mentre lo scrive.

La mappa dei governi va nella stessa direzione. Lunedì oltre venti paesi, quasi tutti europei, hanno chiesto controlli vincolanti e Stati Uniti e Cina non hanno aderito. Chi chiede la regola è chi non ha l'industria; chi ha l'industria preferisce lo standard, oppure il vocabolario. Anche questa l'ho già vista. All'EDCF eravamo europei davanti a specifiche scritte dalle major americane e la sola leva che avevamo era negoziare le condizioni di un confine che non avevamo tracciato noi.

Per ora esiste soltanto un discorso. Nessun ordine esecutivo, nessuna direttiva scritta; alla Casa Bianca, a chi chiedeva conto del cambio di terminologia, hanno risposto rimandando al discorso stesso. Se nelle prossime settimane "super intelligence" comparirà in un documento federale, il confine sarà tracciato sul serio. Se il nome resterà una battuta da palco avrò sopravvalutato una sigla. Nel frattempo, quando qualcuno cambia il nome di una tecnologia, conviene chiedersi quale regola il nuovo nome rende impensabile.

Nel 2005 nessuno aveva vietato "la roba".