La domanda sbagliata della BBC

Ieri sera la BBC ha mandato in onda un dibattito sulla regolamentazione dell'intelligenza artificiale con due ospiti, due posizioni, ciascuna coerente nei propri termini: regolamentare di più, regolamentare di meno. La conduttrice ha gestito il contraddittorio con la professionalità del servizio pubblico britannico, ha distribuito equamente il tempo di parola, ha chiuso con la rituale considerazione che il pubblico avrebbe dovuto trarre le proprie conclusioni. Mancava una sola cosa: la domanda giusta.

Il dibattito si è svolto interamente sull'asse "quanto" regolamentare ma nessuno dei due interlocutori e nessuno tra quelli che ho sentito intervenire sull'argomento negli ultimi diciotto mesi, ha posto la questione preliminare: "come si regolamenta qualcosa che non si capisce e che quando si sarà capito sarà già mutato al punto da rendere obsolete le norme che si stanno scrivendo adesso?". Non è una provocazione retorica ma invece un problema epistemologico che dovrebbe precedere ogni discussione tecnica sulla regolamentazione ma che viene sistematicamente evitato perché destabilizza entrambe le posizioni del dibattito convenzionale.

I favorevoli alla regolamentazione non possono affrontare la questione perché ammettere che lo strumento è strutturalmente in ritardo sul fenomeno delegittima la loro posizione politica e i contrari non vogliono affrontarla perché la loro tesi resta più forte se la conversazione resta sul "quanto" piuttosto che spostarsi sul "cosa". Il risultato è un dibattito che si ripete identico a sé stesso, sui giornali, in televisione, ai summit internazionali e che non si avvicina mai al nodo strutturale.

Il pattern non è nuovo e la regolamentazione bancaria ne offre il caso clinico più visibile. Negli anni successivi alla crisi del 2008 le autorità di vigilanza hanno costruito Basilea III sull'assunto che i rischi bancari potessero essere modellati con sufficiente precisione da consentire requisiti patrimoniali adeguati. Mentre quei requisiti venivano negoziati, calibrati, implementati, il sistema finanziario aveva già spostato una quota significativa del proprio rischio fuori dal perimetro bancario tradizionale, verso veicoli di credito privato, fondi di leveraged lending e strutture di shadow banking che la regolamentazione costruita per le banche commerciali semplicemente non vedeva, non perché i regolatori fossero incompetenti, ma perché il sistema reale aveva mutato la propria architettura più velocemente di quanto la macchina normativa potesse adattarsi.

Lo stesso pattern si è ripetuto nelle telecomunicazioni quando la voce è migrata su IP, nel commercio elettronico quando le piattaforme hanno bypassato la regolazione del retail tradizionale, nei mercati finanziari quando gli algoritmi hanno reso obsoleti i meccanismi di controllo costruiti sui tempi umani delle contrattazioni. Ogni volta la sequenza è identica: si normano gli oggetti del momento precedente, si lasciano scoperti quelli del momento successivo, si dichiara vittoria politica sulla base di una mappa che il territorio ha già smesso di rispettare.

Ma il caso più istruttivo, perché più visibile a tutti dal vivo, è quello del KYC bancario. Chiunque abbia aperto un conto negli ultimi cinque anni conosce la procedura: documenti d'identità, prove di residenza, dichiarazioni sull'origine dei fondi, questionari sull'attività professionale, aggiornamenti periodici che richiedono di ripetere tutto da capo a intervalli regolari. Le banche applicano il protocollo con un'intensità che molti clienti percepiscono come paranoica. Chi viaggia spesso, chi gestisce flussi finanziari legittimi attraverso giurisdizioni multiple, chi semplicemente vive una vita professionale articolata, sa quanto il KYC produca attrito quotidiano. La domanda che nessuno pone pubblicamente, ma che chiunque conosca il settore conosce nella propria esperienza diretta, è se tutto questo apparato risolva il problema dichiarato.

La risposta empirica è no. Il riciclaggio di denaro continua a operare attraverso strutture che il KYC standard non vede, perché il KYC è costruito sul cliente tipico, non sul riciclatore competente. Il riciclatore serio passa attraverso veicoli societari progettati esattamente per essere indistinguibili dal cliente onesto: società di consulenza con beneficial owner formalmente in regola, real estate transactions con documentazione perfetta, family office strutturati in giurisdizioni cooperative che producono tutta la carta richiesta, in tutti i casi la compliance non intercetta il riciclaggio, ne intercetta la versione amatoriale, quella che il sistema serio aveva già abbandonato vent'anni fa. E qui sta il paradosso più clinico: una volta che il riciclatore competente è passato attraverso il KYC, il sistema lo ha certificato come pulito e la procedura che avrebbe dovuto essere ostacolo è diventata bollino di legittimazione.

Il cliente onesto, nel frattempo, subisce frizione crescente quando la banca gli chiede spiegazioni per ogni bonifico atipico, blocca trasferimenti che non rientrano nei pattern attesi, richiede documentazione supplementare per operazioni che vent'anni fa si sarebbero chiuse in due ore. Il costo dell'attrito è scaricato interamente sul lato della domanda legittima, mentre la domanda illegittima ha già pagato il costo di costruirsi una facciata che attraversa il filtro senza segnali d'allarme. Il sistema produce esattamente l'opposto di quanto dichiara di voler ottenere.

Ma non finisce qui, la compliance ha un effetto collaterale che dal punto di vista istituzionale non è bug ma feature: trasferisce il rischio reputazionale dal regolatore al regolato. Se una banca ha eseguito tutte le procedure previste e il cliente risulta poi essere stato un riciclatore, la banca dichiara di avere applicato il protocollo e il rischio reputazionale si dissolve nelle procedure. Se il regolatore non avesse imposto la procedura, sarebbe invece lui a dover rispondere politicamente del fallimento, dunque la regolamentazione sposta la responsabilità lungo la catena, non la riduce ma produce sistemi in cui tutti hanno fatto correttamente il proprio lavoro secondo le regole e il danno si è comunque verificato. Nessuno è colpevole secondo i criteri formali  e il problema reale resta intatto.

Applichiamo questa griglia al caso dell'intelligenza artificiale ed emerge il pattern. Gli AI Safety Institute nati con il summit di Bletchley nel 2023 stanno costruendo l'equivalente del KYC sui modelli linguistici di frontiera con protocolli di valutazione pre-deployment, framework di compliance, audit metrici, criteri di certificazione: tutto questo apparato è progettato per produrre il bollino di idoneità su capability che si possono misurare con strumenti disponibili al momento della valutazione. Ma gli strumenti disponibili al momento della valutazione sono, per costruzione, quelli sviluppati per modelli precedenti, mentre Il modello che viene valutato oggi sarà sostituito tra sei mesi da uno con capability emergenti che la valutazione di oggi non poteva nemmeno cercare.

I grandi laboratori, da OpenAI ad Anthropic a DeepMind, possono permettersi questa compliance. Hanno team dedicati, infrastrutture interne di red teaming, capacità di interfacciarsi con i protocolli ufficiali, risorse per documentare la conformità ai criteri richiesti. Gli attori marginali e i nuovi entranti non hanno queste risorse con il risultato che la regolamentazione AI sta riproducendo esattamente la dinamica del KYC bancario: chi è già grande passa il filtro con i suoi costi fissi assorbiti dalla scala, chi è nuovo o piccolo viene escluso dal mercato non perché meno sicuro ma perché meno strutturato a documentare la propria sicurezza. Il problema sistemico, le capability che mutano post-deployment, le interazioni emergenti fra modelli diversi, gli usi disintermediati che bypassano le valutazioni ufficiali, resta tutto interamente fuori dal perimetro.

La metamorfosi semantica avvenuta in ventisette mesi è il sintomo più visibile di questa difficoltà strutturale. A novembre 2023 il summit di Bletchley si chiamava AI Safety Summit, a maggio 2024 il summit di Seoul manteneva la dicitura Safety, a febbraio 2025 il summit di Parigi diventava AI Action Summit, a febbraio 2026 il summit di Delhi era AI Impact Summit. La parola safety è stata progressivamente espulsa dal vocabolario ufficiale e parallelamente, a febbraio 2025, l'AI Safety Institute britannico è stato rinominato AI Security Institute e l'omologo americano è diventato Center for AI Standards and Innovation. Il cambio di vocabolario non è cosmetico, Safety implica vincolo sul proprio operato, Security implica difesa dall'operato altrui. Una parola sola sposta il perimetro dell'intervento dallo specchio alla finestra. Alla fine i regolatori non hanno modificato leggi, hanno modificato vocabolario e così facendo hanno ammesso tacitamente che il framework safety costruito nel 2023 era già obsoleto rispetto a capability che nel frattempo erano mutate.

Karl Popper avrebbe nominato il problema con precisione. Una norma è efficace solo se è falsificabile attraverso enforcement osservabile. Se non si dispone di un modello del sistema sufficiente a separare il contributo della norma dall'evoluzione endogena del fenomeno, non si sta regolando, si sta documentando. Nassim Taleb arriverebbe alla stessa conclusione per via diversa: i sistemi opachi non sono governabili attraverso framework di approvazione ex ante, sono governabili solo attraverso architetture di responsabilità ex post che leghino chi produce il rischio alle conseguenze del rischio prodotto. L'AI safety regulation prova a fare l'opposto: stabilire ex ante cosa è accettabile in un sistema dove la categoria stessa di accettabile muta con la capability dei modelli.

Il dibattito BBC di ieri sera si è chiuso, come sempre, con la considerazione equilibrata che servirà trovare un punto medio fra le due posizioni ma il punto medio fra una posizione strutturalmente sbagliata e una posizione strutturalmente sbagliata non è la posizione giusta, è l'ammissione che la domanda preliminare non è stata posta. La domanda vera è cosa significhi regolamentare un sistema che muta più velocemente del ciclo di regolamentazione e quale architettura di responsabilità possa funzionare quando la comprensione del fenomeno è strutturalmente in ritardo sul fenomeno stesso. Finché il dibattito pubblico resterà sull'asse del quanto, la regolamentazione AI continuerà a produrre il suo equivalente del KYC bancario: molto attrito sui soggetti onesti, copertura procedurale sui rischi reali, certificazione di idoneità a chi avrebbe richiesto sorveglianza, esclusione dal mercato di chi avrebbe meritato attenzione.

Resta da chiedersi chi tragga vantaggio dal fatto che la domanda preliminare non venga posta, ma quella è una conversazione che richiede altro spazio.