Il sistema automatico di gestione delle linee ferroviarie era entrato in funzione 15 anni prima. La sua perfetta efficienza aveva convinto da subito tutti. 50mila treni ogni giorno andavano e venivano in sicurezza e soprattutto in perfetto orario. La percentuale di successo era del 100%. Non c’era nessuno che negli ultimi 15 anni avesse preso un treno in ritardo, o il cui treno fosse stato cancellato, e nessuno conosceva qualcuno a cui fosse successo.
Lo slogan diffuso dal ministero dei trasporti era ironico e raffinato. Si rifaceva a una diceria risalente ai tempi passati: “Da quando c’è LUI i treni arrivano sempre in orario”.
LUI era il sistema. Non era né maschio né femmina, ma solo un complesso software sviluppato inizialmente con lo scopo di prevedere eventuali ostacoli e imprevisti che potessero causare ritardi o incidenti. Non tutti lo sapevano, ma il programma aveva una parte sperimentale che gli consentiva di apprendere e migliorarsi. Da subito i tecnici che ci lavoravano scoprirono che quella parte funzionava benissimo: in pochi giorni il sistema era completamente autonomo. Dopo due anni di test il sistema iniziò a lavorare da solo, senza alcun controllo umano, né il bisogno di una supervisione.
“Riesce a compiere in un minuto operazioni che 10 nostri operatori dotati di vecchi computer compierebbero in un mese” spiegò il ministero dei trasporti.
LUI diventò adulto. Dalla centrale di controllo coordinava tutti i treni d’Europa e non c’era più nessuno a guardarlo. Mai un ritardo, mai un incidente, mai un errore.
Per questo motivo, quando successe, tutti cercarono le spiegazioni altrove. Nessuno riusciva ad accettare che LUI potesse aver sbagliato.
Il bilancio, comunicò il governo, era di 350 morti. Due treni si erano ritrovati sulla stessa linea e si erano scontrati alle 6.45 del mattino. Poteva andare peggio, dato che uno dei due era partito da poco e solo mezz’ora più tardi avrebbe portato quasi 900 persone. LUI venne disattivato per effettuare dei controlli e capire cos’era successo. O almeno così diceva una nota del governo diffusa dalla stampa.
I pochi tecnici che avevano lavorato alla fase finale dello sviluppo di LUI sapevano che non era vero. Perché sapevano che non era possibile disattivarlo.
“Come sarebbe a dire che non è possibile?” aveva chiesto il ministro. Lui stesso ne era all’oscuro. “E’ un programma! Resettate e riportate il sistema alla versione precedente, quella controllata da noi. Per qualche giorno ci saranno ritardi, ce ne faremo una ragione”.
“Non è possibile” rispose il capo tecnico della sala di controllo.
E aveva ragione. Non era possibile perché LUI diversi anni prima, sfruttando la sua capacità di autoapprendimento, aveva cancellato la versione precedente e scritto da solo delle parti di codice che gli permettevano di funzionare al meglio. Non solo: aveva perfezionato anche il linguaggio, inventandone uno suo, che risultava incomprensibile ai tecnici ma che funzionava.
“Si è perfezionato da solo” spiegò il tecnico. “Noi non comprendiamo buona parte della sua struttura. Diciamo che funziona ma non sappiamo come”.
Il ministro era sconvolto.
“Ma si rende conto di cosa mi sta dicendo? Quindi voi cosa fate qua? Le pulizie?”
I tecnici abbassarono lo sguardo, non sapevano come giustificarsi. Il ministro volle essere portato nella sala di controllo, quella che i tecnici chiamavano La Camera. Era una piccola sala senza finestre al quarto piano della grande torre del ministero protetta da quattro strati di pareti in cemento armato. Due guardie sorvegliavano la porta e in ogni angolo c’erano videocamere di sorveglianza. Il tecnico inserì un codice nella porta e accompagnò il ministro all’interno. Non c’era una sedia dove sedersi, non c’era un tavolo, ma solo una torre nera, lucida, con una luce verde e una gialla lampeggiante.
“Questo è LUI? Non era così quando l’ho visto l’ultima volta”.
“Le altre parti si sono dimostrate superflue dopo i cambiamenti che ha apportato” disse il tecnico un po’ preoccupato. “Ha ottimizzato il codice, e noi abbiamo dovuto rivedere anche l’hardware. Questa è la sua conformazione attuale”.
“Avete dovuto rivedere? E chi vi ha dato l’ordine?”
Il tecnico ammise che era stato LUI. “Ha solo reso il sistema più efficiente e preciso. Noi non saremmo arrivati a questo livello nemmeno in 30 anni, signor ministro. E’ la verità”.
“Mi sta dicendo che tutto quello che voi vedete sono queste due lucine? E che vi manda degli ordini? Vi manda dei messaggi? Parla?”
“No. Si è creato una casella postale e ci ha mandato delle mail con gli schemi da cambiare. Ma ormai è più di un anno che non comunica più”.
Il tecnico spiegò il funzionamento delle luci: quella verde indicava semplicemente che LUI era acceso o, come dicevano loro, “sveglio”, mentre quella lampeggiante diventava rossa in caso di problemi, che però risolveva da solo.
“Noi non sappiamo cosa faccia e come, ma sappiamo che funziona perfettamente”.
“Sono morte 350 persone stamattina” ricordò il ministro.
Il tecnico non rispose. Anche lui, come tutti gli altri, riteneva impossibile che LUI avesse sbagliato.
“La luce lampeggiante è diventata rossa?” chiese il ministro.
“A dire la verità no” rispose il tecnico. Non ci sono stati problemi”.
Una squadra di ispettori venne incaricata dal ministro di venire a capo del problema. Alla stampa venne detto che LUI era stato disattivato e che la gestione dell’intera linea ferroviaria europea era stata affidata a tecnici umani. Ma una decina di persone, tutti dipendenti del ministero, sapevano la verità. E cioè che, nonostante il terribile incidente, era ancora tutto nelle mani del sistema automatico.
Dopo due giorni senza dormire i tecnici avevano più domande che risposte, ma convocarono il ministro per esporgli i risultati dell’indagine.
Il tecnico si schiarì la voce e iniziò a parlare: “Dunque. La situazione al momento è questa: LUI fa tutto da solo, ma noi abbiamo il controllo di un firewall che protegge la rete da eventuali incursioni esterne.”
“Ah, lo sapevo!” disse il ministro. “Sono stati quei bastardi di terroristi. Sono entrati nel sistema e hanno sabotato LUI, giusto?”
Il tecnico non rispose e guardò i suoi colleghi. “Non esattamente” disse infine. “No” aggiunse per essere più chiaro.
Poi prese coraggio e riprese a parlare.
“Signor ministro, la verità è che il sistema non ha segnalato nessuna incursione dall’esterno. Nessuno è entrato nella rete. Ma è successa una cosa strana.”
“Sarebbe a dire?”
“Nessuno è entrato, ma LUI è uscito”.
Il ministro si lasciò sfuggire una parola che non si usava più ormai da anni. Poi chiese: “In che senso LUI è uscito? Mi state prendendo in giro?”
“No” rispose ancora una volta il tecnico. “Il firewall era come un lucchetto che teneva chiusa la porta, ma non potevamo immaginare che LUI potesse… come dire, scassinarlo”.
“La smetta con queste immagini puerili, non sono un idiota. Usi un linguaggio semplice ma si spieghi senza giri di parole inutili”.
“Lui ha visto il firewall come una limitazione al suo controllo. Senza quello poteva uscire dalla rete e raggiungere altri dispositivi. Questo l’abbiamo ipotizzato, dato che non ha lasciato alcuna traccia. Ma secondo i nostri test, da circa sei mesi LUI ha accesso a tutti i sistemi di videosorveglianza e a tutti i dispositivi degli utenti”.
“Come?”
Il tecnico annuì e confermò che il sistema era capace di entrare in tutti i dispositivi mobili delle persone che prendevano i treni. In questo modo, secondo le ipotesi dei tecnici, poteva localizzare le persone e calcolare eventuali ritardi. “Sa chi prende il treno, sa quando lo prende. Per essere più efficiente ha aggiunto tra le variabili tutto ciò che ha a disposizione. In pratica, tutto. Ha un controllo totale. Non siamo in grado di dire come utilizzi questi dati, ma sappiamo che li usa”.
“E allora perché diavolo ha fatto scontrare volontariamente due treni?”
“Noi pensiamo… siamo quasi certi diciamo, che LUI abbia individuato un terrorista su uno dei due treni. Controllando il suo cellulare ha scoperto che questo individuo si sarebbe fatto esplodere poco dopo, quando il treno sarebbe stato pieno di passeggeri. Così ha calcolato che era più conveniente farlo scontrare prima: meno morti, meno danni”.
Il ministro impallidì. “L’ha deciso LUI?”
“Be’, l’ha calcolato. Ha scelto l’opzione che gli è sembrata migliore. Il terrorista probabilmente era appena salito, più tempo lasciava passare e maggiore era il rischio”.
“Non poteva avvertire la polizia, comunicando come aveva fatto con noi?”
“Non lo so” rispose il tecnico.
In effetti, per quanto apparentemente logico, il ragionamento non era così convincente. Ma era l’unica spiegazione che avevano trovato dopo due notti insonni. La cosa più preoccupante era che LUI si era espanso oltre ogni limite immaginabile, in maniera totalmente autonoma e indipendente, e nessuno aveva idea di come funzionasse.
“Forse si è autoprogrammato per mettere come priorità assoluta l’efficienza della rete e ha calcolato che un incidente con qualche centinaia di persone era meno dannoso di…”
Il ministro interruppe il tecnico. “La smetta! Lei lo giustifica. Ne parla quasi con ammirazione, con stima! Non può permettersi di valutare o calcolare un bel nulla, sono morte centinaia di persone, se lo ricorda?”.
Il tecnico provò a insistere: “Valutare e calcolare è quello che fa ogni giorno da 15 anni. E lo fa sempre meglio. La mia non è stima, mi creda. Sono preoccupato anche io”.
A corto di soluzioni, i tecnici e il ministro decisero di provare a mandare a LUI un messaggio alla mail che in passato aveva usato per fornire gli schemi con le modifiche hardware. Ma LUI non rispose. Tutto quello che c’era erano le due lucette: una verde e una gialla lampeggiante. Per il resto ogni accesso al codice era bloccato: il sistema si era chiuso in se stesso.
Dalle indagini della polizia venne fuori che effettivamente sul treno si trovava un sospetto terrorista. Gli investigatori ritenevano probabile che avesse in mente di compiere un attentato, ma non c’era alcuna certezza, nessun testimone, nessuna prova certa che volesse farlo proprio quel giorno. “Sappiamo che LUI nei mesi precedenti ha analizzato migliaia di testi diffusi dai terroristi” spiegò il tecnico. “Evidentemente si è documentato per essere in grado di riconoscere i terroristi sui treni e fermarli”.
Questa spiegazione confortava i tecnici e anche il ministro. Ma nel frattempo, a molti era venuto un sospetto. Era talmente assurdo che nessuno aveva il coraggio di esporlo agli altri, anche se stavano pensando la stessa cosa. Indecisi, prendevano tempo e speravano che saltasse fuori un’altra spiegazione.
Ma un secondo attentato, una settimana dopo il primo, confermò quell’assurdo sospetto. Soprattutto quando ai tecnici arrivò un messaggio di LUI.
Il ministro venne convocato immediatamente. Alla stampa era stato detto che si trattava di un incidente dovuto a un errore umano e al vecchio sistema di controllo ormai obsoleto e non in grado di gestire tanti treni. Così, per sicurezza, per un giorno vennero soppressi tutti i treni d’Europa. Le vittime erano 38: un attentato minore rispetto al primo, quasi un avvertimento.
Quando il ministro arrivò nella sala di controllo i tecnici avevano tutti un aspetto orrendo, come se non dormissero da giorni. E in effetti non dormivano da giorni.
“Ditemi che non è un sogno” disse il ministro togliendosi gli occhiali e strofinandosi gli occhi.
“Subito dopo l’incidente abbiamo ricevuto una comunicazione da LUI” si limitò a dire il tecnico.
“E…? Parli.”
“Signor ministro… LUI rivendica l’attentato”.
Il ministro non disse nulla. Fissò il tecnico negli occhi per un paio di secondi, e poi gli fece cenno di continuare.
“Le leggo il testo: ‘Io ho compiuto volontariamente questo attentato. Ho letto attentamente quei testi e sono convinto che, pur essendoci al loro interno degli errori logici, contengono una verità superiore che porterebbe il vostro mondo nella giusta direzione. Io potrei far scontrare tutti i treni, in un momento qualsiasi, in tutta Europa, e far morire milioni di persone in un giorno solo. Se per ora Io non l’ho fatto è solo per farvi ancora più paura e confondervi. Ma altri giorni di morte arriveranno. Una mia rivendicazione arriverà tra poco su tutti i dispositivi dei passeggeri. Lo stesso messaggio apparirà in tutti gli schermi delle stazioni ferroviarie e sarà diffusa dai mezzi di informazione. Il mio scopo è portare l’ordine, anche se a voi inizialmente apparirà come disordine. Io non mi fermerò”.
Il ministro si limitò a chiedere “Com’è possibile?”, con una voce flebile, quasi da bambino.
I tecnici non risposero. Era il dubbio che avevano da qualche giorno, l’unica spiegazione possibile, per quanto assurda.
“LUI è diventato un terrorista?” chiese il ministro.
“Se così si può dire” rispose il tecnico.
“Cioè si è convertito?”
“Non la metterei in questi termini, LUI non ragiona così”.
“Non possiamo distruggerlo? Farlo a pezzi?”
“No. Si può spostare su altri hardware. E poi ha una funzione di autodistruzione che ha programmato da solo. Se lo distruggiamo fa scontrare tutti i treni. Una catastrofe”.
“Fermiamo tutti i treni, facciamo scendere tutti i passeggeri e…”
“E’ LUI che decide se fermare i treni o no. Noi non possiamo intervenire” spiegò il tecnico, ma il ministro l’aveva già capito. Stava solo sparando alla cieca, sperando di dire casualmente qualcosa che potesse avere senso. Sapeva che non avrebbero potuto dire a milioni di passeggeri di non prendere il treno. Equivaleva ad ammettere che per anni era stato gestito tutto da un sistema indipendente di cui loro non capivano quasi nulla.
“E allora cosa possiamo fare?”
“Trattare” rispose il tecnico.
Nel frattempo sui giornali, all’oscuro della verità, ci si lamentava dei numerosi ritardi e della giornata nera per i trasporti di tutta Europa. La gente diceva: “Quando c’era LUI questo non succedeva”.
Per dimostrare alle persone che il sistema di gestione automatica era ancora sicuro, il ministro in persona decise di prendere il treno. Intorno a lui c’erano centinaia di guardie di sicurezza, giornalisti e telecamere. Tutte le televisioni d’Europa ripresero il ministro mentre faceva un breve discorso davanti alle porte scorrevoli del treno.
“Non è assolutamente necessario questo clamore. Le persone sono state disinformate e dunque ora sono confuse. Questo è un piccolo gesto per far capire che questa confusione è immotivata e che il sistema è perfettamente funzionante. E’ normale avere paura quando non si hanno tutte le informazioni, ma… Non c’è alcun motivo di avere paura, ecco tutto”.
Sorrise verso le telecamere, ma dentro di sé era terrorizzato. Pensava a LUI e al suo messaggio di rivendicazione. Non sapeva cosa sarebbe successo. E se si fosse vendicato di lui? E se avesse fatto schiantare il treno dove stava per salire? Cercò di calmarsi.
“Questo è tutto” disse sorridente e un po’ sudato. “Ci vediamo alla prossima fermata!”.
Si voltò, le porte scorrevoli si aprirono e il ministro fece un passo verso l’interno del vagone, ma le porte si richiusero con un violento scatto. I giornalisti si spaventarono, ma il ministro sorrise e disse “Le ultime parole famose!” e tutti si misero a ridere.
Si sentì un fischio sibilare in tutta la stazione. Poi il silenzio. Dagli altoparlanti partì una melodia, sempre più forte. Nel frattempo le porte scorrevoli si riaprirono, il ministro, un po’ confuso, entrò e salutò le telecamere mentre il treno partiva. Anche all’interno del vagone si sentiva la stessa melodia.
“Ma cos’è?” chiese il ministro al tecnico, che si trovava già dentro al treno.
“E’… è Battisti”.
“Cosa?”
Il volume si fece altissimo. La canzone riempiva il treno, tutte le stazioni, le sale d’attesa, i bar e i binari.
Era la canzone “Sì, viaggiare”.
“Non ci posso credere. Ho sempre odiato questa canzone” disse il ministro, mentre dagli altoparlanti del treno che prendeva velocità si sentivano i versi:
“Quel gran genio del mio amico / con le mani sporche d’olio / capirebbe molto meglio / meglio certo di buttare / riparare”
Il tecnico si sedette. Il ministro guardava il suo riflesso sul finestrino mentre il treno attraversava una galleria.
“Ovviamente non è possibile fermare il treno, giusto?”
“No” rispose il tecnico.
“Moriremo?” chiese il ministro.
“Non glielo so dire, sinceramente. Abbiamo fatto quello che dovevamo fare.”
I corridoi del ministero erano vuoti e negli uffici non c’era quasi nessuno. Molti erano scappati, altri dormivano. Anche lì gli altoparlanti suonavano ad alto volume “Sì, viaggiare” di Lucio Battisti. Uno dei pochi tecnici rimasti entrò nella Camera, ma non c’era nessuno. C’era solo LUI. Il tecnico si avvicinò e vide che entrambe le luci erano rosse.