Il potere della stupidità

Capitolo 19

La stupidità
delle tecnologie

available also in English

Sulla stupidità delle tecnologie, e sulla molteplicità dei suoi effetti, si potrebbe scrivere tanto da riempire parecchi volumi. E infatti ci sono libri dedicati a questo argomento (vedi la nota alla fine). Non perché il mondo tecnologico sia più o meno stupido del resto dell’umanità. Ma perché i motivi, e le conseguenze, hanno caratteristiche particolari.

La tecnologia è spesso un moltiplicatore della stupidità. Lo è anche il potere, ma in modo diverso. Il potere (vedi il capitolo 10) è un moltiplicatore consapevole e attivo – un aggregato di comportamenti umani che aumentano e complicano la stupidità.

La tecnologia è un moltiplicatore cieco. Un meccanismo automatico che riproduce qualsiasi stupidaggine in milioni o miliardi di esemplari. Un sistema di elaborazione che parte da un piccolo errore umano e lo moltiplica in sconfinate complessità fino a renderlo inestricabile – e così porta progressivamente a un numero “potenzialmente infinito” di complicazioni sempre più stupide. Con risultati spesso fastidiosi, talvolta catastrofici.

Mi scuso per questa “autocitazione”. Ma cadono a proposito le osservazioni che avevo pubblicato nel marzo 1999 in un articolo intitolato Le macchine non sono “cattive”, ma sono molto stupide.

Fin dalla nascita delle moderne tecnologie industriali – cioè da due secoli – la letteratura, non solo fantascientifica, ci sommerge di ipotesi apocalittiche. Le macchine, si immagina, si impadroniranno del mondo e ci ridurranno in schiavitù. Di questa ipotesi sentiamo spesso l’eco in opinioni che tradiscono un oscuro terrore della tecnologia. Ma secondo me il problema è un altro.

Le macchine sono sempre più parte della nostra vita quotidiana; ci è difficile immaginare un mondo in cui non ci siano le automobili e gli aeroplani, in cui non sia possibile comunicare istantaneamente con (quasi) ogni angolo del pianeta, in cui non ci siano macchine cui delegare i compiti più faticosi e ripetitivi.

Non c’è stata, e probabilmente non ci sarà, quella terribile rivolta degli schiavi per cui ipotetiche macchine “intelligenti” e replicanti si impadroniscono di tutto (e noi, gli umani, siamo carne da macello). Non è l’intelligenza delle macchine che ci complica la vita; è il contrario.

Le macchine sono sostanzialmente stupide – e sempre più complicate. Più si complicano, peggio funzionano; e più difficile diventa per noi correggere gli errori e riprendere il controllo. Non occorre usare un computer per imbattersi quotidianamente in pasticci inestricabili dovuti a qualche tecnologia mal concepita o male utilizzata.

È “colpa” delle macchine? Non credo. Le macchine eseguono in modo ripetitivo un compito predeterminato. Se non lo fanno bene la colpa è di chi le ha progettate, di chi le usa male e di chi le vende promettendo miracoli (o prestazioni diverse da quelle che una tecnologia è davvero in grado di offrire).

Che cosa è cambiato in sei anni? Nulla. Anzi, le cose continuano a peggiorare. Qualche verità sta cominciando a venire a galla. Nell’industria automobilistica, come in altri settori di impresa, si sta cominciando a capire che la corsa in avanti con alcune tecnologie insufficientemente sperimentare (specialmente nell’elettronica) ha prodotto gravi problemi – e occorre una revisione radicale del modo in cui sono progettate e applicate.

“La lunga notte dell’elettronica”, come l’ha definita un titolo insolitamente azzeccato su Repubblica del 14 aprile 2004, è durata troppi anni. Ma siamo ancora lontani dal risveglio.

Nelle applicazioni industriali si tende a procedere con obiettivi di efficienza – e quando gli automatismi di una macchina utensile sono eccessivi o vanno fuori controllo ci si accorge che è meglio tornare a sistemi più collaudati.

Ma quando si tratta di tecnologie dell’informazione e della comunicazione l’impresa non si trova più sul terreno delle sue competenze – e rischia di smarrirsi nella complessità delle risorse disponibili.

È verificato e documentato che l’installazione e l’uso di tecnologie di cui non si è precisata con sufficiente chiarezza la funzione – e che non sono al servizio di un ben definito processo – non solo provocano enormi sprechi di denaro, ma sono dannose all’organizzazione e alla qualità del lavoro.

Naturalmente è possibile fare computer e reti affidabili. Nella maggior parte dei casi i sistemi di guida degli aeroplani, gli impianti elettronici di chirurgia, come altri che mettono direttamente in gioco la vita delle persone, hanno buoni livelli di efficienza (e adeguati backup nel caso di un guasto imprevisto).

Ma ci sono grandi sistemi che funzionano male. Come per esempio, notoriamente, i servizi elettronici delle banche – male impostati parecchi anni fa e oggi così intricati da essere quasi irrimediabili.

Per quanto assurdo possa sembrare, anche in forme molto avanzate di tecnologia (come le esplorazioni spaziali) ci sono fallimenti dovuti a errori, talvolta banali, che sarebbero stati evitabili con una progettazione più attenta e funzionale.

Una “bomba intelligente” è una macchina estremamente stupida. Usa i suoi raffinati sistemi di navigazione per andare in un certo posto e poi attiva un certo congegno. Non ha alcuna nozione del fatto che così distruggerà se stessa e molte cose lì intorno –compreso un numero imprecisato di vite umane. Dipende da chi l’ha progettata, e ancora di più da chi la usa, fare in modo che ottenga il massimo risultato possibile con il minimo possibile di “danni collaterali”.

Nell’uso quotidiano e diffuso dell’elettronica i problemi sono molto meno drammatici, ma creano continuamente ogni sorta di pasticci. C’è una strana assuefazione, come se il cattivo funzionamento dei computer fosse inevitabile.

Un robot industriale funziona meglio di un essere umano quando deve svolgere con ripetitiva precisione un compito molto specifico. Ma quando si tratta di gestire procedure complesse le macchine diventano molto meno affidabili.

Ormai quasi nessuno, che non sia del tutto incompetente in materia, usa espressioni come “cervello elettronico”. Ma sembra ancora un po’ troppo diffusa la percezione che si possa delegare alle macchine il compito di pensare.

L’importante è capire che le tecnologie sono stupide. O almeno non aspettarci che siano capaci, per chissà quale ispirazione esoterica, di funzionare bene per conto loro.

Il motivo per cui tante tecnologie funzionano male, e tendono a diventare ancora peggio, non è (come spesso sembra) il frutto di una volontà perversa delle macchine o degli astrusi codici che le gestiscono. È la stupidità umana di chi le progetta e di chi le applica. Resa ancora più perversa dalla diffusa tendenza a trattare da stupido chi le usa, inducendolo all’obbedienza cieca e passiva invece di incoraggiarlo a capire come può adattare macchine e software alle sue esigenze.

Una tecnologia funziona bene quando è concepita, con la massima possibile semplicità, per svolgere un compito preciso.

Anche una macchina che serve per fare varie cose diverse, come un personal computer, funzionerebbe molto meglio se ognuna delle funzioni fosse separata, con condivisione di risorse solo quando è indispensabile – o davvero utile e vantaggioso. E se a ognuno fosse consentito di installare solo ciò che davvero gli serve. (Come accade, almeno in parte, in alcune delle tecnologie più intelligenti – che non sono, purtroppo, le più diffuse).

Un altro contributo al potere della stupidità nasce dalla sballata ipotesi, nata nel mondo dell’information technology, che tutto stia accelerando in maniera “esponenziale” e che siano cambiati i parametri del tempo.

Questo non è vero neppure nell’elettronica (vedi La leggenda di Moore). Ma, anche se lo fosse, quel criterio non sarebbe applicabile ai tempi e ai cicli dell’evoluzione umana – come è ampiamente dimostrato dai fatti. Questo stupido errore di prospettiva non ha solo prodotto disastri nel mondo specifico delle tecnologie, ma ha anche contribuito a far crescere quella diffusa sindrome della fretta di cui si è parlato nel capitolo 16.

Anche nel mondo della comunicazione si ammucchiano complicazioni a scapito dell’efficienza e dell’utilità. Per esempio la telefonia ha fatto progressi importanti, ma ora si sta ingolfando in un intrico sempre più affannoso e farraginoso di funzioni e marchingegni che la stanno rendendo sempre meno gestibile e più fastidiosa. (Vedi La congestione comunicativa).

L’internet era nata trent’anni fa con sistemi sostanzialmente semplici, efficienti, robusti e affidabili. Ma su quella solida base (che continua a esistere) si sono stratificate incrostazioni complesse, ingombranti, devianti, che appesantiscono inutilmente l’uso della rete e che spesso sono fastidiosamente invasive. (Vedi Salute e malanni dell’internet e vari altri articoli nell’elenco alla fine di questo capitolo).

La soluzione di tutti questi complicati e intricati problemi si basa su due concetti molto chiari. Uno è che la tecnologia più efficace, funzionale e affidabile è la più semplice fra tutte quelle possibili per ottenere uno specifico risultato (perciò la più intelligente – come vedremo nel capitolo 20). L’altro, e fondamentale, è che occorre mettere le tecnologie al servizio delle persone – non viceversa.

Ma per far questo occorre applicare con pazienza e con metodo una risorsa preziosa, che nessuna tecnologia può sostituire. La materia grigia.

---

Nota
 
Fra i libri più utili su questo problema ci sono
The Inmates Are Running the Asylum (1999) di Alan Cooper
(traduzione italiana Il disagio tecnologico)
e The Software Conspiracy (2000) di Mark Minasi.
Sono interessanti anche Slaves of the Machine (1998) di Gregory Rawlins
e In the Beginning Was the Command Line (1999) di Neal Stephenson.

Per chi volesse approfondire questo argomento
ci sono parecchie cose che ho scritto
e pubblicato nel corso degli anni

Un elenco (con i link) si trova in gandalf.it/tecnolog/

ritorno alla pagina
di presentazine del libro

home