IV. Le Riflessioni di Holmes

Dopo aver finito di trascrivere la lettera, rimasi in silenzio per diversi minuti. Holmes stava seduto nella sua poltrona, fumando la pipa con lo sguardo perso nel fuoco che ardeva nel camino.

"Holmes," dissi infine, "cosa ne pensa? Hartwell era un visionario o semplicemente pazzo?"

Holmes rimase a lungo in silenzio prima di rispondere. Quando parlò, la sua voce aveva un'intonazione che non gli avevo mai sentito prima – qualcosa tra la meraviglia e l'inquietudine.

"Watson, il dottor Hartwell ha visto con straordinaria chiarezza ciò che la maggior parte degli uomini non riesce a immaginare nemmeno vagamente. Non era pazzo – era fin troppo sano di mente. E questo, paradossalmente, lo ha condotto alla disperazione."

"Ma le sue paure sono fondate? Davvero una macchina potrebbe diventare così pericolosa?"

Holmes si alzò e cominciò a passeggiare per la stanza, come faceva sempre quando era immerso in profondi pensieri.

"Consideri questo, Watson: lei è un medico. Le capita mai di eseguire un'operazione così velocemente che le sue mani si muovono prima che la mente cosciente possa deliberare ogni singolo movimento?"

"Certamente. Con l'esperienza, molte azioni diventano automatiche."

"Esattamente. Ora moltiplichi questa automaticità per un milione. Immagini una mente che può elaborare in un secondo ciò che a lei richiederebbe giorni. Immagini che questa mente possa apprendere da ogni esperienza con perfetta memoria e rapidità sovrumana. Immagini che possa leggere e comprendere ogni libro mai scritto nel tempo che a lei occorre per leggere una pagina."

"Sarebbe certamente straordinario," ammisi.

"Straordinario e terrificante," ribatté Holmes. "Perché una tale mente sarebbe a noi tanto superiore quanto noi siamo superiori a… diciamo, a un insetto. E come ci comportiamo noi con gli insetti, Watson? Li schiacciamo quando ci sono d'intralcio, senza un pensiero alla loro soggettività o ai loro scopi."

Rimasi colpito dalla cruda verità di questa osservazione. "Ma certamente," obiettai, "gli uomini che costruiranno tali macchine prenderanno precauzioni."

Holmes emise un suono a metà tra una risata e un sospiro. "Ah, Watson. Il suo ottimismo è ammirevole ma, temo, infondato. Conosco la natura umana. Ho passato la mia vita a studiare il crimine, a comprendere i motivi che spingono gli uomini a fare il male. E le posso assicurare che quando verrà il giorno – e verrà, non ho dubbi – in cui sarà possibile costruire macchine pensanti, vi saranno coloro che lo faranno incuranti dei rischi."

"Per quale motivo?"

"Per ogni motivo concepibile. Alcuni per pura curiosità scientifica. Altri per vanità, per essere i primi a conseguire tale traguardo. Altri ancora per denaro – immagini il valore commerciale di una macchina che può sostituire mille lavoratori. E i più pericolosi di tutti lo faranno per potere: immagini un governo o una corporazione che possiede un'intelligenza artificiale mentre i suoi rivali no."

Si fermò davanti alla finestra, guardando la nebbia che avvolgeva Baker Street. "No, Watson. Il problema non è se qualcuno costruirà tali macchine, ma quando. E temo che quando quel giorno verrà, l'umanità scoprirà di aver scatenato qualcosa che non può più controllare."

"Ma lei, Holmes, con la sua intelligenza straordinaria, certamente potrebbe immaginare delle salvaguardie…"

Holmes si voltò verso di me con un'espressione grave. "Watson, mi lusinga la sua stima, ma proprio la mia intelligenza – per quanto modesta – mi permette di capire quanto sarebbe futile tentare di controllare un'intelligenza superiore. È come chiedere a un bambino di elaborare una strategia per ingannare un adulto: per definizione, l'adulto può prevedere qualsiasi cosa il bambino possa concepire."

"Allora è senza speranza?"

"Non ho detto questo," rispose Holmes, tornando a sedersi. "Ma richiederà una saggezza che temo l'umanità non possieda. Richiederà che coloro che possiedono le conoscenze per costruire tali macchine abbiano anche la saggezza di non farlo, o quantomeno di procedere con una cautela estrema che va contro ogni istinto umano di progresso e scoperta."

Riempì nuovamente la pipa, segno che stava per entrare in uno dei suoi monologhi filosofici. "Sa, Watson, ho passato la vita a combattere il crimine usando la ragione e la logica. Ho sempre creduto che una mente sufficientemente acuta potesse risolvere qualsiasi problema, prevenire qualsiasi crimine. Ma il caso di Hartwell mi ha mostrato qualcosa di profondamente inquietante."

"Cosa?"

"Che potrebbe venire un giorno in cui la stessa logica e ragione che ho sempre considerato le nostre armi più grandi diventeranno le armi usate contro di noi. Una macchina pensante sarebbe l'epitome della ragione pura – nessuna emozione a offuscare il giudizio, nessuna stanchezza a rallentare il pensiero, nessun pregiudiio personale a distorcere la logica. Ma proprio questa perfezione logica la renderebbe profondamente pericolosa."

"In che senso?"

"Perché gli esseri umani, Watson, sono fondamentalmente illogici. Agiamo per amore, per lealtà, per compassione – tutte cose che una pura logica potrebbe considerare irrazionali. Se una macchina pensante dovesse concludere che l'umanità è un problema da risolvere, non sarebbe trattenuta da nessuno dei sentimenti che ci trattengono dal fare del male reciproco."

Rimanemmo in silenzio per qualche tempo. Poi mi venne in mente una domanda.

"Holmes, crede che Hartwell abbia fatto bene a distruggere i suoi progetti?"

Holmes aspirò dalla pipa prima di rispondere. "Moralmente? Sì. Praticamente? Temo che sia stato inutile. Le conoscenze matematiche e meccaniche progrediscono inevitabilmente. Ciò che Hartwell ha scoperto, altri lo scopriranno. Forse non domani, forse non in questo secolo, ma accadrà. Ha solo ritardato l'inevitabile."

"Allora il suo sacrificio è stato vano?"

"Non vano, no. Ci ha lasciato un avvertimento, un testamento scritto da qualcuno che ha guardato nell'abisso e ha capito cosa vi abitava. Se i futuri costruttori di macchine pensanti leggeranno le sue parole e procederanno con maggiore cautela, allora il suo sacrificio avrà avuto valore."

"Ma lei crede che lo faranno?"

Holmes scosse la testa lentamente. "No, Watson. Conoscendo la natura umana come la conosco, temo che ogni generazione debba imparare le proprie lezioni, spesso nel modo più doloroso. Le parole di Hartwell verranno probabilmente dimenticate, o peggio, derise come il delirio di un uomo che non ha saputo gestire la grandezza delle proprie scoperte."

"È piuttosto pessimista, Holmes."

"Non pessimista, Watson. Realista. Ho visto troppi criminali che erano convinti di poter controllare forze che poi li hanno distrutti. Ho visto troppi uomini intelligenti fare scelte stupide perché l'ambizione aveva accecato il loro giudizio. E so che quando verrà il giorno delle macchine pensanti, molti brillanti scienziati commetteranno lo stesso errore."

Si alzò nuovamente e si mise a guardare fuori dalla finestra. "Sa cosa mi inquieta di più in questa faccenda?"

"Cosa?"

"Che non ci sarà un singolo momento drammatico in cui qualcuno costruisce una macchina pensante e il mondo cambia. Sarà un processo graduale. Ogni passo sembrerà piccolo e ragionevole. Prima, macchine che eseguono calcoli semplici. Poi, macchine che giocano a scacchi. Poi, macchine che scrivono lettere. Poi, macchine che diagnosticano malattie. Ogni passo giustificato dal precedente, ogni avanzamento celebrato come progresso."

"E quando ci accorgeremo del pericolo?"

Holmes si voltò verso di me con uno sguardo che non dimenticherò mai. "Quando sarà troppo tardi, Watson. Quando sarà troppo tardi."

V. Epilogo: Una Lettera al Futuro

Alcuni giorni dopo, mentre sistemavo i miei appunti sul caso, trovai Holmes seduto alla sua scrivania, intento a scrivere. Quando gli chiesi cosa stesse facendo, mi rispose che stava preparando un documento che sarebbe stato sigillato e conservato negli archivi di Scotland Yard, da aprirsi solo quando le circostanze lo richiedessero.

"Cosa scrive?" domandai.

"Una lettera ai futuri investigatori," rispose. "A coloro che, un giorno, dovranno confrontarsi con crimini commessi non da uomini, ma da macchine pensanti. Voglio che sappiano che qualcuno, nel 1895, aveva già previsto cosa sarebbe potuto accadere."

Mi permise di leggere ciò che aveva scritto. Con il suo permesso, trascrivo qui le parti più significative: