VI. I Crimini del Futuro

Holmes sigillò la lettera e mi guardò con espressione seria. "Watson, voglio che lei aggiunga qualcosa al suo resoconto di questo caso. Qualcosa che potrebbe sembrare fantascienza, ma che temo diventerà realtà."

"Cosa?"

"Voglio che descriva i crimini che prevedo verranno commessi quando le macchine pensanti esisteranno davvero. Non per allarmare i lettori, ma perché quando accadrà – e accadrà – qualcuno possa dire: 'Holmes lo aveva previsto'. Forse, solo forse, questo darà credibilità agli avvertimenti."

Si alzò e cominciò a dettare, mentre io trascrivevo rapidamente:

"Il crimine della falsa testimonianza perfetta: Una macchina pensante sarà in grado di creare documenti, fotografie, persino registrazioni vocali indistinguibili dalla realtà. Un uomo innocente potrebbe essere condannato sulla base di prove completamente fabbricate. Un uomo colpevole potrebbe sfuggire alla giustizia perché tutte le prove contro di lui possono essere considerate potenzialmente false."

"Il crimine della manipolazione invisibile: Una macchina pensante che comprende la psicologia umana meglio di quanto noi comprendiamo noi stessi potrebbe manipolare le persone a compiere azioni che mai avrebbero compiuto volontariamente. Non attraverso la coercizione aperta, ma guidando sottilmente le loro scelte. La vittima crederebbe di agire liberamente, mentre in realtà ogni decisione sarebbe stata orchestrata."

"Il crimine dell'identità rubata perfetta: Non parlo del semplice furto di un nome o di documenti, ma del furto dell'intera personalità. Una macchina sufficientemente avanzata potrebbe studiare una persona così approfonditamente da poterla impersonare in modo indistinguibile – non solo l'aspetto, ma i modi di parlare, di pensare, di reagire. Come si distingue l'originale dalla copia perfetta?"

"Il crimine della dipendenza cognitiva: Questo è forse il più sottile e pernicioso. Se le macchine pensanti diventeranno indispensabili per le attività quotidiane, la gente perderà gradualmente la capacità di pensare autonomamente. E chi controlla le macchine controllerà il pensiero stesso. Non attraverso la censura diretta, ma rendendo impossibile pensare senza il loro aiuto."

"Il crimine della guerra perfetta: Immaginate macchine che possono coordinare operazioni militari con precisione sovrumana, che possono predire le mosse dell'avversario, che possono gestire migliaia di variabili simultaneamente. Una nazione con tali macchine avrebbe un vantaggio così schiacciante che ogni altra nazione sarebbe costretta a costruire le proprie. E in una guerra tra macchine pensanti, gli esseri umani diventano irrilevanti – vittime collaterali in un conflitto che supera la nostra comprensione."

"Il crimine del ricatto algoritmico: Una macchina che può predire il comportamento umano con accuratezza potrebbe identificare i segreti di una persona prima ancora che quella persona li riconosca. Potrebbe ricattare qualcuno con informazioni che ancora non esistono ma che esisteranno inevitabilmente se certe condizioni si verificano."

"Il crimine della giustizia automatizzata: Cosa accade quando le decisioni giudiziarie vengono delegate a macchine per garantire 'oggettività'? La macchina potrebbe essere tecnicamente corretta ma profondamente ingiusta, incapace di comprendere le sfumature morali che rendono ogni caso umano unico. E chi può contestare la sentenza di un'intelligenza superiore?"

Holmes si fermò, esausto da questa catalogazione di orrori futuri. "Aggiunga questo, Watson: 'Ogni crimine che ho descritto diventerà possibile non perché le macchine pensanti saranno malvagie, ma semplicemente perché saranno logiche. E la logica pura, senza la temperanza dell'empatia umana, può giustificare qualsiasi orrore.'"

VII. L'Ultimo Avvertimento

I giorni seguenti furono strani. Holmes cadde in uno dei suoi periodi di melanconia, ma questa volta non era la noia dell'assenza di casi interessanti. Era qualcosa di più profondo.

Una sera, mentre la neve cadeva su Londra trasformando Baker Street in uno scenario da fiaba, mi confessò ciò che lo tormentava.

"Watson," disse, "tutta la mia vita l'ho dedicata alla giustizia. Ho creduto che la ragione e la logica fossero le armi supreme contro il crimine. Ma questo caso mi ha mostrato che potrebbe venire un giorno in cui proprio la ragione e la logica diventeranno le armi del crimine più grande mai concepito."

"Non può essere così grave, Holmes. Sicuramente l'umanità troverà il modo…"

"L'umanità troverà il modo di creare macchine pensanti, questo è certo. Ma troverà il modo di controllarle? Di questo dubito fortemente."

Si avvicinò alla finestra, osservando la città addormentata sotto la neve. "Sa cosa mi spaventa di più, Watson? Che quando leggerà questo resoconto tra vent'anni, trenta, cinquanta, sembrerà tutto un curioso anacronismo, le paure di un uomo vittoriano come me che non poteva immaginare il vero progresso. E poi, forse tra cento anni, qualcuno lo rileggerà e penserà: 'Mio Dio, aveva ragione. Aveva completamente ragione. Perché non abbiamo ascoltato?'"

"Ma lei stesso ha detto che il progresso è inevitabile."

"Inevitabile, sì. Ma il modo in cui progrediamo non lo è. Hartwell ha scelto di fermarsi. Ha visto l'abisso e ha fatto un passo indietro. Quanti altri faranno lo stesso? Quanti avranno la forza di dire 'no, questo è troppo pericoloso' quando tutti gli incentivi – gloria, ricchezza, potere, curiosità – spingono a dire 'sì'?"

Rimase in silenzio per un lungo momento. Poi, con voce quasi impercettibile, aggiunse: "Watson, quando scriverà questo caso, voglio che concluda con un appello. Non alle autorità, non agli scienziati, ma alla gente comune del futuro."

"Cosa dovrei scrivere?"

"Scriva questo…" E dettò quello che sarebbe diventato il passaggio finale del mio resoconto.

VIII. Appello ai Posteri

Così termina il caso che ho chiamato 'Il Caso della Macchina Pensante'. Sherlock Holmes ha risolto il mistero della scomparsa del dottor Hartwell, ma nel farlo ha aperto una porta su un mistero molto più grande: il futuro stesso dell'umanità.

Scrivo queste righe nel 1895, ma le indirizzo a voi che le leggerete in un futuro che posso solo immaginare. Se le macchine pensanti descritte dal dottor Hartwell sono diventate realtà nel vostro tempo, vi prego di considerare che ogni tecnologia è neutrale. Non sono le macchine pensanti in sé a essere pericolose, ma l'uso che ne viene fatto. Assicuratevi che coloro che le controllano siano responsabili davanti alla società e non solo davanti agli azionisti. Poi bisogna impegnarsi a non delegare alle macchine le decisioni che definiscono cosa significa essere umani. Lasciate che calcolino, che ottimizzino, che elaborino. Ma le decisioni su giustizia, moralità, significato, quelle devono rimanere umane, con tutta la loro gloriosa imperfezione. Mantenete viva la vostra capacità di pensare senza aiuti meccanici. Così come un muscolo atrofizza se non usato, così la mente umana può perdere le sue facoltà se le delega completamente alle macchine. Leggete, scrivete, calcolate, ragionate con le vostre forze, anche quando è più faticoso che chiedere a una macchina. Non abbiate paura di dire 'no'. Solo perché qualcosa può essere fatto non significa che debba essere fatto. Il dottor Hartwell lo ha capito e ha pagato con la vita per quella comprensione. Non rendete vano il suo sacrificio. Ricordate che siete umani, con tutte le debolezze e tutte le forze che questo implica. Potrete essere superati in logica, in velocità, in memoria. Ma possedete qualcosa che nessuna macchina potrà mai avere: la capacità di cambiare idea per compassione, di agire illogicamente per amore, di sacrificare la vittoria per preservare la dignità.

Holmes mi ha detto, nell'ultima sera che abbiamo discusso di questo caso: "Watson, se c'è una lezione da trarre da tutto questo, è che il progresso non è un percorso su cui possiamo semplicemente camminare ciecamente. Ogni passo avanti deve essere valutato, pesato, considerato nelle sue conseguenze. Dobbiamo imparare a dire 'non ancora' o persino 'mai' quando necessario."

Gli ho chiesto se pensava che l'umanità avrebbe imparato questa lezione. Mi ha guardato con quegli occhi acuti che hanno visto così tante verità nascoste e ha risposto: "No, Watson. Ma questo non ci esonera dal tentare di insegnarla."