... "One of the dangers" dice Joseph Rotblat (v. la fine dell'articolo precedente intitolato "Danger"): ma... "pericolo" in che senso?

Per come la vede Bill Joy, nel senso di soppressione, o sopraffazione, della razza umana. Questo è il "pericolo definitivo" che molti tra coloro che prevedono gli sviluppi del mix tra ingegneria genetica, nanotecnologie e robotica paventano. Potrebbe essere fatta persino una distinzione fra "apocalittici" e "integrati", collocando Joy, appunto, fra i primi:

«Con la prospettiva di un computer con potenzialità a livello umano sviluppabile entro una trentina di anni, si affaccia un'idea nuova: che io possa star lavorando alla creazione di strumenti che consentiranno la costruzione della tecnologia che potrebbe sostituire la nostra specie. Come mi sento a quest'idea? Molto a disagio. Dopo aver lavorato per tutta la mia vita lavorativa alla costruzione di sistemi di software affidabili, mi sembra più che probabile che questo futuro non funzionerà affatto così bene come alcuni immaginano.»
("Perché il futuro non ha bisogno di noi", traduzione in italiano, a cura dell'associazione "netWork", dell'articolo "Why the future doesn't need us" pubblicato da Wired nell'Aprile 2001)

Fra gli integrati, invece, potremmo mettere per esempio Hans Moravec (USA, Robotics Institute, Carnegie Mellon University), il quale ritiene che i robot diventeranno la specie dominante sulla terra: né più, né meno, di quello che è avvenuto in passato nella concorrenza fra specie diverse.

Solo che...
in questo caso, la specie destinata all'estinzione sarà quella umana.

Egli sostiene che, tutto sommato, è nella logica dell'evoluzione che l'uomo "biologico" venga superato da "macchine", se queste saranno capaci di prestazioni intellettuali migliori.

«Le specie biologiche non sopravvivono quasi mai agli incontri con concorrenti superiori.
[...]
In un mercato completamente libero, i robot superiori danneggerebbero sicuramente l'esistenza degli esseri umani, esattamente come i placentali nordamericani danneggiarono i marsupiali sudamericani (e come gli esseri umani hanno danneggiato innumerevoli specie). Le industrie della robotica entrerebbero in accesa competizione tra loro per il possesso delle materie prime, dell'energia, dello spazio, portando incidentalmente il loro prezzo oltre la portata dell'uomo. Incapaci di permettersi le necessità della vita, gli esseri umani biologici sarebbero stritolati fino a cessare di esistere.»
(Hans Moravec, "Robot: Mere Machine to Transcendent Mind", citato da Bill Joy nell'articolo su Wired)

Moravec parla di "mercato completamente libero" perché pone l'accento su di una qualche forma di regolazione del rapporto fra robot e umani da parte del sistema istituzionale, ma la questione si colora di tinte inquietanti se si presta attenzione al fatto che tutto ciò si dovrebbe fondare sulla formalizzazione di criteri di distinzione tra ciò che è umano e ciò che è robotico.

A proposito della questione del "come andremo a finire e che cosa diventeremo", Joy cita l'opinione di Danny Hillis (che divenne famoso come cofondatore della "Thinking Machines Corporation", società che costruì un computer molto potente per il calcolo parallelo):

«La risposta di Danny - diretta specificamente allo scenario descritto da Kurzweil, degli esseri umani che si fondono con i robot - fu prontissima e mi sorprese abbastanza. Disse semplicemente che questi cambiamenti sarebbero avvenuti in modo graduale, e ci saremmo abituati ad essi.
Ma immagino di non essere stato del tutto sorpreso. Avevo letto una citazione di Danny nel libro di Kurzweil, nel quale diceva «Amo il mio corpo come tutti, ma se posso vivere fino a 200 anni con un corpo di silicone, ne approfitterò». Mi sembrava aver accettato questo processo e i rischi ad esso connessi, mentre io non facevo altrettanto.».

La posizione di Hillis appare come rappresentativa di quella di chi ha accettato e, potremmo dire, già in qualche modo "metabolizzato" questo processo di ibridazione.

A ben vedere, il problema non è neppure tanto quello dell'aumento d'intelligenza delle macchine (macchine troppo intelligenti potrebbero decidere di "farci fuori"): perché qualcosa sia pericoloso non occorre che sia anche intelligente.

I virus del software, per esempio, a prescindere dalla valutazione di "intelligenza", o meno, generano stati di allarme per via del fatto che si autoreplicano e sono potenzialmente distruttivi. Nel caso poi di quel particolare tipo di virus detti "worm" è la semplice autoreplicazione e autopropagazione globale (il fattore di crescita è esponenziale) che costituisce in sè un danno, perché provoca il sovraccarico e il conseguente blocco dei sistemi intormatico-telematici. Ebbene, il parallelo con l'avvento dei virus biologici bioingegnerizzati potrebbe suonare alquanto preoccupante...

E' questo genere di considerazioni che, nelle riflessioni di Joy, introduce alla questione della responsabilità nel prevedere dove ci porterà la convergenza tra ingegneria genetica, nanotecnologie e robotica . O, per meglio dire, del comportarsi secondo una forma evoluta di responsabilità consistente nell'essere capaci di conservare un atteggiamento consapevole della portata delle tecnologie che la scienza sta realizzando e immaginando. Un atteggiamento che mantenga alto il livello di valutazione critica nei confronti dei chiari pericoli ad esse connessi. Ma in un'epoca in cui gli enormi ritorni economici delle nuove tecnologie, nonché la competizione globale costituiscono il propellente più forte per lo sviluppo della tecno-scienza, conservare un punto di vista di questo tipo sarà sempre più difficile.

In Joy responsabilità fa rima con umiltà:

«Dato il potere incredibile di queste tecnologie nuove, non dovremmo chiederci quale sarà il modo migliore di coesistere con esse? E se la nostra stessa estinzione è una probabile, o anche solo possibile, conseguenza dei nostri sviluppi tecnologici, non dovremmo procedere con la massima cautela?
[...]
Per la prima volta nella storia del nostro pianeta una specie, a causa di un'azione volontaria da parte sua, si sta trasformando in un rischio per se stessa - oltre che per un enorme numero di altre specie.

Earth (the dot in the middle) as seen from 3.7 billion miles away by the Voyager 1 spacecraft, on 6/6/1990.

«... Look again at that dot. That's here. That's home. That's us. On it everyone you love, everyone you know, everyone you ever heard of, every human being who ever was, lived out their lives. The aggregate of our joy and suffering, thousands of confident religions, ideologies, and economic doctrines, every hunter and forager, every hero and coward, every creator and destroyer of civilization, every king and peasant, every young couple in love, every mother and father, hopeful child, inventor and explorer, every teacher of morals, every corrupt politician, every "superstar," every "supreme leader," every saint and sinner in the history of our species lived there - on a mote of dust suspended in a sunbeam.
The Earth is a very small stage in a vast cosmic arena. Think of the rivers of blood spilled by all those generals and emperors, so that, in glory and triumph, they could become the momentary masters of a fraction of a dot. Think of the endless cruelties visited by the inhabitants of one corner of this pixel on the scarcely distinguishable inhabitants of some other corner, how frequent their misunderstandings, how eager they are to kill one another, how fervent their hatreds. Our posturings, our imagined self-importance, the delusion that we have some privileged position in the Universe, are challenged by this point of pale light.
Our planet is a lonely speck in the great enveloping cosmic dark. In our obscurity, in all this vastness, there is no hint that help will come from elsewhere to save us from ourselves.
The Earth is the only world known so far to harbor life. There is nowhere else, at least in the near future, to which our species could migrate. Visit, yes. Settle, not yet. Like it or not, for the moment the Earth is where we make our stand.
It has been said that astronomy is a humbling and character building experience. There is perhaps no better demonstration of the folly of human conceits than this distant image of our tiny world. To me, it underscores our responsibility to deal more kindly with one another, and to preserve and cherish the pale blue dot, the only home we've ever known.»

(Carl Sagan, "Pale Blue Dot", 1994)

«Potrebbe essere un passaggio familiare, che vale per molti mondi - un pianeta di recente formazione gira tranquillamente attorno alla propria stella, lentamente si forma la vita, una caleidoscopica processione di creature si evolve, emerge l'intelligenza che, almeno entro certi limiti, attribuisce un enorme valore alla sopravvivenza; infine, si inventa la tecnologia. Si fa strada nelle menti intelligenti che esistono cose quali le leggi naturali, che tali leggi possono essere rivelate per mezzo di esperimenti, e che la conoscenza di queste leggi può servire sia a salvare delle vite, sia a sopprimerle, ed entrambe le cose su una scala senza precedenti. La scienza, si accorgono gli esseri intelligenti, conferisce un potere immenso. In un lampo, creano invenzioni in grado di alterare il mondo. Alcune civiltà planetarie sono più lungimiranti, e pongono limiti a quello che si può e che non si può fare, e valicano in modo sicuro l'epoca più pericolosa. Altre, non altrettanto fortunate o non altrettanto prudenti, periscono».

Era Carl Sagan, che nel 1994, in Pale Blue Dot, ci ha dato un libro che descrive la sua visione del futuro dell'uomo nello spazio. Solo ora mi rendo conto di quali profonde intuizioni abbia avuto, e di quanto amaramente sento e sentirò sempre la mancanza della sua voce. Con tutta la sua eloquenza, il contributo di Sagan è stato anche e soprattutto quello del buon senso - un attributo che, insieme all'umiltà, sembra mancare a molti dei più strenui ed eminenti difensori delle tecnologie del XXI secolo.
[...]
Ma molte altre persone che sono al corrente dei rischi sembrano ancora stranamente silenziose. Se si insiste, si accontentano della solita risposta, «non si tratta di nulla di nuovo» - come se la consapevolezza di quanto potrebbe accadere fosse già una risposta sufficiente. «Ci sono università» mi dicono, «piene di studiosi di bioetica che studiano questo argomento tutto il giorno». Mi rispondono: «Su tutte queste cose è già stato scritto tutto, e da esperti del settore». «Le tue preoccupazioni», si lamentano, «e le tue argomentazioni sono già roba vecchia».

Non so dove queste persone nascondano i loro timori. Da architetto di sistemi complessi mi sono introdotto in questa arena da generalista. Ma questo dovrebbe forse attenuare la mia preoccupazione? So benissimo quante parole siano state scritte, pronunciate e insegnate con grande autorevolezza. Ma questo significa forse che esse hanno raggiunto le persone comuni? Significa che possiamo considerare scongiurato il pericolo che abbiamo di fronte?

Sapere non è un motivo valido per non agire. Possiamo dubitare che la conoscenza sia diventata un'arma che stiamo per puntare contro noi stessi?
Le esperienze degli scienziati atomici dimostrano chiaramente il bisogno di assumersi una responsabilità personale, il pericolo che le cose evolvano troppo in fretta e come un processo possa riuscire a vivere di vita propria. Possiamo generare, come fecero loro, problemi insormontabili in un batter d'occhio. Dobbiamo riflettere con maggiore lungimiranza, se non vogliamo farci sorprendere e scioccare in modo altrettanto doloroso dalle conseguenze delle nostre invenzioni.»

Lungimiranza... prevedere...

Quelle nella citazione seguente sono invece parole di Umberto Galimberti:

«Lo scenario dell'imprevedibile, dischiuso dalla scienza e dalla tecnica, non è imputabile, come nell'antichità, a un difetto di conoscenza, ma a un eccesso del nostro potere di fare enormemente maggiore rispetto al nostro potere di prevedere, e quindi di valutare e giudicare.»
(Umberto Galimberti, "Un terremoto che ci riguarda", La Repubblica, 18 novembre 2000)

In questo sito, tra gli argomenti toccati nel Gennaio 2003 troviamo un item dedicato a tecnoscienza e responsabilità, specificamente costruito attorno alla tesi che Galimberti ha estesamente svolto nel suo libro "Psiche e techne. L'uomo nell'età della tecnica" e che ripropone spesso nei suoi articoli. Valga ad esempio quello uscito su La Repubblica del 28 dicembre 2002, "L'uomo impotente contro la scienza":

«Nata sotto il segno dell' "anticipazione", di cui Prometeo, "colui che pensa in anticipo", è il simbolo, la tecnica, nel nostro tempo, finisce col sottrarre all'uomo ogni possibilità anticipatrice, e con essa quella responsabilità e padronanza che deriva dalla capacità di prevedere.»

Prometeo... "colui che pensa in anticipo"... lungimiranza... previsioni a lungo termine... foresight...

Dopo aver anticipato e descritto molti dei problemi tecnici e politici connessi con le nanotecnologie nel libro "Engines of Creation", Eric Drexler fondò, alla fine degli anni ottanta, il Foresight Institute allo scopo di "contribuire a preparare la società alle imminenti tecnologie avanzate, la più importante delle quali è la nanotecnologia".

Ma, tornando a Joy: dopo tutto, qual è dunque la sua proposta in termini di soluzioni per il nostro futuro di esseri umani su questo pianeta?

... CONTINUA...