L'Unità, 7 APRILE 2000
ROBERTO GIOVANNINI
"Attenti, ora serve una scienza etica"
Polemico saggio di Bill Joy su "Wired"

La Silicon Valley non ne vuole sapere proprio dei preoccupati richiami
lanciati da uno dei suoi più prestigiosi esponenti. Le tesi del
saggio di Bill Joy su "Wired" hanno avuto vasta risonanza in America,
ma ben poca attenzione e soprattutto adesione effettiva hanno
raccolto tra gli addetti ai lavori, ovvero esattamente i destinatari
dell'appello lanciato dal "Chief scientist" di Sun Microsystems. Lo
stesso Joy afferma che " non c'è stata una gran reazione di allarme
nel settore. La gente normale sembra molto più in grado di capire
quello che sta accadendo".
Un tipo un po' particolare di reazione è quello di Hans Moravec, guru
della robotica e amico di Joy, che prevede come inevitabile la
graduale trasformazione della razza umana in forme di vita robotiche,
e che considera questo evento come una fase naturale del processo di
evoluzione. Per Moravec, l'allarme lanciato da Joy è fondamentalmente
inutile: "Diventeremo tutti Robot - dice - è allo stesso tempo
inevitabile e desiderabile".
In ogni caso, la stragrande maggioranza della comunità scientifica
vede la proposta di bloccare alcuni filoni della ricerca scientifica
come "irrealistica" e "irresponsabile". "L'abbandono di certi filoni
- afferma l'esperto di nanotecnologie Ralph Merkle - è impossibile e
illusorio, specie se si considera che altri paesi possono sviluppare
questa stessa tecnologia". Altri studiosi accusano Joy di non fare
altro che ripetere cose già dette (e meglio) da altri in passato:
"Tutte queste questioni dice il programmatore genetico John Koza - a
partire dall'allarme per l'intelligenza artificiale e l'ingegneria
genetica sono state già discusse nei primi anni '90.
Quando iniziò il Progetto Genoma Umano, gli scienziati erano molto
preoccupati per i rischi della clonazione". Insomma: cose dette,
andiamo oltre.
Dunque, nessuna esitazione, e nessuna preoccupazione. Anche perché
oggi nella Silicon Valley la ricerca e realizzazione di nuovi
prodotti significa soldi, e per la precisione è una vera e propria
montagna di soldi, cui difficilmente le aziende e gli scienziati
stessi intendono rinunciare. Non sembra preoccupato affatto della
cosa Merkle, il nanotecnologo, secondo cui "la struttura basata sul
mercato e la competizione che esiste attualmente ha lavorato più che
bene, e non ci sono motivi per serie preoccupazioni. Sembra un po'
prematuro abbandonarla proprio ora ... ".
Resta il fatto, se non altro, che Joy fa discutere. Qualche giorno
fa, all'Università di Stanford, Bill Joy ha partecipato insieme a un
gruppo di studiosi e luminari - tra cui i suoi visionari colleghi
Moravec (il roboticista) e Ray Kurzweil (scrittore e inventore) - a
un forum sui rischi dell'innovazione tecnologica. Sala strapiena,
attenzione alle stelle per un evento propagandato attraverso un tam
tam via Internet. Qualcuno ha definito la serata "l'equivalente, per
il mondo della tecnologia, di un concerto rock".
Se a parlare fosse stato un ambientalista "estremista o un lama
buddista, nessuno si sarebbe sorpreso. Anzi. Ma il colpo, l'attacco
determinato (e angosciato) alla cultura dominante nella nostra
società - che resta fondata sull'accettazione immediata,
incondizionata e acritica delle nuove tecnologie, e su un'aspettativa
di sviluppo inesauribile e progressivo arriva da uno dei principali
esponenti del mondo della cultura scientifica e industriale
occidentale: Bill Joy, 44 anni, "Chief Scientist" (capo scienziato),
CEO, cofondatore e azionista della Sun Microsystems, uno dei colossi
del software. Joy ha inventato microprocessori, ha contribuito alla
creazione dei linguaggi Java e Jini, e tra le moltissime altre cose è
stato nominato nel '97 da Clinton co-presidente di un Comitato di
consulenza sull'"Information Technology". Ebbene, Bill Joy ha scritto
sul numero di aprile del mensile "Wired" (8.04) un lunghissimo
saggio, che ha sollevato molte polemiche e molte discussioni. Il
titolo, chiarissimo, è "Why the future doesn't need us", "Perché il
futuro non ha bisogno di noi".Dove "noi", siamo noi, donne e uomini:
le potenti tecnologie del ventunesimo secolo - robotica, ingegneria
genetica e nanotecnologie, che ci entusiasmano e ci fanno pensare a
un avvenire prospero e felice, in realtà minacciano di far finire la
razza umana sulla lista delle specie biologiche a rischio.
Il ragionamento di Joy, sintetizzato, è questo: la rivoluzione delle
tecnologie dell'informazione degli anni' 90 ha portato con sé uno
strano e "ottuso" entusiasmo nei confronti della tecnologia e delle
sue implicazioni. La vecchia angoscia per il pericolo dell'Olocausto
atomico, che ci aveva accompagnato per quasi tutta la seconda metà
del secolo, sembra sparita del tutto e anche se periodicamente si
riaccende il dibattito sui rischi e pericoli insiti in un progresso
tecnologico "costruito" e alimentato da meccanismi puramente
economici, totalmente "scollegato" invece da una ricerca di tipo
etico sui valori che debbono guidare e ispirare questo processo. Fin
qui, come dire, sono considerazioni molto ragionevoli e largamente
condivise, anche se si tratta di tesi che di rado vengono discusse
all'interno del mondo che quel progresso tecnologico sta costruendo.
Ma c'è un passaggio in più, che rende il discorso di Bill Joy
decisamente inquietante e meritevole di interesse. Attenti, ci dice:
il progresso scientifico sta avvenendo con una velocità talmente
spedita da rendere possibile e concretamente realizzabili imprese che
un tempo erano confinate al mondo dei racconti di fantascienza. Ad
esempio, la robotica. Joy racconta molto candidamente la sua storia
di informatico, alle prese con computer e sistemi che tutto possono
fare, fuorché pensare e agire "autonomamente". Si è pensato a lungo
che la crescita esponenziale delle capacità dei semiconduttori, (la
cosiddetta legge di Moore) dovesse incontrare intorno al 2010 un
qualche limite fisico. Ma il recente rapido e radicale progresso
nell'elettronica molecolare ("stampare" circuiti piazzando singoli
atomi e molecole) e nelle nanotecnologie (costruire macchine
piccolissime, con pezzi fatti di molecole) fa ritenere che nel 2030
sarà possibile costruire macchine un milione di volte più potenti dei
pc di oggi. Mettendo insieme questa capacità di "pensare", con i
progressi delle scienze fisiche, della nanotecnologie e del la
genetica, dice Joy, si ottiene un prodotto totalmente nuovo, e
fantascientifico: la capacità - oggi riservata alla natura - di
produrre macchine o organismi in grado di autoreplicarsi. Insomma,
oggi l'uomo può "scatenare un enorme potere di trasformazione".
Un potere che può essere adoperato per il bene, certo. Robot possono
svolgere i lavori "sporchi", e con arti robotici possiamo allungare e
migliorare la nostra vita; potremo forse "downloadare" la nostra
coscienza in macchine, e vivere in eterno; l'ingegneria genetica
potrà aiutare a curare malattie oggi mortali. Ma allo stesso tempo,
"ognuna di queste tecnologie mette in moto una sequenza di piccoli,
singolarmente sensibili progressi, che porteranno all'accumularsi di
un grande potere, e dunque, di un grande pericolo". Il pericolo nasce
da un atteggiamento della nostra cultura. La nostra attitudine verso
il nuovo è fatta di una immediata e incondizionata accettazione del
cambiamento e dell'innovazione. Tutto sommato, l'uomo occidentale è
riuscito a mantenere questo approccio anche quando più alto era il
rischio legato alle tecnologie di distruzione di massa (bombe
atomiche, batteri, e così via). Armi strapotenti, ma complesse da
creare e difficili da manipolare; oggi, al contrario, armi, legate o
derivanti dalle tecnologie GNR (genetiche, nanotecnologie, robotiche)
possono essere prodotte anche da singoli. Sono quelle che Joy
definisce armi di distruzione di massa "knowledge-enabled", cioè
"attivate dalla conoscenza". Armi futuribili (ma non irrealizzabili
nel medio periodo) che potrebbero ad esempio distruggere l'intera
biosfera, trasformando tutto ciò che è vivente in una "gelatina
grigia".
La cosa che più crea angoscia a Joy, è l'evidente rifiuto da parte
degli scienziati di ogni tentativo di riconquistare un controllo
sulla tecnologia, il loro atteggiamento passivo, il loro abdicare
alla responsabilità morale di assumere scelte responsabili, la
generale rinuncia a cercare di pensare "il lungo periodo". Al
contrario, spiega nel saggio su "Wired", "il perseguimento
scientifico della verità dev'essere temperato da considerazioni sul
costo umano del progresso". Bisogna imitare - è la conclusione - gli
scienziati atomici del dopoguerra: impegnarsi in prima persona per
cercare di cambiare le cose, e arrivare al deliberato abbandono dì
alcune applicazioni di queste tecnologie. Nonostante i costi
economici e sociali, accettando controlli efficaci e generalizzati
per rendere effettivo il bando, e chiedendo agli scienziati di
sottoscrivere un rigido codice etico di comportamento.