« Vai all'articolo precedente | Vai all'Indice di tutti gli articoli scritti in modo collaborativo | Vai all'articolo successivo »

La questione della responsabilità secondo Joy e secondo Kurzweil

( 12 Luglio 2004 )

( by Redazione FGB busta.gif (111 byte) )

Minority Report
Based on a story by famed science fiction writer Philip K. Dick, Minority Report is an action-detective thriller set in Washington D.C. in 2054, where police utilize a psychic technology to arrest and convict murderers before they commit their crime.
[www.minorityreport.com]
(fai clic sull'immagine per leggere alcune informazioni su di essa)

Contributi, appunti e annotazioni dei lettori e della Redazione FGB
(inviati da Giugno a Dicembre 2004):
(cliccare sui link sottostanti)
Massimo Bartoli
   (19.07.04)

(continua dall'articolo precedente)

Joy mette in guardia nei confronti della hybris degli scienziati che vedono se stessi alla stregua di "tool-builders" e che, di conseguenza, si auto-esonerano dall'assumersi responsabilità in ordine alle conseguenze dell'uso che viene fatto dei loro... "tool".

Il problema della rinuncia:
è questa la raccomandazione più controversa di Bill Joy.

Vediamo che cosa intende.

A parere di Joy, agire responsabilmente significa rinunciare a proseguire alcune forme di ricerca applicata: imitando gli scienziati atomici del dopoguerra bisognerebbe che coloro che svolgono ricerca applicata in settori "a rischio" ("rischio" nel senso "finale" visto in precedenza) si impegnassero in prima persona per cercare di cambiare le cose, e arrivassero al deliberato abbandono di alcune applicazioni di genetica, nanotecnologie e robotica, quando queste fossero considerate troppo pericolose. Ciò dovrebbe valere nonostante i costi economici e sociali, accettando controlli efficaci e generalizzati per rendere effettivo il bando, e chiedendo agli scienziati di sottoscrivere un rigido codice etico di comportamento.

«Le tecnologie del XXI secolo - genetica, nanotecnologia, e robotica (GNR) - sono così potenti che possono diffondere intere serie di nuovi incidenti e abusi. Quel che è più pericoloso, è il fatto che per la prima volta tali incidenti e abusi sono alla portata di singoli individui o di piccoli gruppi. Non richiedono grandissimi impianti o rare materie prime. Basterà la conoscenza a consentirci di usarle.»
(Bill Joy, "Perchè il futuro non ha bisogno di noi", Wired, Aprile 2000)

Questo modo di mettere in pratica il proprio senso di responsabilità, che Joy vede come unica via percorribile per gestire il rischio di danni irreversibili che le tecnogie "GNR" (genetica - nanotecnologia - robotica) implicano, ovviamente apre una cascata di questioni, fra cui quella della trasparenza delle linee di ricerca e dei controlli su ciò che avviene nei laboratori di ricerca. Joy ha precisato la sua posizione in un'intervista rilasciata a Giancarlo Radice, per il Corriere della Sera (pubblicata il 13 marzo 2003 e citata in questo sito nella Rassegna stampa dello stesso mese) ponendo anche l'accento sulle armi c.d. "knowledge enabled".

Gina Kolata
Gina Kolata: Biographical information (nel sito del NY Times)
A seguito della minaccia terroristica conseguente all'11 Settembre 2001, il tema dei livelli di segretezza che dovrebbe coprire la ricerca scientifica in determinati campi, come quello della GNR, ha assunto un inedito risalto politico. Gina Kolata, una delle più famose giornaliste scientifiche, ha fatto in merito una riflessione in un articolo del New York Times (il giornale per cui scrive stabilmente):
Eric Drexler«The Foresight Institute's chairman, Dr. Drexler, originally thought that the best thing to do would be never to disclose nanotechnology's darker possibilities for fear it might give terrorists ideas. But he soon realized that if he could think of these abuses, others could too. So he decided to try to help society prepare for the good uses of the technology and to protect itself against its evil use.

Ralph Merkle Dr. Drexler, Dr. Merkle and others at the Foresight Institute argue that openness is critical toward developing nanotechnology safely.

"There's an argument that perhaps we could simply close our eyes to new technology," Dr. Merkle said. "Occasionally, people argue that if new technologies pose new risks we should tell people they should not develop them." But then, he said, society would be worse off. "Not only do we lose the benefits of the new technology, but we also - and more importantly - fail to understand what the new technology means," Dr. Merkle said. "Then how can we defend ourselves if someone else develops them?"»


(tratto dall'articolo di Gina Kolata "When Science Inadvertently Aids an Enemy", pubblicato nel sito di Michael Sanders, fisico, professore emerito dell'Università del Michigan)
E, ancora su questo argomento della conoscenza dei possibili abusi delle nanotecnologie che diventa un'arma, anche nel sito di Raymond Kurzweil troviamo un articolo di Drexler, originariamente pubblicato nel sito del Foresight Institute: "Nanotechnology: Six Lessons from Sept. 11"
«The Sept. 11 attacks confirmed the ongoing terrorist threat and the importance of proactive development of methods to prevent nanotech abuse, K. Eric Drexler, Chairman of the Foresight Institute said in a statement sent to institute members. The "nanotechnology boom" is beginning, he said, urging members to use their brains and their wallets to "ensure that the field of nanotechnology never has its own Sept. 11."»
La stragrande maggioranza della comunità scientifica vede come irrealistica la proposta di bloccare (o rallentare) e di sottoporre a controlli stringenti alcuni filoni della ricerca scientifica e la giudica (al contrario di come la pensa Joy, il quale ha fatto del relinquishment un suo impegno personale) come... "irresponsabile".

«Raymond Kurzweil is a pioneer in the fields of optical character recognition (OCR), text-to-speech synthesis, speech recognition technology, and music keyboards. He is author of "The Age of Intelligent Machines" and "The Age of Spiritual Machines", and a recipient of the Lemelson-MIT Prize and National Medal of Technology. His forthcoming book, "The Singularity is Near" is due in 2004.»

(La Wikipedia contiene una scheda su Kurzweil. Wikipedia è un'enciclopedia collaborativa, qualcosa di simile, nella filosofia di base, alla modalità di scrittura impiegata in questo articolo, nei due che lo precedono e in altri che verranno.)
Raymond KurzweilRaymond Kurzweil, dal canto suo, pur condividendo le stesse preoccupazioni di Joy sui pericoli delle tecnologie che si autoreplicano, giunge a conclusioni diverse. Neppure lui infatti è d'accordo con la soluzione che consiste nel "relinquishment" e sposta il baricentro delle riflessioni di Joy, insistendo, sul fatto che è sbagliato concentrarsi sulla capacità di prevedere e avere troppo fiducia in essa per prevenire disastri, perché...
La citazione qui a fianco è tratta da "La tecnologia? Un'arma a doppio taglio", uno dei tre articoli usciti sulla rivista del MIT, "Technology Review", (gli altri due sono "Non di sola ragione" e "L'importanza di essere umani", di Michael Dertouzos) in cui Kurzweil e Dertouzos sviluppano un dialogo che verte sulle tesi sostenute da Joy nel suo articolo per Wired (e successivamente riproposte in diverse sedi e occasioni). I tre articoli si trovano, tradotti in italiano, oltre che nell'edizione italiana del periodico del MIT, anche nel sito del magazine on line "Boiler", al quale fanno riferimento i link qui sopra.
«la tecnologia rimarrà un'arma a doppio taglio e la storia del XXI secolo non è stata ancora scritta»
Kurzweil (ma non è il solo) fa un'ipotesi riguardo a un effetto perverso che il relinquishment potrebbe comportare: l'abbandono di vaste aree tecnologiche favorirebbe lo sviluppo sotterraneo di ricerche e applicazioni senza né regolamentazione né etica. In tale situazione, potrebbero essere proprio i professionisti meno equilibrati e meno responsabili (per esempio i terroristi) a possedere tutto l'expertise. E conclude insistendo, come Joy, sul tema dei controlli (sottolineando, peraltro, l'apporto che allo scopo la stessa tecnologia potrebbe dare): la risposta costruttiva a questi pericoli non è una sola, perché occorre mettere insieme i comportamenti professionali etici, la supervisione di organismi regolatori e lo sviluppo di risposte "immunitarie" alla specifica tecnologia, nonché una sorveglianza assistita dai computer da parte degli enti che devono far rispettare la legge.
«In prospettiva futura, una delle sfide più impegnative sarà riuscire a trovare un equilibrio tra i nostri preziosi diritti alla privacy e il nostro bisogno di essere protetti da un misuse delle tecnologie del XXI secolo».

Minority Report: spider robots performing a retinal scan -- [www.minorityreport.com]

«(...) robotic "spiders" that can search a building in minutes by performing a retinal scan on everyone in it.»
[www.suntimes.com/ebert/ebert_reviews/2002/06/062104.html]
***
«(...) we get to see how the future looks, where retinal scanners are commonplace and even in public places identify you based on eye movements and store your personal information.
(...)
Another gadget used are spiders, which are little robots that search for people using the retinal scan and report the information back to the cops.»

[www.geocities.com/smvgrey/minority.html]
***
«The setting is Washington D.C., where a purported "fool proof" homicide reduction is taking place. It is known as "Pre-Crime", a system where three godly individuals known as "Pre-Cogs" predict a murder before it happens. The movie's main character, John Anderton (Tom Cruise), is one of Pre-Crime's top detectives. He convicts the perpetrators and saves the victims. When a Pre-Cog has a vision of a murder taking place, a system hooked up to their brain shows this vision to the investigators. They watch it frame by frame and attempt to pinpoint the location of the crime. Soon after the vision, a victim ball and a perpetrator ball will come out of a tube, revealing two big pieces to the puzzle. Then an elapsed time until the crime is shown and John Anderton and his assistants place the perpetrator under arrest. The final straw proving the person guilty is a retinal scan that tells if the person is indeed the murderer. If the retinal scan results are positive, the person is placed under arrest.»
[www.billyprice.com/Minority_Report.htm]

["minority report retinal scan": ricerca su Google]

[18 agosto 2004]
Perché la citazione di "Minority Report"?
Si veda la spiegazione dell'immagine pubblicata nella sezione Argomenti il 16 luglio, intitolata "Previsione, tecnologia e controllo sociale"

... CONTINUA...



Contributi, appunti e annotazioni dei lettori e della Redazione FGB


Contributo di Massimo Bartoli, scritto Lunedì 19 Luglio 2004 alle 14:32

Una piccola precisazione su "Minority Report", indotta dalla nota di Gian Maria nella spiegazione del significato dell'immagine periodica relativa nella sezione Argomenti: https://www.fondazionebassetti.org/06/argomenti/immagineperiodica/000290.htm .
Tom Cruise deve sottoporsi al trapianto di bulbo oculare (infatti trapiantare la sola cornea non basta per sfuggire all'identificazione retinale).
Alla fine recupererà i suoi occhi originali.

Backright-up.gif (913 byte)



« Vai all'articolo precedente | Vai all'Indice di tutti gli articoli scritti in modo collaborativo | Vai all'articolo successivo »