Tout se tient blog

 Avremo i robot che ci meritiamo

--- posted by Gian Maria Borrello ---

--- Permalink (da utilizzare per segnalare questo post) ---

Bruce Sterling [nella foto qui a destra] a fine gennaio era a Sanremo al primo incontro internazionale sulla "Roboethics" (Segnalazione del convegno nel sito della Fondazione Bassetti), tra gli esperti di robotica e di intelligenza artificiale venuti da tutto il mondo. Erano invitati da Gianmarco Veruggio, del Robotlab di Genova, e da Fiorella Operto, della Scuola di robotica, a riflettere sulle applicazioni sociali delle proprie ricerche.

Ecco il dialogo che si è svolto fra Bruce Sterling e Sylvie Coyaud (autrice di un articolo per l'inserto del giovedì di Repubblica, www.dweb.it).

Gli argomenti sfiorati sono molteplici: dalla moralità delle applicazioni tecnologiche e degli esperimenti scientifico-tecnologici, alla nanotecnologia, alla ricerca sui batteri "addomesticati", agli organismi geneticamente modificati, alla critica delle strategie delle multinazionali che li producono.

Due estratti:

• Sterling: «(...) Ha notato che in questa conferenza la parola chiave è "autonomia"? Nessuno dice di costruire "robot", ma solo "sistemi autonomi". Possono essere qualunque cosa, aspirapolvere, lavatrici, registratori. C'è mercato per quei sistemi, non per macchine umanoidi (...).
  I sistemi autonomi mi interessano enormente, ma non credo che saranno mai autonomi davvero. Meglio così: la loro autonomia solleva obiezioni morali, potenti e giuste. (...)»

• Sterling: «(...) Nicolelis ci rimanda all'immagine di Stephen Hawking [nella foto qui in basso], uno scienziato geniale --il gioiello della nostra civiltà-- paralizzato, ma ancora attivo grazie alle macchine. Quelle che assistono Hawking sono l'argomento da opporre ai luddisti di oggi (...)»

Il blog che Bruce Sterling tiene per Wired

The Bruce Sterling Online Index (an unofficial guide to his works on the web)

 Il rischio della 'scatola nera'

--- posted by Gian Maria Borrello ---

--- Permalink (da utilizzare per segnalare questo post) ---

Cercando nel Web, ho trovato un'intervista rilasciata da Sherry Turkle a Technology Review e ripubblicata nel sito POL.it.
L'intervista termina affrontando l'argomento di cui al precedente post in questo blog: i rischi derivanti dalle tecnologie opache.

Eccone i brani che ho ritenuto più significativi in riferimento al tema (grassetti miei).

«D: Tempo fa, un uso efficace di un computer richiedeva almeno una conoscenza di base di come la macchina funzionava. Un beneficio dei computer più avanzati è che questo non è più il caso — la gente può ora controllare una tecnologia potente senza conoscere molto delle cose su come funziona. Quali sono le conseguenze dell'affidarsi ad una tecnologia che è così opaca?

Turkle: Sono molto preoccupata che la tecnologia possa favorire una passività intellettuale, alimentata da una accettazione culturale del non capire come moltissime cose funzionino. Sono preoccupata dalla sensazione della gente che questo sia fondamentalmente magico. Non penso che la gente non debba avere alcuna idea di come la tecnologia del computer funzioni. E sempre più, la gente non ha alcuna idea. Ho intervistato un uomo che ha detto che quando la BMW ha iniziato ad utilizzare i microchips sulle sue auto, ha perso interesse in esse sebbene fosse stato un avido entusiasta. Per lui, le auto erano diventate opache. Ho moltissima simpatia per questa prospettiva — gli piaceva la tecnologia trasparente, perché lo faceva sentire più in grado di comprendere le altre cose nel suo mondo.

D: Con i computers, questa preoccupazione di offrire dei modelli del computer potrebbe essere un po' fuori dal tempo. La gente oggigiorno non apprende circa i computers tramite la lettura di libri. Impara utilizzandoli.

Turkle: Esattamente. Ma dobbiamo stare attenti all'impatto sociale e psicologico della tecnologia che ti incoraggia a pensare che ciò che hai bisogno di fare è solo cliccare, cliccare.

D: Le auto che utilizzano i chips dei computer necessitano meno assistenza e funzionano meglio. Un Macintosh è utilizzabile da un milione di persone in più rispetto ad un computer DOS o Unix. Tale semplificazione non è equivalente al valore della perdita di "trasparenza"?

Turkle: Non la considero una semplificazione, ma un movimento dal calcolo alla simulazione nel nostro modello del computer e di come comprendere il mondo. Alcune cose che possono andare avanti con questo movimento sono indesiderabili. L'avere a che fare ogni giorno con oggetti che sono potenti, ma impenetrabilmente complessi, può generare sentimenti di impotenza e sensazioni di potere irragionevole. Se uno utilizza i modelli correnti dell'uso del computer come una metafora, può essere tentato di ritrattare le sovrasemplificazioni radicali. Clicca due volte e fai sparire l'educazione pubblica. Doppio click e fai sparire le tasse. Doppio click — tre colpi e sei fuori e risolvi il problema del crimine. Come società, stiamo compiendo moltissimi doppi click. E non penso che sia una cosa cattiva per noi raggiungere una migliore comprensione di come questa mentalità potrebbe uscire dalle abitudini di pensiero incoraggiate dalla nostra tecnologia.

D: Quindi, in linea di massima, lei è un'ottimista o una pessimista sull'effetto del computer sulla psiche umana?

Turkle: Penso che i computers offrano delle nuove possibilità critiche per la crescita personale — per lo sviluppo dei sensi personali di padronanza, per formare nuovi tipi di relazioni e per comunicare con gli amici e la famiglia in tutto il mondo nell'immediato, persino in modi intimi. Ma non mi piace pensare alle cose in termini di ottimismo o pessimismo, perché fa sembrare come se uno si mettesse a scommettere sul fatto se la tecnologia avrà un tipo di effetto o un altro. Penso che moltissimo dell'effetto della tecnologia dipenderà da ciò che le persone faranno con essa. Dobbiamo considerarci in una posizione in grado di influenzare profondamente il risultato di come andranno le cose. Insidiare o colpire violentemente la tecnologia pone l'enfasi sul potere della tecnologia. Sto tentando di ottenere l'attenzione sulla gente e sulle scelte umane. Noi confrontiamo molte domande, molte scelte come tentiamo di assimilare questa tecnologia. In definitiva, c'è un limite ai tipi di soddisfazione che la gente può avere online. Noi viviamo nei nostri corpi. Noi siamo terrestri. Noi siamo esseri fisici, così come mentali, noi siamo cerebrali, cognitivi ed emotivi. Il mio ottimismo deriva dal credere che le persone troveranno dei modi per utilizzare la vita sullo schermo per esprimere tutti questi aspetti di se stesse.

Digressione (ma non poi tanto)

"Probability Models and Human Decision-Making", di David H. Krantz, Professore di Psicologia e Statistica alla Columbia University.

 

 

 

 

 La Simulazione come tecnologia della previsione e come tecnologia politica

--- posted by Gian Maria Borrello ---

--- Permalink (da utilizzare per segnalare questo post) ---

Nel saggio di Sherry Turkle...

"Osservare attraverso il computer: l'educazione nella cultura della simulazione", pubblicato in Gens Electrica da Apogeo nel 1998 (testo originale apparso in The american Prospect, Cambridge, Massachusetts, n. 31, marzo-aprile 1997), alle pagine 76 - 82 troviamo quanto segue.

«Nella cultura della simulazione, quando si dice che qualcosa è trasparente s'intende che si è in grado di capire come farla funzionare, non che si sappia come funzioni.» (Turkle, in Gens Electrica, p. 225, grassetti miei).

Riflettiamo sul concetto di "trasparenza". Questa può essere definita nel seguente modo:

"Se si riesce a vedere come funziona la macchina, questa è trasparente."

Nella cultura della simulazione, allora, questa definizione cambierebbe radicalmente nella seguente:

"Se si riesce a usare la macchina senza sforzo, questa è trasparente".

Il che è come dire: non è necessario capire il funzionamento della macchina, perché questo è trasparente, cioè il modo in cui la macchina funziona viene "attraversato" senza sforzo intellettuale dall'azione del soggetto che usa la macchina. Questi dà alla macchina un input ed ottiene da essa un output, senza doversi preoccupare di che cosa ci sia in mezzo. (ciò ricorda molto la Black Box Theory... ma sarebbe un'altra storia)

«Nella cultura della simulazione non si va a vedere come il computer risolve i "propri" problemi. Quel che importa è che sia capace di risolvere i "nostri" problemi» (Turkle, in Gens Electrica, p. 228).

E io direi che su questa linea teorica Macintosh docet.

Però... però... Turkle aggiunge:

«E' vero che la simulazione permette di pensare in maniera attiva rispetto a fenomeni complessi, quali i sistemi dinamici in evoluzione. Ma è anche vero che essa abitua le persone a manipolare sistemi di cui possono non comprendere l'essenza e che possono essere "veri" così come non esserlo.
La simulazione ci consente di rinunciare, affidandoci ad essa, alla necessità di un controllo sui processi, ma questo ci induce ad accettare l'opacità del modello.
(...)
Paul Starr, nel suo rapporto Seduction of Sim:Policy as a Simulation Game (primavera 1994), ha sottolineato come l'accettazione dell'opacità del modello "trovi corrispondenza nel modo in cui la simulazione viene talvolta utilizzata nel mondo reale della politica, dell'economia e della pianificazione sociale". Starr mette in chiaro come, se è facile criticare giochi tipo SimCity e SimHealth, perché tendono a nascondere l'assunto su cui poggiano, in altri ambiti si riesca invece a tollerare le simulazioni opache. Regolarmente legislatori e pianificatori sociali hanno a che fare con sistemi complicati che cercano di comprendere tramite modelli computerizzati utilizzati come base per l'azione. Costoro, sostiene Starr, "si affidano inevitabilmente a modelli imperfetti e semplificano le ipotesi di partenza secondo modalità che i media, il pubblico e perfino gli stessi legislatori generalmente mancano di comprendere." Dunque i giochi di simulazione non servono soltanto a riconsiderare il mondo reale, ma anche a costringerci a riflettere sulle modalità secondo le quali il mondo reale si è trasformato in un gioco di simulazione.» (Turkle, in Gens Electrica, p. 235 - 236, grassetti miei).

«Potremmo considerare la capacità di penetrazione nella simulazione come una sfida allo sviluppo di una nuova critica sociale. Una nuova critica in grado di operare scelte tra le diverse simulazioni. Avendo come obiettivo primario la realizzazione di simulazioni in grado di aiutare chi le utilizza a comprendere e mettere in discussione le ipotesi di partenza insite nei modelli proposti.» (Turkle, in Gens Electrica, p. 236, grassetti miei).

«Durante un'intervista su SimCity, una studentessa delle medie, Marcia, si vantò di essere bravissima e snocciolò le sue "prime dieci regole utili di Sim." Tra queste, rimasi colpita dalla numero sei in elenco: "L'aumento delle tasse produce sempre malcontento." Marcia pareva considerare per nulla diverse le sue regole del gioco da quelle operative in una "vera" città. Non si era mai interessata di programmazione, né aveva mai realizzato una simulazione. Non possedeva gli strumenti per poter spiegare come sarebbe stato possibile riscrivere il gioco in modo che ogni incremento di tasse provocasse un aumento della produttività e dell'armonia sociale. E sicuramente non si considerava una persona in grado di cambiare le regole. (...) non sapeva "leggere" la simulazione. Marcia è come qualcuno che, seppur capace di pronunciare le parole stampate in un libro, non riesce a comprenderne il significato. Non sa come fare a misurare, a criticare o a giudicare quel che sta imparando.
(...) Sempre più oggi la comprensione delle ipotesi di base che soggiacciono alla simulazione diviene elemento chiave del potere politico. Quanti riescono a comprendere le distorsioni imposte dalla simulazione si trovano nella posizione migliore per chiedere riscontri politici ed economici più aperti, nuovi tipi di rappresentanza e un maggior numero di canali d'informazione.» (Turkle, in Gens Electrica, p. 236 - 237).

Alcuni riferimenti:

Una pagina dedicata a Sherry Turkle in Edge.org

Sherry Turkle fa parte dei Digerati.

«"Sim Earth", another classic from the "Sim something"-series, puts you into the role of "God". A whole planet lies beneath you, on which you can
simply control everything: The nature, the species, cosmic catastrophes, everything you like. [...]»

Il sito della Maxis, casa produttrice dei più famosi giochi informatici di simulazione.

Semiotics of SimCity