JAMES WATSON - IL PREGIUDIZIO E LA COLPA

UN IMROPRIO USO DELLA SCIENZA PER GIUSTIFICARE I PROPRI PREGIUDIZI.

Questo l'inesorabile giudizio affibbiato a James Watson (ex-premio Nobel per la scoperta della struttura del DNA) da ABC News, giornale online australiano.

Sulla pochezza morale dello scienziato americano mi sono già ampiamente espresso in precedenza: vedi La Doppia Elica e l'Ultima Omissione di Watson e Crick (LINK) e Rosalind Franklin è in scena  (LINK).

Oggi, il vecchio biologo americano (90 anni) torna all’onore delle cronache insistendo nel giudicare i neri meno intelligenti dei bianchi e basando il proprio assunto su basi genetiche da tutti negate. Nel caso di Watson, dunque, il pregiudizio razziale ha avuto la meglio sulle evidenze scientifiche. La comunità scientifica si è trovata compatta e il premio Nobel conferitogli nel 1962 gli è stato revocato. Ritengo che tale decisione sia stata tardiva e che avrebbe dovuto essere stata adottata nel momento in cui sono emerse le prove che la scoperta sulla struttura a doppia elica del DNA era stata fatta anche col contributo di altri (Rosalind Franklin, Jamesl Creeth, Erwin Chargaff), mai nominati e nemmeno ringraziati al momento dell’assegnazione dell’ambito premio.  

Su questo fatto hanno scritto in molti. Fra tutti, cito senz’altro il post di Andrea Bellelli, Professore di Biochimica all’Università La Sapienza, intitolato “Il caso James Watson e la psiche degli scienziati che si lanciano in affermazioni stupide” al quale rimando senz’altro (LINK), invitando tutti a leggere l’articolo col quale concordo in tutto e per tutto.

Il tema della superiorità dei bianchi sui neri e quello della maggiore civiltà dei bianchi rispetto alle popolazioni cosiddette “selvagge” ha una lunga storia. A complemento della invereconda faccenda di James Watson mi piace qui riportare il passo conclusivo di L’Arcipelago Malese, il dettagliato resoconto (naturalistico ma non solo) della permanenza di otto anni nel suddetto arcipelago di Alfred Russel Wallace, coautore con Darwin della Teoria della Selezione Naturale. Pubblicate nel 1869, queste parole – pur nelle mutate condizioni socioeconomiche rispetto all’Ottocento – conservano ancora il loro pregnante significato.

Credo che l’uomo civilizzato possa imparare qualcosa dal selvaggio. Molti fra noi credono che, in quanto primi tra le razze, noi siamo progrediti e stiamo ancora progredendo. Deve esserci quindi uno stato di perfezione massima – una sorta di punto d’arrivo – che non potremo mai raggiungere ma verso il quale il continuo progresso ci farà appropinquare sempre più. Ma qual è quello stato sociale idealmente perfetto verso il quale tendiamo? I nostri migliori pensatori affermano che sia uno stato nel quale la libertà individuale e l’autogoverno, reso possibile da uno sviluppo equanime in cui il nostro istinto morale, le nostre capacità intellettive, e la componente fisica della nostra natura umana – uno stato in cui ciascuno di noi, conoscendo ciò che è giusto e allo stesso tempo sentendo un impulso irresistibile a fare ciò che sentiamo sia giusto fare – sarà perfettamente adattato alla vita sociale, al punto che le leggi e le sanzioni non saranno più necessarie.

Va sottolineato però che, tra la gente che si trova ancora in uno stato molto basso di civilizzazione, noi possiamo vedere un qualche genere di avvicinamento a tale stato di perfezione sociale. In Sudamerica e in Oriente ho vissuto in comunità selvagge che non hanno leggi e nemmeno tribunali ma nelle quali viene pienamente espresso il senso condiviso di società. Ciascuno rispetta scrupolosamente i diritti dei propri compagni e succede assai raramente che tali diritti vengano infranti. In queste comunità esiste una quasi totale parità tra individui. Non ci sono quelle grandi differenze di istruzione o di ignoranza, di ricchezza e povertà, o tra padroni e servi, che sono il prodotto della nostra civilizzazione. Non c’è quell’ampia suddivisione del lavoro che, a mano a mano che la ricchezza aumenta, produce conflitti di interessi. Non c’è quella dura competizione e quella lotta per l’esistenza (o per la ricchezza) che viene inevitabilmente a crearsi nelle regioni civilizzate in cui la popolazione si addensa. Tra queste popolazioni selvagge non esistono grandi crimini e i piccoli reati vengono puntualmente repressi in parte a causa del sentire comune ma soprattutto in virtù di un naturale senso di giustizia e di rispetto per i diritti altrui che sembra essere, in qualche modo, inerente ad ogni razza umana.

Rispetto a queste popolazioni selvagge, noi siamo progrediti enormemente per ciò che riguarda le capacità intellettuali e, allo stesso modo, per ciò che riguarda gli aspetti morali. Ma ciò è vero solo per quelle classi i cui bisogni possono essere facilmente soddisfatti e tra le quali le opinioni e i diritti degli altri sono pienamente rispettati. Questo è così vero che è stato possibile estendere enormemente la sfera dei diritti includendoli tutti sotto l'ampio concetto di fratellanza umana. Ma va detto, però, che la gran massa della nostra popolazione non è affatto progredita oltre i codici morali dei selvaggi, anzi, in molte occasioni è ben al di sotto di questi. La carenza di moralità è la grande vergogna della moderna civilizzazione, ed è il vero freno ad un autentico progresso. Durante l’ultimo secolo, e specialmente durante gli ultimi trent’anni, i risultati che abbiamo ottenuto sono stati più rapidi degli effettivi benefici di cui abbiamo potuto godere. La nostra capacità di governare le forze della natura ha portato a una rapida crescita della popolazione e a grandi accumuli di ricchezze, ma questi risultati hanno portato con sé una tale quantità di povertà e di crimini e una tale quantità di passioni e di sordidi pensieri che il livello mentale e morale della popolazione si è abbassato e i benefici non controbilanciano i cattivi effetti. Confrontato con gli enormi progressi nelle scienze fisiche e con le loro applicazioni pratiche, il nostro sistema di governo e di amministrazione della giustizia, così come l’intera organizzazione sociale e la dimensione morale, rimane ad un livello pressoché barbarico.

Dobbiamo riconoscere il fatto che la ricchezza, la conoscenza e la cultura di pochi non costituisce di per sé civilizzazione e non ci porta, di per sé, verso un “perfetto stato sociale”. Il nostro grande sistema produttivo, il nostro gigantesco commercio, le nostre città sovrappopolate, sostengono e producono una quantità di povertà e di crimine che non s’era mai vista prima … Il nostro totale disinteresse per lo sviluppo delle relazioni simpatetiche fra le persone e per lo sviluppo delle facoltà morali insite nella nostra natura umana, impedendo a queste virtù di penetrare maggiormente nella nostra legislazione, nelle dinamiche dei commerci e nell’organizzazione sociale, ci ha impedito, considerando l’intera nostra comunità, di realizzare una reale e concreta superiorità rispetto alle migliori espressioni dei selvaggi … [In definitiva] noi ci troviamo ancora in una condizione di barbarie. Questa è la lezione che ho ricavato dalle osservazioni presso le popolazioni non civilizzate. 

Da: The Malay Archipelago, pp. 594-598 (edizione Mac Millan, 1872).

DOMANDE E RISPOSTE SU L'EVOLUZIONE - XIX^ parte

In questa puntata il professor Rugarli risponde a una articolata domanda sul tema del "caso", del suo ruolo nell'universo e nell'evoluzione e della sua coesistenza con un ordine rigidamente deterministico. 

Il tema non si limita alle leggi che regolano l'universo ma sfiora anche questioni d'ordine filosofico, quali l'essenza stessa della libertà e della responsabilità, che non esisterebbero senza un certo margine di casualità all'interno di un mondo regolato da relazioni rigidamente deterministiche.

Domande e Risposte

# 28

Domanda 28. In L'Origine delle Specie e nell’Origine dell’Uomo Darwin ha trattato con grandissima circospezione la parola “caso” e il concetto di casualità.  Nelle versioni informatiche dei due testi [vedi ai rispettivi link: Origine delle Specie e Origine dell'Uomo] ho ricercato le parole casual, casualness, chance, fortuity, fortuities, fortuituous, accident, accidental, incidental, random, contingent, contingency, hazard, luck, stochastic. Le parole random, stochastic, luck (rispettivamente a caso, stocastico, fortuna) non sono mai citate mentre nelle sue varie accezioni la parola chance (possibilità) è la più frequente, comparendo in 89 occasioni. Le parole sopra riportate vengono citate complessivamente 134 volte. In 14 casi Darwin fa riferimento (si direbbe a malincuore) ad eventi di natura casuale,^{nota 1} mentre in 28 egli nega con estrema decisione un eventuale ruolo del caso a proposito di eventi che possano avere a che fare con la selezione. Le rimanenti 92 citazioni contemplano accezioni estranee al concetto di caso o casualità. I contemporanei di Darwin che come lui non avevano una visione statica e fissista del mondo, si saranno certamente interrogati sui motivi e sui meccanismi del verificarsi di lente modificazioni nei caratteri delle specie sulle cui variazioni opera, secondo Darwin, la selezione naturale. Dubito che nell’Inghilterra vittoriana - ma anche in tutto il resto del mondo in cui l’immanenza di Dio era messa in discussione da pochi - la parola caso appartenesse al repertorio delle risposte ammissibili. Pertanto, se anche si fossero posti domande scomode sull'origine della variazione, i contemporanei di Darwin avranno preferito mantenere un rassicurante silenzio su questo punto. Sarà con l’irruzione della genetica, della statistica probabilistica sulla trasmissione mendeliana dei caratteri, sulla genetica delle popolazioni, sulla deriva genetica, e in seguito alle evidenze sulla natura stocastica delle mutazioni genetiche che il CASO ha fatto irruzione nell’evoluzionismo. Jaques Monod, con Il Caso e la Necessità, ha formalizzato un ruolo del caso che ha spaventato il mondo.^{nota 2}

Chi ha paura del caso?

Chi e perché ha paura del caso?

Il Caso ha due grandi nemici: lo scienziato moderno e riduzionista (da Cartesio a Newton, giù giù fino a noi stessi), secondo il quale non esiste fatto o evento che non abbia una causa, ancorché non conosciuta: tutto avviene in un ambito di causalità per cui tutto, se adeguatamente indagato, può essere previsto. A questo ambito appartengono tutti i rami della scienza (con alcune sfumature dissonanti nell’ambito della meccanica quantistica), teoria del “Caos deterministico” inclusa. Il secondo nemico del Caso è Dio. E non si tratta solo del Dio onnicreatore e onnipresente che ha tutto sotto controllo in ogni momento. Nemico del Caso è anche il Dio che ha creato il tutto e poi lo ha lasciato a se stesso, consentendo che si evolvesse "liberamente"  nel tempo (creato anch'esso insieme a tutto il resto) secondo precise ancorché imperscrutabili regole create contestualmente, in modo che le cose non potessero andare in modo diverso da come era stato previsto. Una siffatta evoluzione non è “libera” ma è costretta dalle regole divine (o di natura). Se questa pre-determinazione fosse davvero la tipica condizione in cui si muove la natura, allora non ci sarebbe alcuna libertà, non esisterebbe nessun Caso e nessun libero arbitrio: tutto ciò che ci sembra libero e tutto ciò che ci sembra casuale è una illusione dovuta all’ignoranza delle regole prestabilite. La scienza riduzionista lavora appunto per portare a poco a poco alla luce queste leggi di natura.

Il Caso fa paura a tutti. Fa paura perché le regole, anche se spesso vengono deliberatamente infrante, sono molto più rassicuranti della mancanza delle regole. Fa paura anche perché la libertà stessa genera paura, in quanto implica necessariamente responsabilità individuale e collettiva rispetto alle decisioni che si assumono e agli atti che si compiono. L’azione non libera (ovvero esercitata sotto una qualsivoglia coercizione) è rassicurante perché abolisce la responsabilità. Forse è per questo che la consapevolezza (o la presunzione) dell’essere qui per caso (vedi per esempio la posizione filosofica dell'esistenzialismo) determina una condizione spiritualmente angosciante. 

D’altra parte, pur ammettendo che le cose dell’universo stiano tra loro in una sorta di equilibrio dinamico e che si muovano in modo prevedibile secondo regole definibili in modo relativamente accurato dai nostri metodi di calcolo, perché escludere la possibilità che una certa parte (anche piccola) degli accadimenti possa essere davvero casuale, ovvero senza una causa diretta che ne determini in modo assoluto la necessità? Perché privarsi della possibilità che nella fisica, come nella biologia e nella nostra mente, qualcosa possa davvero muoversi o accadere in modo non strettamente predeterminato? Se ci priviamo di queste minime possibilità ci priviamo della libertà di qualsiasi scelta, di qualsiasi giudizio, di qualsiasi azione libera e volontaria.

Rappresentazione delle soluzioni di un'equazione facente riferimento alla
Teoria del Caos Deterministico 

Si può ritenere che un temporale o un terremoto possono accadere in un certo luogo e in un certo istante perché rappresentano l'esito inevitabile di una determinata serie di eventi che si susseguono in modo causale (i sistemi dinamici non lineari come questi sono oggetto di studio nell'ambito della Teoria del Caos Deterministico). Ma possiamo dire lo stesso del luogo e dell'istante in cui cadrà un fulmine? Possiamo dire lo stesso dell’esito di una battaglia e del capovolgimento di fronte che potrebbe intervenire se sui contendenti si scatenasse un temporale? E di una gara automobilistica? E di una corsa ciclistica? Possiamo dire lo stesso della posizione del DNA, di una certa cellula, di un certo organismo in cui avviene, in un certo momento della vita di quell’organismo, una mutazione? Se ci lasciamo un certo margine di casualità all’interno di un universo in gran parte causale possiamo ammettere che l’evoluzione dell’uomo (come di tutto il resto) abbia una componente di casualità. È proprio intollerabile ammettere un certo ruolo ontogenetico del Caso?  

Risposta 28. Personalmente non sono turbato dall’ammettere che il Caso è un ingrediente della natura. Dal punto di vista scientifico l’ammissione di un ruolo del caso ha permesso di elaborare teorie con un forte potere esplicativo. Prima ancora che alla meccanica quantistica penso alla termodinamica e alla stessa evoluzione biologica. Comprendo che questo pone problemi con l’idea della divina provvidenza, e della onnipotenza di Dio. I manichei sostenevano che Dio non può essere allo stesso tempo infinitamente buono e onnipotente. Se infinitamente buono non riuscirebbe a evitare il male nel mondo e perciò non sarebbe onnipotente, se onnipotente non proibirebbe il verificarsi del male e quindi non sarebbe infinitamente buono. Penso che questo sia un ragionamento ingenuo che deriva da una visione antropomorfica della divinità. Io credo che la divina provvidenza, se così vogliamo chiamarla, si svolga nella ispirazione delle azioni umane.

La domanda tocca anche un punto molto importante, quando assimila il caso alla libertà umana. Io credo che nella libertà ci sia una componente casuale, ma che in sostanza non dipenda solo da questo. Quando bisogna decidere per un’azione tra varie possibili, entra in gioco l’immaginazione, nel senso che bisogna immaginare l’esito delle varie azioni e sceglierne una. Il processo immaginativo può essere diverso da una persona a un’altra e ha una componente casuale (quante volte si dice: non mi è venuto in mente!), ma poi penso che la selezione tra le varie decisioni avvenga con un meccanismo darwiniano, nel quale la necessità è rappresentata dalla più profonda identità della persona che fa la scelta. 

Rappresentazione dell'Emergenza della Complessità

In conclusione, penso che il Caso, e non una tendenza intrinseca nella materia, abbia consentito l’emergenza della complessità. Si può riflettere che nell’universo esiste un numero sterminato di pianeti e che certamente ve ne deve essere un buon numero con caratteristiche ambientali compatibili con la vita. Eppure, non è detto che dovunque ci sia vita debba esserci l’uomo o qualche essere equivalente. Non trovo nulla di male ad ammettere che il Caso ci ha favorito.

____________________________________

^Note

¹ In riferimento all’impollinazione, ai ritrovamenti e alla conservazione dei fossili, all’apprendimento di comportamenti, o di evenienze accidentali con qualche possibile riflesso sulla selezione.

² Ma ha affascinato molti giovani e li ha indirizzati allo studio della biologia.

ROBÉTICA - ETICA E ROBOT

Un gruppo di esperti nominato dal Consiglio d’Europa ha recentemente proposto una linea guida per un indirizzo etico da applicare ai dispositivi dotati di Intelligenza Artificiale. Ma cosa si intende con questo termine?  

Per Intelligenza Artificiale (IA) si può intendere la “facoltà” di dispositivi artificiali ad “agire” e a “scegliere” in modo autonomo (svolgendo compiti, assumendo decisioni, risolvendo problemi) apprendendo ed effettuando “ragionamenti” che imitano quelle che riteniamo essere le procedure e le strutture logiche – i cosiddetti algoritmi – tipiche della mente umana.
Se qualcuno non se ne fosse ancora accorto, l’IA è già entrata nella nostra vita di tutti i giorni e sta già condizionando alcuni dei nostri comportamenti. L’ingresso di dispositivi intelligenti nella nostra vita è avvenuto con maggiore o con minore enfasi a seconda dell’utilizzo che ne viene fatto. Là dove i dispositivi vengono “venduti” per migliorare esplicitamente certe funzioni umane, l’enfasi è elevata. Là dove, invece, l’uso è più subdolo ed è inteso ad effettuare profili del consumatore per indirizzarne le scelte, l’enfasi è quasi totalmente assente. Quel che è certo che l’IA sarà sempre più presente nelle nostre vite. Macchine intelligenti, capaci di imparare senza l’intervento diretto dell’uomo, capaci di autoripararsi o di autoincrementare la loro stessa intelligenza, capaci di comunicare e interagire tra loro formando reti autonome, scambiandosi informazioni sensibili e dando vita a forme di “cultura” autonome e istruendo esse stesse i loro “partner” umani, “vivranno” sempre di più accanto a noi, aiutandoci e indirizzandoci.
Stando così le cose, ESPERTI e ISTITUZIONI hanno cominciato ad accorgersi (cinquant’anni dopo Isaac Asimov) che questo genere di macchine necessita, fin dal momento della loro progettazione, di un algoritmo etico che impedisca loro di “comportarsi male”. Ecco allora che gli “esperti” riscoprono l’idea dell’Albero del Bene e del Male, un’idea da riproporre in versione 2.0 alle nuove generazioni di Robot (dopo che il Grande Costruttore aveva cercato di imporla ad Adamo ed Eva).

Raffigurazione dell'albero della Conoscenza del Bene e del Male

Ma torniamo al panel di esperti del Consiglio d’Europa. Ecco i cinque punti della linea guida da loro proposta.
1) l’IA deve essere sviluppata per promuovere il benessere degli individui e della società nel suo complesso (principio di Beneficenza); 2) l’IA non deve nuocere agli uomini (principio di Non Maleficenza). Già in fase di progettazione deve essere fatto in modo che l’IA non sia lesiva della dignità, della libertà, della riservatezza e della sicurezza degli esseri umani nella società e al lavoro; 3) deve essere assicurata agli esseri umani la libertà dalla coercizione e dalla subordinazione ai sistemi di IA. Gli esseri umani che vi interagiscono devono poter mantenere la propria autodeterminazione (principio di autonomia); 4) l’IA deve essere improntata all’equità, preservando le minoranze da pregiudizi e discriminazioni e garantendo pari opportunità (principio di equità); 5) è necessario assicurare trasparenza alla tecnologia e all’uso che ne viene fatto. La tecnologia deve essere comprensibile all'uomo che la utilizza e deve essere assoggettabile al suo controllo. Devono essere noti gli scopi e le intenzioni per cui i dispositivi dotati di IA vengono progettati e utilizzati (principio di Comprensibilità). 

Il Robot universale inventato dal drammaturgo ceco Karel Čapek (1920)

Fin dalla prima lettura di questi punti, al di là delle buone intenzioni di principio, appaiono evidenti tre motivi di perplessità. Il primo è l’evidente tentativo di inserire in queste linee guida aspetti giuridici tipici delle moderne normative sul lavoro o sulla privacy. Tali principi – altamente auspicabili nel diritto del lavoro – sembrano però collidere con alcuni aspetti specifici e desiderabili dell’IA: quelli che hanno a che fare con l'affrancamento dell’essere umano da alcuni dei suoi limiti (maggior lentezza computazionale e lentezza decisionale in particolari situazioni di emergenza). La perplessità sul principio di Comprensibilità sorge, per esempio, nei casi in cui alcuni sistemi intelligenti siano pianificati per fare male a specifiche persone per difenderne altre: sistemi di allarme e di difesa, sistemi di difesa “preventiva”, bombe intelligenti e altre amenità ove l’uso della IA è già piuttosto avanzato. Il secondo motivo di perplessità è dato dallo spostamento dell’intenzione etica dagli aspetti che sono tipici della riflessione etica europea (prevalentemente impostati sulla dignità dell’uomo), a favore dei principi normativi dell’etica nordamericana (che danno molta maggiore enfasi all’autonomia e alla libertà decisionale) [Vedi anche l’articolo Un’Etica per i Robot. La Lettura #369, 23 dicembre 2018] Questo evidente tentativo di sintesi tra due diverse correnti etiche finisce col far apparire la proposta come una sorta di ibrido, ove le opposte opzioni etiche si annacquano vicendevolmente invece di corroborarsi, come era forse nelle intenzioni. Il terzo motivo di perplessità è forse il più grave e complesso. Il documento degli “esperti” del Consiglio d’Europa fa riferimento esplicito e implicito alla società nel suo complesso, come se questa fosse costituita da un’unica architettura di componenti all’interno della quale il significato di concetti di beneficienza, non maleficenza, libertà, autonomia, equità, giustizia, riservatezza e autodeterminazione fossero ugualmente condivisi da tutte le componenti di tutte le società, individui o gruppi sociali che siano. Questo presupposto è fondamentalmente sbagliato. Ogni società è immersa in una sorta di atmosfera culturale che dà significato e valore particolare a ciascuno dei concetti astratti sopra menzionati e li traduce in comportamenti individuali o sociali che, rappresentando tavolozze di valori etici, morali e normativi differenti, possono essere assai diversi da società a società, da componente sociale a componente sociale, da individuo a individuo. Voler fornire un set di linee guida unico per ogni società pensando che questo possa adattarsi a tutte le società indipendentemente dai particolari codici etici che esse esprimono significa due cose: A) presumere l’esistenza di una società ideale che non esiste (o addirittura presumere che la nostra società sia il modello unico cui tutte le altre debbano conformarsi); B) condannare la linea guida ad essere disattese.
Al di là delle buone intenzioni, pertanto, il documento degli esperti del Consiglio d’Europa mi sembra presuntuoso nei presupposti, troppo ambizioso nel programma e destinato, nella pratica, al più totale fallimento.

Io robot, film (2004), tratto dalla omonima raccolta di racconti di Isaac Asimov (1950)

Il famoso scrittore di fantascienza Isaac Asimov ha lavorato a lungo sull’etica applicata all’Intelligenza Artificiale ed aveva sintetizzato il problema limitando il campo d’azione dell’etica dei Robot in funzione del pericolo che le scelte e i  comportamenti delle intelligenze artificiali avrebbero potuto essere fonte di danno per l’uomo. Limitandosi quindi al solo principio di Non Maleficenza e considerando implicito nell’uso dei robot il principio di Beneficienza, nel 1942 – nel racconto Girotondo – egli definiva le tre famose Leggi della Robotica, cui dovevano attenersi tutti i robot nell’espletamento delle loro funzioni e tutti i costruttori di robot fin dal momento della loro progettazione:
Prima Legge. Un robot non può recar danno a un essere umano e non può permettere che, a causa di un suo mancato intervento, un essere umano riceva danno. Seconda Legge. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge. Terza Legge. Un robot deve proteggere la propria esistenza, purché la sua autodifesa non contrasti con la Prima o con la Seconda Legge.
A quasi ottant’anni dalla formulazione di queste leggi, gli sforzi degli esperti del Consiglio d’Europa, pur nella loro buona volontà e tentando di realizzare un programma di indirizzo etico più strutturato di quello di Asimov, mi pare abbiano fatto più passi indietro che non veri progressi.