Le frontiere etiche dell’innovazione

Sheila Jasanoff, professoressa di “Science and technology studies” alla Harvard Kennedy School di Boston si è molto interrogata sul rapporto tra tecnologia e democrazia.

Le sue riflessioni sono ricche di stimoli, non solo per chi si occupa di comunicazione e politica, ma anche per tutti gli imprenditori, responsabili, liberi professionisti che desiderano comprendere meglio alcuni problemi quotidiani delle imprese: la creazione di fiducia, la progettazione, la relazione, i limiti dell’intelligenza artificiale e il ruolo dell’imperfezione, la creazione di nuovi mondi. 

Riporto qui una sintesi dell’intervista realizzata dal National Geographic durante il Festival delle Scienze di Roma, dove Sheila Jasanoff ha tenuto una conferenza dal titolo “Le frontiere etiche dell’innovazione”: una critica importante e profonda ad alcuni paradigmi che diamo per scontati e che per questo non vediamo.

Ogni risposta è profonda e densa di implicazioni: alcune ho provato ad esplicitarle con alcuni miei commenti in calce alle sue risposte.

1) Oggi negli studi sociali, ma anche nei documenti europei, si parla per esempio di “cittadinanza scientifica”, “ricerca e innovazione responsabile”, termini che implicano il proposito di coinvolgere i cittadini in modo attivo nei processi scientifici.

Internet è una grande opportunità, ma se pensiamo alla diffusione delle fake news – giusto per fare un esempio – sembra che il nostro senso critico stia diminuendo, siamo sopraffatti da una quantità di informazione che non riusciamo a gestire, che ci rende più deboli e manipolabili.

Crede davvero che i cittadini diventeranno sempre più riflessivi e “knowledge-able” [ndr termine coniato dalla stessa Jasanoff e che si può tradurre letteralmente come “in grado di conoscere”]?

Beh non penso che basti avere fiducia che questo accada; richiederà lavoro.

Non sono sicura che il senso critico stia diminuendo; anzi, forse sta aumentando a tal punto da diventare un problema, nel senso che le persone sono diventate sempre più critiche rispetto a qualsiasi opinione che non coincida con la propria; basti pensare a quelli che non accettano le vaccinazioni, o il cambiamento climatico, o il cibo geneticamente modificato.

Il punto non è che queste persone non capiscono la scienza; anche quelli che sono a favore non la capiscono. È più una questione di fiducia, di perdita di fiducia nella persona che ti sta raccontando la storia dall’altra parte.

Pensiamo a un bambino, che chiede continuamente “perché?”; alla fine il genitore non ce la fa più e dice “Perché lo dico io”. Ecco, gli scienziati spesso hanno questa stessa reazione.

Invece c’è qualcosa su cui dovremmo interrogarci.

Secondo me il problema è come ristabilire la fiducia nelle istituzioni, che in America è un problema all’ordine del giorno. Nelle società democratiche occidentali abbiamo perso fiducia nella democrazia, per cui non siamo in grado di sostenere le istituzioni, che siano partiti politici, tribunali o media.

[MIO COMMENTO. La comunicazione scientifica può essere convincente solo se recupera l’aspetto relazionale della fiducia, qualcosa che non ha nulla a che fare con la dimostrazione, con il dato, con la pura oggettività. Questa considerazione trasferita al mondo delle imprese significa che non basta avere ottime idee/qualità/prodotti/servizi. Non basta neanche aver ragione. Bisogna sapersi far ascoltare.

Non servirà a niente avere il servizio/prodotto migliore, se non avrò previsto come rassicurare i confusi e convincere gli scettici.

Jasanoff ci dice che il problema principale su cui dovremmo interrogarci non sono le fake news, ma la mancanza di fiducia. Senza la fiducia la politica, le istituzioni, la scienza – e quindi anche le imprese e il mercato – sono impotenti].


2) Che ruolo possono avere, appunto, i media in questo contesto, nel rendere i cittadini più “knowledge-able”? Che critiche muoverebbe alla stampa nel modo di rappresentare le cose?

Dal mio punto di vista i media, specialmente quelli che si occupano di informazione scientifica, sono ancora troppo ossequiosi nei confronti degli scienziati e troppo dediti a glorificare il progresso scientifico.

Penso che, nel riportare le notizie, dovrebbero essere più consapevoli che non è in gioco solo l’ignoranza del pubblico, ma i fondamenti stessi dell’attendibilità, dei fattori sociali che sostengono la scienza; e non dovrebbero dare visibilità solo a ciò che fa notizia o ad argomenti di tendenza.

C’è da aggiungere che, con l’avvento delle tecnologie dell’informazione, tutti siamo diventati diffusori e creatori di notizie, ognuno può postare su Youtube o diventare un influencer su Instagram.

Quindi penso che la crisi dei media sia oggi davvero profonda. E di nuovo è una questione di quale tipo di democrazia e quali modi per esprimerci dovremmo avere.

[MIO COMMENTO. Un corollario di quanto scritto è che i media non sono affatto un semplice “specchio della realtà” ma contribuiscono a creare la realtà che ci circonda.

Il discorso è ampio e merita un approfondimento specifico, qui mi limito a citare una bella metafora di Umberto Eco dal Trattato di semiotica generale:

“Lo studio del linguaggio “non assomiglia alla navigazione dove la scia del battello sparisce non appena la nave è passata, ma alle esplorazioni via terra, dove la traccia dei veicoli e dei passi e dei sentieri tracciati per attraversare una foresta, entrano a modificare il paesaggio e ne fanno da quel momento parte integrante come variazioni ecologiche”.

In conclusione la pubblicazione di una notizia e di una informazione non è mai una scelta neutra: poiché la gente comunica, spiegare cosa, come e perché comunica oggi, significa fatalmente determinare il modo in cui e le ragioni per cui comunicherà domani].


3) A livello politico, in Italia raramente le decisioni sono informate da evidenze scientifiche. Ora un gruppo di scienziati e giornalisti scientifici sta promuovendo una petizione per istituire una ufficio di consulenza e documentazione scientifica permanente in Parlamento, mentre un’iniziativa interessante a Roma per avvicinare i cittadini alla scienza, l’Osservatorio Scienza per la Società, si è bruscamente conclusa con la sostituzione del sindaco. In base alla sua esperienza, anche pensando ad altri paesi, quali incentivi potremmo considerare per introdurre più scienza nella politica?

In realtà sono un po’ scettica rispetto all’idea di dover introdurre più scienza nella politica. A volte penso che il problema più profondo sia che non abbiamo abbastanza politica.

Se ci sono decisioni politiche che racchiudono una dimensione tecnica, è importante che siano prese in modo responsabile. Non penso però che una singola commissione scientifica sia la risposta; lo sarebbe di più una commissione scientifica che abbia la responsabilità di mettere insieme gruppi che si concentrino su un tema preciso e discutano di cose specifiche.

In America c’è la National Academy of Sciences, ma da molti decenni abbiamo il National Research Council, che non è composto da membri della Academy, cui viene assegnato il compito di redigere determinati rapporti scientifici e che di volta in volta mette insieme gli esperti necessari al caso specifico.

Penso sia efficace, e molti altri paesi hanno qualcosa di simile e le loro esperienze andrebbero studiate (di certo non ha senso “reinventare la ruota”), considerando però i diversi contesti.

 Il principio più importante, però, è che non dobbiamo delegare la responsabilità politica agli esperti; i tecnici devono essere solo dei consulenti affidabili.

[MIO COMMENTO. Mi pare interessante e controcorrente questa sottolineatura sul primato della politica che non può essere sostituita da pareri tecnici.

Il perché fare una cosa, l’obiettivo di fondo è una domanda che non può essere risolta dalla tecnica.

Banalmente la tecnica ci può aiutare a fare più cose, ma non ci dice cosa fare; ci può aiutare andare più veloci, ma non ci dice dove andare.]


4) Tra le tecnologie emergenti, c’è qualcosa che la preoccupa particolarmente tra i possibili scenari distopici?

Quello che più mi preoccupa è la scomparsa del senso di ciò che significa “essere umano”.

Perché siamo in un’era in cui rincorriamo talmente la velocità, l’efficienza, le tecnologie pulite – e questo vale per la robotica e l’intelligenza artificiale quanto per la biologia e le biotecnologie – che rischiamo di perdere di vista i motivi per cui un certo tipo di “imperfezione” rimane comunque importante.

Pensiamo al fatto che usiamo il termine “intelligenza artificiale” così spesso che è diventato semplicemente “AI”, ma non ci fermiamo a riflettere cosa questa espressione implichi.

Parliamo sempre di efficienza, di come la macchina faccia “perfettamente” la stessa valutazione tutte le volte. Ma la flessibilità è importante, per poter considerare le diverse circostanze; non ci serve solo coerenza a tutti i costi.

Ed è per questo che gli psicologi, quando si riferiscono alla parola “intelligenza”, usano diversi aggettivi: “intelligenza sociale”, “intelligenza emotiva”, persino “intelligenza psicologica”.

E invece, quando parliamo di “intelligenza artificiale”, di colpo agiamo come se fosse un’unica cosa, e se comprendessimo cos’è.

Quindi, per molte di queste frontiere, il mio timore è che attribuiamo troppa importanza ad alcune capacità piuttosto che ad altre.

[MIO COMMENTO. L’accenno che Jasanoff fa sull’imperfezione è fondamentale e ci mostra come – nonostante tutto quello che si legge, l’intelligenza artificiale e i computer saranno sempre (o almeno per molto tempo) radicalmente diversi da noi e quindi potranno sostituirci solo in alcuni compiti.

Per quanto un computer possa apprendere, il suo apprendimento è sempre predefinito da un algorirtmo.

Un computer non può sbagliare, l’uomo sì. E qui sta la grande differenza tra l’intelligenza artificiale e quella di homo sapiens e quindi il valore dell’imperfezione, dell’inaudito, dell’inaspettato].


5) Una domanda per i lettori di National Geographic. Visto che ha riflettuto sul “potere politico” degli oggetti tecnologici, qual è stato secondo lei quello della macchina fotografica quando è stata introdotta nella società? Quali norme sociali “incorpora”?

La macchina fotografica ha avuto implicazioni enormi e di diverso tipo. Ma penso che il cambiamento fondamentale sia aver dato alle persone un’immagine istantanea della realtà, a livello visivo.

Oggi possiamo fare scatti, diffonderli, creare una “moneta di scambio” visiva comune che prima non avevamo, e che generalmente altera il senso della realtà. Ha avuto un impatto in tutti gli ambiti.

Per esempio, per il cambiamento climatico ha inciso in modo profondo, perché le immagini della Terra scattate dalle persone vittime di disastri naturali si sono rivelate molto importanti rispetto al modo in cui pensiamo al nostro futuro, a tal punto che nel 1987 è stata istituita dall’ONU la Commissione Internazionale per l’Ambiente e lo Sviluppo.

Poter visualizzare fenomeni ambientali su scala planetaria può significare avere la responsabilità di governarli su scala planetaria.

Chiaramente la fotografia ha avuto un enorme impatto anche a livello artistico. Alcuni sostengono che James Joyce non avrebbe inventato la letteratura moderna se non avesse pensato “in modo fotografico” – e persino in un modo cinematografico – le scene che racconta e mette in relazione.

Quindi è penetrata nella nostra coscienza condizionando i modi in cui ci guardiamo l’un l’altro.

Oggi l’arrivo della cosiddetta “cultura del selfie”, grazie ai dispositivi portatili, penso che rinforzi la tendenza dei nostri tempi alla frammentazione, all’individualismo, a guardare all’interno piuttosto che fuori; ma non è colpa delle tecnologie, è colpa nostra, dei modi in cui le usiamo.

Serve molto tempo perché un ciclo sia completo: per inventare, sviluppare, adottare e diffondere una tecnologia, talvolta con usi patologici o eccessivi.

Ma, a parte questo, lei mi sta ponendo anche un’altra questione fondamentale riguardo alla scienza e alla tecnologia: la scienza e la tecnologia “ri-rappresentano” il mondo, piuttosto che rispecchiarlo” nel senso che sono potenti quanto le arti, e si compenetrano con le arti, perché un modo scientifico di guardare qualcosa finisce per influire su come tutti noi “romanziamo” il mondo.

Non ci serve la fantascienza, tutta invenzione; c’è una dimensione di fantascienza comunque.

La fotografia è una di quelle cose rivoluzionarie che non consideriamo rivoluzionarie perché non c’è stato un momento preciso in cui ha cambiato le cose, i cambiamenti sono avvenuti in modo profondo nel corso di un intero secolo.

Ma siamo entusiasti della tecnica di editing genetico CRISPR e non lo siamo riguardo alla fotografia, mentre potremmo porci le stesse domande su entrambe.

[MIO COMMENTO. La frase “la scienza e la tecnologia “ri-rappresentano” il mondo, piuttosto che rispecchiarlo” merita di essere imparata a memoria e ancora una volta contraddice la vecchia teoria del giornalismo come specchio della realtà.

Non c’è nessuno specchio, la comunicazione contribuisce a costruire al realtà, non è una mera descrizione. Ma quello che vale nel mondo della comunicazione riguarda a maggior ragione per il mondo delle imprese.

Quello che dice Sheila Jasanoff per la scienza e la tecnologia( e le arti) vale anche l’imprenditore, colui che progetta e costruisce nuovi mondi (ri-rappresenta il mondo).

L’imprenditore non si limita a rispondere alle richieste del mercato (non rispecchia il mondo), ma  si prende la responsabilità di evidenziare ciò che è importante (per lui) da ciò che non lo è; costruisce prodotti e servizi nuovi che non solo cambiano il mondo, ma “finisce per influire su come tutti noi romanziamo il mondo”].

P.S.
Per chi desiderasse approfondire il pensiero di Sheila Jasanoff, molti suoi lavori sono solo in inglese, mentre tra i titoli dei suoi libri pubblicati in italiano segnalo “L’innovazione tra utopia e storia”, “Fabbriche della natura. Biotecnologie e democrazia”, “La scienza davanti ai giudici. La regolazione giuridica della scienza in America”.


 

NEWSLETTER: Qui puoi iscriverti alla mia newsletter (a cadenza mensile per ricevere tutti gli aggiornamenti del blog).

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

Questo sito utilizza Akismet per ridurre lo spam. Scopri come vengono elaborati i dati derivati dai commenti.