Falsi positivi, IA e incidenti. Riflessione sui limiti dell’intelligenza artificiale

PREMESSA. A marzo del 2018 una macchina a guida autonoma di UBER provocò la morte di un passante. Un articolo di Paolo Benanti ci aiuta a fare luce su quanto è accaduto, mostrando come l’incidente non sia avvenuto per un errore di progettazione, ma per qualcosa di molto più profondo che riguarda una questione chiave di tutto il settore e, più in generale, riguarda i limiti intrinseci di ogni progetto di Intelligenza Artificiale.

Ecco in sintesi quanto scrive Paolo Benanti nell’articolo: “Falsi positivi e guida autonoma: vista, visione o percezione?”

UN PO’ DI STORIA. In medicina i falsi positivi sono errori costosi, spaventosi e persino dolorosi. Normalmente in qualunque ambito in cui si presenti una decisione predittiva binaria (vero o falso), un falso positivo indica che è stato erroneamente segnalato come vero (positivo al test) qualcosa che in realtà non lo è. Un esempio in informatica è un antivirus che considera erroneamente dannoso un programma innocuo, generando un falso allarme.

Continua a leggere “Falsi positivi, IA e incidenti. Riflessione sui limiti dell’intelligenza artificiale”

Steve Jobs. L’intervista perduta

L’intervista perduta è un’intervista realizzata nel 1995 a Steve Jobs.  

Nel 1995 Jobs, dirigeva la Next da lui fondata dopo aver lasciato la Apple; da lì ad un anno e mezzo l’avrebbe venduta proprio alla Apple, tornando poi come amministratore delegato.

Per come le cose vanno in tv, fu usata solo una parte dell’intervista e si pensava che il master fosse andato perduto durante il trasporto da Londra agli Usa negli anni ’90. Il master fu poi ritrovato anni dopo dal direttore della serie televisiva in un suo garage.

Ci sono pochissime interviste televisive di Steve Jobs e raramente riescono a cogliere il carisma, il candore e la lungimiranza di quest’uomo.

Invito tutti a prendersi del tempo e ad ascoltare l’intera intervista che è davvero ricca spunti.

L’intervista è consultatabile su DVD edito da Feltrinelli, oppure su youtube:  https://www.youtube.com/watch?v=u7V22gat4CU.

l'intervista perduta

 

In questo post ho ripreso alcuni passaggi per me importanti e ho aggiunto qualche mia riflessione personale.

Continua a leggere “Steve Jobs. L’intervista perduta”

Le frontiere etiche dell’innovazione

Sheila Jasanoff, professoressa di “Science and technology studies” alla Harvard Kennedy School di Boston si è molto interrogata sul rapporto tra tecnologia e democrazia.

Le sue riflessioni sono ricche di stimoli, non solo per chi si occupa di comunicazione e politica, ma anche per tutti gli imprenditori, responsabili, liberi professionisti che desiderano comprendere meglio alcuni problemi quotidiani delle imprese: la creazione di fiducia, la progettazione, la relazione, i limiti dell’intelligenza artificiale e il ruolo dell’imperfezione, la creazione di nuovi mondi. 

Riporto qui una sintesi dell’intervista realizzata dal National Geographic durante il Festival delle Scienze di Roma, dove Sheila Jasanoff ha tenuto una conferenza dal titolo “Le frontiere etiche dell’innovazione”: una critica importante e profonda ad alcuni paradigmi che diamo per scontati e che per questo non vediamo.

Ogni risposta è profonda e densa di implicazioni: alcune ho provato ad esplicitarle con alcuni miei commenti in calce alle sue risposte.

Continua a leggere “Le frontiere etiche dell’innovazione”

Facciamo innovazione? Intervista a Enrico Pezzi, ingegnere e consulente

Enrico Pezzi, è un ingegnere meccanico che da quasi trent’anni lavora allo sviluppo di nuovi progetti meccanici e meccatronici: in particolare ha gestito (e continua a gestire) progetti per il settore aerospaziale, per la Formula 1, per componenti di auto, moto, biciclette e veicoli in genere.

Dalla sua esperienza emerge come l’innovazione di cui tanto si parla, non sia sempre al centro delle preoccupazioni di tante nostre imprese.

Anzi, troppo spesso nelle aziende si respira un’aria stanca, un po’ da sconfitti, dove ognuno preferisce rimanere fermo per non rischiare quello che ha.

Un’analisi lucida, spietata, ma estremamente concreta della crisi contemporanea.

In tanti settori – sottolinea Pezzi – abbiamo un mercato saturo, con clienti che non hanno più tanti soldi e che hanno già tutto e per questi due motivi sono disposti a comprare solo qualcosa di nuovo e che porta effettivi vantaggi. E abbiamo diverse aziende che presentano prodotti non nuovi, che non portano vantaggi e che si lamentano che non vendono.

Per fortuna ci sono le eccezioni e qualche speranza in più nasce da nuove imprese, anche se spesso ancora piccole.

Continua a leggere “Facciamo innovazione? Intervista a Enrico Pezzi, ingegnere e consulente”

Filosofi e Data Analyst

Recentemente, durante una trasmissione radiofonica di una importante emittente nazionale, si parlava di come la tecnologia sta trasformando il mondo del lavoro.

Tanti lavori spariranno, ma al contempo ce ne saranno di nuovi: molti non siamo neanche in grado di immaginarli, altri invece stanno già emergendo. Per esempio possiamo facilmente ipotizzare che in futuro saranno sempre più ricercati coloro che si occuperanno di analizzare e confrontare i dati: in poche parole i Data Analyst.

Non è importante citare la trasmissione (si dice il peccato, ma non il peccatore). E qual è il peccato in questo caso?

Il peccato (o il problema) è il commento di chi conduceva la trasmissione che invitava i giovani verso lo studio delle materie tecnico-scientifiche: quelle che hanno più futuro.

Mi ha davvero colpito un commento così banale e pericoloso di un/a giornalista importante e seguito/a su una radio che in teoria dovrebbe fare informazione.

Perchè?

I dati vanno interrogati, bisogna pensare, riflettere, avere spirito critico, pensare fuori dagli schemi, porre domande nuove: per fare questo un aiuto può venire anche da artisti, filosofi, letterati, che aiutino a pensare l’impensabile a mettere in discussione l’esistente.

Parlo di commento “pericoloso” perché rischia di accentuare uno dei problemi maggiori dell’odierna istruzione che è l’eccessivo specialismo e la contrapposizione dei saperi.

Si parla tanto di cambiamento, ma spesso restiamo molto alla superficie del problema.

Il ripensamento necessario deve essere profondo e radicale, invece troppo spesso si tentano piccoli aggiustamenti senza mettere davvero in discussione la cornice di riferimento: le “norme” di un certo approccio organizzativo ed economico si danno per scontate, sono talmente incorporate da risultare “naturali”.

In altre parole si parla tanto di cambiamento, ma sempre di tipo 1, e raramente di tipo 2.

Il cambiamento di tipo 1 fa riferimento alle premesse del sistema. Tale tipo di cambiamento una volta messo in atto lascia il sistema invariato.

Poi vi è un cambiamento di tipo 2 che non fa riferimento alle premesse del sistema e quindi dall’interno del sistema può apparire paradossale, illuminante o assurdo. Tale cambiamento cambia il sistema stesso, ma è molto di più difficile.

Di fronte ad un problema, cioè, cerchiamo la soluzione senza mettere in discussione la cornice, come se non si potesse fare in modo diverso.

Come nel gioco dei 9 punti da collegare con 4 linee che anche Marianella Sclavi cita nel suo libro “Arte di ascoltare e mondi possibili”.

Quel gioco è difficile perché in modo “naturale” noi vediamo un “quadrato” e tendiamo a provare a risolvere il gioco stando dentro ai limiti del quadrato. In realtà il gioco si risolve uscendo fuori dai limiti del quadrato.

In questo modo:

Qual’ è il problema? Che il quadrato non è nella realtà. E’ nella nostra testa. Troppo spesso diamo per scontato che certe cose non si possono fare, o pensiamo che non si possano fare diversamente, fino a che qualcuno ci mostra che invece è possibile.

La formazione serve a questo. A vedere i quadrati che abbiamo in testa e che non sappiamo di avere.

Torniamo quindi ai lavori del futuro: i Data Analyst vanno benissimo, ma se il problema principale è quello di far emergere i dati, è necessaria una competenza che diventa sempre più importante: quella di saper porre le domande.

O. Wilde in un suo famoso aforisma scriveva “chiunque può dare risposte ma ci vuole un genio per fare le domande“; una battuta che al giorno d’oggi assume una rilevanza del tutto nuova.

Come tutte le competenze anche quella di fare domande va allenata.

Di fronte ai nuovi problemi posti da Internet, Big Data e Industria 4.0 è sempre più importante una formazione che ci alleni ad affrontare questioni irriducibili andando oltre alla classica separazione tra materie tecnico-scientifiche e umanistiche.

Vuol dire che la capacità di fare domande viene allenata solo dai percorsi di studi classici o umanistici? No! Guai a ricadere in una altro falso mito e in unaltra sterile contrapposizione.

Oggi più che mai è importante a cominciare a costruire un ponte fra linguaggi, molto diversi e lontani.

I linguaggi dell’uomo e i linguaggi della scienza e della tecnica hanno cominciato a separsi nell’800: ora hanno bisogno di incontrarsi di nuovo, per costruire un linguaggio interdisciplinare difficile, ma quanto mai necessario.

La scienza e la tecnica hanno sempre più bisogno di punti di vista diversi e nello stesso tempo le nuove scoperte scientifiche integrano in modo nuovo i saperi filosofici, storici, letterari.

Perché? Perchè è solo l’ALTRO che ci aiuta a vedere il nostro punto di vista e i suoi limiti (e i quadrati che abbiamo in testa!).

Ecco perchè le professioni tecnico scientifiche hanno sempre più bisogno di competenze “altre” che stimolino nuove domande, mettano in discussione l’esistente e aiutano a fare ipotesi, a pensare l’inedito.

Non perchè uno tipo di studio sia meglio di un altro, ma perchè è fondamentale superare lo specialismo. E’ forse un caso che Maria Montessori non fosse laureata in Lettere ma in Medicina? E’ forse pensabile l’informatica senza i contibuti di Russell, Frege, Boole, Godel, che sono in tutti i manuali di storia della filosofia?

E così mi pare assai limitativo pensare ad un data analyst con conoscenze solo tecnico-scientifiche.


NEWSLETTER: Qui puoi iscriverti alla mia newsletter (a cadenza mensile per ricevere tutti gli aggiornamenti del blog).

Il limite e la fatica. Riflessioni sull’IA

Fra i tanti temi che riguardano il futuro del digitale, i big data e le nuove frontiere dell’Intelligenza Artificiale (IA) comincia ad essere sempre più pressante il desiderio di costruzione di senso.

Fino a qualche anno fa, quando si parlava di questi temi, il punto centrale era convincere cittadini, politici, aziende e pubblica amministrazione che l’innovazione digitale era il futuro e avrebbe portato grandi benefici.

Ora questo è diventato palese. Non c’è più nessuno da convincere.

Il passo successivo è decidere cosa fare e perché, in altre parole diventa sempre più urgente affrontare in modo adeguato il problema del senso.

Continua a leggere “Il limite e la fatica. Riflessioni sull’IA”

La quarta rivoluzione: quale progetto per l’era digitale?

Devo ringraziare Massimo Ferrario per avermi fatto scoprire questo video e riprendo le sue parole per descrivere un intervento – a mio avviso – davvero magistrale.

Il tempo da dedicare è tanto, ma è tutto intellettualmente da ‘godere’: regalatevi questa ora e mezza di audio-video e non ve ne pentirete. 

Farete girare il cervello, con qualche conseguente emozione, sugli stimoli, originali e di alta qualità, di Floridi e vi verrà solo voglia di approfondirli e rimeditarli. E questo, oltre che per i contenuti, anche per lo stile, limpido, chiaro e coinvolgente.

Forse, unico limite sta nel fuoco di fila dei pensieri, non consueti, che vi ‘cadranno addosso’: i quali, nonostante il tono e la modalità equilibrata dell’esposizione, si susseguono, affascinanti, come piccole bombe pirotecniche nel cielo (dal blog Mixtura).

Floridi

Luciano Floridi (professore di filosofia ed etica dell’informazione all’Università di Oxford), youtube, 6 giugno 2017 (video 95min22)

Continua a leggere “La quarta rivoluzione: quale progetto per l’era digitale?”

L’inadeguatezza del nostro sapere di fronte alle nuove sfide tecnologiche

Riporto in quest’articolo una sintesi dell’intervento di Stefano Tomelleri, professore associato all’Università di Bergamo, ad un seminario tenutosi a Trento nel 2006.

Sono passati oltre 10 anni, ma i problemi che tocca sono sempre più attuali; Tomelleri, infatti, racconta gli esiti sorprendenti di una ricerca sui problemi che la tecnologia pone ai medici nelle situazioni di fine vita.

Gli spunti di riflessione sono innumerevoli, non solo per chi direttamente si occupa di medicina, ma per tutti coloro che vogliono capire le sfide che le nuove tecnologie ci pongono: sfide che possono essere affrontate e gestite solo con nuovi linguaggi e nuovi modi di pensare che integrino i vari saperi; perché un problema tecnologico non può essere risolto esclusivamente con una nuova tecnologia.

Continua a leggere “L’inadeguatezza del nostro sapere di fronte alle nuove sfide tecnologiche”