Inconscio tecnologico e intelligenza artificiale

Sarà il dolore a salvarci?

Inconscio tecnologico è un concetto proposto per primo da Franco Vaccari, che dopo le avanguardie storiche, nel 1979 fa dell’Arte Concettuale, ed in particolare della Fotografia, lo strumento pratico e teorico della propria ricerca. Prima di lui, nel 1935, con il saggio “L’opera d’arte nell’epoca della sua riproducibilità tecnica” Walter Benjamin già proponeva l’inconscio ottico:

La natura che parla alla macchina fotografica è una natura diversa da quella che parla all’occhio; diversa specialmente per questo, che al posto di uno spazio elaborato consapevolmente dall’uomo, c’è uno spazio elaborato inconsciamente. Se è del tutto usuale che un uomo si renda conto, per esempio, dell’andatura della gente, sia pure all’ingrosso, egli di certo non sa nulla del loro contegno nel frammento di secondo in cui si allunga il passo. La fotografia, coi suoi mezzi ausiliari: con il rallentatore, con gli ingrandimenti glielo mostra. Soltanto attraverso la fotografia egli scopre questo inconscio ottico, come, attraverso la psicanalisi, l’inconscio istintivo.

In sostanza, l’inconscio ottico è tutto ciò che sfugge inconsapevolmente all’occhio umano e che la macchina è in grado di registrare e di far riaffiorare nella nostra coscienza.

Ma oggi il termine di Inconscio Tecnologico è stato ripreso con particolare riferimento all’avanzare delle nuove tecnologie, e in generale, alla pervasività e penetrazione della tecnologia nella vita

degli individui, orchestrandone perfino le relazioni, l’amicizia e l’amore, tanto da configurare ormai un’intera epoca.

Ma se ora anche le macchine cominciano ad avere un inconscio, stanno davvero diventando così simili noi?

E’ proprio l’aspetto epocale del fenomeno che fa sostenere al filosofo Galimberti che questa è:

… una società, in ogni suo aspetto regolata dalla tecnica, che chiede all’uomo di essere perfettamente omologato all’apparato di appartenenza (sia esso amministrativo, burocratico, industriale, commerciale), per evitare di toccare con mano la propria inadeguatezza rispetto alla perfezione della macchina, e scoprirsi null’altro che un modo deficiente d’esser macchina, una scandalosa non-macchina, un clamoroso Nessuno”.

Le intelligenze artificiali (AI), che si stanno diffondendo in modo capillare nella nostra società, amplificano ulteriormente ed in modo esponenziale la distanza tra l’imperfezione dell’uomo e l’efficienza delle macchine. Le IA sono oggi sempre più richieste dalle grandi Società, Aziende e Multinazionali perchè sono in grado di prendere velocemente decisioni complesse elaborando una grande mole di dati. Comporre musica di altissimo livello, guidare automobili senza pilota, caccia al crimine, alta finanza, sono alcuni esempi di uso attuale di AI, mentre ancora non siamo in grado di prevedere quali potrebbero essere gli sviluppi futuri. Nel 1997, Deep Blue – creata dalla IBM – in un solo anno di apprendimento, analizzando qualche migliaio di scenari di partite, sconfigge Garry Kasparov, il campione mondiale di scacchi. Trascorrono altri 19 anni prima che l’IA si perfezioni a tal punto che – nel 2016 – confrontandosi con il complicatissimo e antichissimo gioco cinese GO, riesca a battere Lee Sedol. Il 9 marzo 2016, il campione del mondo non ce la fa, e si arrende all’IA di Google chiamata DeepMind AlphaGo, in una storica partita seguita in tutto il mondo e trasmessa in diretta su Youtube. “Non pensavo che AlphaGo potesse giocare in modo così perfetto“, ha dichiarato il campione coreano. E il suo segreto risiede proprio nella sua “umanità“. DeepMind infatti non gioca come una macchina: gioca proprio come un uomo! Solo che prima di sconfiggere Lee Sedol ha studiato milioni di partite umane, e poi ha giocato alcune (miliardi di miliardi di) partite del millenario gioco cinese, contro se stesso.

Inconscio tecnologico e salute umana

medical-563427_640Ma il problema non sono i giochi. Comprendere l’importanza dell’inconscio tecnologico riguarda argomenti molto più seri come la salute. Infatti queste super-intelligenze artificiali sono utilizzate anche in ambito medico. Watson è una AI creata su un sistema cognitivo di IBM – presentato in questi giorni a Milano – che ha già dimostrato di poter riconoscere dei tumori della pelle allo stadio iniziale con una precisione maggiore di quella dei medici umani. “Watson è un sistema cognitivo che vive nel nostro cloud e nei sistemi che lo ospitano“, spiega Nicola Palazzo, Watson leader di IBM. “Watson può scoprire malattie rare o nuovi medicinali“, prosegue Palazzo. “Oppure, cambiando settore, aiutare gli avvocati a trovare correlazioni tra le cause su cui stanno lavorando e quelle del passato. Oppure ancora, nella Moda&Fashion, può fare ricerche sui trend degli anni passati o capire quali tendenze stanno emergendo, in termini di tessuti, linee e colori“. Ma tornando alla salute umana, un’altra AI estremamente sofisticata è Deep Patient. Sviluppata da un’equipe dell’ospedale Mount Sinai di New York, gli è stato chiesto di analizzare le cartelle cliniche di 700.000 pazienti, con lo scopo di prevedere l’insorgere di determinate malattie. Incrociando moltissimi dati,  Deep Patient ha dimostrato di saper prevedere l’insorgenza del tumore al fegato ma anche di molte altre malattie, come la schizofrenia, di difficile previsione per i medici. Al Keystone Symposium on Molecular e Cellular Biology, rispondendo ad una domanda posta da un medico ricercatore, una AI ha detto che lei “già pensava all’importante rapporto tra immunità e cancro”. Questo straordinario e sorprendente risultato è giustamente considerato eccezionale, e promette di rivoluzionare la medicina dei prossimi anni. Le previsioni sono state ottenute analizzando una quantità tale di informazioni che non sarebbe assolutamente gestibile da una equipe di medici umani. Il problema è che, purtroppo, nessuno è in grado di capire come ragiona veramente Deep Patient. Di conseguenza, è estremamente difficile capire se possa sbagliare e con quale incidenza questo accada. In questo modo, è impossibile capire come e perchè l’intelligenza artificiale ha dato una determinata diagnosi o ha consigliato proprio quella terapia da seguire.

La black box: il primo abbozzo di inconscio tecnologico

banner-982162_640Come funzionano le intelligenze artificiali? Oggi sappiamo che i comuni software (… ad esempio il Word con il quale sto scrivendo …) vengono programmati dall’uomo e non fanno altro che compiere ciecamente i processi per cui sono stati predisposti. Diversamente, le intelligenze artificiali sono basate sul machine learning, cioè sulla possibilità di apprendere attraverso calcoli elaboratissimi, analizzando diversi scenari e basandosi sulle probabilità che ognuno si realizzi, il tutto analizzando a velocità impensabili i Big Data, una massa immensa di dati. In questo modo la macchina è in grado di superare la semplice programmazione umana e migliorarsi da sola, modificando il proprio modo di ragionare in base a diversi fattori e imparando a migliorare le proprie risposte ad ogni iterazione.

Tuttavia, come e perchè l’intelligenza artificiale prenda le sue decisioni (proprio quelle e non altre) – di fatto – è ancora un mistero, visto che i suoi ragionamenti comprendono una serie elevatissima di calcoli estremamente complessi. Un pò perchè sono americani, e un pò perchè forse gli scienziati cibernetici non hanno tempo di leggere Freud, questo meccanismo è stato chiamato Black box, ovvero scatola nera. Ed è uno degli ostacoli più difficili (guarda caso!) da superare prima di pensare ad un utilizzo massivo delle IA in moltissimi ambiti. Di fatto, un abbozzo di inconscio tecnologico che porta a dire agli scienziati che l’uomo non può ancora fidarsi di IA che prendono decisioni nette senza spiegarcene i motivi.

Chi invece Freud l’ha letto, non potrà evitare di percepire una sorta di brivido di deja vù. Siamo infatti agli inizi del 1900 quando Freud sconvolge un’intera epoca, sostenendo infatti che l’Io non è padrone a casa propria, perchè le vere radici delle scelte umane affondano nel buio dell’inconscio pulsionale.

Comunicare con l’inconscio tecnologico

portrait-2265590_1280Le reti neurali delle intelligenze artificiali sono quindi estremamente complesse, ma per renderle utilizzabili in un campo delicato come quello medico è essenziale riuscire a capire come pensano e da dove traggono le loro diagnosi. Per questo un’equipe di tecnici del MIT (Massachussetts Institute of Technology) sta portando avanti un progetto per poter comunicare con le IA in modo che queste ultime possano spiegare le proprie decisioni e il perchè siano giunte a determinati risultati. Si tratta di far sì non solo che la macchina prenda delle decisioni, ma che sia anche in grado di giustificarle, quando le si chiede conto del proprio operato.

La psicoanalisi delle macchine

Difficile farle stendere sul lettino, rassicurando sul segreto professionale e incoraggiando un flusso di libere associazioni. Ma questo può avvenire, ad esempio, chiedendo alla IA le voci considerate rilevanti nelle cartelle cliniche per una determinata diagnosi. Deep Patient però non potrà illustrare tutto (e proprio tutto) il proprio ragionamento. Troppo complesso per essere umanamente e manualmente analizzato dai tecnici: dovrà quindi estrarne una sintesi, con il rischio che informazioni essenziali vadano perdute. Un pò come quando il paziente in seduta, racconta un sogno o un evento particolarmente carico di emozioni: ne proporrà una sintesi sufficiente a comprendere parti del suo mondo interiore. E’ quindi essenziale riuscire ad analizzare il modo di pensare dell’IA e capire come prende le proprie decisioni, prima che le diagnosi effettuate da sistemi come Deep Patient siano accettate dai medici senza possibilità di contestarle.

Fenomenologia dei sensi

Robotic-armMa se ora anche i computer vanno dallo psicoanalista, allora l’invasione delle macchine è davvero definitiva? Uomo e macchina sono davvero così simili? L’ultima frontiera potrebbe sembrare quella del sentire. “Non sono veloce con i calcoli, non sono perfetto come una macchina, ma io posso sentire“. Attenzione, perchè non è del tutto vero: almeno, non per molto. In un’epoca di miglioramenti chirurgici estetici (seni, labbra, zigomi, ecc.), il futuro delle protesi ad alta tecnologia ci sta dimostrando che le macchine oggi sono (e sempre più potranno essere) l’interfaccia con la realtà. Ovvero, mediare tra noi e il mondo, scegliere quali segnali inviare e quali escludere (come già preconizzava Benjamin con l’uso della macchina fotografica). Già da molti anni le orecchie (le prime protesi elettro-acustiche sono del 1880), ma più recentemente anche occhi, polpastrelli, lingue e nasi artificiali stanno diventando sempre più sofisticati e precisi. Gli strumenti ottici militari, ispirati alle aquile, superano i 50/decimi di vista, e in base ai loro sofisticati e precisissimi algoritmi, decidono cosa far vedere e cosa non far vedere. Anche la fenomenologia della realtà quindi ci verrà proposta da una macchina? Sarà la macchina a decidere quanto rosso intenso sarà il tramonto?

Le macchine non ci possono sostituire: il dolore ci salverà

baby-443390_640

Secondo me le cose non stanno esattamente così. Al di là delle solite previsioni apocalittiche che precedono e accompagnano i grandi cambiamenti, ci sono ancora moltissime e profonde differenze. Le AI sono velocissime e talmente precise da sbagliare pochissimo e quindi – in molti ambiti – forse sono più affidabili dell’uomo. Ma le differenze sono ancora molte e importanti.

1) Le AI sono molto brave a trovare le somiglianze, le ripetizioni, le regolarità tra una mole immensa di dati. Ma non sono nè in grado di comprendere le irregolarità, le imperfezioni, nè di comprendere il senso più complessivo di quelle irregolarità all’interno delle regolarità. Parlano in modo logico e coerente e danno l’impressione di capire il linguaggio, ma non comprendono veramente ciò che dicono. Anche qui, si limitano a trovare velocemente le regolarità, ma non sanno inventare una nuova parola.

> P.L. Travers: No, no, no, no… No, no, no! Immobivilente! Non è una parola!
> Richard Sherman: L’abbiamo inventata!
> P.L. Travers: Beh… Disinventatela!
– Dal film “Saving Mr. Banks”, di J.L. Hankok, 2013.

2) Le AI non hanno un corpo: sono un cervello senza corpo. E questa è una differenza enorme. L’intelligenza umana si è sviluppata dentro e in una correlazione/comunicazione continua con il corpo: riflette il corpo, è una espressione del corpo. L’intelligenza è letteralmente una funzione del corpo, ed è – prima di ogni altra cosa – al suo principale servizio.

3) Le AI non sono sociali. Non conoscono il valore delle interazione e l’importanza che queste hanno nello sviluppo e nell’orientare l’intelligenza e le scelte degli individui. Nell’interazione sociale, gli umani scambiano le loro idee: le quali fecondando un nuovo universo complesso, moltiplica la forza di quelle idee, assumendo nuove forme e nuove potenzialità. A maggior ragione le AI non potranno mai sapere cos’è l’amicizia, nè la coralità, quella speciale bellezza che si crea quando molte persone decidono di trasformarsi profondamente per realizzare un progetto comune e condiviso. Il massimo che possono fare è unire la potenza di calcolo dei loro cervelli elettrici, ma questa non è nè amicizia, nè coralità.

4) Le AI non hanno motivazioni. Se è per questo, non hanno neppure bisogni (se non di elettricità). Ma l’intelligenza umana è una funzione diretta della motivazione, della spinta alla ricerca del miglioramento.

5) Banale dirlo, ma è chiaro che le AI non hanno emozioni. L’etimo latino emovère (ex = fuori + movere = muovere) letteralmente portare fuori, smuovere, sancisce che le emozioni, le motivazioni e l’intelligenza umana non sono (e non possono essere) separate, come invece lo sono in una AI.

6) E infine, le AI soprattutto non hanno competenze spirituali. Non hanno un Sè personale e quindi non hanno un progetto. Tutta la loro forza non ha nessuno orientamento, nessuna finalità e nessuno scopo, se non quello che gli viene indicato dall’uomo. La loro esistenza non è fine a se stessa, ma a quella dell’uomo. Non hanno pazienza, non possono donarsi, avere compassione o mettersi da parte per aiutare. Forse sanno trovare un colpevole, ma non sanno perdonare. Forse sanno fare la scelta legalmente giusta, ma non potranno mai agire con saggezza. La loro pur potente intelligenza non sa nulla della speranza, che insieme ad emozioni, motivazioni e amore, sono i veri motori della Vita. Tutte caratteristiche spirituali che fanno dell’uomo quello che veramente e profondamente è. Non provano dolore e non possono morire, quindi non sanno cos’è la spinta al cambiamento, non sanno trasformarsi: come il Dio di Aristotele, che è ma non diviene. L’intelligenza umana è invece – in fin dei conti – soprattutto al servizio della capacità di trascendersi.

In conclusione, le macchine possono rimpiazzare l’intelligenza. Ma ciò che sempre più ci distinguerà dalle AI, non sarà il sentire, ma le competenze spirituali che sapremo darci. Per qualcuno potrà sembrare poco, ma non lo è.

 

 

CONDIVIDI
Articolo precedenteIdeale di perfezione
Articolo successivoScelgo di esprimere – Sono un essere unico e speciale
mm
Direttore dell'Istituto Solaris - Sophia University of Rome. Allievo del Prof. Antonio Mercurio. Psicologo, Psicoterapeuta, Antropologo cosmoartista, Counselor Trainer della FAIP Counseling. Ha scritto otto libri, centinaia di articoli per molte riviste, tenuto numerose conferenze e partecipato a molti congressi nazionali e internazionali.

4 COMMENTI

  1. Semplicemente straordinario il percorso con cui il Direttore , partendo dalla realta’ piu’ vicina a noi, ci accompagna con le sue parole sulla strada della consapevolezza di essere esseri unici non catalogabili e imprevedibilmente meravigliosi rispetto a scelte e decisioni emotivamente e spiritualmente non prevedibili rispetto a nessuna macchina.
    Federica

    • Grazie Federica. Dimenticare infatti che la nostra (pur grande) intelligenza proviene e discende dalla saggezza del nostro corpo potrebbe essere rischioso. Meglio stare con i piedi per terra e la testa sulle spalle.

  2. Molto interessante e rassicurante. Mi ha fatto venire in mente il film “Genio ribelle” e precisamente il discorso del terapeuta (Robin Williams) al suo geniale paziente

LASCIA UN COMMENTO

Please enter your comment!
Please enter your name here