Chiediamolo all'Intelligenza Artificiale

[fabriba]

Condivido quanto scrivi, e tu ben lo sai, per cui più che come una critica, lo percepisco come  un modo per svicolare dalla questione che ho posto, e che adesso provo a precisare meglio, che è quella di un processo da riferire più all'umanità che all'individuo, dei quali solo quest'ultimo può dirsi libero.

Se vogliamo fare un confronto mirato con l'IA dobbiamo farlo a parità di condizioni, per cui se non possiamo ridurre la macchina alla libertà dell'individuo, possiamo ridurla però alla mancanza di libertà dell'umanità, perchè ad essa è più difficile attribuire libertà decisionale.
Il risultato di un insieme di diversi liberi processi decisionali possiamo infatti dirlo libero?
Se non possiamo dirlo tale, possiamo allora paragonarlo a quello altrettanto non libero dell'IA.
Questo volevo far notare, che le libere decisioni individuali somigliano molto ai pesi casuali usati dall'intelligenza artificiale, secondo la spiegazione che Koba ci ha dato, per quel che ci ho capito.

Mi spingo oltre:
quali decisioni libere?! 

Questa l'ho già citata, ma mentre stavano facendo training alle automobili con autopilota è emersa una questione tipo problema-del-carrello:

• una automobile si trova in una condizione per cui non può salvare entrambi i pedoni sulla strada, può solo salvarne uno: o il vecchio o il bimbo.

La nostra "libera" scelta di salvare il bimbo è la scelta ovvia e libera di chiunque sia nato nell'ultimo secolo in una parte molto precisa del mondo dove la natalità è bassa e l'aspettativa di vita alta. 
Non c'è nulla di naturale ne libero in quella scelta, infatti nei paesi dove ci sono bimbi in surplus e si muore giovani, la tendenza è a investire il bambino per lasciare vivere il raro e preziosissimo anziano.
Questo ridimensiona molto la mia personale illusione di avere un libero arbitrio sulla questione, e mi riporta alla triste consapevolezza che la mia scelta libera è al 99% il prodotto del mio ambiente.

Morale? sta cosa non lo so com'è finita, ma è una storia che ormai va per i 5-10 anni, e le macchine che si guidano da sole non hanno fatto i passi da gigante che pensavamo avrebbero fatto, forse anche perché è risultato difficile fare capire i nostri valori a una Alien-Intelligence dopo esserci accorti che non li capiamo bene neanche noi.

[iano]

• una automobile si trova in una condizione per cui non può salvare entrambi i pedoni sulla strada, può solo salvarne uno: o il vecchio o il bimbo.

La nostra "libera" scelta di salvare il bimbo è la scelta ovvia e libera di chiunque sia nato nell'ultimo secolo in una parte molto precisa del mondo dove la natalità è bassa e l'aspettativa di vita alta. 
Non c'è nulla di naturale ne libero in quella scelta, infatti nei paesi dove ci sono bimbi in surplus e si muore giovani, la tendenza è a investire il bambino per lasciare vivere il raro e preziosissimo anziano.
Questo ridimensiona molto la mia personale illusione di avere un libero arbitrio sulla questione, e mi riporta alla triste consapevolezza che la mia scelta libera è al 99% il prodotto del mio ambiente.

E' un dilemma a cui è difficile dare una soluzione, ma leggendo la tua, me ne è venuta in mente un altra.
Il vecchio potrebbe essere il nonno del bimbo, e per esso sarebbe minor dolore la propria morte.

[iano]

Morale? sta cosa non lo so com'è finita, ma è una storia che ormai va per i 5-10 anni, e le macchine che si guidano da sole non hanno fatto i passi da gigante che pensavamo avrebbero fatto, forse anche perché è risultato difficile fare capire i nostri valori a una Alien-Intelligence dopo esserci accorti che non li capiamo bene neanche noi.

Il punto è proprio questo.
Chi dice che la macchina non è intelligente, evidentemente crede di sapere cosa sia l'intelligenza, però, oltre a ribadire che lui è intelligente e la macchina invece no, in effetti  non sa dirci altro.
Una macchina non cosciente, il confronto con la quale   ci obbliga  a prendere coscienza.

[fabriba]

Il punto è proprio questo.
Chi dice che la macchina non è intelligente, evidentemente crede di sapere cosa sia l'intelligenza, però, oltre a ribadire che lui è intelligente e la macchina invece no, in effetti  non sa dirci altro.
Una macchina non cosciente, il confronto con la quale  ci obbliga  a prendere coscienza.

(enfasi mie)
Un punto alternativo che cercavo di fare era quello di:
Una macchina che distrugge il significato tradizionale di "coscienza", il confronto con la quale ci obbliga a riconsiderare seriamente la definizione stessa del termine (coscienza)
--- e non più -per citare @Lou fuori contesto- come una pippa mentale da filosofi che ci preclude il godimento della vita , ma come una necessità per comprendere davvero il mondo di oggi e ancor più quello di domani.

ovvero: chiederci se AI (un oggetto di ingegneria) sia cosciente o meno, ci costringe a definire la coscienza in modo ingegneristico (scientifico, deterministico, ripetibile), e i risultati di questo sforzo collettivo che siamo facendo* sono sotto gli occhi di tutti -risibili.

(* nel mondo, non in questo forum e basta... e comunque "stiamo": mi ci metto anche io tra i cooperanti)

[Lou]

...
-- in definitiva la questione che ponevo (in buona parte provocatoria) era: fino a che punto è ragionevole il brain-shaming che si fa nei confronti della AI e del suo produrre significato in assenza di comprensione del significante? (ovvero: di essere in grado di produrre senso senza comprendere)

Faccio un esempio: tra provare dolore e parlare del dolore c'è differenza, uno scarto.
L'AI può fornire risposte coerenti, valide o persino persuasive sul dolore. Ed è intelligente perché può anche stimare parametri di quanto dolore stai provando se ti bruci un dito, se programmata per quello. È un'intelligenza prettamente funzionale.

Ma qui sta la differenza fondamentale: non c'è esperienza vissuta, non c'è coscienza di questo famigerato dolore.
L'AI genera strutture coerenti che noi interpretiamo come senso, ma non le vive. Non che sia stupidissima artificiale, ma è una intelligenza che funziona con i suoi limiti. Nell'uomo, invece, il dolore è esperito ed è ció che costituisce significato: il senso emerge dall'atto stesso di viverlo. Alla AI questo manca.

Non ha, caspita, il "nodo di carne" del dolore, mi viene da dire, che pur se non dici, provi.

[Phil]

Probabilmente si tratta di una scelta procedurale un po' drastica, se non proprio strategica (e ogni strategia è sempre "sintomatica"), ma più che stiracchiare un termine "classico" per fargli inglobare le novità che sembrano pertinenti e che tuttavia ne rendono ancora più amplia e problematica la definizione, si potrebbe anche lasciare il vecchio termine ai vecchi problemi di definizione. Detto più chiaramente: se definiamo "coscienza" come "capacità/attività/altro di un essere vivente di..." oppure "ciò che rende un essere vivente in grado di...", abbiamo risolto a priori il problema di includere o meno l'IA nella problematica della coscienza, essendo l'IA non un essere vivente (nuovo prerequisito ad hoc per entrare nella problematizzazione della coscienza). Lo stesso dicasi per la comprensione o la produzione di significato.
Ciò può sembrare un vile e goffo sotterfugio per non affrontare il problema, ma in realtà le "soluzioni neologistiche" di questo tipo consentono, a mio avviso, di affrontare questioni nuove con termini nuovi, senza ibridare quelli vecchi con il rischio di intorbidare ancora di più le acque per motivi di "eredità semantica". Ad esempio, facendo della coscienza "una questione da viventi", abbiamo carta bianca (e meno condizionamenti semantici o storici o culturali) per definire "__________"(parola a scelta) la "capacità/attività/altro di un'IA di...". Detto in altre parole, così facendo evitiamo gli "effetti collaterali semantici" di essere come sempre i soliti "antropocentrici" che leggono tutto come metafora o allegoria della dimensione umana, a volte scordandosi che solo di metafora e allegoria si tratta; che in fondo è il motivo per cui l'IA è stata chiamata in quel modo. Si tratterebbe di non rapportare il nuovo al già noto, ma di accettare la novità anche a livello linguistico; che è poi anche livello concettuale, che è poi quello che condiziona (non "determina") l'analisi e la comprensione di un fenomeno.
Questo invito al neologismo non è ovviamente finalizzato a sminuire le palesi affinità di funzionamento fra l'AI e la mente umana (anche la mente viene addestrata, ha la sua potenza di calcolo, ha le sue allucinazioni, i suoi algoritmi, i suoi bias, etc.), ma a evitare che tali affinità prendano il sopravvento e creino falsi problemi (ad esempio quello di giustificare come mai un IA abbia punteggi altissimi nei test di QI, ma poi risponda ad alcune domande in modo indegno per un ragazzino delle medie; può sembrare strano solo se confondiamo, appunto, la nostra intelligenza con la sua; se smettessimo di chiamare quest'ultima "intelligenza", non ci sarebbe alcuna "stranezza" o "incoerenza", ma solo una caratteristica dell'IA).
C'è indubbia affinità funzionale fra una telecamera e un occhio, ma una telecamera bagnata non sta piangendo, è bagnata e basta (oppure al massimo è un sistema di autopulizia, non di esternazione di "moti interiori dell'animo").

[iano]

Non ha, caspita, il "nodo di carne" del dolore, mi viene da dire, che pur se non dici, provi.

Io ho fede nella differenza sostanziale fra vivente e macchina, ma non credo che questa differenza la si possa esprimere a parole, e non è caspitado, ne scalpitando, che puoi dimostrare il contrario.
Questo dolore ha una funzione a cui non si può assimilare chi lo prova, così come tu non sei assimilabile al tuo nome. Con tecniche di meditazione puoi lenire il dolore allo stesso modo che puoi decidere di tacere, e questo va bene se le funzioni che queste cose svolgono puoi attuarle in modo alternativo, inventandoti qualcosa di diverso, ma che sia non meno efficace.
Il dolore è un termine del linguaggio delle sensazioni, che anche un sordo può sentire, e un ceco può vedere, ed è un linguaggio che come tutti i linguaggi ammette traduzione, se è vero che una parola può fare non meno male di una spada, come è vero che tu anche questa ''sensazione'' hai potuto provare, come puoi ben dire.
A parole viventi e macchine stanno sullo stesso piano, che è il piano di ciò che si può dire e/o provare.
Al linguaggio, come succede per tutte le tecnologie, come ad esempio l'AI, tendiamo ad attribuire funzioni che vanno oltre quelle proprie, fino a farne idoli.
Il fatto che a me dispiace è che facendo un uso improprio dei linguaggi ne deprimiamo le potenzialità, le quali vanno ben oltre la nostra immaginazione, tanto è vero che le nuove tecnologie che attraverso i nostri linguaggi progettiamo riescono sempre a sorprenderci (vedi AI).
il ,linguaggio è uno strumento, e come tutti gli strumenti, ''ha il limite'' di funzionare per ciò per cui è stato costruito.
Il problema è che di questa costruzione noi non abbiamo coscienza, e manca il libretto di istruzioni, per cui ne scopriremo le funzioni solo usandolo per tentativi.
Difficile prenderne coscienza, perchè la coscienza riguarda l'individuo, ma non è stato un individuo a costruirlo, ma una umanità la quale una coscienza non ce l'ha.

[Lou]

Condivido quanto scrivi, e tu ben lo sai, per cui più che come una critica, lo percepisco come  un modo per svicolare dalla questione che ho posto, e che adesso provo a precisare meglio, che è quella di un processo da riferire più all'umanità che all'individuo, dei quali solo quest'ultimo può dirsi libero.

Se vogliamo fare un confronto mirato con l'IA dobbiamo farlo a parità di condizioni, per cui se non possiamo ridurre la macchina alla libertà dell'individuo, possiamo ridurla però alla mancanza di libertà dell'umanità, perchè ad essa è più difficile attribuire libertà decisionale.
Il risultato di un insieme di diversi liberi processi decisionali possiamo infatti dirlo libero?
Se non possiamo dirlo tale, possiamo allora paragonarlo a quello altrettanto non libero dell'IA.
Questo volevo far notare, che le libere decisioni individuali somigliano molto ai pesi casuali usati dall'intelligenza artificiale, secondo la spiegazione che Koba ci ha dato, per quel che ci ho capito.

Vedi, Iano, per me la genesi che porta a risultati che possono anche somigliarsi è ciò che ne sancisce il valore e ne costituisce il senso. Le decisioni umane nascono da esperienza, motivazione e significato e sebbene l'insieme e l'aggregato di molteplici decisioni non è libero in quanto non ha un fulcro proprio intenzionale è tuttavia portatore di creatività, cultura e senso, perché ogni contributo individuale mantiene la sua origine nel vissuto e nella responsabilità. Se non si focalizza questo aspetto, a mio parere, si abdica alla comprensione profonda del valore umano e si corre il rischio una crisi di senso, situazione in cui i significati si svuotano o vengono ridotti a meccanismi puramente funzionali.

È per questo che l'analogia tra decisioni umane e i pesi iniziali dell'intelligenza artificiale è molto debole: possono produrre risultati che esteriormente sembrano simili a quelli umani, ma manca completamente la genesi che conferisce valore e senso, essendo priva di radicamento nell'esperienza concreta quindi, per me, la somiglianza posta resta astratta.

[Lou]

Io ho fede nella differenza sostanziale fra vivente e macchina, ma non credo che questa differenza la si possa esprimere a parole, e non è caspitado, ne scalpitando, che puoi dimostrare il contrario.
Questo dolore ha una funzione a cui non si può assimilare chi lo prova, così come tu non sei assimilabile al tuo nome. Con tecniche di meditazione puoi lenire il dolore allo stesso modo che puoi decidere di tacere, e questo va bene se le funzioni che queste cose svolgono puoi attuarle in modo alternativo, inventandoti qualcosa di diverso, ma che sia non meno efficace.
Il dolore è un termine del linguaggio delle sensazioni, che anche un sordo può sentire, e un ceco può vedere, ed è un linguaggio che come tutti i linguaggi ammette traduzione, se è vero che una parola può fare non meno male di una spada, come è vero che tu anche questa ''sensazione'' hai potuto provare, come puoi ben dire.
A parole viventi e macchine stanno sullo stesso piano, che è il piano di ciò che si può dire e/o provare.
Al linguaggio, come succede per tutte le tecnologie, come ad esempio l'AI, tendiamo ad attribuire funzioni che vanno oltre quelle proprie, fino a farne idoli.
Il fatto che a me dispiace è che facendo un uso improprio dei linguaggi ne deprimiamo le potenzialità.

A parole viventi e macchine possono apparire sullo stesso piano.

Comunque io ho espresso il mio pensiero, tante posizioni sono legittime e non occorre raggiungere un accordo a tutti costi, la questione io la interpreto come ho cercato di spiegare, grazie a tutti per gli innumerevoli spunti.