Coscienza; implicazioni epistemologiche e metafisiche

[Koba]

@PhyroSphera
Sì è vero l'autore del video usa il termine "comprensione" in senso improprio.
Diciamo meglio allora che queste IA sanno operare con il linguaggio, sono in grado di districarsi con esso e produrre, in reazione alle sollecitazioni dell'utente, dei significati complessi.
È corretto interpretare tutto ciò - in modo chiaramente riduttivo - come "simulazione"?
È questa la domanda, secondo me.
E questo è interessante non tanto in rapporto alla coscienza e ai qualia, quanto al tema di produzioni "alternative" del pensiero.

[iano]

Però secondo me il punto non è tanto l'ambigua pretesa umana che la comprensione implichi l'esperienza soggettiva del processo cognitivo in questione (pretesa basata, come intende chiarire l'autore del video, su una confusione di piani), quanto la riflessione sulla produzione di significato.
La via per produrre significati è senz'altro diversa dalla nostra, ma questo in effetti, se ci pensiamo, non significa che non possa essere altrettanto dinamica, quindi non appiattita sulla riproduzione di item, quasi fosse un collage (come in effetti si mostra all'utente, che non percepisce affatto staticità, rigidità, ma presenza "viva", decisamente brillante).
Il superamento del test di Turing (nella sua versione severa, quindi, diciamo, una prova di un paio di ore di conversazione) cosa ci direbbe?

E dunque vengo alle mie soggettive conclusioni a seguito del superamento del test, per il quale non credevo di poter vivere tanto da esserne testimone.
Partendo dal presupposto che io non sono una macchina, non userò più l'intelligenza per marcare la mia differenza con essa.
Inoltre esprimo il sospetto che non ci sia nulla che io possa dire per marcare la differenza  , che una macchina col progredire della tecnica non possa smentire, a meno di non far riferimento al marchese del Grillo, per cui noi siamo noi e le macchine non sono nessuno.
Va bene pure così, ma a patto che questo atteggiamento alla ''marchese del grillo'', non ci induca a rinunciare all'arricchimento che può derivare dal confrontarsi con le macchine, anche se questo comportasse una migliore definizione di se per esclusione, potendo derivare dal confronto solo ciò che non siamo.
Se poi più salomonicamente riusciamo a vederci come un ibrido macchina- uomanità, potremmo considerare la coscienza come quel processo che esterna la nostra parte meccanica, dando una chance in più al nostro essere uomini, considerando i pro e i contro di questa esternazione.

[Koba]

Io il test lo do per superato, anche se la macchina è troppo compiacente per essere umana.
Il motivo è che la macchina non credo sia stata architettata per superare il test, ma per raccogliere dati, e non potrebbe raccoglierli se contrariandoci noi interrompessimo perciò le comunicazioni, come umanamente infatti tendiamo a fare.
Si profila quindi all'orizzonte un nuovo test per noi umani.
La sfida è quella di riuscire a comportarsi in modo indistinguibile da quello dell'intelligenza artificiale, cioè un pco ''più umano''.

Le IA come chatGPT non raccolgono dati. Nel senso che tengono conto delle informazioni contenute nella domanda dell'utente solo per costruire meglio la risposta. Ma non memorizzano dati per costruire profili ecc. come avviene invece nella maggior parte dei siti internet.
Per quanto riguarda la loro cortesia direi che è il caso di sfatare un luogo comune: non ti assecondano. Semplicemente ad una tua affermazione (scientifica o filosofica, per esempio) partono dalla parte che può essere giudicata "corretta" per poi puntualizzare meglio la parte "critica", mentre noi siamo abituati, per esempio qui sul forum, ad andare direttamente a ciò che riteniamo essere l'errore.
È chiaro che la discussione tra umani contiene sempre l'elemento della disputa. Le IA tendono invece a interazioni costruttive.

[PhyroSphera]

@PhyroSphera
Sì è vero l'autore del video usa il termine "comprensione" in senso improprio.
Diciamo meglio allora che queste IA sanno operare con il linguaggio, sono in grado di districarsi con esso e produrre, in reazione alle sollecitazioni dell'utente, dei significati complessi.
È corretto interpretare tutto ciò - in modo chiaramente riduttivo - come "simulazione"?
È questa la domanda, secondo me.
E questo è interessante non tanto in rapporto alla coscienza e ai qualia, quanto al tema di produzioni "alternative" del pensiero.

Non è una replica accettabile. Nel video ci sono proprio sbagli, non le improprietà neanche al livello che tu dici.
Il "diciamo" non lo rivolgere a me. Le IA non sono operatori linguistici ma proprio simulatori. E' un fatto tecnico, tutti i fatti sono variamente interpretabili ma non tutte le interpretazioni sono vere; e tu viaggi verso una completa falsa interpretazione. Perciò non c'è da star dietro alla tua domanda e al resto.

MAURO PASTORE

[Lou]

Segnalo l'esperimento mentale della Stanza Cinese di Searle. Per completezza, dati gli ultimi sviluppi, se non  è ancora stato citato.

[Koba]

@Pastore Mauro
In pratica non vuoi impegnarti nel dare una tua interpretazione della differenza che ho cercato di isolare: quella tra la dimensione tecnica statistico-computazionale attinente il suo "motore" e quella dei risultati, della produzione di significati.
Non importa, ce ne faremo una ragione.

[Koba]

Segnalo l'esperimento mentale della Stanza Cinese di Searle. Per completezza, dati gli ultimi sviluppi, se non  è ancora stato citato.

Sicuramente non c'è coscienza, ma forse non siamo nemmeno alla sola e semplice manipolazione simbolica... cioè, forse un po' sopra alla stanza cinese... Qualcosa a metà strada?

[PhyroSphera]

@Pastore Mauro
In pratica non vuoi impegnarti nel dare una tua interpretazione della differenza che ho cercato di isolare: quella tra la dimensione tecnica statistico-computazionale attinente il suo "motore" e quella dei risultati, della produzione di significati.
Non importa, ce ne faremo una ragione.

Non avevi detto esattamente questo; comunque io ho detto di differenza informato/informatica, di inesistenza di macchine informate. Su questo dato di ordine tecnico e scientifico non c'è niente che il filosofo possa arbitrariamente discettare.

MAURO PASTORE

[Il_Dubbio]

io non sono cosi sicuro che la comprensione, in linea generale, sia un qualia.

Ammesso che qualcuno di voi mi faccia qualche esempio e qualche controesempio.

Uno scheletro visto cosi com'è è uno scheletro. Potrei quindi comprendere che è uno scheletro (niente qualia). Per dargli un significato potremmo associarlo con la paura nel vedere uno scheletro. Quello è un qualia.


Andando di questo passo potremmo generalizzare e distinguere, per ogni cosa, le comprensioni come qualia ed asettiche senza qualia.

In genere credo che le AI siano comprensioni senza qualia, per questo un AI non direbbe mai che gli fa paura vedere uno scheletro.

 

[Lou]

Sicuramente non c'è coscienza, ma forse non siamo nemmeno alla sola e semplice manipolazione simbolica... cioè, forse un po' sopra alla stanza cinese... Qualcosa a metà strada?

Sicuramente, erano gli anni 80 e l'esperimento era volto a contestare l'idea di una intelligenza artificiale detta "forte", ampiamente dibattuta, ancora oggi.
C'è da dire che negli ultimi decenni una evoluzione (passami il termine) delle AI c'è stato, tuttavia una certa attualità ritengo che la Stanza Cinese l'abbia.
 In merito alle questioni sull'AI, avevo già chiarito il mio punto di vista nel topic dedicato, perció non mi ripeto e non appesantisco questo topic già ampiamente articolato.

[Lou]

io non sono cosi sicuro che la comprensione, in linea generale, sia un qualia.

Ammesso che qualcuno di voi mi faccia qualche esempio e qualche controesempio.

Uno scheletro visto cosi com'è è uno scheletro. Potrei quindi comprendere che è uno scheletro (niente qualia). Per dargli un significato potremmo associarlo con la paura nel vedere uno scheletro. Quello è un qualia.


Andando di questo passo potremmo generalizzare e distinguere, per ogni cosa, le comprensioni come qualia ed asettiche senza qualia.

In genere credo che le AI siano comprensioni senza qualia, per questo un AI non direbbe mai che gli fa paura vedere uno scheletro.

Dal mio pdv, non esiste e non puó esistere una piena comprensione completamente priva di tonalità fenomenica.

Anzi, per essere precisa: la dimensione fenomenica non è un'aggiunta alla comprensione, ma una sua condizione costitutiva.

[Koba]

Sicuramente, erano gli anni 80 e l'esperimento era volto a contestare l'idea di una intelligenza artificiale detta "forte", ampiamente dibattuta, ancora oggi.
C'è da dire che negli ultimi decenni una evoluzione (passami il termine) delle AI c'è stato, tuttavia una certa attualità ritengo che la Stanza Cinese l'abbia.

In effetti basta osservare che per poter distinguere le sfumature semantiche di un brano letterario, al punto da suggerire espressioni alternative anche più sofisticate e adeguate al contesto del racconto, è necessaria una competenza che va ben al di là del vocabolario e della grammatica, come l'abitante della stanza cinese, una competenza vera e propria nell'uso della lingua.
Poi, anch'io rimango prudente, ma non è così assurdo chiedersi se la comprensione di una lingua stia nell'uso piuttosto che in qualcosa di esterno ad essa...