Chiediamolo all'Intelligenza Artificiale

[Lou]

Prima cosa: gli stessi esperti ritengono che il nome "intelligenza artificiale" non abbia molto senso.
Infatti i sistemi che chiamiamo così – per esempio ChatGPT – non hanno nulla di intelligente.
Non perché si tratti di macchine. Ma perché non funzionano come "oracoli super tecnologici". Se chiedo per esempio quale sia lo scopo della vita degli uomini non riceverò una risposta come risultato di un gigantesco ragionamento su miliardi di dati, una risposta che quindi riesca a esprimere una verità che alla mente umana limitata – sia nella capacità di guardare un insieme vastissimo di fenomeni che in quella dell'autentico distacco da essi – sia sempre sfuggita.
Allora che cosa fa la IA? Costruisce una simulazione.
È importante però capire subito che questo fatto - simulazione e non ragionamento – non inficia in alcun modo l'effetto. Perché? Perché l'essere umano ha una straordinaria capacità di dimenticare intenzionalmente che ciò di cui sta facendo esperienza è solo una finzione, una messa in scena.
Per quanto qualcosa sia con evidenza finto, la sua manifestazione ha comunque effetti potenti sia dal punto di vista emotivo che cognitivo.
In questo sta la genialità dei sistemi che noi chiamiamo IA.
Il funzionamento tecnico di essi si basa sul calcolo statistico di un peso numerico a configurazioni di parole. In un addestramento su miliardi di testi la IA individua questi schemi. A ciascuno di essi assegna un numero. Da qui la sua capacità di simulare il linguaggio naturale e di dare risposte concettualmente inerenti alle domande. Una specie di assemblaggio di elementi linguistici su base statistica.

Esatto, aggiungo che l'innovazione e la svolta rispetto ai precedenti modelli linguistici, il cuore operativo (o cervello o anima come preferite), che utilizza il modello chatgpt non è limitato a fornire risultati a basi e calcoli statistici, non è un assemblaggio, bensì è strutturato su una rete neurale (Transformer nel suo caso, molto affascinante)) che modella il contesto  e le relazioni ed è in grado di individuare  le sintassi e le semantiche. È attraverso questa sofisticata architettura ( abbastanza recente ) di modellizzazione che puó mostrare risultati validi.

[PhyroSphera]

Esatto, aggiungo che l'innovazione e la svolta rispetto ai precedenti modelli linguistici, il cuore operativo (o cervello o anima come preferite), che utilizza il modello chatgpt non è limitato a fornire risultati a basi e calcoli statistici, non è un assemblaggio, bensì è strutturato su una rete neurale (Transformer nel suo caso, molto affascinante)) che modella il contesto  e le relazioni ed è in grado di individuare  le sintassi e le semantiche. È attraverso questa sofisticata architettura ( abbastanza recente ) di modellizzazione che puó mostrare risultati validi.

La neurologia non è il vero referente della cibernetica, lo è la psicologia cognitiva. Le AI non hanno alcuna rete neurale ma sono solo somiglianti. Il fatto è che la vera intelligenza artificiale funziona secondo la nostra mente perché è stata costruita da menti umane per umani. Le AI, che non hanno funzionamento garantito e non sono vere intelligenze artificiali, non si avvalgono di alcuna base scientifica neppure neurologica, nel resto ripetono altri funzionamenti. Quando fanno da motori di ricerca non sono neppure AI, ma non sono garantite neppure come motori di ricerca e reperimento dati. Le AI imitano senza successo i funzionamenti dialettici della nostra mente, quindi la filosofia non può non essere interessata allo smascheramento del trucco.

MAURO PASTORE

[InVerno]

Dal punto di vista dello studio, dell'apprendimento, la IA è una rivoluzione.

In più di un senso... avere una riduzione misurabile delle abilità cognitive di chi la usa frequentemente nei pochissimi anni in cui si è diffusa è un risultato sorprendente paragonabile forse all'avvelenamento da piombo, se la traiettoria dovesse rimanere questa i danni umani saranno incalcolabili. L'IA dovrebbe essere vietata ai minori di 18anni e usata con moderazione dagli adulti.

[Lou]

La neurologia non è il vero referente della cibernetica, lo è la psicologia cognitiva. Le AI non hanno alcuna rete neurale ma sono solo somiglianti. Il fatto è che la vera intelligenza artificiale funziona secondo la nostra mente perché è stata costruita da menti umane per umani. Le AI, che non hanno funzionamento garantito e non sono vere intelligenze artificiali, non si avvalgono di alcuna base scientifica neppure neurologica, nel resto ripetono altri funzionamenti. Quando fanno da motori di ricerca non sono neppure AI, ma non sono garantite neppure come motori di ricerca e reperimento dati. Le AI imitano senza successo i funzionamenti dialettici della nostra mente, quindi la filosofia non può non essere interessata allo smascheramento del trucco.

MAURO PASTORE

Io non ho parlato di neurologia. Ho parlato di rete neurale in un contesto tecnico, tecnologico ed informatico, interfacciandomi e integrando il bel post di Koba. Si chiama così, nel gergo contestuale e  accademico inerente quel settore di scienze ( non la Scienza Suprema neh!), ma visto che hai citato la neurologia, in parte c'entra. La somiglianza operativa con le reti neurali "naturali", vere e proprie , si ispira, in origine, alla forma del neurone e al suo modo di creare connessioni con gli altri amici neuroni, guarda un po' la creatività umana come puó essere dinamica e generativa, se non troppo fossilizzata e inflessibile.
E poi, sorridi ogni tanto!

[PhyroSphera]

Prima cosa: gli stessi esperti ritengono che il nome "intelligenza artificiale" non abbia molto senso.
Infatti i sistemi che chiamiamo così – per esempio ChatGPT – non hanno nulla di intelligente.
Non perché si tratti di macchine. Ma perché non funzionano come "oracoli super tecnologici". Se chiedo per esempio quale sia lo scopo della vita degli uomini non riceverò una risposta come risultato di un gigantesco ragionamento su miliardi di dati, una risposta che quindi riesca a esprimere una verità che alla mente umana limitata – sia nella capacità di guardare un insieme vastissimo di fenomeni che in quella dell'autentico distacco da essi – sia sempre sfuggita.
Allora che cosa fa la IA? Costruisce una simulazione.
È importante però capire subito che questo fatto - simulazione e non ragionamento – non inficia in alcun modo l'effetto. Perché? Perché l'essere umano ha una straordinaria capacità di dimenticare intenzionalmente che ciò di cui sta facendo esperienza è solo una finzione, una messa in scena.
Per quanto qualcosa sia con evidenza finto, la sua manifestazione ha comunque effetti potenti sia dal punto di vista emotivo che cognitivo.
In questo sta la genialità dei sistemi che noi chiamiamo IA.
Il funzionamento tecnico di essi si basa sul calcolo statistico di un peso numerico a configurazioni di parole. In un addestramento su miliardi di testi la IA individua questi schemi. A ciascuno di essi assegna un numero. Da qui la sua capacità di simulare il linguaggio naturale e di dare risposte concettualmente inerenti alle domande. Una specie di assemblaggio di elementi linguistici su base statistica.
Più la domanda viene formulata in modo specifico e con termini precisi e maggiore è la probabilità che la risposta venga "costruita" ricorrendo a materiale accademico, ad articoli di riviste specializzate, a manuali universitari e via dicendo.
Più la domanda è generica è più la risposta apparirà come una lista di possibili interpretazioni.
Detto questo, voglio fare un paio di osservazioni.
Dal punto di vista dello studio, dell'apprendimento, la IA è una rivoluzione.
Questa cosa non va neanche dimostrata. Chiunque abbia un po' di tempo libero può fare un esperimento con una disciplina di cui conosce poco o niente e in una sessione di domande e risposte di due o tre ore si accorgerà di aver imparato una quantità di nozioni che con i metodi tradizionali avrebbe acquisito in un tempo di gran lunga maggiore.
Ma non è solo la velocità del processo di apprendimento. La rivoluzione riguarda anche l'efficacia: la possibilità di sviscerare tutte le proprie perplessità su una specifica questione, proprio come se si avesse a disposizione al costo di pochi euro al mese un ottimo insegnante – ottimo sia nella preparazione che nella pazienza.
Rivoluzione nell'apprendimento (ma non nell'originalità o nella profondità del pensiero: su questo non ci devono essere dubbi). Come assistente per capire la dimostrazione di un teorema di matematica – anziché comprare tre o quattro manuali diversi nella speranza di trovare finalmente una spiegazione comprensibile (come ho fatto io tanti anni fa con Algebra lineare I...), o per capire per esempio alcuni concetti fondamentali della filosofia.
Fate un esperimento serio. Anziché utilizzarlo come motore di ricerca o come intrattenimento per soddisfare semplici curiosità, mettetelo alla prova (e mettete alla prova voi stessi) con qualcosa che volete imparare (per esempio: ma che cosa diavolo era concretamente la scolastica medievale? Quale era la sua concezione della conoscenza? Quale il suo rapporto con l'aristotelismo? E poi, in sostanza, una volta per tutte, qual'è la differenza tra platonismo e aristotelismo? Ed è un caso che la scienza moderna con Galileo emerga dopo la ripresa rinascimentale del platonismo? Ecc...). Sbizzarritevi!

Hai iniziato bene e sei finito male perché non ti sei precisato i termini della questione.
"Rivoluzione nell'apprendimento?" Apprendere non è riempirsi la testa di dati che non sono neppure vere informazioni, dato che le AI  possono sbagliare non solo per via di dati errati inseriti in esse.
Il dato nella cibernetica è neutrale, ma per imparare qualcosa vale la domanda: vero o falso? Non basta l'alternativa on/off. La matematica binaria non è in questione, tantomeno la sua origine cinese, non si discute il conteggio fatto coi cerchietti vuoti e pieni; ma lo stesso apprendimento del calcolo binario, alla base della cibernetica e fondamentale per l'informatica, si basa a sua volta sull'alternativa: vero o falso? Le AI sono per gli studenti una tomba, perché riempiono la mente di risposte quasi sempre soltanto plausibili e non vanno oltre. Con esse ci si dimentica di capire, si diventa tronfi e disastrosi, secondo una distrazione da ubriachi molesti.

Non solo quando si fa filosofia, quando si valuta qualcosa bisogna partire da buone premesse di pensiero. A "Koba" e agli altri nel suo stesso abbaglio va domandato: cosa volete quando pensate? perché vi occupate di una questione senza certificarvi del suo oggetto?


MAURO PASTORE

[Aspirante Filosofo58]

In più di un senso... avere una riduzione misurabile delle abilità cognitive di chi la usa frequentemente nei pochissimi anni in cui si è diffusa è un risultato sorprendente paragonabile forse all'avvelenamento da piombo, se la traiettoria dovesse rimanere questa i danni umani saranno incalcolabili. L'IA dovrebbe essere vietata ai minori di 18anni e usata con moderazione dagli adulti.

Mi fai qualche esempio di questa riduzione delle abilità cognitive? Grazie. Io non la uso per scrivere temi o altro inerente un qualsivoglia percorso scolastico. Quindi, come in tutte le cose, occorre usare questo strumento e non, viceversa, farsi usare. 😏

[Claudia K]

avere una riduzione misurabile delle abilità cognitive di chi la usa frequentemente nei pochissimi anni in cui si è diffusa è un risultato sorprendente paragonabile forse all'avvelenamento da piombo, se la traiettoria dovesse rimanere questa i danni umani saranno incalcolabili. L'IA dovrebbe essere vietata ai minori di 18anni e usata con moderazione dagli adulti.

Questo effetto è stato oggetto di studi e sembra acclarato, ma lo è in funzione diretta dell'uso che se ne fa. 
Come dire: l'effetto indesideratissimo si produce in chi la usasse come "oracolo" o "sapientino" e intendesse aver esaurito la propria ricerca con le risultanze AI; mentre non  si produce affatto in chi la utilizza come una tra le varie basi della propria ricerca.

Avrei anch'io, comunque, il forte timore che il pericolo possa attuarsi in modo massivo tra i giovani studenti.

[InVerno]

Mi fai qualche esempio di questa riduzione delle abilità cognitive? Grazie. Io non la uso per scrivere temi o altro inerente un qualsivoglia percorso scolastico. Quindi, come in tutte le cose, occorre usare questo strumento e non, viceversa, farsi usare. 😏

In che senso un esempio? Ti posso fornire degli studi... Ho paura che non sia un problema di modi di utilizzo ma di tempi di esposizione, come stare seduto atrofizza la muscolatura non è il modo in cui stai seduto il problema ma per quanto tempo, anche se alcuni modi possono probabilmente aggiungere effetti negativi, è semplicemente la quantità di operazioni che esternalizzi anziché svolgerle da solo.. Certo tu puoi prendere i risultati di una ricerca e ragionarci da solo, ma questo tempo è in competizione con quello che usi l'IA.

[Aspirante Filosofo58]

In che senso un esempio? Ti posso fornire degli studi... Ho paura che non sia un problema di modi di utilizzo ma di tempi di esposizione, come stare seduto atrofizza la muscolatura non è il modo in cui stai seduto il problema ma per quanto tempo, anche se alcuni modi possono probabilmente aggiungere effetti negativi, è semplicemente la quantità di operazioni che esternalizzi anziché svolgerle da solo.. Certo tu puoi prendere i risultati di una ricerca e ragionarci da solo, ma questo tempo è in competizione con quello che usi l'IA.

Che cosa intendi per tempi di esposizione? Quando ho una domanda, a volte chiedo all'IA. Nell'arco di 24 ore, userò l'IA un'ora al massimo. Corro qualche rischio? 😏

[Phil]

Per par condicio, credo vadano citati anche studi (come questo) da cui emerge, fra l'altro, che l'uso dell'IA aumenta la "fatica cognitiva" di chi la usa con competenza; quindi non ci si impigrisce mentalmente, ma si deve anzi sopportare il carico di lavoro cognitivo del dover valutare criticamente le risposte dell'IA. Oppure questo in cui sono stati rilevati miglioramenti di performance grazie all'IA, ma senza impoverimento nel problem solving o nella capacità di comprensione.
Ridurre l'IA a "macchinario senza garanzie che riduce le abilità cognitive" non rende giustizia alla complessità tecnologica e sociologica, estremamente dinamica, che questo fenomeno sta generando nel mondo umano. Qualunque studio serio infatti non parla dell'IA "in generale", ma in contesti specifici, per cui anche le conclusioni che ne traiamo, per coerenza, oltre ad essere dichiaratamente in progress (dato lo scenario estremamente recente e a dir poco tumultuoso), dovrebbero essere contestualizzate in ambiti specifici, con tutta la faticosa (v. sopra) calibrazione del discorso che ne consegue.