Chat GPT: che sia l'inizio della fine?

[Aspirante Filosofo58]

Qui https://www.orizzontescuola.it/chatgpt-in-grado-di-sostituire-gli-insegnanti-per-gates-sara-possibile-entro-18-mesi-lintelligenza-artificiale-aiutera-i-bimbi-a-leggere-e-a-scrivere/ leggo qualcosa che mi turba non poco! Capisco che integrare le informazioni con ogni mezzo a nostra disposizione, sia un vantaggio soprattutto per chi studia e/o non si accontenta delle informazioni "ufficiali"; un po' meno capisco che tale funzione sia affidata ad una macchina che è stata comunque programmata da un essere umano. Spero che gli scienziati siano in buona fede, ma dubito che lo siano politici e affaristi cui interessa solamente tenere le masse in uno stato di assopimento generale, per far fare loro la fine della rana che, messa in acqua dalla temperatura gradevole, che tuttavia si alza gradatamente, alla fine schiatta perché l'acqua cui si è abituata, non è adatta alla rana stessa! 

Ci hanno provato con le tv, poi con internet, e ora con l'intelligenza artificiale?

Ricordo che durante il primo governo Berlusconi (1994 se non ricordo male), mentre le tv di mezzo mondo parlavano dei cataclismi che avvenivano un po' qua e un po' là, Mamma Rai ci allietava con le spaghettate nella villa arcorese di Berlusconi, in compagnia del fido (o  quasi, visto che di lì a poco ci sarebbe stato il "ribaltone") Bossi; ricordo anche che mentre le nostre tv, nei primi anni del XXI secolo, ci raccontavano pettegolezzi di ogni genere, su Euronews (che allora ricevevo in italiano, grazie ad un apparecchio per il segnale satellitare), la prima notizia, sempre, inesorabilmente, era la "primavera araba" (ossia gli stravolgimenti politici che stavano avvenendo nei Paesi arabi che si affacciano sul Mediterraneo), di cui i nostri mass media iniziarono ad interessarsi con colpevole ritardo, dopo diverse settimane dalle prime sommosse, essendo "in altre faccende affaccendati". 

Poi è arrivato internet, su cui circola l'informazione a fianco della disinformazione (bufala o fake news che dir si voglia). Ora qualcuno passa all'attacco con l'intelligenza artificiale. 

Così come preferisco i dischi in vinile, le audiocassette e le videocassette, a cd, dvd, et similia, continuerò a preferire i libri cartacei, o al massimo quelli digitali, a bufale sferiche!

[atomista non pentito]

Assolutamente d'accordo il problema pero' non e' il "mezzo" o l'"attrezzo" ma e' l'utilizzatore. Ho la fortuna di condividere questi ultimi giorni che mi separano dalla pensione con un "informatico" della prima ( diciamo seconda) ora e mi ha chiaramente illustrato come l'intendimento dei primi informatici non fosse mandare all'ammasso i cervelli di miliardi di persone bensi' aiutarli a liberarsi dai gravami. La pratica racconta tutta un'altra storia

[Aspirante Filosofo58]

Assolutamente d'accordo il problema pero' non e' il "mezzo" o l'"attrezzo" ma e' l'utilizzatore. Ho la fortuna di condividere questi ultimi giorni che mi separano dalla pensione con un "informatico" della prima ( diciamo seconda) ora e mi ha chiaramente illustrato come l'intendimento dei primi informatici non fosse mandare all'ammasso i cervelli di miliardi di persone bensi' aiutarli a liberarsi dai gravami. La pratica racconta tutta un'altra storia

Scienziati, ricercatori, informatici, ecc... ecc... a mio avviso sono in buona fede, almeno fino a quando non incontrano qualcuno disposto a pagarli profumatamente, purché convertano le loro ricerche e il loro lavoro per raggiungere gli obiettivi di chi paga profumatamente. 

[Jacopus]

Sulle funzioni culturali dove predomina l'aspetto dell'apprendimento l'AI avrà molte carte da giocare (regole grammaticali, approfondimento delle lingue straniere, matematica) ma sarà sempre un apprendimento del già noto, mentre rispetto alla possibilità di fare inferenze e dedurre qualcosa di "ancora non pensato", siamo ancora ben lontani. Ho fatto un piccolo esperimento, chiedendo a chat gtp una risposta alla domanda iniziale di Doxa, sul Thread recente relativo alla crisi della Chiesa cattolica. Ecco di seguito la risposta:

L'argomento affrontato dai dati della maxi-indagine demoscopica sulle credenze religiose in Italia è molto interessante. I risultati indicano un significativo aumento del numero di persone che si dichiarano "non credenti" e una diminuzione dei fedeli praticanti. Questi dati rappresentano una sfida per la Chiesa nel recuperare il suo ruolo e la sua influenza nella società italiana post-cristiana. Papa Francesco stesso ha sottolineato il cambiamento nello stile di vita delle persone e la perdita del riferimento a Dio nella società moderna.

L'educazione cristiana e il ripristino dei contatti tra religione e società moderna sono importanti per affrontare questa sfida. La cultura cattolica può svolgere un ruolo cruciale, poiché abbraccia tutti gli aspetti umani e può aiutare a colmare il divario tra fede e vita quotidiana. Nonostante ciò, il futuro della Chiesa è incerto, e sarà necessario uno sforzo significativo per mantenere il rilevante aspetto della preghiera e affrontare le sfide poste dalla società secolarizzata.

Questo contesto rappresenta una chiamata all'azione per la Chiesa e le figure religiose di spicco intervistate nel rapporto per trovare nuovi modi per affrontare la secolarizzazione e per rimanere rilevanti nella vita delle persone. Il dialogo e l'adattamento ai tempi moderni possono giocare un ruolo importante nel sostenere il ruolo della Chiesa nella società. Tuttavia, la strada da percorrere è complessa e richiederà un costante impegno e una riflessione approfondita sulle sfide del presente e del futuro.

Una risposta che è un inno al qualunquismo e alla mancanza di una visione critica del problema. Anche se effettivamente è piuttosto impressionante avere a che fare con una intelligenza artificiale in grado di rispondere in questo modo.

[Phil]

Ciò che principalmente distingue l'AI da un classico motore di ricerca è l'ars combinatoria, che consente di produrre nuovo senso, non solo memorizzare e catalogare (attività che comunque sono alla base di tale ars, tanto per l'uomo quanto per l'AI). L'AI mostra di avere comprensione poter gestire la semantica del linguaggio umano, spingendo la combinazione fino alla produzione di "inediti", ossia non si limita (solo) a tradurre in linguaggio umano numerosi bytes di informazioni o a fare calcoli probabilistici sull'esito di una domanda.
Ad esempio, ho provato a chiedergli un testo rap sulla storia della filosofia; il suo prodotto originale (non creso sia una manipolazione di qualche fonte già online, ma posso sbagliarmi) è stato questo (aprendo l'immagine in un'altra scheda dobrebbe ingrandirsi a sufficienza):

Un po' deludente (non è Murubutu, ma la chiusa non mi pare male); tuttavia probabilmente lo è molto meno se consideriamo che ha prodotto queste goffe rime in circa 10 secondi, ossia è stata (credo la sintassi qui richieda il femminile) più veloce a scriverlo di quanto io a leggerlo. Un rapper laureato in filosofia sicuramente saprebbe scrivere di meglio, ma considerando la manciata di secondi impiegati, la (insolita) domanda a sorpresa e la non facile sintesi dell'argomento, direi che l'AI non se l'è poi cavata male, soprattutto trattandosi di una "creazione letteraria" (con mille virgolette), non di una ricerca di informazioni o collage di copia/incolla.
Altro esperimento, rileggere l'ottuplice sentiero buddista in chiave cybersecurity:

Anche qui, niente che passerà alla storia, me è evidente come il piano semantico non sia stato né trascurato né maltrattato. Nondimeno, è significativo che il nostro dialogo sia iniziato con una voluta "rottura di schema", in cui l'AI ha mostrato tutti i suoi limiti semantici e contestuali; alla mia domanda sul come potevo essergli utile (non viceversa), la sua risposta "cieca e sorda" è stata decisamente "meccanica":

A mio modesto parere, per "capire" e sviluppare serenamente l'AI gioverebbe smetterla di chiamarla in quell'infelice modo e di paragonarla all'intelligenza umana, proprio come per "capire" e sviluppare l'automobile è stato utile non considerarla più solo come un "carro a motore" e non paragonarla ad una biga con cavalli.

P.s.
Ovviamente, a questo punto, ho chiesto all'AI anche di riformulare il mito della biga platonica usando un'automobile, dopo qualche imbeccata per rendere la narrazione più coerente ed esplicita (ad es. coinvolgere i due cavalli come componenti), questo è il risultato:
«Nel mito della "Automobile Alata", immaginiamo un'anima umana come l'autista alla guida di un'automobile avanzata e futuristica. L'automobile è la nostra esistenza fisica nel mondo moderno, mentre l'autista rappresenta la nostra anima immortale. La strada su cui stiamo viaggiando è il mondo sensibile, il mondo fisico e digitale che percepiamo attraverso i nostri sensi e dispositivi tecnologici.
L'automobile, con la sua sofisticata tecnologia e intelligenza artificiale, è composta da due componenti principali: la "Ragione" e la "Passione".
La componente "Ragione" rappresenta la parte razionale dell'automobile, dotata di avanzati sistemi di guida automatica, analisi dati e intelligenza artificiale. La Ragione è guidata dalla conoscenza, dalla logica e dalla capacità di prendere decisioni ponderate basate su dati e informazioni.
Dall'altra parte, la componente "Passione" simboleggia la parte emozionale dell'automobile, con sistemi di riconoscimento delle emozioni e una comprensione intuitiva delle esperienze umane. La Passione è guidata dalle emozioni, dai desideri e dalle esperienze personali, che possono influenzare le scelte e le decisioni.
L'autista, con il suo libero arbitrio, è responsabile di bilanciare attentamente la Ragione e la Passione all'interno dell'automobile al fine di guidarla verso la meta desiderata: una comprensione più profonda del mondo e di sé stessi.
"Sii consapevole, o Glaucone," spiega Socrate, "di come l'anima umana, rappresentata dall'autista e dalle componenti Ragione e Passione dell'automobile, debba trovare un equilibrio armonioso. Solo quando guidiamo l'Automobile Alata con saggezza, intelligenza e comprensione emotiva, possiamo sperare di viaggiare verso nuove frontiere di conoscenza e illuminazione."
Glaucone riflette sulla lezione e capisce che è essenziale coltivare un'auto consapevole, dove la Ragione e la Passione lavorano insieme, permettendo un viaggio verso l'esplorazione e la scoperta di sé stessi e del mondo circostante.
Così, nel mito della "Automobile Alata", Platone ci offre un'immagine aggiornata del viaggio dell'anima umana, usando un simbolo moderno come l'automobile con le componenti Ragione e Passione per esplorare il bilanciamento e l'armonia nella nostra ricerca di saggezza e conoscenza.».
Per la "gioia" degli "apocalittici": non avevo detto all'AI che l'auto doveva avere un'intelligenza artificiale a bordo... sta a vedere che inizia già ad autoproiettarsi nella nostra quotidianità senza essere stata invitata.

[Jacopus]

Phil. Il rap sulla storia della filosofia è talmente saccente che un rapper vero lo potrebbe usare solo come carta igienica. Il fatto che lo abbia fatto velocemente, concorda con il famoso detto di Einstein a proposito dei computer che definiva veloci e stupidi. Sull'automobile alata invece è stato fatto un eccellente lavoro di sincretismo che collega Platone a Damasio ( ).

Incuriosito ho fatto un altro esperimento chiedendo a Chat GPT "La psicoanalisi secondo Winnicot e Bowlby come può essere considerata? La risposta in una ventina di righe poteva essere quella di uno studente (bravo) del liceo socio-psico-pedagogico.

Seconda domanda: "La psicoanalisi secondo Bowlby e Winnicott, resoconto lungo e dettagliato". Qui Chat GTP ha dato una risposta di circa tre fogli A4

Per valutare fino a che punto riusciva a definire l'oggetto ho cambiato di nuovo la domanda "La psicoanalisi di Winnicott e Bowlby, critiche punti deboli". La lunghezza della risposta è rimasta equivalente a quella precedente.

Idem nel tentativo successivo "Critiche alla psicoanalisi delle relazioni affettive di Bowlby. Testo accademico".  L'unica differenza è che qui ha messo il titolo ai paragrafi.

Ho provato anche con "Critica della psicologia dell'attaccamento di J. Bowlby. Testo lungo ed acurato, che possa essere considerato tesi di laurea". Lunghezza simile sui tre fogli A4.


Ultimo tentativo "Critica della teoria dell'attaccamento di J. Bowlby alla luce delle più recenti scoperte neuroscientifiche e in opposizione alla teoria lacaniana. Testo accademico lungo, preciso, accurato, con riferimenti bibliografici ed indice."  Qui si è dato un pò più da fare, ma niente di neanche lontanamente simile ad un saggio che possa essere pubblicato neppure nel giornalino della parrocchia (forse lì sì).

Mi sono domandato se eventualmente vi siano versioni a pagamento che offrono degli strumenti più sofisticati, visto che si fa un gran parlare di Chat GTP come sostituto di testi scientifici o di testi per produrre film o serie TV, oppure se sono io che non lo so usare bene.

[Phil]

Per quanto riguarda la lunghezza delle risposte, pare ci siano dei limiti per la versione "di massa" (v. qui) e credo sia una fortuna, altrimenti, come tu stesso hai suggerito, molti gli farebbero scrivere tesi universitarie, interi libri e saggi fino al "collasso", intasandone il servizio, soprattutto se gratuito. Per quanto riguarda le risposte che dà, mi pare sia  proprio quella l'"essenza" della sua funzione: essere veloce. Come Wikipedia nella sintesi da enciclopedia e Google nella ricerca di contenuti, ChatGPT "ha senso" solo se è rapido nel produrre risposte sensate; non "brillanti" (per questo trovo fuori luogo parlare di intelligenza artificiale). Ad esempio, quanto tempo avresti impiegato a scrivere quei tre fogli A4 su Bowlby? Le macchine e le automazioni, da sempre, servono per farci risparmiare tempo, non perché sappiano scalzare l'inventiva o la profondità ermeneutica dell'uomo. Non è un caso che tendano a sostituire l'umano nei lavori meno ricchi di abilità e competenze umane (v. casse automatiche, robot aspirapolvere, impianti di assemblaggio, etc.) ed ora anche la programmazione e la stesura di testi semplici (o diplomatico-retorici, come quello sulla religione) rientrano nelle attività facilmente automatizzabili tramite AI (per quanto una supervisione umana resti sempre vivamente consigliata).
L'AI in fondo è come un missile che si abbatte su una casa: fa molto in poco tempo; ed osservare, di fronte ai ruderi, che usando pazientemente il piccone, un umano, dopo molto tempo e duro lavoro, non avrebbe lasciato in piedi nemmeno quelli e, nel distruggere, avrebbe persino prodotto meno fumo, significa, come accennavo, paragonare la bomba all'arnese sbagliato (e tutti sappiamo la differenza fra sganciare picconi e sganciare bombe, o fra picconare una casa e premere un pulsante...).

[InVerno]

Riguardo l'ars combinatoria, ovviamente non copia pezzi di internet, non ho idea di quale sia la struttura vera e propria, ma immagino più probabile sia centrata sulle  singole parole, ci siano dei "cluster" semantici che si intersecano secondo diverse regole, alcune per dare profondità altri per scegliere la parola successiva e via dicendo. La ratio di queste scelte deve essere per forza statistica (l'alternativa sarebbe etica), quali siano i modi che consentano di mascherarla dando l'impressione di  originalità non ho idea, ma è un pò la stessa illusione che avviene nei giochi ad informazione incompleta, l'IA tecnicamente non dovrebbe poter vedere cosa accade nel campo avversario, tuttavia è costretta a saperlo perchè ha accesso all'intero codice, e viene fornita di maschere per comportarsi come se "non vedesse" la mano di carte contro cui sta giocando, questo porta al risultato che può anche sbagliare, ma sbaglia "sapendo" di sbagliare, lo stesso dicasi per scelte statisticamente improbabili che generano contenuti "originali".

Queste supposizioni tecniche tuttavia lasciano veramente il tempo che trovano, perchè il problema principale di questa tecnologia e della sua applicabilità non è nella qualità del risultato tecnico o estetico. Venticinque anni fa Kasparov perdeva a scacchi contro un IA, nel frattempo le persone hanno continuato ad imparare a giocare, se hanno la possibilità si incontrano online tra umani e usano le IA solo per allenarsi, nessuno è interessato a vedere tornei tra IA e anche le partite tra IA e giocatori professionisti sono più uno strumento per gli addetti ai lavori che di interesse per il "pubblico-umanità", e per quel poco che seguo la scena professionistica  i giocatori affidandosi alle IA per calcolare la mossa più efficiente finiscono spesso in "pareggi perfetti", danneggiando il gioco stesso degli scacchi. E questo risultato non ha niente a che fare con il livello tecnico raggiunto dalle IA di scacchi, che possono vincere allegramente e infinitamente contro la stragrande maggioranza di essere umani se non tutti. C'è un motivo per cui tutto questo accade, non è un problema logico su come scegliere la miglior mossa, ma una domanda filosofica a monte, ovvero perchè le persone si interessano  degli scacchi innanzitutto, sia come giocatori che come spettatori. Quel rap non ha alcun senso, anche se fosse verbalmente più acuto ed intelligente, continuerebbe ad essere un nonsenso, non esprime niente di valore per qualcuno, cioè non ha valore per nessuno. Il problema di questa IA verbale è che a differenza della controparte scacchistica, ha un utilizzo molto più vasto ed è molto più capace di mascherarsi e rendersi utile ad un pubblico generale, i danni che può fare se affrontata in maniera impropria sono devastanti in campo sociologico, a tal punto che dovrebbe a mio avviso essere considerato uno strumento alla stregua militare, non un piccone, ma una bomba atomica sulla società... e piccola nota politica: lasciare bombe atomiche nelle mani di privati è una pessima, pessima, pessima idea.

[Phil]

La ratio di queste scelte deve essere per forza statistica (l'alternativa sarebbe etica)

Qui propendo per una terza via: la ratio è semantica. La comunicazione, non è solo combinazione (anche se le combinazioni sono alla base della sintassi, v. accordi soggetto/verbo, ordine delle parole, etc.), né è questione di frequenza statistica (a x solitamente segue y), altrimenti i "testi creativi" improvvisati dall'AI sarebbero di qualità ben più infima, non essendoci un'adeguato campionario di casistica da cui attingere. La novità dell'AI sta nel gestire una comunicazione semantica, (e)seguire un discorso che coinvolge elementi impliciti, ossia quegli elementi che fanno apparire un discorso come "naturale" ed umano (uso dei pronomi al posto dell'oggetto, argomento non ripetuto ad ogni richiesta, immissione di collegamenti di senso per "fertilizzare" la conversazione, etc.). Il fulcro è che nemmeno i programmatori hanno consapevolezza né sanno prevedere l'ouput della cosiddetta "black box" che produce risposte artificiali (per questo si è parlato subito di "intelligenza": l'imperscrutabilità dei processi e degli esiti come parallelo della mente umana).

nessuno è interessato a vedere tornei tra IA e anche le partite tra IA e giocatori professionisti sono più uno strumento per gli addetti ai lavori che di interesse per il "pubblico-umanità", [...] C'è un motivo per cui tutto questo accade, non è un problema logico su come scegliere la miglior mossa, ma una domanda filosofica a monte, ovvero perchè le persone si interessano  degli scacchi innanzitutto, sia come giocatori che come spettatori.

Sulla "fame di originalità ed umanità" andrei cauto; non è in topic, ma non è da sottovalutare che i film pieni di effetti speciali, ossia palesi "falsità ontologiche" prodotte da computer, vengano decisamente apprezzati pur sapendo che non sono realistici (v. supereroi vari, fantascienza, etc.). Per il pubblico che vuole essere stupito, se ci fossero gladiatori fatti di metallo non sarebbe un problema, anzi, se nessun umano si fa male davvero diventa uno spettacolo adatto a tutti. Una partita a scacchi può risultare bella e avvincente anche se giocata da due AI (soprattutto se questo dettaglio non viene dichiarato condizionando la "fruizione emotiva" dell'evento; anche perché non so quanti, fra il pubblico di appassionati, sarebbero in grado di accorgersene con certezza).
Credo di aver già ricordato altrove che il gioco del go, nettamente meno "combinatorio" degli scacchi, ha impiegato non a caso più tempo per essere padroneggiato dall'AI e il campione del mondo, dopo esser stato battuto, ha dichiarato che quell'esperienza l'ha spinto a ripensare quali siano davvero le buone mosse, ha parlato di un cambio di prospettiva sul gioco (in cui solitamente domina gli altri umani). Un'esperienza con un'alterità non umana ha scosso il paradigma strategico di un gioco secolare, non per questioni di altra-intelligenza, ma proprio perché l'esito del machine learning (che ha prodotto anche mosse che, per la loro apparente castroneria, hanno fatto sorridere il pubblico ed arrabbiare gli ingegneri dell'AI) non è quello dello human learning.

Quel rap non ha alcun senso, anche se fosse verbalmente più acuto ed intelligente, continuerebbe ad essere un nonsenso, non esprime niente di valore per qualcuno, cioè non ha valore per nessuno.

Il valore semantico c'è, ed è questo il "senso" del ruolo dell'AI: produrre senso per un destinatario (il postmoderno, Derrida, etc. sorridono soddisfatti), come se ci fosse un umano dietro la tastiera. Turing non è stato ancora sconfitto, ma l'AI è già una vittoria per ogni studente che deve fare qualche paginetta su un tematica (v. esempi di Jacopus), ogni cantante a corto di ispirazione, ogni programmatore in ritardo per una scadenza, ogni copywriter che lavora da remoto e vuole guadagnare del tempo libero, etc. Direi che, nel momento in cui un'AI "regala" del tempo all'uomo, il valore prodotto non è solo semantico (seppur non da Nobel per la letteratura), ma esistenziale (in tutti i sensi). Si sta diffondendo, non a caso, il ricorso ad un'AI che ha il compito di individuare i testi prodotti da altre AI, e all'uomo, con la sua intelligenza, non rimane che fare la sua scommessa sulla veridicità dell'esito dell'AI che controlla l'AI.

piccola nota politica: lasciare bombe atomiche nelle mani di privati è una pessima, pessima, pessima idea.

Sul versante politico le questioni sono di certo molteplici, forse la principale è la libertà (parola come sempre pericolosa in quanto irrazionalizzante) di accesso/fruizione; e "come muovi, muovi male": se non dai l'AI al popolo, il popolo si lamenta perché vuole il nuovo giocattolo (e, chi può, se lo procura al mercato nero); se gliela dai, il popolo si lamenta perché qualcuno fra loro la usa per licenziarli o per ingannarli; se la dai con vincoli e regole, imbrigliando la libertà, buona fortuna a mettere d'accordo il popolo su quali debbano essere tali regole. In fondo, in questo l'AI non rappresenta affatto nulla di nuovo: dai tempi del fuoco e della ruota, non conta com'è la scoperta o l'invenzione, conta come viene usata e con quali parametri ne giudichiamo l'utilizzo; l'importante è comunque, soprattutto agli esordi, comprendere adeguatamente il funzionamento della novità e, in questo caso, il nome di battesimo, secondo me, non aiuta.

[InVerno]

E' difficile poter sostenere che la ratio sia semantica, essendo che viene chiaramente a mancare il significante, quando l'Ia sceglie una parola lo fa in assenza di un  immagine mentale corrispondente, che è la parte "flessibile" e "organica" del discorso, gestisce bene il segno ed il significato, che sono molto più adatti per la loro rigidità alla interpolazione "statistica" e sufficienti a rappresentazioni superficiali e impersonali, perciò ogni parola è tronca di un aspetto fondamentale, e ogni discorso è bidimensionale. A tal proposito, a mio avviso, inutile chiedere a ChatGPT  di scrivere tesi di laurea, non sono per niente le forme di linguaggio più complesse da produrre proprio per la loro auspicata formalità. L'ironia, al contrario, è invece una delle forme più complesse di padronananza del linguaggio, i problemi di traduzione più difficili sono racchiusi in uno scherzo sulla merda, non nella formula  della bomba atomica. ChatGPT fa ridere? Non che se lo facesse cambierebbe qualcosa ontologicamente, ma a mio avviso sarebbe un test più accurato della sua capacità di simulare la verbalità umana nei suoi anfratti di difficile penetrazione.

Non sto predicendo che queste IA falliranno nel sostituire, almeno in prima battuta, gli esseri umani in "lavori sporchi" (Tom Cruise non me ne voglia), e certamente le possibilità del monovirtuale potranno solleticare i palati di molti, anzi, al contrario, sono convinto che proprio un ondata di entusiasmo superficiale possa farci soprassedere sui pericoli ed i danni potenziali, non diversamente da quanto accaduto con internet che ha messo la società in grandissima difficoltà espandendosi principalmente grazie al porno ed altri innocui divertissment, ci si è trovati una bestia difficile da controllare. Ho parlato di tecnologia militare,perchè i risultati che mi aspetterei da una diffusione incontrollata e capillare di queste IA, sono pressochè gli stessi della disinformazione professionale di uno stato straniero elevanti all'ennesima potenza, perdita dei punti di riferimento, svalutazione valoriale, apatia e apoliticismo etc etc solamente autoinflitte. Le mie preoccupazioni riguardo ai danni di questa tecnologia non vanno perciò ai posti di lavoro, problema grave ma controllabile, ma all'impatto che può avere sulle infosfere, già ora tremendamente sotto stress ed indebolite senza il bisogno di aggiungere altri gravi, stiamo giocando col fuoco in una casa già in fiamme.

Sembra tuttavia che una delle prime contromisure che verranno prese sarà quella di apporre un "bollino" sui contenuti generati in questo modo, è una strategia a mio avviso efficiente almeno in teoria, e non è un caso che questa sia la prima cosa che viene in mente, e rivela la natura malevola di questi prodotti che sfruttano l'inganno, percepito o no, per avere valore, non è un caso che si adotti un segno riconoscitivo per disinnescare questo inganno, e ci si illuda forse di poterli rendere innocui separandoli dall'umano. Tuttavia rimarrà pur sempre il dubbio che il bollino sia stato omesso o rimosso, e che ciò che si sta fruendo è fondamentalmente inautentico.., rimosso non dai privati che, pur magari sfuggendo a volte alla legge vi devono comunque sottostare, ma da chi non ha legge sopra di essi, gli stati, la perdita di fiducia nelle istituzioni potrebbe essere deflagrante, ed i novax potrebbero essere un dolce ricordo di quando si andava tutti d'accordo. Siete tutti certi che vogliate vivere in una società dove ogni singola informazione viene dubitata per autenticità? E' la democrazia ad essere in grave rischio, non il lavoro di Tom Cruise.

[Ipazia]

Fin da Menenio Agrippa l'intelligenza del potere ha prodotto idiozia per il popolo. L'I.A. (Intelligenza/Idiozia Artificiale) non cambierà il senso della storia continuando a servire un potere alieno e alienante.

Che ci si possa fare una tesi di laurea più che l'intelligenza della macchina dimostra l'idiozia delle istituzioni e dei suoi titoli accademici. Mostra nella sua indecente nudità la miseria della cultura ufficiale, politicamente eterodiretta da programmatori sponsorizzati.

[Pensarbene]

https://www.ilgiornale.it/news/dibattito-usa-sul-rischio-estinzione-2185702.html

Sono proprio scemi: il cervello della maggior parte degli esseri umani è da rottamare e questi parlano di estinzione causata dall' AI?!

Io sto sperimentando  la chat AI di Google attualmente in sviluppo.secondo te, perché molte persone hanno paura dell' AI o non la accettano?

Risposta dopo 15 sec dall' invio della domanda:

https://docs.google.com/document/d/1Wt3a5EgQNiZPsWk_a4AeMDnOHpwdE1B4G4CeGDm5Gs0/edit?usp=drivesdk

Quindi le ho chiesto: cosa pensi degli esseri umani?

Risposta immediata:

https://docs.google.com/document/d/1xRxszf2DLjkCk885gCNQ3m53ist6XzNHsfUHTs36k8s/edit?usp=drivesdk

Dubitando di uno standard di risposte ho riproposto gli stessi due temi modificando le domande  e ho ricevuto risposte diverse sia come struttura linguistica che come argomentazioni di contenuto.
QUINDI IO STO CAMBIANDO IDEA SU QUESTO TIPO DI CHAT.

Nota Bene
Durante una conversazione la chat non riusciva a rispondere in relazione a un particolare dato  dicendo che  non lo conosceva e si scusava.
Io gliel'ho dato poi ho verificato qualche ora dopo ponendo lo stesso quesito: la chat mi risponde usando il dato è ringraziandomi per averglielo dato ore prima!!!
Allora ,quale cervello umano saprebbe capire,imparare,ricordare un dato e poi ringraziare integrandolo nel suo sistema di comunicazione linguistico in un modo direi perfetto?
Il tutto con risposte in 15/20 sec?
Se gli esseri umani non riescono a svegliare il loro penoso cervello e a stare a galla neanche con l'AI di questo genere possono davvero consegnare il pianeta alle nacchine
io firmo la loro estinzione e sul serio. 

[Phil]

E' difficile poter sostenere che la ratio sia semantica, essendo che viene chiaramente a mancare il significante, quando l'Ia sceglie una parola lo fa in assenza di un  immagine mentale corrispondente, che è la parte "flessibile" e "organica" del discorso, gestisce bene il segno ed il significato, che sono molto più adatti per la loro rigidità alla interpolazione "statistica" e sufficienti a rappresentazioni superficiali e impersonali

Credo tu possa aver ragione nel sostenere che la ratio non sia semantica, perché, per quel nulla che vale un singolo caso improvvisato, quando gli ho chiesto come potevo essergli utile, l'AI ha dimostrato di non aver capito il senso della domanda. Se avesse colto il senso decisamente semplice e basilare della domanda, avrebbe potuto facilmente rispondermi che posso essergli utile facendo domande, o dandogli dei feedback; essendo invece molto impostato su combinazioni frequenti, interazioni tipicizzate, etc. mi ha risposto come se gli avessi domandato il contrario. Nondimeno la capacità che poi ha mostrato di saper giocare con i significati, non tanto sintetizzando la storia della filosofia, quanto fondendo buddismo e cybersecurity, mi spinge a credere che in qualche modo i suoi algoritmi riescano a gestire anche la semantica. Se, pur non avendo un'immagine mentale (perché la mente non ce l'ha), non avesse anche una certa capacità semantica, come avrebbe potuto interpretare il senso delle espressioni "sforzo corretto", "intenzione corretta", "concentrazione corretta" o "parola corretta" per poi associarli alla cybersecurity (in cui, suppongo, tali espressioni, soprattutto vista anche l'ambiguità semantica di "corretto", non ricorrono in modo particolarmente significativo)? Detto più chiaramente: se non so il senso della parola «sforzo» e non riconosco che il senso di «corretto» non è «preceduto da correzione» ma «adeguato», come posso associare «sforzo corretto» a contesti in cui solitamente non è usato? Anche quando, parodiando i mito platonico della biga, ha scritto: «La strada su cui stiamo viaggiando è il mondo sensibile, il mondo fisico e digitale che percepiamo attraverso i nostri sensi e dispositivi tecnologici» ha aggiunto spontaneamente l'abbinamento fra mondo fisico e digitale, e quello fra la percezione con i sensi e quella con i dispositivi digitali; sicuramente saranno frasi fatte o facilmente combinabili, ma risultano semanticamente calzanti (per non dire impropriamente "ragionate").
Resto con il sospetto, non abbastanza informato e competente, che non sia solo una questione di ricorrenza di significanti, discorsi già algoritmizzati, etc. ma ci sia dell'altra capacità (magari "semantica" non è la parola più adeguata).

i risultati che mi aspetterei da una diffusione incontrollata e capillare di queste IA, sono pressochè gli stessi della disinformazione professionale di uno stato straniero elevanti all'ennesima potenza, perdita dei punti di riferimento, svalutazione valoriale, apatia e apoliticismo etc etc solamente autoinflitte. Le mie preoccupazioni riguardo ai danni di questa tecnologia non vanno perciò ai posti di lavoro, problema grave ma controllabile, ma all'impatto che può avere sulle infosfere, già ora tremendamente sotto stress ed indebolite senza il bisogno di aggiungere altri gravi, stiamo giocando col fuoco in una casa già in fiamme.

In questo senso purtroppo l'AI è un interlocutore che può essere tanto fuorviante quanto un motore di ricerca: se cerchiamo a lungo, varcando la fatidica prima pagina di risultati, potremmo trovare fonti contrastanti che inibiscono una presa di posizione o anche quello che vogliamo sentirci dire pur essendo infondato, magari scritto su un blog di chi è meno informato di noi; il bias della conferma non conosce pudore e il pardosso della scelta si nutre di cacofonia e "bibliografie" sconfinate (e non filtrate). A quel punto non è una questione di strumento o di artificialità, ma puramente di onestà intellettuale e consapevolezza delle proprie tendenze: può dircelo "internet" o "la tv" o "la contro-informazione" (che non esistono come univoci soggetti parlanti), può dircelo l'AI o la pettegola del paese, ma la carenza del filtro o il desiderio di conferma, alla base della disinformazione, è solo nostra (così come è solo nostro il sentire un dovere morale di avere un opinione veritativa su tutto, ma questa è un'altra storia). L'antidoto migliore, come sempre, è la informazione o, più semplicemente, la comprensione: capire perché temiamo confutazioni e falsificazioni, capire quanto è attendibile l'interlocutore (a prescindere da dove si schieri), capire che una fonte non vale l'altra, etc. sebbene, in un'epoca in cui i fact-checker rischiano di essere confusi con i dogmatici, capisco che non c'è da banalizzare nemmeno l'ovvio. Ben venga che ChatGPT, a differenza di altri suoi colleghi (Bard, Bing, etc.), sia dichiaratamente aggiornato solo a notizie del 2021 (mi sembra); non sarà un deterrente per i "circuibili dai circuiti", ma almeno "avvelena un po' il pozzo" in caso di conversazioni malposte o male interpretate. Un'altra salvaguardia per i "differentemente capaci" è il famigerato "politicamente corretto": chiunque si lamenti che l'AI ne sia pervasa, oltre a mostrare delusione per un mancato ruolo di "risveglio ed illuminazione" che ovviamente (giusto?) non compete all'AI, probabilmente ha un pregiudizievole secondo fine nel porgli domande e sta cercando solo un'altra fonte da citare e collezionare per il proprio aver ragione (e, qualora l'AI dica ciò che non piace, è inevitabile che venga declassata da oracolo di verità a "stupido megafono mainstream, pilotato dai poteri forti, etc."). Peccato che l'AI, come essa stessa dichiara, non abbia filtro critico né capacità di giudizio e, se non ce l'ha nemmeno chi la usa, il connubio non può che risultare "artificiosamente poco intelligente", a prescindere dagli argomenti trattati. Sarebbe potuto essere "solo" un rapido produttore di testi e confezionatore di informazioni in forma dialogica, tuttavia c'è davvero il rischio che qualcuno, a caccia di feticci o di streghe, gli proponga di tesserarsi per il suo partito, indulga nel tradurre I.A. con «influencer algoritmico» o lo veda come minaccia per il genere umano (scambiando Terminator per una profezia per "Illuminati"). Anche stavolta si è data liberamente la bicicletta a tutti, anche a chi, non per colpa sua, non ha l'equilibrio per usarla (i maligni direbbero: è stata data proprio perché non tutti hanno l'equilibrio per usarla... e sicuramente c'è già un sottobosco di complottisti che ha una spiegazione per questo cavallo di Troia dato alle masse di "utenti spatentati").
Non voglio sminuire l'impatto deleterio che potrebbe avere l'AI nell'infosfera, ma quando si parla troppo dello strumento piuttosto che di chi lo usa, sia in alto che in basso, secondo me il discorso rimane un serpente senza testa (quindi, non se ne viene mai a capo).

[Phil]

Per sollecitare ed indagare meglio la capacità di interpretazione semantica dell'AI, gli ho chiesto di interpretare il senso di un proverbio (che in realtà mi sono inventato al volo, senza pensarci troppo); la sua risposta è stata:
«Il proverbio "il viandante inquieto ha le mani troppo vuote per accarezzare il grano d'inverno" fa riferimento a una persona instabile o irrequieta che, a causa del suo continuo movimento e inquietudine, non riesce a godere delle ricompense o dei benefici che potrebbero essere a portata di mano.
L'immagine del "grano d'inverno" simboleggia un'opportunità preziosa o una ricchezza che è disponibile solo in determinati momenti o circostanze. Questa metafora è spesso utilizzata per indicare un bene prezioso o una possibilità favorevole che richiede pazienza, attenzione e stabilità per essere sfruttata.
Il "viandante inquieto" rappresenta una persona che è costantemente in movimento, mai soddisfatta o concentrata su una cosa, spesso dispersa e incapace di dedicarsi a una determinata attività o scopo. Essendo costantemente in movimento e distraendosi facilmente, questa persona non riesce a cogliere le opportunità che potrebbero essere a sua disposizione.
Il proverbio ci suggerisce che una mente e un atteggiamento instabili possono impedirci di apprezzare le bellezze o le ricchezze che la vita offre. Ci invita a praticare la pazienza, a fermarci e a riflettere, in modo da poter apprezzare pienamente ciò che abbiamo e sfruttare le opportunità che ci si presentano. Inoltre, ci ricorda l'importanza di essere presenti e concentrati, in modo da poter cogliere le ricompense della vita, così come il contadino raccoglie il grano d'inverno quando è pronto per essere raccolto.
In sintesi, il proverbio ci ammonisce contro l'inquietudine e la mancanza di stabilità, sottolineando l'importanza di essere presenti e consapevoli per cogliere le opportunità e le ricompense che la vita ci offre.»

Altro proverbio inventato (ibridandone due già esistenti, per adescare l'AI in un mix di interpretazioni note), altra risposta ricca di senso, seppur "artificializzato" e assente nelle intenzioni dell'autore:
«Il proverbio "mogli e buoi, gioie e dolori" sottolinea che nella vita ci sono sia momenti di gioia e felicità, rappresentati da "mogli" e "gioie", che momenti di difficoltà e preoccupazioni, rappresentati da "buoi" e "dolori".
"Mogli" si riferisce alle relazioni affettive, alla famiglia e alle persone care che portano gioia e felicità nella nostra vita. "Gioie" rappresenta gli eventi e le esperienze positive che ci riempiono di gioia e soddisfazione.
D'altra parte, "buoi" simboleggia il lavoro e le sfide che possono essere pesanti e faticose. "Dolori" rappresenta le difficoltà, le delusioni e le tristezze che affrontiamo durante il corso della nostra esistenza.
In sintesi, il proverbio ci ricorda che la vita è un insieme di esperienze contrastanti e sfaccettate. Viviamo momenti di gioia e felicità, ma dobbiamo anche affrontare le difficoltà e le sfide che ci vengono presentate. È una sorta di ammonimento a essere consapevoli delle alti e bassi della vita, a prendere i momenti felici come preziosi doni e ad affrontare le difficoltà con resilienza e determinazione.
L'espressione può essere interpretata anche come un richiamo alla maturità emotiva e alla comprensione delle diverse sfaccettature dell'esistenza umana. In ogni caso, il proverbio ci invita a trovare equilibrio, ad accettare la complessità della vita e a trovare la forza di affrontare le sfide con serenità e gratitudine per le gioie che la vita ci offre.»
L'AI non ha esplicitato il riferimento ai due noti proverbi, ma in fondo la mia era una precisa richiesta di interpretazione dei senso («Qual è il senso di ...») per cui, diligentemente e meccanicamente, l'AI ha fatto il suo dovere senza prendere iniziative collaterali. 

In nessuno dei due casi l'AI ha detto nulla di particolarmente originale, tuttavia se avessimo chiesto spiegazioni dei due (falsi) proverbi ad un essere umano, avremmo probabilmente ottenuto un'assegnazione di significato simile (dopo un tempo superiore, suppongo); il che non dimostra affatto che l'AI sappia elaborare il senso come un umano (i meccanismi dietro le quinte sono plausibilmente molto differenti), ma il suo "prodotto semantico finale" risulta comunque credibile per l'umano (in una "eterogenesi dei fini" con differenti matrici di provenienza, piuttosto imperscrutabili in entrambi i casi). Tale "credibilità", essendo appunto forzabile da una semplice domanda pilotata (e, a suo modo, "falsata"), non va confusa con un valore di verità: è superfluo notare che l'AI non ha controllato che i proverbi esistessero veramente o altre verità pertinenti, poiché il suo scopo è appunto comunicare e manipolare significati, non è un interlocutore che fa  a sua volta domande (che non siano di circostanza) o che è interessato alla (tutela e/o diffusione della) verità.

[Jacopus]

Phil, l'hai aiutato troppo. Il proverbio che gli ho chiesto di commentare è stato il seguente: "Il mulino del vicino spazza e accoglie più della vanga accesa del criceto". Risposta di Chat GTP:
"Il proverbio significa che a volte sembra che gli altri stiano vivendo una vita migliore e più prospera della nostra, ma in realtà potrebbero avere i loro problemi e preoccupazioni nascoste. Invita a non invidiare gli altri ma a concentrarsi sul proprio cammino e sulle proprie responsabilità".

In sostanza Chat GTP ha accostato il proverbio a quello dell'erba del vicino è sempre più verde, sulla base di "vicino", "più" e "proverbio". Se questa è l'intelligenza artificiale è comunque un AI piuttosto stupida.