Quanto è intelligente l'intelligenza artificiale (A.I.)?

Aperto da Aspirante Filosofo58, 15 Marzo 2023, 11:05:14 AM

Discussione precedente - Discussione successiva

fabriba

Citazione di: iano il 14 Agosto 2025, 12:52:36 PMMa non è solo della comprensione, che l'AI può fare a meno, ma di ogni altro passaggio cosciente.

Questa parte mi appassiona, sulla carta sembra impossibile allo stato attuale che AI abbia una coscienza, un giorno, col senno di poi, ci sembrerà forse poco più di un motore statistico di correlazione di parole.

Però non mi sembra che abbiamo una definizione universale di cosa sia la coscienza,  e se non mi sbaglio su questo assunto, non siamo in una buona posizione per decidere cosa ha una coscienza e cosa no.
Tra l'altro oggi sarebbe difficile dare una definizione di coscienza nuova, senza essere influenzati dalla volontà di includere o escludere AI dalla definizione, e forse adesso è impossibile trovarla in modo imparziale.

iano

#61
Citazione di: fabriba il 14 Agosto 2025, 14:10:41 PMQuesta parte mi appassiona, sulla carta sembra impossibile allo stato attuale che AI abbia una coscienza, un giorno, col senno di poi, ci sembrerà forse poco più di un motore statistico di correlazione di parole.

Però non mi sembra che abbiamo una definizione universale di cosa sia la coscienza,  e se non mi sbaglio su questo assunto, non siamo in una buona posizione per decidere cosa ha una coscienza e cosa no.
Tra l'altro oggi sarebbe difficile dare una definizione di coscienza nuova, senza essere influenzati dalla volontà di includere o escludere AI dalla definizione, e forse adesso è impossibile trovarla in modo imparziale.
Il primo passo è togliersi dal petto  la coscienza come medaglia al valore.
Fatto ciò possiamo sperare di fare discorsi più razionali.
Agire con coscienza, oppure senza, possono considerarsi allora due diversi modi di fare che risultano più o meno adeguati al contesto, più che superiori o inferiori in assoluto.
Inoltre il suo uso nel caso generale può essere parziale.
Tralasciando al momento la questione del libero arbitrio, i vivi si distinguono dal resto per la non immediatezza esclusiva delle cause che vi agiscono, e queste possono agire secondo coscienza oppure no.
Una volta deciso di usare l'intera tavolozza dei colori per dipingere la questione, la macchina diventa un caso limite del vivente, il ''vivente'' a coscienza nulla.
Sarei tentato di dire, per pararmi dalle critiche, attenzione, questa non è la realtà, ma solo una sua descrizioni, se non fossi convinto che noi non abbiamo accesso diretto alla realtà, ma solo attraverso le sue descrizioni, delle quali una è la ''realtà come ci appare'', quella alla quale si fermano di solito i filosofi non aggiornati sui fatti scientifici, e che tendono ancora a far coincidere quella descrizione con la realtà, intendendola come univoca, e perciò vera.
Quando questo intoppo lo si supera, allora la coscienza entra con tutta la sua potenza nella produzione delle descrizioni della realtà.
Nell'esempio di descrizione della realtà appena tentato, la coscienza appare solo come termine descrittivo, nel quale abbiamo definito la macchina come il vivente a coscienza nulla ( una specie di Zombie :))  ).
Quindi cos'è la coscienza?
E' un elemento della nostra descrizione.
Lo so, la faccio troppo facile.
Ma bisogna scegliere se tendere alla semplicità o alla gloria, per sostenere la quale ultima ogni complicazione tale fino  adiventar voluto mistero è buona.
La scienza nasce come modo cosciente di fare, che nel prosieguo ha trovato utile appoggiarsi a macchine incoscienti, ripercorrendo tutti i possibili modi di fare in modo nuovo.
Scriviamo con la mano, ma la miglior  scrittura è quella che ci prende la mano.

Phil

Citazione di: iano il 14 Agosto 2025, 15:56:29 PMi vivi si distinguono dal resto per la non immediatezza esclusiva delle cause che vi agiscono, e queste possono agire secondo coscienza oppure no.
Una volta deciso di usare l'intera tavolozza dei colori per dipingere la questione, la macchina diventa un caso limite del vivente, il ''vivente'' a coscienza nulla.
Non capisco bene il perché dell'associare una macchina alla vita, tanto più mettendo in mezzo anche la coscienza; ossia aggiungendo complicazione a complicazione. E se la macchina non fosse un «caso limite del vivente», ma solo, banalmente, una macchina? Qual è la necessità o il movente interpretativo che spinge a descrivere la macchina come «caso limite del vivente», quando si direbbe anzi che le macchine per definizione (comunemente intesa) non sono viventi, ossia sono ben oltre il limite e non caso limite?
A pensar male, si potrebbe supporre che lo scopo sia poi arrivare a definirle «"vivente" a coscienza nulla» sperando che quelle virgolette reggano l'immane peso del ponte fra macchina ed umano, trovando un rocambolesco "punto zero" della coscienza. Comunque, se prendiamo questo approccio per buono, una macchina per espresso è allora forse un «"vivente" che mi prepara il caffè» (riuso le virgolette)? Disserteremo di come la macchina per espresso, pur producendo il caffè a seguito di nostro prompt fisico (premere un pulsante), non abbia piena "coscienza" del caffè che produce, non possa apprezzarne fino in fondo l'aroma e quindi non sia totalmente paragonabile all'umana esperienza del caffè?
Forse non è l'AI che rischia di sfuggirci di mano, ma solo il mo(n)do in cui ne parliamo; dandole un ruolo di ponte verso una possibile alterità (direbbero i filosofi) di cui in fondo non abbiamo tracce chiare e attendibili (escludendo quindi quelle dell'immaginario collettivo), ma già sappiamo, in coscienza, che probabilmente non potrà apprezzare e godere di un buon caffè.

iano

#63
Citazione di: Phil il 14 Agosto 2025, 21:27:16 PMNon capisco bene il perché dell'associare una macchina alla vita, tanto più mettendo in mezzo anche la coscienza; ossia aggiungendo complicazione a complicazione. E se la macchina non fosse un «caso limite del vivente», ma solo, banalmente, una macchina? Qual è la necessità o il movente interpretativo che spinge a descrivere la macchina come «caso limite del vivente», quando si direbbe anzi che le macchine per definizione (comunemente intesa) non sono viventi, ossia sono ben oltre il limite e non caso limite?
Se non vedi l'aumentata semplicità descrittiva immagino sia per le comprensibili complicazioni emotive che la descrizione comporta.
Ma l'esempio che volevo dare era appunto di come sia facile, liberandoci momentaneamente dalle emozioni,  fare una descrizione razionale semplice.
Non è proibito poi aggiungere a posteriori un pò di complicazione per tenere conto della sensibilità dei lettori, se tutto si riduce a ciò.
Il rischio però è che descrizioni complicate suscitino domande senza risposte, che non si sente il bisogno di farsi quando la descrizione è semplice, tipo quelle su cui si discute qui sul forum all'infinito.
Che coisa è la coscienza?
Io l'ho usato come termine descrittivo, e finché io non esco dall'ambito del mio racconto io so cos'è la coscienza.



Scriviamo con la mano, ma la miglior  scrittura è quella che ci prende la mano.

iano

#64
Io descrivo la macchina come un caso limite del vivente?
Non mi pare. Dovrei controllare.
E' comunque una interpretazione possibile.
Un altra interpretazione è descrivere il vivente come un caso limite della macchina.

Scriviamo con la mano, ma la miglior  scrittura è quella che ci prende la mano.

Phil

Citazione di: iano il 14 Agosto 2025, 22:22:18 PMSe non vedi l'aumentata semplicità descrittiva immagino sia per le comprensibili complicazioni emotive che la descrizione comporta.
Ma l'esempio che volevo dare era appunto di come sia facile, liberandoci momentaneamente dalle emozioni,  fare una descrizione razionale semplice.
Probabilmente, come detto, non ho capito il senso del tuo discorso; così come ora non capisco cosa ci sia di razionale nel mischiare macchine ed uomini per amor di "semplificazione". Non sempre una descrizione semplice è razionale, anzi semplificare e razionalizzare spesso non vanno d'accordo quando c'è da capire ciò che si vuol descrivere.
Anche la considerazione sulla tonalità emotiva mi sembra un po' fuori focus: se considero razionalmente la descrizione generica di vivente e quella di macchina, concludo razionalmente che la macchina non è un caso limite del vivente (e se lo chiedessi ad un razionale chatbot AI, forse non concorderebbe?).
L'«aumentata semplicità descrittiva» che proponi mi sembra una diminuita razionalizzazione, sia descrittiva che interpretativa; che ha per controproducente effetto collaterale spalancare tutto un discorso sulla "coscienza nulla" di un "caso limite di vivente" che, a mio avviso, è un discorso che non comporta molto di semplificante né di razionale (opinione mia, ossia di chi non ti ha capito, quindi senza offesa, ovviamente).

iano

#66
Citazione di: Phil il 14 Agosto 2025, 22:49:00 PML'«aumentata semplicità descrittiva» che proponi mi sembra una diminuita razionalizzazione, sia descrittiva che interpretativa; che ha per controproducente effetto collaterale spalancare tutto un discorso sulla "coscienza nulla" di un "caso limite di vivente" che, a mio avviso, è un discorso che non comporta molto di semplificante né di razionale (opinione mia, ossia di chi non ti ha capito, quindi senza offesa, ovviamente).
Lo schema è quello della semiretta dei numeri reali.
Possiamo dire che ''la vita  è una macchina'' quando la coscienza si riduce al limite a zero, ma siccome il processo al limite è infinito, il limite non viene mai raggiunto, cioè la vita non arriva mai ad essere una macchina. Possiamo immaginare una vita che perdendo coscienza si avvicina sempre di più ad una macchina, ma la vita non sarà mai una macchina, perchè nel momento in cui lo diventasse smetterebbe di essere vita.
 Quindi, se la vita è sacra noi non l'abbiamo offesa, come avremmo fatto paragonandola a una macchina,
perchè noi non abbiamo fatto questo paragone.

Però, se il concetto di semiretta dei numeri reali è semplice, il concetto di passaggio al limite dell'analisi matematica invece non lo è, e quindi hai ragione anche tu.

 


Scriviamo con la mano, ma la miglior  scrittura è quella che ci prende la mano.

iano

Forse poi neanche l'esempio della semiretta è adeguato, perchè presuppone un essere con una coscienza che può crescere indefinitivamente,  a meno che nell'unico schema, oltre alla macchina e alla vita non vogliamo farci entrare anche Dio.
In ogni caso la semplicità consiste nel fare entrare tutto ciò di cui si vuol dire dentro un unico schema.
Scriviamo con la mano, ma la miglior  scrittura è quella che ci prende la mano.

Il_Dubbio

Volevo ricordare, ora che nella discussione abbiamo anche fabriba nuovo utente, che questa discussione non l'abbiamo inventata noi. Praticamente ha una ottantina d'anni e nasce dalla genialità del padre dell'informatica: Alan Turing (1912-1954).
Fu lui a immaginare come il pensiero umano potesse essere imitato (alla perfezione fino alla indistinguibilità) da una macchina.

Oggi, a distanza di ottant'anni, l'intelligenza artificiale sta entrando sempre di piu nelle nostre case e nelle nostre vite, e non è piu solo un oggetto di discussione "accademico".

Putroppo (dico io...) sta entrando troppo in fretta, mentre ancora non si conoscono del tutto le differenze fra noi e le macchine.
Certo qualcuno sostiene che dopo tutto le macchine non sono esseri viventi e questa è una bella differenza. Resta però misteriosa la possibilità che possano imitare alla perfezione fino alla indistiguibilità il pensiero umano. Questo perchè ancora non conosciamo bene cosa davvero ci renda umani. Anche se fosse la coscienza a renderci umani, non sappiamo ancora cosa sia.
Per cui come dice fabriba  "...oggi sarebbe difficile dare una definizione di coscienza nuova, senza essere influenzati dalla volontà di includere o escludere AI dalla definizione..."

fabriba

Citazione di: Il_Dubbio il 15 Agosto 2025, 08:45:48 AMnasce dalla genialità del padre dell'informatica: Alan Turing (1912-1954).

Assolutamente, tra l'altro il cosiddetto test di Turing* è stato superato nei fatti in un modo che non era facile prevedere: la tecnologia di oggi permette a una macchina di superare il test di turing**, ma magari poi fallisce a contare le dita sulla mano di una persona, che per chi l'ha considerata il gold standard dell'intelligenza artificiale negli ultimi 80 anni, è un colpo basso non da poco!!


(*per chi non avesse dimestichezza, sostanzialmente l'interrogatorio che fa Harrison Ford ai "lavori in pelle" all'inizio di Blade Runner)
(** in america uno studio di queste settimane ha trovato che il 30% dei partecipanti usa AI per flirtare... e tralasciamo l'assurdità della cosa che non inizio neanche a entrarci.... però direi che se non passasse il test di turning avrebbero tutti e 30% un problema serio con quella trovata  :)) )

Kob

Il test utilizzato da Deckard in Blade Runner non è un test di Turing. Nel libro di P. Dick viene chiamato da Rachael Rosen "test dell'empatia". Utilizza degli strumenti quali elettrodi e fasci di luce diretti alle pupille per misurare la reazione fisiologica involontaria provocata da descrizioni di situazioni che agli umani scatenano emozioni.
Gli androidi del libro e del film hanno anche un corpo in grado di simulare il comportamento dell'uomo. Cioè sono biologicamente in grado di mostrare cambiamenti quali arrossamento del viso, smorfia di disgusto etc. Ma questo accade solo se il loro sistema riesce a collegare velocemente il contenuto di una frase a quella che è la reazione che ci si aspetterebbe da un umano.
Se il test di Turing misura la capacità della macchina a non farsi riconoscere come tale nel corso di una conversazione testuale, con gli androidi di Blade Runner le cose sono ancora più complicate in quanto anche il loro aspetto e comportamento è del tutto in linea con quello umano.
Se poi si aggiunge che sono portatori di ricordi innestati dal loro costruttore, memorie fittizie che però ciascuno di loro ritiene essere come il segno della propria identità, esattamente come un umano (che si attacca alla sua storia, alle sue origini), allora viene da chiedersi quale sia la differenza. Chi può essere sicuro che il proprio passato non sia in realtà altro che finzione indotta da qualcuno o qualcosa? Il film gioca su questa ambiguità: assodato che Rachael è un androide, che dire di Deckard?

fabriba

Citazione di: Kob il 16 Agosto 2025, 11:33:55 AMIl test utilizzato da Deckard in Blade Runner non è un test di Turing. Nel libro di P. Dick viene chiamato da Rachael Rosen "test dell'empatia". Utilizza degli strumenti quali elettrodi e fasci di luce diretti alle pupille per misurare la reazione fisiologica involontaria provocata da descrizioni di situazioni che agli umani scatenano emozioni.
Gli androidi del libro e del film hanno anche un corpo in grado di simulare il comportamento dell'uomo. Cioè sono biologicamente in grado di mostrare cambiamenti quali arrossamento del viso, smorfia di disgusto etc. Ma questo accade solo se il loro sistema riesce a collegare velocemente il contenuto di una frase a quella che è la reazione che ci si aspetterebbe da un umano.
Se il test di Turing misura la capacità della macchina a non farsi riconoscere come tale nel corso di una conversazione testuale, con gli androidi di Blade Runner le cose sono ancora più complicate in quanto anche il loro aspetto e comportamento è del tutto in linea con quello umano.
Se poi si aggiunge che sono portatori di ricordi innestati dal loro costruttore, memorie fittizie che però ciascuno di loro ritiene essere come il segno della propria identità, esattamente come un umano (che si attacca alla sua storia, alle sue origini), allora viene da chiedersi quale sia la differenza. Chi può essere sicuro che il proprio passato non sia in realtà altro che finzione indotta da qualcuno o qualcosa? Il film gioca su questa ambiguità: assodato che Rachael è un androide, che dire di Deckard?
Hai ragione, scusa l'imprecisione

Il_Dubbio

stupefacente come l'umano riesca ad immaginare scenari futuri. 

Chi ha dato ad Ansimov l'idea di creare una legge sui robot negli anni 40' ?

Come funzionavano questi robot? Dovevano avere un cervello positronico, che a me ricorda tanto un cervello sintetico, fatto della stessa specie di quelli che poi Turing immagina per la sua macchina.

Al centro sta l'informazione che viaggia in modi diversi o in strutture diverse, ma che poi dovrebbero dare lo stesso risultato.

Oggi, come ieri, il concetto non è cambiato. La qualità non sta nella struttura (di cosa è fatto il contenitore) o nello sviluppo (come si evolve il contenuto). Sta nella organizzazione. Nella supervisione del contenuto.
Cosa è buono e cosa è cattivo; cosa sia elegante e cosa sempliciotto. Il mio gusto personale o perfino la mia idea immaginativa di un prossimo futuro.

Le cose che si immaginano, si pensano, che non esistono ancora. 

Non esiste un test per certe cose. Il test di Turing era gia troppo semplicistico allora. 
Oggi servirebbe una teoria scientifica prima ancora di aver un test. Oggi abbiamo dei test (anche diversi rispetto a quello proposto da Turing) ma non abbiamo una teoria. O meglio, ne avremmo solo una, che l'elaborazione delle informazioni in un cervello umano possono essere imitate da una "macchina intelligente". Cioè che un cervello umano funziona in un modo per cui tutto possa essere riproducibile da una struttura equiparabile ad una AI. 

Chi vuole fornire una tesi contraria deve farsi carico di una teoria antitetica, ovvero spiegare che il cervello umano funziona in un modo che non è equiparabile a quello di un AI.

Cosa stiamo facendo noi, giustamente diciamo, ma allora le macchine sono coscienti? 
Noi diciamo di no... ma manca il motivo per cui non potrebbero esserlo.

la sintesi della sintesi


fabriba

Riguardo alla non-intelleggibilità

Questa condizione — sapere che qualcosa funziona ma non capirne il come — è una delle più inquietanti per la mente umana. È il contrario della razionalità illuminista. È il trionfo dell'efficacia sull'intellegibilità.







Questa non è mia, è di una intelligenza artificiale cui stavo chiedendo lumi su un aspetto tecnico, però mi pare un contenuto molto interessante, che valga la pena approfondire
(tra l'altro è un ottimo cross tra questo tema e un altro topic   sulla sfiducia nella scienza, spero non sia contro le regole del forum di riportare un commento sostanzialmente identico in 2 posti diversi)

Il_Dubbio

Citazione di: fabriba il 16 Agosto 2025, 15:01:34 PMRiguardo alla non-intelleggibilità

Questa condizione — sapere che qualcosa funziona ma non capirne il come — è una delle più inquietanti per la mente umana. È il contrario della razionalità illuminista. È il trionfo dell'efficacia sull'intellegibilità.







Se ti riferisci alla coscienza, allora la prima condizione, ancora oscura, è capire a cosa serva. 

Quando hai scoperto a cosa serve, puoi aggiungerlo alle cose che può fare solo chi è cosciente. Qualora una macchina (come si presume) non sia cosciente, quella cosa lì che fa solo chi è cosciente, non la potrà fare. 

Se lo scopri penso ti diano immediatamente il premio nobel  O:-)

 

Discussioni simili (2)