Citazione di: fabriba il 16 Agosto 2025, 15:08:24 PM

Sapere che qualcosa [l'intelligenza artificiale, ndr] funziona ma non capirne il come — è una delle più inquietanti per la mente umana. È il contrario della razionalità illuminista. È il trionfo dell'efficacia sull'intellegibilità.

 





Questa non è mia, è di una intelligenza artificiale cui stavo chiedendo lumi su un aspetto tecnico, però mi pare un contenuto molto interessante...  mi vien da chiedermi se una AI così concepita sia stata il risultato di necessità tecniche, o il frutto dell'hummus culturale attuale in cui una prima fase dell'illuminismo sta andando a chiudersi.
(tra l'altro è un ottimo cross tra questo tema e un altro topic  sulla intelligenza artificiale, spero non sia contro le regole del forum di riportare un commento sostanzialmente identico in 2 posti diversi)

credo che l'AI nasca come figlia di necessità tecnica, così come l'intelligenza naturale è figlia di necessità adattative evoluzionistiche.
Non c'è perdita di controllo, perchè l'AI si inserisce in un conteso complesso che non andava più avanti per l'impossibilità di prenderne il controllo.
Quindi,  l'ostacolo si poteva superare solo rinunciando a un controllo che comunque già non possedevamo.
Quello che è interessante notare invece è che, come l'Ai artificiale  afferma indirettamente, e come noi crediamo, sulla nostra intelligenza avremmo il controllo, il che è palesemente falso.
Dunque perchè lo crediamo, fino ad averlo fatto ''credere'' alla stessa intelligenza artificiale?
Credo perchè pensiamo che tutto ciò che è dentro noi perciò sta dalla nostra parte, mentre per ciò che sta fuori no.
Dunque il motivo per cui la nostra intelligenza non ci preoccupa è solo perchè sta certamente dalla nostra parte (o almeno si spera, visto che non abbiamo la libertà di rinunciarvi), e non perchè ne abbiamo il perfetto controllo essendo parte di noi.
E' in generale la pretesa/illusione che su di noi si abbia pieno controllo ad essere errata.
Non ne abbiamo il controllo, e ci sarà un buon motivo perchè non lo si abbia, anche se può essere difficile da capire.
Il fatto che invece l'intelligenza artificiale stia fuori di noi ci permette di comprendere meglio il motivo della sua incontrollabilità, per cui comprendendo i motivi dell'una, e facendo un parallelo fra le due intelligenze, si comprenderanno i motivi dell'altra.
L'AI è veramente intelligente se ci aiuta comprendere l'intelligenza naturale.

Che cosa fa effettivamente una teoria scientifica?
Limita il numero di casi possibili in un dato contesto, di cui perciò possiamo prendere il controllo.
Essendo limitato l'insieme dei casi, lo possiamo ''comprendere'' nel senso letterale di essere il loro contenitore.
Ogni teoria scientifica ha le sue equazioni, che contengono in se tutti i possibili casi, le quali possono anche apparire semplici nella loro eleganza, ma ciò non sempre corrisponde a una facilità della loro risoluzione, cioè a tirare fuori tutti i casi.
Se affidiamo il compito ad una macchina sarà adesso lei a ''comprendere'' la teoria.
La comprensione in ogni caso non ha un valore in se, ma serve a trovare le soluzioni, per cui noi possiamo rinunciare a comprendere se una macchina lo fa al posto nostro.
La stessa ''realtà come ci appare'' è una teoria scritta in un linguaggio ''immaginifico'' che applichiamo alla realtà.
Una teoria che comprendiamo così bene da apparirci ''evidente''.
Nell'evidenza, vedere la realtà e comprenderla sono la stessa cosa.
Però ciò che vediamo non è la realtà, ma la  comprensione che ne abbiamo.
La realtà non ha una sua forma; dargliene una significa comprenderla.
Non c'è altro modo di tenere dentro di se la realtà, essendone solo parte.
L'osservatore non può vedere ciò che osserva, ma solo il risultato delle sue osservazioni.

Citazione di: iano il 16 Agosto 2025, 15:43:32 PM................Quello che è interessante notare invece è che, come l'Ai artificiale  afferma indirettamente, e come noi crediamo, sulla nostra intelligenza avremmo il controllo, il che è palesemente falso.......................
Dunque il motivo per cui la nostra intelligenza non ci preoccupa è solo perchè sta certamente dalla nostra parte (o almeno si spera, visto che non abbiamo la libertà di rinunciarvi), e non perchè ne abbiamo il perfetto controllo essendo parte di noi............

La questione secondo me non è di controllo, ma rimane a un livello più basso di comprensione.
Se una cosa è efficace, non vuol dire che lo è nel 100% dei casi, e quando non lo è, se non si può comprendere la decisione diventa difficile da digerire.

Esempio:
A) Umano alla guida, esercizio del carrello, deve scegliere se passare sopra a un bimbo o un vecchio, entrambi non li può salvare.
     - a seconda della cultura sceglie di salvare il bimbo o il vecchio, ma in linea di massima possiamo interrogare e capire il perché della scelta.
B) AI alla guida, stesso scenario. Se hai avuto esperienza delle cosiddette "allucinazioni"  delle AI, sai che in linea di massima non possiamo interrogare e capire il perché della scelta.


Magari AI salva più bimbi e più vecchi però sui grandi numeri...  è una scelta difficile tra l'efficacia e la comprensione.

Citazione di: iano il 16 Agosto 2025, 16:08:32 PMSe affidiamo il compito ad una macchina sarà adesso lei a ''comprendere'' la teoria.
La comprensione in ogni caso non ha un valore in se, ma serve a trovare le soluzioni, per cui noi possiamo rinunciare a comprendere se una macchina lo fa al posto nostro.

più o meno il mio commento sopra si applicava anche a questo