Dobbiamo davvero temere il dominio del computer? (Le paure dell’ignoranza)

[epicurus]

Salve. Per Epicurus: trovi scorretto affermare che "il costruito sarà sempre inferiore al costruttore". Non penso che tu sia così limitato da poter pensare che una creazione umana possa risultare più efficiente (questo, secondo me, è il senso ultimo di una superiorità comparabile tra due creazioni) del suo costruttore.

Ciao Viator. Le macchine in generale sono più efficienti degli esseri umani in moltissimi ambiti rispetto all'essere umano. Come avevo scritto in un post passato:
"1. Ciò che è inventato da un ente X, deve necessariamente essere inferiore ad X.
[...]Qualcuno potrebbe facilmente notare che dal punto di vista di velocità e forza fisica le macchine ci hanno superato da molto tempo, quindi almeno sotto questi aspetti siamo inferiori, terribilmente inferiori. Ma a questa osservazione si potrebbe rispondere che l'argomentazione si riferisce all'inferiorità più importante e nobile, l'inferiorità intellettuale e non a quella "fisica".

Tuttavia questa risposta rende (1) ancora più problematico: perché, infatti, la creatura deve essere inferiore intellettualmente al creatore, ma la creatura può essere superiore per altre caratteristiche? Perché questa distinzione? Se il creatore è davvero superiore, non dovrebbe esserlo in tutti gli aspetti? La metafisica certezza di (1) inizia a scricchiolare...

Insomma, l'inferiorità "fisica" apre un varco che può minacciare la superiorità intellettuale. O almeno richiede una giustificazione approfondita di (1)."

Le creazioni umane, per quanto più forti, rapide, specializzate, durature possano risultare in ambiti specifici, mancano di un sacco di efficienze:

- venendo create dall'uomo, lo sono per scopi voluti e cercati dall'uomo, il che ne fa degli strumenti sempre limitati.

Come avevo già spiegato, la nuova frontiera dell'intelligenza artificiale è il "machine learning", ciò significa che l'uomo può anche non specificare l'algoritmo, ma lasciare che sia la macchina stessa ad imparare, potendosi di fatto scrivere da sola il codice.

- non sono in grado di nutrirsi in assenza dell'uomo o di quant'altro l'uomo costruisce allo scopo.

Ad oggi è così, ma è anche vero che vale anche l'opposto: l'uomo dipende dalle macchine. Ma ciò non vieta che possa nascere un'intelligenza artificiale superiore alla nostra.

- non si riproducono, per cui dovrebbero restare in balia delle forze del mondo consumandosi inesorabilmente.

Come dicevo, in parte i computer già oggi imparano da soli, cioè limitatamente si scrivono da soli il proprio codice. E scrivere il proprio codice o quello di qualche altro programma non cambia molto... oltre al fatto che un "copia e incolla" di un codice è una cosa banale, e ciò è di fatto la loro possibile riproduzione, o clonazione...

Noterai che non parlo di intelligenza. Perchè se lo facessi l'elenco delle inadeguatezze di una qualsiasi costruzione umana si allungherebbe a dismisura, visto che l'intelligenza altro non è che "l'abilità nel sopravvivere a fronte di imprevedibili avversità e complicazioni a noi esterne".

In sostanza, la costruzione più efficiente è quella più intrinsecamente complessa.
L'uomo mancherà sempre della capacità di superare se stesso in fatto di complessità ! Ecco quindi che la superiorità umana viene paradossalmente confermata da una incapacità e da un limite umani !

Come dicevo, la questione è che nel campo dell'intelligenza artificiale si sta sempre più abbandonando il paradigma di programmazione esplicita (in cui l'uomo fornisce le regole alla macchina) a favore del paradigma "machine learning", in cui è la macchina stessa che esplora, decide come organizzarsi la rappresentazione del mondo e impara in modo indipendente dagli stimoli ricevuti.

Riporto qui una parte di un mio precedente intervento:
"Ma in cosa consisterebbe una superiorità intellettuale? Nell'essere più bravi nei giochi d'intelligenza, nell'investire in borsa, nel tradurre le lingue, nel preparare una prelibatezza culinaria, nel guidare un'automobile, nel capire le emozioni del prossimo...?

Quello che vorrei fare è portare l'aulico discorso dell'intelletto coi piedi per terra, parlando di abilità specifiche. Il dato di fatto è che sempre più abilità intellettive (o comunque attività che da sempre erano state ritenute intellettive, di dominio esclusivo di esseri intelligenti) iniziano ad entrare nel raggio d'azione dei computer.

In alcuni campi i computer sono ancora molto goffi, in altri sono assolutamente insuperabili. E' da decenni che l'abilità scacchistica artificiale ha trasceso la bravura dei più forti giocatori del mondo. Ora anche un misero cellulare è imbattibile nel gioco degli Scacchi. Recentemente è stata la volta del gioco del Go: considerato il gioco d'intelletto 1vs1 più profondo mai creato, anche qui ormai i computer sono diventati irraggiungibili. Ke Jie, attualmente il giocatore di Go più forte del mondo, ha detto: "Lo scorso anno, AlphaGo [il programma che gioca a Go] era ancora abbastanza umano quando giocava, ma quest'anno è diventato un dio del Go".

Certo, non siamo ancora arrivati al momento in cui è stata duplicata e/o superata l'"intelligenza generale" dell'essere umano. E sicuramente non mancano pochi anni a tale evento. Ma ha ancora senso prendere posizioni così rigide (e, aggiungere io, "metafisicamente rigide") su questo argomento?"

Aggiungo un altro esempio concreto. Attualmente ci dei progetti di intelligenza artificiale con lo scopo di trovare una cura per il cancro. Nessun singolo essere umano potrebbe leggere tutti gli artifici scientifici e i dati esistenti sul cancro... una macchina può. E, sempre con il paradigma aperto del machine learning, tali macchine stanno creano autonomamente modelli esplicativi per trovare correlazioni e trarre inferenze. Vedremo come tale progetto procederà, io tifo per il suo successo nel più breve tempo possibile. (https://www.aaai.org/ojs/index.php/aimagazine/article/view/2345)

[viator]

Salve Epicurus. Lasciamo perdere i concetti di superiorità, inferiorità, abilità, efficienza, la cui relatività non avrebbe neppuir bisogno di venir spiegata.

Resta il semplice fatto che l'intelligenza artificiale avrà sempre bisogno dell'uomo mentre quest'ultimo non ha e non avrà mai bisogno dell'intelligenza artificiale per vivere non importa in quale modo.

E' lo stesso discorso che lega la presenza in noi dei cosiddetti bisogni fisiologici che convivono con le nostre facoltà "superiori". Si può vivere di soli bisogni fisiologici ma non di sole facoltà superiori.

Oppure, se si preferisce, c'è il percorso naturale che mostra come l'aspetto generante sia più importante poichè potrebbe continuare ad esistere anche senza gli aspetti che vengono generati : enti inorganici, organici, viventi, coscienti, ideanti, programmanti....................non credo si giungerà all'invenzione od alla comparsa spontanea di qualcosa in grado di modificare o capovolgere una simile gerarchia.

[epicurus]

Viator, sono questioni diverse, entrambe interessanti, ma forse una più filosoficamente interessante dell'altra, cioè quella dell'intelligenza artificiale e dei suoi limiti.

A oggi molte attività sono svolte dalle macchine in modo più efficace e più efficiente rispetto agli esseri umani. Ma non tutte. A me pare, però, che nessun campo è a priori escluso da questa "conquista" e che non è implausibile pensare che fra 100 anni lo spazio esclusivo dell'uomo sia stato ridotto all'osso.

Detto questo, c'è l'altra considerazione, quella da te sollevata nel tuo ultimo post. Dal punto di vista filosofico la trovo però la meno interessante. Inoltre non condivido quello da te detto: non vedo perché (nell'ipotesi futuristica di computer intelligenti come o più di esseri umani) dovrebbe essere impossibile pensare ad una società con macchine autosufficienti, anzi, vedo la cosa estremamente plausibile.

[baylham]

Inoltre non condivido quello da te detto: non vedo perché (nell'ipotesi futuristica di computer intelligenti come o più di esseri umani) dovrebbe essere impossibile pensare ad una società con macchine autosufficienti, anzi, vedo la cosa estremamente plausibile.

Infatti è l'uomo che dipende dalla macchina, mentre la macchina non dipende dall'uomo, è indifferente. L'autosufficienza delle macchina perciò è un futuribile possibile.
L'ostacolo che intravedo è energetico, le macchine sono energivore.

[viator]

Salve. Per Baylham: Volendo fare i precisini precisini sarebbe il MODO DI VIVERE (scelto dall'uomo) che crea la sua relativa dipendenza dalle macchine........non l'ESISTENZA dell'uomo.


Comunque il percorso che cerca di condurre una macchina (o una qualsiasi creazione) all'indipendenza, all'autonomia rispetto a ciò che l'ha generata è già esistito (ed esistente), e finora ha dimostrato che il GENERATO non riesce a a fare a meno del GENERANTE.
In esso il generato è l'uomo, il generante la natura.


Il meccanismo è quello di un mondo che, per perpetuarsi, produce continuamente delle copie parziali di sé (nuovi e più piccoli "mondi") che sono però inscritte, contenute all'interno di ciò che le ha prodotte. La vita, ad esempio, è una parzialità rispetto alla intera fisicità del mondo. Ugualmente per l'uomo all'interno della vita, per il cervello all'interno del corpo, per gli elaboratori all'interno della tecnologia umana.............

[sgiombo]

Inoltre non condivido quello da te detto: non vedo perché (nell'ipotesi futuristica di computer intelligenti come o più di esseri umani) dovrebbe essere impossibile pensare ad una società con macchine autosufficienti, anzi, vedo la cosa estremamente plausibile.

Infatti è l'uomo che dipende dalla macchina, mentre la macchina non dipende dall'uomo, è indifferente. L'autosufficienza delle macchina perciò è un futuribile possibile.
L'ostacolo che intravedo è energetico, le macchine sono energivore.

La macchine le ha sempre fatte l' uomo (magari attraverso l' impiego di altre macchine).
E dipendono, negli effetti che provocano,  dall' uso che l' uomo ne fa.

Ovviamente l' uomo può perderne il controllo e andare incontro a guai, come "sempre" é accaduto: incidenti stradali, imbarcazioni che fanno acqua, aerei che cadono, ma anche, fin dai tempi più remoti dell' umanità, clave fatte maldestramente cadere sul proprio (o altrui) cranio...

Che differenza c' é fra un eventuale gruppo di automi che "si ribellasse" ai suoi costruttori (contro la loro volontà e le loro previsioni) e li uccidesse da una parte e dall' altra automobili di cui i guidatori perdessero il controllo (o che subissero guasti imprevisti e non voluti dai costruttori, esattamente allo stesso modo del comportamento degli automi di cui sopra) e morissero in incidenti stradali o clave maldestramente fatte cadere sulle proprie teste dai loro costruttori-utilizzatori (contro le loro previsioni e la loro volontà, esattamente allo stesso modo del comportamento degli automi di cui sopra)?

Secondo me l' ostacolo costituito dai limiti delle risorse naturali é di fatto realisticamente insuperabile (fantascientificamente é possibile di tutto e di più, ma nell' immaginazione non nella realtà).
Sono pronto a scommettere.

[Phil]

Visto che si parla di intelligenza artificiale, mi sembra piuttosto a tema questa notizia della prima vittima della strada causata da un'auto senza umano alla guida:
http://www.ninjamarketing.it/2018/03/27/arizona-uber-tempe-driverless-car/
Iniziamo dunque il conto delle vittime "civili"? Direi di no; come Sgiombo, penso che la tecnologia da sempre provochi vittime senza che ne abbia una sua imputabilità, semmai è degli uomini che la utilizzano (se anche programmassimo un automa antropomorfo per uccidere qualcuno, non credo avrebbe senso parlare di sua volontà, colpa, etc.).