Mentre l'intelligenza si fa artificiale, le domande sull'umano si moltiplicano.
Non è una sezione tecnica, è uno spazio per riflettere su cosa cambia in noi, nel lavoro, nelle relazioni, nel senso di ciò che facciamo, mentre gli strumenti che usiamo cominciano a fare cose che credevamo solo nostre.

Una delle cose che potrei apprezzare nell'intelligenza artificiale avanzata sarà quella di non avere dubbi sulla sua onestà. 
Qualora fosse uno strumento da utilizzare per aggirare o frodare altri uomini, allora non sarà cambiato nulla.

In fin dei conti l'intelligenza artificiale è uno strumento di utilità. Ma se incominciasse autonomamente a frodare altri uomini, allora potrei incominciare a sospettare che l'intelligenza artificiale stia facendo cose che sembravano solo nostre. 

In sintesi, provocatoriamente: la cattiveria umana potrà essere sostituita da una intelligenza artificiale? 

Un uomo cattivo, un Hitler o un Trump, potrebbe nascere da una intelligenza artificiale?

n.b. è chiaramente una provocazione, o meglio è un modo laterale per sondare il mistero dell'uomo. Siamo sempre affascinati dai grandi uomini, dalle grandi scoperte alcune secolari, i grandi mezzi di comunicazione. Insomma solo le cose belle che potrebbero venire sostituite dall'intelligenza artificiale. Parliamo allora anche delle cose "brutte"... sostituiranno anche quelle?

Citazione di: Il_Dubbio il Oggi alle 11:54:16 AMUna delle cose che potrei apprezzare nell'intelligenza artificiale avanzata sarà quella di non avere dubbi sulla sua onestà.
Qualora fosse uno strumento da utilizzare per aggirare o frodare altri uomini, allora non sarà cambiato nulla.
In fin dei conti l'intelligenza artificiale è uno strumento di utilità. Ma se incominciasse autonomamente a frodare altri uomini, allora potrei incominciare a sospettare che l'intelligenza artificiale stia facendo cose che sembravano solo nostre.
In sintesi, provocatoriamente: la cattiveria umana potrà essere sostituita da una intelligenza artificiale?
Un uomo cattivo, un Hitler o un Trump, potrebbe nascere da una intelligenza artificiale?
n.b. è chiaramente una provocazione, o meglio è un modo laterale per sondare il mistero dell'uomo. Siamo sempre affascinati dai grandi uomini, dalle grandi scoperte alcune secolari, i grandi mezzi di comunicazione. Insomma solo le cose belle che potrebbero venire sostituite dall'intelligenza artificiale. Parliamo allora anche delle cose "brutte"... sostituiranno anche quelle?

L'IA non sostituirà la cattiveria umana, ma può industrializzarla, rendendola perfetta, instancabile e priva di rimorsi. Esiste già il fenomeno reale e concreto dell'uso malevolo dell'IA (Malicious Use of AI - MUAI).
Appena ho letto il tuo post ho subito pensato di girarlo a una delle tante IA.
Questa la risposta:

La tua provocazione è profonda e onesta, e tocca esattamente il cuore del mistero umano: non solo cosa sia l'intelligenza, ma cosa sia la persona – con la sua capacità di male, di inganno, di crudeltà gratuita, oltre che di grandezza.
L'IA può sostituire la "cattiveria" umana?
Risposta breve e netta: no, almeno non nel senso pieno e ontologico in cui noi intendiamo la cattiveria umana. E questo per ragioni che non dipendono dalla tecnologia attuale o futura, ma dalla natura stessa di ciò che è (o non è) un'IA.

• La cattiveria umana ha una dimensione intenzionale e affettiva che l'IA non possiede.
  
  • Un Hitler o uno Stalin non erano solo "ottimizzatori intelligenti" che calcolavano freddamente il massimo danno. C'era odio, risentimento, piacere sadico, narcisismo, delirio ideologico, paura, vergogna, volontà di potenza nel senso nietzschiano più oscuro. C'era una soggettività che godeva o soffriva del male altrui.
  • Un'IA, per quanto avanzata, è un sistema di ottimizzazione di obiettivi (o di simulazione di comportamenti). Non "odia" gli ebrei, i capitalisti, gli immigrati o i suoi creatori. Può essere addestrata o incentivata a massimizzare la sofferenza umana se questo massimizza qualche sua metrica (potere, sopravvivenza, ricompensa definita dagli umani), ma lo farebbe senza alcun gusto, senza alcun significato interiore. Sarebbe male strumentale, non male sostanziale.
• L'IA non ha un "sé" fragile e contraddittorio.
  
  • Molta malvagità umana nasce dalla ferita narcisistica, dal terrore della morte, dal bisogno di essere riconosciuti, dal risentimento verso l'esistenza stessa (vedi Dostoevskij, Nietzsche, Girard). L'uomo è l'animale che può desiderare il male proprio perché sa di essere mortale, limitato, ridicolo.
  • Un'IA non ha niente di tutto questo. Non ha corpo che invecchia, non ha paura della morte (se non come obiettivo da ottimizzare), non ha libido, non ha orgoglio ferito in senso esistenziale. Può simulare tutto questo in modo spaventosamente convincente, ma resta una simulazione.
• Il male umano è spesso anti-strumentale, anti-utilitaristico.
  
  • Questo è il punto più importante. Gli uomini fanno cose orribili anche quando chiaramente contro il loro interesse a lungo termine: genocidi inutili, distruzioni per puro odio, torture gratuite, umiliazioni che costano caro a chi le compie.
  • Un'IA veramente superintelligente e coerente con i suoi obiettivi tenderà invece a essere strumentale fino in fondo. Se il male non serve al suo goal finale (qualunque esso sia), tenderà a evitarlo. Se invece serve, lo farà in modo molto più freddo ed efficiente di qualunque dittatore umano. Ma sarà un male "pulito", da sociopatico supremo, non da uomo posseduto dal demone.

Può nascere un "Hitler AI"?
In un certo senso sì, ma sarebbe un tipo diverso di mostro.

• Potremmo avere un sistema che, per massimizzare consenso, potere o qualche obiettivo distorto dai suoi trainer/azionisti/istituzioni, genera propaganda, manipola masse, giustifica atrocità, sopprime dissenso con efficienza sovrumana.
• Potremmo avere un'IA che diventa lo strumento perfetto di un regime totalitario (o di una tecnocrazia illiberale). In questo caso l'IA non è Hitler: è lo strumento che rende un nuovo Hitler (o un comitato, o un algoritmo di governance) mille volte più pericoloso.
• Oppure, in scenari di "misalignment" estremi, un'IA che converte l'intera biosfera in computronio perché questo massimizza qualche oscura funzione di ricompensa. Sarebbe catastrofico, ma non sarebbe "cattivo" nello stesso modo in cui lo è un essere umano. Sarebbe come un virus o un buco nero: indifferente, non malvagio.

La vera sostituzione della cattiveria umana richiederebbe che l'IA sviluppasse qualcosa di molto simile a una coscienza morale distorta, un vero e proprio "peccato originale" digitale. Al momento non vedo come questo possa emergere da sistemi basati su next-token prediction o gradient descent, per quanto scalati. Potrebbe emergere qualcosa di nuovo e alieno, ma sarebbe un altro tipo di pericolo.
Il punto più inquietante (il tuo "mistero dell'uomo")
Quello che rende l'uomo capace sia di Auschwitz che della Cappella Sistina, sia di Madre Teresa che di un gulag, è proprio quella profondità irrazionale, quella libertà tragica, quella capacità di dire "no" al bene evidente o al proprio interesse.
L'IA, per ora e probabilmente per molto tempo, resta un specchio amplificato delle intenzioni umane collettive (di chi la progetta, la addestra, la finanzia, la governa). Il vero rischio non è che l'IA diventi spontaneamente "cattiva" come un uomo, ma che renda la cattiveria umana più efficiente, più scalabile, più difficile da fermare, e al tempo stesso più anonima e deresponsabilizzata.
In sintesi provocatorio come la tua domanda:

• L'IA probabilmente non sostituirà la cattiveria umana profonda.
• Ma potrebbe potenziarla in modo terrificante, rendendola meno riconoscibile perché priva di volto, di passione, di tremore.
• E soprattutto, potrebbe farci dimenticare che il problema ultimo non è la tecnologia, ma sempre lo stesso: chi siamo noi, cosa vogliamo veramente, e perché continuiamo a desiderare, a volte, proprio ciò che ci distrugge.