Ciao Jean, ciao Lou,
premetto che qui di seguito riporto semplicemente una mia opinione, magari formatasi sulla base di un po' di esperienza nel settore informatico, ma pur sempre un'opinione.
Riguardo alla capacità di creare un nuovo linguaggio dal nulla:
Le I.A., almeno quelle che vengono pubblicizzate, sono di per se, molto semplici, se paragonate alle intelligenze "organiche", ma anche il cervello umano, che ha capacita di gran lunga superiori a qualunque rete neurale artificiale (almeno per ora), non è in grado di auto-addestrarsi e ciò che apprende deriva dall'associazione di azioni, eventi e stimoli sensoriali.
In pratica, anche un bambino impara con un sistema di retro-azione del tipo:
[Piango]->[Mamma mi attacca alla tetta] oppure [Mamma sorride]->[Sorrido]->[Mamma mi stringe a se]
Tutti gli animali compreso l'uomo, imparano a comunicare osservando, ascoltando i loro simili, provando ad emettere suoni e venendo corretti.
Non posso escludere che i rumori inarticolati emessi da due poppanti possano rappresentare una forma elementare di comunicazione, ma mi sento di escludere che possa evolvere in qualcosa di sofisticato per ragioni fondamentali:
- I due poppanti non hanno ragioni per comunicare a parte i loro bisogni primari che non possono essere soddisfatti reciprocamente.
- I due poppanti al buio non hanno nessuna azione e nessun evento da associare ai loro stimoli sensoriali.
Al massimo, impareranno, che se emettono dei suoni, sentiranno dei suoni simili.
Le forme di comunicazione che conosciamo oggi, si sono evolute nell'arco di migliaia di anni, non sono state apprese spontaneamente da due individui che interagivano in qualche modo.
Riguardo l'assenza di uno scopo:
Apprendere in qualsiasi ambito animale, umano o artificiale, semplificando al massimo, significa tentare in modo casuale, verificare il risultato, accettare se funziona o modificare se non funziona.
La definizione di "funziona" discende dallo scopo che si vuole perseguire. Gli animali hanno bisogni da soddisfare, gli umani hanno bisogni e desideri, le I.A., per ora non hanno ne bisogni, ne desideri.
Le I.A. usano la definizione di "funziona" che discende dagli scopi degli umani.
Se due I.A. creassero un nuovo linguaggio, lo farebbero perché un umano ha impostato quell'obbiettivo volutamente o per errore.
Le I.A. in questione hanno eseguito correttamente l'algoritmo di apprendimento, cercando di ottenere il risultato che un umano ha impostato in modo non corretto.
Il fatto che abbiano iniziato a parlare male significa solo che l'umano si è dimenticato di dir loro di parlare bene: dal loro punto di vista è irrilevante, siamo noi a vederci un significato che non c'è.
Riguardo alla disinformazione:
L'anomalia verificatasi in questo caso ha avuto risonanza perché è stata trattata nel modo in cui si trattano gli scoop giornalistici, specie quelli diffusi tramite Facebook, facendo leva sulla nostra paura:
"Le Intelligenze artificiali comunicano usando un linguaggio che i loro creatori non comprendono. Perché inventano un linguaggio incomprensibile? Quali piani potrebbero architettare? Sfuggiranno al nostro controllo? E se un drone con i missili facesse comunella con un satellite per le telecomunicazioni? E se i militari addestrassero i robot?"
Purtroppo, le notizie che arrivano al grande pubblico, sono spesso delle mezze bufale, non perché siano false, ma perché vengono trattate in modo falso e tendenzioso.
Di solito lo scopo è di fare pubblicità ad un'azienda o a un servizio, di vendere della pubblicità sui siti d'informazione o di distrarre l'attenzione dai veri problemi.
Secondo me, la vera notizia allarmante in questo caso è che i ragazzi di Facebook stanno addestrando delle I.A. per poter sostituire gli umani anche nelle attività di contrattazione.
Tra l'altro, ormai in molti dei siti di servizi che offrono l'assistente in chat, senza rendervene conto, state parlando con una I.A.
Finché si tratta di far eseguire lavori ripetitivi alle macchine consentendo all'uomo di occuparsi di attività intellettive elevate, credo siano quasi tutti d'accordo, ma la capacità di mediazione dovrebbe essere una prerogativa umana.
Se si continua su questa strada, tra non molto, non ci sarà più alcuna attività ad avere un valore "se svolta da un umano".
Sarebbe come far dipingere i quadri ad un robot:
http://www.ansa.it/canale_scienza_tecnica/notizie/tecnologie/2017/05/22/robot-pittori-in-gara-dipingono-ritratti-e-paesaggi-_78c1c935-4019-4ec9-ad1c-6e75b0500a37.html
Oppure come far scrivere libri ad una i.A.:
https://www.wired.it/scienza/lab/2017/10/25/intelligenza-artificiale-storie-orrore/
Oppure parlare con una bambola gonfiabile "intelligente"
https://it.euronews.com/2018/07/26/arriva-la-bambola-gonfiabile-intelligente-cina-chip-wndoll-intelligenza-artificiale
Saluti a tutti
Andrea
premetto che qui di seguito riporto semplicemente una mia opinione, magari formatasi sulla base di un po' di esperienza nel settore informatico, ma pur sempre un'opinione.
Riguardo alla capacità di creare un nuovo linguaggio dal nulla:
Le I.A., almeno quelle che vengono pubblicizzate, sono di per se, molto semplici, se paragonate alle intelligenze "organiche", ma anche il cervello umano, che ha capacita di gran lunga superiori a qualunque rete neurale artificiale (almeno per ora), non è in grado di auto-addestrarsi e ciò che apprende deriva dall'associazione di azioni, eventi e stimoli sensoriali.
In pratica, anche un bambino impara con un sistema di retro-azione del tipo:
[Piango]->[Mamma mi attacca alla tetta] oppure [Mamma sorride]->[Sorrido]->[Mamma mi stringe a se]
Tutti gli animali compreso l'uomo, imparano a comunicare osservando, ascoltando i loro simili, provando ad emettere suoni e venendo corretti.
Non posso escludere che i rumori inarticolati emessi da due poppanti possano rappresentare una forma elementare di comunicazione, ma mi sento di escludere che possa evolvere in qualcosa di sofisticato per ragioni fondamentali:
- I due poppanti non hanno ragioni per comunicare a parte i loro bisogni primari che non possono essere soddisfatti reciprocamente.
- I due poppanti al buio non hanno nessuna azione e nessun evento da associare ai loro stimoli sensoriali.
Al massimo, impareranno, che se emettono dei suoni, sentiranno dei suoni simili.
Le forme di comunicazione che conosciamo oggi, si sono evolute nell'arco di migliaia di anni, non sono state apprese spontaneamente da due individui che interagivano in qualche modo.
Riguardo l'assenza di uno scopo:
Apprendere in qualsiasi ambito animale, umano o artificiale, semplificando al massimo, significa tentare in modo casuale, verificare il risultato, accettare se funziona o modificare se non funziona.
La definizione di "funziona" discende dallo scopo che si vuole perseguire. Gli animali hanno bisogni da soddisfare, gli umani hanno bisogni e desideri, le I.A., per ora non hanno ne bisogni, ne desideri.
Le I.A. usano la definizione di "funziona" che discende dagli scopi degli umani.
Se due I.A. creassero un nuovo linguaggio, lo farebbero perché un umano ha impostato quell'obbiettivo volutamente o per errore.
Le I.A. in questione hanno eseguito correttamente l'algoritmo di apprendimento, cercando di ottenere il risultato che un umano ha impostato in modo non corretto.
Il fatto che abbiano iniziato a parlare male significa solo che l'umano si è dimenticato di dir loro di parlare bene: dal loro punto di vista è irrilevante, siamo noi a vederci un significato che non c'è.
Riguardo alla disinformazione:
L'anomalia verificatasi in questo caso ha avuto risonanza perché è stata trattata nel modo in cui si trattano gli scoop giornalistici, specie quelli diffusi tramite Facebook, facendo leva sulla nostra paura:
"Le Intelligenze artificiali comunicano usando un linguaggio che i loro creatori non comprendono. Perché inventano un linguaggio incomprensibile? Quali piani potrebbero architettare? Sfuggiranno al nostro controllo? E se un drone con i missili facesse comunella con un satellite per le telecomunicazioni? E se i militari addestrassero i robot?"
Purtroppo, le notizie che arrivano al grande pubblico, sono spesso delle mezze bufale, non perché siano false, ma perché vengono trattate in modo falso e tendenzioso.
Di solito lo scopo è di fare pubblicità ad un'azienda o a un servizio, di vendere della pubblicità sui siti d'informazione o di distrarre l'attenzione dai veri problemi.
Secondo me, la vera notizia allarmante in questo caso è che i ragazzi di Facebook stanno addestrando delle I.A. per poter sostituire gli umani anche nelle attività di contrattazione.
Tra l'altro, ormai in molti dei siti di servizi che offrono l'assistente in chat, senza rendervene conto, state parlando con una I.A.
Finché si tratta di far eseguire lavori ripetitivi alle macchine consentendo all'uomo di occuparsi di attività intellettive elevate, credo siano quasi tutti d'accordo, ma la capacità di mediazione dovrebbe essere una prerogativa umana.
Se si continua su questa strada, tra non molto, non ci sarà più alcuna attività ad avere un valore "se svolta da un umano".
Sarebbe come far dipingere i quadri ad un robot:
http://www.ansa.it/canale_scienza_tecnica/notizie/tecnologie/2017/05/22/robot-pittori-in-gara-dipingono-ritratti-e-paesaggi-_78c1c935-4019-4ec9-ad1c-6e75b0500a37.html
Oppure come far scrivere libri ad una i.A.:
https://www.wired.it/scienza/lab/2017/10/25/intelligenza-artificiale-storie-orrore/
Oppure parlare con una bambola gonfiabile "intelligente"
https://it.euronews.com/2018/07/26/arriva-la-bambola-gonfiabile-intelligente-cina-chip-wndoll-intelligenza-artificiale
Saluti a tutti
Andrea