Le nuove "autoautomobili" avranno una loro morale algoritmica?

[Eutidemo]

Non si tratta di un refuso: nel titolo ho scritto appositamente "autoautomobili" riferendomi alla Google Car, che verrà presto commercializzata, anche in Italia, con il nome di PACIFICA.
Si tratta di una vettura che, una volta impostato il percorso sul navigatore, si guiderà da sola alla meta; e, questo, anche in mezzo al traffico più caotico.
Che bello!
Il problema è che le auto che si guidano da sole, denominate in inglese AV ("Autonomous Vehicle"), dovranno necessariamente avere anche una MORALE AUTONOMA; e non più, come quando erano guidate da noi ("Dei" creatori delle macchine) ETERONOMA.
In parole povere, se adesso sta a noi decidere, d'istinto, se sterzare verso un muro e suicidarci, piuttosto che investire un bambino, in futuro tale decisione spetterà alla vettura.
Ma, in effetti, le cose non stanno esattamente così.
Ed infatti, sarà pur sempre l'uomo (anche non decidendo  sul momento), a programmare in anticipo il "comportamento etico" dell'automobile; il che è possibile per mezzo di algoritmi che, in caso di "incipiente inevitabile incidente", optino per il MALE MINORE.
Tutto risolto, allora?
Manco per niente.
Ed infatti:
1) 
Cosa si intende per MALE MINORE?
Dovrà farsi un calcolo puramente aritmetico del numero minore di vittime che si faranno sterzando a destra invece che a sinistra, oppure -ammesso che la macchina ne sia capace- si dovrà tenere conto anche del loro sesso e della loro fanciullezza (salvando preferibilmente donne -magari incinte- e bambini, come sul Titanic)?
Oppure si dovrà tenere conto dell'età in generale delle vittime, preferendo salvare vite giovani, invece di quelle vecchie (come già accade negli ospedali)?
E così via!
2)
CHI dovrà programmare la vettura, lo Stato, il Costruttore o il Proprietario?
E chi risarcirà le vittime, a seconda dei casi?
Bei problemini.
                                               ***
Da quello che ho letto, i ricercatori di uno studio pubblicato su Arxiv ("Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?"), che sono tutti psicologi, sostengono che : "...è difficilissimo definire un algoritmo che porti quelle auto a gestire dilemmi morali di questo tipo". 
Ma a questo ci ero arrivato pure io.
Secondo tale studio, peraltro, le auto che si guidano da sole dovranno raggiungere tre principali obiettivi: 
- essere coerenti;
- evitare la pubblica indignazione; 
- non scoraggiare i loro possibili futuri acquirenti.
Sarebbe come pretendere di avere la botte piena, la moglie ubriaca.
Ma se lo studio pubblicato su Arxiv conclude che le auto che si guidano da sole dovranno confrontarsi con questioni proprie dell'etica sperimentale, compiendo probabilmente scelte basate sull'UTILITARISMO (in senso filosofico), in base al quale sacrificare una vita è meglio del sacrificio di molte vite, in un articolo di commento apparso sulla Technology Review ci si chiede: "Chi mai comprerebbe un'auto programmata per sacrificare il suo proprietario, quando ciò è necessario per salvare terze persone."
Bella domanda; ma la risposta dipende anche da CHI programmerà l'auto (come sopra già detto).
Sempre dallo stesso studio, emerge che, a seguito di numerose "interviste": "... le persone sono favorevoli a sacrificare l'occupante dell'auto, purchè non siano loro ad occupare l'auto".
"Parbleu"...chi l'avrebbe mai sospettato!
La questione, peraltro, diventa anche più complicata, tenendo conto che in un futuro non lontano, le auto non solo saranno autonome e diffuse, ma anche connesse ONLINE tra di loro. 
Secondo Digital Trends (vedi sito), sarà un bel problema vedere come faranno le auto che si guidano da sole a prendere decisioni che riguardano più auto (e quindi non solo un'auto e dei pedoni); ed infatti, tali AV, interconnesse in rete, avranno una visione d'insieme dell'intera problematica -ad esempio, di un imminente tamponamento a catena- e i loro algoritmi dovranno considerare parametri ancora più complicati. 
Per concludere, secondo una ricerca condotta da un gruppo di psicologi che lavorano per il Massachusset Institute of Tecnology, l'Oregon University e la School of Economics di Tolosa, sarò DIFFICILISSIMO ottenere un algoritmo che porti un'automobile a gestire tali dilemmi morali; ed io sono d'accordo con loro.
Tantissimo tempo fa, Philip K. Dick nel suo "Do androids dream of electric sheep?", che ispirò Blade Runner, ipotizzava un futuro nel quale il confine tra umani e androidi, robot mossi da intelligenza artificiale, era estremamente labile; per non parlare di Isaac Asimov, e le sue tre famose "leggi della robotica" (a lui ispirate da John W. Campbell a seguito di una conversazione avuta con lui un paio di giorni prima del Natale 1940):
1) Un robot non può recar danno a un essere umano e non può permettere che, a causa di un suo mancato intervento, un essere umano riceva danno.
2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.
3) Un robot deve proteggere la propria esistenza, purché la sua autodifesa non contrasti con la Prima o con la Seconda Legge.
A tali tre leggi, se me lo consentite, io aggiungerei un corollario alla prima (1):
"Nel caso in cui sia inevitabile dover recare danno ad uno o più esseri umani,  ovvero, a causa di un suo mancato intervento, dovranno inevitabilmente ricevere danno uno o più esseri umani, il robot dovrà optare per il minor danno possibile recato o ricevuto".
Vai, però, a capire QUALE!
Tali problematiche, qui in Italia, sono state affrontate Alberto Broggi, presidente del VisLab di Parma, l'unico centro italiano dove da molto tempo questo tipo di automobili, e le loro problematiche, sono state approfonditamente studiate; ma, purtroppo, niente affatto risolte. 
Occorre peraltro tenere conto che le "autoautomobili" non sono programmate solo in modo "rigido", ma anche in modo "evolutivo"; cioè, tramite l'"apprendimento", dovuto alla I.A. (intelligenza artificiale) di un c.d. "SISTEMA ESPERTO".
Ed infatti, secondo l'ultimo rapporto mensile di Google, i veicoli "...stanno imparando a essere più prudenti se ci sono bimbi nelle vicinanze"; ed infatti, "pare" che sia siano sfruttate  le festività di Halloween per insegnare alle vetture a "...riconoscere i bambini, anche se sono mascherati, e a guidare con maggiore cautela in loro presenza, tarando appositamente le telecamere preposte a tale segnalazione". 
Cioè, "Se i sensori riconoscono bimbi, in maschera o meno, il software capisce che possono comportarsi diversamente dagli adulti. I loro movimenti possono essere meno prevedibili – attraversano improvvisamente la strada, o corrono lungo un marciapiede – e la loro presenza può essere nascosta dai veicoli parcheggiati". 
Questa è una buona cosa...ma i problemi di cui sopra, secondo me, restano in buona misura irrisolti!
Staremo a vedere che succede!

[Angelo Cannata]

Tutti i problemi citati sono ancora da risolvere quando a guidare è una persona, quindi cosa c'è di nuovo nell'affrontarli riguardo all'autoguida? Così come si continua a discutere su quale sia il male minore in certe situazioni complesse in cui a guidare è un essere umano, è ovvio che, di conseguenza, si continuerà a farlo riguardo alle auto che si guidano da sé. La questione viene ingigantita perché si presuppone l'impostazione del software di un'auto come stabilito, fermo, definitivo; ma tutti sanno che i software hanno un'infinità di versioni 2.0, 2.1, 2.0.32.56, spesso create proprio perché il programmatore ha cambiato parere riguardo ad una questione.
Perciò, così come non si finisce di discutere sulle leggi che devono regolare i comportamenti umani, non si finirà di discutere sulle leggi informatiche che, via software, regoleranno i comportamenti delle auto. Così come in ogni software ci sono parti modificabili dall'utente, altre modificabili solo da chi l'ha programmato, altre solo dall'autorità costituita, e poi ci sono anche gli hackers che tentano di intervenire dove non potrebbero o non dovrebbero, allo stesso modo avverrà con le auto.
Potrà sembrare di portata maggiore il fatto che un'auto è in grado di uccidere, ma anche un computer è in grado di creare problemi vitali a una banca e quindi anche ai suoi clienti.
Dunque non vedo niente di nuovo sotto il sole, tanto rumore per nulla. Non c'era bisogno delle auto che si autoguidano per scontrarci con questi problemi: li avevamo già.

[Eutidemo]

Tutti i problemi citati sono ancora da risolvere quando a guidare è una persona, quindi cosa c'è di nuovo nell'affrontarli riguardo all'autoguida? Così come si continua a discutere su quale sia il male minore in certe situazioni complesse in cui a guidare è un essere umano, è ovvio che, di conseguenza, si continuerà a farlo riguardo alle auto che si guidano da sé. La questione viene ingigantita perché si presuppone l'impostazione del software di un'auto come stabilito, fermo, definitivo; ma tutti sanno che i software hanno un'infinità di versioni 2.0, 2.1, 2.0.32.56, spesso create proprio perché il programmatore ha cambiato parere riguardo ad una questione.
Perciò, così come non si finisce di discutere sulle leggi che devono regolare i comportamenti umani, non si finirà di discutere sulle leggi informatiche che, via software, regoleranno i comportamenti delle auto. Così come in ogni software ci sono parti modificabili dall'utente, altre modificabili solo da chi l'ha programmato, altre solo dall'autorità costituita, e poi ci sono anche gli hackers che tentano di intervenire dove non potrebbero o non dovrebbero, allo stesso modo avverrà con le auto.
Potrà sembrare di portata maggiore il fatto che un'auto è in grado di uccidere, ma anche un computer è in grado di creare problemi vitali a una banca e quindi anche ai suoi clienti.
Dunque non vedo niente di nuovo sotto il sole, tanto rumore per nulla. Non c'era bisogno delle auto che si autoguidano per scontrarci con questi problemi: li avevamo già.

Quello che dici, Cannata, è giusto; ma solo in parte.
Ed infatti, un conto è decidere "d'istinto" se sterzare o meno per evitare un passante, ed un altro conto è deciderlo " a priori" e razionalmente; nel primo caso, infatti, intervengono le reazioni del "sistema limbico" (che non coinvolgono tue scelte coscienti e razionali), mentre, nel secondo caso, si tratta di una decisione raggiunta "a freddo"...e demandata, per la sua esecuzione, ad una macchina.
Non vi è chi non veda la differenza tra uno che istintivamente investe un passante, per non sterzare e andarsi a schiantare contro un muro, e chi, invece, programmi "a priori" la sua macchina impartendogli il seguente ordine: "Nel caso in cui sia in ballo la mia vita, fottitene di qualsiasi altra considerazione... e investi pure chiunque ti si para davanti."
Anche tale scelta, in fondo, può essere più che legittima ("mors tua vita mea"); ma si tratta di una condizione e di una situazione morale ben diversa, da quella di chi la macchina se la guida da solo.
Per cui, secondo me, il problema c'è...eccome!

[maral]

Le autoautomobili... un altro di quegli effetti da baraccone delle meraviglie che la tecnologia è sempre ben felice di fornirci per fare soldi. Non vedo proprio quale utilità possano avere o quale bisogno soddisfare: se si voleva salire su un auto comunicando solo la destinazione per arrivarci, dopotutto ci sono già i taxi (per non parlare dei sistemi di trasporto collettivo come autobus e treni che un tempo facilitavano anche il contatto sociale, finché non sono stati inventati gli smartphone) con un autista a cui si può demandare ogni problema morale sulla guida confidando nel suo limbico agire umano che sicuramente crea molti meno problemi e sorprese di una morale programmate algoritmicamente a tavolino. Google comunque ci conta, proprio come ai suoi tempi il grande Barnum con il suo circo, e c'è davvero da contarci, la idiozia della clientela aumenta progressivamente con l'offerta tecnologica di cui non si finisce comunque con il non poterne fare a meno. per quanto demenziale inizialmente si presenti.
L'aspetto della programmazione della morale resta forse l'unico aspetto interessante della questione, l'umanità farà da cavia per un'etica algoritmicamente evolutiva in fase sperimentale.

[Eutidemo]

Le autoautomobili... un altro di quegli effetti da baraccone delle meraviglie che la tecnologia è sempre ben felice di fornirci per fare soldi. Non vedo proprio quale utilità possano avere o quale bisogno soddisfare: se si voleva salire su un auto comunicando solo la destinazione per arrivarci, dopotutto ci sono già i taxi (per non parlare dei sistemi di trasporto collettivo come autobus e treni che un tempo facilitavano anche il contatto sociale, finché non sono stati inventati gli smartphone) con un autista a cui si può demandare ogni problema morale sulla guida confidando nel suo limbico agire umano che sicuramente crea molti meno problemi e sorprese di una morale programmate algoritmicamente a tavolino. Google comunque ci conta, proprio come ai suoi tempi il grande Barnum con il suo circo, e c'è davvero da contarci, la idiozia della clientela aumenta progressivamente con l'offerta tecnologica di cui non si finisce comunque con il non poterne fare a meno. per quanto demenziale inizialmente si presenti.
L'aspetto della programmazione della morale resta forse l'unico aspetto interessante della questione, l'umanità farà da cavia per un'etica algoritmicamente evolutiva in fase sperimentale.

In effetti, anche io sono alquanto stordito e infastidito da questa "profluvie" di novità tecnologiche che ogni giorno ci sommergono sempre di più; le quali, tra l'altro, hanno spesso anche il dannoso effetto collaterale di aumentare la disoccupazione.
Una volta adeguatamente commercializzate, infatti, le "autoautomobili" potrebbero mettere "fuori mercato" i tassisti; e gli autisti in generale...con il relativo indotto.
Ma temo che sia inutile opporsi alle "magnifiche sorti e progressive" delle umane genti; i "lai" di quelli che Orazio chiamava "laudatores temporis acti", invero, non hanno mai sortito effetto alcuno.
Tanto vale consolarsi pensando agli aspetti positivi: ed infatti, almeno, si potrà andare in giro con la propria automobile, anche se completamente sbronzi...senza il rischio che ci tolgano "punti patente".


Già...ma una volta che le le "autoautomobili"  avranno preso definitivamente piede, per "guidare" la patente non servirà più a niente: con conseguente chiusura anche delle autoscuole.

Sono nato su un pianeta molto diverso da questo; ma credo che, tra non molto, mi toccherà morire su un altro ancora!

[Sariputra]

Le autoautomobili... un altro di quegli effetti da baraccone delle meraviglie che la tecnologia è sempre ben felice di fornirci per fare soldi. Non vedo proprio quale utilità possano avere o quale bisogno soddisfare: se si voleva salire su un auto comunicando solo la destinazione per arrivarci, dopotutto ci sono già i taxi (per non parlare dei sistemi di trasporto collettivo come autobus e treni che un tempo facilitavano anche il contatto sociale, finché non sono stati inventati gli smartphone) con un autista a cui si può demandare ogni problema morale sulla guida confidando nel suo limbico agire umano che sicuramente crea molti meno problemi e sorprese di una morale programmate algoritmicamente a tavolino. Google comunque ci conta, proprio come ai suoi tempi il grande Barnum con il suo circo, e c'è davvero da contarci, la idiozia della clientela aumenta progressivamente con l'offerta tecnologica di cui non si finisce comunque con il non poterne fare a meno. per quanto demenziale inizialmente si presenti. L'aspetto della programmazione della morale resta forse l'unico aspetto interessante della questione, l'umanità farà da cavia per un'etica algoritmicamente evolutiva in fase sperimentale.

In effetti, anche io sono alquanto stordito e infastidito da questa "profluvie" di novità tecnologiche che ogni giorno ci sommergono sempre di più; le quali, tra l'altro, hanno spesso anche il dannoso effetto collaterale di aumentare la disoccupazione. Una volta adeguatamente commercializzate, infatti, le "autoautomobili" potrebbero mettere "fuori mercato" i tassisti; e gli autisti in generale...con il relativo indotto. Ma temo che sia inutile opporsi alle "magnifiche sorti e progressive" delle umane genti; i "lai" di quelli che Orazio chiamava "laudatores temporis acti", invero, non hanno mai sortito effetto alcuno. Tanto vale consolarsi pensando agli aspetti positivi: ed infatti, almeno, si potrà andare in giro con la propria automobile, anche se completamente sbronzi...senza il rischio che ci tolgano "punti patente". Già...ma una volta che le le "autoautomobili" avranno preso definitivamente piede, per "guidare" la patente non servirà più a niente: con conseguente chiusura anche delle autoscuole. Sono nato su un pianeta molto diverso da questo; ma credo che, tra non molto, mi toccherà morire su un altro ancora!

E per fortuna, caro Eutidemo, che "ci toccherà morire"...pensa se dovessimo vivere in eterno sopra questo porcaio!...

[sgiombo]

Google comunque ci conta, proprio come ai suoi tempi il grande Barnum con il suo circo, e c'è davvero da contarci, la idiozia della clientela aumenta progressivamente con l'offerta tecnologica di cui non si finisce comunque con il non poterne fare a meno. per quanto demenziale inizialmente si presenti.

Ben detto, Maral!

E non solo circa l' "offerta tecnologica": dal mio paese sono partiti diversi pullmann carichi di gente che ha gettato via una domenica (oltre che un po' di soldi) per andare a farsi prendere per il c... (il fondoschiena) da quel sedicente "artista" che aveva fatto montare una penosa passerella di plastica sul lago d' Iseo (per la cronaca: é passato qualche mese e per fortuna non ne parla più nessuno, alla faccia di certi giornalisti e anche critici d' arte che ci mancava poco che paragonassero l' indecorosa pagliacciata alla rivoluzione apportata da Giotto nella pittura).

[Eutidemo]

E per fortuna, caro Eutidemo, che "ci toccherà morire"...pensa se dovessimo vivere in eterno sopra questo porcaio!...

Sono PIENAMENTE d'accordo con te: se la vita una cosa buona ce l'ha, è che a un certo punto finisce.
Non vorrei sembrare troppo pessimista, ma condivido in pieno quanto diceva Sofocle per bocca di Edipo (a Colono, mi pare): "La cosa migliore sarebbe non nascere affatto. Ma se proprio sei stato così sfortunato da nascere...la cosa migliore è morire il prima possibile!!!"