NEWS

La "coscienza" delle auto senza pilota

29 ottobre 2018

È un tema ancora allo studio, indispensabile per programmare i software delle auto a guida autonoma nelle situazioni di pericolo.

La "coscienza" delle auto senza pilota

QUESTIONE ETICA - Progettare il software di una vettura con a guida autonoma è una sfida enorme per collaudatori e ingegneri, che oltre a prevenire qualsiasi malfunzionamento devono anche dotarlo di una vera e propria coscienza, ovvero la capacità di assumere una decisione potenzialmente “distruttiva” in caso di estremo pericolo. Cosa deciderebbe il software se l'automobile si trovasse davanti un gruppo di pedoni? Farebbe sterzare bruscamente l'auto per evitarli (con il rischio di mettere a repentaglio i passeggeri o altri soggetti) o la farebbe andare dritta travolgendoli (ma salvando i passeggeri)? Negli scorsi giorni sono stati pubblicati dal giornale scientifico Nature i risultati di un grosso studio a livello mondiale, dove i partecipanti hanno dovuto esprimersi su questioni che hanno più a vedere con la morale che non con la tecnica.

TANTE VARIABILI - Il tema è fra i più interessanti sulle future auto con il pilota automatico, perché gli sviluppatori hanno pochi precedenti a cui ispirarsi e innumerevoli variabili da considerare, a partire dall'età dei pedoni fino al loro sesso o stato di salute. I partecipanti alla ricerca hanno espresso il loro punto di vista sul sito internet Moral Machine. Qui è presente una serie di scenari senza alternative, nessuno dei quali può essere interpretato nel modo “giusto”, perché in entrambi i casi la decisione è tragica. Se l'auto trovasse davanti a sé due gruppi di quattro persone, senza aver la possibilità di fermarsi o sterzare, andrebbe dritta per salvare quelle di mezza età o i giovani? E chi salverebbe fra tre animali e tre passeggeri dell'auto? I test sono in tutto tredici, compresi quelli con persone che violano le regole: l'auto investirebbe cinque persone che hanno attraversato la strada con il rosso oppure quattro che sono passati con il verde?

DIFFERENZE CULTURALI - Lo studio è iniziato nel 2014 e ha prodotto 40 milioni di interazioni, che non verranno considerate un modello per gli sviluppatori ma danno un'idea di cosa pensano le persone su questioni così delicate. Dai risultati è emerso che i partecipanti hanno cercato di salvare gli umani a scapito degli animali, i giovani a scapito degli anziani e di “sacrificare” il minor numero di persone. Gruppi più piccoli di partecipanti hanno messo in salvo le donne a scapito degli uomini, le persone di fascia sociale più alta ed i pedoni rispetto ai passeggeri. La ricerca ha evidenziato anche differenze fra paesi di cultura orientale e occidentale, che mettono un'enfasi diversa nei confronti della singola persona: nelle nazioni asiatiche, dove al centro della società c'è il gruppo, i partecipanti hanno salvato maggiormente i giovani, mentre in quelle occidentali e in Nord America è parsa evidente la volontà di salvare il maggior numero di persone.



Aggiungi un commento
Ritratto di Agl75
29 ottobre 2018 - 21:33
Ottimi quesiti. Ad oggi, chi guida, in generale, sterza bruscamente e centra il platano, travolgendo subito prima un ciclista che passa a destra. Se però l’auto decide di finire sul platano per non travolgere due cani, significa che è giusto tifare per il meteorite finale
Ritratto di Angi0203
3 novembre 2018 - 11:29
aklg, quanto la tua traiettoria viene bruscamente occupata da "qualcosa" il primo istinto umano è di "sterzare per evitare" e schiaccia a fondo il freno. Che qualcuno in quel momento si "fermi" a ragionare sul fatto che sterzando potrebbe invadere il marciapiede a (da noi) sinistra dove stà passeggiando la coppietta che prima non aveva notato (perché, giustamente, guidava) … mi sembra difficile. D'altra parte la vettura autonoma ha un quadro tridimensionale a 360° della zona in cui si trova e potrebbe tenere conto di questo, come dell'autocisterna dietro di noi che senza dubbio non ce la farà a frenare in tempo e probabilmente schiaccerà che è seduto in seconda fila … ecc ecc
Ritratto di probus78
29 ottobre 2018 - 21:41
È una tematica delicatissima. L'essere umano in una frazione di secondo sceglie e decide in base all l'istinto.. Probabilmente la scelta istintiva viene influenzata dal nostro background culturale ed etico ed alla fine cambia da persona a persona. L'intelligenza artificiale invece viene programmata con degli algoritmi che decidiamo a tavolino ed a freddo. E di certo non è facile a freddo fare delle scelte che poi potranno determinare la vita o la morte per un essere umano a seconda di età, sesso o altro. È un tema davvero delicato... Non vorrei proprio essere nei panni di chi setta algoritmi del genere...
Ritratto di Fr4ncesco
29 ottobre 2018 - 22:31
2
E' preferibile che tuteli a prescindere gli occupanti; chi comprerebbe un'auto che decide di sacrificarti? E se i pedoni sono lì dove non dovrebbero stare, perchè ci dovrebbe rimettere l'ignaro automobilista? Per me chi si trova davanti l'auto è una vittima collaterale che non dovrebbe stare in quel punto se tanto la guida autonoma è infallibile. Le soluzione secondo me sarebbe vietare qualsiasi mezzo non in clouding con tutte le AI che gestiscono il traffico, inclusi i pedoni che non dovrebbero più circolare per le strade aperte ai veicoli, oppure lasciare il libero arbitrio affidando il controllo dell'auto sempre al conducente.
Ritratto di Angi0203
3 novembre 2018 - 11:07
idea allettante, mettere in tunnel il traffico separandolo rigidamente da pedoni/ciclisti. Metodo che risolverebbe gran parte dei conflitti già oggi (indipendentemente dalla guida autonoma). Penso che, purtroppo, il d3f1c3nt3 che nonostante barriere si andrà ad intrufolare nel traffico lo troveremo sempre. Costi probabilmente proibitivi.
Ritratto di Fr4ncesco
29 ottobre 2018 - 22:40
2
Aggiungo, se poi queste scelte sono al vaglio di animalisti e doppi moralsiti di qualsiasi genere stiamo freschi. Solo il Signore in persona avrebbe le capacità di scegliere tra il giusto e il sbagliato in maniera inequivocabile, ma visto che interpellare il divino sarebbe alquanto difficile, forse sarebbe più semplice che l'impostazione "etica" dell'auto sia scelta nel menù dal proprietario, tra le modalità di guida e le luci ambientali.
Ritratto di Giuliopedrali
30 ottobre 2018 - 12:36
Per me le auto dovrebbero esser guidate però dovrebbero evitare gli incidenti da sole... Utopia.
Ritratto di Angi0203
3 novembre 2018 - 11:15
oggi come oggi le vetture sono tutte progettare e costruite per salvaguardare chi è "dentro" rispetto a chi è "fuori". Penso che questa base non cambierà.