Un commento sul trolley problem e sull’agenzialità delle macchine

INTRODUZIONE

Ho scoperto per caso il blog di Andrea (via Blaster) e con esso un interessante post dal titolo “Macchine, Proxy ed Enti Artificiali”. Il post di Andrea è diviso in due parti: nella prima si parla di etica applicata al caso delle auto a guida autonoma e, più in generale, di agenzialità delle macchine1; nella seconda parte si parla delle implicazioni etiche connesse all’idea di usare delle macchine intelligenti come servitori.

Questo post vuol essere un commento alla sola prima parte, riguardo al tema dell’etica delle auto a guida autonoma.

IL “PROFILO ETICO” DI UN’AUTO A GUIDA AUTONOMA, OVVERO QUELLO DEL SUO GUIDATORE

In “Macchine e Proxy”, il problema dell’etica delle auto a guida viene introdotto attraverso il trolley problem. Riporto qui la descrizione che ne fa Andrea:

«Supponiamo di stare in una macchina a guida automatica ed immaginiamo una situazione in cui la macchina incontri un ostacolo imprevisto sul proprio percorso. L’ostacolo, immaginiamo ancora, sia un gruppo di umani nel mezzo della carreggiata. Ci sono due modi in cui la storia può continuare: (i) la macchina continua diritto e investe gli umani (ii) la macchina sterza danneggiando il conducente. Questa che abbiamo appena esposto è una versione molto semplificata ma fedele di un problema che i filosofi conoscono da tempo, il trolley problem […]. Il trolley problem è un esperimento mentale che ci pone davanti ad un problema etico.»

Andrea, dopo aver mostrato come la comunità filosofica non abbia una posizione unanime sull’argomento, suggerisce che un modo di risolvere il problema etico alla base del trolley problem sia che “gli enti artificiali debbano essere considerati come proxy degli enti umani”. Ovvero la soluzione al problema etico insito nel trolley problem sia quella di spostare l’agenzialità della macchina e dell’algoritmo alla base del sistema di guida autonoma il più vicino possibile al guidatore. In altre parole l’auto “si comporta come il cliente si comporterebbe se fosse lui a guidarla”. Personalmente condivido con Andrea l’idea che questa sia una soluzione percorribile.

In particolare, Andrea valuta la possibilità che le aziende inizino a vendere modelli di auto con etiche diverse, creando di fatto un terreno di competizione etico tra le aziende.

In questo modo, tuttavia, il cliente/utente/consumatore è costretto a scegliere tra i modelli proposti (da aziende diverse, o anche tra modelli di auto con etica integrata diversa offerti da una stessa azienda).

Un’opzione che non viene considerata è che l’etica di un veicolo si possa impostare come uno o più parametri, ovvero come un setting regolabile del veicolo stesso. Personalmente ritengo che questo scenario sia preferibile ai precedenti e che fornisca anche una giustificazione maggiore all’idea che le auto siano dei proxy del guidatore.

In questo modo ogni guidatore sarebbe descritto da un proprio profilo etico, ovvero una serie di parametri che alterino il comportamento dell’auto a guida autonoma in situazioni che richiedano una scelta etica. Il profilo etico permetterebbe all’auto di “[comportarsi] come il cliente si comporterebbe se fosse lui a guidarla”.

Per esempio, un guidatore che fosse convinto che la vita di un bambino sia più meritoria di protezione della vita di un adulto (compresa la propria) potrebbe istruire l’automobile a prendere sempre la decisione di sterzare qualora nel mezzo della carreggiata ci sia un bambino, per non danneggiarlo. Un guidatore utilitarista istruirebbe la propria automobile a sterzare nel caso in cui questo consentirebbe di ridurre il numero di persone danneggiate. Un guidatore potrebbe anche pensare che la propria vita sia più importante di qualunque altra e quindi istruire la macchina ad andare sempre dritto.

Uno dei modi in cui ci si può immaginare il processo è che che alla prima accensione l’auto faccia una serie di domande al conducente e da questo ne derivi il suo profilo etico; un’alternativa è che vengano presentati al guidatore degli scenari nel quale gli venga data la possibilità di prendere una decisione.

Il profilo etico potrebbe essere cambiato a seconda del guidatore, cambiato nel tempo e determinato anche da altri fattori: per esempio, dando accesso alla macchina a tutte le proprie discussioni sui social network o via e-mail, di modo da poterle utilizzare come materiale per determinare il prioprio profilo etico. Tale profilo potrebbe essere calcolato considerando elementi oggettivi, come per esempio il fatto di avere o non avere figli. Infine, si potrebbero usare delle simulazioni, costruite a partire da casi raccolti precedentemente e considerati problematici2 e quindi applicando, quasi letteralmente, il criterio che l’auto si comporti “come il cliente si comporterebbe se fosse lui a guidarla”.

Si può pensare, a questo punto, che da un lato le aziende si possano comunque differenziare rispetto alle “impostazioni etiche” predefinite dei veicoli e d’altro canto che il legislatore continui a intervenire soltanto stabilendo delle norme che si traducono in vincoli che vanno rispettati necessariamente da tutte le case automobilistiche.

In questo modo, credo, l’idea che la macchina stia esprimendo l’etica del suo guidatore e quindi sia a tutti gli effetti un proxy diventa ancora più diretta rispetto alla mediazione, o al compromesso, che il guidatore/utente si troverebbe costretto a compiere qualora dovesse scegliere solo una delle opzioni disponibili sul mercato. Tale legame infatti sarebbe stabilito dalle decisioni prese dal guidatore durante l’impostazione del proprio profilo etico.

L’idea di base rimane quella espressa da Andrea ovvero che il problema etico insito nel trolley problem sia risolvibile trasformando le auto a guida autonoma in proxy del guidatore. La scelta etica verrebbe quindi compiuta dal guidatore. Il problema, a questo punto, diventerebbe quello di trovare dei sistemi opportuni per codificare nella maniera più fedele possibile il profilo etico del guidatore.


Nell’immagine: immagine di un’auto a guida autonoma che dalla Seconda Grand Challenge DARPA (2005) passa alla Urban Grand Challenge (2007). CC-BY-SA 3.0 by Spaceape Via Wikimedia Commons.


  1. So di inoltrarmi in un territorio che non mi appartiene. Spero che i venticinque lettori mi vorranno perdonare qualora usassi termini a sproposito, in generale usati i commenti e “se io mi sbaglio, voi mi corrigerete” (cit.)

  2. Ragionando con un criterio utilitaristico, diventa eticamente preferibile iniziare a utilizzare le automobili a guida autonoma nel momento in cui siano in generale più sicure della guida umana, un traguardo che non sembra molto distante. Si veda, per esempio, Wired e Big Think.