credo che queste riflessioni di Giacomo sull'impossibilità di un'ethical AI abbiano una portata più ampia e specifica e per questo avvio un thread differente. voglio capire bene il filo del discorso, Giacomo, quindi estraggo e metto in fila quelli che a me appaiono gli snodi del pensiero Il 30/10/22 13:50, Giacomo Tesio <giacomo@tesio.it> ha scritto:
Chi costruisce un artefatto, esprime sé stesso, la proprie idee e i propri interessi di quel momento.
Ma una volta costruito, l'artefatto ne rimane espressione invariabile (se non secondo le regole impostegli da quella stessa volontà) e continua ad applicare quella volontà al mondo, fino ad ulteriore intervento umano (che si tratti di spegnerlo, romperlo o modificarlo).
L'artefice invece ha una libertà che l'artefatto non può avere e che non gli può essere attribuita (così come una responsabilità) senza prima aver dimostrato non solo che è in grado di simulare intelligenza, ma che è dotato di libero arbitrio.
L'artefice può cambiare idea. L'artefatto non ha idee. ... L'uomo è autonomo, l'artefatto no.
Questo significa che ha SEMPRE la possibilità di alterare (e scardinare) le regole di funzionamento del sistema cibernetico in cii opera, rendendolo imprevedibile.
Può essere convinto a non esercitare questa autonomia, "perché non è giusto", "perché il padrone è buono", "perché we shall do no evil", "perché funziona così", per paura etc... Ma continua ontologicamente ad essere autonomo. anche se ne hai poi parlato sotto, mi pare che è qui che per te si pone l'impossibilità di un'«etica delle AI» perché in senso stretto essa implicherebbe che l'AI sia un soggetto autonomo, capace di scelte autonome, di cui quindi si può valutare l'etica. ma questo implicherebbe che l'AI sia dotata di agency come un soggetto umano adulto senziente e ragionante, senza limitazioni. mi sembra di capire che tu l'agency la vedi nell'uomo sia a monte come progettista sia a valle come utilizzatore e non nell'artefatto. a quel punto la valutazione di capacità etica riguarda i progettisti e gli utilizzatori e non è più questione di etica dell'AI in senso proprio, ma di come si fa una progettazione di prodotti che sia etica e un utilizzo di prodotti che sia etico. ho inteso bene? l'uso di certe riduzioni ... alimenta l'alienazione cibernetica di molti. Alienazione che consiste nel processo di riduzione dell'autonomia delle persone sia attraverso la loro automatizione (pensa al burocrate senza compassione) sia attraverso l'antropomorfizzazione dell'automatismo che viene presentato come "autonomo" e antropomorfo. l'antropomorfizzazione dell'automatismo, o forse direi addirittura la deificazione dell'automatismo: l'AI è un nuovo culto, con dei sommi sacerdoti che introducono i fedeli all'adorazione. siamo una società che si professa laica ma accettiamo delle nuove divinità. ritengo che occorra demitizzare, /laicizzare/, la presentazione pubblica che viene fatta dell'AI: un prodotto dell'attività umana che deve essere analizzato, commentato, valutato, giudicato, di cui si trovano i difetti strutturali o funzionali, ecc. Maurizio
Il 29/10/2022 08:00, Daniela Tafani ha scritto:
Abbiamo il senso comune, che vale molto di più dell'essere precisi. Soprattutto abbiamo il buon senso (che è cosa sempre meno comune, purtroppo).
Non siamo solo capaci di prevedere conseguenze, ma di empatizzare con chi sarà affetto da tali conseguenze.
Quand'anche riuscissimo a superare i limiti computazionali che impediscono la previsione potremmo ottenere un "senso comune" applicato meccanicamente.
Un "senso comune" indipendente dalla comunità. Un "senso comune" immutabile, che non può evolvere se non nel solco del programma (ovvero degli interessi di chi l'ha creato).
Un "sensi comune" privo di "senso" giacché le macchine elaborano dati cui solo la mente umana può attribuire un significato.
Non è dunque un problema di quantità, di disponibilità di dati o di potenza di calcolo.
È una questione di essenza. Gli automatismi trasformano meccanicamente dati, non informazioni.
Segni privi di un significato intrinseco, che solo l'uomo vi può attribuire. E non parlo solo dell'input o dell'output: il software stesso è privo di un significato intrinseco, tant'è che processori diversi reagiscono a segni diversi nello stesso modo e a segni uguali in modo diverso.
E tant'è che possiamo persino progettare macchine per reagire in un determinato modo a segni (dati) cui non proviamo nemmeno ad attribuire un significato.
Acquisire questa consapevolezza ha profonde implicazioni pratiche.
Per esempio rende evidente l'assurdità di parlare di "etica delle AI" o di "Explainable AI".
Il software è debuggabile. Ciò che puoi spiegare al limite sono le intenzioni e gli errori di chi l'ha scritto.
E quando non è perfettamente debuggabile, allora è da buttare, perché troppo pericoloso: la sua esecuzione è letteralmente "irresponsabile".
Giacomo
------------------------------------------------------------------------ perché l’uomo possa fare pubblico uso della propria ragione è necessario che il potere agisca in pubblico n. bobbio le persone per scegliere devono sapere, devono conoscere allora quello che un giornalista dovrebbe fare è informare g. siani ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli