On 28/03/2018 22:46, Giacomo Tesio wrote:
Il giorno 28 marzo 2018 22:23, Roberto Dolci <rob.dolci@aizoon.us <mailto:rob.dolci@aizoon.us>> ha scritto:
Ciao Giacomo,
1. No no. Ci sono n casi in cui deep learning produce risultati inspiegabili. Dalle scelte nelle partite di Go, ad apprendimenti di una terza lingua mentre traduce tra altre due, alla progettazione di un radiatore dalle forma inimmaginabile da parte di qualsiasi essere umano, altri esempi ancora. Il problema del DL, Unsupervised, e' che proprio produce risultati che possono non esser compresi. Scommetto una pizza che su un problema del carrello sofisticato potremmo avere sorprese.
No. Un computer è una macchina deterministica.
Il suo comportamento può essere estremamente costoso da spiegare, ma è SEMPRE possibile spiegarlo disponendo dell'intero input dell'algoritmo e di tempo e competenze sufficienti.
Ma COSTOSO, non vuol dire impossibile. E' un costo di impresa, da mettere accanto alla furto/incendio per le auto aziendali.
Giacomo, per gli scopi di attribuzione di responsabilità occorre che il comportamento del sistema autonomo sia prevedibile, non che il sistema sia deterministico. E sappiamo che essere deterministico non implica essere prevedibile, cioè calcolabile in modo esatto in tutti gli stati presenti e futuri. Un sistema complesso, non lineare, può mostrare proprietà emergenti di tipo caotico che possono non essere calcolabili, o esserlo solo in modo limitato ed estremamente costoso. Il tempo metereologico è certamente deterministico, ma è prevedibile solo in modo limitato e costoso. Oltre una certa soglia, è imprevedibile. I computer sono certamente deterministici, ma sistemi complessi come certe AI possono esibire comportamenti assai imprevedibili, come dice Roberto Dolci. I robot, esposti alla complessità di un ambiente ricco di variabili la cui misurabilità è finita, lo sono ancora di più. Si leggono sempre più spesso studi sulla caoticità dei sistemi deep learning. <https://medium.com/intuitionmachine/how-to-explain-deep-learning-using-chaos...> Ciao, Alberto