Re: [nexa] Infodemia ed Ai
Attenzione a non confondere AI/ML con la regressione statistica (anche se qualcuno sostiene che ML sia solo curve fitting). Quello che riporta Benanti è un calcolo che si può fare con una semplice regressione statistico, come quello che ha fatto Giorgio Parisi, direttore dell'Accademia dei Lincei. https://www.facebook.com/giorgio.parisi/posts/10217965792391084 Un vero sistema predittivo di AI, ha bisogno di un modello che rappresenta il fenomeno, o quanto meno includa tutte le feature che lo caratterizzano. Esso viene poi tuned (adattato) ai dati reali medianti tecniche di ottimizzazione. Senza qualcuno che concepisca il modello, non è possible effettuare previsioni, ma solo curve fitting. Lo dice lo stesso autore dell'esperimento: "The model doesn’t know every factor, which Ross knows." https://www.forbes.com/sites/johnkoetsier/2020/02/05/ai-predicts-coronavirus... <https://www.forbes.com/sites/johnkoetsier/2020/02/05/ai-predicts-coronavirus...> Usare una RNN per fare regressione può sembrare che funzioni, ma bisogna fare molta attenzione: https://towardsdatascience.com/how-not-to-use-machine-learning-for-time-seri... Tra l'altro una RNN richiede molti più dati di una semplice regressione. Non si può in ogni caso definire AI. -- Beppe On 08/02/20 12:00, nexa-request@server-nexa.polito.it wrote:
From: don Luca Peyron <dluca.universitari@gmail.com> To: Nexa <nexa@server-nexa.polito.it> Subject: [nexa] Infodemia ed Ai Message-ID: <CAGS_u7hQmcJYB8uA7dCRSDXSNzcKN7M=vUrvnFWjBGUsK4B08g@mail.gmail.com> Content-Type: text/plain; charset="utf-8"
Un bel pezzo dell'amico Paolo Benanti.
Buona lettura
Dl
https://www-paolobenanti-com.cdn.ampproject.org/c/s/www.paolobenanti.com/amp...
On 10/02/2020 16:33, Giuseppe Attardi wrote:
Non si può in ogni caso definire AI.
e' una affermazione molto netta... mi interessa il tuo parere. perche' ritieni che non possa essere definita cosi' ? ciao, s. -- reserve your meeting with me at https://cal.quintarelli.it
On 10/02/20 21:06, Stefano Quintarelli wrote:
On 10/02/2020 16:33, Giuseppe Attardi wrote:
Non si può in ogni caso definire AI.
e' una affermazione molto netta... mi interessa il tuo parere.
perche' ritieni che non possa essere definita cosi' ?
Penso sia importante dare una definizione netta, altrimenti si rischia di far passare tutto per AI, che chiunque possa spacciarsi per esperto di AI e che i confini tra le discipline si confondano. Questo è un rischio serio per la disciplina. Da una parte c'è chi si vuole accreditare in AI, pensando di trarne benefici, e dall'altra ci sono coloro che la denigrano, con critiche di varia natura, tra cui proprio quella che "ML/AI is just curve fitting" (Judea Pearl: no matter how skillfully you manipulate the data and what you read into the data when you manipulate it, it’s still a curve-fitting exercise, albeit complex and nontrivial), che ha già diversi proseliti anche in Italia. E poi non-explainable, non-ethical, can be fooled, ecc. Tutto ciò rischia secondo me di affossare la disciplina che sta nascendo, perché è ancora tutta da inventare. Sulla definizione di AI che ha dato lo High Level Expert Group on AI della EC, ho espresso a Francesca Rossi le mie perplessità, in quanto è così ampia che qualunque sistema informatico che riceva degli input e produca degli output che dipendono da questi, rientra nell'AI. “Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behaviour by analysing how the environment is affected by their previous actions. In questa definizione rientra ad esempio lo spazzolino da denti con AI di una nota casa: - is designed by humans - acts in a physical dimension: the mouth - perceives the environment: uses sensors to determine brush movements - interprets data: keeps track of the areas covered during brushing - reasons on the knowledge: it knows that there are 32 teeth in a normal mouth - decides actions to take: the goal is to signal when all teeth have been brushed. then it flashes a green led light - the rest is optional (can) Se non si utilizza come discriminante la caratteristica di svolgere compiti che richiedono intelligenza umana, si finisce in un marasma indistinto. Cerco di ripeterlo in tutte le occasioni, ma in sintesi, la differenza tra Statistica, Machine Learning e AI potrebbe essere questa: - La Statistica consente di trovare *correlazioni* tra i dati - Machine Learning si usa per apprendere un modello da esempi per fare *previsioni* - Artificial Intelligence usa il ML per produrre un modello di funzionamento di una abilità umana, per *eseguire azioni* In AI è determinante la presenza di *Humans in the loop*: persone sono coinvolte nel fornire esempi di comportamenti umani (e.g. annotando i dati, interpretando i dati, valutando la correttezza dei resultati) In AI l'intelligenza è *incorporata* nel sistema - Data Science usa l’analisi statistica di dati per ricavare *intuizioni* da correlazioni statistiche In DS *humans are in the end*: lo scienziato vaglia le correlazioni suggerite dai dati per produrre intuizioni In DS l’*intelligenza risiede nello scienziato* che interpreta i risultati dell’analisi statistica L'esempio che uso a volte per spiegare le differenze è questo. Se oggi la temperatura a Roma è di 25 gradi, e la statistica ci dice che in febbraio la temperatura media a Roma è 15 gradi, ciò che ne ricaveremmo è solo che siamo di fronte a un caso statisticamente anomalo. Invece le previsioni metereologiche ci potevano dire ieri che oggi la temperatura sarebbe stata 25, perchè utilizzano un *modello metereologico*, il quale viene alimentato da migliaia di dati di sensori nell'atmosfpere ed è in grado di fare previsioni accurate applicando quel modello. Il ML assomiglia a questo: utilizza di modelli, che sono progettati caso per caso dall'esperto (architettura, feature, parametri, ecc.) e poi fa il tuning dei suoi parametri utilizzando dati di apprendimento. Il risultato è un modello, non una stima di correlazione. L'AI (Deep Learning) utilizza il machine learning per produrre modelli di comportamento che simulano il comportamento intelligente di umani nello svolgimento di determinati task. I dati sono quelli che incorporano il comportamento intelligente di umani: non sono quindi solo dati di sensori, ma sono generati da un comportamento intelligente umano e raccolti da questi. Che le critiche provengano da alcuni che apparentemente non hanno ben capito di cosa si tratti, lo ha ribadito proprio ieri Yan LeCun in una conferenza stampa a AAAI 2020. LeCun noted he is "pretty active on social media and there seems to be some confusion" as to what deep learning is, which was an allusion to back-and-forth debates he's had on Twitter with deep learning critic Gary Marcus, among others, that have gotten combative at times. LeCun began his talk by offering a slide defining what deep learning is, echoing a debate in December between Bengio and Marcus (https://www.zdnet.com/article/whats-in-a-name-the-deep-learning-debate/). https://www.zdnet.com/article/deep-learning-godfathers-bengio-hinton-and-lec... Io cerco di fare la mia parte per chiarire un po' di confusione. Ciao Beppe
ciao, s.
Caro Beppe, On Tue, Feb 11, 2020 at 03:17:04PM +0100, Giuseppe Attardi wrote:
L'AI (Deep Learning) utilizza il machine learning per produrre modelli di comportamento che simulano il comportamento intelligente di umani nello svolgimento di determinati task.
sono d'accordissimo con la tua premessa che, soprattutto nei media mainstream (meno tra gli scienziati), l'espressione "artificial intelligence" sia ormai usata in maniera confusa, spesso per ragioni che poco hanno a che vedere con il dibattito filologico di cosa sia o non sia l'AI. E sono anche d'accordo con la tua caratterizzazione di cosa sia il deep learning. Ma mi sembra tu faccia poi un passo oltre, che personalmente non condivido, ovvero quello di assimilare tutta l'AI al deep learning (o anche solo al machine learning), che è qualcosa di relativamente recente (anche se certo più attempato degli onori di cronaca che ha ricevuto negli 5-10 anni), ed è solo una delle tante tecniche che negli anni si sono associate all'espressione AI in ambito scientifico. Un esempio per i profani (ma ben noto ai tempi della precedente ondata di popolarità dell'AI, prima dell'ultimo AI winter) è quello del gioco degli scacchi. Per anni si è fatto senza deep learning, senza che questo lo escludesse dall'essere considerato AI. Altro esempio per gli informatici teorici, tutto ciò che è theorem proving (semi-)automatico è stato per decenni a giusto titolo considerato AI. In entrambi i casi ci sono fior di pubblicazioni in riviste venerabili come gli Annals of Mathematics and Artificial Intelligence a dimostrare che, almeno nel passato, abbiamo chiamato "AI" senza scandalizzarci molta roba che non aveva niente a che vedere con deep learning e nemmeno reti neurali. Anche i testi storici per studenti sul tema (Nilsson prima, Norvig poi) dedicavano parti relativamente limitati alle reti neurali. Concordo con te che la definizione di AI dell'expert group sia troppo aperta (molto bello il tuo esempio sullo spazzolino da denti), ma mi pare tu ecceda qui dal lato opposto ! A presto -- Stefano Zacchiroli . zack@upsilon.cc . upsilon.cc/zack . . o . . . o . o Computer Science Professor . CTO Software Heritage . . . . . o . . . o o Former Debian Project Leader & OSI Board Director . . . o o o . . . o . « the first rule of tautology club is the first rule of tautology club »
oh. penso che dovremmo concordare che siamo in disaccordo... ;-) alcune macro ossevrazioni (ma non voglio tediare la lista, magari ci mangiamo un'insalata...): buona parte di cio' che abbiamo sempre chiamato AI (e continuiamo a chiamare cosi') non ricade nella definizione che proponi; la definizione stessa e' poco definitoria quando dice che "e' intelligente se fa come una intelligenza umana" (versione ristretta). Ma cosa e' la intelligenza umana ? last but not least, non capisco se che consideri il modello meteorologico sia AI o meno. cmq. e' statistica multivariata, IMHO. cio tanto per dire che, per me, AI e' un modo diverso di fare sw; e' un insieme di tech, all'interno del qualche c'e' un subset che e' il machine learning (che e' fitting, modelli e loro uso per predizioni...) ciao, s. On 11/02/2020 15:17, Giuseppe Attardi wrote:
On 10/02/20 21:06, Stefano Quintarelli wrote:
On 10/02/2020 16:33, Giuseppe Attardi wrote:
Non si può in ogni caso definire AI.
e' una affermazione molto netta... mi interessa il tuo parere.
perche' ritieni che non possa essere definita cosi' ?
Penso sia importante dare una definizione netta, altrimenti si rischia di far passare tutto per AI, che chiunque possa spacciarsi per esperto di AI e che i confini tra le discipline si confondano.
Questo è un rischio serio per la disciplina.
Da una parte c'è chi si vuole accreditare in AI, pensando di trarne benefici, e dall'altra ci sono coloro che la denigrano, con critiche di varia natura, tra cui proprio quella che "ML/AI is just curve fitting" (Judea Pearl: no matter how skillfully you manipulate the data and what you read into the data when you manipulate it, it’s still a curve-fitting exercise, albeit complex and nontrivial), che ha già diversi proseliti anche in Italia. E poi non-explainable, non-ethical, can be fooled, ecc. Tutto ciò rischia secondo me di affossare la disciplina che sta nascendo, perché è ancora tutta da inventare.
Sulla definizione di AI che ha dato lo High Level Expert Group on AI della EC, ho espresso a Francesca Rossi le mie perplessità, in quanto è così ampia che qualunque sistema informatico che riceva degli input e produca degli output che dipendono da questi, rientra nell'AI.
“Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behaviour by analysing how the environment is affected by their previous actions.
In questa definizione rientra ad esempio lo spazzolino da denti con AI di una nota casa:
- is designed by humans
- acts in a physical dimension: the mouth
- perceives the environment: uses sensors to determine brush movements
- interprets data: keeps track of the areas covered during brushing
- reasons on the knowledge: it knows that there are 32 teeth in a normal mouth
- decides actions to take: the goal is to signal when all teeth have been brushed. then it flashes a green led light
- the rest is optional (can)
Se non si utilizza come discriminante la caratteristica di svolgere compiti che richiedono intelligenza umana, si finisce in un marasma indistinto.
Cerco di ripeterlo in tutte le occasioni, ma in sintesi, la differenza tra Statistica, Machine Learning e AI potrebbe essere questa:
- La Statistica consente di trovare *correlazioni* tra i dati - Machine Learning si usa per apprendere un modello da esempi per fare *previsioni* - Artificial Intelligence usa il ML per produrre un modello di funzionamento di una abilità umana, per *eseguire azioni* In AI è determinante la presenza di *Humans in the loop*: persone sono coinvolte nel fornire esempi di comportamenti umani (e.g. annotando i dati, interpretando i dati, valutando la correttezza dei resultati) In AI l'intelligenza è *incorporata* nel sistema - Data Science usa l’analisi statistica di dati per ricavare *intuizioni* da correlazioni statistiche In DS *humans are in the end*: lo scienziato vaglia le correlazioni suggerite dai dati per produrre intuizioni In DS l’*intelligenza risiede nello scienziato* che interpreta i risultati dell’analisi statistica
L'esempio che uso a volte per spiegare le differenze è questo.
Se oggi la temperatura a Roma è di 25 gradi, e la statistica ci dice che in febbraio la temperatura media a Roma è 15 gradi, ciò che ne ricaveremmo è solo che siamo di fronte a un caso statisticamente anomalo. Invece le previsioni metereologiche ci potevano dire ieri che oggi la temperatura sarebbe stata 25, perchè utilizzano un *modello metereologico*, il quale viene alimentato da migliaia di dati di sensori nell'atmosfpere ed è in grado di fare previsioni accurate applicando quel modello.
Il ML assomiglia a questo: utilizza di modelli, che sono progettati caso per caso dall'esperto (architettura, feature, parametri, ecc.) e poi fa il tuning dei suoi parametri utilizzando dati di apprendimento. Il risultato è un modello, non una stima di correlazione.
L'AI (Deep Learning) utilizza il machine learning per produrre modelli di comportamento che simulano il comportamento intelligente di umani nello svolgimento di determinati task. I dati sono quelli che incorporano il comportamento intelligente di umani: non sono quindi solo dati di sensori, ma sono generati da un comportamento intelligente umano e raccolti da questi.
Che le critiche provengano da alcuni che apparentemente non hanno ben capito di cosa si tratti, lo ha ribadito proprio ieri Yan LeCun in una conferenza stampa a AAAI 2020.
LeCun noted he is "pretty active on social media and there seems to be some confusion" as to what deep learning is, which was an allusion to back-and-forth debates he's had on Twitter with deep learning critic Gary Marcus, among others, that have gotten combative at times. LeCun began his talk by offering a slide defining what deep learning is, echoing a debate in December between Bengio and Marcus (https://www.zdnet.com/article/whats-in-a-name-the-deep-learning-debate/).
https://www.zdnet.com/article/deep-learning-godfathers-bengio-hinton-and-lec...
Io cerco di fare la mia parte per chiarire un po' di confusione.
Ciao
Beppe
ciao, s.
-- reserve your meeting with me at https://cal.quintarelli.it
Mi sembra che la definizione dell’High Level Expert group abbia sovrapposizioni con quella fornita da Norvig e Russell nel loro popolare libro di testo adottato (cito da http://aima.cs.berkeley.edu/: <http://aima.cs.berkeley.edu/:> "used in over1400 universities in over 125 countries” … "and 4th most cited publication of this century”) Russell, S.J. and Norvig, P., (2016). Artificial intelligence: a modern approach. Pearson Education Limited, Malaysia In sintesi: Intelligenza artificiale : disciplina che studia come costruire agenti intelligenti Agente: artefatto che percepisce l’ambiente attraverso sensori e agisce su quell'ambiente attraverso attuatori Agente intelligente: un agente che prende la migliore azione possibile in una situazione, cioè è un agente razionale quello che, per ogni possibile sequenza di concetti, seleziona un'azione che massimizza una misura di prestazione, data l'evidenza fornita dalla sequenza di concetti e qualsiasi altra conoscenza incorporata dell'agente Di questa definizione credo che l’equivalenza intelligenza=razionalità (che è proprio il termine usato anche in inglese) sia discutibile. Ma, non essendo un esperto del campo, mi limito semplicemente a segnalarla - credo di averlo già fatto in passato su questa lista, ma il tema è ricorrente :-) Un caro saluto, antonio
Il giorno 11 feb 2020, alle ore 17:21, Stefano Quintarelli <stefano@quintarelli.it> ha scritto:
oh. penso che dovremmo concordare che siamo in disaccordo... ;-)
alcune macro ossevrazioni (ma non voglio tediare la lista, magari ci mangiamo un'insalata...):
buona parte di cio' che abbiamo sempre chiamato AI (e continuiamo a chiamare cosi') non ricade nella definizione che proponi;
la definizione stessa e' poco definitoria quando dice che "e' intelligente se fa come una intelligenza umana" (versione ristretta). Ma cosa e' la intelligenza umana ?
last but not least, non capisco se che consideri il modello meteorologico sia AI o meno. cmq. e' statistica multivariata, IMHO.
cio tanto per dire che, per me, AI e' un modo diverso di fare sw; e' un insieme di tech, all'interno del qualche c'e' un subset che e' il machine learning (che e' fitting, modelli e loro uso per predizioni...)
ciao, s.
On 11/02/2020 15:17, Giuseppe Attardi wrote:
On 10/02/20 21:06, Stefano Quintarelli wrote:
On 10/02/2020 16:33, Giuseppe Attardi wrote:
Non si può in ogni caso definire AI.
e' una affermazione molto netta... mi interessa il tuo parere.
perche' ritieni che non possa essere definita cosi' ?
Penso sia importante dare una definizione netta, altrimenti si rischia di far passare tutto per AI, che chiunque possa spacciarsi per esperto di AI e che i confini tra le discipline si confondano. Questo è un rischio serio per la disciplina. Da una parte c'è chi si vuole accreditare in AI, pensando di trarne benefici, e dall'altra ci sono coloro che la denigrano, con critiche di varia natura, tra cui proprio quella che "ML/AI is just curve fitting" (Judea Pearl: no matter how skillfully you manipulate the data and what you read into the data when you manipulate it, it’s still a curve-fitting exercise, albeit complex and nontrivial), che ha già diversi proseliti anche in Italia. E poi non-explainable, non-ethical, can be fooled, ecc. Tutto ciò rischia secondo me di affossare la disciplina che sta nascendo, perché è ancora tutta da inventare. Sulla definizione di AI che ha dato lo High Level Expert Group on AI della EC, ho espresso a Francesca Rossi le mie perplessità, in quanto è così ampia che qualunque sistema informatico che riceva degli input e produca degli output che dipendono da questi, rientra nell'AI. “Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behaviour by analysing how the environment is affected by their previous actions. In questa definizione rientra ad esempio lo spazzolino da denti con AI di una nota casa: - is designed by humans - acts in a physical dimension: the mouth - perceives the environment: uses sensors to determine brush movements - interprets data: keeps track of the areas covered during brushing - reasons on the knowledge: it knows that there are 32 teeth in a normal mouth - decides actions to take: the goal is to signal when all teeth have been brushed. then it flashes a green led light - the rest is optional (can) Se non si utilizza come discriminante la caratteristica di svolgere compiti che richiedono intelligenza umana, si finisce in un marasma indistinto. Cerco di ripeterlo in tutte le occasioni, ma in sintesi, la differenza tra Statistica, Machine Learning e AI potrebbe essere questa: - La Statistica consente di trovare *correlazioni* tra i dati - Machine Learning si usa per apprendere un modello da esempi per fare *previsioni* - Artificial Intelligence usa il ML per produrre un modello di funzionamento di una abilità umana, per *eseguire azioni* In AI è determinante la presenza di *Humans in the loop*: persone sono coinvolte nel fornire esempi di comportamenti umani (e.g. annotando i dati, interpretando i dati, valutando la correttezza dei resultati) In AI l'intelligenza è *incorporata* nel sistema - Data Science usa l’analisi statistica di dati per ricavare *intuizioni* da correlazioni statistiche In DS *humans are in the end*: lo scienziato vaglia le correlazioni suggerite dai dati per produrre intuizioni In DS l’*intelligenza risiede nello scienziato* che interpreta i risultati dell’analisi statistica L'esempio che uso a volte per spiegare le differenze è questo. Se oggi la temperatura a Roma è di 25 gradi, e la statistica ci dice che in febbraio la temperatura media a Roma è 15 gradi, ciò che ne ricaveremmo è solo che siamo di fronte a un caso statisticamente anomalo. Invece le previsioni metereologiche ci potevano dire ieri che oggi la temperatura sarebbe stata 25, perchè utilizzano un *modello metereologico*, il quale viene alimentato da migliaia di dati di sensori nell'atmosfpere ed è in grado di fare previsioni accurate applicando quel modello. Il ML assomiglia a questo: utilizza di modelli, che sono progettati caso per caso dall'esperto (architettura, feature, parametri, ecc.) e poi fa il tuning dei suoi parametri utilizzando dati di apprendimento. Il risultato è un modello, non una stima di correlazione. L'AI (Deep Learning) utilizza il machine learning per produrre modelli di comportamento che simulano il comportamento intelligente di umani nello svolgimento di determinati task. I dati sono quelli che incorporano il comportamento intelligente di umani: non sono quindi solo dati di sensori, ma sono generati da un comportamento intelligente umano e raccolti da questi. Che le critiche provengano da alcuni che apparentemente non hanno ben capito di cosa si tratti, lo ha ribadito proprio ieri Yan LeCun in una conferenza stampa a AAAI 2020. LeCun noted he is "pretty active on social media and there seems to be some confusion" as to what deep learning is, which was an allusion to back-and-forth debates he's had on Twitter with deep learning critic Gary Marcus, among others, that have gotten combative at times. LeCun began his talk by offering a slide defining what deep learning is, echoing a debate in December between Bengio and Marcus (https://www.zdnet.com/article/whats-in-a-name-the-deep-learning-debate/). https://www.zdnet.com/article/deep-learning-godfathers-bengio-hinton-and-lec... Io cerco di fare la mia parte per chiarire un po' di confusione. Ciao Beppe
ciao, s.
-- reserve your meeting with me at https://cal.quintarelli.it <https://cal.quintarelli.it/> _______________________________________________ nexa mailing list nexa@server-nexa.polito.it <mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa <https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa>
participants (4)
-
Antonio Vetro' -
Giuseppe Attardi -
Stefano Quintarelli -
Stefano Zacchiroli