February 2024 - nexa - server-nexa.polito.it

Re: [nexa] siamo davvero irripetibili? was: sistemi di IA e scrittura

by Stefano Quintarelli

si ogni singolo neurone e' un dispositivo analogico (qualcuno lo potrebbe definire "computer analogico", riduttivamente. e relazioni con altre parti del cervello (ad esempio i gangli della base) non sono ancora comprese. infine, c'e' un crescente consenso che il cervello non opri in modo classico The aim of this study was to show that the brain is non-classical. We assumed that unknown brain functions exist which can mediate entanglement between auxiliary quantum systems. The experimental detection of such an entanglement created by the brain would then be sufficient to prove cerebral non-classicality. We found experimental evidence that such entanglement creation occurs as part of physiological and cognitive processes. (questo e' uno https://iopscience.iop.org/article/10.1088/2399-6528/ac94be ) On 09/02/24 15:00, alessandro marzocchi wrote: > Siamo davvero irripetibili? > Mi appassiona la domanda: davvero i nostri cervelli funzionano diversamente dall'IA? > Cordialmente, > Duccio (Alessandro Marzocchi) > > Il 9 feb 2024 alle ore 12:00 <nexa-request(a)server-nexa.polito.it > <mailto:nexa-request@server-nexa.polito.it>>Daniela Tafani ha scritto: > > > Grazie della segnalazione, Maurizio. > Sono domande che Joseph Weizenbaum poneva, anche a proposito della comprensione del > linguaggio naturale, > in Computer power and human reason: > > The second kind of computer application that ought to be avoided, or at least not > undertaken without very careful forethought, > is that which can easily be seen to have irreversible and not entirely foreseeable > side effects. If, in addition, such an application cannot > be shown to meet a pressing human need that cannot readily be met in any other way, > then it ought not to be pursued. The latter stricture > follows directly from the argument I have already presented about the scarcity of > human intelligence. > The example I wish to cite here is that of the automatic recognition of human speech. > There are now three or four major > projects in the United States devoted to enabling computers to understand human > speech, that is, to programming them in such a > way that verbal speech directed at them can be converted into the same internal > representations that would result if what had been said > to them had been typed into their consoles. > The problem, as can readily be seen, is very much more complicated than that of > natural-language understanding as such, for > in order to understand a stream of coherent speech, the language in which that speech > is rendered must be understood in the first place. > The solution of the "speech-understanding problem" therefore presupposes the solution > of the "natural-language-understanding > problem." And we have seen that, for the latter, we have only "the tiniest bit of > relevant knowledge." But I am not here concerned with > the technical feasibility of the task, nor with any estimate of just how little or > greatly optimistic we might be about its completion. > Why should we want to undertake this task at all? I have asked this question of many > enthusiasts for the project. The most cheerful > answer I have been able to get is that it will help physicians record their medical > notes and then translate these notes into action more > efficiently. Of course, anything that has any ostensible connection to medicine is > automatically considered good. But here we have to > remember that the problem is so enormous that only the largest possible computers will > ever be able to manage it. In other words, > even if the desired system were successfully designed, it would probably require a > computer so large and therefore so expensive > that only the largest and best-endowed hospitals could possibly afford it—but in fact > the whole system might be so prohibitively > expensive that even they could not afford it. The question then becomes, is this > really what medicine needs most at this time? > Would not the talent, not to mention the money and the resources it represents, be > better spent on projects that attack more urgent and > more fundamental problems of health care? > But then, this alleged justification of speech-recognition "research" is merely a > rationalization anyway. (I put the word > "research" in quotation marks because the work I am here discussing is mere tinkering. > I have no objection to serious scientists > studying the psycho-physiology of human speech recognition.) If one asks such > questions of the principal sponsor of this work, the > Advanced Research Projects Agency (ARPA) of the United States Department of Defense, > as was recently done at an open meeting, > the answer given is that the Navy hopes to control its ships, and the other services > their weapons, by voice commands. This project then > represents, in the eyes of its chief sponsor, a long step toward a fully automated > battlefield. I see no reason to advise my students to lend > their talents to that aim. > I have urged my students and colleagues to ask still another question about this > project: Granted that a speech-recognition > machine is bound to be enormously expensive, and that only governments and possibly a > very few very large corporations will > therefore be able to afford it, what will they use it for? What can it possibly be > used for? There is no question in my mind that there is > no pressing human problem that will more easily be solved because such machines exist. > But such listening machines, could they be > made, will make monitoring of voice communication very much easier than it now is. > Perhaps the only reason that there is very little > government surveillance of telephone conversations in many countries of the world is > that such surveillance takes so much > manpower. Each conversation on a tapped phone must eventually be listened to by a > human agent. But speech-recognizing machines > could delete all "uninteresting" conversations and present transcripts of only the > remaining ones to their masters. I do not for a moment > believe that we will achieve this capability within the future so clearly visible to > Newell and Simon. But I do ask, why should a talented > computer technologist lend his support to such a project? As a citizen I ask, why > should my government spend approximately 2.5 > million dollars a year (as it now does) on this project? > > https://archive.org/details/computerpowerhum0000weiz_v0i3/page/270 > <https://archive.org/details/computerpowerhum0000weiz_v0i3/page/270> > > Un saluto, > Daniela > ________________________________________ > Da: nexa <nexa-bounces(a)server-nexa.polito.it > <mailto:nexa-bounces@server-nexa.polito.it>> per conto di maurizio lana > <maurizio.lana(a)uniupo.it <mailto:maurizio.lana@uniupo.it>> > Inviato: giovedì 8 febbraio 2024 16:57 > A: NEXA ML > Oggetto: [nexa] sistemi di IA e scrittura > > mi sono imbattuto in questo libro: > Baron, Naomi S. Who wrote this? how AI and the lure of efficiency threaten human > writing. Stanford, California: Stanford University Press, 2023. > > nel capitolo finale l'autrice scrive: > Imagine a world where AI’s current writing challenges have been solved. Where large > language models (or their successors) don’t churn out ugliness. Where using them is > energy efficient. Where predictive texting, spellcheck, and grammar programs are > infallible. Where AI can produce lengthy texts that are non-repetitive, stylistically > interesting, factually accurate, and always on topic. Oh, and can generate text that’s > indistinguishable from what you might have written. Where would this world leave us > humans? > As we weigh options, keep in mind potential blowback of getting what we wish for. > Cultural lore—be it of King Midas in Greek mythology, the recurrent “three wishes” > stories across European tales, or W. W. Jacobs’s more modern “The Monkey’s > Paw”—reminds us that attractive prospects may bear unforeseen consequences. > lo trovo interessante perché molta parte della riflessione critica sui sistemi di AI > si appunta su singoli aspetti mal-funzionanti/dis-funzionanti. > mentre qui c'è una riflessione critica globale, 'a prescindere', che si esprime sui > sistemi di IA ma che riguarda ogni ambito: è desiderabile/quali conseguenze ha, che in > ogni campo ogni necessità sia risolta e ogni difficoltà operativa sia eliminata ? > "teletrasporto per tutti a costo zero" e via in cima al monte Bianco con un tasto (in > questo esempio si vede che sono proprio uno al pie' dei monti - piemontese): che cosa > mi significherebbe? > > Maurizio > > > ________________________________ > > quanti nella loro vita > si fecero custodi delle termopili, > sono degni di più grande onore > se prevedono (e molti lo prevedono) > che all’ultimo comparirà un efialte > e comunque i persiani passeranno > kostantinos kavafis, termopili > > ________________________________ > Maurizio Lana > Università del Piemonte Orientale > Dipartimento di Studi Umanistici > Piazza Roma 36 - 13100 Vercelli > > > > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa

Feb. 10, 2024

Re: [nexa] sistemi di IA e scrittura

by maurizio lana

ciao Daniela, grazie di questo richiamo a Weizenbaum. a me pare che Baron sia ancora più radicale di Weizenbaum con la sua domanda "Where would this world leave us humans?" (che può benissimo essere posta a conclusione anche del passo di Weizenbaum) dopo tempi in cui abbiamo cercato di ridurre con le macchine, ed eliminare, la necessità di azione fisica degli umani perché ciò era liberazione da dolore e malattie e perché la quantità di azione fisica limitava la vita con le ore di lavoro e con il consumo precoce del fisico; ora analogamente abbiamo un'inerzia (una spinta inerziale) che ci porta a pensare che anche nel lavoro intellettuale sia buona cosa che le macchie ci supportino (qui siamo sempre a Licklider e Engelbart) ma l'inerzia va oltre e ammette che sia buona cosa che le macchine ci sostituiscano nel lavoro intellettuale, nella produzione intellettuale. quel che forse è peggio, trattandosi di SALAMI non sono in realtà in grado di sostituirci, ma molti lo credono. Baron però dice a mio avviso una cosa ancora più destabilizzante: se anche i SALAMI non fossero salami ma autentiche intelligenze, "where would this world leave us humans?" "dove ci lascerebbe" è una buona metafora per sintetizzare un insieme di domande di filosofia politica: sarebbe appropriato? sarebbe etico? sarebbe desiderabile? sarebbe utile? e poi, per chi: per tutti per alcuni, per pochi? Maurizio > Date: Thu, 8 Feb 2024 17:44:33 +0000 > From: Daniela Tafani<daniela.tafani(a)unipi.it> > To: maurizio lana<maurizio.lana(a)uniupo.it>, NEXA ML > <nexa(a)server-nexa.polito.it> > Subject: Re: [nexa] sistemi di IA e scrittura > Message-ID:<9522eafc77af43599e0fc09909447af3(a)unipi.it> > Content-Type: text/plain; charset="Windows-1252" > > Grazie della segnalazione, Maurizio. > Sono domande che Joseph Weizenbaum poneva, anche a proposito della comprensione del linguaggio naturale, > in Computer power and human reason: > > The second kind of computer application that ought to be avoided, or at least not undertaken without very careful forethought, > is that which can easily be seen to have irreversible and not entirely foreseeable side effects. If, in addition, such an application cannot > be shown to meet a pressing human need that cannot readily be met in any other way, then it ought not to be pursued. The latter stricture > follows directly from the argument I have already presented about the scarcity of human intelligence. > The example I wish to cite here is that of the automatic recognition of human speech. There are now three or four major > projects in the United States devoted to enabling computers to understand human speech, that is, to programming them in such a > way that verbal speech directed at them can be converted into the same internal representations that would result if what had been said > to them had been typed into their consoles. > The problem, as can readily be seen, is very much more complicated than that of natural-language understanding as such, for > in order to understand a stream of coherent speech, the language in which that speech is rendered must be understood in the first place. > The solution of the "speech-understanding problem" therefore presupposes the solution of the "natural-language-understanding > problem." And we have seen that, for the latter, we have only "the tiniest bit of relevant knowledge." But I am not here concerned with > the technical feasibility of the task, nor with any estimate of just how little or greatly optimistic we might be about its completion. > Why should we want to undertake this task at all? I have asked this question of many enthusiasts for the project. The most cheerful > answer I have been able to get is that it will help physicians record their medical notes and then translate these notes into action more > efficiently. Of course, anything that has any ostensible connection to medicine is automatically considered good. But here we have to > remember that the problem is so enormous that only the largest possible computers will ever be able to manage it. In other words, > even if the desired system were successfully designed, it would probably require a computer so large and therefore so expensive > that only the largest and best-endowed hospitals could possibly afford it—but in fact the whole system might be so prohibitively > expensive that even they could not afford it. The question then becomes, is this really what medicine needs most at this time? > Would not the talent, not to mention the money and the resources it represents, be better spent on projects that attack more urgent and > more fundamental problems of health care? > But then, this alleged justification of speech-recognition "research" is merely a rationalization anyway. (I put the word > "research" in quotation marks because the work I am here discussing is mere tinkering. I have no objection to serious scientists > studying the psycho-physiology of human speech recognition.) If one asks such questions of the principal sponsor of this work, the > Advanced Research Projects Agency (ARPA) of the United States Department of Defense, as was recently done at an open meeting, > the answer given is that the Navy hopes to control its ships, and the other services their weapons, by voice commands. This project then > represents, in the eyes of its chief sponsor, a long step toward a fully automated battlefield. I see no reason to advise my students to lend > their talents to that aim. > I have urged my students and colleagues to ask still another question about this project: Granted that a speech-recognition > machine is bound to be enormously expensive, and that only governments and possibly a very few very large corporations will > therefore be able to afford it, what will they use it for? What can it possibly be used for? There is no question in my mind that there is > no pressing human problem that will more easily be solved because such machines exist. But such listening machines, could they be > made, will make monitoring of voice communication very much easier than it now is. Perhaps the only reason that there is very little > government surveillance of telephone conversations in many countries of the world is that such surveillance takes so much > manpower. Each conversation on a tapped phone must eventually be listened to by a human agent. But speech-recognizing machines > could delete all "uninteresting" conversations and present transcripts of only the remaining ones to their masters. I do not for a moment > believe that we will achieve this capability within the future so clearly visible to Newell and Simon. But I do ask, why should a talented > computer technologist lend his support to such a project? As a citizen I ask, why should my government spend approximately 2.5 > million dollars a year (as it now does) on this project? > > https://archive.org/details/computerpowerhum0000weiz_v0i3/page/270 > > Un saluto, > Daniela > ________________________________________ > Da: nexa<nexa-bounces(a)server-nexa.polito.it> per conto di maurizio lana<maurizio.lana(a)uniupo.it> > Inviato: giovedì 8 febbraio 2024 16:57 > A: NEXA ML > Oggetto: [nexa] sistemi di IA e scrittura > > mi sono imbattuto in questo libro: > Baron, Naomi S. Who wrote this? how AI and the lure of efficiency threaten human writing. Stanford, California: Stanford University Press, 2023. > > nel capitolo finale l'autrice scrive: > Imagine a world where AI’s current writing challenges have been solved. Where large language models (or their successors) don’t churn out ugliness. Where using them is energy efficient. Where predictive texting, spellcheck, and grammar programs are infallible. Where AI can produce lengthy texts that are non-repetitive, stylistically interesting, factually accurate, and always on topic. Oh, and can generate text that’s indistinguishable from what you might have written. Where would this world leave us humans? > As we weigh options, keep in mind potential blowback of getting what we wish for. Cultural lore—be it of King Midas in Greek mythology, the recurrent “three wishes” stories across European tales, or W. W. Jacobs’s more modern “The Monkey’s Paw”—reminds us that attractive prospects may bear unforeseen consequences. > lo trovo interessante perché molta parte della riflessione critica sui sistemi di AI si appunta su singoli aspetti mal-funzionanti/dis-funzionanti. > mentre qui c'è una riflessione critica globale, 'a prescindere', che si esprime sui sistemi di IA ma che riguarda ogni ambito: è desiderabile/quali conseguenze ha, che in ogni campo ogni necessità sia risolta e ogni difficoltà operativa sia eliminata ? > "teletrasporto per tutti a costo zero" e via in cima al monte Bianco con un tasto (in questo esempio si vede che sono proprio uno al pie' dei monti - piemontese): che cosa mi significherebbe? > > Maurizio ------------------------------------------------------------------------ la montagna è la prima che insegna a durare antonia pozzi ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

Feb. 10, 2024

Re: [nexa] il futuro che vale la pena vivere sarà in presenza

by 380°

Buongiorno Enrico, mi prendo la libertà di riorganizzare i paragrafi della tua riposta così da riportarli "in context" al quale /credo/ tu stia rispondendo, per maggior efficacia comunicativa. Enrico Nardelli <nardelli(a)mat.uniroma2.it> writes: > Il 05/02/2024 19:23, 380° ha scritto: >> Buonasera Enrico, >> >> premetto che sto rispondendo "a caldo" e non ho letto la notizia, spero >> io non mi stia perdendo qualche "dettaglio" importante. >> Enrico Nardelli<nardelli(a)mat.uniroma2.it> writes: > Perdonami, ma sarebbe bene leggere ciò che viene segnalato, prima di > rispondere, altrimenti temo che non facciamo molti passi avanti in > termini di comunicazione. perdonami tu, ho avuto la presunzione di aver in qualche modo intuito dove l'articolo che hai citato della CNN [1] andasse a parare, letto lo stralcio che avevi riportato; ora ho avuto modo di leggerlo tutto >> Parto dalla fine: il deepfake e il copyright sono l'ultimo dei problemi >> con l'AI; non fermiamoci alla pagliuzza nell'occhio, guardiamo la trave. > 1) Né la notizia che ho segnalato né il mio post di commento sostenevano > la posizione che il deepkafe (o il copyright) fossero i problemi più > importanti dell'AI. alla notizia della CNN torno tra poco, piuttosto ti chiedo scusa perché non ho specificato che il mio commento sopra non riguardava il tuo articolo di commento ma /solo/ quello che avevo *presunto* di capire dove voleva andare a parare l'articolo [1] questo significa anche che sono andato OT, visto che l'oggetto della tua email cita il titolo del tuo articolo e non quello della CNN in merito alla notizia [1], cito alcuni stralci: --8<---------------cut here---------------start------------->8--- Authorities are increasingly concerned at the damaging potential posed by artificial intelligence technology. [...] On at least 20 occasions, AI deepfakes had been used to trick facial recognition programs by imitating the people pictured on the identity cards, according to police. Authorities across the world are growing increasingly concerned at the sophistication of deepfake technology and the nefarious uses it can be put to. --8<---------------cut here---------------end--------------->8--- quindi sono stato presuntuoso ma avevo perfettamente intuito dove l'articolo sensazionalistico voleva andare a parare. lo dico in un alro modo: le "Authorities" NON sono preoccupate delle "allucinazioni" dell'AI, sono preoccupate perché semplificano i "fake". >>> da cui la mia riflessione: «i soli avvenimenti ai quali potremo davvero >>> credere in futuro saranno quelli che avverranno alla nostra >>> presenza» da cui le mie riflessioni sotto, ovvero che è da molti anni che le persone devono stare attenti a credere anche agli avvenimenti che vivono di persona [...] >> In ogni caso, anche senza scomodare gli Ocean's Eleven o lo scherzo >> delle spie - opz comici - russe a Giorgia Meloni, putroppo sono >> all'ordine del giorno truffe **in presenza**, di cui spesso sono vittime >> persone anziane: finti appartenenti alle forze dell'ordine, finti addetti >> delle aziende municipalizzate, finte vittime di urti con gli specchietti >> delle auto... «il visagista delle dive è truccatissimo» (cit.). >> >> Quindi: ma davvero un "financial officier" sgancia 25 milioni... sulla >> parola?!? Che razza di processi di gestione implementano le grandi >> imprese... e le istituzioni finanziarie?!? > 2) Non è stato il CFO a pagare i 25 M$ ma un impiegato che è stato > indotto a farlo da una videocall collettiva in cui TUTTI (incluso il > CFO) erano deepfake. OK ho sbagliato, non era il CFO; il resto della situazione mi era già chiarissima, tranne il dettaglioi un fondamentale dettaglio: --8<---------------cut here---------------start------------->8--- Initially, the worker suspected it was a phishing email, as it talked of the need for a secret transaction to be carried out. --8<---------------cut here---------------end--------------->8--- cioè il sistema di gestione della posta usato da quell'azienda NON è in grado di segnalare chiaramente una email di phishing (SFP e DKIM?!?) ribadisco che il deepfake in questo contesto è davvero l'ultimo dei loro problemi. [...] >>> presentata qua >>> https://www.startmag.it/innovazione/intelligenza-artificiale-generativa-ris… >> ...mi manca, vado a leggere! ora l'ho letto > Il mio scopo era richiamare l'interesse sull'aspetto sociologico ed > epistemologico della questione. in merito all'aspetto epistemologico --8<---------------cut here---------------start------------->8--- l’IAG può offrire enormi opportunità per migliorare ogni nostra attività, se sappiamo usarla bene. Come ho discusso nel mio libro “La rivoluzione informatica” essa costituisce un esempio tra i più potenti di una macchina cognitiva, ovvero un’automazione delle capacità intellettive dell’essere umano [...] però sempre di un’attività meccanica si tratta. Il fatto che sia una macchina a svolgerla lo vedo come un aspetto positivo. In questo senso sono completamente d’accordo con quanto disse alla fine dell’Ottocento Charles W. Eliot, che è stato per quarant’anni, dal 1869 al 1909, presidente dell’Università di Harvard, trasformandola in uno dei più importanti atenei americani: «Un uomo non dovrebbe essere usato per un compito che può essere svolto da una macchina». --8<---------------cut here---------------end--------------->8--- (n.d.r.: IAG = Intelligenza Artificiale GENERATIVA, non Generale) davvero ritieni che l'IAG automatizzi le capacità /intellettive/ dell'essere umano? Non scrivi: imita, fa credere, sintetizza attraverso complessi algoritmi le capacità intellettive dell'essere umano sono attività meccaniche (o anche solo matematicamente descrivibili)? considerati (quello che ho compreso io de) i tuoi interventi in lista io non credo che tu lo pensi, ma il brano citato sopra si presta a (mis)interpretazioni, nonostante il richiamo a Eliot per collegarmi all'episodio di cui sopra: quell'impiegato è "usato" (o agisce come se fosse) una macchina e quindi è sostituibile da una IAG che svolga i suoi compiti, compreso quello di adottare adeguati controlli al fine di non essere truffato? > Dopo una pandemia che ha costretto tutti a tappe molto forzate a > spostare molte interazioni sul piano digitale, inizia ad emergere che > forse ci sono anche parecchi elementi negativi in questa > dematerializzazione delle relazioni umane. no, è ESATTEMENTE l'opposto: quello che /grazie/ al "piano digitale" (compresa la IAG) sta emergendo in modo incontrovertibile è che il contesto economico-sociale nel quale si sviluppano le relazioni DETERMINA la loro eventuali disumanizzazione o (ri)umanizzazione NON è lo sviluppo tecnologico che determina chi ha «i mezzi per cercare di influenzare l’opinione pubblica, arrivando addirittura a trasformare i punti di vista scientifici in verità di fede cui credere ciecamente» (cito dal tuo aticolo), è l'opposto. ...e non è che "i mezzi" sono scarsi, è *semplicemente* che sono MONOPOLIZZATI. > Da cui ho speculato nel mio post che in futuro, visto che la specie > umana mi pare intelligente e resiliente, ci sarà un recupero del livello > fisico nelle relazioni. --8<---------------cut here---------------start------------->8--- [...] non abbiamo ancora un utilizzo generalizzato dei tanti meccanismi di certificazione della provenienza dei messaggi di posta elettronica che pure sono stati inventati da decine di anni. Né va mai dimenticato che anche queste soluzioni, pur se assai sofisticate, possono essere alterate, disponendo di risorse sufficienti e sfruttando le opportune circostanze. E va fatta anche attenzione a non esasperare questo approccio pretendendo di certificare ogni espressione del pensiero umano, poiché ciò – impedendo di fatto il dissenso – porterebbe alla distruzione della democrazia. Pertanto, sempre di più, nel nostro futuro digitale, le radici della fiducia torneranno ad essere legate agli esseri umani e al rapporto in presenza. Si tratta di un ritorno all’antico che spero impareremo a riapprezzare, [...] --8<---------------cut here---------------end--------------->8--- Comprendo l'auspicio di un "ritorno" alle radici della fiducia, ma non condivido affatto la constatazione (come possiamo definirla?) che solo di persona possiamo ottenere un rapporto fiducia. Che "il digitale" così com'è faccia TECNICAMENTE schifo non vi sono dubbi, la soluzione però non può che essere tecnica: ci vuole un "ecosistema digitale" migliore. Scusa se mi ripeto ma un esempio di implementazione è https://www.gnunet.org/en/ Una nota a latere: nel brano sopra usi più volte il concetto di "certificazione" (che per sua natura è di una terza parte) come elemento fondamentale di questa "catena di fiducia", io dissento: il problema è "solo" la possibilità di gestire in modo tecnicamente sano la propria identità digitale: https://www.gnunet.org/en/reclaim/index.html --8<---------------cut here---------------start------------->8--- Si tratta di un ritorno all’antico che spero impareremo a riapprezzare, di cui vi è una testimonianza linguistica (che dovrebbe ricordare chi ha fatto il classico) nel verbo del greco antico che esprime l’azione di “sapere” (io so = οἶδα), che altro non è che il tempo passato del verbo che esprime l’azione di “vedere” (io vedo = ὁράω). Quindi, “io so” perché “io ho visto”, in prima persona. --8<---------------cut here---------------end--------------->8--- "io so" perché "io ho visto" o perché "io ho compreso"? :-D questa pagina di etimo esprime molto bene la "fisicità del sapere": https://www.etimo.it/?term=sapere saluti, 380° [1] https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hn… -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Feb. 10, 2024

Re: [nexa] sistemi di IA e scrittura

by 380°

Buongiorno, Daniela Tafani <daniela.tafani(a)unipi.it> writes: > Grazie della segnalazione, Maurizio. > Sono domande che Joseph Weizenbaum poneva, anche a proposito della > comprensione del linguaggio naturale, in Computer power and human > reason: grazie per il richiamo > The second kind of computer application that ought to be avoided, or > at least not undertaken without very careful forethought, is that > which can easily be seen to have irreversible and not entirely > foreseeable side effects. If, in addition, such an application cannot > be shown to meet a pressing human need that cannot readily be met in > any other way, then it ought not to be pursued. "met in other way", tecnicamente, significa "utilizzando altre interfacce utente" > The latter stricture follows directly from the argument I have already > presented about the scarcity of human intelligence. sarebbe interessante quindi comprendere cosa Weizenbaum intendesse con "scarcity of human intelligence" > The example I wish to cite here is that of the automatic recognition > of human speech. There are now three or four major projects in the > United States devoted to enabling computers to understand human > speech, that is, to programming them in such a way that verbal speech > directed at them can be converted into the same internal > representations that would result if what had been said to them had > been typed into their consoles. attenzione che Weizenbaum si riferisce chiaramente al processo di *comprensione* di quanto espresso col linguaggio naturale, NON al riconoscimento automatico delle parole pronunciate, che è del tutto analogo al riconoscimento OCR di un documento scansionato (o fotografato) con l'ultimo passo "(as) if that whould had beeb said to them had been typed" è /implicito/ che si stia riferendo alla User Interface (e *quindi* alla sua progettazione) [...] > The solution of the "speech-understanding problem" therefore > presupposes the solution of the "natural-language-understanding > problem." And we have seen that, for the latter, we have only "the > tiniest bit of relevant knowledge." e la stessa cosa vale oggi, non solo all'epoca di pubblicazione di quel libro [...] > Why should we want to undertake this task at all? questa è LA domanda: perché? > I have asked this question of many enthusiasts for the project. The > most cheerful answer I have been able to get is that it will help > physicians record their medical notes and then translate these notes > into action more efficiently. ma chi lo ha detto che il modo più EFFICIENTE di scrivere un referto medico è quello di "dettarlo e farlo trascrivere al computer"?!? il dittafono esiste dalla fine del XIX secolo e serve affiché UN ALTRO AGENTE trascriva il testo dettato al posto della persona che non è capace di scriverselo da solo; fino a un certo punto c'erano solo le segretarie, di "recente" sono state affiancate da "software di trascrizione" [1] ...ma la questione relativa all'EFFICIENZA del "sistema di trascrizione" rimane la stessa identica di più di un secolo fa: chi trascrive DEVE sapere svolgere una attività INTELLIGENTE (deve conoscere il campi di applicazione nel quale agisce), altrimenti il risultato è DEFICIENTE. quindi: non è più efficiente quel medico in grado di usare direttamente lo strumento a disposizione per trascrivere quello che ha in testa?!? dal punto di vista pedagogico-cognitivo, poi, attenzione a cascare nella trappola che strumenti e/o interfacce FACILI sono preferibili perché aiutano gli utenti a svolgere i compiti "meglio" (mi viene in mente l'esempio della calligrafia ma lasciamo perdere) [...] > Would not the talent, not to mention the money and the resources it > represents, be better spent on projects that attack more urgent and > more fundamental problems of health care? tipo progettare meglio il sistema di trascrizione e archiviazione dei referti medici? > But then, this alleged justification of speech-recognition "research" > is merely a rationalization anyway. volgarmente: trovare un (non) problema adatto a giustificare una soluzione inutile [...] > the answer given is that the Navy hopes to control its ships, and the > other services their weapons, by voice commands. perché? I piloti sono meno efficienti se usano il timone o la cloche?!? :-O «Alexa, gira a destra...» dunque abbiamo: medici che non sanno usare efficacemente la tastiera come interfaccia al proprio strumento di registrazione dei referti e piloti che non sanno usare efficacemente il timone? [...] > what will they use it for? What can it possibly be used for? There is > no question in my mind that there is no pressing human problem that > will more easily be solved because such machines exist. solo per far credere alle persone che è inutile che loro imparino ad usare interfacce più adeguate per interagire con i computer (e i dispositivi "computer aided") > But such listening machines, could they be made, will make monitoring > of voice communication very much easier than it now is. Perhaps the > only reason that there is very little government surveillance of > telephone conversations in many countries of the world is that such > surveillance takes so much manpower. esatto: nel frattempo hanno "risolto" il problema archiviando quantità ASTRONOMICHE di conversazioni registrate nella speranza di trovare "un computer" che prima o poi le trascriva tutte e le dia in pasto alle loro search engines AI powered per scovare i terroristi ancora prima che terrorizzino > Each conversation on a tapped phone must eventually be listened to by > a human agent. But speech-recognizing machines could delete all > "uninteresting" conversations and present transcripts of only the > remaining ones to their masters. I do not for a moment believe that we > will achieve this capability within the future so clearly visible to > Newell and Simon. previsione sbagliata > But I do ask, why should a talented computer technologist lend his > support to such a project? As a citizen I ask, why should my > government spend approximately 2.5 million dollars a year (as it now > does) on this project? [CLASSIFIED] [...] saluti, 380° [1] https://en.wikipedia.org/wiki/Transcription_(linguistics)#Software -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Feb. 10, 2024

Re: [nexa] "Posta Elettronica" e Atenei: la situazione è peggiore di quanto sembrasse...

by Giacomo Tesio

Ciao Damiano, Il 9 Febbraio 2024 19:16:22 UTC, Damiano Verzulli <damiano(a)verzulli.it> ha scritto: > > Mi chiedo (...e vi chiedo) se questo scenario è ormai da considerare irrimediabilmente compromesso (e quindi è il caso di supportare lo spegnimento di queste ultime 4 infrastrutture), oppure se ci possano essere le condizioni per considerare questi ultimi 4 atenei una sorta di "avanguardia" da cui ripartire.... > > La domanda nasce dal fatto che... potrei avere un qualche ruolo nel determinare il futuro di quella relativa ad "unich.it"... Di certo, questi 4 atenei non dovranno sostenere i costi di una nuova transizione "on-prem" all'avvento della sentenza Schrems 3. Sentenza che è ragionevole aspettarsi entro il 2025 al massimo. Dunque al posto dei rettori forse io aspetterei: una volta smantellato il sistema e disperse le competenze, ripristinarlo costerà molto di più. Giacomo

Feb. 10, 2024

Sull'outsourcing di servizi ICT critici ai giganti USA...

by Damiano Verzulli

Ho appena terminato di leggere questo articolo: => "The Dangers of Moving Key Internet Governance Functions to Amazon’s Cloud: The Case of the Netherlands" - di Corinne Cath e Bert Huber - Tech Policy press https://www.techpolicy.press/the-dangers-of-moving-key-internet-governance-… Lo trovo eccellente perché, con un taglio decisamente non-tecnico, riesce ad affrontare le criticità indotte dalla tendenza (...stra-diffusa nel nostro Paese) di affidare servizi "critici" a soggetti USA. Nel merito, l'articolo discute di una recente decisione di una entita' olandese (SIDN) di affidare la propria infrastruttura ad AWS. L'equivalente di SIDN [1], nel nostro paese, è l'Istituto di Informatica e Telematica del CNR di Pisa [2]. Entrambi hanno un ruolo *FONDAMENTALE* per il corretto funzionamento di Internet nel proprio paese. * SIDN mantiene il controllo (assegnazione, revoca, variazioni) su *TUTTI* i domini "<qualcosa>.nl" * l'IIT mantiene il controllo (assegnazione, revoca, variazioni) su *TUTTI* i domini "<qualcosa>.it" Entrambi hanno la responsabilità (soprattutto "tecnica") di fare in modo che quando un qualunque browser in giro per il mondo voglia accedere ad un sito "<qualcosa>.it"... a tale browser venga risposto con l'indirizzo IP del server che offre quel sito Detto in altri termini: se l'IIT spegnesse il suo registro, entro un tempo ragionevolmente breve (al piu', una giornata...), non sarebbe piu' possibile "risolvere" nessun dominio .it (niente "senato.it", niente "governo.it", niente "poliziadistato.it".... niente "unimi.it".... *NIENTE*). Idem per SIDN ed il suo ".nl". Gli autori dell'articolo hanno subito inquadrato i problemi potenzialmente derivanti dall'esternalizzazione di questo servizio (certamente "critico", per un Paese) ad un soggetto radicato negli USA e... hanno alzato la mano. Nell'articolo, inoltre, si abbracciano lateralmente anche altri temi. Riporto alcuni stralci: ----- [...] The case is interesting for a broader tech policy audience, as it speaks to a key trend—whereby critical services run by governments are moved to big US cloud behemoths, with little thought about the potentially harmful long-term consequences [...] Why this move to AWS by the Dutch registry and why now? The chief technology officer of SIDN claims, based on externally outsourced advice, that no European cloud company can provide the required services. The advisory report on which he bases these claims is not public. If SIDN's claims are true, it suggests that European cloud companies are unable to deliver a relatively simple computer system. This is an absurd assumption, given the independent management of Internet domains by SIDN counterparts in other European countries, such as France (.FR) and Germany (.DE). These countries and markets are significantly larger than the Netherlands, a small country with only 18 million residents and 6 million registered domain names. [...] SIDN is also correct in noting that the organization is following a broader trend. European businesses are rapidly outsourcing the management of digital systems to US firms. By loudly claiming that it is no longer possible to find cloud providers in Europe, SIDN is accelerating this problematic trend further. The well-known dangers to political independence that citizens expect from an organization classified under Dutch law as a 'provider of essential services', seem to be disregarded. If even the Dutch Internet domain registry, which describes <https://www.sidn.nl/over-sidn/waar-wij-voor-staan> itself on its website as 'an expert in what we do and fully independent,' chooses to outsource key services to Amazon, then who is still independent? This gives everyone a license to outsource all their technology. [...] And since everything is outsourced, SIDN will struggle to rebuild or rehost their services should this be needed. To be good with technology requires actually doing technology <https://berthub.eu/articles/posts/how-tech-loses-out/>. We must openly question SIDN's commercial ambitions, especially if it comes at the expense of retaining control over its core capabilities and critical services. [...] ---- In ogni caso, suggerisco la lettura integrale. Bye, DV [1] https://www.sidn.nl/en/theme/about-sidn#who-we-are [2] https://www.nic.it/it/il-mondo-del-it/chi-siamo -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Feb. 10, 2024

Re: [nexa] "Posta Elettronica" e Atenei: la situazione è peggiore di quanto sembrasse...

by Paolo Del Romano

anche gli account di posta elettronica forniti dal Ministero dell'Istruzione, tramite Microsoft, ( Webmail @scuola.istruzione.it ) ai docenti non possono contenere l'opzione di forwarding verso altri account https://www.miur.gov.it/nuovawebmail-scuola.istruzione.it Paolo Del Romano

Feb. 10, 2024

Re: [nexa] "Posta Elettronica" e Atenei: la situazione è peggiore di quanto sembrasse...

by Andrea Trentini

aggiungo anche che per "politica di sicurezza" di UniMi non sono permessi forward verso indirizzi fuori dall'ateneo... ma perché?!? [inserire immagine meme Messi-BOH] On 09/02/2024 20:16, Damiano Verzulli wrote: > Lo scorso dicembre segnalavo in lista [1] un aggiornamento di un mio vecchio censimento dal quale > emergeva che negli ultimi tre anni 6 atenei avessero abbandonato il servizio di posta on-prem, > favorendo la soluzione cloud. > ... -- Andrea Trentini ⠠⠵ http://atrent.it public key ID: 0xA7A91E3B Dip.to di Informatica Università degli Studi di Milano

Feb. 9, 2024

"Posta Elettronica" e Atenei: la situazione è peggiore di quanto sembrasse...

by Damiano Verzulli

Lo scorso dicembre segnalavo in lista [1] un aggiornamento di un mio vecchio censimento dal quale emergeva che negli ultimi tre anni 6 atenei avessero abbandonato il servizio di posta on-prem, favorendo la soluzione cloud. Dovendo discutere dell'argomento in un contesto per me importante, ho voluto verificare meglio lo stato di quegli Atenei che, ai miei occhi, risultavano ancora "on-prem". *IL RISULTATO È STATO AGGHIACCIANTE* Oltre ad UniMilano (della quale gia' sapevamo che la migrazione era in corso) ed ad un mio errore/refuso sulla Scuola Universitaria Superiore Sant'Anna, di Pisa (per la quale avevo erroneamente verificato il dominio "sssup.it" anziché l'ufficiale "santannapisa.it", chiaramente gestito da Microsoft), ho riscontrato che altri 7 Atenei, inclusi POLITO e UNIPI, sono passati a Microsoft. Di fatto, dalla mia analisi, attualmente emerge che soltanto 4 Atenei gestiscono la posta internamente: * *uniba.it* - Università degli Studi di Bari Aldo Moro * *unich.it* - Università degli Studi Gabriele d’Annunzio Chieti Pescara * *unina.it* - Università di Napoli Federico II * *uniroma2.it* - Università di Roma Tor Vergata La situazione dettagliata è sempre disponibile al vecchio indirizzo. Mi chiedo (...e vi chiedo) se questo scenario è ormai da considerare irrimediabilmente compromesso (e quindi è il caso di supportare lo spegnimento di queste ultime 4 infrastrutture), oppure se ci possano essere le condizioni per considerare questi ultimi 4 atenei una sorta di "avanguardia" da cui ripartire.... La domanda nasce dal fatto che... potrei avere un qualche ruolo nel determinare il futuro di quella relativa ad "unich.it"... Un saluto, DV [1] https://server-nexa.polito.it/pipermail/nexa/2023-December/052038.html [2] https://dvblog.soabit.com/la-posta-elettronica-negli-atenei-italiani/ -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Feb. 9, 2024

Re: [nexa] siamo davvero irripetibili? was: sistemi di IA e scrittura

by Marco Fioretti

On Fri, Feb 9, 2024 at 15:00, alessandro marzocchi wrote:Siamo davvero irripetibili? Mi appassiona la domanda: davvero i nostri cervelli funzionano diversamente dall'IA? qualunque sia la risposta, l'importante e' non farsi influenzare se fosse negativa, ovvero: perche' mai dovremmo preoccuparci di trattare del **SOFTWARE** come se fosse un essere umano, soprattutto considerando che non sappiamo ancora considerarci tutti uguali fra noi? Tutto quello che potrei aggiungere in proposito l'ho gia' scritto qui: https://mfioretti.substack.com/p/taking-ai-too-seriously-is-not-intelligent (https://mfioretti.substack.com/p/taking-ai-too-seriously-is-not-intelligent) Marco

Feb. 9, 2024