December 2023 - nexa - server-nexa.polito.it

Re: [nexa] Problemi dei server email indipendenti, era: "Posta elettronica": persi 6 Atenei in ~3 anni...

by Roberto Resoli

Il 31 dicembre 2023 19:52:09 CET, Stefano Quintarelli <stefano(a)quintarelli.it> ha scritto: >gestisco in prima persona il mail server della mia famiglia e delle mie (piccole) aziende su un server virtuale preso da un provider europeo. > >nessuno dei miei utenti ha lamentato problemi (a parte una volta che ho fatto un reboot della vps) > >non sono un grande tecnico e ogni tanto (una volta ogni paio d'anni) mi capita di chiedere qualche consiglio a chi ne sa di piu'. > >credo che se migrassi a uno dei gafam avrei personalmente meno spam, ma e' assolutamente gestibile (ed i miei indirizzi email sono ovunque, a disposizione di spammer di tutto il globo). > >non credo che un sistemista esperto dedicato, con risorse adeguate (poche) non sia in grado di gestire una organizzazione efficacemente... Idem, son svariati anni che gestiscono questo indirizzo letteralmente da casa mia. Le mie impressioni sono sovrapponibili alle tue, anche se ho la fortuna di avere dal mio provider un IP con buona reputazione. >buon 2024! A te, e a tutta la lista! Buon anno! Roberto Resoli

Dec. 31, 2023

Re: [nexa] Problemi dei server email indipendenti, era: "Posta elettronica": persi 6 Atenei in ~3 anni...

by Stefano Quintarelli

gestisco in prima persona il mail server della mia famiglia e delle mie (piccole) aziende su un server virtuale preso da un provider europeo. nessuno dei miei utenti ha lamentato problemi (a parte una volta che ho fatto un reboot della vps) non sono un grande tecnico e ogni tanto (una volta ogni paio d'anni) mi capita di chiedere qualche consiglio a chi ne sa di piu'. credo che se migrassi a uno dei gafam avrei personalmente meno spam, ma e' assolutamente gestibile (ed i miei indirizzi email sono ovunque, a disposizione di spammer di tutto il globo). non credo che un sistemista esperto dedicato, con risorse adeguate (poche) non sia in grado di gestire una organizzazione efficacemente... buon 2024! On 31/12/23 10:35, M. Fioretti wrote: > On Fri, Dec 29, 2023 20:18:52 PM +0100, Enrico Nardelli wrote: > >> E a proposito: è su questa lista che ho letto dei problemi che le Big Tech >> creano agli email provider medi e piccoli nel gestire i loro messaggi? È >> chiaro che se anche 1 su 20 delle tue mail viene bloccata perché il tuo >> server di ateneo è stato messo in blacklist quando poi si passa ai Big >> tirano tutti un sospiro di sollievo... > > Presente: > > 2021: > https://stop.zona-m.net/2021/12/self-hosted-email-must-remain-practical/ > > 2010: > https://stop.zona-m.net/2010/05/the-real-obstacles-to-personal-email-manage… > > Buon 2024 a tutti! > > Marco

Dec. 31, 2023

The EU should support Ireland’s bold move to regulate Big Tech

by Daniela Tafani

The EU should support Ireland’s bold move to regulate Big Tech by Zephyr Teachout and Roger McNamee Dublin, Ireland, was stunned a month ago by riots that transformed its downtown into chaos, the worst rioting in decades, stemming from far-right online rumors about an attack on children.  The riots, like Jan. 6, appear to be a direct outgrowth of the amplification ecosystem supported by social media networks such as TikTok, Google’s YouTube and Meta’s Instagram, which likely keep their European headquarters in Dublin for tax reasons.  Ireland, long ridiculed for bowing to Big Tech, has now come out with a powerful proposal to address the problems of algorithmic amplification. Ireland set up Coimisiún na Meán, a new enforcer, this year to set rules for digital platforms. It has proposed a simple, easily enforceable rule that could change the game: All recommender systems based on intimately profiling people should be turned off by default.  In practice, that means that the big platforms cannot automatically run algorithms that use information about a person’s political views, sex life, health or ethnicity. A person will be able to switch an algorithm on, but those toxic algorithms will no longer be on by default. Users will still have access to algorithmic amplification, but they will have to opt in to get it. Today, algorithms feed each user different information. They derive their power from the trove of personal data that platforms acquire about users, data that enables the identification and exploitation of emotional weak points, all to maximize engagement. Platforms do not acknowledge responsibility for downstream consequences. Some users respond best to cat videos, others to hate speech, disinformation and conspiracy theories. For many, the response to harmful content is involuntary, driven by flight or fight. Either way, users spend more time on the platform, which allows the company to make more money by showing them ads. Artificially amplifying outrage may be lucrative, but it carries a terrible cost. Recommender systems enable to migrate from the fringe to the mainstream. An investigation revealed that Meta’s algorithms were key contributors to the murderous hate that cost thousands of people their lives in Myanmar’s 2017 Rohingya genocide.  Frances Haugen, a whistleblower, revealed in 2021 that Meta had known the danger of its algorithm for years. As long ago as 2016, Meta’s internal research had reported that “64 percent of all extremist group joins are due to our recommendation tools.” It continued: “Our recommendation systems grow the problem.”  When 37,000 people allowed researchers to monitor their YouTube experience, nearly all the nasty videos they had encountered were pushed into their feed by YouTube’s algorithm. An experiment using simulated users found that Facebook, Instagram and X, the platform formerly known as Twitter, recommended antisemitic and conspiracy content to test users as young as 14 years old.   Earlier this year, the surgeon general spoke about the danger of algorithms that promote suicide and self-harm. A recent experiment by Amnesty International proves the point: TikTok’s algorithm recommended videos encouraging suicide to a test user posing as a 13-year-old only an hour after the account was created.  Recommender systems didn’t really take hold until 2010, and we’ve tried trusting the Big Tech platforms, but 13 years into the experiment, with plenty of data showing harm, we cannot trust technology companies to regulate themselves in the public interest.  We do not want the government to be in the business of sorting through what is and is not harmful if amplified. The brilliance of the Ireland model is that it offers a way forward: rules that are content-neutral, giving users control of one critical aspect of their online experience. After years of being a tax haven for Big Tech, Ireland is now offering the world a groundbreaking rule to protect democracy, public health and public safety. In under nine months, Coimisiún na Meán has gone from initial launch to tackling the machine at the heart of the disinformation crisis. The rule is necessary because current European Union regulations aren’t working and the new Digital Services Act is not designed to tackle the core problem. Under the EU’s General Data Protection Regulation, tech firms are already supposed to get a person’s “explicit” (two-step) consent to process inferences about their political views, sexuality, religion, ethnicity or health. Several complaints that the big firms have failed to seek or receive this consent have not been resolved years after being brought. But for over five years, Big Tech’s primary General Data Protection Regulation authority, which is in Ireland, failed to notice or act.  Europe often trumpets its regulatory leadership in the world. But the so-called “Brussels Effect” of other countries heeding its rules began to dissipate when Europe failed to enforce its most famous law: the General Data Protection Regulation. The European Commission is understandably focused on the Digital Services Act, which goes into effect next month, but EU policymakers should welcome the new Irish rules. Coimisiún na Meán’s bold move would ultimately make the Digital Services Act far more successful. Europe and the Irish government are stepping up at last to regulate harmful technology products. Social media may become social again.  https://thehill.com/opinion/technology/4380369-the-eu-should-support-irelan…

Dec. 31, 2023

Problemi dei server email indipendenti, era: "Posta elettronica": persi 6 Atenei in ~3 anni...

by M. Fioretti

On Fri, Dec 29, 2023 20:18:52 PM +0100, Enrico Nardelli wrote: > E a proposito: è su questa lista che ho letto dei problemi che le Big Tech > creano agli email provider medi e piccoli nel gestire i loro messaggi? È > chiaro che se anche 1 su 20 delle tue mail viene bloccata perché il tuo > server di ateneo è stato messo in blacklist quando poi si passa ai Big > tirano tutti un sospiro di sollievo... Presente: 2021: https://stop.zona-m.net/2021/12/self-hosted-email-must-remain-practical/ 2010: https://stop.zona-m.net/2010/05/the-real-obstacles-to-personal-email-manage… Buon 2024 a tutti! Marco -- Vi aspetto su Substack: https://mfioretti.substack.com

Dec. 31, 2023

Re: [nexa] AI/LLM a trazione europea...

by Guido Vetere

questi benchmark sono indicativi, ma molto dipende dal task applicativo e il relativo fine-tuning poi non si possono confrontare modelli c.d. 'open' con GPT4, ci sono in mezzo fattori di scala .. per certe cose molto interessanti Mixtral7B va benissimo e consuma veramente poco e comunque dai, noi italiani siamo leader in algoretica, a posto così! G. PS: Auguri a tutte e tutti! On Sat, 30 Dec 2023 at 11:38, Giuseppe Attardi <attardi(a)di.unipi.it> wrote: > Mistral ha ricevuto un primo investimento di 120 milioni per sviluppare > sistemi di AI, il governo italiano ha investito 120 milioni per l’acquisto > di Leonardo (raddoppiando i 120 della Commissione Europea). > > Qual è stata la decisione più furba? > > BTW, Leonardo è semplicemente un prodotto commerciale di Athos, industria > francese. A quel tempo, consultando il MISE, cercai di suggerire che il > CINECA facesse uno sforzo per progettare un’architettura di computer > dedicato all’AI. > > > Per gennaio sono stato convocato di nuovo per un’audizione sull’AI alla > Camera e sono andato a rileggere il mio intervento analogo al Senato del > 2020. > > Dicevo cose che state dicendo adesso: che ci vorrebbe un’iniziativa di > dimensione europea sull’AI, la chiamavo un CERN for AI e citavo le capacità > di GPT-3 come indicatore di possibili traguardi. > > > https://www.senato.it/Leg18/3557?indagine=1809 > > > Comunque, Mixtral7B è un primo risultato promettente. Il confronto con gli > altri modelli SotA però è un po’ deludente. > > > https://arxiv.org/pdf/2312.11444.pdf > > > Per accrescere la dimensione del modello, occorre arrivare a utilizzare > oltre un miliardo di MIPS, che nemmeno Allen Artificial Intelligenge riesce > a permettersi per allenare il loro modello OLMo. > > Ossia, Leonardo andrebbe interamente dedicato ad allenare un LLM per circa > un mese. > > Qualcuno deve pagare per tutte quelle risorse e per l’energia elettrica. > > Inoltre la strada da percorrere porta verso i modelli multimodali, tipo > Gemini, e lì il compito si fa ancora più arduo. > > Se i francesi non fossero così sciovinisti e lo stesso i tedeschi e gli > italiani, si dovrebbero mettere tutti insieme per lavorare ad un obiettivo > comune. > > OpenAI ha 770 dipendenti, circa 200 hanno firmato l’articolo su GPT-4. La > foto del team di Mistral mostra una dozzina di persone. > > > BTW, la Commissione ha annunciato un finanziamento di 100 milioni per un > progetto sui LLM nell’ambito dell’iniziativa Interesting Projects of Common > European Interest, di cui è capofila Tiscali ( > https://ec.europa.eu/commission/presscorner/detail/en/IP_23_6246) > > C’è poi un finanziamento di 4 milioni (H4LM) per fare una raccolta di > testi multilingue per allenare LLM (https://hplt-project.org/) > > > — Beppe > > On 27 Dec 2023, at 09:06, nexa-request(a)server-nexa.polito.it wrote: > > From: Damiano Verzulli <damiano(a)verzulli.it> > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: [nexa] AI/LLM a trazione europea... > Message-ID: <42dcc85e-6452-4255-9ddd-7f67a1e6fdae(a)verzulli.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > In questo gruppo si parla spesso di AI/LLM e... spesso ho notato mani > alzate a mo' di: "Eh! Ma servono 'risorse'... servono 'soldi'.... > servono 'infrastrutture'... perché senza, non si va da nessuna parte". > > Ricordo, ad esempio, un paio di thread incentrati sul fatto che UniPisa > avesse investito ~1M€ (se ricordo bene...) per acquistare un paio di > "cluster" [di cui almeno uno acquistato con fondi PNRR], specializzati > sul GPU-computing.... > > Bene... dico questo perché qualche settimana fa ho incrociato un POST di > Vincenzo Di Nicola [1] il quale evidenziava come Mistral [2], una > startup francese partita a maggio 2023, fosse valutata 2G€ e... stesse > rapidissimamente diventando una entita' di spicco nel panorama AI mondiale. > > Ripeto: è una startup francese. > > La cosa che piu' di tutte mi ha colpito, pero', è un'altra. Vincenzo > scriveva: "...E Mistral, in pochi mesi, ha gia’ prodotto un LLM > addestrato velocemente grazie al nostro supercomputer Leonardo del > Cineca..." > > Ecco: finalmente trovavo una evidenza concreta di un utilizzo di risorse > --finanziate e gestite dal nostro Paese-- che andasse a beneficio di > altre risorse/entita'... mainstream e, soprattutto, made-in-Europe. > > La notizia mi era nuova... e quindi ho chiesto a Vincenzo una conferma. > Oltre a confermarla, mi ha girato un ulteriore riferimento (paywalled > [3]) e, successivamente è anche andato a farsi un giro in Cineca [4] > > Cercando in giro, ho trovato quest'altra fonte ([5] in francese) che > cita sia Leonardo che EuroHPC... > > Insomma: a dispetto di quanto si pensi nei corridoi di molti nostri > Atenei... è perfettamente possibile utilizzare Leonardo per addrestare > un LLM... e tra l'altro in tempi rapidissimi. > > Mi chiedo perché dei Francesi abbiano potuto farlo... e degli Italiani > no. Ma è un dettaglio :-) > > Un saluto, > DV > > [1] > > https://www.linkedin.com/posts/dinicola_openai-rival-mistral-nears-2-billio… > [2] https://mistral.ai/ > [3] > https://www.theinformation.com/articles/why-do-we-need-an-openai-of-europe > [4] > > https://www.linkedin.com/posts/dinicola_supercomputer-francescoubertini-cin… > [5] https://www.silicon.fr/mistral-ai-llm-471793.html > > -- > Damiano Verzulli > e-mail:damiano@verzulli.it > --- > > From: Damiano Verzulli <damiano(a)verzulli.it> > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: [nexa] AI/LLM a trazione europea... > Message-ID: <42dcc85e-6452-4255-9ddd-7f67a1e6fdae(a)verzulli.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > In questo gruppo si parla spesso di AI/LLM e... spesso ho notato mani > alzate a mo' di: "Eh! Ma servono 'risorse'... servono 'soldi'.... > servono 'infrastrutture'... perché senza, non si va da nessuna parte". > > Ricordo, ad esempio, un paio di thread incentrati sul fatto che UniPisa > avesse investito ~1M€ (se ricordo bene...) per acquistare un paio di > "cluster" [di cui almeno uno acquistato con fondi PNRR], specializzati > sul GPU-computing.... > > Bene... dico questo perché qualche settimana fa ho incrociato un POST di > Vincenzo Di Nicola [1] il quale evidenziava come Mistral [2], una > startup francese partita a maggio 2023, fosse valutata 2G€ e... stesse > rapidissimamente diventando una entita' di spicco nel panorama AI mondiale. > > Ripeto: è una startup francese. > > La cosa che piu' di tutte mi ha colpito, pero', è un'altra. Vincenzo > scriveva: "...E Mistral, in pochi mesi, ha gia’ prodotto un LLM > addestrato velocemente grazie al nostro supercomputer Leonardo del > Cineca..." > > Ecco: finalmente trovavo una evidenza concreta di un utilizzo di risorse > --finanziate e gestite dal nostro Paese-- che andasse a beneficio di > altre risorse/entita'... mainstream e, soprattutto, made-in-Europe. > > La notizia mi era nuova... e quindi ho chiesto a Vincenzo una conferma. > Oltre a confermarla, mi ha girato un ulteriore riferimento (paywalled > [3]) e, successivamente è anche andato a farsi un giro in Cineca [4] > > Cercando in giro, ho trovato quest'altra fonte ([5] in francese) che > cita sia Leonardo che EuroHPC... > > Insomma: a dispetto di quanto si pensi nei corridoi di molti nostri > Atenei... è perfettamente possibile utilizzare Leonardo per addrestare > un LLM... e tra l'altro in tempi rapidissimi. > > Mi chiedo perché dei Francesi abbiano potuto farlo... e degli Italiani > no. Ma è un dettaglio :-) > > Un saluto, > DV > > [1] > > https://www.linkedin.com/posts/dinicola_openai-rival-mistral-nears-2-billio… > [2] https://mistral.ai/ > [3] > https://www.theinformation.com/articles/why-do-we-need-an-openai-of-europe > [4] > > https://www.linkedin.com/posts/dinicola_supercomputer-francescoubertini-cin… > [5] https://www.silicon.fr/mistral-ai-llm-471793.html > > -- > Damiano Verzulli > e-mail:damiano@verzulli.it > --- > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Dec. 30, 2023

Re: [nexa] AI/LLM a trazione europea...

by Giuseppe Attardi

Mistral ha ricevuto un primo investimento di 120 milioni per sviluppare sistemi di AI, il governo italiano ha investito 120 milioni per l’acquisto di Leonardo (raddoppiando i 120 della Commissione Europea). Qual è stata la decisione più furba? BTW, Leonardo è semplicemente un prodotto commerciale di Athos, industria francese. A quel tempo, consultando il MISE, cercai di suggerire che il CINECA facesse uno sforzo per progettare un’architettura di computer dedicato all’AI. Per gennaio sono stato convocato di nuovo per un’audizione sull’AI alla Camera e sono andato a rileggere il mio intervento analogo al Senato del 2020. Dicevo cose che state dicendo adesso: che ci vorrebbe un’iniziativa di dimensione europea sull’AI, la chiamavo un CERN for AI e citavo le capacità di GPT-3 come indicatore di possibili traguardi. https://www.senato.it/Leg18/3557?indagine=1809 Comunque, Mixtral7B è un primo risultato promettente. Il confronto con gli altri modelli SotA però è un po’ deludente. https://arxiv.org/pdf/2312.11444.pdf Per accrescere la dimensione del modello, occorre arrivare a utilizzare oltre un miliardo di MIPS, che nemmeno Allen Artificial Intelligenge riesce a permettersi per allenare il loro modello OLMo. Ossia, Leonardo andrebbe interamente dedicato ad allenare un LLM per circa un mese. Qualcuno deve pagare per tutte quelle risorse e per l’energia elettrica. Inoltre la strada da percorrere porta verso i modelli multimodali, tipo Gemini, e lì il compito si fa ancora più arduo. Se i francesi non fossero così sciovinisti e lo stesso i tedeschi e gli italiani, si dovrebbero mettere tutti insieme per lavorare ad un obiettivo comune. OpenAI ha 770 dipendenti, circa 200 hanno firmato l’articolo su GPT-4. La foto del team di Mistral mostra una dozzina di persone. BTW, la Commissione ha annunciato un finanziamento di 100 milioni per un progetto sui LLM nell’ambito dell’iniziativa Interesting Projects of Common European Interest, di cui è capofila Tiscali (https://ec.europa.eu/commission/presscorner/detail/en/IP_23_6246) C’è poi un finanziamento di 4 milioni (H4LM) per fare una raccolta di testi multilingue per allenare LLM (https://hplt-project.org/) — Beppe > On 27 Dec 2023, at 09:06, nexa-request(a)server-nexa.polito.it wrote: > From: Damiano Verzulli <damiano(a)verzulli.it> > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: [nexa] AI/LLM a trazione europea... > Message-ID: <42dcc85e-6452-4255-9ddd-7f67a1e6fdae(a)verzulli.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > In questo gruppo si parla spesso di AI/LLM e... spesso ho notato mani > alzate a mo' di: "Eh! Ma servono 'risorse'... servono 'soldi'.... > servono 'infrastrutture'... perché senza, non si va da nessuna parte". > > Ricordo, ad esempio, un paio di thread incentrati sul fatto che UniPisa > avesse investito ~1M€ (se ricordo bene...) per acquistare un paio di > "cluster" [di cui almeno uno acquistato con fondi PNRR], specializzati > sul GPU-computing.... > > Bene... dico questo perché qualche settimana fa ho incrociato un POST di > Vincenzo Di Nicola [1] il quale evidenziava come Mistral [2], una > startup francese partita a maggio 2023, fosse valutata 2G€ e... stesse > rapidissimamente diventando una entita' di spicco nel panorama AI mondiale. > > Ripeto: è una startup francese. > > La cosa che piu' di tutte mi ha colpito, pero', è un'altra. Vincenzo > scriveva: "...E Mistral, in pochi mesi, ha gia’ prodotto un LLM > addestrato velocemente grazie al nostro supercomputer Leonardo del > Cineca..." > > Ecco: finalmente trovavo una evidenza concreta di un utilizzo di risorse > --finanziate e gestite dal nostro Paese-- che andasse a beneficio di > altre risorse/entita'... mainstream e, soprattutto, made-in-Europe. > > La notizia mi era nuova... e quindi ho chiesto a Vincenzo una conferma. > Oltre a confermarla, mi ha girato un ulteriore riferimento (paywalled > [3]) e, successivamente è anche andato a farsi un giro in Cineca [4] > > Cercando in giro, ho trovato quest'altra fonte ([5] in francese) che > cita sia Leonardo che EuroHPC... > > Insomma: a dispetto di quanto si pensi nei corridoi di molti nostri > Atenei... è perfettamente possibile utilizzare Leonardo per addrestare > un LLM... e tra l'altro in tempi rapidissimi. > > Mi chiedo perché dei Francesi abbiano potuto farlo... e degli Italiani > no. Ma è un dettaglio :-) > > Un saluto, > DV > > [1] > https://www.linkedin.com/posts/dinicola_openai-rival-mistral-nears-2-billio… > [2] https://mistral.ai/ > [3] > https://www.theinformation.com/articles/why-do-we-need-an-openai-of-europe > [4] > https://www.linkedin.com/posts/dinicola_supercomputer-francescoubertini-cin… > [5] https://www.silicon.fr/mistral-ai-llm-471793.html > > -- > Damiano Verzulli > e-mail:damiano@verzulli.it > --- > From: Damiano Verzulli <damiano(a)verzulli.it> > To: "nexa(a)server-nexa.polito.it" <nexa(a)server-nexa.polito.it> > Subject: [nexa] AI/LLM a trazione europea... > Message-ID: <42dcc85e-6452-4255-9ddd-7f67a1e6fdae(a)verzulli.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > In questo gruppo si parla spesso di AI/LLM e... spesso ho notato mani > alzate a mo' di: "Eh! Ma servono 'risorse'... servono 'soldi'.... > servono 'infrastrutture'... perché senza, non si va da nessuna parte". > > Ricordo, ad esempio, un paio di thread incentrati sul fatto che UniPisa > avesse investito ~1M€ (se ricordo bene...) per acquistare un paio di > "cluster" [di cui almeno uno acquistato con fondi PNRR], specializzati > sul GPU-computing.... > > Bene... dico questo perché qualche settimana fa ho incrociato un POST di > Vincenzo Di Nicola [1] il quale evidenziava come Mistral [2], una > startup francese partita a maggio 2023, fosse valutata 2G€ e... stesse > rapidissimamente diventando una entita' di spicco nel panorama AI mondiale. > > Ripeto: è una startup francese. > > La cosa che piu' di tutte mi ha colpito, pero', è un'altra. Vincenzo > scriveva: "...E Mistral, in pochi mesi, ha gia’ prodotto un LLM > addestrato velocemente grazie al nostro supercomputer Leonardo del > Cineca..." > > Ecco: finalmente trovavo una evidenza concreta di un utilizzo di risorse > --finanziate e gestite dal nostro Paese-- che andasse a beneficio di > altre risorse/entita'... mainstream e, soprattutto, made-in-Europe. > > La notizia mi era nuova... e quindi ho chiesto a Vincenzo una conferma. > Oltre a confermarla, mi ha girato un ulteriore riferimento (paywalled > [3]) e, successivamente è anche andato a farsi un giro in Cineca [4] > > Cercando in giro, ho trovato quest'altra fonte ([5] in francese) che > cita sia Leonardo che EuroHPC... > > Insomma: a dispetto di quanto si pensi nei corridoi di molti nostri > Atenei... è perfettamente possibile utilizzare Leonardo per addrestare > un LLM... e tra l'altro in tempi rapidissimi. > > Mi chiedo perché dei Francesi abbiano potuto farlo... e degli Italiani > no. Ma è un dettaglio :-) > > Un saluto, > DV > > [1] > https://www.linkedin.com/posts/dinicola_openai-rival-mistral-nears-2-billio… > [2] https://mistral.ai/ > [3] > https://www.theinformation.com/articles/why-do-we-need-an-openai-of-europe > [4] > https://www.linkedin.com/posts/dinicola_supercomputer-francescoubertini-cin… > [5] https://www.silicon.fr/mistral-ai-llm-471793.html > > -- > Damiano Verzulli > e-mail:damiano@verzulli.it > ---

Dec. 30, 2023

Re: [nexa] AI/LLM a trazione europea...

by Giuseppe Attardi

Dec. 29, 2023

Re: [nexa] "Posta elettronica": persi 6 Atenei in ~3 anni...

by Damiano Verzulli

Il 29/12/23 18:07, Giorgio Ventre ha scritto: > [...] > perdonatemi ma vorrei portare alla vostra attenzione le difficoltà di > gestione che affrontano quotidianamente gli Atenei. > [...] > In parole povere, occorrono soldi. E tanti. Credo --forse presuntuosamente-- di avere le idee abbastanza chiare su questi aspetti. Ho avuto la fortuna di lavorare per ~18 anni nel settore (tecnico) IT, di un Ateneo che *NON* offriva corsi di laurea in informatica, ne in ingegneria. Le difficolta' di gestione che Giorgio richiama, sono certamente evidenti... ma ai miei occhi appaiono totalmente scorrelate dalla necessita' di fare scelte tecnologiche o, peggio, di indirizzo politico/strategico (in ambito tecnologico). Sono pronto a scommettere che la decisione di migrare all'esterno il servizio di Posta è *sempre* dettata dal fatto che "gestire" è molto piu' complesso che "pagare". Specie se, pagando, si ritiene di acquisire anche una sorta di "tutela indiretta" dai problemi che potrebbero insorgere. Detto in altri termini: in assenza di un chiaro mandato "politico", la prima opzione di un dirigente pubblico sara' quella di affidare all'esterno quanti piu' servizi possibile.... perché cio' semplifichera' la sua vita (se trovate "bug" in questo mio ragionamento, per cortesia, fatemelo notare). Certamente il mantenimento di una infrastruttura di posta è qualcosa "di costoso". Ma la domanda vera è: "Ok. Ma quanto costa?" magari aggiungendo: "Che margini di manovra ho, nella modulazione di questi costi, rispetto --ad esempio-- ad un aumento minimo del rischio di indisponibilita'?" Alzi la mano qualcuno che è in grado di citare un, ripeto, "UN", documento che dettagli questo aspetto. A pensarci bene, il primo (e unico) documento di questo genere... è del "solito" Enrico Venuto - PoliTO - che al workshop GARR 2022 presento' una sua analisi comparativa "cloud vs. on-prem" [1] per un problema --relativamente "particolare"-- che lui dovette affrontare [e che discutemmo anche su questa lista [1b]]. Fermo restando la particolarita' del suo caso (che era storage-centrico)... il risultato fu agghiacciante: il cloud era PIU' COSTOSO di un fattore variabile da x83 a x165 (rif. slide 10 e 17) Perché di questa sua valutazione, non si discute? Perché non se ne legge, in giro? Perché non viene estesa in altri ambiti (es.: la Posta)? E perchè --viceversa-- il mantra ricorrente [che lo stesso Giorgio evidenzia] è: "...occorrono soldi. E tanti" (per l'on-prem)? La mia sensazione *FORTE* è che il tam-tam che da oltre 10 anni sentiamo a tutti i livelli, ossia --"Nessuno è capace di fare cose cosi' buone come i GAFAM. Cose non solo 'buone', ma anche gratis"--, è totalmente fuorviante. La verita' è che oggi (2023) una P.A. puo' acquistare un server con 24 core fisici, 256GB di RAM e 2 dischi SSD da 1TB, per 3.637,17€ [2]. E aggiungere altri 16 dischi SSD da 800GB costa altri 4.632 €. Per i non-tecnici, segnalo che --complessivamente-- parliamo di "ferro" in grado di gestire *TRANQUILLAMENTE* una infrastruttura di posta di un Ateneo "medio". Dunque, se decidiamo che Enrico Venuto non racconta sciocchezze e se si da per corretto quanto affermo nel paragrafo precedente, dobbiamo scartare il problema "costo": l'on-prem costa MENO (a latere, sul punto, segnalo anche un interessantissimo articolo recentemente pubblicato da... qualcuno che ha scelto di comprare 600K$ di server, per alleggerire la bolletta cloud che pesava 140/150K$ / mese [3]) Quindi, qual'e' il problema? Il problema è che per capire come configurare quei server, quanti comprarne, dove dislocarli [...dovesse mai essere che arrivi un ransomware....], quali software (open-source) metterci sopra, come far si che tutto il setup venga effettuato con "automatismi" (in grado di essere banalmente replicati su altre macchine, magari presso altri enti), come monitorarne il regolare funzionamento... come garantirne una "ragionevole" funzionalita'.... è una attivita' COMPLESSA. Una attivita' che ~30 anni fa veniva svolta da una figura specifica (il "tecnico universitario"), appositamente prevista per quello scopo... ma che, negli ultimi 20 anni... è stata completamente distrutta: quei tecnici che 30 anni fa erano giovani, ora stanno per andare in pensione; quelli che erano meno-giovani, ci sono gia' andati. Nel mezzo, ~20 anni di "abbandono politico" (scarsa formazione; scarsissima incentivazione; nessuna azione concreta volta a favorire l'allineamento delle competenze a quelle di mercato). Non è un caso che io stesso --per primo-- sia "figlio" di quella "nuova" politica (sono stato ~18 anni a fare il lavoro di un tecnico... a fianco di tecnici... ma senza essere uno strutturato). E quindi? Come se ne esce? La buona notizia è che non c'e' una prescrizione medica che ordina a *TUTTI* gli Atenei di allestire, al proprio interno, la migliore infrastruttura di posta possibile. E' perfettamente possibile che un piccolo manipolo di tecnici (pochissime unita'; meno di 10), si ritrovino attorno ad un tavolo (un GdL?) e tirino giu' un "disegno" dal quale, poi, tutti gli altri (....se lo vorranno) possano "prendere". Oggi esistono sia le condizioni economiche (perché i server e lo storage costano un tozzo di pane...), sia quelle software (la qualita' dei software open-source è a livelli mai raggiunti finora, ed in aumento... posto che li si sappia scegliere), sia quelle infrastrutturali (le tecnologie di automazione oggi disponibili consentono la creazione di interi "virtual-data-center" in tempi dell'ordine dei MINUTI... posto che le si conosca!) per arrivare *RAPIDAMENTE* ad un risultato del genere. Serve "solo" la volonta' (politica) di volerlo fare. > Se si è deciso di affidare ad un singolo soggetto la gestione > amministrativa e finanziaria degli Atenei, e ad un solo provider la > gestione della rete di ricerca, forse una analoga decisione potrebbe > essere presa per i servizi mail ed IT in genere. Dopo aver fatto un > bilancio tra i costi ed i benefici, anche appunto quelli di natura > "strategica". Rispetto a CINECA e GARR (...perché è di questi che parliamo), lascio sul tavolo tre elmenti di riflessione: * Cineca gestiva --fino a ~8/10 anni fa-- una infrastruttura di Posta che "vendeva" agli Atenei (1€/anno a casella) e gli Atenei, principalmente, utilizzavano per offrire una casella di posta ai propri studenti. Quel servizio era basato su infrastrutture disegnate con logiche ante-cloud (perché quando sono state "pensate", il cloud non era ancora cosi' "affidabile") e quindi era una spina nel fianco dello stesso Cineca (i costi del solo storage, con gli SLA che Cineca si era auto-inflitto, erano maggiori dei ricavi) . D'altro canto, tutti --ripeto: TUTTI-- i rappresentanti degli Enti consorziati, non mancavano occasione per segnalare l'esosità del servizio ("Ma Google ce le da gratis! Perché Cineca ce le fa pagare?"). Alla fine, l'ex-ex-Direttore... decidette di "staccare la spina". Il servizio fu dismesso; * GARR: non è un segreto che GARR abbia allestito, negli ultimi anni, infrastrutture di calcolo e storage particolarmente rilevanti: a GARR-Cloud (11.500 vCPU, 90TB di RAM e 16PB di storage sparsi su 5 datacenter) sono state affiancate altre risorse (INFRA: 10752 vCore, 84TB di RAM e 7.7 PB di storage sparsi su altri 5 datacenter) - fonte: Presentazione "Evoluzione del modello cloud GARR", di Massimo Carboni, al recente workshop GARR del 9/11/2023 [4]; * Cineca e GARR: non ho alcuna esitazione a definire entrambe come eccellenze italiane di cui andar fieri. Ma allo stesso tempo, sono pronto a scommettere che se giriamo nei corridoi degli Atenei e chiediamo: "Sai chi è Cineca? Sai cosa fa GARR? Sai chi vi partecipa? Sai come vengono finanziate?".... un buon 90% non riesce a rispondere a nessuna domanda, ed il restante 10% risponde (forse) solo alle prime due.... > La questione dovrebbe essere affrontata dal punto di vista della > politica industriale e della cultura tecnologica del Paese, insieme ad > altri problemi come l'indipendenza sulle infrastrutture digitali. > Non ho strumenti per valutare la questione a questo livello di scala. La mia sensazione, pero', è che la tendenza è verso un costante peggioramento --se guardata in ambito Italia--. Personalmente credo che le uniche speranze possono arrivare solo per via Europea (a partire da Francia e Germania). Mi fermo qua, scusandomi per la prolissita'. Un caro saluto, e grazie a tutti per gli spunti di riflessione. Bye, DV [1] slide: https://www.eventi.garr.it/it/ws22/programma/materiali-conferenza-2019/699-… stream: https://peertube.devol.it/w/rUs1KLWXZoDd5gWFRixr72 [1b] https://server-nexa.polito.it/pipermail/nexa/2022-November/024313.html [2] rif. convenzione CONSIP Tecnologie Server 4 - Lotto 4 - https://www.italware.it/convenzioni/ts4-lotto-4.htm [3] https://world.hey.com/dhh/the-big-cloud-exit-faq-20274010 [4] rif. slide 4 di https://www.eventi.garr.it/it/documenti/workshop-garr-2023/presentazioni-12… -- Damiano Verzulli e-mail:damiano@verzulli.it --- possible?ok:while(!possible){open_mindedness++} --- "...I realized that free software would not generate the kind of income that was needed. Maybe in USA or Europe, you may be able to get a well paying job as a free software developer, but not here [in Africa]..." -- Guido Sohne - 1973-2008 http://ole.kenic.or.ke/pipermail/skunkworks/2008-April/005989.html

Dec. 29, 2023

Re: [nexa] "Posta elettronica": persi 6 Atenei in ~3 anni...

by Angelo Raffaele Meo

Io sono perfettamente allineato con Enrico, Giorgio, Giacomo, Damiano. Mi permetto di aggiungere che, a mio giudizio, gli incarichi delle scuole e delle università alle Big Tech sono illegali perchè violano l'art.68 del vecchio codice dell'amministrazione digitale e le norme comunitarie per la protezione dei dati personali. Secondp i miei conti approssimativi i fatturati in Italia delle Big Tech sono dell'ordine di grandezza del reddito di cittadinanza, ma quei fatturati sono una perdita sevva della ricchezza del nostro Paese, mentre le spese rese possibili dal reddito di cittadinanza restano in Italia e sono equivalenti aad un investimento . Raf Meo ________________________________ From: nexa <nexa-bounces(a)server-nexa.polito.it> on behalf of Enrico Nardelli <nardelli(a)mat.uniroma2.it> Sent: Friday, December 29, 2023 8:18 PM To: nexa(a)server-nexa.polito.it <nexa(a)server-nexa.polito.it> Subject: Re: [nexa] "Posta elettronica": persi 6 Atenei in ~3 anni... Certamente l'aspetto economico è importante, per questo sarebbe interessante sapere quanto costano questi contratti di servizio, che come giustamente osservava Stefano Maffulli, integrano molti servizi, sia per gli admin che per gli utenti finali, e sono quindi percepiti positivamente dall'utenza finale. È importante, sia per confrontarli col costo di personale interno, sia perché poi, di fatto, rischia di determinarsi, per un ateneo, una situazione di "vendor lock-in" che può far lievitare i costi senza freno. Forse ricordo male, ma anche alle scuole nel periodo di lockdown le piattaforme erano state offerte gratis, e adesso non lo sono più. Qualcuno ha dati precisi su questo? Il punto è poi anche che, oltre al costo economico, c'è il valore della profilazione degli utenti, che diventa sempre più grande. Con il Machine Learning sempre più affamato di nuovi testi, ciò che passa per le caselle di posta elettronica e i cloud degli atenei penso sia un valore significativo per le Big Tech. Ecco, posto che sono conti niente affatto facili da fare (e in certa misura anche arbitrari: come fai a dare valore ai dati personali?), penso comunque che avere la conoscenza in casa secondo me sia, sul lungo periodo, sempre più conveniente per una grande amministrazione come un ateneo. A maggior ragione per chi dovrebbe essere sulla frontiera della conoscenza, come giustamente sostiene Giacomo Tesio. A condizione che riesca a capire l'importanza strategica di governare le infrastrutture digitali: mission impossible, temo, per molta della classe dirigente italiana centrale e locale. E a proposito: è su questa lista che ho letto dei problemi che le Big Tech creano agli email provider medi e piccoli nel gestire i loro messaggi? È chiaro che se anche 1 su 20 delle tue mail viene bloccata perché il tuo server di ateneo è stato messo in blacklist quando poi si passa ai Big tirano tutti un sospiro di sollievo... Infine, sarei curioso di sapere se ci sono analisi simili fatte per Paesi un po' più attenti del nostro a queste problematiche, tipo la Francia. Con l'occasione un augurio di buona fine e miglior principio. Enrico Il 29/12/2023 18:07, Giorgio Ventre ha scritto: Cari tutti, perdonatemi ma vorrei portare alla vostra attenzione le difficoltà di gestione che affrontano quotidianamente gli Atenei. Il problema non è la disponibilità di talenti e competenze ma quella delle risorse necessarie a garantire i servizi che noi come privati siamo abituati a ricevere dai nostri provider preferiti. In parole povere, occorrono soldi. E tanti. Secondo me andare a sindacare le scelte dei singoli atenei mi sembra un esercizio sterile, quando spesso si tratta di scegliere tra mettere soldi in un Servizio IT o rinnovare le aule di un Dipartimento. La questione dovrebbe essere affrontata dal punto di vista della politica industriale e della cultura tecnologica del Paese, insieme ad altri problemi come l'indipendenza sulle infrastrutture digitali. Se si è deciso di affidare ad un singolo soggetto la gestione amministrativa e finanziaria degli Atenei, e ad un solo provider la gestione della rete di ricerca, forse una analoga decisione potrebbe essere presa per i servizi mail ed IT in genere. Dopo aver fatto un bilancio tra i costi ed i benefici, anche appunto quelli di natura "strategica". Senza una decisione di questo genere il numero degli Atenei con gestioni in-house della mail si ridurrà sempre di più. Un caro saluto a tutti ed auguri per un eccellente 2024. Giorgio Il 29/12/23 17:54, Giacomo Tesio ha scritto: Ciao Damiano, Il 28 Dicembre 2023 21:24:05 UTC, Damiano Verzulli <damiano(a)verzulli.it><mailto:damiano@verzulli.it> ha scritto: Mi interessa --ripeto-- mi interessa, che gli Atenei tornino a fare da apripista nella riappropriazione di parte del mondo tecnologico... che gli e' stato scippato. Sono certo --ripeto-- sono *CERTO* che è "tecnicamente" possibile. Il problema è solo "politico". [...] D'altronde.... se non si riesce a fare quello che io immagino, come pensiamo possa essere mai possibile ambire a fare quello che tu speri? Ciò che io proprio non riesco a capire è che credibilità possa avere una Università che si affida a Google o Microsoft per l'email pur avendo informatica o ingegneria informatica fra i percorsi di laurea proposti. È deprimente pensare che nessuno si vergogni di tali scelte, viste le molte alternative nettamente migliori disponibili sul mercato. A volte penso che oltre alla dismissione dell'Olivetti, il Piano Marshall ci sia costato l'idea stessa di un'Università competente, che tanto ad una colonia a-democratica non serviva. Giacomo _______________________________________________ nexa mailing list nexa(a)server-nexa.polito.it<mailto:nexa@server-nexa.polito.it> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html [cid:part1.XpNn0ilR.kGlJIqo0@mat.uniroma2.it] ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it<mailto:nardelli@mat.uniroma2.it> online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Dec. 29, 2023

Re: [nexa] "Posta elettronica": persi 6 Atenei in ~3 anni...

by Enrico Nardelli

Certamente l'aspetto economico è importante, per questo sarebbe interessante sapere quanto costano questi contratti di servizio, che come giustamente osservava Stefano Maffulli, integrano molti servizi, sia per gli admin che per gli utenti finali, e sono quindi percepiti positivamente dall'utenza finale. È importante, sia per confrontarli col costo di personale interno, sia perché poi, di fatto, rischia di determinarsi, per un ateneo, una situazione di "vendor lock-in" che può far lievitare i costi senza freno. Forse ricordo male, ma anche alle scuole nel periodo di lockdown le piattaforme erano state offerte gratis, e adesso non lo sono più. Qualcuno ha dati precisi su questo? Il punto è poi anche che, oltre al costo economico, c'è il valore della profilazione degli utenti, che diventa sempre più grande. Con il Machine Learning sempre più affamato di nuovi testi, ciò che passa per le caselle di posta elettronica e i cloud degli atenei penso sia un valore significativo per le Big Tech. Ecco, posto che sono conti niente affatto facili da fare (e in certa misura anche arbitrari: come fai a dare valore ai dati personali?), penso comunque che avere la conoscenza in casa secondo me sia, sul lungo periodo, sempre più conveniente per una grande amministrazione come un ateneo. A maggior ragione per chi dovrebbe essere sulla frontiera della conoscenza, come giustamente sostiene Giacomo Tesio. A condizione che riesca a capire l'importanza strategica di governare le infrastrutture digitali: mission impossible, temo, per molta della classe dirigente italiana centrale e locale. E a proposito: è su questa lista che ho letto dei problemi che le Big Tech creano agli email provider medi e piccoli nel gestire i loro messaggi? È chiaro che se anche 1 su 20 delle tue mail viene bloccata perché il tuo server di ateneo è stato messo in blacklist quando poi si passa ai Big tirano tutti un sospiro di sollievo... Infine, sarei curioso di sapere se ci sono analisi simili fatte per Paesi un po' più attenti del nostro a queste problematiche, tipo la Francia. Con l'occasione un augurio di buona fine e miglior principio. Enrico Il 29/12/2023 18:07, Giorgio Ventre ha scritto: > Cari tutti, > > perdonatemi ma vorrei portare alla vostra attenzione le difficoltà di > gestione che affrontano quotidianamente gli Atenei. > > Il problema non è la disponibilità di talenti e competenze ma quella > delle risorse necessarie a garantire i servizi che noi come privati > siamo abituati a ricevere dai nostri provider preferiti. > > In parole povere, occorrono soldi. E tanti. > > Secondo me andare a sindacare le scelte dei singoli atenei mi sembra > un esercizio sterile, quando spesso si tratta di scegliere tra mettere > soldi in un Servizio IT o rinnovare le aule di un Dipartimento. > > La questione dovrebbe essere affrontata dal punto di vista della > politica industriale e della cultura tecnologica del Paese, insieme ad > altri problemi come l'indipendenza sulle infrastrutture digitali. > > Se si è deciso di affidare ad un singolo soggetto la gestione > amministrativa e finanziaria degli Atenei, e ad un solo provider la > gestione della rete di ricerca, forse una analoga decisione potrebbe > essere presa per i servizi mail ed IT in genere. Dopo aver fatto un > bilancio tra i costi ed i benefici, anche appunto quelli di natura > "strategica". > > Senza una decisione di questo genere il numero degli Atenei con > gestioni in-house della mail si ridurrà sempre di più. > > > Un caro saluto a tutti ed auguri per un eccellente 2024. > > > Giorgio > > Il 29/12/23 17:54, Giacomo Tesio ha scritto: >> Ciao Damiano, >> >> Il 28 Dicembre 2023 21:24:05 UTC, Damiano Verzulli >> <damiano(a)verzulli.it> ha scritto: >>> Mi interessa --ripeto-- mi interessa, che gli Atenei tornino a fare >>> da apripista nella riappropriazione >>> di parte del mondo tecnologico... che gli e' stato scippato. Sono >>> certo --ripeto-- sono *CERTO* che >>> è "tecnicamente" possibile. Il problema è solo "politico". >>> >>> [...] >>> >>> D'altronde.... se non si riesce a fare quello che io immagino, >>> come pensiamo possa essere >>> mai possibile ambire a fare quello che tu speri? >> Ciò che io proprio non riesco a capire è che credibilità possa avere >> una Università >> che si affida a Google o Microsoft per l'email pur avendo informatica >> o ingegneria >> informatica fra i percorsi di laurea proposti. >> >> >> È deprimente pensare che nessuno si vergogni di tali scelte, viste le >> molte alternative >> nettamente migliori disponibili sul mercato. >> >> A volte penso che oltre alla dismissione dell'Olivetti, il Piano >> Marshall ci sia costato >> l'idea stessa di un'Università competente, che tanto ad una colonia >> a-democratica non serviva. >> >> >> Giacomo >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > -- -- EN https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html ====================================================== Prof. Enrico Nardelli Presidente di "Informatics Europe" Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI Dipartimento di Matematica - Università di Roma "Tor Vergata" Via della Ricerca Scientifica snc - 00133 Roma home page: https://www.mat.uniroma2.it/~nardelli blog: https://link-and-think.blogspot.it/ tel: +39 06 7259.4204 fax: +39 06 7259.4699 mobile: +39 335 590.2331 e-mail: nardelli(a)mat.uniroma2.it online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont ====================================================== --

Dec. 29, 2023