February 2024 - nexa - server-nexa.polito.it

Re: [nexa] Per un’intelligenza artificiale bene comune.

by 380°

Buongiorno Alberto, Alberto Cammozzo via nexa <nexa(a)server-nexa.polito.it> writes: > Grazie della segnalazione. Articolo interessante e spunto di > riflessione. Certo che la c.d. intelligenza artificiale deve essere bene comune, lo deve essere come tutto il resto del software: software libero. > L'articolista, dopo aver constatato in modo dettagliato quanto > squilibrato sia il mondo plasmato dalla tecnologia, non è forse è la tecnologia a essere plasmata da "certo mondo", ma non andiamo OT Per andare direttamente a cuore del problema: lo squilibrio nel mondo NON dipende dalla tecnologia ma dalla "proprietà intellettuale", concetto /bislacco/ col quale si impedisce a tutti di poter *partecipare* liberamente allo sviluppo tecnologico (cioè a /come/ funziona la tecnologia); al massimo una forma assai *alienata* di partecipazione è /concessa/ a condizioni ristrettissime a coloro che lavorano come "funzionari civili", i quali si /limitano/ a fare solo "uso privato" della ragione [1] [...] > Rifiutandosi di collaborare a questo processo diversi bravi > professionisti abbandonano il loro posto di lavoro per motivi morali. Alcuni smettendo di scrivere software, altri dedicandosi a scrivere solo software libero e a cercare di spiegare al resto della società /perché/ il software, non solo l'AI, deve essere "bene comune". (Nota: comunque, questo NON basta a porre fine al dominio di alcuni umani su molti altri umani) > Tra questi voglio ricordare anche l'amico Jacopo Pantaleoni, che ha > lasciato il posto di Principal Research Scientist a Nvidia e di cui ho > letto con piacere il libro "The Quickest Revolution1", nel quale lancia > il suo grido di allarme. Se è per questo c'è stato anche chi si è suicidato, come Aaron Swartz Comunque non è detto che le attività che faranno la storia dell'informatica siano oggi svolte da persone famose (a volte famose loro malgrado) > Spero di essere smentito da qualche collega, ma non vedo da parte degli > informatici né /moratorie/ né /obiezioni di coscienza/ a questa spirale > autodistruttiva: Lavorare solo per/con/a software libero vale come "obiezione di conscienza"? [...] > Con la /moratoria/ una categoria protegge la collettività dagli abusi e > dalle conseguenze nefaste del proprio operato astenendosi da alcune > applicazioni Quali sarebbero le applicazioni software da sottoporre a moratoria? Io trovo molto più efficace, di diversi ordini di grandezza, fare in modo che chiunque possa /controllare/ il software che decide di eseguire sui propri dispositivi (NO, questo non basta a determinare un adeguato livello di pertecipazione dei cittadini, ma è /conditio sine qua non/). > (come hanno fatto i biologi, ad esempio) Non ho capito: su cosa avrebbero fatto moratorie i biologi? > e così facendo difende la propria reputazione. > > Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il > compito di moderare le conseguenze dell'asservimento della cibernetica e > dell'informatica alla distruttività industriale? a chi spetta nominare l'«Autorità Garante della moderazione delle conseguenze...»?!? ;-) Nessuno verrà a salvarci. «La sovranità appartiene al popolo». ...e: --8<---------------cut here---------------start------------->8--- Tutti i cittadini hanno pari dignità sociale [cfr. XIV] e sono eguali davanti alla legge, senza distinzione di sesso [cfr. artt. 29 c. 2, 37 c. 1, 48 c. 1, 51 c. 1], di razza, di lingua [cfr. art. 6], di religione [cfr. artt. 8, 19], di opinioni politiche [cfr. art. 22], di condizioni personali e sociali. E` compito della Repubblica rimuovere gli ostacoli di ordine economico e sociale, che, limitando di fatto la libertà e l'eguaglianza dei cittadini, impediscono il pieno sviluppo della persona umana e l'effettiva partecipazione di tutti i lavoratori all'organizzazione politica, economica e sociale del Paese. --8<---------------cut here---------------end--------------->8--- che, in altre parole, significa che è compito del popolo rimuovere gli ostacoli... A meno che le costituzioni moderne siano solo una bella narrazione... > Che tipo di realtà intermedia possiamo immaginare che adempia a questo > compito storico? Che ruolo possono avere gli informatici? Diffondere capillarmente la cultura informatica (che è scienza e in quanto tale parte integrante della filosofia). [...] Saluti 380° [1] https://archiviomarini.sp.unipi.it/362/1/kant_7/ar01s04.html -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Marco A. Calamari

On mar, 2024-02-27 at 14:08 +0100, Stefano Zacchiroli wrote: > On Tue, Feb 27, 2024 at 12:04:52PM +0100, Marco A. Calamari wrote: > > > Ma attenzione al fatto che, a leggi vigenti, tale obiettivo non è > > > raggiungibile per modelli a-la ChatGPT. Il motivo è che includono nei > > > loro dataset di training grandi parti del Web (solitamente ottenute via > > > crawling fatto in casa), che nessuna parte terza può legittimamente > > > redistribuire, dato che solo una piccolissima parte del Web è > > > disponibile sotto licenze libere. > > > > Un appunto, nessuna azienda *europea* lo può fare. > > Quelle americane, ad esempio, legalmente possono e lo fanno. > > Ho l'impressione che parliamo di diritti diversi. > > Io mi riferisco a quello di redistribuire i training dataset acquisiti > via web crawling (o simili). A mia conoscenza, non lo possono fare > nemmeno quelle americane e non lo fanno. E la ragione è abbastanza > ovvia: se fai web crawl recuperi pagine con milioni di detentori di > diritto d'autore diversi e sotto migliaia di licenze diverse, la maggior > parte delle quali non permette redistribuzione. > > Se hai controesempi sono i benvenuti. Non vorrei tediare la lista, quindi sarò sintetico https://datarade.ai/data-categories/ai-ml-training-data/datasets > Credo tu ti riferisca al diritto di fare mining di tali pagine, ai fini > di machine learning, e su quello effettivamente la situazione tra EU e > US e abbastanza diversa. (Anche se la recente riforma del copyright > europea ha liberalizzato parecchio le cose anche qua da noi, per alcuni > use case.) > > > Poi nessuno acquisisce più dataset in proprio, tutti lo fanno tramite queste > > "aziende specializzate", in modo da avere comunque un ulteriore schermo > > legale contro cause civili spicciole per diritto d'autore e proprietà > > intellettuale. > > Non ho una statistica esaustiva, ma per interazione diretta con gli > autori di LLM sia specifici per il codice che general purpose (a-la > ChatGPT), a me risulta il contrario. C'è molto crawling e mining in > proprio da parte dei grandi attori, in aggiunta a quello che dici tu, ma > che a mia conoscenza non è dominante negli LLM state-of-the-art. > > Ciao

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Stefano Zacchiroli

On Tue, Feb 27, 2024 at 12:10:42PM +0100, Guido Vetere wrote: > infatti i dataset non sono distribuiti, neanche quelli dei modelli c.d. > aperti, però molti di questi sono comunque reperibili 'a prescindere' Purtroppo nella maggior parte dei casi è come dici tu, e più in generale c'è molta confusione sotto il "sole" delle IA cosiddette aperte. Ma ci sono anche esempi virtuosi, come Starcoder o Eleuther (LLM per il codice), i cui training dataset (assieme a tutto il resto) sono interamente disponibili e libri. -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Stefano Zacchiroli

On Tue, Feb 27, 2024 at 12:04:52PM +0100, Marco A. Calamari wrote: > > Ma attenzione al fatto che, a leggi vigenti, tale obiettivo non è > > raggiungibile per modelli a-la ChatGPT. Il motivo è che includono nei > > loro dataset di training grandi parti del Web (solitamente ottenute via > > crawling fatto in casa), che nessuna parte terza può legittimamente > > redistribuire, dato che solo una piccolissima parte del Web è > > disponibile sotto licenze libere. > > Un appunto, nessuna azienda *europea* lo può fare. > Quelle americane, ad esempio, legalmente possono e lo fanno. Ho l'impressione che parliamo di diritti diversi. Io mi riferisco a quello di redistribuire i training dataset acquisiti via web crawling (o simili). A mia conoscenza, non lo possono fare nemmeno quelle americane e non lo fanno. E la ragione è abbastanza ovvia: se fai web crawl recuperi pagine con milioni di detentori di diritto d'autore diversi e sotto migliaia di licenze diverse, la maggior parte delle quali non permette redistribuzione. Se hai controesempi sono i benvenuti. Credo tu ti riferisca al diritto di fare mining di tali pagine, ai fini di machine learning, e su quello effettivamente la situazione tra EU e US e abbastanza diversa. (Anche se la recente riforma del copyright europea ha liberalizzato parecchio le cose anche qua da noi, per alcuni use case.) > Poi nessuno acquisisce più dataset in proprio, tutti lo fanno tramite queste > "aziende specializzate", in modo da avere comunque un ulteriore schermo > legale contro cause civili spicciole per diritto d'autore e proprietà > intellettuale. Non ho una statistica esaustiva, ma per interazione diretta con gli autori di LLM sia specifici per il codice che general purpose (a-la ChatGPT), a me risulta il contrario. C'è molto crawling e mining in proprio da parte dei grandi attori, in aggiunta a quello che dici tu, ma che a mia conoscenza non è dominante negli LLM state-of-the-art. Ciao -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

Feb. 27, 2024

Re: [nexa] Per un’intelligenza artificiale bene comune.

by Alberto Cammozzo

Grazie della segnalazione. Articolo interessante e spunto di riflessione. L'articolista, dopo aver constatato in modo dettagliato quanto squilibrato sia il mondo plasmato dalla tecnologia, si augura che emerga"un nuovo corpo intermedio dedicato a traghettare la governance dell’intelligenza artificiale verso un senso di bene comune" con il "compito di mediare l’interazione tra lo sviluppo tecnologico avanzato e le politiche governative, assicurando che l’innovazione proceda di pari passo con il benessere sociale e l’equilibrio ecologico". Si aspetta che sia il mondo dell'associazionismo a svolgere questo ruolo: "Il mondo cooperativistico è uno dei luoghi importanti dove ricercare e sviluppare un’intelligenza artificiale bene comune". Anche se non approfondisce il ragionamento su come questo possa avvenire, è auspicabile eragionevole che ciò accada, Come lo stesso autore riconosce, il miglioramento della condizione dei cittadini e dei lavoratori delle precedenti espressioni delle società industriali si è ottenuto con la "contestazione delle decisioni prese dalle élite riguardo alla tecnologia e alle condizioni di lavoro". Il processo che ha portato a "modificarele strutture di potere sociale nel XIX secolo", a dispetto del tono irenista dell'articolo,è stato però cruento. Da professionista informatico guardo al contributo storico della mia categoria nel "contestare" la concentrazione industriale delle tecnologie informatiche. Nel 1975 i soci del "Club di Roma" fondato nel 1968 dall'industriale Aurelio Peccei constatarono la natura interconnessa di una serie di problemi globali. Incaricarono il cibernetico Hasan Özbekhan di una analisi che individuò alcune decine di problemi universali e suggerì di modellizzarli. Cosa che fu fatta nei due anni successivi da Jay Forrester (MIT) e Donatella Meadows che individuarono nello sviluppo esponenziale il meta-problema, senza risolvere il quale nessun singolo problema globale può essere risolto: fu il famoso rapporto sui /Limiti dello sviluppo /del 1972. A oltre 50 anni di distanza nessuno dei problemi originari è stato risolto, e lo sviluppo esponenziale è inarrestato. Nonostante le numerose critiche, i modelli non solo tengono, ma le previsioni originarie cadono ormai nell'esperienza vitale delle masse di tutto il mondo, aggravate dalle conseguenze climatiche allora impreviste. Il meglio della cibernetica in 50 anni non è riuscito ad intaccare un processo economico guidato dalla più cieca ed autodistruttiva avidità, e continua a non farlo. Le migliori menti informatiche delle ultime generazioni sono entusiasticamente invischiate nella soluzione di ben altri problemi, quali la generazione di filmati a partire da descrizioni testuali o la modellizzazione delle menti dei consumatori. Nessuna di queste applicazioni intaccano i problemi del mondo come l'abuso di risorse naturali, la disoccupazione o l'oppressione, anzi li aggravano in modo vistoso. Rifiutandosi di collaborare a questo processo diversi bravi professionisti abbandonano il loro posto di lavoro per motivi morali. Tra questi voglio ricordare anche l'amico Jacopo Pantaleoni, che ha lasciato il posto di Principal Research Scientist a Nvidia e di cui ho letto con piacere il libro "The Quickest Revolution", nel quale lancia il suo grido di allarme. Spero di essere smentito da qualche collega, ma non vedo da parte degli informatici né /moratorie/ né /obiezioni di coscienza/ a questa spirale autodistruttiva: il vorace appetito industriale si espande esponenzialmente, nonostante siano ben pochi quelli che se ne saziano, e chi lavora a sviluppare e diffondere queste tecnologie è sempre un membro rispettato della nostra società. Chi non è d'accordo può sempre cambiare lavoro. Con l'/obiezione di coscienza/ si reclama il diritto di continuare fare il proprio lavoro ma all'interno di confini morali nei quali potersi riconoscere. Con la /moratoria/ una categoria protegge la collettività dagli abusi e dalle conseguenze nefaste del proprio operato astenendosi da alcune applicazioni (come hanno fatto i biologi, ad esempio) e così facendo difende la propria reputazione. Perciò rilancio la domanda e chiedo, senza retorica: a chi spetterà il compito di moderare le conseguenze dell'asservimento della cibernetica e dell'informatica alla distruttività industriale? Che tipo di realtà intermedia possiamo immaginare che adempia a questo compito storico? Che ruolo possono avere gli informatici? Alberto On 26 February 2024 17:32:23 CET, don Luca Peyron <dluca.universitari(a)gmail.com> wrote: Considerazioni interessanti, buona lettura dl https://michelekettmaier.nova100.ilsole24ore.com/2024/02/26/per-unintellige… _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it <http://www.universitari.to.it> via XX settembre 83, Torino tel. 011 5156239

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Guido Vetere

> Il motivo è che includono nei loro dataset di training grandi parti del Web (solitamente ottenute via > crawling fatto in casa), che nessuna parte terza può legittimamente redistribuire infatti i dataset non sono distribuiti, neanche quelli dei modelli c.d. aperti, però molti di questi sono comunque reperibili 'a prescindere' ci sono poi attacchi con i quali si riesce a ottenere qualcosa dai modelli, ma bisogna saperci fare :-) https://arxiv.org/pdf/2311.17035.pdf G. On Tue, 27 Feb 2024 at 10:39, Stefano Zacchiroli <zack(a)upsilon.cc> wrote: > On Tue, Feb 27, 2024 at 09:17:10AM +0100, Giuseppe Attardi wrote: > > Facciamolo con fondi pubblici un modello davvero completamente Open, > > dai dati di apprendimento, al codice, ai pesi del modello, ai test di > > valutazione. > > Concordo con l'obiettivo e sul fatto che una AI che possa dirsi "open" > (o meglio: "libera") dovrebbe esserlo in tutto: dataset di training, > codice di training, codice di inferenza, pesi del modello. > > Ma attenzione al fatto che, a leggi vigenti, tale obiettivo non è > raggiungibile per modelli a-la ChatGPT. Il motivo è che includono nei > loro dataset di training grandi parti del Web (solitamente ottenute via > crawling fatto in casa), che nessuna parte terza può legittimamente > redistribuire, dato che solo una piccolissima parte del Web è > disponibile sotto licenze libere. > > Una AI "libera", secondo i criteri accennati sopra, ha quindi oggi uno > svantaggio competitivo enorme rispetto a quelle chiuse --- il che è > molto deprimente. L'evoluzione tecnologica e scientifica sta andando nel > verso giusto, con modelli sempre più aperti che riescono sempre meglio a > rivalizzare con quelli chiusi (o ibridi) ma la strada è ancora lunga e > non è detto che il gap sia completamente colmabile. > > Nel mentre dovremmo guardare criticamente alle regolamentazioni che > hanno permesso tutto questo "yolo training", che dà un vantaggio > competitivo enorme a chi libero non vuole essere. > > Ciao > -- > Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ > Full professor of Computer Science o o o \/|V|\/ > Télécom Paris, Polytechnic Institute of Paris o o o </> <\> > Co-founder & CTO Software Heritage o o o o /\|^|/\ > https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "' > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Marco A. Calamari

On mar, 2024-02-27 at 10:39 +0100, Stefano Zacchiroli wrote: > On Tue, Feb 27, 2024 at 09:17:10AM +0100, Giuseppe Attardi wrote: > > Facciamolo con fondi pubblici un modello davvero completamente Open, > > dai dati di apprendimento, al codice, ai pesi del modello, ai test di > > valutazione. > > Concordo con l'obiettivo e sul fatto che una AI che possa dirsi "open" > (o meglio: "libera") dovrebbe esserlo in tutto: dataset di training, > codice di training, codice di inferenza, pesi del modello. > > Ma attenzione al fatto che, a leggi vigenti, tale obiettivo non è > raggiungibile per modelli a-la ChatGPT. Il motivo è che includono nei > loro dataset di training grandi parti del Web (solitamente ottenute via > crawling fatto in casa), che nessuna parte terza può legittimamente > redistribuire, dato che solo una piccolissima parte del Web è > disponibile sotto licenze libere. Buongiorno Stefano. Un appunto, nessuna azienda *europea* lo può fare. Quelle americane, ad esempio, legalmente possono e lo fanno. Poi nessuno acquisisce più dataset in proprio, tutti lo fanno tramite queste "aziende specializzate", in modo da avere comunque un ulteriore schermo legale contro cause civili spicciole per diritto d'autore e proprietà intellettuale. JM2C. Marco > Una AI "libera", secondo i criteri accennati sopra, ha quindi oggi uno > svantaggio competitivo enorme rispetto a quelle chiuse --- il che è > molto deprimente. L'evoluzione tecnologica e scientifica sta andando nel > verso giusto, con modelli sempre più aperti che riescono sempre meglio a > rivalizzare con quelli chiusi (o ibridi) ma la strada è ancora lunga e > non è detto che il gap sia completamente colmabile. > > Nel mentre dovremmo guardare criticamente alle regolamentazioni che > hanno permesso tutto questo "yolo training", che dà un vantaggio > competitivo enorme a chi libero non vuole essere. > > Ciao

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Stefano Zacchiroli

On Tue, Feb 27, 2024 at 09:17:10AM +0100, Giuseppe Attardi wrote: > Facciamolo con fondi pubblici un modello davvero completamente Open, > dai dati di apprendimento, al codice, ai pesi del modello, ai test di > valutazione. Concordo con l'obiettivo e sul fatto che una AI che possa dirsi "open" (o meglio: "libera") dovrebbe esserlo in tutto: dataset di training, codice di training, codice di inferenza, pesi del modello. Ma attenzione al fatto che, a leggi vigenti, tale obiettivo non è raggiungibile per modelli a-la ChatGPT. Il motivo è che includono nei loro dataset di training grandi parti del Web (solitamente ottenute via crawling fatto in casa), che nessuna parte terza può legittimamente redistribuire, dato che solo una piccolissima parte del Web è disponibile sotto licenze libere. Una AI "libera", secondo i criteri accennati sopra, ha quindi oggi uno svantaggio competitivo enorme rispetto a quelle chiuse --- il che è molto deprimente. L'evoluzione tecnologica e scientifica sta andando nel verso giusto, con modelli sempre più aperti che riescono sempre meglio a rivalizzare con quelli chiusi (o ibridi) ma la strada è ancora lunga e non è detto che il gap sia completamente colmabile. Nel mentre dovremmo guardare criticamente alle regolamentazioni che hanno permesso tutto questo "yolo training", che dà un vantaggio competitivo enorme a chi libero non vuole essere. Ciao -- Stefano Zacchiroli . zack(a)upsilon.cc . https://upsilon.cc/zack _. ^ ._ Full professor of Computer Science o o o \/|V|\/ Télécom Paris, Polytechnic Institute of Paris o o o </> <\> Co-founder & CTO Software Heritage o o o o /\|^|/\ https://twitter.com/zacchiro . https://mastodon.xyz/@zacchiro '" V "'

Feb. 27, 2024

Re: [nexa] Microsoft, Mistral AI e l'AI Act

by Guido Vetere

certo: magari puoi usare il modello large via API su Azure mentre il medium lo installi sul server da 20K giù in cantina con un po' di impegno da parte del tuo IT (prompting, fine-tuning, few-shot, etc) fai i confronti e magari alla fine scopri che del large model puoi fare benissimo a meno e semplicemente non lo usi più per questo, più che stracciarsi le vesti servirebbe capire concretamente quali strategie convengono e quali competenze servono G. On Tue, 27 Feb 2024 at 09:17, Alessandro Brolpito <abrolpito(a)gmail.com> wrote: > Buongiorno Guido, > > Una domanda da inesperto: ma se ormai molti enti privati e pubblici sono > nei loro clouds, ad esempio Azure, è tecnicamente possibile per enti > pubblici e/o aziende usare dei modelli aperti di AI generativa in modo > autonomo, saltando quello built-in? > > Cordiali saluti, Alessandro > > On Tue, 27 Feb 2024 at 08:58, Guido Vetere <vetere.guido(a)gmail.com> wrote: > >> Che Mistral abbia venduto una quota a Microsoft io però non l'ho letto da >> nessuna parte. Da quello che si capisce, Mistral Large sarà disponibile su >> Azure, forse perché le alternative non erano molte e non erano meglio. Che >> questo modello GPT-4-like non sia 'open' mi pare altrettanto ineluttabile: >> chi potrebbe scaricarselo? E dove? E perché? >> >> La cosa importante è che vi siano modelli aperti di dimensioni trattabili >> che siano abbastanza buoni da consentire ad aziende e enti pubblici di >> usare l'AI generativa in modo efficace e autonomo sulle proprie >> infrastrutture, senza cadere sotto il dominio del monopolista di turno. >> Questa è la frontiera che l'EU dovrebbe difendere. >> >> G. >> >> >> On Mon, 26 Feb 2024 at 23:03, Daniela Tafani <daniela.tafani(a)unipi.it> >> wrote: >> >>> Microsoft and Mistral AI announce new partnership to accelerate AI >>> innovation and introduce Mistral Large first on Azure >>> By Eric Boyd, Corporate Vice President, Azure AI Platform, Microsoft >>> >>> https://azure.microsoft.com/en-us/blog/microsoft-and-mistral-ai-announce-ne… >>> ----- >>> Il commento di Luca Bertuzzi: >>> This is a mind-blowing announcement. Mistral AI, the French company that >>> has been fighting tooth and nail to water down the #AIAct's foundation >>> model rules, is partnering up with Microsoft. So much for 'give us a >>> fighting chance against Big Tech'. >>> The first question that comes to mind is: was this deal in the making >>> while the AI Act was being negotiated? That would mean Mistral discussed >>> selling a minority stake to Microsoft while playing the 'European champion' >>> card with the EU and French institutions. If so, this whole thing might be >>> a masterclass in astroturfing, and it seems unrealistic for a partnership >>> like this to be finalised in less than a month. Many people involved in >>> the AI Act noted how Big Tech's lobbying on GPAI suddenly went quiet toward >>> the end. >>> That is because they did not need to intervene since Mistral was doing >>> the 'dirty work' for them. Remarkably, Mistral's talking points were >>> extremely similar to those of Big Tech rather than those of a small AI >>> start-up, based on their ambition to reach that scale. >>> The other question is how much the French government knew about this >>> upcoming partnership with Microsoft. It seems unlikely Paris was kept >>> completely in the dark, but cosying up with Big Tech does not really sit >>> well with France's strive for 'strategic autonomy'. Especially since the >>> agreement includes making Mistral's large language model available on >>> Microsoft's Azure AI platform, while France has been pushing for an EU >>> cybersecurity scheme to exclude American hyperscalers from the European >>> market. >>> Still today, and I doubt it is a coincidence, Mistral has announced the >>> launch of Large, a new language model intended to compete directly with >>> OpenAI's GPT-4. However, unlike previous models, Large will not be open >>> source. In other words, Mistral is no longer (just) a European leader and >>> is backtracking on its much-celebrated open source approach. Where does >>> this leave the start-up vis-à-vis EU policymakers as the AI Act's >>> enforcement approaches? My guess is that someone will inevitably feel >>> played. >>> >>> https://twitter.com/BertuzLuca/status/1762197130616209765 >>> oppure >>> >>> https://www.linkedin.com/posts/luca-bertuzzi-186729130_introducing-mistral-… >>> _______________________________________________ >>> nexa mailing list >>> nexa(a)server-nexa.polito.it >>> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >>> >> _______________________________________________ >> nexa mailing list >> nexa(a)server-nexa.polito.it >> https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa >> >

Feb. 27, 2024

Re: [nexa] Quale trasparenza per l'IA?

by alessandro marzocchi

Nell'articolo di Fabio Paglieri vedo due argomenti che meritano di essere valutati esplicitamente. Se il funzionamento è poco comprensibile anche per gli esperti ... quale sorte per la comunicazione? Considerando quanto l'IA è pervasiva ed efficace già oggi. L'altro argomento è strettamente connesso al primo: quale trasparenza? Solo da pochi decenni l'analfabetismo, già condizione della maggioranza, riguarda minoranze: accettiamo il rischio di riprodurlo sotto la veste di poca trasparenza dell'IA? In altre parole: si può ottenere trasparenza dei ""meccanismi di mercato"" ecc ecc, se non sono trasparenti ""procedura e sistema di comunicazione""? Cordialmente. Duccio (Alessandro Marzocchi) * * * Mon, 26 Feb 2024 11:36:12 +0000 From: "Antonio Vetro'" < antonio.vetro(a)polito.it>ha scritto: Segnalo questo contributo di Fabio Paglieri (CNR) per Il Mulino. https://www.rivistailmulino.it/a/quale-trasparenza-per-l-ia Il finale riassume bene la tesi proposta: Questa, dunque, è la trasparenza che occorre rivendicare sull’IA: non la scoperta di come funziona la scatola nera di questi sistemi, spesso poco comprensibile persino agli esperti, bensì le caratteristiche dei meccanismi di mercato che ne determinano il successo, le loro ricadute sugli interessi pubblici e privati, i fattori psicologici e sociali che ci spingono a essere acquiescenti verso sperequazioni grossolane e squilibri evidenti. Da chi promette di spiegarci l’IA, queste sono le risposte che dobbiamo pretendere. A.

Feb. 27, 2024