July 2023 - nexa - server-nexa.polito.it

Re: [nexa] watermarking AI-generatet content

by Giacomo Tesio

Ciao Andrea, una domanda: prima di discutere sull'utilità/opportunità di marcare l'output del software programmato statisticamente, una domanda sulla fattibilità tecnica On Thu, Jul 27, 2023 at 12:11:23PM +0200, Andrea Bolioli wrote: > > As I wrote in an earlier letter, watermarking is technically feasible, in che modo? Qualunque marcatura, per essere efficace, dovrebbe: - non essere rimuovibile - non essere falsificabile sul falsificabile si può facilmente pensare a qualcosa basato sulla crittografia asimmetrica, ma questo impedirebbe di affermare che un certo contenuto è stato prodotto dal servizio di un certo fornitore, ma la sua assenza non garantirebbe che tale contenuto non sia stato prodotto da un software programmato statisticamente eseguito da terzi. A meno, ovviamente, di non aver già assunto ed accettato l'esistenza di un oligopolio dei software programmati statisticamente, per il cui consolidamento la presenza dei watermark potrebbe in effetti essere un cavallo di troia. Ma nulla impedirebbe di rimuovere il watermark. Immaginate un testo prodotto da ChatGPT: basta un copia incolla con al massimo un tr per rimuovere i caratteri invisibili ed il gioco è fatto. Mi chiedo dunque quali tecniche abbiano in mente per questi watermark dei dati. Suona molto di DRM: non può funzionare, ma tutti devono far finta che possa perché alcune leggi scritte da persone incompetenti e/o in mala fede si basano sul fatto che funzioni. Giacomo

July 28, 2023

Re: [nexa] The Santiago Boys

by maurizio lana

Le Monde Diplomatique appena uscito ha un articolo intitolato «Une multinationale contre Salvador Allende» https://www.monde-diplomatique.fr/2023/08/MOROZOV/65981 di Evgeny Morozov "auteur de The Santiago Boys, ... , et dont s’inspire cet article" Maurizio DEUX semaines après l’élimination de Salvador Allende et de la démocratie chilienne par le coup d’État sanglant d’Augusto Pinochet, le New York Times reçut tard dans la nuit un appel anonyme. « Notez, recommanda la voix au téléphone, car je ne répéterai pas. » En cette fin septembre 1973, quelque chose d’inouï était sur le point de survenir. « Dans quinze minutes, une bombe explosera dans l’immeuble d’International Telephone & Telegraph. » La cible, connue sous son sigle ITT, n’était pas choisie au hasard : « C’est en représailles des crimes commis par ITT contre le Chili (1). » À l’époque, ce géant de la technologie devenu un conglomérat tentaculaire compte au nombre des plus grandes multinationales de la planète. À son illustre conseil d’administration siègent un ancien directeur de l’Agence centrale de renseignement américaine (CIA) et un ex-président de la Banque mondiale — un casting idéal pour propulser l’un des plus gros contractants de l’armée américaine parmi les principaux profiteurs de la guerre du Vietnam. La compagnie affiche fièrement sa position au sein du complexe militaro-industriel. « Pour voir dans l’obscurité, voyez ITT. La nuit a cessé d’appartenir à la guérilla », proclame une publicité pour ses appareils de vision nocturne diffusée en 1967, l’année même où Ernesto« Che » Guevara est assassiné en Bolivie. La compagnie fait l’objet d’appels au boycott, comme celui dirigé contre le pain industriel produit par une filiale du groupe. « Achetez du pain, achetez des bombes : ITT au Vietnam », titre alors un journal de gauche. La redéfinition du sigle en Imperialism, Treason and Terror (« impérialisme, trahison, terreur ») se répand dans les milieux militants. Mais de là à déposer une bombe en plein Manhattan... L’engin explose finalement à 5 heures 40 du matin au 437 de l’avenue Madison, siège de la branche latino-américaine d’ITT. C’est la troisième attaque perpétrée contre la multinationale en moins de deux semaines, après Rome et Zurich. Et la série ne fait que commencer... À la différence du techlash actuel — terme à la mode pour décrire l’hostilité que provoque la Silicon Valley —, les actions menées contre ITT en 1973 occasionnent plus de dégâts que des tweets indignés. Pour ses détracteurs, le groupe incarne non seulement le capitalisme multinational mais également une puissance autonome, dotée de sa propre politique étrangère, de son propre service d’espionnage et même de son propre personnel politique, un attelage d’anciens militaires, de barbouzes, de diplomates et de journalistes lauréats du prix Pulitzer reconvertis en chargés de relations publiques. ITT semble détenir toutes les prérogatives d’une puissance étatique. D’où le titre du livre paru à son sujet en 1973 : L’État souverain (2). Un jeune avocat nommé Fidel Castro Les accusations de techno-féodalisme qui pleuvent aujourd’hui sur les géants de la Silicon Valley (3) — dépeints comme des seigneurs médiévaux qui décident du sort de leurs usagers — réactualisent en réalité des griefs vieux d’un demi-siècle : même un ouvrage à la gloire d’ITT, paru au début des années 1980 (4), convoquait l’imagerie seigneuriale en invitant ses lecteurs — dès la première page ! — à remonter jusqu’à « l’Europe médiévale des années 1200 » pour inscrire les opérations de la multinationale dans un « contexte féodal ». La comparaison n’est certes pas infondée. Mais elle souffre d’une erreur d’analyse majeure : tous les États ne se ressemblent pas. Et tous n’entretiennent pas les mêmes relations avec les géants de la technologie. Or il suffit d’examiner l’histoire d’ITT pour comprendre que la métamorphose d’un humble opérateur de lignes téléphoniques en mastodonte planétaire fut la conséquence directe de la domination militaire, financière et technologique exercée par un seul et même pays : jamais ITT — ni la Silicon Valley — n’aurait bénéficié d’une croissance aussi phénoménale sans le soutien inconditionnel des États-Unis. Les frères Hernán et Sosthenes Behn fondent ITT en 1920 à New York. À l’origine, l’entreprise leur sert de devanture pour gérer les installations téléphoniques qu’ils détiennent à Porto Rico et à Cuba. Nés à Saint-Thomas, dans les actuelles îles Vierges britanniques, les deux frères connaissent bien les Caraïbes et s’emploient à y attirer les capitaux américains. Les Behn possèdent une petite fortune familiale mais surtout une ambition dévorante. Avant de s’installer à Porto Rico, Sosthenes a travaillé quelques années à Wall Street, où il a noué avec JP Morgan et ce qui deviendrait plus tard la Citibank des liens qui s’avèrent fructueux. Au cours des années 1920, ITT se propage au Mexique, en Uruguay, au Brésil, au Chili, en Argentine et en Espagne. En 1929, elle contrôle les deux tiers des téléphones et la moitié des câbles en Amérique latine (5). Cette extension fulgurante repose sur l’endettement obtenu grâce aux connexions des Behn avec Wall Street. Elle coïncide avec l’effort des États-Unis, alors en pleine ascension comme puissance planétaire, pour évincer les intérêts britanniques d’Amérique latine. Comme le reconnaît l’ancien ministre de la guerre Elihu Root devant un comité du Congrès en 1921 : « Il y a une lutte à mort pour le contrôle des communications sud- américaines. » Sans surprise, les États-Unis la remportent, avec l’aide d’ITT. Selon un compte rendu fascinant publié en 1930, la compagnie des frères Behn « a fait davantage en neuf ans pour briser le monopole britannique sur les communications mondiales que tous les autres groupes et gouvernements réunis durant un demi-siècle (6) ». Ceux qui, plus tard, interpréteront le « i » d’ITT comme l’initiale d’« impérialisme » n’auront pas totalement tort. Dans l’ensemble, la guerre de conquête se déroula sans accroc. Pour s’attirer les faveurs de Washington, de nombreux pays sud-américains déroulèrent le tapis rouge à ITT, l’exemptant même des engagements coûteux généralement demandés aux opérateurs étrangers : investir dans les infrastructures ou éviter toute hausse unilatérale des tarifs. C’est seulement durant la seconde guerre mondiale que les liens entre ITT et Washington commencent à inquiéter certains gouvernements. Le premier souci concerne la sécurité des communications. L’autre tient à la montée du nationalisme économique. Ses représentants les plus fervents, comme Juan Perón en Argentine ou Francisco Franco en Espagne, congédient ITT, non sans lui verser un dédommagement confortable. Devenue entre-temps un fournisseur important de la défense américaine, la multinationale sait que ses jours comme opérateur de lignes téléphoniques sont comptés. Mais elle entend bien céder ses actifs au meilleur prix. En attendant une offre intéressante, ITT presse la poule aux œufs d’or, fait grimper ses tarifs et bloque les investissements. De sorte que le service devient à la fois plus médiocre et plus coûteux. Les populations locales enragent, mais ITT paraît intouchable. Qui oserait nationaliser une entreprise américaine aussi puissante ? Un homme a cette audace. Au début des années 1950, un jeune avocat cubain traîne le groupe devant un tribunal, l’accusant d’avoir trahi ses engagements. Son cabinet gagne le procès, mais le dictateur qui tient alors les rênes de Cuba, Fulgencio Batista, ignore le jugement du tribunal. Le jeune avocat s’appelle Fidel Castro. Il n’oubliera jamais cette humiliation : la filiale cubaine d’ITT sera l’une des premières sociétés étrangères nationalisées au lendemain de la révolution castriste de 1959. Le geste sonnera comme une gifle pour ITT — et comme un présage. Lorsqu’en 1962 le gouverneur d’un État brésilien prend le contrôle d’une de ses filiales locales, la compagnie mobilise ses liens avec Washington contre ce qu’elle présente comme un épisode de la guerre froide — un thème qui refera surface deux ans plus tard à la faveur du coup d’État militaire. Sa campagne de lobbying se révèle fructueuse, puisque le Brésil souffre l’humiliation de devoir payer une compensation exorbitante pour la filiale nationalisée. À la fin des années 1960, l’empire ITT réinvestit les énormes profits tirés de la revente de ses biens en Amérique latine dans des acquisitions de toutes sortes — compagnies d’assurances, hôtels, et même une société de location de voitures. La plupart sont domiciliées sur place et ne courent aucun risque de nationalisation. Au tournant de 1970, les seuls réseaux téléphoniques encore aux mains d’ITT se situent à Porto Rico, base arrière historique de la compagnie, ainsi qu’au Chili, où elle s’était installée en 1927. Les engagements d’ITT auprès de l’État chilien brillent par leur imprécision, en vertu d’un contrat exceptionnellement avantageux pour la compagnie (7). Dans les années 1960, le gouvernement d’Eduardo Frei, un chrétien-démocrate élu en 1964, tente de régler le problème sans faire de vagues, grâce à un plan prévoyant de racheter petit à petit les parts de la filiale locale d’ITT. Mais, pour les opposants de Frei, c’est à la fois trop peu et trop. Le socialiste Allende remporte l’élection présidentielle de 1970 en promettant de nationaliser ITT, d’y remplacer les managers par des ingénieurs et d’étendre le réseau téléphonique dans les zones les plus pauvres du pays. ITT craignait une présidence Allende bien avant 1970. Six ans plus tôt, déjà, l’un des membres de son conseil d’administration, l’ex-directeur de la CIA John McCone, avait pesé de tout son poids pour empêcher l’élection du socialiste chilien. Quelques mois avant le scrutin de 1970, ITT se met en relation avec la CIA et lui propose de l’argent pour faire obstacle à une possible victoire de la gauche. La CIA refuse, n’étant jamais à court de liquidités, ce qui ne décourage pas la compagnie d’arroser copieusement les opposants d’Allende. Après la victoire-surprise de ce dernier, c’est la CIA qui prend langue avec ITT. La compagnie ne pourrait-elle pas mettre l’État chilien sous pression, en refusant par exemple de fournir des pièces détachées ou du personnel de maintenance ? L’objectif de l’Agence consistait, selon les mots de Richard Nixon, à « faire crier l’économie chilienne » pour inciter les militaires à sortir de leurs casernes avant même qu’Allende ait le temps d’inaugurer son mandat. Entre espionnage et finance Cette stratégie tourne court. Une fois au pouvoir, Allende préfère négocier avec la compagnie plutôt que de la nationaliser sur-le-champ, alors que sa base — dont les syndicats de travailleurs d’ITT — réclame des mesures plus radicales. Comble de l’ingénuité, il demande même à l’entreprise de détecter d’éventuels micros au palais présidentiel... En septembre 1971, Allende se ravise et prend le contrôle de la filiale chilienne d’ITT, dont les dirigeants sont arrêtés pour avoir siphonné des profits indus via des sociétés fictives. En retour, la multinationale lance une virulente campagne à Washington. Ayant ses entrées chez le secrétaire d’État Henry Kissinger, elle lui suggère dix-huit mesures à prendre pour déstabiliser le président chilien dans un délai de six mois. Et continue par ailleurs d’encourager la CIA à financer El Mercurio, le principal journal de l’opposition. Au sein même de la compagnie, certains commencent à s’interroger. La presse publie des communications entre sa direction et des membres de l’administration Nixon, poussant le Sénat à mener des auditions pour clarifier l’influence d’ITT sur la politique étrangère américaine (8). Mais l’enquête ne parvient pas à mettre en cause les responsables et nul n’est condamné. Trois mois après, Allende perd la vie dans le coup d’État de Pinochet. Pour ITT, la nationalisation ne fut pas un choc trop rude : peu de temps après le coup d’État, la compagnie reçut 125 millions de dollars de Pinochet en guise d’indemnités, ainsi que 30 millions de la part de l’administration Nixon. En dépit — ou, peut-être, en raison — du rapport non concluant du Sénat américain, les soupçons au sujet du rôle d’ITT au Chili ne cessèrent de croître. Il n’était donc pas illogique que la multinationale représentât une cible toute trouvée pour de nombreux militants. L’inconnu qui avertit le New York Times de la présence d’une bombe au siège d’ITT se revendiquait du Weather Underground, une organisation clandestine d’extrême gauche. Au bout du compte, cette publicité négative indisposa même Porto Rico, foyer historique de la compagnie : en 1974, le territoire décida de racheter la filiale. La compensation massive qui lui fut accordée ne calma pas les esprits : son siège sauta quelques mois après la transaction. Au cours de la majeure partie de son existence, ITT fut le laboratoire d’un modèle d’expansion appelé à faire école, fondé sur les liens avec Wall Street et le Pentagone. Elle fut également pionnière de la mondialisation avec sa vision d’emblée globale et sa maîtrise du conglomérat — même si les synergies entre les filiales les plus hétéroclites relevaient surtout d’astuces comptables. De plus en plus obsédés par les profits à court terme et le cours des actions, ses dirigeants négligèrent les investissements à long terme dans ses services-clés. Là encore, elle fut en avance sur son temps : la plupart des autres compagnies américaines ne succomberaient à pareille tentation qu’à partir des années 1980. ITT, elle, embrassa la financiarisation dès le milieu des années 1960. À l’époque, il pouvait paraître étonnant qu’un manutentionnaire du téléphone travaillant pour la défense préférât racheter des compagnies d’assurances plutôt que d’investir dans la recherche et le développement. Encouragés par leurs amis de la banque Lazard, ses dirigeants réussirent à convaincre Wall Street que leur gloutonnerie s’inscrivait dans une ingénieuse stratégie de diversification. Mais son désir de croissance exponentielle marqua également le début de la fin : elle ne vit pas l’intérêt des recherches longues et coûteuses qui commençaient à fleurir dans la Silicon Valley. Le coup d’État au Chili abîma son image de manière irréversible pour les décennies à venir. Paradoxalement, la proximité d’ITT avec l’État américain et Wall Street — à laquelle elle dut sa prodigieuse croissance initiale — causa son déclin. De cette erreur, les actuels géants de la Silicon Valley, pareillement pris en étau entre espionnage et finance, ne paraissent pas avoir tiré toutes les leçons. EVGENY MOROZOV Auteur de The Santiago Boys, [https://the-santiago-boys.com/] une série de podcasts en neuf épisodes basée sur plus de deux cents entretiens, produite par Chora Media et Post-Utopia, et dont s’inspire cet article. Il 23/07/23 10:25, nexa-request(a)server-nexa.polito.it ha scritto: > ---------------------------------------------------------------------- > > Message: 1 > Date: Sun, 23 Jul 2023 08:51:56 +0200 > From: "J.C. DE MARTIN"<juancarlos.demartin(a)polito.it> > To: Nexa<nexa(a)server-nexa.polito.it> > Subject: [nexa] The Santiago Boys > Message-ID:<d068ff21-3db5-8f84-c7c0-08985a7484ef(a)polito.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > E' online The Santiago Boys, il nuovo, splendido progetto di Evgeny Morozov: > https://the-santiago-boys.com/ > Qui sotto l'annuncio. > > Inoltre, oggi "La Lettura" dedica quattro pagine (!) all'iniziativa e > ieri il Guardian da pubblicato un articolo a uno dei protagonisti della > storia, Stafford Beer: > https://www.theguardian.com/world/2023/jul/22/stafford-beer-chile-allende-t… > > Bravo, Evgeny! > > juan carlos > / > > //The podcast that took 2+ years and 200+ interviews to produce is > finally online!// > // > //You can listen to it on the main podcasting platforms (including > Spotify and Apple Podcasts). // > // > //The website of the Santiago Boys offers plenty of extra materials for > those of you who want to dig deeper: footnotes, backgrounders, sources, > videos, a glossary, and so much else. // > // > //And we are also publishing the interviews with the many people we > interviewed (check out, for example, this interview with Brian Eno where > he talks about Stafford Beer and his own fascination with cybernetics). // > // > //Many thanks to dozens of people who worked on this ambitious project; > you can see all their names here. // > // > //I hope you take a break from the Barbenheimer hyper and spend some > time with the Santiago Boys instead! // > // > //Evgeny Morozov/ > -------------- next part -------------- > An HTML attachment was scrubbed... > URL:<http://server-nexa.polito.it/pipermail/nexa/attachments/20230723/7c590db9/a…> > > ------------------------------ > > Message: 2 > Date: Sun, 23 Jul 2023 10:07:13 +0200 > From: "Federico Guerrini"<federico.guerrini(a)hushmail.com> > To:nexa@server-nexa.polito.it > Subject: [nexa] Artificial Intelligence: A New Frontier for > Surveillance Capitalism? > Message-ID:<20230723080713.3D66B80E2BB(a)smtp.hushmail.com> > Content-Type: text/plain; charset="utf-8" > > "If you ask Alexa, Amazon’s voice assistant AI system, whether > Amazon is a monopoly, it responds by saying it doesn’t know. It > doesn’t take much to make it lambaste the other tech giants, but > it’s silent about its own corporate parent’s misdeeds. When Alexa > responds in this way, it’s obvious that it is putting its > developer’s interests ahead of yours. Usually, though, it’s not so > obvious whom an AI system is serving. To avoid being exploited by > these systems, people will need to learn to approach AI skeptically. > (...) As a security expert and data scientist, we believe that people > who come to rely on these AIs will have to trust them implicitly to > navigate daily life. That means they will need to be sure the AIs > aren’t secretly working for someone else. Across the internet, > devices and services that seem to work for you already secretly work > against you. Smart TVs spy on you. Phone apps collect and sell your > data. Many apps and websites manipulate you through dark patterns, > design elements that deliberately mislead, coerce or deceive website > visitors. This is surveillance capitalism, and AI is shaping up to be > part of it." > "Imagine asking your chatbot to plan your next vacation. Did it choose > a particular airline or hotel chain or restaurant because it was the > best for you or because its maker got a kickback from the businesses? > As with paid results in Google search, newsfeed ads on Facebook and > paid placements on Amazon queries, these paid influences are likely > to get more surreptitious over time. > > If you’re asking your chatbot for political information, are the > results skewed by the politics of the corporation that owns the > chatbot? Or the candidate who paid it the most money? Or even the > views of the demographic of the people whose data was used in > training the model? Is your AI agent secretly a double agent? Right > now, there is no way to know." > https://theconversation.com/can-you-trust-ai-heres-why-you-shouldnt-209283 > > Ciao, > > Federico > -------------- next part -------------- > An HTML attachment was scrubbed... > URL:<http://server-nexa.polito.it/pipermail/nexa/attachments/20230723/945774f2/a…> > > ------------------------------ > > Message: 3 > Date: Sun, 23 Jul 2023 10:24:58 +0200 > From: "J.C. DE MARTIN"<juancarlos.demartin(a)polito.it> > To: Nexa<nexa(a)server-nexa.polito.it> > Subject: [nexa] RFC "Reflections on Ten Years Past the Snowden > Revelations" > Message-ID:<f2d5a90c-b839-e654-20b7-369919bf9ff9(a)polito.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > RFC 9446 > *Reflections on Ten Years Past the Snowden Revelations** > * > > Stream: > Independent Submission > RFC: > 9446 > Category: > Informational > Published: > July 2023 > ISSN: > 2070-1721 > Authors: > S. Farrell > Trinity College, Dublin > F. Badii > Digital Medusa > B. Schneier > Harvard University > S. M. Bellovin > Columbia University > > *Abstract** > * > This memo contains the thoughts and recountings of events that > transpired during and after the release of information about the United > States National Security Agency (NSA) by Edward Snowden in 2013. There > are four perspectives: that of someone who was involved with sifting > through the information to responsibly inform the public, that of a > security area director of the IETF, that of a human rights expert, and > that of a computer science and affiliate law professor. The purpose of > this memo is to provide some historical perspective, while at the same > time offering a view as to what security and privacy challenges the > technical community should consider. These essays do not represent a > consensus view, but that of the individual authors. > > https://www.rfc-editor.org/rfc/rfc9446.html > -------------- next part -------------- > An HTML attachment was scrubbed... > URL:<http://server-nexa.polito.it/pipermail/nexa/attachments/20230723/1c545016/a…> > > ------------------------------ > > Subject: Digest Footer > > _______________________________________________ > nexa mailing list > nexa(a)server-nexa.polito.it > https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa > > > ------------------------------ > > End of nexa Digest, Vol 171, Issue 63 > ************************************* ------------------------------------------------------------------------ quanti nella loro vita / si fecero custodi delle Termopili, / sono degni di più grande onore / se prevedono (e molti lo prevedono) / che all’ultimo comparirà un Efialte / e comunque i Persiani passeranno Kostantinos Kavafis, Termopili ------------------------------------------------------------------------ Maurizio Lana Università del Piemonte Orientale Dipartimento di Studi Umanistici Piazza Roma 36 - 13100 Vercelli

July 28, 2023

Re: [nexa] watermarking AI-generatet content

by Fabio Alemagna

Il giorno ven 28 lug 2023 alle ore 10:06 Andrea Bolioli <andrea.bolioli(a)gmail.com> ha scritto: > > Buongiorno Fabio, non ho capito la domanda. > In generale i documenti (testi, video, immagini) hanno un autore, o un creatore, editore, proprietario, o qualcosa del genere, dal riassunto del bambino a scuola al report della grande azienda di consulenza, così come le foto, i video, le serie Tv, le sceneggiature , ecc > Chi ha fatto la foto, ha scritto il post, l’email, un qualunque testo. Hanno l'autore, certo, non per questo l'autore è riportato con un watermark, o affatto. Spesso l'autore è un Tizio che viene pagato per creare qualcosa, che poi vende il prodotto a qualcun altro senza che questo qualcun altro abbia l'obbligo di specificare che l'autore originale fosse Tizio. Io stesso sono autore di centinaia di migliaia di linee di codice scritte di mio pugno, alcune delle quali hanno il mio nome cognome collegato ad esse (nei progetti Open Source a cui ho partecipato e partecipo) altre no, per via di accordi di lavoro. La domanda è per quale ragione i contenuti prodotti con l'ausilio delle AI dovrebbero avere un trattamento speciale. Oltretutto, per quale ragione considerare "merce" ciò che viene prodotto con le AI, a prescindere dall'uso che se ne fa? E, in generale, quali sarebbero i vantaggi per la società di cui si parla? > Molte aziende e persone singole stanno generando contenuti con LLM, ad es in una azienda che conosco la newsletter interna viene generata automaticamente e viene scritto esplicitamente che è stata generata con GPT. Sì, io stesso ho scritto cose con GPT in questa mailing list, e per trasparenza l'ho specificato, ma è stata una mia scelta, non un obbligo. C'è gente che si fa scrivere i testi dai ghostwriter: watermark pure in quel caso? E se no, perché no? Fabio

July 28, 2023

Re: [nexa] watermarking AI-generatet content

by Andrea Bolioli

Buongiorno Fabio, non ho capito la domanda. In generale i documenti (testi, video, immagini) hanno un autore, o un creatore, editore, proprietario, o qualcosa del genere, dal riassunto del bambino a scuola al report della grande azienda di consulenza, così come le foto, i video, le serie Tv, le sceneggiature , ecc Chi ha fatto la foto, ha scritto il post, l’email, un qualunque testo. Le lettere anonime sono poche. Nel caso degli LLM, il produttore di contenuti metterebbe una sorta di firma sul contenuto. Mi rendo conto che il tema è complesso. Son contento che sia stato posto. Magari possono esserci soluzioni migliori. Molte aziende e persone singole stanno generando contenuti con LLM, ad es in una azienda che conosco la newsletter interna viene generata automaticamente e viene scritto esplicitamente che è stata generata con GPT. Diversi report vengono generati con l’aiuto di GPT. Serve il watermark anche nella descrizione dell’appartamento in vendita in un annuncio immobiliare? Mah, non so rispondere. Andrea Il giorno gio 27 lug 2023 alle 16:30 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: > Il giorno gio 27 lug 2023 alle ore 16:24 Andrea Bolioli > <andrea.bolioli(a)gmail.com> ha scritto: > > > > eh è una storia lunga, ho riportato la lettera di Ng perché finalmente > ha scritto la sua posizione (che condivido) in modo chiaro. > > > > Il mio punto di vista in sintesi è che se i contenuti generati > automaticamente sono una merce, allora serve una sorta di "codice a barre", > il nome del produttore/coautore, o almeno l'indicazione del tipo di merce. > > Per quale ragione serve avere queste informazioni specificatamente per > i contenuti generati dalle AI, mentre non servirebbero per i contenuti > analoghi non generati dalle AI? > > Fabio >

July 28, 2023

Re: [nexa] watermarking AI-generatet content

by Fabio Alemagna

Il giorno gio 27 lug 2023 alle ore 16:24 Andrea Bolioli <andrea.bolioli(a)gmail.com> ha scritto: > > eh è una storia lunga, ho riportato la lettera di Ng perché finalmente ha scritto la sua posizione (che condivido) in modo chiaro. > > Il mio punto di vista in sintesi è che se i contenuti generati automaticamente sono una merce, allora serve una sorta di "codice a barre", il nome del produttore/coautore, o almeno l'indicazione del tipo di merce. Per quale ragione serve avere queste informazioni specificatamente per i contenuti generati dalle AI, mentre non servirebbero per i contenuti analoghi non generati dalle AI? Fabio

July 27, 2023

Re: [nexa] watermarking AI-generatet content

by Andrea Bolioli

eh è una storia lunga, ho riportato la lettera di Ng perché finalmente ha scritto la sua posizione (che condivido) in modo chiaro. Il mio punto di vista in sintesi è che se i contenuti generati automaticamente sono una merce, allora serve una sorta di "codice a barre", il nome del produttore/coautore, o almeno l'indicazione del tipo di merce. Andrea Il giorno gio 27 lug 2023 alle ore 13:05 Fabio Alemagna <falemagn(a)gmail.com> ha scritto: > Il giorno gio 27 lug 2023 alle ore 12:11 Andrea Bolioli > <andrea.bolioli(a)gmail.com> ha scritto: > > [...] > > I was pleasantly surprised that watermarking was on the list. It’s > > beneficial to society, [...] > > > > [...] I think society would be better off if we knew what content was > > and wasn’t AI-generated. > > Posso agilmente comprendere quali benefici il watermarking dei > contenuti generati da un'AI avrebbe per il training di ulteriori > modelli, ma non mi appaiono così evidenti i benefici per la società in > senso lato, e ogni beneficio va controbilanciato col suo opposto, > chiamiamolo "maleficio", per poter decidere che vale la pena > proseguire in una data direzione. Nella lettera non ho trovato > menzione di questi benefici, quali sono? > > Fabio >

July 27, 2023

Re: [nexa] watermarking AI-generatet content

by Fabio Alemagna

Il giorno gio 27 lug 2023 alle ore 12:11 Andrea Bolioli <andrea.bolioli(a)gmail.com> ha scritto: > [...] > I was pleasantly surprised that watermarking was on the list. It’s > beneficial to society, [...] > > [...] I think society would be better off if we knew what content was > and wasn’t AI-generated. Posso agilmente comprendere quali benefici il watermarking dei contenuti generati da un'AI avrebbe per il training di ulteriori modelli, ma non mi appaiono così evidenti i benefici per la società in senso lato, e ogni beneficio va controbilanciato col suo opposto, chiamiamolo "maleficio", per poter decidere che vale la pena proseguire in una data direzione. Nella lettera non ho trovato menzione di questi benefici, quali sono? Fabio

July 27, 2023

watermarking AI-generatet content

by Andrea Bolioli

Buongiorno, condivido un pezzo di newsletter di Andrea Ng sul watermarking dei contenuti generati automaticamente (THE BATCH, 26-07-2023, DeepLearning.AI). Dear friends, Last week, the White House announced voluntary commitments by seven AI companies, as you can read below. Most of the points were sufficiently vague that it seems easy for the White House and the companies to declare success without doing much that they don’t already do. But the commitment to develop mechanisms to ensure that users know when content is AI-generated, such as watermarks, struck me as concrete and actionable. While most of the voluntary commitments are not measurable, this one is. It offers an opportunity, in the near future, to test whether the White House’s presently soft approach to regulation is effective. I was pleasantly surprised that watermarking was on the list. It’s beneficial to society, but it can be costly to implement (in terms of losing users). As I wrote in an earlier letter, watermarking is technically feasible, and I think society would be better off if we knew what content was and wasn’t AI-generated. However, many companies won’t want it. For example, a company that uses a large language model to create marketing content may not want the output to be watermarked, because then readers would know that it was generated by AI. Also, search engines might rank generated content lower than human-written content. Thus, the government’s push to have major generative AI companies watermark their output is a good move. It reduces the competitive pressure to avoid watermarking. All the companies that agreed to the White House’s voluntary commitments employ highly skilled engineers and are highly capable of shipping products, so they should be able to keep this promise. When we look back after three or six months, it will be interesting to see which ones: - Implemented a robust watermarking system - Implemented a weak watermarking system that’s easy to circumvent by, say, paying a fee for watermark-free output - Didn’t implement a system to identify AI-generated content To be fair, I think it would be very difficult to enforce watermarking in open source systems, since users can easily modify the software to turn it off. But I would love to see watermarking implemented in proprietary systems. The companies involved are staffed by honorable people who want to do right by society. I hope they will take the announced commitments seriously and implement them faithfully. I would love to get your thoughts on this as well. How can we collectively hold the U.S. government and AI companies to these commitments? Please let me know on social media! Keep learning, Andrew

July 27, 2023

Never mind the delivery..

by Luigi Scorca

https://www.wsj.com/articles/never-mind-the-delivery-more-online-consumers-…

July 26, 2023

Re: [nexa] LLM (di serie "A"): possibili in Italia/Europa?

by Antonio

> La stima di 10^23 FLOPS, come qualcuno ha capito, è il conto totale dei FLOPS necessari per allenare GPT-3. trovato :) Qui (pag.6) spiega tutto: https://arxiv.org/pdf/2104.10350.pdf N.processori: 10000 Tipo processore: NVIDIA V100 Consumo singolo: 300W Performance singola media: 24,6 TFLOPS/s Training time: 14,8 giorni Totale potenza di calcolo: 3.14E+23 FLOPS (= 10000 * 24,6 * 86400 * 14,8) Totale consumo: 1287 MWh Antonio

July 25, 2023