- nexa - server-nexa.polito.it

Re: [nexa] Large Language Models pose a risk to society and need tighter regulation, say Oxford researchers
by alessandro marzocchi Aug. 22, 2024

Aug. 22, 2024

Ciao Giacomo, buona giornata a tutti. La macchina non capisce perchè opera con criteri statistici, questo afferma Giacomo insieme ad altri autorevoli. Continuo a domandarmi: poco o tanto, l'intelligenza umana opera con criteri statistici? Un fatto; non parliamo più la lingua di Manzoni. Altro fatto: in poche decine di anni ""digitale"" ha cambiato significato ed anche genere, da ""la"" digitale è diventato ""il"" digitale. Due esempi dai quali nasce il mio dubbio: l'attribuzione di significato, la frequenza d'uso operano con criteri statistici? Lo stesso diritto, la stessa interpretazione del diritto, operano con criteri statistici? Aggiungendo anche valutazioni di qualità? Ad es 1 sentenza di tribunale periferico vale meno di 1 cassazione ecc ecc, ugualmente l'opinione di un giurista di provincia rispetto a quella di un cattedratico alla Sapienza. Ulteriore esempio: oggi, agosto 2024, un ultraottantenne come me potrebbe essere criticato per rivolgere il saluto a tutti anzichè tutte e tutti oppure tutt* eccetera, ai miei tempi era universale l'uso neutro di molte parole e questo non voleva per niente escludere o marginalizzare persone di genere diverso. Da qualche tempo si diffondono altre convenzioni d'uso. Non mi limiterei a criticare il digitale perchè fondato sulla statistica, mi domanderei se la nostra intelligenza può essere meno speciale di quanto riteniamo. Con Galileo abbiamo cominciato ad abbandonare l'antropocentrismo in astronomia, il digitale potrebbe avviare analogo percorso nelle cosiddette scienze umane? Cordialmente. Duccio (Alessandro Marzocchi) Il giorno mar 20 ago 2024 alle ore 15:34 <nexa-request(a)server-nexa.polito.it> ha scritto: > Date: Tue, 20 Aug 2024 14:56:51 +0200 > From: Giacomo Tesio <giacomo(a)tesio.it> > > Il 20 Agosto 2024 10:39:18 UTC, Gianluca Fasano > <gianluca.fasano(a)cnr.it> ha scritto: > > > abbiamo disunito la capacità di comprensione dalla capacità > > ‘tecnologica’ di produrre idee e opinioni; > No. > Abbiamo realizzato software che producono output testuale privo di > significato ma in grado di ingannare gli esseri umani che non ne > comprendono il funzionamento. > La tua mente attribuisce significato a qualcosa che non ce l'ha, come > un sasso o la pioggia, ma che è stato letteralmente progettato e > realizzato per massimizzare la probabilità di ingannarti. > Turing lo chiamava "imitation game", ma sarebbe stato più corretto > parlare di "imitation deceit". > > È software innovativo? > Sì, abbastanza da apparire "indistinguibile dalla magia" ai profani. > > Produce idee e opinioni? > No. Ma è stato progettato per ingannare la tua mente in proposito. > > > abbiamo creato autori senza persona > > Confondi autorialità e plagio automatizzato su larghissima scala. > > > senza libertà ma che, nei fatti, simulano l’esercizio di quella. > > Come simulano la produzione di idee e opinioni: tramite l'inclusione > di numeri casuali nell'input del software. > > > Adesso abbiamo il compito di individuare modelli normativi per > > gestire le responsabilità derivanti da questi nuovi modelli di > > autorialità. > > Perché? > > Non basta che ne rispondano coloro che realizzano il software (quando > scaricabile) o che forniscono il servizio (vedi ChatGPT, Gemini etc...) > > Hanno scritto un software che produce output per loro conto, > riproducendo malamente i testi che hanno usato per programmarlo > statisticamente. > > È sufficiente che rispondano delle eventuali violazioni del diritto > d'autore e di ogni output che questi software producono come se lo > avessero scritto per proprio conto. > > Se quell'output viene interpretato da un giudice come diffamatorio, > loro risponderanno per diffamazione. > Se quell'output viene interpretato da un giudice come disinformazione, > loro ne risponderanno. E così via. > > Perché l'uso di automatismi complessi per violare i diritti delle > persone o le norme esistenti dovrebbe garantire impunità o comunque un > trattamento diverso da parte della Legge? > > > Giacomo > > > >

1 0

Dell'odore della carta, era: Esiste solo ciò che è su smartphone?
by Marco Fioretti Aug. 22, 2024

Aug. 22, 2024

Ieri, a proposito dell'articolo "Google ora mostra solo i siti a formato di smartphone. Non adeguiamoci", qui: https://www.avvenire.it/opinioni/pagine/la-svolta-di-google-via-i-siti-non-… scrivevo che: > Non indicizzare affatto i siti non fatti per gli smartphone non e' > assolutamente ragionevole. Potrebbe essere inevitabile > economicamente, ma non e' certo questo il motivo. Ieri pero', in parallelo e per pura coincidenza, ho anche pubblicato una cosa che e' anche una critica proprio dei giovani citati nell'articolo, quelli che "spesso ce lo mostrano ad esempio leggendo più libri, di carta, di quanto facciano gli adulti. Per avere un’isola analogica nel grande fiume digitale." come parte di una critica generale di tutta la mitologia che "i bit sono piu' fragili di carta, vinile e di tutto quello che e' analogico": https://mfioretti.substack.com/p/ever-wondered-why-we-are-in-a-digital Marco

3 4

Large Language Models pose a risk to society and need tighter regulation, say Oxford researchers
by J.C. DE MARTIN Aug. 20, 2024

Aug. 20, 2024

*OII | Large Language Models pose a risk to society and need tighter regulation, say Oxford researchers* Written by Sandra Wachter, Brent Mittelstadt and Chris Russell /Leading experts in regulation and ethics at the Oxford Internet Institute, part of the University of Oxford, have identified a new type of harm created by LLMs which they believe poses long-term risks to democratic societies and needs to be addressed/ Large Language Models pose a risk to society and need tighter regulation, say Oxford researchers Leading experts in regulation and ethics at the Oxford Internet Institute, part of the University of Oxford, have identified a new type of harm created by LLMs which they believe poses long-term risks to democratic societies and needs to be addressed by creating a new legal duty for LLM providers. In their new paper ‘Do large language models have a legal duty to tell the truth?’, published by the Royal Society Open Science, the Oxford researchers set out how LLMs produce responses that are plausible, helpful and confident but contain factual inaccuracies, misleading references and biased information. They term this problematic phenomenon as ‘careless speech’ which they believe causes long-term harms to science, education and society. continua qui: https://www.oii.ox.ac.uk/news-events/do-large-language-models-have-a-legal-…

8 17

Prezzi variabile a seguito di riconoscimento
by Diego Giorio Aug. 18, 2024

Aug. 18, 2024

https://www.rawstory.com/kroger-pricing-strategy/ [https://www.rawstory.com/media-library/image.jpg?id=53146504&width=1200&hei…]<https://www.rawstory.com/kroger-pricing-strategy/> Kroger's new dynamic AI pricing scheme is 'corporate greed out of control': critics<https://www.rawstory.com/kroger-pricing-strategy/> Expressing doubt that a new artificial intelligence-powered "dynamic pricing" model used by the Kroger grocery chain is truly meant to "better the customer experience," Sens. Elizabeth Warren said Friday that the practice shows how "corporate greed is out of control."Warren (D-Mass.) was joined by S... www.rawstory.com Penso possa interessare alla lista Buona settimana a tutti D.

1 0

Theory Is All You Need: AI, Human Cognition, and Decision Making
by don Luca Peyron Aug. 18, 2024

Aug. 18, 2024

Non mi pare sia passato in lista, buon lavoro in una prospettiva differente dal solito dl https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4737265 _________________________ don Luca Peyron Pastorale Universitaria - Apostolato Digitale Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

1 0

The AI’s Tom Cruise problem
by Benedetto Ponti Aug. 17, 2024

Aug. 17, 2024

Why AI’s Tom Cruise problem means it is ‘doomed to fail’ LLMs’ ‘reversal curse’ leads it to fail at darling relationships between simple facts. It’s a problem that could prove fatal. By Alex Hern, Guardian. https://www.theguardian.com/technology/article/2024/aug/06/ai-llms?utm_sour… Inviato da Outlook per Android<https://aka.ms/AAb9ysg>

1 0

Re: [nexa] organizziamo un incontro online sul tema "chatcontrol" e simili? (Andrea Trentini) (alessandro marzocchi)
by karlessi Aug. 17, 2024

Aug. 17, 2024

Il 17/08/24 12:00, nexa-request(a)server-nexa.polito.it ha scritto: > Date: Fri, 16 Aug 2024 17:27:58 +0200 > From: alessandro marzocchi <alemarzoc(a)gmail.com> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] organizziamo un incontro online sul tema > "chatcontrol" e simili? (Andrea Trentini) > Message-ID: > <CAG5xczeb-3HpzZrHijO1D=08RxQunQGzzhnxyDaX5WngrGKyUA(a)mail.gmail.com> > Content-Type: text/plain; charset="utf-8" > > Mi piace la proposta. > *Difendere la libertà e diffondere la cultura della libertà *(da sito > liberisti italiani) ha un antecendete necessario: *alfabetizzazione buongiorno, sul sito in questione (non conoscevo) trovo esaltazione di Javier Milei come liberista. A mio parere costui è un libertariano ed estremista destrorso estremamente pericoloso. es. contro l'aborto ma favorevole alla cessione "volontaria" di organi. Certo l'asse politico è attualmente molto spostato a destra... Ma così a destra? la cultura della libertà senza l'uguaglianza è sancire i privilegi esistenti. La cultura dell'uguaglianza senza la libertà è garantire l'oppressione di chi non si allinea alla "maggioranza". IMHO. il mondo informatico si è mostrato storicamente assai sensibile alle sirene del libertarianesimo (che non è libertario, almeno non nell'accezione europea, dove libertario fa rima con socialista) e dall'anarco-capitalismo (un ossimoro che si è disgraziatamente imposto). in particolare nella Silicon Valley. anni fa cercammo di ricostruire parte della vicenda con un articolo sulla Crittografia, https://zenodo.org/records/5013068 che avremmo voluto continuare ragionando di criptovalute e blockchain e NFT, per le quali il discorso "meno Stato" o addirittura "no Stato" (che mi trova perfettamente d'accordo) si confonde con la privatizzazione del mondo e la truffa eletta a sistema di business (vedi NFT). > digitale*, tema che svolgi benissimo in università e che va avviato > all'inizio del ciclo scolastico, potrebbe essere un obiettivo? > Cordialmente. mi chiedo a questo punto quale sia il portato politico di tale alfabetizzazione. anche a me capita di fare alfabetizzazione digitale ecc. il senso politico di tale fare è orientato alla promozione dell'autonomia individuale e collettiva tramite l'autogestione delle risorse e lo sviluppo di competenze sistemi tecnologie da parte di persone per le persone. buona giornata cm > Duccio (Alessandro Marzocchi) > > Date: Thu, 15 Aug 2024 10:54:06 +0200 > From: Andrea Trentini <andrea.trentini(a)unimi.it> > >> To: nexa <nexa(a)server-nexa.polito.it> >> Subject: [nexa] organizziamo un incontro online sul tema "chatcontrol" >> e simili? >> Message-ID: <b454628d-d943-4900-870d-d9c460495d89(a)unimi.it> >> Content-Type: text/plain; charset="utf-8"; Format="flowed" >> >> Ciao, faccio parte del comitato milanese di Liberisti Italiani e ogni >> tanto organizziamo degli >> incontri (sia online che in presenza) su temi importanti. >> Vorremmo farne uno online in settembre sul tema "EU chatcontrol" (ma >> allargato al tema sorveglianza >> di massa, guerra all'anonimato, ecc.), non mi dispiacerebbe raccogliere >> interventi da membri di >> questa lista (penso ad esempio a Marco Calamari e a Stefano Quintarelli, >> ma sono apertissimo a >> proposte). >> Se qualcuno di voi ha voglia di intervenire mi faccia sapere. >> (gli incontri sono brevi, circa un'ora, quindi ogni intervento potrebbe >> durare meno di dieci min con >> dibattito collegiale a seguire) >> Grazie mille >> >> >

1 0

Re: [nexa] cervello elettronico, si diceva una volta
by alessandro marzocchi Aug. 16, 2024

Aug. 16, 2024

> "" le regole dovrebbero discendere dai principi che si vogliono difendere > "" Nei sistemi giuridici come il nostro, alle costituzioni, ai principi, si devono armonizzare le leggi ordinarie, le regole. Però nel mondo digitale è insormontabile "" l'ostacolo linguistico "" che altrove ho chiamato ""rischio digitale"". *Humanware *è l’obiettivo cui puntare, sistemi sw ma anche hw in funzione degli utenti finali, in armonia con l'affermazione per la quale “” *sono le macchine che devono imparare a riconoscerci, non noi a doverci assimilare alle macchine*. “” ( https://www.corriere.it/tecnologia/24_gennaio_02/l-intelligenza-artificiale…) criticando la situazione attuale nella quale “”*dobbiamo imparare a fare funzionare i servizi che ci offrono*, anche se sono fatti male, sono controintuitivi e scomodi “”. Lo aveva riconosciuto Quintarelli (https://blog.quintarelli.it/spid/) “” Mia moglie ha … chiesto di spiegarle come funziona e il perché di certe cose che le sembravano complicazioni inutili) “”. Per me, ignorante in molto ed ancor più nel digitale, quasi tutto il digitale è complicato. Ancora oggi – agosto 2024 – noi ignoranti digitali sfioriamo il 100% degli umani: perchè accettare la schiavitù digitale e, molto peggio, abbandonare ad essa i giovani (Attardi, op cit)? La regola generale dovrebbe essere semplice: ogni strumento informatico, materiale od immateriale, deve essere interamente leggibile e trasparente allo scopo di essere comprensibili agli utilizzatori finali. Per gli analfabeti - tali siamo quasi tutti - c'è solo arbitrio, non c'è principio non c'è regola. Cordialmente. Duccio (Alessandro Marzocchi) Date: Thu, 15 Aug 2024 09:26:58 +0200 > From: Giuseppe Attardi <attardi(a)di.unipi.it> > To: nexa(a)server-nexa.polito.it > Subject: Re: [nexa] cervello elettronico, si diceva una volta > Message-ID: <A5A69DE6-C61F-47D1-829E-5F7105277096(a)di.unipi.it> > Content-Type: text/plain; charset=utf-8 > > > On 13 Aug 2024, at 12:46, nexa-request(a)server-nexa.polito.it wrote: > > > > l’autrice osserva che per disciplinare l’intelligenza > > artificiale in modo generale occorre «passare dalle regole ai princìpi». > > Questi ultimi, a differenza delle prime, sono caratterizzati da una > > maggiore ampiezza e flessibilità. Ne sono esempi i princìpi di > trasparenza, > > di non discriminazione, di sorveglianza umana ecc. > > Direi proprio l’opposto: le regole dovrebbero discendere dai principi che > si vogliono difendere. > Un ribaltamento che si ritrova anche nell’impostazione dell’European AI > Act, che impone regole sul come sviluppare e certificare applicazioni di AI > (intesa in senso talmente lato da coprire praticamente qualunque > applicazione informatica), anziché stabilire quali siano i principi da > difendere, in particolare i diritti degli utenti. > La GDPR stabilisce invece quali siano i nostri diritti e lascia aperto il > compito alle autorità di protezione di come farli valere. > > >

1 0

Re: [nexa] organizziamo un incontro online sul tema "chatcontrol" e simili? (Andrea Trentini)
by alessandro marzocchi Aug. 16, 2024

Aug. 16, 2024

Mi piace la proposta. *Difendere la libertà e diffondere la cultura della libertà *(da sito liberisti italiani) ha un antecendete necessario: *alfabetizzazione digitale*, tema che svolgi benissimo in università e che va avviato all'inizio del ciclo scolastico, potrebbe essere un obiettivo? Cordialmente. Duccio (Alessandro Marzocchi) Date: Thu, 15 Aug 2024 10:54:06 +0200 From: Andrea Trentini <andrea.trentini(a)unimi.it> > To: nexa <nexa(a)server-nexa.polito.it> > Subject: [nexa] organizziamo un incontro online sul tema "chatcontrol" > e simili? > Message-ID: <b454628d-d943-4900-870d-d9c460495d89(a)unimi.it> > Content-Type: text/plain; charset="utf-8"; Format="flowed" > > Ciao, faccio parte del comitato milanese di Liberisti Italiani e ogni > tanto organizziamo degli > incontri (sia online che in presenza) su temi importanti. > Vorremmo farne uno online in settembre sul tema "EU chatcontrol" (ma > allargato al tema sorveglianza > di massa, guerra all'anonimato, ecc.), non mi dispiacerebbe raccogliere > interventi da membri di > questa lista (penso ad esempio a Marco Calamari e a Stefano Quintarelli, > ma sono apertissimo a > proposte). > Se qualcuno di voi ha voglia di intervenire mi faccia sapere. > (gli incontri sono brevi, circa un'ora, quindi ogni intervento potrebbe > durare meno di dieci min con > dibattito collegiale a seguire) > Grazie mille > >

1 0

What are the risks from Artificial Intelligence?
by don Luca Peyron Aug. 16, 2024

Aug. 16, 2024

A comprehensive living database of over 700 AI risks categorized by their cause and risk domain. Https://airisk.mit.edu/

1 0