se i LLM siano utili magari facciamolo dire a chi li usa, anche perché quelli non si fanno intimidire dai profdi sicuro sono molto divertenti, ecco l'articolo messo in bocca a Savonarola (ChatGPT 4)O popolo cieco, sedotto dalla vanità delle macchine e dall'illusione dell'intelligenza creata dall'uomo! Come Pinocchio si lasciò ingannare dal Paese dei Balocchi, così le nostre scuole e università stanno per cedere l'anima all'idolo dell'IA generativa. Questa intelligenza non è che un automa vuoto, privo di sapienza divina, uno strumento delle grandi potenze per distruggere l'istruzione, per corrompere l'innocenza degli studenti. Vegliate, affinché non scivoliate nel peccato della pigrizia intellettuale!(si scherza, eh)G.On Mon, 14 Oct 2024 at 12:06, Andrea Bolioli <andrea.bolioli@gmail.com> wrote:Grazie Daniela e a tutti.Sono d’accordo con quasi tutto quello che hai scritto nell’articolo .La favola che l’IA serve per il bene dell’umanità andrebbe considerata una favola del pifferaio magico, secondo me.Lo dico pur essendo una persona che ha lavorato per 35 in ambito NLP e che trova meravigliosi e stupefacenti i sistemi LLM attuali. Serviranno a fare qualcosa di socialmente utile? Mah, per ora non è chiaro.È molto utile fare formazione su questi temi in tutte la sedi in cui è possibile fare formazione. Formazione scientificamente fondata, critica, auspicabilmente efficace.L’ignoranza su questi temi è molto diffusa, così come lo era riguardo al web, ai motori di ricerca, ai social network, e prima riguardo alla TV e altri mezzi di comunicazione di massa. Ignoranza che rende le persone fruitori passivi manipolabili, non solo la gente comune ma anche i decisori politici.È ovvio che quello che creiamo riflette noi stessi, non viene creato dai marziani, che non esistono. È noto che le persone creano anche cose orribili. Alcuni creano cose orribili, altri cercano di contrastarle, alcuni creano cose belle. Le persone fortunatamente non perseguono tutte gli stessi scopi. Alcune hanno come unici scopi il profitto o il dominio.Il problema principale degli LLM non sono i bias: se penso alla TV democristiana che l’Italia si è beccata per 40 anni, o alle televisioni attuali di stati come la Russia, ho difficoltà a pensare che il problema maggiore degli LLM siano i bias. In un paese democratico ognuno ha i suoi bias. Su questo credo che siamo d’accordo.Un sistema che genera testo esprime anche punti di vista, inesorabilmente. Genera testo che viene letto e interpretato come dotato di senso. Un sistema che risolve problemi di algebra non esprime punti di vista, trova la soluzione corretta oppure no.È un problema? Sì, c’è un problema se chi usa gli LLM pensa che siano motori di ricerca (cita le fonti corrette e rilevanti? No), oppure pensa che siano intelligenti (mi scrive la cosa più intelligente che si possa immaginare? No), o pensa che siano sistemi di data analytics ( ha i database più completi e corretti di ogni settore? No) .(Non entro nel tema “pensiero” perché è filosoficamente troppo impegnativo. Gli LLM non pensano. )Gli LLM generano testo e codice software che ci permettono di fare copia e incolla. Gli scrivo di che cosa ho bisogno, copio e incollo l’output se mi piace, rileggo, correggo. Se non rileggo e correggo, sto sbagliando, non ho capito che cosa sto usando. Se non rileggo e correggo e vendo ad una azienda il report generato dall’LLM come last report della grande azienda di consulenza (cosa che sta avvenendo), faccio una frode. Se vendo all’INPS un fantomatico sistema di IA che risolverà i problemi delle pensioni italiane (ma in che modo?!?), sto facendo una frode. Se faccio generare all’LLM un bando pubblico senza rileggerlo… Se servono altri esempi, sono a disposizione.È fastidioso sentire ogni 3x2 che qualunque problema verrà risolto dall’IA. Meglio l’aloe vera 😉 Per ora nessuno ha detto che l’IA porterà la pace nel mondo… Peccato.Buona giornata,AndreaIl giorno dom 13 ott 2024 alle 18:20 maurizio lana <maurizio.lana@uniupo.it> ha scritto:ho letto l'articolo.
condivido che l'infiltrazione di IA nelle pratiche della scuola e dell'Università sia un problema e sia anche l'espressione di un problema che c'era già - scuola e università come appendici del mondo aziendale.
che i sistemi di IA - incapaci di gestire le ordinazioni degli hamburger - vengano introdotti nella scuola per gestire gli studenti (studenti come hamburger?) esplicita l'idea che lo studente sia un prodotto e non una persona.
secondo me poi in questa introduzione una parte non piccola la gioca anche una dose di ignoranza e sudditanza psicologica: 'se non lo facciamo, facciamo figura di ignoranti'. come una riedizione dei vestiti nuovi dell'imperatore.
quanto al fatto, nel commento di Alessandro Marzocchi, che "la macchina è creata dagli umani, mi pare ovvio che riproduca l'umano, coi suoi difetti ed errori" il problema è che ai sommi sacerdoti del culto di questa macchina, degli errori non importa nulla, importa solo che tutti (il maggior numero possibile) la credano onnisciente creativa onnipotente.
rimando anche a Daniele Gambetta «Technic and magic: animismo di piattaforma e svolta linguistica 2.0 - seconda parte». DINAMOpress, 5 ottobre 2023. https://www.dinamopress.it/news/technic-and-magic-animismo-di-piattaforma-e-svolta-linguistica-2-0-seconda-parte/ che ricorda che il bias è insito (ineliminabile forse) nei sistemi di IA:
e il loro bias diventa pervasivo, mentre quello degli umani non arriva ad esserlo in quella forma e in quella misura.“Il punto non è migliorare o correggere il modello, il punto è che qualunque rappresentazione del mondo e qualunque forma di espressione è situata, è posizionata in un contesto specifico sociale, storico. ... Eliminare il bias è una richiesta priva di senso, dal momento che un discorso neutrale non esiste”
Maurizio
Il 13/10/24 12:03, alessandro marzocchi ha scritto:
Date: Sat, 12 Oct 2024 17:04:47 +0000 From: Daniela Tafani <daniela.tafani@unipi.it> ha scritto
ho appena pubblicato un articolo dal titoloOmini di burro. Scuole e università al Paese dei Balocchi dell'IA generativaVi sarò grata di qualsiasi osservazione, in questa lista
o nei commenti, nella pagina del "Bollettino telematico di filosofia politica"Daniela scrive:***
I testi generati riproducono, come in uno specchio, il pensiero egemonico e le ingiustizie espresse nei dati di partenza, ma, così come gli specchi non producono corpi, i grandi modelli del linguaggio naturale non producono menti.
***(mia osservazione):Ognuno deve molto all'ambiente in cui è cresciuto, all'educazione ricevuta. Le scelte diverse che a volte facciamo, potrebbero essere criticate come allucinazioni? Riflettiamo sul titolo del manuale di riferimento sulla follia: DSM, diagnostic STATISTIC manual, paradossalmente esasperando la statistica, quando la maggioranza era quadrupede i bipedi erano folli. E' stato un caso fortunato che allora non esisteva il DSM ma la stessa evoluzione è una deviazione statistica?
Al netto di tutto, la macchina è creata dagli umani, mi pare ovvio che riproduca l'umano, coi suoi difetti ed errori. In fin dei conti la macchina analizza un numero enorme di casi (dati, informazioni, frasi, immagini) e da essi cerca di dedurre significati, relazioni. Noi umani facciamo qualcosa di diverso quando impariamo a parlare, camminare, scrivere, quando impariamo ad imparare?
In tempi antichi, ma tutto sommato recenti, il medico toccava il nostro corpo per dedurre lo stato di salute, ora non più e da malato ho sofferto la mancanza del contatto fisico col medico, ora si usano termometri e millemila analisi molto spesso affidate a macchine ... esternalizzate, avrebbe criticato Platone. A partire dal termometro, ogni macchina ci dà una conoscenza del reale sua, della macchina con un "linguaggio macchina" e questo non ci ha preoccupato. A parte meraviglia, sorpresa, non ci ha preoccupato più di tanto la sostituzione del cuore - trapianto o macchine varie - anche se nel cuore vedevamo la sede di affetti ed emozioni. Ora ci preoccupa che la macchina si occupi di mente.
Voleva scuotere la nostra mente il surrealismo che aveva anticipato dubbi e suggestioni, confondendo ed ibridando linguaggi e sensi, Magritte ci ha mostrato l'immagine di una pipa con la scritta "ceci n'est pas une pipe", prima dell'IA abbastanza per aprirci a domande nuove in tema di realtà e linguaggio che la descrive.Come tutti sono molto preoccupato, anche per controlli degenerati denunciati da Stefano Quintarelli e Juan Carlos De Martin, degenerazioni che neppure esse sono nate ora, fascismo nazismo stalinismo e loro controlli sono presenti nelle memorie dirette delle generazioni umane tuttora viventi.
Alla fine mi domando: non è ovvio che questa nuova "macchina" ci somigli?Ma l'aspetto più interessante è l'analisi della realtà che essa apre. ... se ci arriveremo da persone libere, e questa è la domanda che più mi preoccupa, non la riflessione che la realtà è altro da noi, nonostante noi siamo parte della realtà
Grazie, Daniela, per le riflessioni con le quali cresce la mia gratitudine per quel che imparo da questa lista: chi l'ha inventata? Errando discitur, anche questa è statistica, siamo tutti un poco pappagalli stocastici?
Duccio (Alessandro Marzocchi)
pourquoi es-tu parti avant que je te l'apprenne? le savais-tu déjà? avais-tu deviné? bashung, immortelsMaurizio Lana
Università del Piemonte Orientale
Dipartimento di Studi Umanistici
Piazza Roma 36 - 13100 Vercelli