June 2021 - nexa - server-nexa.polito.it

La singolarità tecnologica nell’intelligenza artificiale

by don Luca Peyron

Un buon pezzo divulgativo per comprendere lo stato dell'arte per chi è più spettatore che protagonista dell'arte di cui si parla. Buona lettura dl https://www.ai4business.it/intelligenza-artificiale/la-singolarita-tecnolog… _________________________ don Luca Peyron Direttore Ufficio per la Pastorale Universitaria Arcidiocesi di Torino www.universitari.to.it via XX settembre 83, Torino tel. 011 5156239

June 26, 2021

Documentario - The future of modern warfare. How technology is transforming conflicts - Deutsche Welle

by Diego.Latella

Carissimi, Segnalo il filmato divulgativo "The future of modern warfare. How technology is transforming conflicts", suggeritomi da Guglielmo Tamburrini, che ringrazio. Il filmato tratta in modo semplice e chiaro aspetti quali il nesso fra cyber e nucleare, e le armi autonome. Accenna anche alle attivita' in seno alla CCW e alla Campaign to Stop Killer Robots, con spezzoni di interviste al ministro degli esteri tedesco. Il filmato e' della Deutsche Welle. https://m.youtube.com/watch?v=TmlBkW6ANsQ&feature=youtu.be Buon fine settimana Diego -- Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it [1]) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, mob: +39 348 8283101, fax: +390506212040 =================== The quest for a war-free world has a basic purpose: survival. But if in the process we learn how to achieve it by love rather than by fear, by kindness rather than compulsion; if in the process we learn how to combine the essential with the enjoyable, the expedient with the benevolent, the practical with the beautiful, this will be an extra incentive to embark on this great task. Above all, remember your humanity. -- Sir Joseph Rotblat I don't quite know whether it is especially computer science or its subdiscipline Artificial Intelligence that has such an enormous affection for euphemism. We speak so spectacularly and so readily of computer systems that understand, that see, decide, make judgments, and so on, without ourselves recognizing our own superficiality and immeasurable naivete with respect to these concepts. And, in the process of so speaking, we anesthetise our ability to evaluate the quality of our work and, what is more important, to identify and become conscious of its end use. […] One can't escape this state without asking, again and again: "What do I actually do? What is the final application and use of the products of my work?" and ultimately, "am I content or ashamed to have contributed to this use?" -- Prof. Joseph Weizenbaum ["Not without us", ACM SIGCAS 16(2-3) 2--7 - Aug. 1986] Links: ------ [1] http://www.isti.cnr.it

June 26, 2021

Cooler Screens, vetrine altamente innovative (che ti spiano)

by 380°

Buongiorno, temevo che questo giorno sarebbe arrivato e che "il web" sarebbe entrato di prepotenza anche anche nei supermercati e nei negozi... vedremo se si diffonderà anche nel resto del mondo - come spero vivamente - cadrà presto vittima come spero dell'"innovation delusion" che genererà. ...tra l'altro, non sfuggirà alle nexiane che si tratta di "roba per pochi ricchi": voglio vederli 'sti cosi nei negozi o supermercati delle periferie urbane o delle favelas & co. Un mio amico diversamente tecnologico mi segnala questo: https://mobile.twitter.com/RunDaltonRun/status/1408507323031592964 [1] Il testo dice: --8<---------------cut here---------------start------------->8--- Sorry, we replaced that old technology, "see-through glass," with these great new "smart screens" that allow you to see what's inside (except when they don't). Also, ads. --8<---------------cut here---------------end--------------->8--- [1] disponibile anche sulla WaybacMachine: https://web.archive.org/web/20210626083136/https://mobile.twitter.com/RunDa… E il "thread" mostra foto, filmati e commenti al Tweet: vale la pena scorrerli per vedere l'esperienza "sul campo" di questa persona e i commenti che seguono. Le vetrine sono prodotte da "Cooler Screens, Inc." https://www.coolerscreens.com/ e applicano l'idea degli schermi pubblicitari interattivi ai banchi frigo (e non? perché limitarsi!) dei supermercati. Non si capisce se le telecamere a bordo sono dotate di riconoscimento facciale o meno... ma è un attimo dotarle anche di quella FEATURE :-O La sezione https://www.coolerscreens.com/privacy dice che i consumatori possono stare tranquilli per la loro privacy: --8<---------------cut here---------------start------------->8--- A new model for digital retail: “identity-blind” Previous generations of digital retail have relied on capturing personal data and linking it to individual buyers to deliver new insights and make money. Our approach is just the opposite. Cooler Screens never seeks to identify individuals and never gathers or uses personally identifiable or linkable information. Our technology does not support it. Our business model does not require it. In other words, unlike others who are identity-dependent, Cooler Screens is “identity-blind”. Without access to a consumer’s identity—and without incentive to associate private information—the usual privacy concerns for consumers are eliminated. --8<---------------cut here---------------end--------------->8--- Dicono di aver sviluppato il sistema con principi "privacy by design" e /pare/ collaborino con Global Privacy and Securiry by Design https://gpsbydesign.org/. Qualcuno li conosce e può dirci se i loro principi sono applicabili? Ci si può fidare o è tutto un privacy-washing?!? Davvero la soluzione sono enti di certificazione di "privacy by design" (https://gpsbydesign.org/get-certified/)? Come fanno a fare "advanced machine learning and big data analytics" senza classificare (e quindi riconoscere) i "consumatori"? (si limitano a misurare i tempi di risposta tra ad e acquisto del prodotto?) Servirebbe una legge tipo HACCP https://it.wikipedia.org/wiki/HACCP per la salubrità dei negozi!... ma poi chi verifica e come (accesso al codice del software)?!? :-O Insomma come la giri a me pare che non se ne esce senza software libero e divieto assoluto di tracciamento biometrico. Saluti, 380° P.S.: da qui in poi il post diventa lunghino, perdonatemi ma certe chicche secondo me è utile rimangano archiviate anche qui... https://www.coolerscreens.com/experience --8<---------------cut here---------------start------------->8--- Cooler Screens not only modernizes the in-store shopping experience, it also improves information access, relevance, and transparency. With this improved visibility, consumers are more confident they are making purchase decisions that best fit their budgets, taste, and health preferences. Driven by the consumer experience (CX) Cooler Screens was founded on the core idea that consumers deserve a far better experience than what is available today in brick-and-mortar retail. We call this concept “CX” and it guides all that we do. We view CX as a virtuous loop. [...] Informed Seekers: familiar with the location, quick to scan-and-grab items, rarely deviating from habit. List-Driven Gatherers: think through list of item, open to consider items missing from their list. Casual Browser: does not know the location, passively scanning, most prone to novelty. Bringing the power of digital to the cooler aisle Cooler Screens replaces the old glass cooler doors with new digital smart screens that seamlessly integrate into the existing retail environment. We have built the world’s first and largest in-store digital merchandising and media platform for brick-and-mortar retail. --8<---------------cut here---------------end--------------->8--- https://www.coolerscreens.com/impact --8<---------------cut here---------------start------------->8--- Retailers can now enter the digital media business With Cooler Screens, retailers can now enter the digital media business, tapping a massive growth opportunity. In addition, retailers can now offer brands access to millions of consumers with contextually relevant messages and promotions at the point-of-purchase. Build brand equity and drive performance at the same time For consumer product companies, Cooler Screens is providing a new platform to build brand awareness, market their products at the point-of-sale, and improve visibility with real-time analytics. Insights from real-time consumer analytics and impact from operational efficiencies Finally, by digitizing their in-store operations, retailers gain insight from real-time consumer analytics and efficiencies through automated merchandising, inventory tracking, and pricing. With digitized planograms, merchandising is dramatically improved as products are never hidden, disorganized, or unknowingly out-of-stock. Measure the performance of media buys in real time Traditionally, product brands have had limited visibility into the effectiveness of their advertising and merchandising and limited influence on consumers at the point-of-purchase. They’ll now be able to measure the performance and consumer response to their media buys in real-time. With instantaneous feedback, brands can rapidly test and refine their offerings. Unlike other digital outlets, Cooler Screens also provides product companies with a brand-safe marketing environment and 100% verified viewership. --8<---------------cut here---------------end--------------->8--- Ripeto: IMPROVE VISIBILITY WITH REAL-TIME ANALYTICS. https://www.coolerscreens.com/ecosystem --8<---------------cut here---------------start------------->8--- Trust and scale Our partners provide not only capabilities and confidence throughout the ecosystem but also immediate access to massive consumer audiences and a scale marketplace of offerings from the top consumer brands. With the help of our partners, we’re building the world’s largest in-store digital media and edge-computing platform at the point-of-sale. By the end of 2020, nearly 75 million consumers per month will experience Cooler Screens. --8<---------------cut here---------------end--------------->8--- https://www.coolerscreens.com/platform --8<---------------cut here---------------start------------->8--- Bringing the power of digital to brick-and-mortar The Cooler Screens technology platform was designed and built from the ground up to deliver on the company’s “CX” vision. It captures the power of the latest digital technology including IoT, cloud, artificial intelligence, and high-resolution displays to transform brick-and-mortar retail. Cooler Edge computing platform is the foundation for our proprietary Media, Marketplace, and Analytics applications. Cooler Media Our merchandising and advertising software powers captivating, immersive experiences for shoppers. Cooler Media combines the art of dynamic visual design and the power of AI technology. It gives retailers and brands the ability to define smart, in-context promotions, design digital planograms, and deliver flawless product displays and real-time pricing at the point-of-sale. With Cooler Media, retailers and brands can capitalize on the critical three-to-five seconds of consumer decision-making in store. Cooler Marketplace Our ad platform is where brands place advertising media and manage promotional campaigns. With intelligent targeting and precise placement, the right offering is delivered at the right time, in the right place, to the right customer. Cooler Marketplace supports the full advertising lifecycle including campaign management, A/B testing, analytics, yield management, RFP, and supply/demand optimization. Cooler Analytics Our proprietary analytics engine delivers unprecedented insights into customer behavior, promotion effectiveness, inventory, and compliance. Retailers and brands now understand patterns in real time, using advanced machine learning and big data analytics. --8<---------------cut here---------------end--------------->8--- Ripeto: TO THE RIGHT CUSTOMER. -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.

June 26, 2021

Re: [nexa] The European Legislation on AI: A Brief Analysis of its Philosophical Approach (di Luciano Floridi)

by Giacomo Tesio

Scusate, scrivendo dopo una lunga e faticosa giornata ho commesso vari errori. Uno però è particolarmente grave e desidero correggerlo a futura memoria: On June 25, 2021 11:54:39 PM UTC, Giacomo Tesio wrote: > > La calibrazione di una rete neurale (erroneamente chiamata "training" > in gergo) evidenzia chiaramente come i dati siano SEMPRE codice anche > se rinunciamo a comprendere QUALE codice, ovvero cosa significhi > l'elaborazione effettuata dalla rete calibrata, ed a prevederne > precisamente il comportamento, in particolare negli innumerevoli casi > limite non adeguatamente rappresentati nei dati selezionati. Ho dimenticato un importantissimo "non" prima di "riusciamo a comprendere". Le attuali tecniche di programmazione statistica note come "deep learning" non permettono di interpretare il programma prodotto. Di comprendere in modo chiaro ed esaustivo l'elaborazione che esegue automaticamente. Per questo l'uso del termine "learning" è così odiosamente ipocrita: non solo la macchina non impara nulla, ma nemmeno noi! Peggio: disincentiva la nostra curiosità, riducendo il nostro bisogno di comprendere. Già solo per questo ci rende meno umani. D'altronde perché sprecare tante energie a pensare quando altri sono felicissimi di farlo per noi? E pure GRATIS! ;-) Giacomo

June 26, 2021

Re: [nexa] The European Legislation on AI: A Brief Analysis of its Philosophical Approach (di Luciano Floridi)

by Giacomo Tesio

Ciao Damiano, On June 25, 2021 3:10:09 PM UTC, "D. Davide Lamanna" wrote: > > > Definire le "AI" non sarebbe difficile (cambiando loro nome), ma è > > impossibile se si pretende di distinguerle dal resto del software. > > Si tratta infatti di software programmato statisticamente che > > riproduce uno degli infiniti pattern deducibili dai dati > > disponibili. > > ho notato già in altri interventi questa tua posizione. Vorrei capirci > qualcosa di più. L'informazione esiste solo nella mente di un essere umano come esperienza soggettiva di pensiero comunicabile. Il dato è una delle innumerevoli (infinite) rappresentazioni di una informazione che, veicolata da un supporto fisico, può essere trasferita (data, appunto) ad altri esseri umani, lontani nel tempo o nello spazio, e da questi interpretata ovvero ritrasformata in un'esperienza soggettiva di pensiero comunicabile. Fin qui niente di nuovo¹. Un programma è un dato che determina il comportamento di un automatismo costruito per eseguirlo. L'automatismo non comprende il programma², ma reagisce alla sua rappresentazione in modo automatico, appunto. Ora, solitamente nell'informatica mainstream, programma e dato vengono considerate categorie distinte, sebbene da tempo immemore (60 anni? :-D) i programmatori Lisp ripetano che "code is data". In realtà se ci pensi un momento è sempre vero anche il contrario. Quando spostiamo una parte della logica di un programma all'interno di un file di configurazione (per permettere di modificarne il comportamento senza modificarne il codice) stiamo trasformando il nostro programma in un esecutore¹ di quel linguaggio di configurazione. La configurazione è un programma per il nostro programma iniziale che è diventato una macchina virtuale in grado di eseguirlo. Se estendiamo questa macchina virtuale per essere in grado di modificare più comodamente la sua configurazione, presto ci accorgeremo di poter avere configurazioni diverse in file diversi e di poterle scambiare con altre persone. E se questi file li chiamassimo con un estensione comune, come .jpeg, .odt, .xlsx o .pdf? Esatto ogni dato è un programma che determina come una macchina, virtuale o fisica, si deve comportare. Siamo così abituati a vedere un'immagine quando apriamo un file jpeg, che non consideriamo come quel file venga eseguito da diversi automatismi per permetterci di percepire quella immagine. Persino la sequenza di zero ed uno che sto componendo in questo istante verrà eseguita automaticamente da molti programmi diversi per stabilire, alla fine, quali pixel accendere sul tuo monitor affinché tu interpreti il messaggio che io intendo comunicarti. Server SMPT, MUA, sistemi operativi, driver video e firmware di diversi monitor. In generale, qualsiasi dato può essere usato come programma in per determinare il comportamento di un automatismo. Se scrivessi un bot che risponde automaticamente "Google ti osserva" a chiunque nomini Google e "Facebook ti sorveglia" a chiunque nomini Facebook, tutti gli iscritti a questa mailing list potrebbero programmarlo. Esattamente come se lo stesso bot eseguisse in un interprete python il contenuto di ogni mail che contenesse la parola python. Ora, come vedi, sostazialmente ogni programma che modifica il proprio comportamento sulla base dei dati che riceve costituisce una macchina virtuale che esegue tali dati come un programma. La JVM, il CLR .NET, Perl, Python, Chibi-Scheme, Lua... sono tutte macchine virtuali programmate linguisticamente dall'uomo per eseguire programmi scritti linguisticamente dall'uomo (in alcuni casi, dopo la loro traduzione in un bytecode dedicato, da compilatori scritti linguisticamente dall'uomo). Un programma particolarmente emblematico in questo senso è Hex0³ un assembler in grado di assemblare sé stesso scritto in esadecimale (e dunque compilabile anche sa qualunque essere umano che disponga di un editor esadecimale). Per quanto possa apparire strano a chi è abituato a distinguere dati e programmi, in realtà non c'è alcuna distinzione. L'errore deriva dall'esistenza di automatismi (creati da noi programmatori) in grado di creare automaticamente alcuni di questi programmi, come la macchina fotografica digitale che salva sulla SD dei JPEG⁴. Locuzioni altisonanti e fantasiose come "Artificial Intelligence", "Machine Learning" o "Deep Learning" costituiscono arcane formule magiche per impressionare gli sciocchi e materializzare fondi militari e non. Ma se siamo fortunati, fra non molto tempo i nostri nipotini rideranno di queste formule magiche come noi ridiamo degli alchimisti alla ricerca della pietra filosofale. Ma nei fatti si tratta solo di metodi statistici di programmazione. Una rete neurale profonda è una particolsre macchina virtuale che può essere programmata con tecniche statistiche. Ovvero programmata per replicare i pattern frequenti noti/desiderati. La calibrazione di una rete neurale (erroneamente chiamata "training" in gergo) evidenzia chiaramente come i dati siano SEMPRE codice anche se rinunciamo a comprendere QUALE codice, ovvero cosa significhi l'elaborazione effettuata dalla rete calibrata, ed a prevederne precisamente il comportamento, in particolare negli innumerevoli casi limite non adeguatamente rappresentati nei dati selezionati. Naturalmente chi programma statisticamente (i "data scientist") adotta tecniche molto diverse da quelle usate per programmare linguisticamente. Tuttavia rimane sempre possibile introdurre volontariamente vulnerabilità ed errori nel programma finale (rinominati "bias", visto che i debugger al momento fanno poco), ma diventano tendenzialmente invisibili perché poco frequenti. > Viceversa per un essere umano è molto difficile produrre software > attraverso un procedimento statistico, mentre per una macchina è molto > facile. Facilità e difficoltà sono esperienze umane. Per le macchine dobbiamo misurare consumi e utilità. La produzione di output fra queste. Però (attenzione che questo è un punto centrale del ragionamento) il software (AI o meno) non produce software ma dati. Siamo poi sempre noi che interpretiamo ed usiamo tali dati come software! Esattamente come chi vuole vedere "intelligenza arificiale" in una "rete neurale" la vedrà. Si tratta di interpretazioni! Il software (la rete neurale) è un dato e come tale viene inevitabilmente interpretato alla luce delle conoscenze pregresse e delle opinioni di chi lo osserva¹. > Con la programmazione statistica, invece, vengono forniti dall'essere > umano INPUT e OUTPUT coerenti e si chiede alla macchina di trovare > procedimenti di ELABORAZIONE efficienti, che possano poi essere usati > per produrre nuovi OUTPUT a partire da INPUT inediti. Questa è una interpretazione. ;-) Anzitutto la relazione fra input e output di calibrazione non è di coerenza ma di disponibilità. E questo semplicemente perché in assenza di un modello concettuale del fenomeno rappresentato dai dati disponibili, modello che renderebbe ingiustificabile il ricorso la programmazione statistica stessa, è impossibile stabilire se la relazione fra input e output sia effettivamente coerente. E poi come sai underfit e overfit sono problemi complessi: minime alterazioni di un immagine studiate ad arte possono cambiare completamente l'output calcolato da un software di classificazione. Insomma, tu hai riportato quello che si dice di voler fare, ma ciò che avviene davvero è molto diverso. > Gli ambiti di adozione dei due approcci possono essere molto diversi. > Generalmente si ricorre alla programmazione statistica nei problemi a > complessità elevata, dove è svantaggioso usare l'approccio > tradizionale. Svantaggioso per chi? Quante vite umane sono state sacrificate sull'altare delle self driving car? Per chi è vantaggioso? > > Una volta in funzione è indistinguibile dal software programmato > > linguisticamente eccetto che per l'effettiva impossibilità di > > prevederne il comportamento negli infiniti corner-case non > > sufficientemente rappresentati dai dati. > > Non sono del tutto convinto sia proprio indistinguibile. Ho visto dei > pattern elaborativi usciti da reti neurali, che non avevano nulla di > "umano", ossia nessun umano avrebbe mai pensato ad un procedimento > elaborativo di quel tipo. Esistono infiniti modi sbagliati di fare un calcolo. ;-) D'altro canto AlphaGo ha dimostrato che moltissimi modi di giocare a Go sono ancora inesplorati. Nel contesto di un gioco, l'utilizzo di un sistema del genere per esplorare nuove possibilità è applicabile ed etico (assumendo che il bene fornito all'umanità sia superiore al danno ecologico). Ma prima di lasciare che un sistema di guida autonoma ricerchi nuovi modi di attraversare una città, bisogna evacuarla. > Penso che la fascinazione dell'espressione > AI derivi, almeno in parte, da questo. E' così? Penso si tratti più dell'effetto del marketing. Anche se non dubito che, quando non danneggiano nessuno, gli output più inattesi di un software programmato statisticamente possa richiamare, nelle menti eccitate dal marketing, la sorpresa che da bambini provavamo guardando dentro un magico caleidoscopio. E andrebbe anche bene così, se usassimo il software solo per giocare. Un po' come la polvere pirica per fare splendidi fuochi d'artificio. Il problema è che quei risultati inattesi possono anche uccidere. E l'informatica sta diventando l'arma delle prossime guerre. Guerre mondiali che grazie ad essa saranno chirurgiche. Giacomo ¹ vedi il breve saggio che ho presentato al AIUCD 2021 http://www.tesio.it/2020/10/02/la_lotta_informatica_per_la_democrazia_ciber… o il precedente http://www.tesio.it/2019/06/03/what-is-informatics.html ² a ben pensarci, il termine "interprete" usato per le macchine virtuali di alcuni linguaggi non-compilati (ovvero programmi che permettono ad una macchina di eseguire programmi scritti per un'altra, talvolta di fantasia) è in effetti piuttosto fuorviante, uno dei tanti sintomi dello stato ancora primitivo dell'informatica contemporanea ³ una breve e piacevole spiegazione di come funziona è su https://ekaitz.elenq.tech/hex0.html ⁴ ovviamente il fatto che certi dati rispettino formati standard noti a molti programmatori permette di far eseguire lo stesso file a programmi/macchine virtuali diverse, dal visualizzatore di immagini, al driver della stampante, a stegohide etc...

June 25, 2021

Re: [nexa] The European Legislation on AI: A Brief Analysis of its Philosophical Approach (di Luciano Floridi)

by D. Davide Lamanna

Ciao Giacomo, > Definire le "AI" non sarebbe difficile (cambiando loro nome), ma è> impossibile se si pretende di distinguerle dal resto del software.> Si tratta infatti di software programmato statisticamente che riproduce> uno degli infiniti pattern deducibili dai dati disponibili. ho notato già in altri interventi questa tua posizione. Vorrei capirci qualcosa di più. Tieni presente che, sebbene legga e scriva software, NON sono un programmatore, non lo sono mai stato e, soprattutto, non intendo diventarlo mai. :-) Da profano, vedo una certa differenza tra software prodotto con un linguaggio e software prodotto con un procedimento statistico. Per esempio, per un essere umano è più facile che per una macchina produrre software usando un linguaggio. Del resto la stragrande maggioranza dei linguaggi di programmazione sono stato creati dall'essere umano per l'essere umano. Viceversa per un essere umano è molto difficile produrre software attraverso un procedimento statistico, mentre per una macchina è molto facile. Del resto la programmazione statistica è stata introdotta dall'essere umano per le macchine. Nello schema: INPUT -> ELABORAZIONE -> OUTPUT i linguaggi di programmazione, si usano in genere per definire un procedimento di ELABORAZIONE che generi OUTPUT ricercati a partire da INPUT forniti. Con la programmazione statistica, invece, vengono forniti dall'essere umano INPUT e OUTPUT coerenti e si chiede alla macchina di trovare procedimenti di ELABORAZIONE efficienti, che possano poi essere usati per produrre nuovi OUTPUT a partire da INPUT inediti. Gli ambiti di adozione dei due approcci possono essere molto diversi. Generalmente si ricorre alla programmazione statistica nei problemi a complessità elevata, dove è svantaggioso usare l'approccio tradizionale. Inoltre, paragonando gli approcci in uno stesso ambito di adozione, le differenze ottenute sul risultato finale potrebbero essere sintomatiche. Sbaglio? > Una volta in funzione è indistinguibile dal software programmato > linguisticamente eccetto che per l'effettiva impossibilità di > prevederne il comportamento negli infiniti corner-case non > sufficientemente rappresentati dai dati. Non sono del tutto convinto sia proprio indistinguibile. Ho visto dei pattern elaborativi usciti da reti neurali, che non avevano nulla di "umano", ossia nessun umano avrebbe mai pensato ad un procedimento elaborativo di quel tipo. Penso che la fascinazione dell'espressione AI derivi, almeno in parte, da questo. E' così? D.

June 25, 2021

Re: [nexa] The European Legislation on AI: A Brief Analysis of its Philosophical Approach (di Luciano Floridi)

by Antonio Iacono

> Si tratta infatti di software programmato statisticamente che riproduce > uno degli infiniti pattern deducibili dai dati disponibili. > Una volta in funzione è indistinguibile dal software programmato > linguisticamente eccetto che per l'effettiva impossibilità di > prevederne il comportamento negli infiniti corner-case non > sufficientemente rappresentati dai dati. Sì Giacomo, questo è un nodo cruciale. Floridi prosegue con: "Training, validation and testing data sets should be sufficiently relevant, representative and free of errors and complete in view of the intended purpose of the system.” (Recital 44). These are characteristics highly desirable but rarely met in full. Think, for instance, about the incompleteness and incorrectness of any public database" Ma mettiamo il caso che i dati di training siano effettivamente "relevant, representative and free of errors" ma che quelli reali siano del tutto incoerenti con i dati di test. Qualche giorno fa si parlava di NLP (Natural Language Processing). Bene, ipotizziamo un sistema AI "istruito" e "addestrato" con dati in inglese e venduto ad una P.A. che, ovviamente, deve trattare informazioni quasi esclusivamente in italiano. Nella migliore delle ipotesi quel sistema si bloccherà, nella peggiore andrà avanti con risultati disastrosi facilmente immaginabili. Aggiornandolo ai nostri tempi secolarizzati si potrebbe dire che "errare è umano, perseverare ... robotico". > La diffusione di qualsiasi automatismo (AI o meno) che possa distorcere > il comportamento umano causando danni fisici, psicologici o sociali > (Floridi non considera quest'ultima categoria) andrebbe semplicemente > messa al bando. E' quello che ripeto da una decina d'anni, mettiamo al bando i social network ;). Perché in quanto a distorsione del comportamento umano e causa di danni psicologici e sociali c'è già, nonostante il pochissimo lasso di tempo, ampia letteratura. Antonio

June 25, 2021

The European Legislation on AI: A Brief Analysis of its Philosophical Approach (di Luciano Floridi)

by Giacomo Tesio

From an ethical perspective, the AIA inherits the same foundational approach seen in the GDPR: it is based on protecting human dignity and fundamental rights. This is a very positive feature, even if the current proposal of the AIA is more top-down, less flexible and less focused on the protection of citizens and their rights than the GDPR. Unfortunately, the AIA uses an anachronistic terminology to define this approach as “human-centric”, that is, as an approach that places humanity at the centre of technological development. Yet this is both trivially true and dangerously ambiguous. [...] Fortunately, despite the unfortunate and obsolete terminology, the underlying vision is sound: the AIA emphasises the value of AI as a technology that can be very “green” and provide extraordinary support against pollution and climate change and for the sustainable development of information societies. [...] Correctly, the AIA treats AI as a technology for solving problems and performing tasks, not as some kind of Frankenstein’s monster. Therefore, the proposal excludes the possibility of assigning to AI systems any status as a legal person, with rights and duties, such as the possibility of owning property, entering into contracts, suing and being sued, and so forth. The responsibility of any AI system rests entirely with the people who design, manufacture, market, and use it. Coherently, the proposal stresses the importance of human oversight throughout the text. [...] At times, the text is ambiguous. [...] Some AI systems are discussed as low- or zero-risk, and as such, they seem to fall outside the scope of strict compliance and be subject only to voluntary codes of conduct, [..] leaving too much room for uncertainty and loopholes. [...] If one does not distinguish between these two senses of high-risk system—something is high risk if it fails to work vs. something is high risk if it is put to work—then one may end confusing the resilience that “good” AI systems must have, with the resistance that must be exerted towards the “bad” AI systems. [...] In other cases, the proposal is vague, such as when it comes to banning the use of AI systems intended to distort human behaviour, with probable physical or psychological harm. The intent is commendable, but it might risk banning even unproblematic AI systems if this approach were applied in a Draconian way. Finally, some expectations in the proposal seem too idealistic. [...] The new legislation may not improve but merely push out of the EU some risky AI R&D and its related ethical-legal problems, inviting companies to develop their products and services in other countries where legislation is absent, or less stringent, or not enforced, while the EU turns a wilful blind eye—or just inadequately enforces its legislation [...] Not respecting this atemporality (it should not matter when unethical steps were taken) would contradict the aterritoriality of the legislation. In this case, the recommendation is obvious: the EU must keep both eyes open and apply its ethical and legal requirements consistently and without hypocrisy, not just to the status quo, but also to the history of what comes from other places. Tratto da https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3873273 Personalmente l'analisi mi sembra ottima seppur non esaustiva nonché leggermente ingenua in alcuni passaggi (che non ho riportato qui). Definire le "AI" non sarebbe difficile (cambiando loro nome), ma è impossibile se si pretende di distinguerle dal resto del software. Si tratta infatti di software programmato statisticamente che riproduce uno degli infiniti pattern deducibili dai dati disponibili. Una volta in funzione è indistinguibile dal software programmato linguisticamente eccetto che per l'effettiva impossibilità di prevederne il comportamento negli infiniti corner-case non sufficientemente rappresentati dai dati. Comunque non ho idea di cosa abbia in mente Floridi quando parla di "AI systems intended to distort human behaviour" che potrebbero avere usi "unproblematic". La diffusione di qualsiasi automatismo (AI o meno) che possa distorcere il comportamento umano causando danni fisici, psicologici o sociali (Floridi non considera quest'ultima categoria) andrebbe semplicemente messa al bando. Giacomo

June 24, 2021

[REMINDER - GI-STS WEBINAR] Dal Trattato di Non Proliferazione al Trattato di Proibizione delle Armi Nucleari

by Diego.Latella

[Con preghiera di diffusione] =========================== ANNUNCIO WEBINAR =========================== Dal Trattato di Non Proliferazione al Trattato di Proibizione delle Armi Nucleari VENERDÌ 25 GIUGNO, 2021 ORE 16:00 (CEST) (Official language: Italian) Coordina Francesco Lenci (CNR-IBF. GI-STS) 16:00 Saluti Istituzionali Antonello Provenzale (Presidente - Area della Ricerca di Pisa del CNR) 16:10 Dal Trattato di Non Proliferazione alla fine della guerra fredda Marta Durin (UNIPI-CISP) 16:30 Dalla fine della guerra fredda alla crisi del regime di controllo degli armamenti Barbara Gallo (IRIAD, USPID) 16:50 Il Trattato di Proibizione delle Armi Nucleari. Problemi, prospettive, speranze Enza Pellecchia (UNIPI-CISP, RUniPace, senzatomica, USPID) 17:10 Discussione 17:40 Conclusioni Sergio Duarte (Presidente delle Pugwash Conferences on Science and World Affairs) Il webinar è organizzato dal Gruppo Interdisciplinare su Scienza, Tecnologia e Società (GI-STS) dell'Area della Ricerca di Pisa del CNR In cooperazione con Areaperta - Area della Ricerca CNR di Pisa Centro Interdisciplinare Scienze per La Pace dell'Università di Pisa Istituto di Biofisica del CNR Istituto di Scienza e Tecnologie dell'Informazione ``A. Faedo'' del CNR Laboratorio Informatica e Società del CINI Pugwash Conferences on Science and World Affairs Unione degli Scienziati Per Il Disarmo Con il patrocinio di La Nuova Limonaia Rete Università per la Pace Per ulteriori informazioni---incluso il link per la partecipazione all'evento---si rimanda alla pagina "Events" del sito web del Gruppo Interdisciplinare su Scienza, Tecnologia e Società (GI-STS) dell'Area della Ricerca di Pisa del CNR,(http://gists.pi.cnr.it ). =========================== For more information---including the link for participation---please refer to the "Events" page in the web site of the Gruppo Interdisciplinare su Scienza, Tecnologia e Società (GI-STS) dell'Area della Ricerca di Pisa del CNR (http://gists.pi.cnr.it ). =========================== -- Dott. Diego Latella - Senior Researcher CNR/ISTI, Via Moruzzi 1, 56124 Pisa, Italy (http:www.isti.cnr.it [1]) FM&&T Lab. (http://fmt.isti.cnr.it) CNR/GI-STS (http://gists.pi.cnr.it) https://www.isti.cnr.it/People/D.Latella - ph: +390506212982, mob: +39 348 8283101, fax: +390506212040 =================== The quest for a war-free world has a basic purpose: survival. But if in the process we learn how to achieve it by love rather than by fear, by kindness rather than compulsion; if in the process we learn how to combine the essential with the enjoyable, the expedient with the benevolent, the practical with the beautiful, this will be an extra incentive to embark on this great task. Above all, remember your humanity. -- Sir Joseph Rotblat Links: ------ [1] http://www.isti.cnr.it

June 24, 2021

Fwd: Building a 21st Century Congress: A Playbook for Modern Technology Assessment

by J.C. DE MARTIN

Non l'ho ancora letto, ma di primo acchito mi sembra interessante. jc -------- Forwarded Message -------- Subject: Building a 21st Century Congress: A Playbook for Modern Technology Assessment Date: Mon, 21 Jun 2021 12:39:37 -0600 From: Technology and Public Purpose Project <belfer_tapp(a)comms.hks.harvard.edu> Harvard Kennedy School To protect the lives and livelihoods of all Americans, the 117th Congress and the Biden Administration must prepare to take a deeper look at the social impacts of emerging technologies. Belfer Center for Science and International Affairs <https://click.comms.hks.harvard.edu/?qs=14266187ec534f3211dc5cee3d658728250…> The U.S. Capitol building with the sun rising in the background Building a 21st Century Congress: A Playbook for Modern Technology Assessment The next generation of technologies will be transformative. How those technologies – from artificial intelligence to synthetic biology tools – are developed, distributed, and managed will affect how societies reap their benefits and mitigate their costs. To protect the lives and livelihoods of all Americans, the 117th Congress and the Biden Administration must prepare to take a deeper look at the social impacts of emerging technologies, *Mike Miesen* and*Laura Manley* write in a new report, “Building a 21st Century Congress: A Playbook for Modern Technology Assessment <https://click.comms.hks.harvard.edu/?qs=14266187ec534f3264fc94a68f9bac6125f…>.” This deeper look, they write, must come from the discipline of technology assessment. Technology assessment is a powerful tool for surfacing the implications of critical or emerging technologies. The authors recommend that Congress and the Executive Office of the President (EOP) incorporate four “pillars” of effective technology assessment into their processes. Those pillars are strong governance; responsiveness to consumer needs; input from experts; and a presentation of policy options, not answers. For governance, the report recommends a permanent standing body capable of providing long-term guidance with short-term external advisory groups. Regarding consumer needs, technology assessments should “scratch real itches,” responding to needs of the end user or people directly impacted by the technology, Miesen and Manley write. Inputs on technology assessments should come from a broad range of expert sources, within and outside the government. Importantly, a technology assessment should present a range of options, not a single recommendation. “Technology assessment is a process, not an outcome; a set of tools, not a solution,” Miesen and Manley write. “With the start of a new Congress and a new presidential administration, now is the right time to refocus on technology assessment principles and recommit to the thorough analysis of critical and emerging technologies that is vital for crafting sound legislation, appropriating federal research and development dollars, and more.” Read the Report » <https://click.comms.hks.harvard.edu/?qs=14266187ec534f322089a18279ab23dee11…> Belfer Center for Science and International Affairs Harvard Kennedy School of Government 79 John F. Kennedy Street Cambridge, MA 02138 US <#> © 2021 The President and Fellows of Harvard College belfercenter.org <https://click.comms.hks.harvard.edu/?qs=14266187ec534f32cc33204ea0c415dea9a…> belfer_center(a)hks.harvard.edu <mailto:belfer_center@hks.harvard.edu?subject=> Facebook <https://click.comms.hks.harvard.edu/?qs=14266187ec534f32441e8ee5bc99cbd792e…> Twitter <https://click.comms.hks.harvard.edu/?qs=14266187ec534f323c270b20e203293fe09…> <https://click.comms.hks.harvard.edu/?qs=14266187ec534f32dd7e6423ede70ba86b5…> YouTube <https://click.comms.hks.harvard.edu/?qs=14266187ec534f3275c042c6a21cc6ec8a8…> Instagram <https://click.comms.hks.harvard.edu/?qs=14266187ec534f32882eb0ef12201a7df1e…> Privacy <https://click.comms.hks.harvard.edu/?qs=14266187ec534f32fd76374dfde299091b6…> Belfer Center for Science and International Affairs <https://click.comms.hks.harvard.edu/?qs=14266187ec534f3211dc5cee3d658728250…>

June 23, 2021