Buongiorno, grazie Maurizio della "provocazione". maurizio lana <maurizio.lana@uniupo.it> writes:
un caso limite su cui sto ragionando in queste settimane anche per gli stimoli che vengono dagli scambi sul tema dell'(etica dell')IA è questo, che riassumo in breve: per agire eticamente occorre essere informati, occorre conoscere e poi occorre valutare come usare la conoscenza. ma a volte si deve agire contro la conoscenza posseduta.
direi che più che "agire contro la conoscenza posseduta" occorre "agire in scienza e coscienza"... ma è mica come dirlo, purtroppo in altre parole per agire eticamente occorre saper applicare la /ragione/, kantianamente (Kant sulla ragione ci ha scritto tre saggi IMO difficili, roba tosta). [...]
(qui sono andati contro Kant, perché non credo che pensassero che disobbedire alle regole e ignorare la conoscenza dovessero diventare leggi universali)
non credo che negli esempi dati le persona abbiano (tecnicamente) /ignorato/ la conoscenza, credo piuttosto che avessero _più_ conoscenza rispetto ai sistemi di allerta che avevano a disposizione (conoscevano - intuivano? - le possibilità di errore dei sistemi) e hanno agito di conseguenza, come esseri dotati di _ragione_ (che notoriamente _manca_ alle macchine). per favore (intel)leggiamo quello che è successo nei due casi... "caso Slemon": --8<---------------cut here---------------start------------->8--- After the situation was explained, Slemon asked where Khrushchev was at that moment. Hull replied that he was in New York City attending the United Nations. Slemon considered it extremely unlikely that an attack would take place that would likely kill Khrushchev, and asked Hull if there were any intelligence indications that such an attack was being prepared. Hull answered no [...] After much confusion, it was discovered that the radar was detecting the rising Moon. On further exploration, it was found that the computer program that reported distances was dropping digits, so only the remainder of the digits were being displayed, leaving what appeared to be a credible measurement.[3] --8<---------------cut here---------------end--------------->8--- (https://en.wikipedia.org/wiki/Roy_Slemon) molto intelligente, signor Slemon! "caso Petrov": --8<---------------cut here---------------start------------->8--- Petrov considered the detection a computer error, since a first-strike nuclear attack by the United States was likely to involve hundreds of simultaneous missile launches in order to disable any Soviet means of a counterattack. Furthermore, the satellite system's reliability had been questioned in the past.[12] [...] It was subsequently determined that the false alarms were caused by a rare alignment of sunlight on high-altitude clouds and the satellites' Molniya orbits,[14] an error later corrected by cross-referencing a geostationary satellite.[15] In explaining the factors leading to his decision, Petrov cited his belief and training that any U.S. first strike would be massive, so five missiles seemed an illogical start.[11] In addition, the launch detection system was new and in his view not yet wholly trustworthy, while ground radar had failed to pick up corroborative evidence even after several minutes of the false alarm.[12] --8<---------------cut here---------------end--------------->8--- molto intelligente, signor Petrov! in entrambi i casi i due militari sono stati abbastanza _intelligenti_ da comprendere che gli strumenti SPARAVANO STRONZATE; _tecnicamente_ si trattava di errori piuttosto BANALI, ma errori banali inseriti in un sistema complesso - immutabile?!?! - progettato ad-minchiam diventano stronzate... ...e purtroppo di stronzate si muore fin troppo. in altre parole, disobbedire alle regole che sono /ragionevolmente/ _ingiuste_ è un Imperativo Categorico, _specialmente_ se queste regole sono codificate in un /programma/ e/o in un ALGORITMO! :-O non esiste proprio in filosofia morale la giustificazione "obbedivo a un ordine", con variante "era pure codificato in un algoritmo"! Non esiste manco nelle "regole della guerra", infatti esistono i "crimini di guerra" e _non_ contemplano lo "eseguivo gli ordini". ...e non esiste proprio in informatica il /contrario/: un computer può solo ESEGUIRE un ordine, ovvero un programma. Non esiste proprio in informatica un computer che grazie a un programma _ragiona_ in merito a un altro computer che esegue un programma. Punto. (Se volete, è l'Imperativo Categorico Informatico). banale eh? :-D saluti, 380° [...] -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.