Buongiorno, mi sono sempre chiesto /se/, essendo «poorly explainable» (assimilabili a codice binario o solo troppo complessi?), i modelli di machine learning non fossero un vettore di infezione ideale. «EvilModel: Hiding Malware Inside of Neural Network Models» Submitted on 19 Jul 2021 (v1), last revised 5 Aug 2021 (this version, v4) --8<---------------cut here---------------start------------->8--- Abstract: Delivering malware covertly and evasively is critical to advanced malware campaigns. In this paper, we present a new method to covertly and evasively deliver malware through a neural network model. Neural network models are poorly explainable and have a good generalization ability. By embedding malware in neurons, the malware can be delivered covertly, with minor or no impact on the performance of neural network. Meanwhile, because the structure of the neural network model remains unchanged, it can pass the security scan of antivirus engines. Experiments show that 36.9MB of malware can be embedded in a 178MB-AlexNet model within 1% accuracy loss, and no suspicion is raised by anti-virus engines in VirusTotal, which verifies the feasibility of this method. With the widespread application of artificial intelligence, utilizing neural networks for attacks becomes a forwarding trend. We hope this work can provide a reference scenario for the defense on neural network-assisted attacks. --8<---------------cut here---------------end--------------->8--- Non ho letto il paper, solo l'abstract, e capisco perché un semplice antivirus (porello) non è in grado di distinguere il virus dagli altri neuroni; una possibile soluzione non potrebbe essere quella di fornire anche un hash (chessò un sha512) che garantisca che il modello non sia stato alterato? Oltre questo, non /dovrebbe/ comunque essere messa a disposizione tutta la catena di build e gli input per poter riprodurre il modello bit-per-bit, ala "reproducible build"? Oltre a questo, l'intero sistema generato con tecniche ML non dovrebbe essere completamente bootstrappable? Esagero? Saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.