Buona settimana e grazie per le interessanti risposte!
Devo esordire riconosco che nel mio testo eccedo di corporate-complotto.
Fare una connessione tra un'ipotesi tutta da verificare, un licenziamento, e unirla facendo intendere che "google non lo vuole", è un'approssimazione che viene poco prima del cappello di carta stagnola.
I loro team sono composti da persone che fanno il meglio che possono per migliorare la situazione, e lo fanno con passione, competenze e risorse uniche al mondo, e supporto interno.
A leggere attentamente quello che la Gebru et al. hanno scritto e che ha provocato la reazione di Google, a mio parere si evince che la preoccupazione non sia tanto legata all'inquinamento prodotto dall'addestramento delle Deep Neural Network (DNN), ma al fatto che un certo tipo di reti (miliardi di parametri e addestramento non supervisionato su petabyte di dati, es. GPT-3) sia di fatto appannaggio esclusivo dei Big Tech (detti pudicamente 'wealthy organizations') e rafforzino il loro monopolio e il loro potere.
Erano proprio connesse le due cose:
Gebru’s draft paper points out that the sheer resources required to build and sustain such large AI models means they tend to benefit wealthy organizations, while climate change hits marginalized communities hardest. “It is past time for researchers to prioritize energy efficiency and cost to reduce negative environmental impact and inequitable access to resources,” they write.
Vero è che produrre modelli (stime dei parametri) per questo tipo di reti richiede molta energia, ma pensiamoci: se questa fosse prodotta da fonti rinnovabili saremmo a nostro agio col fatto che solo OpenAI (si legga: Microsoft) può usare GPT-3? Io no, per dire.
No infatti i problemi sono 2, interconnessi... il fatto che non abbiamo agenda è per me il più grave. il fatto che c'è un certo impatto energetico fare un'AI sembrerebbe migliore di altre, è
Quanto alle DNN in genere, addestrarne una può essere una questione di ore o di giorni, ma tendenzialmente si tratta di operazioni 'una tantum': cambiare frequentemente questi modelli sarebbe un bel problema per il ciclo di vita delle applicazioni.
Ma è questo cambio frequente quello che la renderebbe più fair, stando a:
An AI model taught to view racist language as normal is obviously bad. The researchers, though, point out a couple of more subtle problems. One is that shifts in language play an important role in social change; the MeToo and Black Lives Matter movements, for example, have tried to establish a new anti-sexist and anti-racist vocabulary. An AI model trained on vast swaths of the internet won’t be attuned to the nuances of this vocabulary and won’t produce or interpret language in line with these new cultural norms.
Non sappiamo ancora fare un'analisi accurata del rapporto costi\benefici (la ricerca è solo agli inizi), ma credo sia plausibile attendersi che, sotto il profilo energetico, non ci sia una specificità così marcata dell'AI rispetto - che so - allo streaming.
Non so fare le dovute proporzioni, ma la computazione dovrebbe essere un consumo maggiore del trasporto. In entrambi i casi comunque si possono operare ottimizzazioni, ma al momento non sono discusse per il loro impatto ambientale
Il rischio che va evitato, a mio avviso, è quello di abbaiare sotto l'albero sbagliato. Poi può essere che sia io a sbagliare, ma parliamone.
figurati, in prospettiva è chiaro che l'impatto dell'AI è una frazione delle altre industrie, era semplicemente la connessione che mi aveva sorpreso
https://codecarbon.io
L’impostazione concettuale mi pare seria. Qualcuno lo conosce, lo ha
utilizzato o ha intenzione di farlo?
Molto originale, grazie!
Il giorno mer 9 dic 2020 alle ore 23:57 Giacomo Tesio
Non tanto perché dimostra come questi ricercatori vengano sbattuti
fuori nonappena provano a assumere posizioni scomode, ma perché
l'efficacia e la risonanza politica delle loro ricerche esplode
proprio grazie alla prepotenza di chi cerca di (anonimamente!!!)
insabbiarle.
Non so, mi rivedrei su di un link diretto tra "il paper" -> "il licenziamento". mi pare sia più un "il paper" -> "il rifiuto apparentemente ingiustificato forse sostenuto da problemi pregressi" -> "escalation rapida ed esplosiva".
un caro saluto,
C