Sostenibilità di blockchain e LLM

Nell’era della digitalizzazione, due tecnologie emergenti, i modelli di intelligenza artificiale come i modelli LLM e le blockchain Proof of Work (PoW), si trovano al centro di un cruciale dilemma etico legato alla sostenibilità e alla poca trasparenza sull’impronta di carbonio generata.

Quanto consumano i sistemi LLM

La quantità esatta di risorse di calcolo richieste per eseguire modelli LLM come GPT-4, un modello di intelligenza artificiale sviluppato da OpenAI, non è pubblicamente divulgata in dettaglio. Si possono fare alcune considerazioni generali sulla base delle informazioni disponibili sui modelli di apprendimento di grandi dimensioni, come GPT-4.

1. Dimensione del Modello: GPT-4 è un modello di intelligenza artificiale molto grande, con una capacità di elaborazione di 175 miliardi di parametri. Questo implica che richiede una notevole quantità di potenza di calcolo per il training e l’esecuzione.
2. Training del Modello: Il processo di training di modelli come GPT-4 richiede di solito array di GPU (Graphics Processing Units) o TPU (Tensor Processing Units) ad alte prestazioni. Queste unità sono necessarie per gestire enormi set di dati e complesse reti neurali. Il training di un modello di queste dimensioni può richiedere settimane o mesi su migliaia di GPU/TPU.
3. Esecuzione e Inferenza: Una volta addestrato, il modello richiede ancora risorse significative per eseguire inferenze, cioè per rispondere a richieste o compiti specifici. L’esecuzione è generalmente meno intensiva rispetto al training, ma richiede comunque hardware di calcolo ad alte prestazioni, soprattutto per gestire molteplici richieste contemporaneamente.
4. Ottimizzazione del Modello: OpenAI lavora costantemente per ottimizzare l’efficienza dei suoi modelli. Ciò significa che, anche se il modello è grande, gli sviluppatori cercano modi per ridurre il carico computazionale senza compromettere le prestazioni.
5. Distribuzione su Cloud: GPT-4 è spesso eseguito su piattaforme cloud, che permettono una distribuzione scalabile e l’accesso a risorse di calcolo potenti e flessibili.

I dettagli specifici della potenza di calcolo richiesta da GPT-4 non sono pubblici ed è chiaro che il modello dipende da hardware di calcolo ad alte prestazioni sia per il suo training che per l’esecuzione.

Le specifiche tecniche esatte riguardanti l’hardware utilizzato per GPT-4 da OpenAI non sono state rilasciate pubblicamente. Il report tecnico si astiene dal specificare le dimensioni del modello, l’architettura o l’hardware utilizzato sia durante l’addestramento sia durante l’inferenza. Tuttavia, è stato affermato che il costo di addestramento di GPT-4 è stato superiore a 100 milioni di dollari​. (Wikipedia)

Per quanto riguarda le esigenze hardware per modelli di AI di grandi dimensioni come GPT-4, vi sono alcune indicazioni generali. GPT-4 è passato da un modello di linguaggio a un modello multimodale, il che implica una maggiore necessità di potenza di calcolo e moduli aggiuntivi per la codifica e la decodifica di video e audio. In termini di difficoltà, il video richiede la maggiore potenza di calcolo e complessità IP, seguito dall’audio. Questo ha portato a un aumento dell’uso di GPU e supporto periferico per la codifica e la decodifica IP, come i moduli VPU​. (Digi-electric Pro)

Per creare e mantenere l’enorme database di dati di analisi AI necessari per ChatGPT, OpenAI ha utilizzato circa 10.000 GPU Nvidia per la formazione correlata. Per supportare le applicazioni pratiche e soddisfare i requisiti dei server, OpenAI ha già utilizzato circa 25.000 GPU Nvidia e si prevede che questo numero aumenterà in futuro con l’aumento della domanda​​ (Digi-eletric Pro)

Quanto consuma la Blockchain

Anche le blockchain sono all’antitesi della sostenibilità. Le blockchain che utilizzano il meccanismo di consenso Proof of Work (PoW) sono tra le più energivore nell’ambito delle tecnologie blockchain. Ecco le principali aree in cui le blockchain PoW consumano energia:

1. Mining: Nelle blockchain PoW, il processo di mining è la principale fonte di consumo energetico. I miner utilizzano hardware specializzato (come GPU o ASIC) per risolvere complessi problemi matematici al fine di validare nuove transazioni e creare nuovi blocchi. Questo processo richiede una grande quantità di potenza di calcolo e, di conseguenza, un significativo consumo di energia elettrica.
2. Raffreddamento e Infrastruttura: Per mantenere l’hardware di mining in funzione continua e prevenire il surriscaldamento, sono necessari sistemi di raffreddamento efficienti. Questi sistemi di raffreddamento ulteriormente incrementano il consumo energetico. Inoltre, l’infrastruttura di supporto per il mining, come i data center, consuma energia aggiuntiva.
3. Rete Globale: La natura decentralizzata delle blockchain PoW significa che il mining avviene in molte località in tutto il mondo. Questa vasta rete di miner aumenta ulteriormente il consumo complessivo di energia.
4. Produzione Hardware: Sebbene non sia un consumo diretto di energia della blockchain, la produzione di hardware di mining richiede energia. Questo include la fabbricazione di GPU, ASIC e altri componenti necessari per il mining.

Secondo alcune stime, il consumo energetico annuale di Bitcoin è paragonabile a quello di interi paesi. Questo alto consumo è dovuto principalmente all’intensa attività di mining e alla natura sempre più competitiva del processo di mining, che richiede hardware sempre più potente e maggiori quantità di energia elettrica. (The New York Times)

Dilemma etico

L’adozione di tecnologie avanzate come i modelli di intelligenza artificiale Generative Pre-trained Transformer (GPT) e le blockchain Proof of Work (PoW) solleva un importante dilemma etico per le organizzazioni che perseguono obiettivi di sostenibilità. Da una parte, queste tecnologie offrono vantaggi significativi in termini di innovazione, efficienza e sicurezza; d’altra parte, il loro elevato consumo energetico e l’impatto ambientale associato pongono in questione l’allineamento con pratiche sostenibili e responsabili.

Un aspetto fondamentale del dilemma etico riguardante l’uso di tecnologie è la mancanza di trasparenza sul loro impatto in termini di emissioni di CO2. Le organizzazioni impegnate in pratiche etiche si orientano sempre più verso partner e fornitori che non solo adottano tecnologie innovative, ma che sono anche apertamente trasparenti riguardo al loro impatto ambientale. Questa tendenza riflette una crescente consapevolezza che la responsabilità ambientale va oltre la semplice riduzione del consumo energetico; richiede una comunicazione aperta e onesta sull’impronta di carbonio generata, permettendo alle aziende e ai consumatori di prendere decisioni informate e responsabili. In questo contesto, la trasparenza diventa un valore chiave, influenzando la reputazione e la credibilità delle aziende nell’era della sostenibilità.

Le organizzazioni si trovano così a bilanciare il desiderio di sfruttare queste potenti tecnologie con la necessità di adottare pratiche etiche e sostenibili, affrontando la sfida di integrare l’innovazione tecnologica con l’impegno per la riduzione dell’impronta di carbonio e la tutela dell’ambiente. Questo dilemma etico non solo evidenzia una tensione tra progresso tecnologico e responsabilità ambientale, ma stimola anche una riflessione critica sull’evoluzione responsabile delle tecnologie emergenti.