Benchmarking di VPU e GPU per carichi di lavoro multimediali

Akamai Cloud ha recentemente introdotto il supporto delle unità di elaborazione video (VPU) T1U Quadra di NETINT, rendendo queste potenti schede disponibili a una tariffa oraria per l'implementazione di macchine virtuali cloud. Queste si aggiungono alle GPUNVIDIA RTX™ 4000 Ada Generation già offerte nel portafoglio di Akamai Cloud. 

Per valutare le prestazioni e l'efficienza energetica del mondo reale, abbiamo collaborato con Cires21, un'azienda pioniera nel settore dello streaming dal 2008. Utilizzando il loro C21 Live Encoder, ottimizzato per le architetture NETINT e NVIDIA , abbiamo effettuato benchmark di VPU e GPU su carichi di lavoro multimediali impegnativi, utilizzando come oggetto di prova alcuni dei video più difficili da elaborare. 

Abbiamo scoperto che negli scenari più impegnativi, le VPU hanno un'efficienza energetica 4,7 volte superiore a quella delle GPU e, in alcuni scenari, hanno persino superato le schede NVIDIA . Le GPU hanno brillato in alcuni test, ma hanno sempre consumato più energia delle VPU. 

Se siete un'azienda che sta pianificando le emissioni Scope 3 per l'anno prossimo, o se state semplicemente lottando con i requisiti energetici nel panorama dell'AI di oggi, le VPU dovrebbero essere in cima alla vostra lista di test. Per saperne di più sull'utilizzo delle VPU , cliccate qui. 

Impostazione del benchmarking

Abbiamo eseguito ogni test nella stessa regione di Akamai Cloud (Francoforte) utilizzando le seguenti configurazioni: 

• Una singola GPU istanza con NVIDIA RTX4000 Ada x1 Small plan
• Una singola VPU con il piano NETINT Quadra T1U x1 Small
• Entrambe le istanze hanno eseguito container Docker ottimizzati per C21 Live Encoder: una con CUDAGPU) e l'altra con Libxcoder (VPU).

Sono stati eseguiti test sulle schede per misurare le parti di codifica e decodifica di un tipico flusso di lavoro multimediale che utilizza il codec H.264/AVC. 

Nella tabella sottostante, si può notare che è stato generato un ladder con bitrate adattivo (ABR) con uscita simultanea a 1080p, 720p, 576p, 432p e 360p, tutti a 60 fotogrammi al secondo in modo 1:N dall'ingresso. L'etichetta "Max Jobs" nella tabella indica il massimo numero di transcodifiche simultanee che ciascuna implementazione del codificatore può eseguire in tempo reale. Il test ha utilizzato un video grezzo di 6 minuti a risoluzione 1080p. Il carico di lavoro di codifica ha quindi elaborato questo video e lo ha ricodificato nello stesso formato, H.264/AVC, dell'output di destinazione.

Tabella riassuntiva: Capacità di lavoro di transcodifica per risoluzione

Come si può vedere dai dati sopra riportati, anche quando la GPU ha fornito una capacità di lavoro superiore a risoluzioni inferiori, lo ha fatto con un consumo energetico significativamente maggiore. Le VPU hanno offerto prestazioni energetiche migliori a quasi tutte le risoluzioni, soprattutto nei carichi di lavoro ad alta velocità e ad alta risoluzione. 

Nella tabella seguente, abbiamo stimato il consumo energetico per 1.000 flussi simultanei in funzione ininterrottamente per un anno (utilizzando 8.760 ore in un anno).

Tabella: Utilizzo di energia per 1.000 flussi per 1 anno

Per tutte le organizzazioni che desiderano ridurre le emissioni della propria supply chain o addirittura aumentare il proprio throughput in determinati scenari di carico di lavoro, le VPU NETINT rappresentano un'ottima soluzione e sono disponibili su base oraria da Akamai, a seconda delle necessità. 

Punteggi della valutazione multimetodo video (VMAF)

Naturalmente, una minore potenza e un maggiore throughput non sono nulla se si sacrifica la qualità. I punteggi VMAF riportati di seguito mostrano che le VPU fanno un ottimo lavoro anche in questo caso.

Per convalidare l'accuratezza dell'output, abbiamo eseguito test VMAP su tutti gli output. 

Nel grafico qui sopra, i risultati dei nostri test mostrano i punteggi VMAF per la codifica video ad alta efficienza (HEVC) prodotta da NETINT Libxcoder e NVIDIA Encoder. Ogni punteggio è riportato a una specifica risoluzione di uscita, con il corrispondente bitrate elencato tra parentesi. Questi punteggi forniscono una misura oggettiva della qualità video, consentendoci di confrontare la capacità di ciascun codificatore di preservare la fedeltà visiva attraverso diverse impostazioni di codifica.

Nel prossimo grafico (in alto), i risultati dei nostri test mostrano i punteggi AV1 VMAF per NETINT Libxcoder e NVIDIA Encoder a ogni risoluzione di uscita, con i bitrate corrispondenti indicati tra parentesi. Questi punteggi indicano l'efficacia con cui ciascun encoder mantiene la qualità visiva quando comprime video utilizzando il codec AV1, evidenziando le differenze di efficienza e i compromessi di qualità tra le varie risoluzioni.

Disponibile ora in Akamai Cloud

Grazie all'ottimizzazione della pipeline di elaborazione di NETINT, le VPU sono in grado di fare di più con meno. Con un consumo di picco di 13 watt, le VPU NETINT Quadra T1U dimostrano che è possibile scalare in modo efficiente i carichi di lavoro multimediali senza compromettere le prestazioni e la qualità. 

La migrazione dalla codifica video GPU a quella basata su VPU per 1.000 flussi 1080p all'anno potrebbe ridurre il consumo energetico annuale da 32 MWh a soli 5,5 MWh, con un risparmio di 26,5 MWh. Ciò si traduce in un risparmio energetico annuale di circa l'80% e in una riduzione di circa 12,6 tonnellate di emissioni di CO₂ all'anno, ipotizzando un fattore di emissione medio globale. 

Se volete provare queste schede NETINT VPU, sono disponibili oggi in Akamai Cloud a una tariffa oraria. 

Distribuite le VPU NETINT o le GPU NVIDIA su richiesta con il nostro piano di calcolo accelerato o utilizzate il C21 Live Encoder di Cires21 per semplificare la configurazione e massimizzare l'efficienza dell'infrastruttura di GPU e VPU.