Tensorflow Alexnet-benchmark

Tensorflow™ Alexnet-benchmark

Attention: due to the newly amended License for Customer Use of Nvidia® GeForce® Sofware, the GPUs presented in the benchmark (GTX 1080, GTX 1080 TI) can not be used for training neural networks.(except blockchain processing). 

LeaderGPU® diensten gericht op het veranderen van de spelregels van de GPU-computermarkt. Kenmerkend voor LeaderGPU® is de verbazingwekkende snelheid van de berekeningen voor het Alexnet-model - 2,3 keer sneller dan in Google cloud en 2,2 keer sneller dan in AWS (gegevens worden gegeven voor 8x GTX 1080). De kosten voor het leasen van de GPU per minuut in LeaderGPU® beginnen bij 0,02 euro, wat 4,1 keer lager is dan in Google Cloud en 5,35 keer lager dan in AWS (per 7 juli 2017).

In dit artikel geven we testresultaten voor het Alexnet-model in diensten zoals LeaderGPU®, AWS en Google Cloud. U zult begrijpen waarom LeaderGPU® de voorkeur verdient voor alle GPU-rekenbehoeften.

Alle overwogen tests zijn uitgevoerd met python 3.5 en Tensorflow-gpu 1.2 op machines met GTX 1080, GTX 1080 TI en Tesla® P 100 met besturingssysteem CentOS 7 geïnstalleerd en CUDA® 8.0-bibliotheek.

De volgende commando's werden gebruikt om de test uit te voeren:

# git clone https://github.com/tensorflow/benchmarks.git

# python3.5 benchmarks/scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py --num_gpus=?(Number of cards on the server) --model alexnet --batch_size 32 (64, 128, 256, 512)

GTX 1080 instanties

De eerste tests van het Alexnet-model worden uitgevoerd met de instanties van de GTX 1080. De testomgevinggegevens (met batchgroottes 32, 64, 128, 256 en 512) staan hieronder:

Testomgeving:

• Instantietypen: ltbv17, ltbv13, ltbv16
• GPU: 2x GTX 1080, 4x GTX 1080, 8x GTX 1080
• OS: CentOS 7
• CUDA® / cuDNN: 8.0 / 5.1
• TensorFlow™ GitHub hash: b1e174e
• Benchmark GitHub hash: 9165a70
• Opdracht: # python3.5 benchmarks/scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py --num_gpus=2 (4,8) --model alexnet --batch_size 32 (optioneel 64, 128,256, 512)
• Model: Alexnet
• Datum van testen: juni 2017

De testresultaten worden weergegeven in de onderstaande grafiek:

GTX 1080TI instanties

De volgende stap is het testen van het Alexnet-model met de instanties van de GTX 1080TI. De testomgevinggegevens (met de batchgroottes 32, 64, 128, 256 en 512) staan hieronder:

• Instantietypes: ltbv21, ltbv18
• GPU: 2x GTX 1080TI, 4x GTX 1080TI
• OS: CentOS 7
• CUDA® / cuDNN: 8.0 / 5.1
• TensorFlow™ GitHub hash: b1e174e
• Benchmark GitHub hash: 9165a70
• Opdracht: # python3.5 benchmarks/scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py --num_gpus=2 (4) --model alexnet --batch_size 32 (optioneel 64, 128,256, 512)
• Model: Alexnet
• Datum van testen: juni 2017

De testresultaten worden weergegeven in de onderstaande grafiek:

Tesla® P100 instantie

Tot slot is het tijd om het Alexnet-model te testen met de Tesla® P100 instanties. De testomgeving (met batchgroottes 32, 64, 128, 256 en 512) ziet er als volgt uit:

• Instance type: ltbv20
• GPU: 2x NVIDIA® Tesla® P100
• OS: CentOS 7
• CUDA® / cuDNN: 8.0 / 5.1
• TensorFlow™ GitHub hash: b1e174e
• Benchmark GitHub hash: 9165a70
• Opdracht: # python3.5 benchmarks/scripts/tf_cnn_benchmarks/tf_cnn_benchmarks.py --num_gpus=2 --model alexnet --batch_size 32 (optioneel 64, 128, 256, 512)
• Model: Alexnet
• Datum van testen: juni 2017

De testresultaten worden weergegeven in de onderstaande grafiek:

Vergelijkbare Alexnet-tests in Google cloud en AWS lieten de volgende resultaten zien:

* De verstrekte gegevens zijn afkomstig van de volgende bronnen:

https://www.tensorflow.org/performance/benchmarks#details_for_google_compute_engine_nvidia_tesla_k80 https://www.tensorflow.org/performance/benchmarks#details_for_amazon_ec2_nvidia_tesla_k80

Laten we nu de kosten en verwerkingstijd berekenen van 1.000.000 afbeeldingen op elke machine van LeaderGPU®, AWS en Google. De berekening is gemaakt op basis van de hoogste uitkomst van elke machine.

** De Google cloudservice biedt geen betaalplannen per minuut. De kostenberekeningen per minuut zijn gebaseerd op de uurprijs ($ 5,645).

Zoals kan worden geconcludeerd uit de tabel, heeft de beeldverwerkingssnelheid in het VGG16-model de hoogste uitkomst op 8x GTX 1080 van LeaderGPU®, terwijl:

• De initiële leasekosten bij LeaderGPU® beginnen al bij € 1,92, wat ongeveer 2,5 keer lager is dan bij de instances van 8x Tesla® K80 van Google Cloud, en ongeveer 3,6 keer lager dan bij instances van 8x Tesla® K80 van Google AWS;
• de verwerkingstijd was 38 minuten 53 seconden, wat 1,8 keer sneller is dan bij de instances van 8x Tesla® K80 van Google Cloud, en 1,7 keer sneller dan bij de instances van 8x Tesla® K80 van Google AWS.

Op basis van deze feiten kan worden geconcludeerd dat LeaderGPU® veel rendabeler is dan zijn concurrenten. LeaderGPU® maakt het mogelijk om maximale snelheid te bereiken tegen optimale prijzen. Huur vandaag nog de beste GPU met flexibele prijskaartjes bij LeaderGPU®!

LEGAL WARNING:

PLEASE READ THE LICENSE FOR CUSTOMER USE OF NVIDIA® GEFORCE® SOFTWARE CAREFULLY BEFORE AGREEING TO IT, AND MAKE SURE YOU USE THE SOFTWARE IN ACCORDANCE WITH THE LICENSE, THE MOST IMPORTANT PROVISION IN THIS RESPECT BEING THE FOLLOWING LIMITATION OF USE OF THE SOFTWARE IN DATACENTERS:

«No Datacenter Deployment. The SOFTWARE is not licensed for datacenter deployment, except that blockchain processing in a datacenter is permitted.»

BY AGREEING TO THE LICENSE AND DOWNLOADING THE SOFTWARE YOU GUARANTEE THAT YOU WILL MAKE CORRECT USE OF THE SOFTWARE AND YOU AGREE TO INDEMNIFY AND HOLD US HARMLESS FROM ANY CLAIMS, DAMAGES OR LOSSES RESULTING FROM ANY INCORRECT USE OF THE SOFTWARE BY YOU.