Introduction to NVIDIA GPUs in Azure

//build/ 2016 から。スライドないのでキャプチャな感じ。

最初はMSのVisionから。Azureインフラとしてグラフィックスや計算能力をもっと活かしたものを提供したい、
ハイパフォーマンスで十徳ナイフみたいなのじゃなくエッジのきいたものを。クラウド上のHPCを、NVIDIAと一緒にという感じでしょうか。
image

主な想定用途的な。
imageimageimageimage

よくある話ですね。
テクノロジーとしては

  • DDA (Discrete Device Assignment)
    • Windows Server 2016のHyper-V上の仮想マシンにPCIExpressデバイスをパススルーする機能
  • あたりを使ってベアメタル並みのパフォーマンスを

という感じ。
image

アーキテクチャはHost OSにGPU刺してDDAでパススルー、仮想マシンに提供という感じ。
GPUはクライアント向け(グラフィックス機能)にはNVIDIA M60、コンピュート向けはNVIDIA K80 を使用。
image

クライアント(Visualization)向けはこんな感じのSKUです。NV6、NV12、NV24などコア数などで分かれてます。
image

デモはAzure上のVirtual Machineでベンチマーク動かして結構ぬるぬる動いてるところ。
パフォーマンスカウンタはGPU使用率です。
image

次はAdobe Premium Pro CCでのレンダリングデモ。
image

振り返りとしては3Dグラフィックスなアプリケーションとかで使えますと。
image

image

他にも業務用の3Dデータで衝突シミュレーションしたりするアプリ。
image
image
image

結構複雑な構造のデータをぐりぐり描画してGPU使用率が50%ぐらい。
このアプリ、OpenGLで動いています。
image

RDP越しでもOpenGLなアプリでも快適に利用できますと。
image

次はコンピュートなSKUです。こちらはNC6、NC12、NC24、NC24rという感じ。NC24rはネットワークにRDMAも使えますね。
image

image

デモはCNTK使った学習アプリです。最初はCPUだけで。
image

次はGPUを使ってCUDA。かなり早い。
image

このデモではK80が4つ載ってました。
image

パフォーマンスはまぁある程度リニアですね。
image

image

image

というわけで将来的な(たぶん)N-SeriseやWindows Server 2016のHyper-V+DDAのデモでした。
image

まとめ

早く使えるようになってほしいですね(世界的なGPU不足が懸念されますが…)

コメントを残す

以下に詳細を記入するか、アイコンをクリックしてログインしてください。

WordPress.com ロゴ

WordPress.com アカウントを使ってコメントしています。 ログアウト / 変更 )

Twitter 画像

Twitter アカウントを使ってコメントしています。 ログアウト / 変更 )

Facebook の写真

Facebook アカウントを使ってコメントしています。 ログアウト / 変更 )

Google+ フォト

Google+ アカウントを使ってコメントしています。 ログアウト / 変更 )

%s と連携中