最近の話題 2018年9月8日

１．NVIDIAのNVSwitch

　　書くことが無くなって，今回はアップデートなしでの発行かと思ったのですが，それでは見て下さる皆様にお愛想がないので，マイナビの記事の先取りで，NVSwitchについて書きます。

　　NVIDIAはVolta GPUでNVLinkというGPU間リンクを開発しました。当初はCPUとGPUを接続するという考えが強かったようですが，NVSwitchを開発して作った16GPUのDGX-2サーバを見ると，CPUとも繋がればよいが，GPUだけを接続してもメリットは大きいという考えに傾いているのではないかという気がします。

　　NVSwitchは18ポートのNVLinkのスイッチで，18ポートの合計では928GB/sというバンド幅を持ち，キャッシュコヒーレントなネットワークですから，16個のGPUのHBM2メモリを一つにまとめて，16GPU共通にアクセスできるメモリとする能力をもっています。メモリ容量は512GBですから，サーバとしても相当なメモリ量です。

　　従って，CPUはマネジメントとノード間のMPI通信などを行うと割り切って，アプリケーションの実行をGPUクラスタに任せてしまえば，共通メモリですからGPUごとのメモリに仕事を切り分け，結果をGPUのメモリ間で転送することも必要なくなります。アプリケーション開発にとってこれはかなりハッピーな環境ではないかと思います。

　　Hot Chips 30での発表の中に，科学技術計算ではMILCとECWMFの気象モデルのベンチマークの性能比較が載っていますが，NVSwitchが無く2台のDGX-1をInfiniBandで繋いだシステムとDGX-2を比較すると，MILCでは2倍，気象計算では2.4倍の性能となっています。また，AIの計算のリコメンデーションの場合は2倍，言語モデルの計算の場合は2.7倍の性能となっています。

　　2つのシステムはV100 GPUの数やHBM2のメモリ容量は同じで，違いはNVSwitchを追加して，ネットワークのバンド幅を増し，キャッシュコヒーレントな単一メモリとして見せられるようにしたことです。正確には，DGX-1発売時のHBM容量は半分のサイズですが，現在は，同じ容量も物もあります。

　　なお，2016年のDGX-1の発売時の価格は$129,000で，2台なら$258,000です。これに対して今年3月のDGX-2の発表時の価格は$399,000で，単純計算では1.55倍ですから，2倍～2.7倍の性能向上が得られればかなり割安です。

2．Rigettiが量子コンピュータのクラウドサービスを発表

　　更新の直前に一つニュースが飛び込んできました。2018年9月7日のHPC Wireが，Rigetti ComputingがRigetti Quantum Computing Cloud（QCS)を発表したと報じています。クラウド経由で，同社のQuantum Computing環境を利用して量子計算アプリを開発できるとのことです。

　　そして，QCSを使って，最初の"Quantum Advantage"（通常のコンピュータでは解けない問題を解くこと）を実現した人に$1Mの賞金を出すと発表しました。なお，今年はQCSを使えるのは現在のパートナーだけですが，2019年にはより広範なユーザに使ってもらえるようになるとのことです。

　　なお，Rigettiは，先月に12か月以内に128Qubitの量子コンピュータを作ると発表しており，これができるとIBMやGoogleの量子コンピュータを超えて，最大のQubit数を持つコンピュータになります。