最近の話題 2019年2月9日

１．AppleがCell Phoneモデムを自社開発か？

　　2019年２月7日のEE Timesが，AppleがSandiegoに500人以上の規模の設計事務所を開設し，数10人のCell Phoneモデムの設計エンジニアの求人広告を出したと報じています。

　　Sandiegoは3GのCDMAを作り上げたCell PhoneモデムのトップメーカーのQualcommの本拠地で，Qualcommに対抗するIntelやHuawei，MediaTekもモデムの開発拠点を置いています。ということで，モデムエンジニアの人口が多い地域で，設計者を集めやすいと考えられます。

　　QualcommはCell Phoneモデムの基本技術の特許を2万件以上保持しており，技術開発にもお金をかけて特許を充実させており，Appleがそれらの特許を掻い潜ってモデムを開発し，iPhoneに入れて販売するのは，少なくとも3年は掛かるとEE Timesは書いています。

２．IBMがAIハードウェアの1000倍の性能向上に$2Bを投入

　　2019年２月7日のHPC Wireが，IBMのAIハードウェアの1000倍の性能向上を目指すプロジェクトについて報じています。

　　現在のAIは狭い範囲の問題には力を発揮するが，問題の範囲が広くなるとハードウェアに要求される性能が高くなり，あまりうまく行かない。そこで，IBMは，次の10年間にAIハードウェアの性能を1000倍に引き上げる計画であるとのことです。

　　性能を大きく引き上げる方法としては，精度を低下させた計算を行うことと，アナログ演算を使うことであると述べています。更に，ニューロンの各入力の重みを不揮発メモリに記憶させてインメモリでの計算を行うなどの方法を考えているようです。

　　この開発には，研究と製造にSamsung，高性能インタコネクトではMellanox，ソフト開発やエミュレーション，チップ設計などにはSynopsis，半導体製造装置ではAmatや東京エレクトロンなどと協力すると書かれています。開発拠点はニューヨーク州のSUNY Polytechnic Instituteに置き，近くのRenseller Polytechnicの協力も得るとのことです。

　　記事に掲載されているロードマップの図によると，第1段階はアナログのクロスポイントアレイを開発し，第2段階で不揮発性の物質を使って重みの記憶とクロスポイントが一体になった形のものにするという絵が載っています。

３．ETH Zurichの研究者がDeep500のベンチマークを発表

　　2019年２月5日のHPC Wireが，ETH ZurichのポスドクのTal Ben-Nun氏とTorsten Hoefler教授のDeep500のベンチマーク環境の発表を報じています。論文は，https://arxiv.org/pdf/1901.10183.pdf に公開されています。

　　ディープラーニングの性能を比較するのは簡単ではありません。同じフレームワークを使っても計算精度や収束のためのパラメタを変えても計算時間は変わってきます。正解率は高いほうが良いのは当然ですが，正解率と計算時間のトレードオフはどう考えるべきかなど，Top500の計算性能のランキングとは比べ物にならないほど複雑です。

　　著者等は，昨年11月のSC18でDeep500のBoFを開催し，私もBoFに参加したのですが，議論百出でなかなかまとまりそうもないという印象でしたので，今回，案が出てきたのは大きな進歩です。

　　Deep500のアプローチは，Operators，Network processing，Training，Distributing trainingという４つのレベルに分かれていて，それぞれがカストマイズできるという構造になっているのが大きな特徴です。従って，どこかのレベルだけを変えて，それが性能や精度に与える影響を評価できます。

　　この論文のタイトルは，A Modular Benchmarking Infrastructure for High-Performance and Reproducible Deep Learningとなっていて，研究には役立ちそうですが，Top500のようにスパコンのランキングを行うためのものではなく，Deep500でランキングをどうするのかは分かりません。

　　今年6月のISC19のBoFで議論して，早ければ，11月のSC19でDeep500の最初の版を発表するという目論見だそうです。