最近の話題 2017年9月30日
１．Intel研究所が自己学習するニューラルチップを開発
2017年9月25日に，Intel LabsはLoihiチップという自己学習型のニューラルチップを発表しました。Loihiチップのニューロンは，本物のニューロンのように，スパイク（パルス）の頻度で情報を伝える方式です。
Loihiという名前は，ハワイの南にある海底火山から名づけられているとのことです。
現在使われているニューラルネットワークでは，入力を入れて出力を計算し，出力の誤差を小さくするように各入力の重みの補正量を計算してフィードバックを掛けるという方法で学習を行っていますが，Loihiチップは，推論を行っている最中にもローカルにフィードバックを掛けながら学習していくとのことです。例えば，心電図の情報を与えていると，正常時の波形を認識するネットワークが形成され，それ以外の異常な波形が出ると検出することができるように学習ができると説明されています。
現在の学習に使われている勾配降下法は多変量のパラメタの最適化のやり方としては確立した方法ですが，Loihiのようにローカルなフィードバックで最適化をするのには，どのようにするのでしょうか？
しかし，人間の脳が勾配降下法で学習しているとは考えにくいので，Intelのいうローカルなフィードバックの方が正しいような気はします。
詳しい方法は分かりませんが，手書き数字の認識を行うMNISTのデータベースの学習の場合，Loihiは通常のスパイクベースのニューラルネットと比べて100万倍の学習性能と述べられています。また，汎用のコンピュータと比べると1000倍エネルギー効率が高かったと述べられています。
Loihiチップは完全非同期型のメニーコアのニューロモルフィックチップで，Sparse，Hierarchical，Reccurentなどの各種のネットワークトポロジをサポートします。各ニューロモルフィックコアは学習エンジンを内蔵し，動作中にネットワークパラメタを調整することができます。そして，Supervised，Unsupervised，Reinforcementなどの各種の学習パラダイムをプログラムすることができます。そして，Path FindingやConstraint Satisfaction，Dynamic Pattern Learningなどのアルゴリズムの開発が行われているとのことです。
このチップは，Intelの14nmプロセスで作られ，130Kニューロンと130Mシナプスを集積しています。
また，Intelは，2018年の前半には，AIの進歩に関して先進的な研究を行っている大学や研究所にLoihiチップを使わせると言っており，より多くの適用事例と学習効率などのデータが公表されることが期待されます。
２．米国のエクサ計画のアップデート
2017年9月28日のHPC Wireが，米国のExascaleプロジェクトのアップデートを報じています。
それによると150PFlopsと言われるORNLのSummitスパコンは，全ての計算ノード筐体やインタコネクトスイッチは納入され，計算ノードボードも10月末までには納入が終わるとのことです。それに続いて受け入れ試験が行われることになります。LLNLのSierraも並行して進んでいるとのことです。
大きく変更されたのは，ArgonneのAuroraで，元は2018年に180PFlopsということだったのですが，2021年に1ExaFlopsに変更されました。これにより，Auroraが米国の最初のエクサシステムになると見られます。この変更に伴い，再提案になってもおかしくないのですが，Intel-Crayが引き続き担当するようです。しかし，どのようなシステムになるのでしょうか？
またExascale Computing Projectを率いてきたディレクタのPaul Messina氏は退任し，10月1日にORNLのDoug Kotheに替わるとのことです。
３．AppleのiPhone 8 PlusのSoCの調査結果（中間報告）
2017年9月26日のEE Timesが，TechInsightsによるiPhone 8 Plusの解体調査の結果を報じています。それによると，A11 Bionicプロセサのダイサイズは89.23mm2で，A10プロセサのチップと比べると30%小さくなっています。大きなCPU1が2個，小さなCPU2が2個で，A11は4コアチップになっています。GPUはImaginationのPowerVRからAppleの設計のものに替わったはずですが，A10と同じ6コアのGPUです。
面積の大きなGPUは全体の20%の面積，CPUは15%，DRAMインタフェースは8%の面積を占めています。
iPadPro 10.5のプロセサのA10Xと同じTSMCの10nmプロセスを使っていると言われていますが，TechInsightsの調査は，まだ，プロセスの確認までは進んでいないようです。また，チップに載っていると言われるNeural Engineについても調査はまだのようです。
A11はA10と同様，Package on Packageの実装で，上にMicronの3GBのLPDDR4 SDRAMを載せています。ただし，MicronではなくSamsung製のDRAMを載せているものもあるようです。
４．Samsung，XilinxなどがEfinixに$9.5Mを出資
2017年9月29日のEE Timesが，SamsungやXilinxがEfinixというプログラマブルロジックのスタートアップに$9.5Mを出資すると報じています。EfinixのQuantumと呼ぶプログラマブルロジックは，XLR（Exchangeable logic and routing)セルという独自の基本回路を使っています。このセルは通常のFPGAのようにLUTとしても使えますが，また，ルーティング用のスイッチとしても使えるとのことです。
この両用性があるので，EfinixのFPGAは，通常のFPGAに比べてアクティブエリアの利用率が4倍で，電力が半分で済むとのことです。
FPGAを良く知っているXilinxが出資するということは，Xilinxから見て優位性のある技術と見ていることの表れと思います。
５．IBMが海洋の波をディープラーニングで計算
2017年9月29日のEE Timesが，IBMのダブリン研究所が，海の波の状態をディープラーニングで計算するのに成功したと報じています。海洋の波を，海水を流体として風や温度，海流などの影響を入れて，どのような波になるかを求めるのは複雑な流体計算でスパコンが必要になるのですが，スパコンで計算した波を教師データとしてニューラルネットに学習させることにより，スマホやRaspberry Piでも波の計算ができるようになったと書かれています。
ディープラーニングの場合，風や海水温や海流の状態が，波にどのように影響しているのかは分からないのですが，ディープラーニングで（スパコンのシミュレーションで求められた）教師データに適合する学習ができれば，それが今後の波の状態を高い精度で予測できるというわけです。これにより，計算速度は120倍になったとのことです。
スマホやRaspberry Piで波の状態を計算できるとなれば，小さな漁船などにも装備できますし，サーファーが波の状態を調べるのにも使えそうです。
同様なことは第一原理の分子動力学を用いたたんぱく質と薬剤とのドッキングのシミュレーションでも行われており，計算速度が100万倍になったと報告されています。学習データの無い結合を予測することはできないでしょうが，すでに学習したタイプのドッキングが起こるかどうかを調べるには有効な方法と思います。
６．Dysonが電気自動車に参入を発表
2017年9月27日のThe Registerが，Dysonが，革新的なバッテリテクノロジを使う電気自動車を2020年までに開発すると発表したと報じています。Dysonは，この電気自動車の開発に2Bポンド（約3000億円）をつぎこむとのことです。
掃除機や扇風機，ドライヤーなどでは，一風変わった製品を提供してきたDysonですから，何かやってくれるのではという期待感はあります。一方，自動車は家電より安全性や保守などの要求が厳しく，Dysonが対応できるかという懸念もあります。
Dysonはラディカルな新製品と言っていますが，それ以上の詳細は明らかにしないとのことで，どのような製品を作り，どのように売るのかは，2020年という発売時期にならないと明らかにされないようです。