最近の話題 2020年11月28日
１．スパイク型ニューロンチップを開発するInnateraが€5Mのスタート資金を獲得
2020年11月25日のEE Timesがオランダのスパイク型のスパイク型のスパイク型のニューラルネットチップを開発するスタートアップのInnateraが€5Mのシードマネーの調達に成功したと報じています。
Innateraはデルフト工科大学のスピンオフだそうです。センサーの画像データの処理の場合，通常のディジタル処理に比べて100倍速く，500分の1の消費エネルギーで処理ができるとのことです。
エッジのセンサーデータの処理では視覚的な処理を手掛ける会社が多いのですが，Innateraはスピーチ処理，ウエアラブル機器のバイタルサインのモニタ，RADARやLIDARのターゲット認識，車や産業機器の呼称検出なども適用分野と考えています。
Innateraのテクノロジはニューロモルフィックなアルゴリズムとハードウェアの領域に跨っており，同社の開発しているアナログチップは空間的，あるいは時間的なパターンを処理することができます。Innateraのチップは，スパイクニューロンやシナプスをアナログのミックス信号で処理するプログラマブルなアレイでフレキシブルにスパイク信号の処理ができるとのことです。
このようなチップ構成であるので，推論処理では他社の製品に比べてレーテンシでは40分の1，推論に必要なエネルギーは1/49とのことです。ただし，この記事を見ただけでは，どのようなチップで，なぜこれほど高い性能が得られるのかは分かりません。
Innateraは2021年の後半にはアーリーアクセスの顧客にサンプルチップの供給を開始するとのことです。
２．不揮発の強誘電体メモリを開発するドイツのスタートアップが$20Mを獲得
2020年11月19日のEE TimesがドイツのFerroelectric Memory Companyというスタートアップが$20Mの資金を調達したと報じています。強誘電体のメモリは以前からありますが，PZTのような材料を使い，CMOSプロセスとの相性が悪く高価になっていました。これに対sて，FMCのメモリはロジック半導体でも使われているHfO2を使います。通常のゲート絶縁体はアモルファスにHfO2でしが，それを結晶化させると2種の分極状態を記憶できるようになり，強誘電体メモリとして使えるようになるとのことです。
このHfO2ゲートを使うメモリは1fJ/bit以下のエネルギーでスイッチでき，スイッチ時間は1ns以下とのことです。そして，80K～470Kの範囲で安定で，1011サイクル以上の書き換えが可能です。また，125℃で1000時間以上のデータ保持が出来ています。これらの性能は，測定ができた範囲のもので，これまでの強誘電体メモリから推測するとより高い性能を持っている可能性が大きいとのことです。
そしてCMOSトランジスタと製造工程の相性が良いので，CMOSロジックLSIに容易に組み込めるというのもメリットです。
３．MLPerfHPC v0.7の測定結果が発表された
2020年11月18日のHPC WireがMLPerf HPC v0.7の測定結果を報じています。HPCでのTrainingですが，CosmoFlowという宇宙論のシミュレーション結果を学習するモデルとDeepCAMという気象シミュレーション結果を学習するモデルが学習対象となっています。
このベンチマークに参加したのは，スイスのCSCSのPiz Daint，TACCのFrontera，NCSAのHAL，日本の産総研のABCI，ローレンスバークレイ国立研究所のCori，日本の理研の富岳の6機種のスパコンです。普通のTrainingの方は参加はもっと多いのですが，大規模なスパコンでの実質初めてのベンチマークで，これだけ参加があったのは大したものです。
Closed Divisionの測定結果は，CosmoFlowが9件，DeepCAMは2件でした。CosmoFlosの学習で最高の性能だったのは，ABCIの256ノードの512個のV100GPUを付けた測定で，34.42分でした。
参加2件のDeepCAMの方は，2倍の規模のABCIの結果で，11.71分でした。
そして，問題の変形などが許されるClosed Divisionの方は4件の参加でABCIがCosmoFlowとDeepCAMの結果，富岳とCoriがCosmoFlowの結果を登録しています。CosmoFlowでは1024CPU，2048 V100のABCIが13.21分で最速でした。DeepCAMは512CPU，1024 V100のABCIが13.21分でした。Open divisionのABCIの結果はシステムの規模が大きくなっているのに学習にかかる時間が長くなっているのは何故でしょうか？
４．MicrosoftのAzureで86,400コアでNAMDを動作
2020年11月20日のHPC WireがMicrosoftがAzureのHBv2インスタンスで，86,400CPUコアを使って，分子動力学の定番プログラムであるNanoscale Molecular Dynamics (NAMD)プログラムを動かしたと報じています。
この規模は商用のクラウドを使ったシミュレーションとしては最大の規模であるとのことです。この実行はNAMDを開発したUIUCで行われましたが，この規模で動作させるためのソースコードの変更はしていないとのしとです。
このAzureの実行速度はTop500no8位にランクされているFronteraスパコンに匹敵し，Fronteraに勝つ場合もあったとのことです。