最近の話題 2020年9月26日

1.MicrosoftがGPT-3の独占ライセンス権を取得

  2020年9月23日のThe Regisiterが,MicrosoftがGPT-3の独占ライセンス権を取得したと報じています。今のAIは狭い分野の知識しか持っていませんが,人間の常識のような広い範囲の知識を持つ汎用AIを開発しようとしているOpenAIの最新モデルがGPT-3です。

  Alexnetが驚異的な画像認識能力で世間を驚かせましたが,それは2012年のことで,まだ,10年たっていません。そして,AlexNetは6000万パラメタのニューラルネットでした。しかし,GPT-3は1750億パラメタと約3000倍の規模のネットワークです。

  まだテストの段階ですが,見出しの文章を与えると説明記事を書くとか,文章で書いた記述から,プログラムを生成できるとか,驚異的な性能を発揮しているという報道が聞こえてきます。

  マイクロソフトはOpenAIの汎用AIの開発に$1Bを提供するという契約を結んでおり,ライセンスが他社に行くわけはなかったのですが,契約が結ばれてマイクロソフトだけが自社製品にGPT-3を組み込んだりして利用できるようになり,GoogleやAmazonは,GPT-3を利用する製品の提供はできないとなるとこれはショックです。

2.OracleがCloudで160コアのAmpere CPUを提供

  2020年9月22日のThe Regisiterが,Oracle CloudでAmpereのarm CPUを使う160コアのインスタンスの提供を始める予定と報じています。Ampereは元Intelの社長のRenee James氏の会社でarmアーキテクチャのサーバCPUを開発しています。

  AmpereのAltra CPUは80コアを集積し,クロックは3.3GHzで動作するとのことです。Oracle Cloudでは最大2チップの160コアのインスタンスを提供するとのことです。このサーバは他のx86サーバより高い性能/価格を提供できるとのことです。

  ただし,OracleのSaaS製品をこのプロセサで動作させて提供するかどうかをOracleは明らかにしていません。

  Oracleは昨年9月に$40MをAmpereに出資しており,これはAltra CPUを手に入れる目的があったようです。

3.armがNeoverseのロードマップを発表

  2020年9月22日のHPC Wireが,armのNeoverseプラットフォームのロードマップの発表を報じています。今回,armはSVEを装備したV1とN2というプラットフォームを発表しました。V1はZeusというコードネームで,N2はPerseusというコードネームが付けられています。

  Vシリーズは高演算性能のコアでV1は256bitのSVEベクトル演算器を2個持っています。記事に掲載されたグラフによると,ワークロードAでは,V1は現在のN1に比べて1.8倍速く,命令カウントは0.62倍,ワークロードBでは,1.83倍の性能で,0.52倍の命令数とのことです。また,V1は,マシンラーニング性能の改善のため,BFloat16のサポートを含んでいます。

  V1はシングルスレッド性能はN1の50%アップとのことです。

  そして,armはVシリーズをEUのスパコン開発の中心に据えていく考えです。既にSiPerlはZeusコアの採用を決めたとのことです。

  armは,2020年にはV1,2021年にはN2を開発する計画です。N2は128bitのSVE演算器を2本持ち,BFloat16のサポートも行います。シングルスレッドの性能はN1の40%アップとのことです。

  そして,armは2022年以降にPoseidonと呼ぶ次世代のプラットフォームの開発を発表しました。Poseidonは前世代と比較してウエファレベルの性能を性能を+30%引き上げるという目標です。

  armはインタコネクトとしてCCIXとCXLを使う計画で,V1はCCIX 1.1を搭載していて,2021年のN2ではCCIX 2.0,CXL 2.0をサポートし,2022+の世代ではCCIX next,CXL nextをサポートする計画です。

  

inserted by FC2 system