SambaNova、性能が2倍になった新しいAI学習用プロセッサ「Cardinal SN30」を投入

Cardinal SN30を手に持つSambaNova Systems 製品担当上級副社長 マーシャル・チョイ氏

　SambaNova Systems（以下SambaNova）は、9月14日（現地時間）に報道発表を行ない、同社が提供するAI学習演算用RDU（Reconfigurable Dataflow Unit）の最新製品となる「Cardinal SN30」、およびそれを採用した次世代システム「DataScale SN30システム」を発表した。

　Cardinal SN30は、従来製品のCardinal SN10に比べて演算器やメモリなどが「概ね倍」（SambaNova Systems 製品担当上級副社長 マーシャル・チョイ氏）になるなど、チップ単体の性能が強化されており、それによりシステム全体の性能や電力効率が向上していることが特徴になる。

　DataScale SN30システムはNVIDIAのDGX-A100と比較して、GPT-13Bモデルを利用したAI学習処理で6倍高速であると同社は説明している。

同じTSMC 7nmプロセスで製造されるが、演算器やメモリが倍になったCardinal SN30

　SambaNovaは米国のAIスタートアップで、AIを演算するための半導体、ハードウエア、ソフトウエアを一気通貫に提供するソリューション・プロバイダーだ。同社が提供する「DataScaleシステム」は、AIに特化した自社設計の半導体と、それを利用するためのソフトウエアを1つのパッケージとして提供し、AIシステムを開発するエンタープライズが必要なデータなどを用意することで、迅速にAIアプリケーションなどを開発してユーザーに提供することが可能になる。SambaNovaの概要に関しては以前の記事が詳しいのでそちらも合わせてご参照いただきたい。

　そうしたSambaNovaは、9月14日（現地時間）に報道発表を行ない、同社の最新製品となる「DataScale SN30システム」を発表した。

　同社によれば、DataScale SN30システムは、同社のAI学習演算用RDUとなる「Cardinal SN30」が採用されており、従来製品となる「Cardinal SN10」を採用していた従来型のシステムに比べて処理能力と電力効率が高まっているという。

Cardinal SN10とCardinal SN30

　SambaNova Systems 製品担当上級副社長 マーシャル・チョイ氏によれば「SN30はTSMC 7nmで860億トランジスターのモノリシックチップとして提供され、SN10に比べて概ね2倍の演算器、2倍のメモリ容量を実現する」と述べ、SN30はSN10の演算器やオンチップメモリなどを倍にした製品であると説明した。そうした強化により、処理能力はBflot16（BF16）での演算時には688TFLOPSに達しており、SN10での300+TFLOPSに比べて2倍以上になっている。

　また、もちろん同じプロセスノード世代での演算器やオンチップメモリの強化になるので、絶対的な消費電力は上がっているが、電力あたりの性能、つまり電力効率は改善されているとチョイ氏は強調した。

　同時にSambaNovaはそうしたRDU上で動作するソフトウエア環境「SambaFlow」もアップグレードしている。SambaFlowはPyTorchやTensorFlowなどのディープラーニング・フレームワークを統合的に利用できるほか、今回のアップデートではKubernetesにネイティブ対応を果たしており、エンタープライズがKubernetesに対応したコンテナ形式のアプリケーションをSambaNovaのシステム上で利用することがより容易になる。

DataScale SN30システムはNVIDIA DGX-A100と比較して、GPT 13Bモデルで約6倍高速に

DataScale SN30システムはNVIDIAのDGX-A100と比較してGPT 13Bモデルでの演算で6倍速いとSambaNovaは説明

　そうしたCardinal SN30を搭載した「DataScale SN30システム」は10RUで、8Sノードと8TB DRAMから構成されている。これによりGPT 13Bを利用した演算性能で、NVIDIAのDGX-A100（8xNVIDIA A100）とDataScale SN30システム（8x Cardinal SN30）を比較して6倍速いとSambaNovaは説明している。

　また、DGX-A100のシステムが8台から構成されているクラスターとDataScale SN30システムを比較すると、ほぼ同じ性能であるのに電力効率は8倍だと説明している。

DGX-100が8台のシステムとの比較で性能はほぼ同じで電力効率は8倍

　なお、SambaNovaによれば、DataScale SN30システムの価格は100%サブスクリプションになっており、顧客が必要に応じて価格モデルを選択することができるとのこと。具体的な価格は顧客の規模やニーズなどにより異なるため同社に問い合わせてほしいとのことだった。