Google独自の「TPU」に関する論文を公開、特定分野においてはGPUやCPUの15~30倍速い 20
ストーリー by hylom
特化 部門より
特化 部門より
Googleが独自に開発した機械学習向けプロセッサ「Tensor Processing Unit」に関する論文を公開した(ITmedia、CNET Japan、日経ITpro、The Next Platform)。
TPUは学習済みモデルを使って判断を行う処理で使われているとのこと。CPUやGPUを使って同一の処理を行うのと比べて15~30倍高速だという。現在Googleは画像検索やフォト、翻訳、画像処理などでこのプロセッサをすでに利用化しているそうだ。
TPUは並列に動作する演算ユニットを256×256個接続した構成となっており、これによって2次元的なデータパイプラインを実現できるのが特徴。既存のCPUやGPUよりも汎用性は低いが、特定の処理においては非常に高い性能を実現できるようだ。
たったの15~30倍? (スコア:0)
学習済モデル専用チップならもっと高速化できそうなのに。
Re: (スコア:0)
FPGAで○倍早くなりましたって話とどのあたりが違うのかがよく分からない。
要約 (スコア:1)
FPGAを採用しない理由
・論理合成レベルのことまで考えさせるのはかわいそう
・FPGAのような柔軟性は必要無い
・FPGAは速度の面でGPUに勝てない
GPUとの違い
・TPUはGPUよりも機能を絞り込んで回路を簡素化
・TPUはオブジェクトやテクスチャなどのための広大なRAMを持たない
・GPUはGPU用メモリに置かれたバイナリコードをフェッチしながら実行
・TPUはCPUから専用の命令をPCIe経由で流し込まれながら動作
その他
・TPUはFPUというかコプロセッサっぽい発想
・TPU内のメモリはGDDR5でGPUの速さを享受
屍体メモ [windy.cx]
Re: (スコア:0)
なんとなく「トランスピューター」って言葉が思い浮かんだ。
X68Kに入れていた奴が居たな。
Re: (スコア:0)
実は2年くらい既に運用していたんですよというところがポイントなんじゃない?
他社や他国が今から始めても収益性では敵いませんけど頑張ってねというお知らせだと思う
Re: (スコア:0)
むしろ研究と運用の密接具合が凄いなと小並感
Re: (スコア:0)
おじいちゃんDevopsブームはもう遥か過去ですよ
Re: (スコア:0)
ソフトウェア処理やめてハードウェアで処理したら早くなりましたって類の話です。
ここで言うハードウエアは特定用途専用のプロセッサのこと。
この説明だとGPUもハードウエアだよねってツッコミが入るが無視する。
FPGAよりも適用できる範囲は狭いのでより使いどころが難しい。
CPUもハードウエアだよねってツッコミも多分入るが無視する。
Re: (スコア:0)
I/Oがネックなんじゃないの?
プラスアルファ (スコア:0)
汎用プロセッサでソフトウェア的にやっていることを
専用プロセッサ作ってやれば早くなる
というのはあるだろうけど
それ以上の話はなんかあるんだろうか?
まあ、あたりまえの話ではあるけど
あたりまえの話を粛々と計画・実行しているアメリカ企業はさすがだな
とは思う
Re: (スコア:0)
当たり前を成すのは容易いが
当たり前を成し続けるのは難しい
# マスターキートンあたりの格言だったかな
その場にとどまるためには、全力で走り続けなければならない (スコア:0)
赤の女王仮説ですな
#ちょっと違う ちょっとあってる?
Re: (スコア:0)
Google規模の仕事させないと割に合わないって、あたりまえもあるのかもしれませんね。
2次元的なデータパイプライン (スコア:0)
何それ、シストリックアレイ?
Re: (スコア:0)
TPUの行列乗算ユニットはシストリックなデータフローと論文に書いてあるが、
2次元的なデータパイプラインとシストリックアレイは関係ない考え方だよ
1次元のシストリックアレイもふつーにあります
Re: (スコア:0)
ここの人たちってMicrosoftとかAMDはうれしそうに批判するよね
Re:Microsoftが負けたのは必然だったな (スコア:1)
× ここの人たちってMicrosoftとかAMDはうれしそうに批判する
○ MicrosoftとかAMDはうれしそうに批判する人がここにはいる
だいぶ意味が違いますよ
Re: (スコア:0)
ここの人たちって批判やアンチ発言見つけると嬉しそうにあげつらうよね
Re: (スコア:0)
製造技術は持ってない