「ＰＥＺＹスパコン詐欺事件：『PEZY の実用アプリケーションは2009年の研究より小規模で粗く更に遅い』」

Bushido：アーキテクチャー、制御方式、インターフェイス、試験、プログラム、システムの運転と制御等の肝心要の「特許」が一切無いＰＥＺＹスパコン。真っ当な論文は一切なく、三流会社の下らないパンフの如き「論文」（ https://search.ieice.org/bin/pdf_link.php?category=C&fname=j100-c_11_537&lang=J&year=2017 ）。どこぞの大学や独法研究機関の「研究者」らによるＰＥＺＹヨイショの、「ＸＸＸアプリで効果があった」と唱えながら、その結果の妥当性を裏付けるデーターや結果の説明が一切無いモノばかりである。倫理的にどうなのか？一私企業に過ぎぬＰＥＺＹ及び関連に肩入れ出来る、その法的根拠は何だ？個々に厳しく調査する。

その「実用アプリケーション」に問題提起したrings氏のブログを紹介する。

『PEZY の実用アプリケーションは2009年の研究より小規模で粗く更に遅い』- rings 氏
（https://note.mu/rings/n/n29283c5afed5）


１．問題提起に「嘘呼ばわり」は無いだろう

「ＸＸＸアプリで効果があった」の類の、『Shoubuで実現するネコ一匹分の人工小脳』という、ＳＦもどきの超単純化された「神経回路網」、我々の想像の域を遥かに超える実際の精緻な神経細胞やシナプスの機能を、昨今の相も変らぬ余りにも単純すぎる重み加算閾値回路の連結が「神経経路網」だと称して、やたらその数を増やしただけのモノを「ＸＸＸの脳」だとか、「ｘｘｘの小脳」だとかと自称するのが流行っているが、「本質、なんなのか？」に答える事は出来ぬ。そのようなものが、運動機能障害や知覚機能障害の臨床治療に役立ったという現実例など、世界中何処を探しても皆無である。ＰＥＺＹ－ＳＣだろうが何だろうが、数の問題に還元する思考様式が問題なのであって、そのようなものをどれ程やろうとも、何らの現実問題には関連の無い話だ。単純回路の「数の寄せ集め」は、「数」によって測られるものであり、『Shoubuで実現するネコ一匹分の人工小脳（もどき）』なるモノも、思想が異なれば異なった観点で測られるのであって、当該「論文」に対する「問題提起」があったとしても当然の事だ。そうした「問題提起」に対するチャチャが、電気通信大学の著者からあって、あるブロクの問題提起を「嘘」と決め付け、「反論には理路整然たる対論をもって対応」すべきところ、技術分野の甲論乙駁のしきたりに反する反応があったのは、極めて遺憾なことである。（http://numericalbrain.org/ja/2018/02/comment-on-the-note/）そうした回路の数学的に余りにも単純な微分方程式に自然が従う理由がそもそも無い。回路規模の「数」の問題ではなく、後述の「生きたキング・コブラとマングース・ロボットの死闘」に於けるような、学習と制御及び現実運動こそが重要な問題だ。無数の応用が広がる。ＰＥＺＹ－ＳＣがニューラル制御するマングース・ロボットならば、拍手喝采だ。

さて、問題提起者 rings 氏のブログでは、それを受けて

「この研究の著者からご指摘をいただきました．要約すると次の3点です．

1. 文脈を無視したミスリードをしている．
2. 嘘が書いてある．
3. [L+15] を誤読している．

これらについてこちらの意図が伝わるように，説明を修正・追加したいと思います．まずは，これからご覧になる方に対して，著者が「この記事は内容が不正確なので信用しない方がいい。」とコメントされたことを明記します．
以下，内容が不正確なので信用しない方がいい記事です」

と追記している。

日本国は、言論の自由の国だ。その論文の筆者が、「この記事は内容が不正確なので信用しない方がいい」とrings 氏に言うならば、当然、rings 氏にも言論の自由があり、批判の自由もある。従って、その論文を異なった観点から批評するのも、同氏の自由だ。忘れるな！作法もだ。しかし、技術上の問題提起に対して「嘘呼ばわり」は無い。言い方というものがある。２ＣＨや５ＣＨじゃないのだから、データーと演繹で反論すればいいだけの事だ。rings 氏のブログは非常に当を得たものだ。「数」の問題に矮小化している昨今のニューラル回路網に対する痛烈な皮肉であり、大いに建設的である。「数」の問題について下で補足する。

論文の世界での、改竄、偽造、捏造は今や当たり前で、やりたい放題であるから、昔の論文のイメージで中身を真に受ける訳には行かぬ。当人以外にその「研究の諸条件」に接し得る者は何処にもいない。まずは、疑ってかかるものだ。特にシミュレーションものはそうだ。自分が望む結果を作り出すのは容易いことだ。


＜＜Bushido 補足＞＞

In 1951 Marvin Minsky teamed with Dean Edmonds build the first artificial neural network that simulated a rat finding its way through a maze.


Fugure-1：The first Neuron Unit of SNARC (Stochastic Neural Analog Reinforcement Computer)

They designed the first (40 neuron) neurocomputer, SNARC (Stochastic Neural Analog Reinforcement Computer), with synapses that adjusted their weights (measures of synaptic permeabilities) according to the success of performing a specified task (Hebbian learning) The machine was built of tubes, motors, and clutches, and it successfully modeled the behavior of a rat in a maze searching for food.

As a student, Minsky had dreamed of producing machines which could learn by providing them with memory "neurones" connected to "synapses"; the machine would also have to possess past memory in order to function efficiently when faced with different situations.

In 1951 the "machine" was born, consisting of a labyrinth of valves, small motors, gears and wires linking up the various "neurones". Some of these wires were connected up at random to the various memory banks in order to achieve a degree of causality of events. The reason such a machine had been put together was to try and find the exit from a maze where the machine would play the part of a rat whose progress would be monitored on a light network.

When the system was completed it was possible to follow all the movements of the 'rat' within the maze and it was only through a design fault that it was found more than one 'rat' could be introduced which would then interact together. After various casual attempts the rats started 'thinking' on a logical basis helped along by reinforcement of correct choices made and the more advanced rats would then be followed by the ones left behind. This first practical example, built by Minsky with the help of Dean Edmonds, also included numerous casual connections between its various 'neurones', acting like a sort of nervous system able to overcome any eventual information interruption due to one of the neurones failing.

まで考慮した。素朴なものであったが、彼らは実際の神経回路には畏怖の念を覚えていた。即物的な無神論者とは違う。真空管の強い制約の中で、単純ながらも複合動作の回路工夫を駆使し、人工的なものの可能性を追求し、とどのつまりは、自然の神経回路網の精緻さに比較して取るに足りない人工物のニューロ回路の限界を悟り、方向は転換されて、特定目的に自然を真似る、即ち、自然に学び、教えてもらいながら、有用な応用を考えるようになった。その元はアナログコンピューターにあった。アナログコンピューターの函数演算の波形は神秘的ですらある。それを信号波形処理回路他に応用してきた。そして、神経回路網にまで広げ、更に応用を広げた。回路動作の不思議だ。真空管回路を作った事も無い今のガキには分からん。VLSIには味も素っ気も無い。トランジスタには多少の愛嬌があるが、真空管には特別な畏敬の念を感ずる。畏敬の念からの探求が電子技術のリサーチの動機であった。


Figure-2：Analog Computer, PACE 16-31R in NASA (1956)(1956)


Figure-3：Output of An Analog Computer

実際の神経回路網内での情報処理は簡単ではない。はっきり言って、「分からん」。これが正しい答えだ。にも拘らず、超単純なＯＰアンプに毛の生えた程度の閾値やら重み付けの回路を「これがシナプスだ、ニューロンだ」と言い、やたらに数だけを増やし、「シミュレーション」をスパコンでやる奴が多いが、アホナ話だ。それで、何か出来たか？増えたのは朽ち果てる「ペーパー」の山だ。

2030年展望と改革タスクフォース（第１回）での、斉藤に対する新井の反論を思い出せ。「一方で、数理論理学者というか、計算量の理論分野の研究者として一言申し上げておきたい。計算が大変に速くなったり多くなったり、特に1,000倍、１万倍、100万倍ということになると、今まで計算できなかった全てのことが計算できると考えがちであるが、それはまったく見当違いである。例えば私は「ロボットは東大に入れるか」という大学入試を突破するというプロジェクトをしているが、そこで開発しているAIには  （東大生が解けているのに）解けない数学の問題がいくつもある。それは今、御提案の次世代のスパコンが地球の滅びる日まで計算しても計算ができないことが理論上わかっているタイプのものばかりである。それをなぜ人間が解けるのか、AIという言葉が生まれてから50年以上研究が進められてきたか、その理由は全くわかっていない。結局、コンピュータには意味がわからない、というのが決定的な弱点だといえるだろう。画像認識については、人間の脳の動きを模したといわれるニューラルネットワークという統計的手法によって、条件付である限定的なタスクに関しては人間を超えるような性能を発揮してはいる。しかし、言葉に関して、つまり言語に関してのシンボルグラウンディングは全く理論上も突破できる見込みがまだ立っていない。意味がわからないコンピュータがどんなに速く計算しても、できない。シンギュラリティが来るかもしれない、というのは、現状では「土星に生命がいるかもしれない」とあまり変わらない。土星に生命がいない、と証明されたわけではないように、シンギュラリティが来ないことを今証明できるわけではない。一方で、土星に土星人がいるかもしれない、ということを前提に国家の政策について検討するのはいかがなものか」。単なる「数」には何らの意味も無い。

コブラの攻撃をかわし、その頭を噛み砕き殺すマングースの「脳学習＆攻撃行動」を、実現してみろ。そしてロボティックスで実動作させるのだ。そして、本物のコブラと闘わせるのだ。どちらが勝つか？コブラに先に噛まれたマングースロボットは負けだ。コブラの頭を先に噛み砕いたマングースロボットは勝ちだ。そこまでいけば、本物の仕事だ。広範な応用がある。だが、現実は初歩の初歩で、何らの進歩も無い。役に立たぬ「ださいロボットオモチャ」で終わっている。結局は、人間がやるしかない。これが現実だ。「数」では勝負にならぬのだ。ＰＥＺＹで何をしようが、「数」に矮小化されたままでは、何も変わらぬ。税金の無駄だ。「研究などに『聖域』はない」。ビシバシ査定すべし。斬りまくれ。- (Bushido)


２．問題提起

アプリケーションがあるから, PEZY Computing のスーパーコンピュータ（スパコン）は開発する価値がある」というときの前提「アプリケーションがある」というのは本当でしょうか．PEZY のスパコンを使った脳のシミュレーションに関する研究論文を読むと，アプリケーションの性能は，過去の研究より規模が小さく，粗く，遅くなっていることがわかります．

その研究は，2016年度理研シンポジウム『スーパーコンピュータHOKUSAIとShoubu、研究開発の最前線』での招待講演で紹介されている，PEZY Computing のスパコンの実用アプリケーションでも代表的なものです．そこでの講演『Shoubuで実現するネコ一匹分の人工小脳』（講演資料, PDF, http://accc.riken.jp/wp-content/uploads/2016/04/yamazaki.pdf）では，「もちろん世界最大，最高速，最も精緻」（資料14ページ目）と書いています．さらに，電子情報通信学会論文誌 C に掲載された，鳥居淳らによる「グリーンスーパーコンピュータ ZettaScaler の技術と今後の展望」では次のように述べています．

（これらの方策をもとに，各種アプリケーションの実装について検討が行われており，幾つかの報告事例が存在する [9] ～ [13] ．特に，猫の小脳をリアルタイムで実現できたことは ZS-1 の有効性を端的に示した成果といえる）

しかし，猫の脳のシミュレーションでは，より規模が大きく，もっと速く，もっと精緻なシミュレーションがこの研究以前に行われています．PEZY スパコンのシミュレーションは過去の研究より計算性能が大幅に足りません.


３．過去の研究との比較

この招待講演の内容をまとめた論文 [Y+17] をそれ以前に発表された2つの論文 [A+09],[K+14] と比較します．文献情報はこの記事の最後の参考文献にまとめました．PEZY スパコンによる脳シミュレーションの比較結果を要点は次の6点です．

(1) ニューロン数の規模は，過去の研究よりやや小さい．
(2) シナプス数は極端（桁4つ分）に少ない．
(3) 時間ステップは同一か粗い．
(4) ボトルネックとなるシナプスごとに掛かる計算時間は遅い．
(5) シナプス数，時間ステップを揃えたとき，過去の研究の方が20-40倍速い．つまり，PEZY のプロセッサを使わず，過去の研究にならうだけで，[Y+17] のシミュレーションは20-40倍速くなる．
(6) 過去の研究は規模の小さい [Y+17] のシミュレーションを扱えるが，[Y+17] は規模の大きい過去の研究のシミュレーションを行えない．

[A+09] は，猫の大脳皮質のシミュレーションを猫の大脳規模で行い，Top500, Green500 の順位リストを発表する国際会議にて Gordon Bell 特別賞を受けています．

[K+14] は [A+09] をこれまでの脳シミュレーションで最大なものとして引用し，これを更新したことを報告しています．

[Y+17] は [K+14] を引用していますが，[A+09] を引用しておらず，自身のシミュレーションにおけるシナプス数を明記していません（以下では，細胞種と隣接関係から求めた推定値を用います）．

3つの論文をシミュレーションの規模，速度を表す重要な数字で比較したのが次の表です．


Table-1：Comparing Cases

ただし，数字は有効数字（数桁）で打ち切っています．時間ステップはシミュレーションにおける最小単位の時間間隔を表し，短いほど精密になります．速度比は，1秒のシミュレーション全体に掛かる計算時間を表します．速度/シナプスは，1つのシナプスあたりの1秒のシミュレーションに掛かる計算時間を表します．[A+09] は異なる2条件でシミュレーションを行っています．[Y+17] は計算規模のためと，現実的なシナリオ (a realistic scenario) の2通りのシミュレーションを行っています．

表から，(1), (2), (3) は明らかです．

(4) について，脳のシミュレーションにおいて計算時間のボトルネックになるのは，シナプス（ニューロン間の結合）数です．ニューロン間の情報伝達を1つ1つ計算する必要があるので，シナプス数が大きいほど，シミュレーションの規模が大きく，計算が困難になります．そこで，シナプス1つあたりの計算時間で比較すると，PEZY のスパコンを用いたシミュレーションである [Y+17] が他より遅いことがわかります．シミュレーションの細かさである時間ステップも揃えると，(5) に示したように [Y+17] のシナプス1つあたりの計算時間は過去の研究結果より20-40倍遅くなります．


４．実時間シミュレーションが重要なら FPGA によるシミュレーションの方が高速

上の比較に対して「問題の大きさではなく，実時間でシミュレーションすることが重要なのであって，[Y+17] は最速だ」とする考えもあり得ます．しかしその場合，[L+15] では猫の小脳モデルを1秒シミュレーションするのに 25.6ms しかかかりません．さらに講演者は [L+15] の共著者なので（論文の公表は2015年，講演は2016年），講演したときにその内容を十分理解しています．

このため，「実時間でシミュレーションすることが重要」という基準をとると，講演者の主張「もちろん世界最大，最高速，最も精緻」と矛盾します．


５．小脳モデルは脳シミュレーションの性能を示すには不十分

Wikipedia での動物のニューロンの数を参照すると，過去の研究が扱った 10^9 のニューロン数，10^13 のシナプス数が猫の脳の規模として必要であり，[Y+17] が扱う限界の 10^9 のシナプス数では不十分なことがわかります．

[Y+17] は 4. Discussion において，

（[K+14] は実時間でシミュレーションできないが，我々はできている（大意））．

と主張していますが，それはシナプス数（脳のモデル）の違いによるものであり，計算能力の問題ではありません．シナプスあたりの計算時間と計算規模を見れば，[Y+17] の規模のシミュレーションは [K+14] により実時間で達成されることは確実でしょう．

[K+14] が [Y+17] の規模のモデルを同じ計算性能で扱うことは，規模を小さくするだけで可能ですが，逆に [Y+17] が [K+14] の規模のモデルを扱うのは，メモリ管理など越えなければいけない壁があるため，困難です．

生物学的観点から，小脳モデルをシミュレーションすることに意義はあるでしょう．しかし，スパコンの計算能力を示すのに小脳モデルを用いて，実時間でシミュレーションできているから，優れているというのは疑問です（[Y+17] では 4. Discussion で小脳モデルがスパコンのベンチマークに適切だと主張していますが，[A+09], [K+14] がすでに達成した課題であるため，小脳モデルはベンチマークに不適切でしょう）．


６．一般向けの情報に誤解を招く表現を含めることへの疑問

「猫の小脳のシミュレーションで世界最大，最高速，最も精緻」というのは，誤解を招く表現でしょう．論文を読んだ後では，過去の研究の方が性能が高く，猫の小脳に限定して主張することに疑問が残ります．

猫の小脳より大規模な脳のシミュレーション [A+09], [K+14] は既に達成されています．[A+09], [K+14] は直接小脳を扱っていませんが，[Y+17] は「最大規模，最高速，最も精緻」ではありません．シナプス1つあたりの計算時間で比較した結果から，[A+09], [K+14] は規模の小さい猫の小脳モデルを [Y+17] より十分高速に扱えるでしょう．

論文を直接読まない層に対する講演で，このような誤解を招く（実際とは真逆の）表現を用いることは，研究開発者全体の信頼を大きく損ねるものです．


７．まとめ

PEZY のスパコンを用いた猫の脳シミュレーションは「世界最大，最高速，最も精緻」という主張とは逆に，過去の研究と比べて「規模は小さく，計算速度は遅く，精緻ではない」ものでした．速度については，モデルのサイズに対するシミュレーションの相対速度，モデルのサイズに関わらないシミュレーションの絶対速度のどちらの基準でも，より高速にシミュレーションする過去の研究がありました．

さらに過去の研究に基づけば，PEZY のスパコンで行われたシミュレーションを20-40倍の速度で実現できる可能性が十分あることがわかりました．

このアプリケーションでは PEZY のスパコンによるシミュレーションは過去の研究より計算能力が及ばないため，PEZY グループ役員によって書かれた論文にある

（特に，猫の小脳をリアルタイムで実現できたことは ZS-1 の有効性を端的に示した成果といえる）．

という主張の正当性は疑わしく，有効性は8年前の研究成果に遥かに及びません．


８．参考文献

[A+09] R. Ananthanarayanan et al. (2009) The Cat is Out of the Bag: Cortical Simulations with 10^9 Neurons, 10^{13} Synapses. In Supercomputing 09: Proceedings of the ACM/IEEE SC2009 Conference on High Performance Networking and Computing (Portland, OR).
https://doi.org/10.1145/1654059.1654124
[K+14] S. Kunkel et al. (2014) Spiking network simulation code for petascale computers. Frontiers in Neuroinformatics 8: 78. https://doi.org/10.3389/fninf.2014.00078
[L+15] J. Luo et al. (2015) Real-Time Simulation of Passage-of-Time Encoding in Cerebellum Using a Scalable FPGA-Based System. IEEE Transactions on Biomedical Circuits and Systems 10(3), pp. 742-753. October 2015.13
http://dx.doi.org/10.1109/TBCAS.2015.2460232
[Y+17] T. Yamazaki et al. (2017) Real-time simulation of a cat-scale artificial cerebellum on PEZY-SC processors. The International Journal of High Performance Computing Applications. First Published June 6, 2017. http://journals.sagepub.com/doi/full/10.1177/1094342017710705




Bushido (narmuqym, 旅するベテラン, invisible-force, Hetero, MASADA, rainbow, weather_F, anti-globalism, geno_computing, Bushido)
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
　　国際的にビジネスを行ってきたハイテク関係者のグループとして、警鐘を発信する。時事的な問題や長期的観点での警鐘に留まらず、趣味的な事柄まで幅広くメンバーの自由な意思でＷｅｂＬｏｇ掲載することにした。メンバーのプロファイルは以下の通りである。

　　narmuqym：ＨＰ＆ＳＵＮ研究所を経て、米国にハイテクベンチャー設立。最先端ニューラルＭＰＵの研究開発を推進。現在はイスラエルのハイテクベンチャーのチーフサイエンティストに就任。知能の情報処理の根源を研究している。

　　旅するベテラン：東芝中央研究所、半導体事業所にて高密度メモリーのプロセス及びデバイス開発に従事するも、バブル崩壊により全滅の定まった日本の半導体業界を去り、韓国サムソン中央研究所にて、韓国半導体技術を育成指導。現在は台湾の最大手半導体会社にて、高付加価値半導体事業を統括、取締役。

　　invisible-force: ウイスコンシン大学、イスラエル工科大学教授。細胞内量子論的化学物理過程の情報処理、核外化学構造体の情報、ＤＮＡ合成、大腸菌内ＤＮＡ置換、動物細胞内ＤＮＡ置換、神経細胞の情報処理、知能と学習などの研究に従事。イスラエルのバイオハイテクベンチャーＣＥＯ。

　　Hetero：ベル研究所にて化合物半導体物性、超高周波デバイス、マイクロ波集積回路の研究開発に従事し、世界初の衛星放送システムを開発。レイセオンにて巡航ミサイル飛行制御システムの開発、イージズ艦戦闘情報処理＆アタック制御システムの開発に従事後、イスラエルにハイテクベンチャーを設立。情報デバイド解消型の新型情報端末の研究開発に取り組む。

　　MASADA：日電にて衛星通信システム、超多重無線伝送方式、通信路確立制御方式の研究に従事後、米国のＡＴＴに移り携帯電話システムの研究開発、その後次々世代ＭＭ携帯電話方式を完成。シリコンバレーにてハイテクベンチャーを興し、通信大手を圧倒している。

　　rainbow：ウエスチングハウスにて原子力発電の研究開発に従事、その後ＧＥにて新しいエネルギー変換方式の研究、各種発電方式の研究に従事。その後、シリコンバレーにハイテクベンチャーを興し、超低コスト新型太陽電池の研究開発を推進。その後、太陽電池・風力は永遠に採算の取れない環境破壊の元凶であると喝破し、コンパクトな自律原子力発電方式の研究開発に戻る。

　　weather_F：スタンフォード大にて環境気象及び資源の代替化を研究。気象センターにて地球規模大気循環シミュレーション、環境変動の研究に従事した後、ミニマム生活を提唱するＮＰＯを設立し、代表として啓蒙活動に取り組む。

　　anti-globalism：ハーバード大準教授後、日・イ間のハイテクベンチャー協業支援、事業戦略支援会社を日本とイスラエルに設立、妻は日本人。現在はハーバード大ビジネススクール教授。

　　geno_computing:モスクワ大学・分子生物学教授を経てイスラエルに移住。テクニオン教授を経て遺伝子工学のベンチャー設立。ＤＮＡによるコンピューターの研究をメインに新しいセンサーによる次世代シーケンサー及び解析ソフトウェアを開発。

    Bushido:日立中央研究所にてＲＩＳＣプロセッサー及びＤＳＰ、また画像処理システムＬＳＩの研究開発に長年従事し、古い友人の大崎博士には様々に感化を受け、国際的視野に立っての仕事をすべく、日立中研を退社してサムソンに招かれ、現在サムソン電子の終身フェローの立場にあり、イスラエル・ハイファにて、自由な立場で異分野も含めて新しい発想にチャレンジ。MASADAとは剣道仲間。５段。
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝