フィールズ賞数学者「人間は非常に少量のデータから一般化することができますが、これは現在のAIにはできないことです。」これは非常に重要で、AIは人間に比べると、少数の重要例から本質を見抜いて方向性を決めるような能力が弱い。かつてチョムスキーは、子供は限られた、不完全な言語インプットから完全な文法を習得することができる点に着目し、人間には何らかの生得的構造（言語獲得装置）があると考えた。そこに人間の知性が宿っていると言う。
AIを使っていると、ふと「理解していない」と感じてしまう時がある。その正体は、我々人間があまりにも汎化能力に優れていて、AIの思考は機転が効かないように思えてしまうことだろう。その観点から見れば、現在のAIは単に大量のデータからパターンを抽出した機械で、いわゆる「統計的オウム」にすぎないと言える。
ChatGPT以降急激にAIの能力は向上し、推論もかなりできるようになったが、この「汎化の効率性」はなぜかモデルが進化してもなかなか人間に追いつかない。動画の中でもタオ氏は「AIはそれを偽装しようと試みることはできるが、非常に非効率的」と述べている。
チョムスキーの言うように、そのための「構造」が必要なのか、あるいは今の延長線上を量で押し切れば行けるのかはわからない。だが、「少量のデータから効率的に一般化」することが、AGIへの大きな課題なことは明らかだ。この問題が解決されれば、我々はAIを「真に知的な存在」として認めることになるはずだ。
Quote
Haider.
@slow_developer
Terence Tao says that for the next 10-20 years, humans and AI will possess complementary strengths
AI can synthesize a million papers and test every idea inside them. Humans can look at 5 examples and say, "I see the pattern now"
"they can try to fake it, but they're very
Show more0:42