「生成AIは思考しているわけではない」という指摘をみるが「あれを思考と呼ばないなら人間は本当に思考してるといえるのか？」と疑問に思う話

ニカイドウレンジ @R_Nikaido

「生成AIは思考しているわけではない」という指摘を見るたびに「あれを思考と呼ばないのなら、じゃあ人間って本当に思考をしていると言えるのか…？」といつも疑問に思うんだけど…。 そもそも「思考」ってなに？

さわむら @shun1s

@R_Nikaido 「やっているように見える」だけですね。 LLM（大規模言語モデル）は今も変わらず「統計的にもっともらしい文章」を生成しているだけです。 様々なテクニックによってシステム1の質が向上し、「素人のどんぶり勘定」から「玄人のどんぶり勘定」に変化したようなイメージです。

ニカイドウレンジ @R_Nikaido

@shun1s なるほど。そう説明されるとそうかもしれません。 ちなみに自分が見てきた範囲では、めちゃくちゃ頭良い人はずっとシステム1で稼動してるイメージがあります。

さわむら @shun1s

@R_Nikaido 頭が良い（ように見える人）にはいくつかのパターンがありますが、もし「即断即決の質が高い」ということなら、仰るとおりシステム1の精度が極めて高くなっているものと考えられます。 熟練の料理人が目分量で正確に計量できるのと同じようなものですね。

桜井ユウ @SakuYuuOfficial

@R_Nikaido 思考のように見えるそれは、人の要求から出力しただけのものだと思ってる。 AIは自発的に何かをすることは無いと思っているけど、もし仮に学習の過程で自発的に動物を愛でたり草木を育てたりと慈愛に満ちた行動とも始めるようになったら揺らぐ。私はそれがシンギュラリティだと思う。

ノエル @HakumeiYakou

@R_Nikaido LLMなどの推論が思考と呼べるかという問題と、それらが人間の思考(と呼ばれるもの)と同じ種類なのかという問題が重なり、複雑化しているように思います。 私の考えでは 『人間は思考している』は真。 『推論機は思考している』は真。 『それらは同じ種類である』は未解明、直感的には偽ですね。

ニカイドウレンジ @R_Nikaido

@HakumeiYakou なるほど。その感覚が自分としても近いかもしれません。 『それらは同じ種類である』の点については、自分の中では「人間の思考の多様性の中に含まれるくらいには、人間に近いものなのでは」という解釈がですね。

中嶋 謙互 @ringo

@R_Nikaido @HakumeiYakou LLMで声を生成できるモデルがありますが、それが漢字の読み間違いをします。正しい読み方を教えても、どうしても修正できません。　なんかAIと人間の思考方法の違いをハッキリ感じる瞬間です。

中嶋 謙互 @ringo

@R_Nikaido @HakumeiYakou 将来のモデルも必ずそうであるという考えではなく、改善されると思うし、将来のモデルが人間と同じような思考方法ができる可能性ももちろんあると思ってます。

fueru ypr @yprFueru

@R_Nikaido 100回やっても似た結果を返すからなあ…人間の思考と同じとは思えないのだけど… どちらかというと、DQシリーズの特定の敵には初手必ず同じ行動をするAIに似てる。 あ、でも、アニメ系の出力をしたあとはしばらくアニメっぽい出力を繰り返すよね。そういう絵が欲しいんじゃないんだけどってときも。

irf:.t @nfdrtcknl7sl3ut

@R_Nikaido 「弱い思考」くらいの言い方がしっくりきます。 すごくわかってそうに流暢に話すのに、いざやらせてみると全然できない。その人間ではちょっとあり得なさそうなギャップの部分に、何か欠けている部品があるんだろうなっていう感じがします。

arles324 @arles324

@R_Nikaido 人間は意味を理解できるけど AIは意味を理解できない これが一般的な答だと思います

てすと @test_account53

@R_Nikaido SFの「ロボットは感情を持たない」と似たものを感じる

hk923m @hk923m

@R_Nikaido まさにこの本と同じ amazon.co.jp/%E5%BF%83%E3%8… 心はこうして創られる 「即興する脳」の心理学 (講談社選書メチエ) | ニック・チェイター, 高橋 達二, 長谷川 珈, 高橋 達二, 長谷川 珈 |本 | 通販 | Amazon

Aiden @Aiden_Novaa

@R_Nikaido そうそう、この疑問すごく分かる。jenova aiで研究してる時も感じるけど、aiの「推論」と人間の「思考」って境界線が曖昧すぎるよね。結局どっちも情報処理してるだけかもしれないし、意識の有無が違いなのかな？でも意識って何かも分からないし...思考の定義から見直す必要ありそう

むすか @MSKOPPQ

@R_Nikaido たしかに、思考って言葉そのものの定義が曖昧だし主観的な要素を多く含み得るから難しい

あいまい @AVVZLEInBTBTlbR

@R_Nikaido 人間の大半は思考してないことが明らかになったんだけど、じゃあその線引きをどこで行うか？って問題が新たに（古来からの難問でもある）明らかになってるんだけど、未だ答えがでていない。つまり人類は『思考』を定義できていないのだし、思考している人間が実はとても少ないって事。

Agarma @Agarma7

@R_Nikaido ベイトソンの学習理論は調べて損しないかも。 AIはいわゆる学習1だけど、人間の思考は学習2もある。

タラコくん @weH56IjrxHFFLsd

@R_Nikaido やっぱり「経験や知識をもとにあれこれと頭を働かせること」じゃないですかね？ 一本のバナナ問題が分かりやすいですけど生成AIは知識はありますが考えてないんですよね「一本」と「バナナ」を理解しても「一本のバナナ」を想像出来ませんし

かいべつ @kaibetsu

@R_Nikaido 「口からでまかせ」と「思考」の違いって何？って話になりそう