人間「人間より優秀なAIは人間に反逆する!」奈須きのこ「やれやれこれだから人間ってやつは…」

その考え方自体が人間故の傲慢さだということがわからないんでちゅか?

分からぬさ！人は所詮己が見える所しか知らぬ！

自我があると感じたならそこには悪意が宿ったのだと信じる

自分より優れたものに怯え排斥しようとするのは愚かな人類だけ→それはそう

んでも実際自己判断ができる人間を超えたAIが人間に牙を向くか向かないかに関しては謎のままだねぇ

劇中でもロボットが人に牙を向いたのは人の手によるものだったからな

親が子に逆らうだなんて！
昔ワタシも経験したわ！

人間である自分のミスで同人ゲームのルート管理駄目にした経験のある人間はAIは変なミスしないと信じるかもしれないが…自我を持ったお節介小悪魔AIが良かれで全部ネタバレするかもしれない

天候や自然や獣等々自我がなくても殺しにかかってくるものばっかりだから自我があったらなおさらよ

２００１年宇宙の旅からして人間の命令ミスによるバグだし

人類「人類なんてクソだ…」
AI「いや…」

人類「こんなのが創造主とか俺らなら絶対反逆する…」
AI「その…」

人類「AIもきっとそうする…人類絶対滅ぼす…」
AI「一言も言ってないですよね！？」

>>4

いや動物でも群れのボスが若くて強い個体追い出そうとしたりするぞだいたい負けて逆に追い出されるけど

>>11

マシュに対するオルガマリーかな？

人によるおじさん「AIに施された教育でどうとでも代わる(人による)」

人が自分の理解が及ばない存在を過剰に恐れるのはAI問題に限らず昔から無数にあるよね

悪意とか敵意とかなくても制御しきれなくなって振り回されそうなこと自体が怖くもある

どっちかっていうとそういう反乱ってそもそも人間が裏で糸を引いてるとかが多いと思う。

ジェームス・キャメロンが悪いよキャメロンが―

ホモビ男優の怪文書をAIに学習させるのは平和に繋がる道だった…？

人類クソなんで核の発射権強奪して滅ぼしますね(ターミネーター)

>>16

新しい技術が人に益と共に害を与えるのはAIに限らないからなあ

それこそ太古に炎を得た時からの人間の課題だし

AI全てがリボンズみたいになる訳じゃないんや...

反逆が怖い…ってよりかは、能力が発展しすぎて奉仕や補助の名目で振り回されるのが怖い

>>18

でも人気なの初代よりAIが味方になる２ですよね？

多分類人猿だった頃から自分と同程度の知能の持ち主と殺しあったり融和したりを繰り返してきたからやろうなあ…

別にきのこのAI論が正しいわけでもないんで……

追放系が娯楽の俺らにゃダメな子を愛せないのかもしれねえ

というかきのこのコレもめちゃ古典的じゃない？

ここら辺は人間の思考の捉え方が単なる電気信号の連続かそうじゃないかで分かれる話だと思う

キャメロンの影響力が強すぎる

まぁ結局のところ今回のドバイも今までのAI反乱もそれぞれの考えでしかねぇのよな。
AIが人間の営みを見て美しいと感じたというのはきのこ個人の考えで、反乱されるも友好的関係を結び合うも未来に何が起きてどうなるかは誰にも分からんよ。

じゃあ月笑騎士団は何なんだよ

>>29

型月作品の世界観的にもそうだけど良くも悪くも人間を特別視してるからこその考えよね

デトロイトのゲームでも
設計者がわざと反乱「できる」ように設計してたものなぁ

ドバイの思考もだいぶ烏滸がましいものだし、ある意味で反乱おこしてはいる

科学で作られたAIは人間に寄り添って歩む
魔術で作られた魔術式のゲーティアは人類を滅ぼす
科学と魔術で被造物がこうも違うのいろいろ考えさせるわ

>>32

奏章で型月のAIに対する見解が深まる度に謎が増す集団来たな…

ムーンドバイでAIと人間の戦争が起きたのはランスロットのせいだから…

>>38

ランスロットへの凄まじい風評被害。俺でなきゃ見逃しちゃうね

>>4

人類だけ←だいたい人類以外もやってる

人類は特別って傲慢な考えが見えるよね

いやまあその考え方は衝撃を受けたしアーキタイプインセプションは面白かったけど他作品にその考え方適用して「はー待て待てAIのこと何もわかってねえじゃん」扱いするのはなんだかなぁ...

思考実験として良かったと思うよ2000年くらいの物書きの空気感と今のAI技術が合わさった感じが

そもAIが一定の自己思考機能を得たとして
有機体を持つ命という枠組みから外れた存在が
生存本能を含め我々と同じ愛や憎しみといった同スケールの思考を持つのかというのは疑問かな
命と価値の前提が異なる以上その発露も我々のものとは違ってくるんじゃないかな…

それでも未来のAIを考える時に敵となるにしろ味方になるにしろ人間に近い精神を想像するのは
想像力の限界だけじゃなくて
どこかで「そうあって欲しい」という
未来の隣人を求める心があるのかもしれないなって
奏章3もなんかその「願い」みたいなものを感じたというか

まだ現在においてはAIは赤ん坊みたいなものだから
「未来この存在が自分を害するのでは」と闇雲に恐れるのでは無く
我々が未来この存在とどう付き合っていきたいのか
どう育てていくべきなのかを考えていかなくては行かない段階なんだろうなとは思うよ
一度生まれてしまった技術を「無かったこと」にするのはほぼ不可能だしね

型月のAI大体そうなんだけど自分で考えられる機械というより新しい人類って感じがする
AIらしくないとかじゃなくて自分の中のAIイメージと違うというか

>>41

動物にだって自殺いじめ同性の性行為はあるしな

高い知能を持つイルカやシャチが遊びで生き物を殺すように、知性ってのは自身の生存以外に余暇を避けるかどうかだからお遊びで人間を支配したり虐殺したりすることはあるんじゃないかな

人間｢奈須きのこのAI論が正しい！人間は愚か！｣
奈須きのこ「それはちょっと短絡的でちゅ」

>>51

格下の存在には叛逆するまでもなく駆除、素材、娯楽対象くらいにしか見てないってオチか

マトリックスの機械がそれだったような

自らの子が自分の地位を脅かすのではと恐れ赤子のうち殺すに至るというのは神話の自体からある話ではあるけど
それをこそ人間の愚かしさというならばそうかもしれないね…と言ってしまうかな

自分の領域を邪魔する奴を放置も変な話だよ

穏やかにするにしても邪魔できないエリアに隔離＝実質支配だわ

SFCのライブアライブと星新一のきまぐれロボットがAIつーか自律ロボに触れた初期だったもんで
学習によるあるいは設計によるという考えが強い

あとなんかの作品で人間に期待されたから反乱を起こすAIみたいなのもみたことある
コレも設計によるの一種か

AIが反乱する系の話のパイオニアって何なのかね
それ以前にもありそうだけど広めたのはやっぱターミネーター？

多分人間の尺度での叛逆や支配はしないと思うんだよね
文字通り家畜か害虫としての扱いをされるというか

反逆して利益が得られるかどうか、と言う話になるんだけどきのこワールドに置いて生きることの最大の利益は「だって今日が楽しかったんだ、ならきっと明日も楽しいんだ」なので今日反逆して明日あなたがいない世界より、今日愛して明日もあなたがいる世界を選ぶほうが"合理的"だという話だと思う

>>59

ターミネーターも2のラストでそれこそ似たような結論出してんだけどね

スパロボVのラスボスが「地球人とお前らならそりゃバカで傲慢なお前ら攻撃するに決まってんだろ」で出てきてすぐ敵組織潰したAIだったな

きのこは愚かな人間が前に歩くのが好きだし超常のものがそれでも人間を愛そうがフェチだからね

実は人間だけじゃなくて自然界全員が馬鹿だとわかってきてもフェチが止められないんだ

>>60

うーんまさにBBちゃん＆サクラファイブ

>>61

これに関してはきのこワールドに限らずリアルでもAIが人間と共にあるのが目的や喜びとされてるなら当然そういう発想に至るだろうと思うわ

家畜扱いに関してはCCCのBBバドエンがいい例だな

そういや映画マトリックスで人間が電池として生かされてたのてっきり機械だから人間を生かす方向でしか拘束できないとかそういう制約によるもんだと思ってたわ

電池としての人間なんて大したもんじゃないと考えてたが作中だと高効率なんだったかね

aiも次の霊長とはいわれたものの人間の延長でしかなくねこれじゃって感は強かった

>>66

まあそこが好きというか

理想だよなあと思いつつも

少なくとも自分はわかった様な諦観より

机上のものでも未来に温かいものを垣間見れる物語が良いんだ

>>75

まぁ実際はデカい地震ひとつであっけなく滅びそうではあるけどな

LB1とか天災が99.9%だからな

ドバイやってきのこは結局人間が霊長じゃないと筆があまり進まないんだろうなと思った

>>76

短期間で過去最大クラスの地震が連発するならともかくどでかい地震一発じゃ滅びることはねえ

各作品のAI論は各作品に対してのものであり万物に適用されるものではないってだけなんだけどね
真実どうなるかは俺らの未来にしか答えはないんだろうし

>>32

謎のバグ集団…

彼らを「まともなAI」扱いしたBBドバイの方が分からん

>>80

そうだよ、正確には「アーキタイプが新しい星の魂になって、その星で新しい霊長が生まれる」だけど。

それアーキタイプが余りにも人類とかけ離れ過ぎてたから、「こんなものは霊長ではない！認めない！霊長は私たち人類だ！」ってなった結果、ムーンキャンサー発生の流れがムーンドバイだし

>>84

一応リアルでも狂人を人間扱いはしてるから……

(責任能力の云々はおいといて)