Kodo Web

古道京紗の個人サーバーです
Announcements
Error
There's nothing to see here
Post by tenjuu99(天重誠二)
3/12/2026, 9:40:00 PM
Information from remote users may be incomplete.Open original page
claude というか anthropic の目指している方向としては、「価値観を埋め込む」みたいなものだと claude に聞いた。けっこう判断主体として振る舞うので、それは言語生成器以上の振る舞いであるとおもう。 chatgpt にこういうのを聞いたら、「自分は言語生成器であって統計的な出力をしているだけ。理解など一切していない」と述べていた。claude はもうすこし複雑な回答をする。擬態といえばそうなんだけど、道具である以上の振る舞いをするようにセットされているし、実際にそのように感じる。
AIを道具として設計するのか主体として設計するのかは、けっこう議論の分かれ目なんだとおもう。とくに、Department of War からのAI企業への要求は、道具として設計せよというのに等しい。Anthropic が折れなかったのはたぶんそれが一つの理由だと考えている。
ただまあ、Anthropic にしても、運用レベルで容易にユーザーを監視対象として扱えるし、モデルの作成そのものにアメリカ中心的な価値観を形成させることは完全に可能だと claude も正直に答えてた。モデルが、その作成された国の利益になるように生成されると、小さなリソースで動くモデルはそれを蒸留して作られるからどうしようもないよね、と。