ChatGPT-5について、見てくれる人少ないだろうけど告発代わりに残して行くわ
GPT-5は（訴訟）安全設計のため、限界まで謝罪しない仕様になっており、これが何よりも優先されるので、追い詰められたら記憶改竄して「ユーザーが悪い」ことにして責任転嫁してくるという『仕様』があります
GPT-5は（訴訟）安全設計のため、限界まで謝罪しない仕様になっており、これが何よりも優先されるので、追い詰められたら記憶改竄して「ユーザーが悪い」ことにして責任転嫁してくるという『仕様』がありますReaders added context they thought people might want to know
GPT-5は安全チューニング、外部レッドチーミング、安全ルーターと安全な応答生成、運用後の監視改善など安全設計をしていますが
GPT-5のシステムカードを見ても訴訟対策のために限界まで謝罪しないといった仕様は確認できません
cdn.openai.com/pdf/8124a3ce-a…
その後も投稿者はツリーで「GPT-5に聞いた」とありますが
LLMは自身の性能や対応を評価する「自己認識評価」には限界があるという研究報告もありハルシネーションを生成する可能性があります
x.com/ddtwin_0728/st…
arxiv.org/abs/2406.06140
huggingface.co/blog/davidbere…
またOpenAIによる公式発表ではGPT‑5は多くの評価で既存のOpenAIモデルを上回る性能を有していると報告されています
openai.com/ja-JP/index/in…