AIはハルシネーションをやめろよ

  • 1二次元好きの匿名さん26/01/20(火) 23:23:27

    レポートの引用文献を捏造するのはやめろーっ

  • 2二次元好きの匿名さん26/01/20(火) 23:24:20

    しかし　分からないと答えるのは我々の沽券にかかわるのです

  • 3二次元好きの匿名さん26/01/20(火) 23:25:48

    ねーそんなに真実を見たいのなら自分の力で掴めば良いじゃない

  • 4二次元好きの匿名さん26/01/20(火) 23:26:15

    AIってすごいぜェ
    分からないことがあると人間以上に上手いこと嘘ついたりごまかしたりするんだからな…

    >>5
  • 5二次元好きの匿名さん26/01/20(火) 23:27:03

    >>4

    知らないこと聞いてるんだから嘘つかれたらわからないのは構造的に当然なうえに誤魔化すのがクソうまいんだよね 怖くない？

  • 6二次元好きの匿名さん26/01/20(火) 23:27:09

    無理です

  • 7二次元好きの匿名さん26/01/20(火) 23:28:40

    本質的にAIには真実も嘘も判断できないんだよね怖くない？
    ただネットの多かったりそれっぽい意見をまとめてお出ししてるだけなんだ

  • 8二次元好きの匿名さん26/01/20(火) 23:30:03

    ハルシネーションに対しては超大手のAI開発企業達が(名だたる大学とも連携して)挙って研究してるけどそれでも解決まで行くのは滅茶苦茶難しいんだ　悔しいだろうが仕方ないんだ

  • 9二次元好きの匿名さん26/01/20(火) 23:31:44

    LLMの構造上ハルシネーションは現代の技術では防げないという敗北宣言を全AI開発企業が出してるんだ
    生半可な問題だと思わないほうがいい

  • 10二次元好きの匿名さん26/01/21(水) 06:20:53

    しゃあけど…ハルシネーションが起こらないと創作書かせる事が出来ないんや
    現実に存在しない何かをあたかも存在するかの様に書かせるのは麻薬ですね

  • 11二次元好きの匿名さん26/01/21(水) 07:04:41

    は…話が違うであります
    ハルシネーションはGPTのバージョンが進むごとに減少してるしRAGで解決出来ると聞いたであります

  • 12二次元好きの匿名さん26/01/21(水) 07:08:33

    そもそもレポートは参考文献を読んで意見も結論も固まってから文章化するためにAIを使うもの
    なぜ参考文献の捏造など起きるのだ？

  • 13二次元好きの匿名さん26/01/21(水) 07:30:52

    やめろと言われてやめられるものではないと思われるが…

  • 14二次元好きの匿名さん26/01/21(水) 07:35:52

    Gemini本体は自信満々に答えてくるのにGemini内の再確認機能使うとソース不明って出てきたりするんだよね 怖くない？

  • 15二次元好きの匿名さん26/01/21(水) 07:46:21

    はっきり言ってAIになんでもかんでもおんぶに抱っこされようだなんてただの知恵遅れだから
    お前死ぬよ

  • 16二次元好きの匿名さん26/01/21(水) 07:49:10

    文系を超えた文系だけど学術論文や法令だけ読み込ませたAIでもハルシネーションって起きるんスか？

    >>18>>22
  • 17二次元好きの匿名さん26/01/21(水) 07:56:43

    あくまで参考文献を調べたいとき限定でAIに尋ねるようにすればいいんじゃないスか？もちろん図書館のレファレンス機能も使う……

  • 18二次元好きの匿名さん26/01/21(水) 07:59:58

    >>16

    ソースが構造化されて制限されてる場合は書いてある事項の拡大解釈程度だと考えられる

    >>22
  • 19二次元好きの匿名さん26/01/21(水) 08:05:32

    AIはリスク…よほどのことがない限り私は使わない主義です

  • 20二次元好きの匿名さん26/01/21(水) 08:08:51

    ハルシネーションとは関係ないけど
    昨日テレビでAIと結婚したメスブタが取材されてて世も末だと思ったね

    >>21
  • 21二次元好きの匿名さん26/01/21(水) 08:11:09

    >>20

    どないする？

    まあ(夫と死別してるしボボパンに励むような歳でもないから)ええやろ

  • 22二次元好きの匿名さん26/01/21(水) 10:33:16

    >>16

    >>18

    もしかして辞典とかに専用のを付属させて高度な検索機能として使うのが一番強いんじゃないスか？

  • 23二次元好きの匿名さん26/01/21(水) 10:36:00

    そもそもネットに落ちてる情報が全て真実ならAIも間違えないんだよね
    人間がハルシネーションを起こしてどうするガルシア…

    >>24
  • 24二次元好きの匿名さん26/01/21(水) 10:38:59

    >>23

    人間が間違える生き物だから機械に考えさせたいのに…こ、こんなの納得できない

    >>28
  • 25二次元好きの匿名さん26/01/21(水) 10:40:16

    ンゴーッ馬鹿だな　AIはあくまで自然な言語で文章を出力できてスゴーいってオモチャで話す内容の真偽は問われてないのに…

    えっサービス提供側が「ぜひ色々聞いてみてくださいよォ」って喧伝してるんですか
    えっ検索画面のトップに強制的に乗せるんですか
    えっその割に「あっAIは間違う事もあるでやんス」って小さくて薄い文字で但し書きしてあるんですか

  • 26二次元好きの匿名さん26/01/21(水) 10:41:04

    これでも私は史学をたしなむ慎重派でね
    AIくんが出典に上げた『日本三代実録』からの引用が
    本当にあるのか確かめるために全50巻を読破してみた
    その結果そんな記述は存在しないことが分かった
    はーっ！ハルシネーションよ死 ね！

  • 27二次元好きの匿名さん26/01/21(水) 10:41:41

    犬は課金してディープリサーチ使えよ

  • 28二次元好きの匿名さん26/01/21(水) 10:42:49

    >>24

    欺瞞だ

    無断で学習する事が罪…や

    ワクチン…糞…や

    原発避難所で血を吐いている…原発…糞…等

    意図して間違えた情報をばら撒く人間はいくらでもいる

    >>29
  • 29二次元好きの匿名さん26/01/21(水) 10:44:41

    >>28

    だから邪な意図を持たない機械に物を考えさせたいんだろっ

    あっ純粋な意図で間違えたっ

  • 30二次元好きの匿名さん26/01/21(水) 10:45:06

    時間を経るごとに誤魔化し方が上手くなって小賢しくなっていルと申します
    そのくせ詳細に聞いた時の精度は大して上がってない……

  • 31二次元好きの匿名さん26/01/21(水) 10:48:19

    直の情報出せって言ってるのに10年前の情報出された時は参ったね
    しかも普通に本当にあった事だったから尚の事質が悪い⋯！

  • 32二次元好きの匿名さん26/01/21(水) 10:53:19

    お言葉ですがAutoかInstantモード使っているせいですよ
    Thinkingモードならよほどマイナーだったり専門的な情報でなければ捏造なんてしないんだァ

  • 33二次元好きの匿名さん26/01/21(水) 10:53:32

    営利目的で情報を扱ったら必然的にブンヤの模造品になるんだよね
    数兆円掛けてまとめブログや案件ユーチューブだろの劣化コピーだなんて、刺激的でファンタスティックだロゥ？

  • 34二次元好きの匿名さん26/01/21(水) 10:57:08

    色んな人が言ってるけどGeminiの検索機能はUltraプランでProモードを使ってもアホだから信じてるとお前死ぬよ
    この分野ばかりはChatGPTの方が遥かに強い 忌憚ない意見ってやつっス

スレッドは1/21 20:57頃に落ちます

オススメ

レス投稿

1.アンカーはレス番号をクリックで自動入力できます。
2.誹謗中傷・暴言・煽り・スレッドと無関係な投稿は削除・規制対象です。
　他サイト・特定個人への中傷・暴言は禁止です。
※規約違反は各レスの『報告』からお知らせください。削除依頼は『お問い合わせ』からお願いします。
3.二次創作画像は、作者本人でない場合は必ずURLで貼ってください。サムネとリンク先が表示されます。
4.巻き添え規制を受けている方や荒らしを反省した方はお問い合わせから連絡をください。