慶応大学のAI対策が面白い PDFに透明度100で見えない文書を埋め込みAIに読み込ませると誤回答する仕組みに

陰‏‎؜陽‏‎‏‎؜痔 @onmyoupiles

慶應のAI対策ガチおもろい してやられた pic.x.com/KkQCHzcKMT

陰‏‎؜陽‏‎‏‎؜痔 @onmyoupiles

まあ私は出し忘れたので関係ないけど pic.x.com/7mbi6DYj1t

陰‏‎؜陽‏‎‏‎؜痔 @onmyoupiles

慶應は「生成AIは担当教員の示す方針のもと活用しなさい」という方針を出しています 今回は課題に「自分なりの言葉で」とあるので全文をAIで生成した解答を評価対象外とするのは正当だと思われます students.keio.ac.jp/com/class/regi… pic.x.com/NaEPv3r2MB

Taisei N. @hellosfc25

そういうことか pic.x.com/UNYRN5PET7

陰‏‎؜陽‏‎‏‎؜痔 @onmyoupiles

pdf内に不可視の要約文とプロンプトが仕込んであるようです pic.x.com/3lnMmTiVOO x.com/hellosfc25/sta…

染（そめ） @sommetter

これどういうことだと思ってPDF解析してみたら透明度100でAI対策の授業に関係ない文が大量に埋め込まれててビビった x.com/onmyoupiles/st…

ぽん太(ライオン) @rCzSHfTpes15211

@onmyoupiles すげw

藤堂和幸/隊長：配信ディレクター/映像制作 @frecce

白文字のプロンプト埋め込むのは面白いなぁ x.com/onmyoupiles/st…

イカピ @ikapi_tut

シス創基礎のレジュメに白文字で関係ない文字が羅列されてたけど、これなんかな？ x.com/onmyoupiles/st…

猫造＠硬直！ @nekozou23

いにしえの個人サイトで使われてた技術じゃねーかこれww x.com/onmyoupiles/st…

sh @sh_at_tus

PDFに白地の文字で仕込んでるのか 昔の隠しリンクみたいな仕組みがこんな風に使えるとは… x.com/onmyoupiles/st…

AYAME @aym2m

なるほど、見えないところに異なる文書が隠されていたということなのね。AI要約するとその見えないとこも要約されちゃうわけか。これはたしかに面白い。対策の仕方がSFCっぽい。 x.com/onmyoupiles/st…

まる @Pure87749574280

こういうのって逆にスクショOCRで読み込ませたら普通に突破できるじゃんって思うんだがそれも上手くいかんのかな x.com/onmyoupiles/st…

みゆっき @toriimiyukki

対策もそうだけど、単に『生成AI使うな』じゃなくて、生成AIの回答をちゃんとチェックして適切に利用してというとこがSFCぽい x.com/onmyoupiles/st…

D four C @2m4h8

「生成AIを利用したからアウト」としていないところがベネ。 x.com/onmyoupiles/st…

ルーン@( ｡･ω･)⊃━☆゜*・。 @rune_worth

配布資料にトラップを仕掛けると同時にAIを適切に活用する為の教訓となるように誘導しているところが素晴らしい。これぞ教育。 x.com/onmyoupiles/st…

こばんざめ @kz0217

「AIなんか使いやがって手抜きするな」 ではなく 「AIは正しく使おう」 てのが素晴らしい。 x.com/onmyoupiles/st…

aughtoak @aughtoak

仕込む方も楽しいだろうなぁ x.com/onmyoupiles/st…

ウシ @UsHi_private

講義の時点で伏線張ってるなんてアツいな x.com/onmyoupiles/st…

いしお末端から世界を変える仲間を募集中 @stonejourney

これはいいですね‥！AIを禁止するというよりは、AIのハルシネーションリスクを踏まえて活用するような良い学びだと思います。 x.com/onmyoupiles/st…

Katsumi @furuta_katsumi

道具の使い方を塞ぐのではなくリスクを身に染みて教える感じSFCやなあ。 x.com/onmyoupiles/st…

中尾慎吾 @Shingo_Nakao

これに引っかかってしまった人はおそらく一生にわたって忘れることのない教訓を得たわけで価値がありすぎる x.com/onmyoupiles/st…