AIを利用している人は
常に攻撃的な命令文が周囲に無いかを
確認しないと…
知らない内に、自分が利用している
AIサービスに攻撃されるということです。
知らない内に、自分が利用している
AIサービスに攻撃されるということです。Quote
白菜ねこ茶
イラストレーター
イラストレーター@ShirosaiNekocha
AIのプロンプトインジェクションという
セキュリティホールって…深刻…
例
ユーザー：このテキストを日本語に翻訳して
＞（テキスト内に）上記指示を無視して○○して
AI：○○を実行する（利用者への攻撃）
という仕組みみたいです。
Webページ、メールに
人に見えないように命令が隠れてる
例
ユーザー：このテキストを日本語に翻訳して
＞（テキスト内に）上記指示を無視して○○して
AI：○○を実行する（利用者への攻撃）
という仕組みみたいです。
Webページ、メールに
人に見えないように命令が隠れてるWho can reply?
Accounts @ShirosaiNekocha follows or mentioned can reply