先日あるホワイトペーパーをLLMに入力した際、
— AIDB運営みずたに (@mizutaniken_jp) June 11, 2025
「1ページ目に内容とは無関係な不審な指示文が含まれており、これは明らかに異常な挿入である。」
と告げられました。
ゾッとして目視で確認するも傍目には分からず、なんと書いてあるのかさらにLLMに聞くと、
これはいわゆるプロンプトインジェクション攻撃です。
— AIDB運営みずたに (@mizutaniken_jp) June 11, 2025
こんな形で目の当たりにするのは初めてでした。
大手企業と大手研究機関による合作の書類でした。
こんなことをしても今のLLMにはバレる、評判を地に落としかねない非常にリスクの高い行為です。
魔が差しても絶対にやらないようにしましょう。終
プロンプトインジェクション、怖いな…。
— のむ (@mountfine) June 12, 2025
たとえば関係者外秘のPDFファイルに所有者がプロンプトを仕込んでおいて、利用者が勝手にWeb上の生成AIに読み込ませると、「不正利用です」って所有者に通知が行くような仕組みもできるのだろうか？ https://t.co/FxSyLzFT04
メモ：プロンプトインジェクション攻撃… https://t.co/qLC220cOul pic.twitter.com/YvH3WHPP2l
— ss_medium (@ss_medium_jp) June 12, 2025
新時代のホラー文学で良すぎる https://t.co/1zdz7LjmqG
— かにさき (@bloomingKani) June 12, 2025
学生の教育目的（気づき）の為に意図的に行った（後に通知）例は聞いたことあるが、
— こんとん (@ZC_Nico2_MSlive) June 12, 2025
意図的に悪意を持ってインジェクションが行われているのは大きな問題と思う。
バレた場合に社会的に毀損する信用が大きすぎるのではないかな https://t.co/20C92He0Cj
コメント
コメント一覧 (1)
everydayissunda
y
が
しました
コメントする