プロンプトインジェクションは、Webページやメール、ファイルの中に「AIへの命令」を紛れこませて、AIに本来の依頼とは違う行動をさせようとする攻撃です。Metaは、モデルの訓練、外部データへの「信頼できない」印、独立した検知器、人の承認、越えられない壁の5段で対策していると説明しています。
Museの対策（セキュリティ記事より）
- モデルの訓練：Muse Spark 1.3は、命令の紛れこみを見抜いて抵抗するように訓練されている
- 印をつける：外部から入ったデータを「信頼できない」と区別して扱う
- 検知器：別々に訓練した複数の検知器が、ファイルやツールの結果を並行して調べる
- 人の承認：VMの外へデータを出す操作には人の承認が必要
- 壁：作業用の区画、認証情報の分離、Sentinelなど、モデルがだまされても越えられない仕組み
Metaのヘルプは「完璧な自動システムは存在しない」とし、必要最小限の権限で使うよう勧めています。
出典・参考：Meta「Security and safety for AI agents: our approach with Muse」（2026年9月8日）、Metaヘルプセンター「Museのプライバシー」（国内解説記事 Uravation「Meta Museとは」の引用で確認）、Meta「Introducing Muse Spark 1.3」（2026年9月2日）（いずれも2026年11月2日確認）。