Forced Deferral攻撃：LMカスケード構成の脆弱性

安価なLLMで初期処理し、信頼度が低い場合のみ高価なモデルに振り分けるカスケード構成において、攻撃者が意図的に低コストモデルの拒否を誘発し、高額課金を発生させる「Forced Deferral攻撃」に関する論文が公開されました。

• カスケード構成は推論コストを削減する有効な手法ですが、どのクエリを高価なモデルに振り分けるかの決定メカニズムが攻撃対象になり得ます。
• 特定の画像入力により、低コストモデルに強制的に判断を拒否させることで、高額な課金を引き起こす可能性があります。
• このセキュリティリスクは、マルチモーダル機能を備えたLLM活用システムで現在進行形で発生している可能性があります。

※ Claude Haiku 4.5 による自動要約です。原文を必ず確認してください。