マガジンに戻る
はてブ テクノロジー1d ago

Noroboto 攻撃:嘘のフォントで AI が人間と異なる文章を読む脆弱性

原題: 人間には普通の契約書に見えるのに「嘘のフォント」でAIだけ別の文章を読まされる「Noroboto」攻撃とは?

AIによる日本語要約

AIが文書を読み込む際に、人間の目には正しく見える契約書でも、特殊なフォントを使うことでAIだけ異なる文章を読ませる「Noroboto」攻撃が指摘されています。

  • AIは文書やPDFを読ませて要約・リスク評価するために活用されていますが、基本的な前提に脆弱性があります。
  • 人間が画面で読んだ文章とAIが内部的に読み取った文章が同じである前提が成り立たない場合があります。
  • フォント操作により、AIの文書認識を欺き、意図しない別の内容を読ませる攻撃が可能です。

※ Claude Haiku 4.5 による自動要約です。原文を必ず確認してください。

原文を はてブ テクノロジー で読む
Noroboto 攻撃:嘘のフォントで AI が人間と異なる文章を読む脆弱性 — AI Signal