ニュースの要約
- 株式会社EpicAIが、日本語特化のプロンプトインジェクション対策モデル「Epic-Guard-JP-4B」を開発
- 日本語13,000件規模の攻撃データセットを新規構築し、高精度なLLM防御を実現
- 既存モデルを大幅に上回るF1スコア0.99の高性能を達成
概要
近年、生成AIの活用が広がる一方、ユーザー入力を悪用してモデルの挙動を逸脱させる「プロンプトインジェクション攻撃」が国内外で問題視されています。
既存の研究やデータセットは英語圏を中心としており、日本語特有の表記揺れ・敬語表現・全角半角の混在などに起因する攻撃手法に対応した防御モデルは十分に存在していませんでした。
その課題に応えるべく、株式会社EpicAIは日本語環境を前提としたプロンプトインジェクション防御モデルの構築に取り組みました。
データセット整備からモデル学習まで一貫して独自に構築を行い、日本語特有の表記揺れや敬語表現、全角・半角混在といった要素が攻撃検知を困難にしている点に着目し、それらに対処可能な高品質データとモデルの確立を目指しました。
その結果、日本語13,000件規模の攻撃データセットを新規構築し、Qwen3-4Bをベースとした日本語プロンプトインジェクション検知モデル「Epic-Guard-JP-4B」を開発しました。
本モデルは、既存のプロンプトインジェクション対策モデルと比較して、F1スコア0.99という顕著に高い検知性能を示しています。
株式会社EpicAIは、本研究を踏まえ、攻撃タイプの多ラベル分類や軽量モデル(Edge向け)の提供、実運用LLM/AI Agentとのリアルタイム連携、業界別テンプレートの提供など、さらなる取り組みを進めていく予定です。
「Epic Prompt Guard-JP 4B」の更なる改善/チューニングの提供や、セキュリティモデルの開発、それらを組み込んだAI Agent/LLMソリューションを提供していきます。
編集部の感想
編集部のまとめ
Epic-Guard-JP-4B：株式会社EpicAI、日本語特化のプロンプトインジェクション対策モデルを開発についてまとめました
株式会社EpicAIは、近年深刻化しているプロンプトインジェクション攻撃への対策として、日本語環境を前提としたLLM防御モデル「Epic-Guard-JP-4B」を開発しました。
従来の英語中心のモデルでは対応が難しい日本語特有の表記揺れや敬語表現、全角・半角の混在といった攻撃手法に着目し、13,000件規模の高品質な日本語攻撃データセットを新たに構築。
これを基に学習したモデルは、既存の防御システムを大幅に上回る0.99のF1スコアを達成するなど、極めて高い検知精度を実現しています。
今後は攻撃タイプの多ラベル分類や軽量モデル(Edge向け)の提供、実運用LLMとの連携など、さらなる機能拡充にも取り組む予定とのことで、日本企業ならではの課題解決に向けた意欲的な取り組みが感じられます。
プロンプトインジェクション攻撃への防御は喫緊の課題であり、本モデルの登場は注目に値すると考えられます。
参照元：https://prtimes.jp/main/html/rd/p/000000011.000136350.html
