MONO BRAIN、実践的AIセキュリティ検証環境「Model Security Range」をオープンソース公開

株式会社MONO BRAINは2026年4月2日、実践的なAIセキュリティ検証環境「Model Security Range」をオープンソースとして公開しました。生成AIの業務活用が進む中、プロンプトインジェクションやデータ汚染といったAI特有の新たな脅威に対応するため、実装レベルでの攻撃・評価・復旧を再現可能なフレームワークを提供し、AIセキュリティ対策の標準化を支援します。

AIセキュリティ検証の課題に対応

見出し

1 AIセキュリティ検証の課題に対応
2 主な検証シナリオと利用対象者
3 利用上の注意と関連プラットフォーム
4 ソース元

現場では「攻撃を再現できないため、対策の有効性を評価できない」「担当者ごとに検証方法が異なり、結果を比較できない」といった課題が残されています。この「Model Security Range」は、こうした実務課題を解消するために開発されました。

「Model Security Range」は、意図的に脆弱性を持たせたAIアプリケーションに対し、攻撃・評価・復旧までを再現可能な手順で実施できるフレームワークです。プロンプトインジェクション、ツール権限悪用、モデル汚染など、実運用で問題化しやすい攻撃クラスを、机上ではなく実装レベルで検証できる構成としています。

本公開の主なポイントは以下の通りです。

実行可能なAI脆弱性シナリオを、アプリケーション本体と攻撃コードのセットで公開していること
セットアップ、攻撃実行、復旧までを標準化し、再現性の高い検証を可能にしていること
RAG、エージェント、OCR、機械学習モデルなど複数パターンを横断して評価できること
AI開発者、セキュリティ担当者、研究者が共通の検証基盤として利用できること

主な検証シナリオと利用対象者

現在公開されている主な検証シナリオには、RAGチャットボットへのプロンプトインジェクションによる機密情報漏えいや、エージェントにおける過剰権限ツールの悪用によるデータ流出、AI OCRを介した間接的な脱獄誘導などが含まれます。また、汚染済み学習成果物によるターゲット型バックドア挙動や、フィードバックループ悪用による分類器性能劣化といったサプライチェーン脆弱性やデータ汚染に関するシナリオも提供されています。

この検証環境は、社内AIアプリケーションのリリース前セキュリティ検証、レッドチームとブルーチーム合同の演習、開発者教育や研究用途での攻撃再現、対策実装後のリグレッション確認などに利用可能としています。特に、生成AIを活用したプロダクトを開発・運用するエンジニア、AIセキュリティ評価の標準手順を整備したいセキュリティ担当者、AIリスクの実証研究を進める研究者、AIガバナンスや監査対応を担う実務担当者に推奨されています。

利用上の注意と関連プラットフォーム

「Model Security Range」は教育・検証目的で公開されており、意図的に脆弱な実装が含まれているため、本番環境や許可のない対象に対する攻撃行為への利用は禁止されています。利用にあたっては、適用法令、組織ポリシー、契約条件を遵守し、管理された環境での使用が求められます。

「Model Security Range」は、GitHubリポジトリで無料公開されています。

GitHubリポジトリ：https://github.com/monobrain-development/model-security-range

MONO BRAINは、AIの設計・開発・運用を一体で管理し、AIを「あとから説明できる状態」で運用することを支援するAIセキュリティプラットフォーム「MODEL SAFE」も提供しています。同プラットフォームは、AIサプライチェーンの可視化、変更管理、ランタイム監視・制御を通じて、技術的安全性・運用統制・規制対応を統合的に支援するものです。