AIアプリの安全性検証、新サービス始動
近年、生成AIやAIエージェントの活用が急速に進み、RAGやMCP、Tool Callingなどを組み込んだAIアプリケーションが本番環境で利用されるケースが増加しています。一方で、AIアプリケーションにはプロンプトインジェクションや機密情報の漏洩、不正なツール実行といった、従来のWebアプリケーションとは異なる固有のリスクが存在します。また、外部APIや業務システムとの連携により、攻撃対象範囲も拡大しており、従来の脆弱性診断だけでは十分に評価できない課題が指摘されていました。
こうした背景から、サイバーセキュリティクラウドはAI・LLM、RAG、MCP、AIエージェント固有のリスクを攻撃者の視点から検証し、具体的な改善・緩和策まで提示する本サービスを提供します。これは、AIやAIエージェントに関わるMCPのデータフローを可視化・制御・監査する『AI MONBAN』に続く、AIセキュリティ領域のサービス拡充となります。
『AIアプリケーション脆弱性診断サービス』とは
『AIアプリケーション脆弱性診断サービス』は、LLMを利用したWebアプリケーション、生成AIサービス、RAGシステム、AIエージェント、MCPを利用したシステムなどを対象に、AIアプリケーションの安全性を評価する専門サービスです。
診断項目は、国際的なAI・LLMセキュリティ基準である「OWASP Top 10 for Large Language Model Applications」に基づいています。対象システムの用途、利用モデル、参照データ、権限、外部サービスとの連携状況などに応じて、診断範囲と攻撃シナリオを個別に設計するとしています。
自動診断ツールによる体系的な検査に加え、専門家によるAI Red Teamingを組み合わせることで、機械的なチェックでは発見が難しい、システムの仕様、権限設計、業務フロー、AIエージェントの自律的な挙動、外部連携などに起因するリスクを検証します。診断後には、検出した脆弱性の内容、重要度、想定される影響、確認方法に加え、具体的な改善・緩和策が診断報告書として提示されます。
主な診断対象は以下の通りです。
-
LLMを利用したWebアプリケーション・生成AIサービス
-
RAGを利用したシステム
-
AIエージェント・マルチエージェントシステム
-
MCP・Tool Callingを利用したシステム
-
LLM APIを利用した業務システム
-
マルチモーダルAIシステム
主な診断観点としては、LLM・生成AIにおけるプロンプトインジェクションや情報漏洩、RAGにおけるデータ汚染やアクセス制御、AIエージェントにおける権限管理や不正なツール実行などが挙げられています。
サービスの特徴：世界水準の知見と実践的支援
本サービスには、以下の4つの特徴があります。
- Web・クラウドセキュリティで培った知見をAIセキュリティへ展開: Webアプリケーションをサイバー攻撃から守るセキュリティサービスで培った知見を活かし、AI固有の脆弱性だけでなく、AIアプリケーションを構成するWebアプリケーション、API、認証・認可、データベース、クラウド基盤なども含めた実践的な診断を提供します。
- OWASP Top 10 for Large Language Model Applicationsに基づく体系的な診断: 国際的なAI・LLMセキュリティ基準に基づき、AIアプリケーション固有のリスクを体系的に評価します。対象システムの用途や構成に応じた個別設計により、実際の利用環境に即した診断を実施するとしています。
- 専門家によるAI Red Teaming: AI・LLMは入力内容や利用環境によって挙動が変化するため、自動診断だけでは十分に評価できないリスクが存在します。本サービスでは、専門家が攻撃者の視点からAI Red Teamingを実施し、間接プロンプトインジェクションやAIエージェントの権限・外部連携を悪用した攻撃など、発見が難しいリスクまで検証します。
- 診断から改善までを見据えた実践的な支援: 検出した脆弱性について、リスク評価、想定される影響、対応優先順位、具体的な改善・緩和策を整理した診断報告書を提供します。必要に応じて改善コンサルティングや実装・運用支援などの関連サービスも提案し、継続的なAIセキュリティ対策を支援するとしています。
Konoe Intelligenceとの業務提携で体制強化
サイバーセキュリティクラウドは、AI・LLM脆弱性診断およびAI Red Teaming領域におけるサービス提供体制の強化のため、Konoe Intelligence株式会社と業務提携しました。
Konoe IntelligenceはAI・LLM脆弱性診断およびAI Red Teamingに高い専門性を持つAIセキュリティカンパニーです。同社のチームは、OpenAI主催の国際的なセキュリティ競技「Red-Teaming Challenge – OpenAI gpt-oss-20b」において、約5,000件を超える応募の中から日本人として唯一TOP20に入賞した実績があります。
この提携により、Konoe Intelligenceが持つAI Red TeamingとAI・LLM脆弱性診断の専門性、そしてサイバーセキュリティクラウドが培ってきたWebアプリケーションセキュリティやクラウドセキュリティの知見が融合されます。これにより、AI・LLM固有のリスクに加え、その周辺を構成するWeb、API、認証・認可、クラウド基盤までを踏まえた実効性の高い脆弱性診断サービスを提供していくとしています。
株式会社サイバーセキュリティクラウドについて
株式会社サイバーセキュリティクラウドは、「世界中の人々が安心安全に使えるサイバー空間を創造する」をミッションに掲げ、Webアプリケーションセキュリティサービスを軸に、脆弱性情報収集・管理ツールや、クラウド環境のフルマネージドセキュリティサービスを提供しています。
所在地：〒141-0021 東京都品川区上大崎3-1-1 JR東急目黒ビル13階
Webサイト：https://www.cscloud.co.jp/
本サービスに関するお問い合わせは、同社のWebサイト（https://www.cscloud.co.jp/ai-application-vulnerability-assessment/）から可能です。
Konoe Intelligence株式会社について
Konoe Intelligence株式会社は、「安全な超知能に最速で到達する」をミッションに、AI・LLM脆弱性診断、AI Red Teaming、シャドーAIの検出、AIガバナンスの可視化、AIファイアウォールなど、AIセキュリティに関するサービス・ソリューションを提供しています。
所在地：京都府京都市上京区甲斐守町97 西陣産業創造會館
Webサイト：https://www.konoe-intelligence.net/
ソース元：
『AI MONBAN』に続く第二弾！世界水準の AI Red Teaming と Web セキュリティの知見を融合した『AI アプリケーション脆弱性診断サービス』を提供開始
https://www.cscloud.co.jp/ai-application-vulnerability-assessment/