AIシステム特有の脆弱性にも対応
「AIシステム脆弱性診断サービス」は、AIが組み込まれたWebシステムやチャットボット、社内文書検索AI、AIエージェントなどを対象としています。従来のWebアプリケーションに対する脆弱性診断に加え、プロンプトインジェクションやRAG汚染、機密情報漏洩といったAIシステム特有のリスクを検証することが特徴です。
同社がソフトウェアテスト・品質検証事業で培ったノウハウと、セキュリティ専門ベンダーとの連携体制を活かし、AIシステムの安全性向上を支援するとしています。
主な診断領域
本サービスでは、以下の2つの主要な診断領域をカバーします。
-
通常の脆弱性診断
AIシステムが稼働するWebアプリケーションやサーバーなどを対象に、一般的な脆弱性を検証します。
-
AIシステム特有の脆弱性診断
AIへの入力や回答、参照データ、AIエージェントの権限などを対象に、AIシステム特有のリスクを検証します。
強みはハイブリッド検証と改善支援
ProVisionの提供するAIシステム脆弱性診断には、以下の3つの強みがあります。
-
Web層とAI層を組み合わせた診断
Webアプリケーションやサーバーなどの基盤部分と、AIの入力・回答・参照データといったAI特有の領域を組み合わせ、AIシステム全体を診断します。 -
手動診断とツール診断によるハイブリッド検証
自動診断ツールによる網羅的な検証に加え、セキュリティエンジニアによる手動診断を実施します。AIシステムは、入力内容や参照データ、処理ロジックの組み合わせによって挙動が変化するため、機械的な検証だけでは発見が難しい脆弱性も存在します。手動診断とツール診断を組み合わせることで、複雑な処理ロジックの隙やAI特有の攻撃シナリオを多角的に検証することが可能となります。 -
診断結果をもとにした改善支援
診断結果は、脆弱性の深刻度や想定される影響、再現手順、具体的な対策方法などを含む報告書として提出されます。また、診断期間中に緊急性の高い脆弱性が発見された場合は、最終報告書を待たず、当日中に速報として共有する体制を整えています。
今後の展望と資料公開
同社は今後も、AIシステムを取り巻く新たな攻撃手法や脆弱性情報を踏まえ、診断内容を継続的にアップデートしていく方針です。また、脆弱性診断を通じて把握したシステムの挙動や課題をもとに、診断後の品質検証やAIの継続的な精度向上まで支援し、AIシステムの安全かつ安定した運用に貢献するとしています。
本サービスの具体的な検証内容や主な提供領域、サービスプラン、ご依頼から運用までの流れなどをまとめたサービス紹介資料も公開されています。
AIシステムのセキュリティ対策や脆弱性診断を検討している企業、運用中のAIシステムに不安を感じている企業は、以下のリンクから詳細情報を確認できます。
同社は、本サービスを通じてWeb層とAI層に潜む脆弱性やリスクを可視化し、企業がAIシステムを安全に運用できる環境づくりを支援していくとしています。
ソース元：
AIシステムのWeb層・AI層を総合的に診断する「AIシステム脆弱性診断サービス」を提供開始
https://prtimes.jp/main/html/rd/p/000000187.000099874.html