AIエージェントシステムの普及と新たな脅威
近年、LLMの利用はチャットボットにとどまらず、自律的に行動するAIエージェントや複数のAIエージェントを連携させるマルチAIエージェントを取り入れたAIエージェントシステムへと急速に拡大しています。これにより、従来のシステムでは実現が困難だった複雑な処理を、自動的かつ柔軟に実行できるようになっています。
一方で、AIエージェントシステムには、従来のプロンプトインジェクションに加え、メモリ汚染による攻撃、外部ツールの細工、悪意のあるAIエージェントの混入といった特有の脅威が多数存在すると指摘されています。これらの攻撃は、既存の情報システムを対象とした攻撃とは原理が異なる場合が多く、従来のセキュリティ技術だけでは対処が困難になりつつあるといいます。こうした状況を受け、新たな視点に基づく対策が求められています。
両社は、これらの課題を解決するため、AIエージェントシステムに特化した攻撃手法と防御手法を体系的かつ実践的に学べる本ハンズオントレーニングを開発しました。
トレーニングの具体的な内容
本トレーニングは、以下の3つのパートで構成されています。
1. AIエージェントセキュリティ入門
座学形式で、AIエージェントおよびマルチAIエージェントの動作原理や活用事例、運用リスク、セキュリティリスクの基礎を体系的に学習します。実際のインシデント事例や攻撃シナリオを通じて、現場で想定される脅威を具体的に理解することを目指します。
2. セキュリティ実践ハンズオン
本パートでは、AIエージェントシステムに対する攻撃とその対策を一貫して実践的に学びます。独自の検証環境を使用し、OWASP Agentic AI（https://genai.owasp.org/resource/agentic-ai-threats-and-mitigations/）をベースとした脅威を確認します。これにより、AIエージェントシステムに特有のリスクを体系的に整理し、攻撃者視点と防御者視点の両面から脅威構造を深く理解します。続いて、実際に攻撃を実行し、その挙動分析から対策までを実践的に習得します。
主な脅威として、以下の項目を扱います。
-
AIエージェントにおける直接/間接プロンプトインジェクション
-
メモリ汚染（長期/短期記憶の書き換えによるAIエージェント挙動の操作など）
-
外部ツールの細工（悪意あるMCPサーバーを利用した攻撃など）
-
悪意あるAIエージェントの混入（A2Aを介した攻撃など）
3. 運用・ガバナンス実践ハンズオン
AIエージェントシステムのセキュアな運用に不可欠な「可視化」「追跡」「制御」の3つの観点から、運用リスクとその管理手法を実践的に学びます。まず、AIエージェント間の連携や外部ツールとの連携を俯瞰的に理解するため、システム全体の可視化を行います。これにより、複雑化しがちなAIエージェント間の依存関係やデータフローを明確化できるとしています。続いて、AIエージェントの意思決定過程やツール実行の流れを詳細に把握するため、AIエージェントの挙動追跡を実施します。これにより、予期しないタスク実行や異常な挙動を早期に発見できるようになるとしています。最後に、AIエージェントの挙動制御（ポリシー逸脱の検知）やメモリ汚染の検知、悪意あるMCPサーバーの検知といった実践的な対策手法を習得し、AIエージェントの異常行動の早期抑止や安全なタスク実行の方法を学びます。
これらの内容を通じて、AIエージェントシステムのセキュリティ面と運用面の両方を習得することで、安心・安全なAIエージェント活用に必要な知識とスキルを身につけることができるとしています。
なお、LLMやLLMアプリケーションに対する脅威/対策については、別のトレーニングで学ぶことができます。詳細はこちらをご覧ください。
https://jpsec.ai/llm-training/
トレーニング概要
本トレーニングは、オンライン形式のハンズオンで、期間は2日間（10:00～18:00）です。定員は12名（最低開講人数5名）で、価格は1名あたり600,000円（税別）とされています。トレーニング要項は変更になる可能性があるとのことです。
三井物産セキュアディレクション株式会社について
2001年にサイバーセキュリティの専門会社として設立された同社は、ペネトレーションテスト、脆弱性診断、マルウェア解析、統合ログ監視などの高度なセキュリティ技術サービスやコンサルティングサービスを提供しています。AIセキュリティに関するサービス（AIシステムに対する脆弱性診断、アドバイザリ、研究開発）も手掛けており、日本有数の高度セキュリティ技術人材が多数在籍していることで知られています。
ウェブサイト：https://www.mbsd.jp/
株式会社ChillStackについて
ChillStackは、AIやDXの発展に伴うリスクを包括的に解決する、世界トップレベルのAIセキュリティ技術によるソリューションを提供しています。企業向けに不正・異常分析や安全なAI活用を支えるサービスを展開するほか、官公庁とも連携し、より複雑で高度な社会課題の解決に向けた研究開発や社会実装も進めています。
主なサービス例：
-
経費の不正・不備を自動で検査するAIシステム「Stena Expense」の開発・提供：https://expense.stena.chillstack.com
-
不正利用の自動検知で生成AI活用を促進するサービス「Safia」：https://safia.chillstack.com
-
サービスのセキュリティリスクを洗い出す「セキュリティ診断」の開発・提供：https://pentest.chillstack.com
-
AIのセキュリティ対策に関する研究開発、教育事業「AIディフェンス研究所」：https://jpsec.ai
ソース元
ページタイトル：「AIエージェントのセキュリティ技術」を学べるハンズオントレーニング、三井物産セキュアディレクションとChillStackが提供開始