生成AIに擬似攻撃、リスクを評価するサービス - NRIセキュア

NRIセキュアテクノロジーズは、「生成AI」を利用するシステムやサービスを対象に疑似的な攻撃を行い、リスクなどを評価するセキュリティ診断サービスを提供開始した。

今回リリースした「AI Red Team」は、システムに擬似的な攻撃を行い、「大規模言語モデル（LLM）」を用いたシステムのリスクや脆弱性にくわえて、連携する周辺機能を含めたシステム全体の問題点を評価するサービス。

独自に開発した診断用アプリケーションによる自動テストと、手動による診断を実施。発見された問題点と緩和策をまとめ、報告書として提供する。

同社では、セキュリティ対策としてAIアプリケーションの定期的なモニタリングを実施する「AI Blue Team」サービスについても開発を進めており、2024年4月に提供を開始する予定。

（Security NEXT - 2023/12/26 ）ツイート