生成AIに擬似攻撃、リスクを評価するサービス - NRIセキュア
NRIセキュアテクノロジーズは、「生成AI」を利用するシステムやサービスを対象に疑似的な攻撃を行い、リスクなどを評価するセキュリティ診断サービスを提供開始した。
今回リリースした「AI Red Team」は、システムに擬似的な攻撃を行い、「大規模言語モデル(LLM)」を用いたシステムのリスクや脆弱性にくわえて、連携する周辺機能を含めたシステム全体の問題点を評価するサービス。
独自に開発した診断用アプリケーションによる自動テストと、手動による診断を実施。発見された問題点と緩和策をまとめ、報告書として提供する。
同社では、セキュリティ対策としてAIアプリケーションの定期的なモニタリングを実施する「AI Blue Team」サービスについても開発を進めており、2024年4月に提供を開始する予定。
(Security NEXT - 2023/12/26 )
ツイート
関連リンク
PR
関連記事
委託先事業者がメールを誤送信、メアド流出 - 栃木県
「IBM Backup, Recovery and Media Services for i」に権限昇格の脆弱性
米当局、Linuxカーネルの脆弱性悪用に注意喚起
Googleグループ57件が公開設定、個人情報が外部閲覧状態に - ダイソー
「Chrome」にアップデート - 3件のセキュリティ修正
「NetScaler ADC」「同Gateway」に深刻な脆弱性 - 早急に対応を
Trend Micro「Apex Central」に深刻な脆弱性 - 修正パッチをリリース
Apple製品の脆弱性に攻撃 - 2〜3月に修正済みも情報公開は6月
案内メール誤送信で顧客のメアドが流出 - アルバイトタイムス
サイト改ざんで異なるページを表示 - アルパインツアーサービス