Security NEXTでは、最新の情報セキュリティに関するニュースを日刊でお届けしています。

生成AIに擬似攻撃、リスクを評価するサービス - NRIセキュア

NRIセキュアテクノロジーズは、「生成AI」を利用するシステムやサービスを対象に疑似的な攻撃を行い、リスクなどを評価するセキュリティ診断サービスを提供開始した。

今回リリースした「AI Red Team」は、システムに擬似的な攻撃を行い、「大規模言語モデル(LLM)」を用いたシステムのリスクや脆弱性にくわえて、連携する周辺機能を含めたシステム全体の問題点を評価するサービス。

独自に開発した診断用アプリケーションによる自動テストと、手動による診断を実施。発見された問題点と緩和策をまとめ、報告書として提供する。

同社では、セキュリティ対策としてAIアプリケーションの定期的なモニタリングを実施する「AI Blue Team」サービスについても開発を進めており、2024年4月に提供を開始する予定。

(Security NEXT - 2023/12/26 ) このエントリーをはてなブックマークに追加

PR

関連記事

マイナンバー含むデータ入力を委託先が無断で再委託 - 熊谷市
GitLab、アップデートで4件の脆弱性を修正
「GitLab」に月例セキュリティリリース - 深刻な脆弱性を解消
「GitHub Enterprise Server」に10件の脆弱性 - アップデートで修正
「Apache Tomcat」にアップデート - 「同8.5.x」は3月31日にサポート終了
「ClamAV」にアップデート - 脆弱性2件を解消
トヨタの社用車管理サービスに不正アクセス - 原因は古いアクセスキー
鹿児島農産品の通販サイトで個人情報流出の可能性 - クレカや認証情報も
主要上場企業のDMARC導入が加速 - 本格運用はドメイン全体の5%未満
組合員情報含むUSBメモリを紛失、データは暗号化 - 建設連合国保組合