生成AIに擬似攻撃、リスクを評価するサービス - NRIセキュア
NRIセキュアテクノロジーズは、「生成AI」を利用するシステムやサービスを対象に疑似的な攻撃を行い、リスクなどを評価するセキュリティ診断サービスを提供開始した。
今回リリースした「AI Red Team」は、システムに擬似的な攻撃を行い、「大規模言語モデル(LLM)」を用いたシステムのリスクや脆弱性にくわえて、連携する周辺機能を含めたシステム全体の問題点を評価するサービス。
独自に開発した診断用アプリケーションによる自動テストと、手動による診断を実施。発見された問題点と緩和策をまとめ、報告書として提供する。
同社では、セキュリティ対策としてAIアプリケーションの定期的なモニタリングを実施する「AI Blue Team」サービスについても開発を進めており、2024年4月に提供を開始する予定。
(Security NEXT - 2023/12/26 )
ツイート
関連リンク
PR
関連記事
こども園で園児情報含む教員用資料をアプリで誤配信 - 目黒区
フォームの設定不備、WS申込者情報が閲覧可能に - 東大付属中
大阪府サイトで公開したIR資料に個人情報を誤掲載 - 大阪市
ウェブサーバにバックドア、DBの個人情報が窃取被害 - 楽待
一部「SonicOS」のSSL VPNに脆弱性 - DoS攻撃のおそれ
「Chrome」にアップデート - セキュリティ関連の修正4件
「BentoML」に深刻な脆弱性 ─ ファイルアップロード処理に起因
2Qの脆弱性届出は99件 - ウェブサイト関連が倍増
SAML認証ライブラリ「Node-SAML」に再度深刻な脆弱性
「VMware vCenter」にDoS脆弱性 - アップデートをリリース