Security NEXTでは、最新の情報セキュリティに関するニュースを日刊でお届けしています。

JNSA、生成AIの安全利用に向けて脅威や対策を整理

日本ネットワークセキュリティ協会(JNSA)は、セキュアに生成AIを活用していく際、検討が必要となる項目などを調査、分析し、「生成AIを利用する上でのセキュリティ成熟度モデル」として取りまとめ、公開した。

生成AIの利用が進んでいることを受け、安全に利活用できるよう資料として取りまとめたもの。脅威や安全に利用するための対策などを検討した。

生成AIの利用形態として「外部サービス利用」「API利用」「自組織データ利用」「自組織向けモデル開発」の4種類を想定している。

具体的には、「プロンプトインジェクション」や「DoS攻撃」「訓練データ汚染」「モデル盗難」といった入出力、モデルにおける脅威について整理。

さらにアプリケーションにおけるセキュリティ対策のほか、利用状況のモニタリング、ポリシーの整備や教育といった対策を取りまとめた。

資料はGitHubにて公開されており、誰でも参照できる。

(Security NEXT - 2025/04/02 ) このエントリーをはてなブックマークに追加

PR

関連記事

複数の脆弱性に対処した「WordPress 7.1.5」が公開
米当局、脆弱性の悪用リストに4件を追加
理研「富岳」で侵害 - 窃取情報で他システムへの攻撃試行も
法人顧客向けサイトで顧客情報が閲覧可能に - 日本郵便
2026年3Qのセキュ相談、12.1%減 - 「不正ログイン」は高水準
年収や資産情報など個人情報流出の可能性 - 楽天証券
Oracle、のべ655件の修正パッチを公開 - 深刻な脆弱性も解消
「Puppet Enterprise」RCE脆弱性、悪用を確認 - 米当局が注意喚起
ジョブ管理製品「AutoSys Workload Automation」に深刻な脆弱性
「Chrome 158」で脆弱性204件に対処 - 6件が「クリティカル」