JNSA、生成AIの安全利用に向けて脅威や対策を整理

日本ネットワークセキュリティ協会（JNSA）は、セキュアに生成AIを活用していく際、検討が必要となる項目などを調査、分析し、「生成AIを利用する上でのセキュリティ成熟度モデル」として取りまとめ、公開した。

生成AIの利用が進んでいることを受け、安全に利活用できるよう資料として取りまとめたもの。脅威や安全に利用するための対策などを検討した。

生成AIの利用形態として「外部サービス利用」「API利用」「自組織データ利用」「自組織向けモデル開発」の4種類を想定している。

具体的には、「プロンプトインジェクション」や「DoS攻撃」「訓練データ汚染」「モデル盗難」といった入出力、モデルにおける脅威について整理。

さらにアプリケーションにおけるセキュリティ対策のほか、利用状況のモニタリング、ポリシーの整備や教育といった対策を取りまとめた。

資料はGitHubにて公開されており、誰でも参照できる。

（Security NEXT - 2025/04/02 ）ツイート