AIシステムの安全な実装運用に向けたガイダンスを公開 - 米政府ら

具体的には、通信プロトコルやデータの暗号化、ユーザーのアクセス制御のほか、APIの保護、インシデント検出、脆弱性からの保護など技術的な側面からの対策を記載。

ITセキュリティと同様に責任者を設定し、組織のIT標準に準拠していることを確認することや、リスク許容範囲内にあることの確認、役割と責任の明確化など組織的なセキュリティ対策についても説明している。

またログの記録、監視、ユーザーの行動分析などを通じて、内部者の脅威を含め、悪意のある活動への対策も盛り込んだ。

特に学習可能なパラメータなどAIモデルの重みについて保護することは重要な要素であると指摘。

入力データを検証し、悪意ある入力の排除、データを引き出す試行などの監視などの対策を求めている。またモデル変更時に、不正な変更や予期しない変更が存在しないか確認することなども求めた。

セキュアバイデザインにより対策を進めることにくわえ、AIセキュリティは急速に進化しており、潜在する弱点や悪用する技術が発見されるなど、変化するリスクに対処するためにシステムを更新していく必要がある点も挙げている。

（Security NEXT - 2024/04/16 ）ツイート