AIシステムの安全な実装運用に向けたガイダンスを公開 - 米政府ら
具体的には、通信プロトコルやデータの暗号化、ユーザーのアクセス制御のほか、APIの保護、インシデント検出、脆弱性からの保護など技術的な側面からの対策を記載。
ITセキュリティと同様に責任者を設定し、組織のIT標準に準拠していることを確認することや、リスク許容範囲内にあることの確認、役割と責任の明確化など組織的なセキュリティ対策についても説明している。
またログの記録、監視、ユーザーの行動分析などを通じて、内部者の脅威を含め、悪意のある活動への対策も盛り込んだ。
特に学習可能なパラメータなどAIモデルの重みについて保護することは重要な要素であると指摘。
入力データを検証し、悪意ある入力の排除、データを引き出す試行などの監視などの対策を求めている。またモデル変更時に、不正な変更や予期しない変更が存在しないか確認することなども求めた。
セキュアバイデザインにより対策を進めることにくわえ、AIセキュリティは急速に進化しており、潜在する弱点や悪用する技術が発見されるなど、変化するリスクに対処するためにシステムを更新していく必要がある点も挙げている。
(Security NEXT - 2024/04/16 )
ツイート
PR
関連記事
エンプラサーバなどに採用されるAMI製「BMC」にRCE脆弱性
持ち出し緊急連絡表をメモ利用、保育士を懲戒処分 - 二宮町
勤務時間に60時間以上に私的ネット閲覧、副校長処分 - 横浜市
KDDIのホームゲートウェイ「HGW-BL1500HM」に複数脆弱性
インスタアカウントが乗っ取り被害 - 泉大津市のホテル
VPN経由でランサム攻撃、情報の外部公開を確認 - ベル・データ
ネットワーク設定変更で不備、個人情報流出の可能性 - ファストリ
「FortiOS」脆弱性や不正コード混入「Githubアクション」の悪用に注意喚起 - 米政府
SAP、3月の月例パッチを公開 - 新規アドバイザリ21件を公開
Google製脆弱性スキャナの最新版「OSV-Scanner 2.0.0」が公開