「PandasAI」にプロンプトインジェクションの脆弱性
CERT/CCは、データ解析ライブラリ「PandasAI」においてリモートよりコードの実行が可能となる脆弱性が明らかになったとして注意喚起を行った。
「PandasAI」は大規模言語モデル(LLM)を利用し、自然言語を解釈して「Python」や「SQL」のクエリを生成してデータ分析が行えるライブラリ。
同脆弱性は、「同2.4.3」および以前のバージョンに存在し、コードとデータを明確にわけて処理していないことに起因。細工したプロンプトを送信することで、悪意ある自然言語の入力を任意のコードへと変換し、制限をバイパスしてコードを実行させる脆弱性「CVE-2024-12366」が明らかになった。
NVIDIAの研究者が報告したもので、特定モジュールのインポート制限や保護機能から脱獄、許可リストの利用など、攻撃者が接続されたデータベースやサービスへ侵入することが可能になるという。
開発元であるSinaptikAIは、影響を軽減するためにプロジェクトの構成ファイルにセキュリティパラメータを導入。あわせてサンドボックスをリリースした。適切なセキュリティ設定を有効化するよう呼びかけられている。
(Security NEXT - 2025/02/13 )
ツイート
関連リンク
PR
関連記事
ゼロデイ攻撃は8カ月以上前 - 「Active! mail」脆弱性の影響拡大に懸念
「Erlang/OTP」脆弱性、一部Cisco製品で影響が判明
「ActiveMQ NMS OpenWire Client」にRCE脆弱性 - 修正版が公開
「GitHub Enterprise Server」に複数脆弱性 - アップデートで修正
NVIDIA製GPUドライバに複数の脆弱性 - 権限昇格やDoSのおそれ
トレンドの法人向け複数製品に脆弱性 - アップデートで修正
「Erlang/OTP」に深刻なRCE脆弱性 - 概念実証コードも公開済み
「GitLab」に5件の脆弱性 - 最新パッチで修正
「SonicOS」にリモートよりDoS攻撃を受けるおそれ - 修正版を公開
NVIDIAのAI開発フレームワーク「NeMo」に3件の脆弱性