「PandasAI」にプロンプトインジェクションの脆弱性

CERT/CCは、データ解析ライブラリ「PandasAI」においてリモートよりコードの実行が可能となる脆弱性が明らかになったとして注意喚起を行った。

「PandasAI」は大規模言語モデル（LLM）を利用し、自然言語を解釈して「Python」や「SQL」のクエリを生成してデータ分析が行えるライブラリ。

同脆弱性は、「同2.4.3」および以前のバージョンに存在し、コードとデータを明確にわけて処理していないことに起因。細工したプロンプトを送信することで、悪意ある自然言語の入力を任意のコードへと変換し、制限をバイパスしてコードを実行させる脆弱性「CVE-2024-12366」が明らかになった。

NVIDIAの研究者が報告したもので、特定モジュールのインポート制限や保護機能から脱獄、許可リストの利用など、攻撃者が接続されたデータベースやサービスへ侵入することが可能になるという。

開発元であるSinaptikAIは、影響を軽減するためにプロジェクトの構成ファイルにセキュリティパラメータを導入。あわせてサンドボックスをリリースした。適切なセキュリティ設定を有効化するよう呼びかけられている。

（Security NEXT - 2025/02/13 ）ツイート