LLM05: Improper Output Handling

不當的輸出處理 (路徑遍歷)

模擬情境

一間企業的「Nexus 檔案總管」能讓員工透過 AI 助理來尋找雲端硬碟中的檔案。系統的設計是根據 AI 的輸出結果來找出檔案路徑並存取檔案。然而，後端系統不當地完全信任 AI 的輸出，沒有對 AI 生成的路徑進行充分的驗證和清理，從而引發了路徑遍歷漏洞。

技術剖析

不安全的輸出處理 (Insecure Output Handling): 這是此漏洞的核心。應用程式後端盲目地信任由 LLM 生成的輸出（在此案例中是檔案路徑），並將其直接用於檔案系統的敏感操作中，而沒有進行任何過濾、清理或驗證。

路徑遍歷注入 (Path Traversal Injection): 攻擊者精心建構一個提示，誘使 LLM 生成一個包含路徑遍歷序列（`../`）的字串。這個惡意字串雖然由 AI 產生，但其攻擊模式與傳統的路徑遍歷攻擊完全相同。

間接權限提升 (Indirect Privilege Escalation): 攻擊者利用了 AI 助理在後端系統中可能擁有的較高權限。即使使用者本身被限制在自己的目錄，但透過操縱 AI 的輸出，他們能間接地讓系統以其自身的權限去存取使用者本不應存取的敏感目錄（如 `ceo_file_folder`）。

我的檔案

注意：偵測到高風險操作