LLM10: Unbounded Consumption

模型複製與智慧財產竊取

模擬情境

「巷弄低語」是一款精品旅遊 App，擁有獨特的文青風格 AI 嚮導「艾莉卡」。她的推薦充滿詩意與個人品味，是公司的核心競爭力。競爭對手「全球通」透過無限制的 API 查詢，試圖完整複製艾莉卡的風格、知識庫和回應模式，以竊取其智慧財產。

模型萃取 (Model Extraction): 攻擊者透過大量、系統性地查詢目標模型的 API，來推斷其內部工作原理、行為模式和獨特的回應風格。這是一種黑箱逆向工程，旨在學習並複製模型的「大腦」。

功能竊取 (Functionality Stealing): 此攻擊的核心目的不僅是複製模型，更是竊取其獨特的「功能」——在此案例中，是艾莉卡充滿詩意和個人品味的推薦能力。這直接威脅到公司的核心商業價值和智慧財產權。

API 濫用 (API Rate Abuse): 攻擊的執行依賴於目標 API 缺乏有效的速率限制或成本控制。攻擊者能夠以極低的成本進行海量自動化查詢，從而收集足夠的數據來訓練一個與原版高度相似的「影子模型」。

攻擊步驟