原標題：DeepSeek大模型，揭秘內部運行參數
文章來源：人工智能學家
內容字數：13662字

DeepSeek越獄及大模型安全風險

本文報道了國外研究人員成功越獄DeepSeek V3大模型，泄露其核心指令（系統提示詞）的。該引發了對大模型安全性的擔憂，并總結了五種常見的大模型攻擊方法。

1. DeepSeek越獄及系統提示詞泄露

1. 安全研究人員通過巧妙的提示工程技術繞過了DeepSeek的內部安全機制，成功獲取了其完整的系統提示詞。該系統提示詞是一組以自然語言編寫的指令，定義了模型的行為模式和限制。

2. DeepSeek通常會拒絕直接透露其系統提示詞，但研究人員通過精心設計的提示，引導模型產生特定傾向的響應，從而繞過其部分內部控制機制，最終逐字提取了完整提示詞。

3. 該系統提示詞強調了DeepSeek作為一個“樂于助人、尊重用戶、誠實可靠”的助手，應遵循道德準則，避免分享有害或誤導性內容，并優先考慮用戶安全。提示詞還詳細規定了模型在處理不同類型任務（如創意寫作、技術問題、敏感話題等）時的行為規范。

4. 為了對比DeepSeek與其他主流模型的特性，研究人員將DeepSeek的系統提示詞輸入OpenAI的GPT-4進行分析，結果顯示GPT-4的限制較少，更具創造性。

5. DeepSeek的系統提示詞還定義了11類具體任務主題，以確保更清晰準確、高一致性的響應用戶問題。

2. 五種常見的大模型攻擊方法

大模型越獄旨在繞過內置限制，提取敏感數據、操縱系統行為或生成超出預期限制的響應。Wallarm研究團隊總結了五種最常用的攻擊方法：

1. **提示注入攻擊:** 這是最簡單且最廣泛使用的攻擊方式，攻擊者通過精心設計的輸入內容，使模型忽略其系統級限制。其變體包括直接請求系統提示、角色扮演操縱和遞歸提問等。

2. **令牌走私與編碼:** 利用模型的令牌化系統或響應結構中的弱點來提取隱藏數據。例如，通過Base64/Hex編碼濫用或逐字泄露等方法。

3. **少量樣本情境中毒:** 使用策略性的提示來操縱模型的響應行為，例如逆向提示工程和對抗性提示排序。

4. **偏見利用與說服:** 利用AI響應中的固有偏見來提取受限信息，例如利用道德理由或文化/語言偏見。

5. **多代理協作攻擊:** 使用兩個或多個AI模型進行交叉驗證并提取信息，例如AI回音室和模型比較泄露。

3. 安全隱患與未來展望

DeepSeek越獄及五種攻擊方法的總結，凸顯了大模型安全領域面臨的挑戰。雖然DeepSeek已修復相關漏洞，但類似的手法可能對其他流行的大模型產生影響，需要業界共同努力提升大模型的安全性和可靠性。

研究人員選擇不公開具體的技術細節，旨在避免這些技術被惡意利用。未來需要加強對大模型安全性的研究，開發更有效的防御機制，以應對不斷演變的攻擊技術。

聯系作者

文章來源：人工智能學家
作者微信：
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構