大模型時代需要什么樣的安全水位？火山方舟首度公開「會話無痕」技術細節

AIGC動態歡迎閱讀

原標題：大模型時代需要什么樣的安全水位？火山方舟首度公開「會話無痕」技術細節
關鍵字：模型,方舟,數據,火山,用戶
文章來源：機器之心
內容字數：0字

內容摘要：

機器之心原創
作者：吳昕2024 年，AI 大模型從「以分計價」跨入「以厘計價」的時代。
信號指向很清晰：把基礎設施成本打下來，就是為了應用的爆發，但「算力價格」這把尺子還不夠用。
在眾多大模型中貨比三家，需要投入大量信息成本。相信供應商、中間商「守規矩」、「靠譜」，更不易，信任成本過高，陷入囚徒困境，用戶就會趨于保守，放棄潛在交易。
回首 2024，盡管大模型展現出非凡能力，破壞信任的糟心事兒也一直沒斷過。
4 月，海外某頭部大模型商的 AI 語言模型因開源庫漏洞導致用戶對話泄露，致使意大利史無前例地叫停服務。此波未平，該產品長期記憶功能又出現嚴重漏洞，黑客可以隨便訪問用戶記錄。
年初，荷蘭一家數據公司的配置失誤，導致多家企業（包括頭部車企）的用戶隱私數據遭泄露。
能力超凡、使用簡單但又風險叢生，這樣的混亂組合讓企業老板難以駕馭。在采訪全球多家企業、8000 多名 IT 專業人員后，IBM《 2023 年全球 AI 采用指數》發現：
和傳統 AI 的采納門檻不同，企業采納生成式 AI 的最大障礙是數據隱私（ 57% ）以及信任和透明度（ 43% ）
一、AI 大模型，困于能力

原文鏈接：大模型時代需要什么樣的安全水位？火山方舟首度公開「會話無痕」技術細節