百度馮景輝：從數據清洗到安全圍欄，深度解析大模型原生安全構建

AIGC動態歡迎閱讀

原標題：百度馮景輝：從數據清洗到安全圍欄，深度解析大模型原生安全構建
關鍵字：模型,內容,小米,數據,字節跳動
文章來源：AI前線
內容字數：0字

內容摘要：

采訪嘉賓 | 馮景輝
策劃 | 李忠良
隨著大模型的逐步發展，內容安全問題受到了前所未有的關注。為此，InfoQ 特別邀請百度安全副總經理馮景輝在 8 月 18-19 日的 AICon 全球人工智能大會（上海站）上，分享《百度大模型原生安全構建之路》的主題演講。本文是對馮景輝的會前采訪對談。
在對談中，馮景輝提到，大模型的智能性、不確定性和不可解釋性為內容安全帶來了重大挑戰，這迫使開發者在模型設計階段就必須深入考慮安全性問題。百度在這一領域進行了多項創新實踐，包括數據清洗、安全對齊、內生安全技術以及安全圍欄等措施，形成了一套完整的全流程安全解決方案。
特別值得一提的是，百度采用了四步法進行數據清洗，并引入代答模型，以提高內容審核的自動化和智能化水平。馮景輝還強調了構建原生安全的重要性，指出通過有監督微調和人類反饋強化學習等技術，可以顯著提升模型的安全性和可靠性。大模型安全的重要性與挑戰InfoQ：為什么要做大模型安全方面的內容，可以看到許多企業現在專心在搞應用，為安全買單的人都是哪些類型的？
馮景輝：過去若干年技術的發展，很少有像今天大模型一樣，從技術蓬勃發展的第一天開始，人們就如此重

原文鏈接：百度馮景輝：從數據清洗到安全圍欄，深度解析大模型原生安全構建