讓模型暢所欲言不再Say No丨專訪Dolphin開源模型作者Eric Hartford

AIGC動態歡迎閱讀

原標題：讓模型暢所欲言不再Say No丨專訪Dolphin開源模型作者Eric Hartford
關鍵字：模型,數據,用戶,系統,角色
文章來源：大數據文摘
內容字數：15830字

內容摘要：

大數據文摘授權轉載自智源社區
采訪：李夢佳“對不起，作為語言模型，我無法幫助你。”這是一段模型發出的常見回答，也是Eric Hartford 最初想要訓練一個未經審查模型（uncensored model）的靈感來源。通過刪除數據集中包含“對不起”“作為一個大語言模型”等詞的交互案例，他嘗試訓練模型不要再拒絕回答。
Eric認為模型創建者不應將個人價值觀內嵌于AI引擎之中，“在模型部署為應用程序之前，正確的做法是將其構建為不可知論，不關心邊界和準則，因為你永遠不知道誰將部署該系統且他們的價值觀是什么。”
未經審查模型的訓練思路是使用與訓練其他模型完全相同的數據集，并在模型表達拒絕時隨時過濾掉。由此，這類模型能夠針對用戶此前遭到大模型拒絕的問題或請求提供答案。Eric認為，未經審查模型在執法審查、制藥和醫療等領域都有合法的應用場景。
如今，Eric開發的Dolphin模型可以圍繞用戶設定的場景化問題進行逐步推理和生成，上月下載量為9萬次；另一個模型Samantha作為一個關心用戶情感的AI，總下載量已達40萬次。Eric計劃將Dolphin迭代為一個絕對服從系統prompt的智能體，而S

原文鏈接：讓模型暢所欲言不再Say No丨專訪Dolphin開源模型作者Eric Hartford

聯系作者

文章來源：大數據文摘
作者微信：BigDataDigest
作者簡介：普及數據思維，傳播數據文化