對打GPT-4！Claude 3秘密武器曝光：Claude憲法

AIGC動態(tài)歡迎閱讀

原標(biāo)題：對打GPT-4！Claude 3秘密武器曝光：Claude憲法
關(guān)鍵字：憲法,人工智能,模型,原則,價值觀
文章來源：新智元
內(nèi)容字?jǐn)?shù)：5205字

內(nèi)容摘要：

新智元報道編輯：Henry
【新智元導(dǎo)讀】Anthropic發(fā)布最新Claude憲法，兼具標(biāo)準(zhǔn)性和靈活性。語言模型如何決定它將涉及哪些問題，哪些問題它認(rèn)為不合適涉及？為什么它會鼓勵某些行為，而阻止另一些行為？語言模型有哪些「價值觀」？如何讓大模型的響應(yīng)符合倫理價值觀，是一個不斷探索的永恒話題。
最近，OpenAI剛剛放出了「模型規(guī)范」，展示了團隊如何給LLM列出「條條框框」，為其提供行為指南。
今天，Anthropic最新發(fā)布的「人工智能憲法」也給出了一個答案：
即賦予LLM由憲法確定的明確價值觀，而不是通過大規(guī)模人類反饋來確定的隱性價值觀。
雖然，這并不是一個完美的方法，但它確實讓AI系統(tǒng)的價值觀更容易理解，也讓其根據(jù)需要進行調(diào)整。
Claude模型是Anthropic AI的最杰出的「作品」，也是經(jīng)過 「人工智能憲法」訓(xùn)練不斷完善。
自Claude推出以來，出現(xiàn)了很多關(guān)于「人工智能憲法 」如何讓Claude變得更安全、更有幫助的問題。
接下來解釋一下：什么是人工智能憲法，Claude憲法中的價值觀是什么，以及我們是如何選擇這些價值觀的。
背景以前，人類對模型輸出的反饋，隱含地決定

原文鏈接：對打GPT-4！Claude 3秘密武器曝光：Claude憲法

聯(lián)系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展，關(guān)注人機融合、人工智能和機器人對人類社會與文明進化的影響，領(lǐng)航中國新智能時代。