AIGC動態歡迎閱讀

原標題：對打GPT-4！Claude 3秘密武器曝光：Claude憲法
關鍵字：憲法,人工智能,模型,原則,價值觀
文章來源：新智元
內容字數：5205字

內容摘要：

新智元報道編輯：Henry
【新智元導讀】Anthropic發布最新Claude憲法，兼具標準性和靈活性。語言模型如何決定它將涉及哪些問題，哪些問題它認為不合適涉及？為什么它會鼓勵某些行為，而阻止另一些行為？語言模型有哪些「價值觀」？如何讓大模型的響應符合倫理價值觀，是一個不斷探索的永恒話題。
最近，OpenAI剛剛放出了「模型規范」，展示了團隊如何給LLM列出「條條框框」，為其提供行為指南。
今天，Anthropic最新發布的「人工智能憲法」也給出了一個答案：
即賦予LLM由憲法確定的明確價值觀，而不是通過大規模人類反饋來確定的隱性價值觀。
雖然，這并不是一個完美的方法，但它確實讓AI系統的價值觀更容易理解，也讓其根據需要進行調整。
Claude模型是Anthropic AI的最杰出的「作品」，也是經過 「人工智能憲法」訓練不斷完善。
自Claude推出以來，出現了很多關于「人工智能憲法 」如何讓Claude變得更安全、更有幫助的問題。
接下來解釋一下：什么是人工智能憲法，Claude憲法中的價值觀是什么，以及我們是如何選擇這些價值觀的。
背景以前，人類對模型輸出的反饋，隱含地決定

原文鏈接：對打GPT-4！Claude 3秘密武器曝光：Claude憲法

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。