OpenAI超級對齊負責人Jan Leike：如何對齊難題？用可擴展監督

AIGC動態歡迎閱讀

原標題：OpenAI超級對齊負責人Jan Leike：如何對齊難題？用可擴展監督

關鍵字：模型,人類,人工智能,系統,問題

文章來源：大數據文摘

內容字數：13757字

內容摘要：大數據文摘授權轉載自智源社區今年早些時候，OpenAI宣布成立了一支專注于超級對齊的新團隊，由Jan Leike和IIya Sutskever領導，超級對齊旨在構建一個能夠與人類水平相媲美的自動對齊研究器。其目標是盡可能地將與對齊相關的工作交由自動系統完成。其中一個重要手段就是可擴展監督（Scalable Oversight），即在確保模型能力超過人類水平后，仍舊能夠與人類期望保持一致、持續地進行…

原文鏈接：點此閱讀原文：OpenAI超級對齊負責人Jan Leike：如何對齊難題？用可擴展監督

聯系作者

文章來源：大數據文摘

作者微信：BigDataDigest

作者簡介：普及數據思維，傳播數據文化