無需OpenAI數據，躋身代碼大模型榜單！UIUC發布StarCoder-15B-Instruct

AIGC動態歡迎閱讀

原標題：無需OpenAI數據，躋身代碼大模型榜單！UIUC發布StarCoder-15B-Instruct
關鍵字：模型,數據,指令,代碼,函數
文章來源：新智元
內容字數：13782字

內容摘要：

新智元報道編輯：LRT
【新智元導讀】通過StarCoder2-15B生成數千個指令-響應對，直接對StarCoder-15B基座模型進行微調，無需依賴昂貴的人工標注數據，也無需從GPT4等商業大模型中獲取數據，StarCoder2-15B-Instruct成功擠進HumanEval榜單。在軟件技術的前沿，UIUC張令明組攜手BigCode組織的研究者，近日公布了StarCoder2-15B-Instruct代碼大模型。
這一創新成果在代碼生成任務取得了顯著突破，成功超越CodeLlama-70B-Instruct，登上代碼生成性能榜單之巔。StarCoder2-15B-Instruct的獨特之處在于其純自對齊策略，整個訓練流程公開透明，且完全自主可控。
該模型通過StarCoder2-15B生成數千個指令-響應對，直接對StarCoder-15B基座模型進行微調，無需依賴昂貴的人工標注數據，也無需從GPT4等商業大模型中獲取數據，避免了潛在的版權問題。
在HumanEval測試中，StarCoder2-15B-Instruct以72.6%的Pass@1成績脫穎而出，較CodeLla

原文鏈接：無需OpenAI數據，躋身代碼大模型榜單！UIUC發布StarCoder-15B-Instruct

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。