訊飛星辰：智能定制化AI大模型訓練平臺助力行業(yè)創(chuàng)新與升級

訊飛星辰是科大訊飛推出的AI大模型定制訓練平臺，旨在幫助用戶創(chuàng)建專屬的定制大模型。它匯集了20多種行業(yè)內(nèi)知名的優(yōu)質(zhì)模型，如星火大模型和Llama3，支持零代碼微調(diào)，大大降低了大模型精調(diào)的門檻。該平臺涵蓋了數(shù)據(jù)管理、模型微調(diào)、評估、托管和推理服務，提供了大模型的全生命周期管理，廣泛應用于內(nèi)容創(chuàng)作、代碼生成、邏輯推理等多個場景。

訊飛星辰是什么

訊飛星辰是科大訊飛推出的一款AI大模型定制訓練平臺，專為用戶量身打造獨特的大模型。它匯集了20多種行業(yè)領先的優(yōu)質(zhì)模型，如星火大模型、Llama3等，支持零代碼微調(diào)，旨在降低大模型精調(diào)的門檻。訊飛星辰圍繞數(shù)據(jù)管理、模型微調(diào)、評估、托管及推理服務，提供全方位的大模型生命周期管理，覆蓋內(nèi)容創(chuàng)作、代碼、邏輯推理等多種應用場景。

訊飛星辰在模型和數(shù)據(jù)集的豐富性、功能特性上進行了全新升級，增強了數(shù)據(jù)工程能力，支持多種數(shù)據(jù)集格式，并提供高級參數(shù)配置，以滿足專業(yè)開發(fā)者的需求。

訊飛星辰的主要功能

• 模型微調(diào)與部署
  • 模型集成：提供20多個行業(yè)知名的優(yōu)質(zhì)模型，如訊飛星火、Llama3、SD-XL等。
  • 開源模型精調(diào)：引入書生系列、Qwen2.5系列等多款開源模型進行精調(diào)。
  • 新增模型：推出Spark Max、Spark Mini、Spark Tiny等自研模型，以適應不同業(yè)務場景的需求。

• 數(shù)據(jù)集構建與管理
  • 數(shù)據(jù)工程能力：通過問答抽取、數(shù)據(jù)增強、prompt工程等手段，構建全方位的數(shù)據(jù)工程能力。
  • 數(shù)據(jù)集格式支持：支持多種數(shù)據(jù)集格式，包括ShareGPT、Alpaca等，實現(xiàn)對主流數(shù)據(jù)集格式的兼容。
  • 自動拆分測試集：平臺可從訓練集中自動拆分出一定比例的數(shù)據(jù)作為測試集，便于在訓練完成后進行驗證，展示微調(diào)效果。
  • 批量推理：支持最多10個模型同時在線進行批量推理，大幅提高數(shù)據(jù)處理效率，適合需要處理大量數(shù)據(jù)的場景。

• 功能特性升級
  • 兼容性與遷移支持：兼容OpenAI協(xié)議，依賴OpenAI API的企業(yè)能無縫遷移到國產(chǎn)大模型，實現(xiàn)技術過渡。
  • 功能增強與擴展：支持function_call精調(diào)訓練，調(diào)用外部工具，增強大語言模型的功能。
  • 模型訓練與評估：支持展示Loss曲線，實時監(jiān)控模型訓練效果，動態(tài)調(diào)整訓練策略，并通過裁判員模型評判效果。
  • 高級參數(shù)配置：支持分詞長度、Lora Merge、UnSloth等特性配置。
• API矩陣：構建豐富且高性價比的API矩陣，提供多版本API服務，如Spark Pro、Ultra和Max版本，支持不同長度的上下文和Batch版本API。

如何使用訊飛星辰

• 注冊與登錄：訪問訊飛星辰的官方網(wǎng)站，創(chuàng)建賬戶或使用現(xiàn)有賬戶登錄。
• 了解平臺服務：瀏覽平臺提供的各項服務和功能，了解不同模型的特點及適用場景。
• 選擇模型：根據(jù)業(yè)務需求選擇合適的預訓練模型，訊飛星辰提供多種模型，包括星火系列、Llama3等。
• 數(shù)據(jù)準備：準備或選擇合適的數(shù)據(jù)集進行微調(diào)，平臺支持多種數(shù)據(jù)集格式，并提供數(shù)據(jù)增強等工具以構建高質(zhì)量數(shù)據(jù)集。
• 模型微調(diào)：使用提供的工具對所選模型進行微調(diào)，包括上傳數(shù)據(jù)集、配置微調(diào)參數(shù)等步驟。
• 模型評估：利用評估工具對微調(diào)后的模型進行效果評估，例如查看Loss曲線及裁判員模型的效果對比。
• 模型部署：將訓練好的模型部署到實際應用中，訊飛星辰支持模型托管與推理服務，便于快速部署。
• API調(diào)用：如有需要，可基于訊飛星辰提供的API進行模型調(diào)用，實現(xiàn)模型服務的集成。

訊飛星辰的應用場景

• 邏輯推理：構建基于邏輯推理的智能問答系統(tǒng)，為用戶提供決策支持，快速獲取信息和解決方案。
• 數(shù)據(jù)管理：通過自動化的數(shù)據(jù)標注和清洗，提高數(shù)據(jù)準備的效率和質(zhì)量，為AI模型訓練提供堅實的數(shù)據(jù)基礎。
• 模型微調(diào)與評估：根據(jù)不同業(yè)務需求定制AI模型，通過微調(diào)和評估優(yōu)化模型性能，適應具體的應用場景。
• 托管與推理服務：將訓練好的AI模型部署到云端或邊緣設備，提供穩(wěn)定可靠的在線推理服務，支持高并發(fā)請求。
• 多模態(tài)應用：訓練并構建多模態(tài)應用，在圖像和語音識別領域，提供智能分析和處理能力，如自動識別圖像內(nèi)容及將語音轉(zhuǎn)換為文本。