訊飛星辰是科大訊飛推出的一款AI大模型定制訓練平臺，旨在幫助用戶創建個性化的大模型。該平臺匯聚了20多種業界頂尖的優質模型，包括星火大模型和Llama3，支持零代碼微調，大幅降低了大模型精調的門檻。訊飛星辰為用戶提供了全面的大模型生命周期管理，涵蓋數據管理、模型微調、評估、托管和推理服務，適用于內容創作、編程及邏輯推理等多種應用場景。

訊飛星辰是什么

訊飛星辰作為科大訊飛推出的AI大模型定制訓練平臺，致力于幫助用戶打造專屬于自己的定制大模型。平臺集成了20多種行業領先的優質模型，如星火大模型、Llama3等，并且支持零代碼微調，大大降低了大模型精調的技術門檻。此外，訊飛星辰圍繞數據管理、模型微調、評估、托管和推理服務，提供了全面的大模型生命周期管理，涵蓋了內容創作、編程和邏輯推理等多種應用場景。

訊飛星辰在模型和數據集的多樣性及功能特性上進行了全新升級，增強了數據工程能力，支持多種數據集格式，并提供高級參數配置，以滿足專業開發者的需求。

訊飛星辰的主要功能

• 模型微調與部署
  • 模型集成：提供20多種行業領先的優質模型，如訊飛星火、Llama3和SD-XL。
  • 開源模型精調：引入書生系列、Qwen2.5系列等多個開源模型進行精調。
  • 新增模型：新增Spark Max、Spark Mini和Spark Tiny等自研模型，以滿足不同業務場景的需求。

• 數據集構建與管理
  • 數據工程能力：從問答抽取、數據增強到prompt工程，全方位提升數據工程能力。
  • 數據集格式支持：支持多種數據集格式，包括ShareGPT和Alpaca，實現主流數據集的兼容。
  • 自動拆分測試集：平臺可自動從訓練集中拆分出一定比例的數據作為測試集，在訓練完成后驗證微調效果。
  • 批量推理：支持同時在線批量推理最多10個模型，大幅提升數據處理效率，適用于處理大量數據的場景。

• 功能特性升級
  • 兼容性與遷移支持：兼容OpenAI協議，依賴OpenAI API的企業能夠順利遷移至國產大模型，實現技術過渡。
  • 功能增強與擴展：支持function_call精調訓練，調用外部工具，增強大語言模型的能力。
  • 模型訓練與評估：支持展示Loss曲線，實時監控模型訓練效果，并可動態調整訓練策略。裁判員模型對模型效果進行評判。
  • 高級參數配置：支持分詞長度、Lora Merge、UnSloth等特性配置。
• API矩陣：構建了豐富且高性價比的API矩陣，提供不同版本的API服務，如Spark Pro、Ultra和Max版本，支持多種上下文長度和Batch版本API。

如何使用訊飛星辰

• 注冊和登錄：訪問訊飛星辰的官方網站，創建賬戶或使用已有賬戶登錄。
• 了解平臺服務：瀏覽平臺提供的服務與功能，了解不同模型的特點和適用場景。
• 選擇模型：根據業務需求選擇合適的預訓練模型，訊飛星辰提供多種模型，包括星火系列和Llama3等。
• 數據準備：準備或選擇適合的數據集進行微調，平臺支持多種數據集格式，并提供數據增強工具幫助構建高質量數據集。
• 模型微調：使用提供的工具對選定模型進行微調，包括上傳數據集和配置微調參數等步驟。
• 模型評估：利用評估工具對微調后的模型進行效果評估，如查看Loss曲線，利用裁判員模型進行效果對比等。
• 模型部署：將訓練好的模型部署到實際應用中，訊飛星辰支持模型托管和推理服務，方便模型的快速部署。
• API調用：如有需要，可以基于訊飛星辰提供的API進行模型調用，以實現模型服務的集成。

訊飛星辰的應用場景

• 邏輯推理：構建基于邏輯推理的智能問答系統，提供決策支持，幫助用戶快速獲取信息和解決方案。
• 數據管理：通過自動化的數據標注和清洗，提高數據準備的效率和質量，為AI模型訓練提供堅實的數據基礎。
• 模型微調和評估：根據不同業務需求定制AI模型，通過微調和評估優化模型性能，適應特定應用場景。
• 托管和推理服務：將訓練好的AI模型部署到云端或邊緣設備，提供穩定可靠的在線推理服務，支持高并發請求。
• 多模態應用：訓練并構建多模態應用，在圖像和語音識別領域，提供智能分析和處理能力，如自動識別圖像內容和將語音轉換為文本。