訊飛星辰是科大訊飛推出的一款A(yù)I大模型定制訓(xùn)練平臺(tái)，旨在幫助用戶創(chuàng)建個(gè)性化的大模型。該平臺(tái)匯聚了20多種業(yè)界頂尖的優(yōu)質(zhì)模型，包括星火大模型和Llama3，支持零代碼微調(diào)，大幅降低了大模型精調(diào)的門檻。訊飛星辰為用戶提供了全面的大模型生命周期管理，涵蓋數(shù)據(jù)管理、模型微調(diào)、評(píng)估、托管和推理服務(wù)，適用于內(nèi)容創(chuàng)作、編程及邏輯推理等多種應(yīng)用場(chǎng)景。

訊飛星辰是什么

訊飛星辰作為科大訊飛推出的AI大模型定制訓(xùn)練平臺(tái)，致力于幫助用戶打造專屬于自己的定制大模型。平臺(tái)集成了20多種行業(yè)領(lǐng)先的優(yōu)質(zhì)模型，如星火大模型、Llama3等，并且支持零代碼微調(diào)，大大降低了大模型精調(diào)的技術(shù)門檻。此外，訊飛星辰圍繞數(shù)據(jù)管理、模型微調(diào)、評(píng)估、托管和推理服務(wù)，提供了全面的大模型生命周期管理，涵蓋了內(nèi)容創(chuàng)作、編程和邏輯推理等多種應(yīng)用場(chǎng)景。

訊飛星辰在模型和數(shù)據(jù)集的多樣性及功能特性上進(jìn)行了全新升級(jí)，增強(qiáng)了數(shù)據(jù)工程能力，支持多種數(shù)據(jù)集格式，并提供高級(jí)參數(shù)配置，以滿足專業(yè)開發(fā)者的需求。

訊飛星辰的主要功能

• 模型微調(diào)與部署
  • 模型集成：提供20多種行業(yè)領(lǐng)先的優(yōu)質(zhì)模型，如訊飛星火、Llama3和SD-XL。
  • 開源模型精調(diào)：引入書生系列、Qwen2.5系列等多個(gè)開源模型進(jìn)行精調(diào)。
  • 新增模型：新增Spark Max、Spark Mini和Spark Tiny等自研模型，以滿足不同業(yè)務(wù)場(chǎng)景的需求。

• 數(shù)據(jù)集構(gòu)建與管理
  • 數(shù)據(jù)工程能力：從問答抽取、數(shù)據(jù)增強(qiáng)到prompt工程，全方位提升數(shù)據(jù)工程能力。
  • 數(shù)據(jù)集格式支持：支持多種數(shù)據(jù)集格式，包括ShareGPT和Alpaca，實(shí)現(xiàn)主流數(shù)據(jù)集的兼容。
  • 自動(dòng)拆分測(cè)試集：平臺(tái)可自動(dòng)從訓(xùn)練集中拆分出一定比例的數(shù)據(jù)作為測(cè)試集，在訓(xùn)練完成后驗(yàn)證微調(diào)效果。
  • 批量推理：支持同時(shí)在線批量推理最多10個(gè)模型，大幅提升數(shù)據(jù)處理效率，適用于處理大量數(shù)據(jù)的場(chǎng)景。

• 功能特性升級(jí)
  • 兼容性與遷移支持：兼容OpenAI協(xié)議，依賴OpenAI API的企業(yè)能夠順利遷移至國(guó)產(chǎn)大模型，實(shí)現(xiàn)技術(shù)過渡。
  • 功能增強(qiáng)與擴(kuò)展：支持function_call精調(diào)訓(xùn)練，調(diào)用外部工具，增強(qiáng)大語(yǔ)言模型的能力。
  • 模型訓(xùn)練與評(píng)估：支持展示Loss曲線，實(shí)時(shí)監(jiān)控模型訓(xùn)練效果，并可動(dòng)態(tài)調(diào)整訓(xùn)練策略。裁判員模型對(duì)模型效果進(jìn)行評(píng)判。
  • 高級(jí)參數(shù)配置：支持分詞長(zhǎng)度、Lora Merge、UnSloth等特性配置。
• API矩陣：構(gòu)建了豐富且高性價(jià)比的API矩陣，提供不同版本的API服務(wù)，如Spark Pro、Ultra和Max版本，支持多種上下文長(zhǎng)度和Batch版本API。

如何使用訊飛星辰

• 注冊(cè)和登錄：訪問訊飛星辰的官方網(wǎng)站，創(chuàng)建賬戶或使用已有賬戶登錄。
• 了解平臺(tái)服務(wù)：瀏覽平臺(tái)提供的服務(wù)與功能，了解不同模型的特點(diǎn)和適用場(chǎng)景。
• 選擇模型：根據(jù)業(yè)務(wù)需求選擇合適的預(yù)訓(xùn)練模型，訊飛星辰提供多種模型，包括星火系列和Llama3等。
• 數(shù)據(jù)準(zhǔn)備：準(zhǔn)備或選擇適合的數(shù)據(jù)集進(jìn)行微調(diào)，平臺(tái)支持多種數(shù)據(jù)集格式，并提供數(shù)據(jù)增強(qiáng)工具幫助構(gòu)建高質(zhì)量數(shù)據(jù)集。
• 模型微調(diào)：使用提供的工具對(duì)選定模型進(jìn)行微調(diào)，包括上傳數(shù)據(jù)集和配置微調(diào)參數(shù)等步驟。
• 模型評(píng)估：利用評(píng)估工具對(duì)微調(diào)后的模型進(jìn)行效果評(píng)估，如查看Loss曲線，利用裁判員模型進(jìn)行效果對(duì)比等。
• 模型部署：將訓(xùn)練好的模型部署到實(shí)際應(yīng)用中，訊飛星辰支持模型托管和推理服務(wù)，方便模型的快速部署。
• API調(diào)用：如有需要，可以基于訊飛星辰提供的API進(jìn)行模型調(diào)用，以實(shí)現(xiàn)模型服務(wù)的集成。

訊飛星辰的應(yīng)用場(chǎng)景

• 邏輯推理：構(gòu)建基于邏輯推理的智能問答系統(tǒng)，提供決策支持，幫助用戶快速獲取信息和解決方案。
• 數(shù)據(jù)管理：通過自動(dòng)化的數(shù)據(jù)標(biāo)注和清洗，提高數(shù)據(jù)準(zhǔn)備的效率和質(zhì)量，為AI模型訓(xùn)練提供堅(jiān)實(shí)的數(shù)據(jù)基礎(chǔ)。
• 模型微調(diào)和評(píng)估：根據(jù)不同業(yè)務(wù)需求定制AI模型，通過微調(diào)和評(píng)估優(yōu)化模型性能，適應(yīng)特定應(yīng)用場(chǎng)景。
• 托管和推理服務(wù)：將訓(xùn)練好的AI模型部署到云端或邊緣設(shè)備，提供穩(wěn)定可靠的在線推理服務(wù)，支持高并發(fā)請(qǐng)求。
• 多模態(tài)應(yīng)用：訓(xùn)練并構(gòu)建多模態(tài)應(yīng)用，在圖像和語(yǔ)音識(shí)別領(lǐng)域，提供智能分析和處理能力，如自動(dòng)識(shí)別圖像內(nèi)容和將語(yǔ)音轉(zhuǎn)換為文本。