大模型+搜索構(gòu)建完整技術(shù)棧，百川智能用搜索增強(qiáng)給企業(yè)定制化下了一劑「猛藥」

AIGC動(dòng)態(tài)1年前 (2023)發(fā)布機(jī)器之心

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：大模型+搜索構(gòu)建完整技術(shù)棧，百川智能用搜索增強(qiáng)給企業(yè)定制化下了一劑「猛藥」
關(guān)鍵字：模型,向量,窗口,知識(shí)庫(kù),智能
文章來(lái)源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：10246字

內(nèi)容摘要：

機(jī)器之心報(bào)道
機(jī)器之心編輯部用好企業(yè)知識(shí)庫(kù)是大模型應(yīng)用破局的關(guān)鍵。
從 ChatGPT 最初發(fā)布算起，雖然大模型的熱潮已經(jīng)持續(xù)了一年多，但大部分時(shí)間依然停留在學(xué)術(shù)前沿和技術(shù)創(chuàng)新層面，深入具體場(chǎng)景實(shí)現(xiàn)產(chǎn)業(yè)價(jià)值的案例并不多見(jiàn)。
實(shí)際落地的種種挑戰(zhàn)最終指向一個(gè)方向：行業(yè)知識(shí)。
面對(duì)各行各業(yè)的垂直場(chǎng)景，依靠網(wǎng)絡(luò)公開(kāi)信息和知識(shí)預(yù)訓(xùn)練的通用模型很難搞定準(zhǔn)確性、穩(wěn)定性、性價(jià)比等問(wèn)題。如果在外部實(shí)時(shí)信息搜索之余輔以強(qiáng)大的專門的企業(yè)知識(shí)庫(kù)，讓模型對(duì)行業(yè)知識(shí)的理解大大增強(qiáng)，效果自然更好。
這就好比我們熟悉的「開(kāi)卷考試」模式，人類大腦的「內(nèi)存容量」越強(qiáng)越好，但終歸有上限，而帶進(jìn)考場(chǎng)的參考資料正如外接「硬盤」，讓考生不需要去背誦繁雜的知識(shí)點(diǎn)，而是可以將精力更多地花在理解知識(shí)的本質(zhì)邏輯上。
在 12 月 19 日舉辦的 Baichuan2 Turbo 系列 API 發(fā)布活動(dòng)上，百川智能創(chuàng)始人、CEO 王小川做了一個(gè)更精準(zhǔn)的類比：大模型就像計(jì)算機(jī)的 CPU ，通過(guò)預(yù)訓(xùn)練將知識(shí)內(nèi)化在模型內(nèi)部，然后根據(jù)用戶的 Prompt 生成結(jié)果，上下文窗口可以看做計(jì)算機(jī)的內(nèi)存，存儲(chǔ)了當(dāng)下正在處理的文本，而互聯(lián)網(wǎng)實(shí)時(shí)信息與企業(yè)完整

原文鏈接：大模型+搜索構(gòu)建完整技術(shù)棧，百川智能用搜索增強(qiáng)給企業(yè)定制化下了一劑「猛藥」