剛剛過去的2023年，被譽(yù)為科技史上的奇跡年。其重要性堪比牛頓發(fā)現(xiàn)力學(xué)、愛因斯坦提出相對論，對后世影響具有深遠(yuǎn)意義。

這一年，大洋彼岸的大模型風(fēng)潮傳來，國內(nèi)幾乎所有具備AI技術(shù)積累的企業(yè)紛紛入局，一同共赴這場技術(shù)比拼的盛宴。霎時間，各種類型、各種參數(shù)的大模型悉數(shù)亮相，大廠們正在用AI技術(shù)顛覆千行百業(yè)。

誠然，大模型是未來發(fā)展的主要旋律之一，人工智能技術(shù)加速創(chuàng)新，一場范式革命已經(jīng)拉開帷幕。然而，相比個人而言，對于大模型的重要使用者企業(yè)來說，當(dāng)千億乃至萬億參數(shù)大模型輪番上陣，上演大模型算力比拼的“表演”時，追求現(xiàn)實(shí)應(yīng)用的企業(yè)，真正能在這場演出中收獲幾何？

大模型日新月異，能夠賦能企業(yè)的共識已經(jīng)達(dá)成，但大模型究竟該如何增效、甚至顛覆企業(yè)工作場景，什么類型的大模型，才能讓企業(yè)真正吃到人工智能紅利，借助技術(shù)東風(fēng)更上一層樓？

“使用私有化大模型，讓經(jīng)營數(shù)據(jù)內(nèi)循環(huán)生長，才能讓企業(yè)具備持久競爭力。”獵豹移動董事長兼CEO、獵戶星空董事長傅盛在2024年開年AI大課暨獵戶星空大模型發(fā)布會上如是說。在他看來，企業(yè)的私有數(shù)據(jù)是優(yōu)質(zhì)數(shù)據(jù)資產(chǎn)，只有將私有數(shù)據(jù)和大模型技術(shù)結(jié)合，為企業(yè)配備專屬的私有化大模型，才能真正落地應(yīng)用場景，釋放大模型的效能，提升企業(yè)效率。

獵戶星空的大模型就是為了企業(yè)應(yīng)用而生。據(jù)傅盛介紹，憑借著“全家桶”級的微調(diào)能力，在專業(yè)場景里實(shí)現(xiàn)媲美千億級模型的效果。私有化大模型不僅能真正完成數(shù)字員工，還能基于企業(yè)過往數(shù)據(jù)實(shí)現(xiàn)AI輔助決策，充當(dāng)團(tuán)隊(duì)虛擬智能錦囊的角色。

正如喬布斯所說，技術(shù)不是為工程師而生，而是為應(yīng)用而生。在這波大模型的浪潮中，企業(yè)想要真正搭上新技術(shù)的快班車，重心應(yīng)該落在如何將技術(shù)和場景結(jié)合，而非是一味追求更大參數(shù)規(guī)模的算力上。

將私有數(shù)據(jù)和大模型技術(shù)融合，才是抓住企業(yè)真實(shí)需求，搶灘大模型賽道的破局之道。

不是所有企業(yè)都需要“愛因斯坦”

自從Chat GPT 3.5問世，展現(xiàn)出驚人的生成式AI技術(shù)至今，不過短短一年有余。雖然誕生時間較短，但在Chat GPT的數(shù)據(jù)中，已經(jīng)涵蓋了過往幾百年來的人類智慧結(jié)晶。所有在互聯(lián)網(wǎng)上記錄的文字內(nèi)容，都已被Chat GPT掌握甚至融會貫通。

同理，雖然國內(nèi)各家大模型還未喝上“周年酒”，但其數(shù)據(jù)的來源已經(jīng)貫穿古今，成為一個堪比愛因斯坦般智慧的存在。

雖然大模型已經(jīng)具備最廣泛的知識，但是具體到解決具體工作的能力和知識并不多。舉個例子，當(dāng)家里的電線短路時，你會尋求一個擁有所有學(xué)科博士水平的專家?guī)椭€是給樓下從事電路維修二十年的電工師傅打電話？

答案顯然是后者。

讓更專業(yè)的人做更專業(yè)的事，是解決方案中的最優(yōu)解。這般樸素的邏輯同樣適合大模型在企業(yè)的實(shí)際應(yīng)用中。一家企業(yè)需要的大模型，只需要更懂自家企業(yè)運(yùn)行、自身行業(yè)發(fā)展，而非掌握所有知識的大模型。

這也是目前大模型難以推進(jìn)落地場景的重要原因之一，使用者清楚的知道大模型技術(shù)的出神入化，但卻不知道如何使用。所以，目前C端使用者對于大模型還只停留在嘗鮮、獵奇的階段，嘗試文生圖、一問一答的簡單使用。B端使用者在工作時，也只是借助大模型的生成技術(shù)，完成一篇頗有GPT味道的工作匯報，難以真正地在更有價值、更有挑戰(zhàn)性的工作場景中，釋放大模型的技術(shù)魅力。

如此一來，不僅浪費(fèi)了大模型在訓(xùn)練時的巨額投入，更是局限了大模型落地的無限可能性。

綜上所述，企業(yè)需要的不只是一個會說正確但無用的“愛因斯坦”大模型，而是更清楚員工工作、企業(yè)業(yè)務(wù)、行業(yè)環(huán)境，更能解決實(shí)實(shí)在在痛點(diǎn)的私有化大模型。

除了更垂直的專業(yè)外，私有化大模型也能降低企業(yè)使用成本。在工作場景中百億參數(shù)基座+數(shù)據(jù)和應(yīng)用，其帶來的能力基本上等同于市面上通用的千億參數(shù)大模型。獵戶星空的客戶案例中，已經(jīng)證實(shí)了這種可行性。通過百億參數(shù)+應(yīng)用大模型，其回答專業(yè)問題的準(zhǔn)確率高達(dá)97%，而GPT4僅能達(dá)到60%。

簡而言之，不是“愛因斯坦”用不起，關(guān)鍵的一點(diǎn)是：不是每個企業(yè)都需要。

對于企業(yè)而言，部署私有化大模型，可以深入企業(yè)在會議紀(jì)要、規(guī)章制度、圖表數(shù)據(jù)、文案打磨、創(chuàng)意腦暴等多個工作場景。真正讓企業(yè)做到自上而下、由內(nèi)到外的大模型技術(shù)升級。抓住這次技術(shù)東風(fēng)，成為第一批用上且用好大模型技術(shù)的玩家，持續(xù)構(gòu)建所在行業(yè)的核心競爭力。

企業(yè)“暗知識”才是核心競爭力

大模型時代，數(shù)據(jù)是非常重要的生產(chǎn)要素，數(shù)據(jù)質(zhì)量直接影響模型效果。無論是對于大模型廠商還是使用者而言，手握優(yōu)質(zhì)數(shù)據(jù)都意味著掌握絕對優(yōu)勢。

通用大模型的確具備海量的公有數(shù)據(jù)、公有知識，但是對于企業(yè)而言，這些數(shù)據(jù)訓(xùn)練后的答案，大概率會是正確但無用的。企業(yè)想要真正有用的大模型，需要更精準(zhǔn)的數(shù)據(jù)。這部分?jǐn)?shù)據(jù)來源，并不在互聯(lián)網(wǎng)上，而是企業(yè)經(jīng)過多年運(yùn)營沉淀的數(shù)據(jù)，這也是企業(yè)最大的競爭優(yōu)勢。

傅盛曾說過，“通用大模型無法解決城市和企業(yè)的實(shí)際或特色問題。互聯(lián)網(wǎng)上出現(xiàn)的人類知識只是冰山一角，水面之下大量的私有知識還無法體現(xiàn)。”

例如每家企業(yè)開會時的數(shù)據(jù)，從開會前期的需求收集、中間的討論、形成決策、實(shí)踐并復(fù)盤，這些都是通用大模型沒有的數(shù)據(jù)。“一個公司真正的效率就是它的流程決策，從做出決定到付諸實(shí)踐，這其中的一點(diǎn)一滴都是每一家公司的核心，這是通用大模型無法做到的。”傅盛認(rèn)為。

傅盛將企業(yè)使用AI的方式，總結(jié)為三個段位。最低級的段位“青銅”，就是企業(yè)使用公有數(shù)據(jù)的大模型。在這個段位中，大模型只能幫助企業(yè)完成最簡單的文案包裝等營銷工作，并不能實(shí)現(xiàn)全鏈條的提效。

相比之下，“黃金”段位的企業(yè)，已經(jīng)在大模型中加入專崗私有數(shù)據(jù)。通過專崗私有數(shù)據(jù)，加上檢索的方法配合大模型進(jìn)行任務(wù)處理（RAG檢索增強(qiáng)生成），進(jìn)而可以實(shí)現(xiàn)使用企業(yè)數(shù)據(jù)的知識問答。

通過一個案例便可知曉私有數(shù)據(jù)的重要性。例如當(dāng)員工想要知道自己的年假時長時，通用大模型給出的只是基于法律法規(guī)亦或是當(dāng)?shù)靥厣珨?shù)據(jù)生產(chǎn)出的答案，而私有化大模型，經(jīng)過企業(yè)私有數(shù)據(jù)訓(xùn)練后，能給員工一個真正符合該企業(yè)員工休假標(biāo)準(zhǔn)的答案。后者才是真正解決員工問題的大模型。

此外，當(dāng)專崗私有數(shù)據(jù)疊加Agent套件后，可以讓大模型像人一樣自主完成工作，具備拆解任務(wù)目標(biāo)、制定任務(wù)規(guī)劃、使用外部工具、查詢知識庫、調(diào)用記憶與企業(yè)系統(tǒng)打通的能力。

私有數(shù)據(jù)訓(xùn)練出的私有化大模型，能真正將員工工作落到實(shí)處，向數(shù)據(jù)員工方向靠攏，同時具備降本增效的效果。

最高端的段位，就是企業(yè)經(jīng)營數(shù)據(jù)+大模型+強(qiáng)應(yīng)用結(jié)合的“王者”段位。通過更寶貴的經(jīng)營數(shù)據(jù)，讓大模型分析經(jīng)營環(huán)境的風(fēng)險，充當(dāng)輔助決策的工具，利用AI技術(shù)規(guī)避經(jīng)營風(fēng)險。

“黃金”、“王者”段位，就是獵戶星空大模型所追求的實(shí)際落地效果。為此，傅盛率領(lǐng)獵戶星空團(tuán)隊(duì)，拿出了七年磨一劍的技術(shù)。

1月21日，獵戶星空發(fā)布的大模型，在百億參數(shù)大模型基座能力行業(yè)領(lǐng)先。Orion-14B在MMLU、C-Eval、CMMLU、GAOKAO、BBH等第三方測試集上，均為同級別模型SOTA。實(shí)現(xiàn)長文本中，最長可支持 320K token 超長文本，可以一次性讀入一本小說。在三十萬文字中任意位置隨機(jī)隱藏關(guān)鍵信息，對模型進(jìn)行提問，結(jié)果全部正確。獵戶星空大模型在Agent應(yīng)用所需的五種能力上，幾乎追平了GPT-4——相比之下，一般的百億參數(shù)大模型表現(xiàn)不超過70%。

為了更貼切企業(yè)實(shí)際應(yīng)用需求，獵戶星空大模型通過AWQ Q4量化技術(shù)，模型大小減少70%，推理速度提升30%，性能幾乎無損(損失小于1%)，可在千元級顯卡上流暢運(yùn)行。在NVIDIA RTX 3060顯卡實(shí)測，推理速度可達(dá)31 token/s (約每秒50漢字)。在私有化部署方面，獵戶星空大模型可置于企業(yè)內(nèi)網(wǎng)，所有數(shù)據(jù)不連公網(wǎng)。

獵戶星空的大模型底座更抗打，也更適合企業(yè)使用，疊加企業(yè)的私有數(shù)據(jù)后，即使是百億參數(shù)，也可與千億參數(shù)模型媲美。由此可見，部署私有化大模型，更適合企業(yè)追趕新技術(shù)浪潮。大模型時代下，企業(yè)的私有數(shù)據(jù)才是決勝秘籍。

所有企業(yè)，都需要一個“數(shù)字老板”

從使用價值來看，具有戰(zhàn)略視野的老板們掌握新技術(shù)，更能釋放技術(shù)價值。從整個流程，開始進(jìn)行AI重構(gòu)。此外，基于AI加持，企業(yè)高層能以最快的鏈條聽到一線員工的心聲，從最前端把握企業(yè)經(jīng)營發(fā)展細(xì)節(jié)，消除和員工之間的“信息差”。

最近兩天，英偉達(dá)CEO黃仁勛最熱的消息是，在公司年會上，身穿“東北大花衣”扭秧歌。而實(shí)際上，在前不久，黃仁勛每周看完2000份周報的消息，更能震驚創(chuàng)業(yè)圈和業(yè)界。在感慨黃仁勛親力親為的精神時，不禁產(chǎn)生疑問，黃仁勛是如何做到的？

他的法寶是AI。

同樣的，獵戶星空也想幫助所有的企業(yè)管理者，實(shí)現(xiàn)同樣驚人的壯舉，并將其變成日常，其發(fā)布的AI輔助決策交鑰匙解決方案是“聚言”。“聚言”的人力助手可以將收到的數(shù)千份周報匯總，并提煉出主要的業(yè)務(wù)進(jìn)展和潛在的風(fēng)險。

企業(yè)老板還可以進(jìn)行針對性提問，例如詢問某項(xiàng)業(yè)務(wù)具體風(fēng)險的應(yīng)對方案，AI會完全依據(jù)周報的內(nèi)容，給出回答。

此外，當(dāng)AI完全掌握了公司的私有數(shù)據(jù)時，還能預(yù)測出員工的潛力。根據(jù)業(yè)務(wù)特點(diǎn)，創(chuàng)建出得分系統(tǒng)，進(jìn)行數(shù)據(jù)分析后給出結(jié)果，并同時附上非常直觀的圖表。通過“數(shù)字老板”的方式，讓企業(yè)高層全面掌握經(jīng)營細(xì)節(jié)。

除了人力助手之外，“聚言”還具備云資產(chǎn)助手的應(yīng)用場景。云資產(chǎn)一直是科技企業(yè)的主要成本之一，但真正能懂云資產(chǎn)成本的高層較少，進(jìn)而使得企業(yè)出現(xiàn)云資產(chǎn)浪費(fèi)的情況。

獵戶星空的云資產(chǎn)助手，來自不同領(lǐng)域云治理專家的經(jīng)驗(yàn)，進(jìn)而訓(xùn)練出的專業(yè)領(lǐng)域大模型。對企業(yè)的云上資源和成本賬單數(shù)據(jù)進(jìn)行多維度分析，從而進(jìn)一步剖析運(yùn)營成本痛點(diǎn)。

經(jīng)過獵戶星空實(shí)測，云資產(chǎn)助手可以為企業(yè)節(jié)省30%的成本。

更具有想象空間的是聚言創(chuàng)意助手，由多個Agent組成，讓各個領(lǐng)域的專家直接為你出謀策劃。在聚言創(chuàng)意助手中，勾選參與戰(zhàn)略規(guī)劃的角色，輸入話題，它們便會從不同角度提供方案。

“聚言”是結(jié)合場景數(shù)據(jù)的大模型深度應(yīng)用，通過全鏈條的AI大模型咨詢定制，為客戶提供AI輔助決策交鑰匙解決方案。從實(shí)際應(yīng)用來看，“聚言”完全是從場景出發(fā)，以目標(biāo)為導(dǎo)向的開發(fā)產(chǎn)品。這類邏輯誕生的產(chǎn)品，往往更具有實(shí)用性，也更能在實(shí)操中挖掘出意料之外的驚喜。

“數(shù)字老板”的出現(xiàn)，等同于為企業(yè)高層配備一個專屬智囊團(tuán)。短時間內(nèi)可以實(shí)時跟進(jìn)員工業(yè)務(wù)進(jìn)度、減少不必要的成本損耗，長時間內(nèi)可以有一份更科學(xué)的戰(zhàn)略輔助決策建議，為未來發(fā)展提供助力。

所有企業(yè)，或許都需要一個“數(shù)字老板”，未來打敗企業(yè)的也許不是同行，而是會用AI的同行。

總結(jié)

沒有落地場景的技術(shù)，只是空中樓閣，沒有實(shí)際使用價值的AI，只是一場技術(shù)的狂歡！

私有化大模型基于應(yīng)用場景而生，為大模型技術(shù)落地實(shí)踐了一條新路。新技術(shù)的出現(xiàn)，固然需要奮起直追，但是這并不是一場盲目的賽跑。仔細(xì)思索新技術(shù)的用武之地，才是彎道超車的關(guān)鍵。