NLP大模型缺席，不趕“熱點”只談應用的華為，功夫在“山外”。
在沉寂兩年后，華為云官網近期上線了盤古系列AI大模型的最新消息，同時，華為云人工智能領域首席科學家田奇于今日在人工智能大模型技術高峰論壇上介紹了盤古系列大模型的進展及其應用，一時拉高了人們對這次演講的期待值。
恰是阿里云“通義千問”大模型公布的第二天，一時間業界也有“華為加入大模型之爭”的猜測。有了期待值和預期，田奇今日的演講是否滿足了觀眾的好奇心呢?我們接下來會在文章中回顧華為盤古大模型的前世今生，以及華為在將盤古大模型推向公眾視野的演講中透露了哪些進展。
NLP大模型缺席，何時揭開面紗成謎
盤古大模型的歷史至今也才三年時間。2020年11月，盤古大模型在華為云內部立項成功，該模型也完成了與合作伙伴、高校的合作搭建。在開始打造盤古大模型的時候，華為內部團隊確立了三項最關鍵的核心設計原則：一是模型要大，可以吸收海量數據;二是網絡結構要強，能夠真正發揮出模型的性能;三是要具有優秀的泛化能力，可以真正落地到各行各業的工作場景。2021年4月，盤古大模型正式對外發布。
華為云官網更新的最新消息顯示，華為即將上線的“盤古系列AI大模型”分別為NLP 大模型、CV大模型、科學計算大模型(氣象大模型)。國盛證券近期發布的研報中表示，盤古 NLP 大模型是業界首個千億參數的中文預訓練大模型;盤古CV大模型是業界最大 CV 大模型、首次實現兼顧判別與生成能力、在 ImageNet 上小樣本學習能力上處于業界第一;盤古氣象大模型則可提供秒級天氣預報，可應用于氣象、生物醫藥等領域。
但在會上，田奇對于NLP大模型僅用一句話帶過其應用進展，他表示盤古NLP大模型目前覆蓋的智能文檔檢索、智能 ERP、小語種大模型等落地領域，2022年華為剛交付了一個阿拉伯語的千億參數大模型。半小時的演講聽下來像做了一套盤古大模型的面試介紹或者入職第一個月的職業規劃，讓人感覺“能摸到頭腦，但是不多”。有網友對沒有盤古大模型的演示表達了強烈的不滿，但既然演講中NLP大模型并非主角，那行業大模型當場演示確實有些強人所難。也有網友吐槽“都是些之前老的to B的東西重新拿出來簡單介紹了一下”。
作為盤古系列大模型中最受關注的大模型，與ChatGPT等外國同類AI模型相比，盤古NLP大模型更注重針對中文語言的優化，該模型采用了深度學習和自然語言處理技術，并使用了大量的中文語料庫進行訓練。在應用方面，盤古大模型可以應用于智能客服、機器翻譯、語音識別等多個領域，提供AI技術支持。
從參數與數據堆量來看，百度大模型的參數為100億，而GPT-3達到了1750億，GPT-4尚不明確。根據前段時間華為發表的論文數據判斷，華為PanGu-Σ大模型參數最多為1.085萬億，基于華為自研的MindSpore框架開發。PanGu-Σ大模型在對話方面，回答更貼近主題，也更準確。在參數角度，盤古大模型可能已經接近 GPT-3.5 的水平。
圖源：《PANGU-Σ: TOWARDS TRILLION PARAMETER LANGUAGE MODEL WITH SPARSE HETEROGENEOUS COMPUTING》
與其他廠商相比，華為的優勢或在于擁有完整的產業鏈和較強的算力調配能力。據介紹，在訓練千億參數的盤古大模型時，華為團隊調用了超過2000塊的昇騰910，進行了超過2個月的訓練。
圖源：《華為AI盤古大模型研究框架》，浙商證券
瞄準行業賦能，華為大模型堅定“AI for Industries”
目前，全球人工智能產業正處在AI工業化開發模式起步后的快速發展階段，而大模型是最有希望將AI進行落地的方向。大模型最重要的優勢是推動AI進入大規模可復制的產業落地階段，僅需零樣本、小樣本的學習就可以達到很好的效果，以此大大降低AI開發成本。
華為從2020年就關注到了人工智能技術的兩大落地趨勢：
一、從小模型到大模型演進。過去十年內，AI算法的算力需求提升了40萬倍。大模型將成為應對 AI 應用碎片化的一種方式，因為存在較高的資金門檻和技術門檻，可能存在大公司收編高度定制化的小模型的現象，導致市場向大公司集中，產業規則和格局也可能改變。
二、AI for science，AI與傳統科學計算領域滲透融合，將會為包括傳統的氣象、海洋、農業、地球科學、航空航天等領域貢獻從偏微分方程的方法拓展到 AI 方法，在這一領域華為云推出了氣象、藥物分子領域的多個行業大模型。
華為盤古大模型基于底層一站式 AI 開發平臺 ModelArts 建立了L0基礎大模型、L1行業大模型、L2場景模型多層服務。具體而言，基礎通用模型L0與行業的海量數據混合訓練得到行業模型L1，將L1部署到產業下游千行百業的細分領域中，得到細分場景模型L2。為了降低生產成本，提高效率，盡快為行業賦能，華為過去幾年主要在做盤古系列與訓練大模型。
據田奇介紹，華為云過去幾年實踐的人工智能項目已經超過1000個，其中30%人工智能項目已經進入了核心生產系統，幫助客戶將盈利能力平均提升18%。他預測，人工智能行業滲透率將再度提速，在2026年對企業的滲透率將達到20%。
自華為2021年開始立項盤古大模型以來進展不斷——2021年4月發布了盤古NLP大模型、盤古視覺大模型、盤古科學計算大模型;2021年9月，推出用于藥物研發細分場景的大模型;2022年，其與能源集團合作發布了盤古礦山大模型、盤古氣象大模型、盤古海浪大模型、盤古金融OCR大模型。
田奇表示，2022年，華為盤古大模型主要在做 AI for Industry(AI 賦能產業)，例如視覺大模型已經在工業質檢、缺陷檢測、電力巡檢等100多個場景得到驗證。華為大模型產業化的初衷在于開辟更多B端業務場景，正如田奇此前所說，“將工業化的一面放置在更高的優先級上”。華為希望通過盤古大模型為煤礦、水泥、電力、金融、農業等行業創造更多產業價值。
田奇還表示，大模型是連接技術生態和商業生態的橋梁，是未來AI生態的核心。華為云盤古大模型能夠推動人工智能開發從“作坊式”到“工業化”升級。展望未來，AI for Industries是人工智能新的爆發點。盤古大模型將解決傳統AI開發的難題，包括作坊式開發、樣本標注、代價大、模型維護困難、模型泛化不足、行業人短缺等難題等。
田奇著重介紹了盤古大模型中CV大模型和的落地情況，具體如下：
CV大模型
在與能源公司合作的盤古礦山大模型中案例中，礦井現場是一個 40 米長的采掘機，寬度僅 2 米左右，傳統相機很難一下子捕捉到全部畫面，只能用圖中的九宮格視頻畫面。通過 5G+AI 全景視頻拼接綜采畫面卷，傳輸到地面，地面工作人員將來可以實現地面控制機器進行采礦，實現礦下無人少人安全作業。
盤古礦山大模型還用在了煤礦的主運輸皮帶作業監控。煤礦被采集下來以后，它會通過一個主運輸皮帶，從地下傳輸到地上。按傳統方法是通過工人配合作業。華為提出通過視頻對作業的安全規范進行巡檢，主運場景的異物識別精度達 98%，煤礦作業場景動作識別準確率達 95%，助井下安全事故減少 90% 以上;此外大模型還能進行軌道機車缺陷檢測，比如掉鏈、脫落、裂痕等潛在不安全因素，人工檢測成本較高，盤古大模型提供圖像質量的自動評估、小樣本的故障定位與識別等。
科學計算大模型
華為云盤古科學計算大模型加速了人工智能在科學計算方面對于模型、算法、軟件、硬件四個方面進行融合。該模型是全球首個精度超過傳統預報方式的AI模型，可以在秒級的時間內完成全球未來全球一個小時到七天的全球天氣預報，其精度首次超過了歐洲氣象中心的數值分析方法，并且預測速度相對于傳統的數字分析方法提升了1萬倍以上。此外，華為云盤古藥物分子大模型縮短先導藥物研發周期從數年到1個月。
中國大模型競爭在所難免
關注股市的讀者朋友今年基本都會對ChatGPT概念股傾注一些關注，而此類炒作中，我們已經見證過不少速生速死的案例。在關注此方面上市公司近期動態時，我們發現不少公司發出了“AIGC、大模型、人工智能相關產品并未對公司產生任何收入”的聲音。將目光從資本市場轉移到實際應用上，AI真正在產業側掀起“ChatGPT式”的大變革似乎還很遙遠。在C端市場的傳播度與基本聲量，是B端市場所不能及的;但B端市場能夠給予的資金底座和長線收益，也是高速變動的C端市場可望不可及的。
任何一門技術突破都需要以產業賦能為技術指引，對于大模型而言，如果在NLP方面喪失先機，處在追趕國外的境況，不妨直接從產業側出發，依托中國本身具備的龐大業態尋求突圍機會。在此方面，正如田奇所言，大小模型協同進化將成為行業趨勢，共同推動端側化發展。
如果將ChatGPT的成功模式復用到B端，以輕量化服務降低應用門檻一定是一條重要路徑。大模型具有良好的通用性、泛化性，能夠顯著降低人工智能應用門檻。預訓練大模型在海量數據的學習訓練后具有良好的通用性和泛化性，用戶基于大模型通過零樣本、小樣本學習即可獲得領先的效果，同時“預訓練+精調”等開發范式，能夠讓研發過程更加標準化，這將降低人工智能的應用門檻，也將是AI走向工程化應用落地的重要手段。
在過去在分散化的模型研發模式下，單一的AI應用場景下的多個任務都需要由多個模型支撐完成，每一個模型建設都需要算法開發、數據處理、模型訓練與調優過程。預訓練大模型增強了人工智能的通用性、泛化性，基于大模型通過零樣本或小樣本精調,就可實現在多種任務上的較好效果。大模型“預訓練+精調”等模式帶來了新的標準化AI研發范式,實現AI模型在更統一、簡單的方式下規模化生產。
隨后，大模型負責向小模型輸出模型能力，小模型更精確地處理自己“擅長”的任務，再將應用中的數據與結果反哺給大模型，讓大模型持續迭代更新，形成大小模型協同應用模式，達到降低能耗、提高整體模型精度的效果。
據IDC預測，未來大模型將帶動新的產業和服務應用范式，在深度學習平臺的支撐下將成為產業智能化基座，企業需加快建設人工智能統一底座，融合專家知識圖譜，打造可面向跨場景或行業服務的 “元能力引擎” 。
從近期的行業亂戰來看，中國企業不擅長做“有趣的技術”，但執著于行業首創的“模式”。追逐浪潮在所難免，但相較于大語言模型，我國大廠在幾年前就紛紛推出行業大模型，在此方面存在一定的先行布局，此方面一定需要繼續加碼，但在大語言模型方面，中國需要幾個“輪子”目前還沒有定論，這等耗時耗力的活計，唯有留給一線的大廠來思考。
參考資料：
1.《華為盤古大模型新進展，華為云 AI 首席科學家 7000 字演講精華》，智東西
2.《華為AI盤古大模型研究框架》，浙商證券
3.《2022中國大模型發展白皮書》，IDC
