編者薦語：
當(dāng)下，人工智能蓬勃發(fā)展，創(chuàng)新技術(shù)不斷涌出， 整個行業(yè)正經(jīng)歷著一場意義深遠(yuǎn)的變革。DeepSeek 憑借其卓越的性能和強(qiáng)大的成本優(yōu)勢，迅速在全球范圍內(nèi)圈粉無數(shù)，掀起了一股使用熱潮。DeepSeek與LPU的結(jié)合，或許會為這場變革注入新的動力。
作者|鵬程 來源|半導(dǎo)體產(chǎn)業(yè)縱橫當(dāng)下，人工智能蓬勃發(fā)展，創(chuàng)新技術(shù)不斷涌出， 整個行業(yè)正經(jīng)歷著一場意義深遠(yuǎn)的變革。而這其中，DeepSeek 和 LPU 的出現(xiàn)格外引人注目。DeepSeek 憑借其卓越的性能和強(qiáng)大的成本優(yōu)勢，迅速在全球范圍內(nèi)圈粉無數(shù)，掀起了一股使用熱潮。而LPU，作為專為語言處理任務(wù)量身定制的硬件處理器，以其區(qū)別于傳統(tǒng) GPU 的創(chuàng)新架構(gòu)、令人驚嘆的性能表現(xiàn)和超低的成本優(yōu)勢，成為了 AI 領(lǐng)域的新寵。DeepSeek與LPU的結(jié)合，或許會為這場變革注入新的動力。2024年2月，由谷歌TPU設(shè)計者Jonathan Ross創(chuàng)立的Groq公司發(fā)布新一代LPU，實測性能引發(fā)行業(yè)震動：在Meta Llama 2-70B推理任務(wù)中，其LPU相較英偉達(dá)H100實現(xiàn)10倍性能提升，推理成本降低80%。而LPU本質(zhì)為減少計算中內(nèi)存調(diào)用次數(shù)，從而實現(xiàn)推理效率的提升。對推理芯片而言，更高性能、更低成本的LPU，提供了一個新的技術(shù)路徑選項。LPU，全稱 Language Processing Unitix，是一種專門為語言處理任務(wù)設(shè)計的硬件處理器。它與我們熟知的 GPU（Graphics Processing Unit，圖形處理器）有著本質(zhì)的區(qū)別。GPU 最初是為處理圖形渲染任務(wù)而設(shè)計的，在并行計算方面表現(xiàn)出色，因此后來被廣泛應(yīng)用于人工智能領(lǐng)域的模型訓(xùn)練和推理。然而，LPU 則是專門針對語言處理任務(wù)進(jìn)行優(yōu)化的，旨在更高效地處理文本數(shù)據(jù)，執(zhí)行諸如自然語言理解、文本生成等任務(wù)。從硬件架構(gòu)來看，LPU 有著獨特的設(shè)計，采用了時序指令集計算機(jī)架構(gòu)。同時，LPU 不需要芯片外內(nèi)存，這是其區(qū)別于傳統(tǒng)硬件架構(gòu)的重要特點。傳統(tǒng)的 GPU 在運行過程中，需要依賴高速的數(shù)據(jù)傳輸和大量的芯片外內(nèi)存來存儲和處理數(shù)據(jù)，這不僅增加了硬件成本，還可能在數(shù)據(jù)傳輸過程中產(chǎn)生延遲，影響系統(tǒng)性能。而 LPU 使用的是 SRAM（Static Random - Access Memory，靜態(tài)隨機(jī)存取存儲器），其速度比 GPU 所用的存儲器快約 20 倍。這種高速的內(nèi)存使得 LPU 在處理數(shù)據(jù)時能夠更快地讀取和寫入信息，大大提高了處理效率。在能效方面，LPU通過減少多線程管理的開銷和避免核心資源的未充分利用，實現(xiàn)了更高的每瓦特計算性能，在執(zhí)行推理任務(wù)時，無需像GPU那樣頻繁從內(nèi)存加載數(shù)據(jù)，消耗的電量也低于英偉達(dá)的GPU。Groq公司作為LPU的重要推動者，公布的LPU性能令人驚嘆。與當(dāng)前行業(yè)內(nèi)的領(lǐng)先模型相比，LPU展現(xiàn)出了巨大的優(yōu)勢。例如，在與GPT - 4的對比中，Groq的LPU比 GPT - 4 快18倍，在處理速度上達(dá)到了每秒500 token的驚人成績，打破了行業(yè)紀(jì)錄，其性能是英偉達(dá)GPU的10倍。而且，不同于英偉達(dá)GPU對高速數(shù)據(jù)傳輸和高帶寬存儲器（HBM）的依賴，Groq的LPU系統(tǒng)中沒有采用HBM，而是通過優(yōu)化的SRAM設(shè)計，實現(xiàn)了高效的數(shù)據(jù)處理。這種獨特的設(shè)計使得LPU在保證高性能的同時，還降低了硬件成本和系統(tǒng)復(fù)雜性。這一突破也凸顯了計算模式的潛在轉(zhuǎn)變，即在處理基于語言的任務(wù)時，LPU 可以提供一種專業(yè)化、更高效的替代方案，挑戰(zhàn)傳統(tǒng)上占主導(dǎo)地位的 GPU。國產(chǎn)LPU當(dāng)然也受到市場關(guān)注。目前，清華系的無問芯穹已研發(fā)出全球首個基于FPGA（現(xiàn)場可編程邏輯門陣列）的大模型處理器，稱其為無穹LPU，通過大模型高效壓縮的軟硬件協(xié)同優(yōu)化技術(shù)，使得LLaMA2-7B模型的FPGA部署成本從4塊卡減少至1塊卡，并且性價比與能效比均高于同等工藝GPU，即展示“一張卡跑大模型”。無問芯穹研發(fā)的端側(cè)大模型推理處理器 LPU采用異構(gòu)計算技術(shù)。其核心目標(biāo)是提供如水電煤般便捷的算力服務(wù)，解決當(dāng)前市場中算力資源匱乏的問題。目前已通過適配多種 AI 芯片，實現(xiàn)不同模型高效并行處理，根據(jù)無問芯穹的內(nèi)部測試數(shù)據(jù)，這款芯片在大規(guī)模模型推理場景中，算力成本下降高達(dá)90%，為國內(nèi)算力之困開辟了一條前路。據(jù)悉，無問芯穹成立于2023年5月，創(chuàng)始團(tuán)隊來自清華大學(xué)電子工程系，致力于成為大模型落地過程中的"M×N"中間層，以打造大模型軟硬件一體化方案，鏈接上下游，建立AGI（通用人工智能）時代大模型基礎(chǔ)設(shè)施。 03、DeepSeek利好上游，將推動AI大規(guī)模應(yīng)用2025年1月20日，DeepSeek正式發(fā)布DeepSeek-R1模型，在數(shù)學(xué)、代碼、自然語言推理等任務(wù)上，性能成功比肩OpenAI-o1正式版，在1月24日國外大模型排名Arena上，DeepSeek-R1基準(zhǔn)測試升至全類別大模型第三，在風(fēng)格控制類模型分類中與OpenAI-o1并列第一，展現(xiàn)出強(qiáng)大的技術(shù)實力。僅僅一周后，DeepSeek在中國區(qū)及美區(qū)蘋果App Store免費榜均占據(jù)首位，成為首個同期在中國和美區(qū)蘋果App Store占據(jù)第一位的中國應(yīng)用，用戶量在短時間內(nèi)迅速攀升，在全球范圍內(nèi)掀起了使用熱潮。DeepSeek發(fā)展速度之快令人咋舌，日活數(shù)據(jù)的增長堪稱 “火箭式” 上升。前幾日，DeepSeek 的日活剛突破 2000 萬，然而不到一周的時間，日活已經(jīng)飆升至 3000 萬，短短 7 天內(nèi)用戶增長一個億。與之形成鮮明對比的是，曾經(jīng)風(fēng)靡全球的 ChatGPT 達(dá)到同樣的用戶增長規(guī)模需要 2 個月的時間。DeepSeek 的快速崛起，彰顯了其在人工智能領(lǐng)域的強(qiáng)大競爭力和市場吸引力。隨著 DeepSeek 用戶的大規(guī)模增長，對上游做算力的公司產(chǎn)生了顯著的利好影響。算力作為人工智能運行的基礎(chǔ)支撐，是模型訓(xùn)練和推理得以實現(xiàn)的關(guān)鍵。DeepSeek 的火爆意味著對算力的需求呈指數(shù)級增長，這為上游的算力供應(yīng)商提供了廣闊的市場空間。值得一提的是，三家基礎(chǔ)電信企業(yè)均全面接入 DeepSeek 開源大模型。這一舉措不僅進(jìn)一步推動了 DeepSeek 的廣泛應(yīng)用，還為電信企業(yè)自身的業(yè)務(wù)發(fā)展帶來了新的機(jī)遇。電信企業(yè)擁有豐富的網(wǎng)絡(luò)資源和龐大的用戶基礎(chǔ)，接入 DeepSeek 大模型后，可以將人工智能技術(shù)融入到通信服務(wù)、智能客服、大數(shù)據(jù)分析等多個業(yè)務(wù)領(lǐng)域，提升服務(wù)質(zhì)量和用戶體驗，同時也為自身在人工智能時代的轉(zhuǎn)型發(fā)展奠定了堅實的基礎(chǔ)。在市場層面，DeepSeek 的成功也引發(fā)了資本的關(guān)注。大量的投資涌入與 DeepSeek 相關(guān)的產(chǎn)業(yè)鏈，從算力支持到算法優(yōu)化，再到應(yīng)用開發(fā)，各個環(huán)節(jié)都成為了資本追逐的熱點。這不僅促進(jìn)了相關(guān)企業(yè)的技術(shù)研發(fā)和業(yè)務(wù)拓展，還加速了整個行業(yè)的發(fā)展進(jìn)程。之所以DeepSeek如此受到關(guān)注，除了其在性能上的卓越表現(xiàn)外，還在于其具有強(qiáng)大的成本優(yōu)勢。DeepSeek模型厲害的地方在于，整個訓(xùn)練僅花費了557.6萬美元，在2048xH800集群上運行55天完成。性能卻能和OpenAI的頂尖模型ChatGPT-o1比肩，甚至在某些領(lǐng)域還強(qiáng)一點。這筆費用是什么概念呢？Anthropic 的 CEO曾透露，GPT-4o這樣的模型訓(xùn)練成本約為1億美元。而目前正在開發(fā)的AI大模型訓(xùn)練成本可能高達(dá)10億美元。他還預(yù)測，未來三年內(nèi)，AI大模型的訓(xùn)練成本將上升至100億美元甚至1000億美元。換句話說，DeepSeek-V3的這個成本幾乎可以忽略不計。由于OpenAI的大模型成本巨大，在美國政府的支持下，甚至發(fā)起了總投資5000億美元的星門計劃來建設(shè)AI設(shè)施。 04、高性能低價平權(quán)之下，LPU被看好AI基礎(chǔ)設(shè)施建設(shè)的巨額成本一直是阻擋AI大規(guī)模應(yīng)用的絆腳石。DeepSeek-R1具備高性能、低成本、開源三大屬性。DeepSeek-R1問世，其開源屬性為企業(yè)提供了技術(shù)底座，如教育機(jī)構(gòu)可基于開源代碼定制學(xué)科知識庫、教學(xué)場景交互邏輯等，人力資源機(jī)構(gòu)也可針對招聘培訓(xùn)等垂直場景構(gòu)建垂直助手。且DeepSeek-R1大模型單次訓(xùn)練和推理對算力的需求低，因此基于DeepSeek-R1二次訓(xùn)練的成本也更低，更有利于企業(yè)低成本訓(xùn)練及本地部署。簡而言之，DeepSeek-R1的突破性發(fā)展，直接降低了AI應(yīng)用的研發(fā)落地成本，將加速AI技術(shù)在各行業(yè)的滲透。如果說，DeepSeek屬于“核彈”級，那LPU就是“氫彈”級。據(jù)了解，美國Groq公司已經(jīng)在自己的LPU芯片上實機(jī)運行DeepSeek，效率比最新的H100快上一個量級，達(dá)到每秒24000token。某種程度上，單純靠堆砌硬件算力，實現(xiàn)智力的邏輯也將失效。隨著硬件芯片制程逐漸到達(dá)瓶頸，后期人工智能主要靠算法和芯片架構(gòu)優(yōu)化推動。而DeepSeek 與 LPU 的結(jié)合標(biāo)志著 AI 算力領(lǐng)域的重要變革，特別是在大語言模型（LLM）推理場景中展現(xiàn)出顯著的技術(shù)突破和市場潛力。這種結(jié)合使得大語言模型在處理速度、成本控制和應(yīng)用范圍等方面都有了新的突破，為人工智能的發(fā)展開辟了新的道路。作為LPU的主要供應(yīng)商，美半導(dǎo)體初創(chuàng)公司Groq也受到了投資市場的看好。據(jù)了解，目前該公司已獲得沙特阿拉伯15億美元的承諾投資，以支持 Groq 擴(kuò)建位于沙特達(dá)曼的 AI 推理基礎(chǔ)設(shè)施。Groq 的達(dá)曼數(shù)據(jù)中心由該企業(yè)同石油巨頭沙特阿美旗下子公司合作建設(shè)，目前該數(shù)據(jù)中心已包含 19000 個 Groq LPU（語言處理單元），可向 41 個國家的 40 億用戶提供服務(wù)。另一方面，這也對英偉達(dá)和其他美國人工智能科技公司造成打擊，三星電子和 SK 海力士預(yù)計將在快速增長的人工智能 (AI) 內(nèi)存芯片業(yè)務(wù)中面臨越來越多的不確定性。而這兩家公司主要生產(chǎn)用于英偉達(dá)GPU的HBM芯片。SK海力士1月份的數(shù)據(jù)比12月下跌了19.3%。這是自2023年4月該公司開發(fā)出全球12層HBM3芯片以來，環(huán)比跌幅最大的一次。當(dāng)LPU技術(shù)將AI創(chuàng)作成本降至消費級硬件可承載范圍，普通人使用RTX顯卡即可運行百億參數(shù)模型時，UGC內(nèi)容生產(chǎn)將迎來核爆式增長。這種生產(chǎn)力解放可能提前10年實現(xiàn)"人人都是創(chuàng)作者"的預(yù)言。當(dāng) LPU 架構(gòu)與神經(jīng)擬態(tài)芯片結(jié)合后，個人設(shè)備的計算能力將得到質(zhì)的飛躍。也許，未來的智能手機(jī)或筆記本電腦，借助這種技術(shù)，用戶無需聯(lián)網(wǎng)就能在本地快速運行復(fù)雜的語言模型，實現(xiàn)高效的個人工作流部署。責(zé)編：張德會
一審：寧靜
二審：周秋紅
三審：張德會
來源：湖南日報·新湖南客戶端
下載APP
報料
關(guān)于
湘公網(wǎng)安備 43010502000374號