1+4+N架構:打造大模型本地化部署、開發(fā)流水線

綠色智算體是特斯聯于2023年首次打造推出的一系列高效易用的智算一體化基礎設施和服務,,具有開箱即用,、算力資源彈性配置、算力套餐靈活可選,、運維過程綠色高效,,且全周期自主安全可控的特點。


近年來,,大模型技術不斷突破,,特別是DeepSeek V3/R1系列模型的橫空出世,在推動賦能千行百業(yè)的同時,,亦催生了“超級人工智能即服務”(Intelligence as a Service, IaaS)的全新商業(yè)模式,,使智算需求激增。然而于應用側企業(yè)及機構而言,,要想高效部署,、利用前沿大模型并以之實現業(yè)務賦能,則還面臨高算力運營門檻,高AI應用門檻,,高算力應用成本,,及高安全保障要求的“四高挑戰(zhàn)”。




特斯聯綠色智算體采用1+4+N模塊化架構


為此,,特斯聯綠色智算體采用1+4+N模塊化架構,,以軟硬協(xié)同的一體化產品,同時滿足行業(yè)的綠色低碳,、開箱即用,、彈性高效、安全可控訴求,。


“1”組硬件集群釋放異構算力極致性能,。支持華為昇騰、昆侖芯,、寒武紀,、燧原、沐曦,、壁仞等十余種國產信創(chuàng)芯片異構兼容適配,,算力資源管理效率最高可達97%,使大模型能夠在多種異構算力上發(fā)揮出比肩國際芯片廠商的極致性能,。


“4”套軟件平臺支持定制化大模型“開箱即用”,。為進一步降低智能算力及領先模型的應用門檻,綠色智算體特別部署X-Stack智算云平臺,、比特大模型平臺,、智算運營管理平臺、智算運維管理平臺四套軟件平臺,。



“N”個行業(yè)賦能服務促大模型普惠,、易用,。基于上述硬件集群及軟件套組,綠色智算體為行業(yè)企業(yè)及機構提供多元算力應用,、模型代訓練調優(yōu),、垂域模型聯合研發(fā)、成熟模型應用調用,、科研成果創(chuàng)新孵化等廣泛賦能服務,。


前沿模型催生廣闊應用生態(tài),綠色智算體助力構建完善智算網絡


伴隨DeepSeek的崛起,市場逐漸涌現了就AI算力前景的不同聲音,。有行業(yè)觀點認為,,“DeepSeek帶來的模型訓練和推理的新范式使得產業(yè)不再有需要大量砸錢購買前沿GPU芯片,算力市場的故事已經崩塌,。”然而,,不可忽視的是,得益于近期模型能力的突破,,整個生態(tài)的算力成本都得到進一步降低,,促使更多“玩家”入局,加速更多應用生態(tài)的崛起——市場事實上更大了,。
一個典型的例子是曾被稱為“算力無底洞”的智能體行業(yè)——完成一項任務往往需要多次模型調用,、不斷自我修正與驗證,以及多個智能代理之間的協(xié)同合作,,導致對API調用的需求呈指數級增長,。而全新的訓練和推理模式使得許多過去無法實現的事在如今成為可能。另一方面,,行業(yè)普遍認為DeepSeek-R1極大地提升了端側部署AI小模型的能力,,設備端AI應用以及面向消費者的應用也將迎來蓬勃發(fā)展的局面。這種趨勢對端側和邊緣側的算力提出了新的挑戰(zhàn)和要求,。



面向不同規(guī)模需求,,綠色智算體提供P級至千P級服務

作為特斯聯AIoT Infra層的核心產品,面向不同算力規(guī)模的訓練及推理需求,,綠色智算體目前提供特算1號(8P級規(guī)模智算體),、特算1號-DS版(8P級規(guī)模智算體)、特算2號(64P級規(guī)模智算體),、特算3號(千P級智算集群),。同時,特斯聯mNode系列邊緣智算服務器亦在推進面向DeepSeek-R1系列蒸餾模型的適配及調優(yōu),。當前,,特斯聯綠色智算體業(yè)已在徐州智算中心,及摩托車行業(yè)某上市廠商落地應用,,并助力摩托車行業(yè)打造了首例深度融合DeepSeek的應用案例,。


在智能技術不斷迭代的今天,智能算力業(yè)已成為當前人類生存發(fā)展所需最關鍵的生產資料之一,,構建完善的智算網絡基礎設施尤為重要,。在東數西算等方針的指導下,我國智算基礎設施的布局已經取得初步進展,。面向未來海量,、多元的智能算力需求,,特斯聯打造的綠色智算體則作為大規(guī)模算力中心的補充,為不同AI基礎,、有數智化需求的企業(yè),、組織、學研機構,,提供了更多樣的選擇,。

特斯聯智算云平臺X-Stack再升級,支持DeepSeek一鍵部署

上一篇

特斯聯物聯研發(fā)新成果獲國際權威會議INFOCOM收錄

下一篇