1+4+N架構:打造大模型本地化部署、開發(fā)流水線
綠色智算體是特斯聯于2023年首次打造推出的一系列高效易用的智算一體化基礎設施和服務,,具有開箱即用,、算力資源彈性配置、算力套餐靈活可選,、運維過程綠色高效,,且全周期自主安全可控的特點。
近年來,,大模型技術不斷突破,,特別是DeepSeek V3/R1系列模型的橫空出世,在推動賦能千行百業(yè)的同時,,亦催生了“超級人工智能即服務”(Intelligence as a Service, IaaS)的全新商業(yè)模式,,使智算需求激增。然而于應用側企業(yè)及機構而言,,要想高效部署,、利用前沿大模型并以之實現業(yè)務賦能,則還面臨高算力運營門檻,高AI應用門檻,,高算力應用成本,,及高安全保障要求的“四高挑戰(zhàn)”。
特斯聯綠色智算體采用1+4+N模塊化架構
為此,,特斯聯綠色智算體采用1+4+N模塊化架構,,以軟硬協(xié)同的一體化產品,同時滿足行業(yè)的綠色低碳,、開箱即用,、彈性高效、安全可控訴求,。
“1”組硬件集群釋放異構算力極致性能,。支持華為昇騰、昆侖芯,、寒武紀,、燧原、沐曦,、壁仞等十余種國產信創(chuàng)芯片異構兼容適配,,算力資源管理效率最高可達97%,使大模型能夠在多種異構算力上發(fā)揮出比肩國際芯片廠商的極致性能,。
“4”套軟件平臺支持定制化大模型“開箱即用”,。為進一步降低智能算力及領先模型的應用門檻,綠色智算體特別部署X-Stack智算云平臺,、比特大模型平臺,、智算運營管理平臺、智算運維管理平臺四套軟件平臺,。
“N”個行業(yè)賦能服務促大模型普惠,、易用,。基于上述硬件集群及軟件套組,綠色智算體為行業(yè)企業(yè)及機構提供多元算力應用,、模型代訓練調優(yōu),、垂域模型聯合研發(fā)、成熟模型應用調用,、科研成果創(chuàng)新孵化等廣泛賦能服務,。
前沿模型催生廣闊應用生態(tài),綠色智算體助力構建完善智算網絡
面向不同規(guī)模需求,,綠色智算體提供P級至千P級服務
作為特斯聯AIoT Infra層的核心產品,面向不同算力規(guī)模的訓練及推理需求,,綠色智算體目前提供特算1號(8P級規(guī)模智算體),、特算1號-DS版(8P級規(guī)模智算體)、特算2號(64P級規(guī)模智算體),、特算3號(千P級智算集群),。同時,特斯聯mNode系列邊緣智算服務器亦在推進面向DeepSeek-R1系列蒸餾模型的適配及調優(yōu),。當前,,特斯聯綠色智算體業(yè)已在徐州智算中心,及摩托車行業(yè)某上市廠商落地應用,,并助力摩托車行業(yè)打造了首例深度融合DeepSeek的應用案例,。