2025年2月27日
特斯聯(lián)物聯(lián)研發(fā)新成果獲國(guó)際權(quán)威會(huì)議INFOCOM收錄
近日,特斯聯(lián)針對(duì)大語(yǔ)言模型(LLM)在多層云邊網(wǎng)絡(luò)中的部署挑戰(zhàn),以及傳統(tǒng)調(diào)度方法的不足,提出了一種兩階段的多層多節(jié)點(diǎn)LLM調(diào)度算法。該研究成果由特斯聯(lián)首席科學(xué)家、香港科技大學(xué)(廣州)信息樞紐物聯(lián)網(wǎng)學(xué)域教授,楊旸博士及其課題組發(fā)布,目前已被通信領(lǐng)域權(quán)威國(guó)際會(huì)議INFOCOM (CCF-A) 收錄。實(shí)驗(yàn)結(jié)果表明,該解決方案的吞吐量較傳統(tǒng)調(diào)度方法提高9.1%-26.3%,能夠在多層網(wǎng)絡(luò)中實(shí)現(xiàn)LLM的高效部署,并顯著提高系統(tǒng)性能。