湯姆貓攜手光羽芯辰 布局端側(cè)AI萬億市場
中證報中證網(wǎng)訊(記者 劉楊)湯姆貓公司3月24日宣布,與光羽芯辰近日達成合作意向,雙方將結(jié)合各自的技術(shù)優(yōu)勢和專業(yè)能力,共同開發(fā)高性能、低功耗且適用于多種場景的AI端側(cè)大語言模型軟件和硬件應用。同時,雙方已對初步的分工和階段性目標進行規(guī)劃,雙方計劃在低延時、隱私保護、存算一體化等領(lǐng)域進行深入的技術(shù)探索,以增強雙方未來在AI智能應用市場的競爭力。
端側(cè)AI,即終端側(cè)人工智能,指的是在終端設(shè)備(如智能手機、智能手表、車載終端等)上直接運行人工智能算法和模型,而不需要將數(shù)據(jù)全部上傳到云端進行處理的技術(shù)模式。
業(yè)內(nèi)預計,?2024-2030年全球端側(cè)AI芯片市場規(guī)模將從180億美元裂變?yōu)?50億美元,年均復合增長率達24.8%;2028年中國端側(cè)AI市場規(guī)模將達到19071億元人民幣,年均復合增長率達58%。
2024年12月,湯姆貓推出了其首款AI智能硬件產(chǎn)品——湯姆貓AI情感陪伴機器人。該產(chǎn)品采用前沿性的MoE(混合專家模型)架構(gòu),在其自研的“技術(shù)中間層”上實現(xiàn)了“湯姆貓情感陪伴垂直模型”,與豆包、DeepSeek等模型協(xié)同工作,是市面上率先推出的具備使用場景的AI硬件產(chǎn)品。
據(jù)介紹,該產(chǎn)品定位于家庭陪伴場景,不僅能雙向聊天交互,還能夠在聊天中精準感知用戶情緒,共情用戶的喜怒哀樂,此外還擁有長期記憶功能,可記錄家庭用戶偏好與對話歷史,并通過AI的自學習算法,提供個性化的、千人千面的交互。
湯姆貓表示,此次與光羽芯辰的合作,旨在利用其在端側(cè)大模型芯片上的研發(fā)優(yōu)勢,開發(fā)低延時、高性能且適配多場景應用的專屬AI端側(cè)大模型軟硬件,為未來“會聊天的湯姆貓”系列矩陣產(chǎn)品部署端側(cè)AI解決方案。
據(jù)介紹,光羽芯辰是由兆易創(chuàng)新及騰訊投資的燧原科技等合資設(shè)立,該公司以其創(chuàng)新性3D堆疊架構(gòu)結(jié)合PIM技術(shù),大幅提升了存儲帶寬和計算效率,有效緩解了傳統(tǒng)端側(cè)設(shè)備在運行大模型時面臨的存儲瓶頸與計算效率低下難題,為AI模型走向端側(cè)開辟了新路徑。
湯姆貓相關(guān)負責人稱,端側(cè)AI模型芯片有望實現(xiàn)1秒以內(nèi)的端對端響應,將極大地提升AI智能產(chǎn)品的用戶體驗。同時,AI智能硬件的多場景應用也將有望提速。