云天勵(lì)飛推出“深目”AI模盒
中證網(wǎng)訊（記者 齊金釗）3月28日，云天勵(lì)飛發(fā)布“深目”AI模盒，該產(chǎn)品可幫助更多中小企業(yè)客戶輕松使用大模型。同時(shí)，云天勵(lì)飛還與鵬城實(shí)驗(yàn)室、之江實(shí)驗(yàn)室、中國電子、華為、華潤數(shù)科等單位成立“深目2.0”生態(tài)聯(lián)盟，共同探索更多大模型落地應(yīng)用路徑。
發(fā)布千元級成本大模型產(chǎn)品
云天勵(lì)飛董事長兼CEO陳寧在發(fā)布會上提到，未來3年，全球80%的企業(yè)都將使用大模型。但是，要訓(xùn)練專屬大模型，不僅需要大算力、大數(shù)據(jù)，還需要大量頂尖人才。大模型一次訓(xùn)練成本在千萬級，主流的訓(xùn)推一體機(jī)價(jià)格普遍在百萬元，絕大多數(shù)企業(yè)都無法承擔(dān)這樣高昂的成本。
為了能夠讓大模型“平民化”，云天勵(lì)飛推出了“深目”AI模盒。據(jù)介紹，這款產(chǎn)品售價(jià)在千元級，用單手就能托起，搭載了云天勵(lì)飛的自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”，具備算法邊緣側(cè)在線學(xué)習(xí)能力，可實(shí)現(xiàn)算法場景覆蓋超過90%、算法精度超過90%，使用成本降低90%，讓人人都能夠根據(jù)自身場景需求，利用大模型能力，訓(xùn)練出可實(shí)戰(zhàn)應(yīng)用的算法。
“能夠?qū)崿F(xiàn)3個(gè)90%，離不開云天勵(lì)飛的核心能力——算法芯片化?！标悓幗榻B，“深目”AI模盒的算力基礎(chǔ)，來源于去年云天勵(lì)飛推出的14nm Chiplet大模型訓(xùn)推芯片DeepEdge10 Max。該芯片采用自主可控的國產(chǎn)工藝，內(nèi)含國產(chǎn)RISC-V核，支持大模型訓(xùn)練推理部署。依托自研芯片DeepEdge10 Max創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡，已適配并可承載10億級SAM、百億級Llama2等大模型運(yùn)算，可廣泛應(yīng)用于AIoT邊緣視頻、移動機(jī)器人等場景。
云天天書大模型包含語言大模型、多模態(tài)大模型等不同系列，在C-Eval、CMMLU等權(quán)威測試中多次獲得第一，并于去年正式通過中央網(wǎng)信辦備案。據(jù)悉，云天天書1.0版本于2023年初正式推出，至今已完成3個(gè)版本的迭代，預(yù)計(jì)今年6月將迭代4.0 V版本。
云天勵(lì)飛表示，以云天天書為底座，公司能夠與生態(tài)合作伙伴完成預(yù)訓(xùn)練場景算法，再將預(yù)訓(xùn)練算法提供給廣大中小企業(yè)用戶，中小企業(yè)客戶可根據(jù)自身場景需求，在邊緣端完成算法微調(diào)。由于大模型具備泛化和學(xué)習(xí)的能力，客戶部署算法后，大模型還能夠不斷根據(jù)現(xiàn)實(shí)應(yīng)用場景情況，在線學(xué)習(xí)、優(yōu)化算法，不斷提升算法精度。
持續(xù)完善大模型產(chǎn)品體系
“AI商業(yè)化發(fā)展有三個(gè)階段：AI方案化、AI運(yùn)營化、AI產(chǎn)品化?！标悓幗榻B，在AI方案化階段，AI企業(yè)主要通過項(xiàng)目制滿足不同垂直領(lǐng)域客戶需求。在打磨行業(yè)標(biāo)桿項(xiàng)目的過程中，AI企業(yè)不斷積累行業(yè)認(rèn)知和數(shù)據(jù)，AI技術(shù)實(shí)力不斷增強(qiáng)，并形成具備越來越強(qiáng)的泛化能力AI平臺，企業(yè)也得以開啟AI運(yùn)營業(yè)務(wù)。而最終，所有的技術(shù)都需要通過物理實(shí)體賦能，因此AI最終必須走向產(chǎn)品化。
據(jù)介紹，云天勵(lì)飛業(yè)務(wù)發(fā)展路徑也沿著上述路徑展開。在AI方案化方面，云天勵(lì)飛在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造諸多標(biāo)桿項(xiàng)目，并且在低空經(jīng)濟(jì)、智慧教育等創(chuàng)新領(lǐng)域持續(xù)展開探索?；谠诖罅啃袠I(yè)的落地經(jīng)驗(yàn)，云天勵(lì)飛已形成數(shù)據(jù)運(yùn)營、新能源運(yùn)營平臺，走向AI運(yùn)營化。如今，云天勵(lì)飛還逐步走向AI產(chǎn)品化。去年，云天勵(lì)飛與華為昇騰聯(lián)合推出天舟大模型訓(xùn)推一體機(jī)；如今又推出面向邊緣訓(xùn)推場景的“深目”AI模盒。此外，云天勵(lì)飛還通過資本紐帶，進(jìn)軍智能穿戴和機(jī)器人等硬件領(lǐng)域，形成日益完善的大模型產(chǎn)品體系。
