云天勵(lì)飛董事長陳寧:把大模型“裝”進(jìn)小盒子
從“云天天書”大模型,到深度學(xué)習(xí)推理計(jì)算芯片,再到千元級(jí)別的大模型硬件產(chǎn)品……近年來,在人工智能賽道上,云天勵(lì)飛埋頭奔跑,不斷迭代技術(shù)和產(chǎn)品解決方案。
云天勵(lì)飛董事長陳寧接受中國證券報(bào)記者專訪時(shí)表示,云天勵(lì)飛將自己定義為一家擁有“算法芯片化”能力的AI公司,在行業(yè)內(nèi)率先提出打造“1+1+N”自進(jìn)化城市智能體實(shí)踐框架,如今公司正在積極構(gòu)建自學(xué)習(xí)、自進(jìn)化的數(shù)字城市智能協(xié)同發(fā)展體系,以期推動(dòng)人工智能產(chǎn)業(yè)快速發(fā)展。
推出千元級(jí)大模型產(chǎn)品
2022年11月,OpenAI發(fā)布ChatGPT,生成式大規(guī)模預(yù)訓(xùn)練模型(GPT)展現(xiàn)了從量變到質(zhì)變的能力。自此,不斷有新的公司發(fā)布新的模型與應(yīng)用。今年3月,云天勵(lì)飛宣布推出千元級(jí)別的大模型硬件產(chǎn)品——“深目”AI模盒,受到市場關(guān)注。
“未來將有更多企業(yè)使用大模型。但是,要訓(xùn)練專屬大模型,普通的企業(yè)難以承擔(dān)高昂的研發(fā)成本。”對(duì)于研發(fā)該產(chǎn)品的初衷,陳寧表示,大模型毫無疑問是當(dāng)前AI發(fā)展的主流方向之一,可以預(yù)見未來各行業(yè)都將被大模型賦能和改造。但大模型的研發(fā)成本非常高,對(duì)人才的需求也非常大。
“云天勵(lì)飛推出‘深目’AI模盒,就是希望把大模型技術(shù),以及云天勵(lì)飛10年的算法芯片化技術(shù)和行業(yè)知識(shí),沉淀到一款標(biāo)準(zhǔn)化的產(chǎn)品中,快速為各類場景賦能?!标悓幗榻B,這款產(chǎn)品搭載了云天勵(lì)飛的自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書”,讓用戶可以根據(jù)自身場景需求,利用大模型能力,訓(xùn)練出可實(shí)戰(zhàn)應(yīng)用的算法。
據(jù)介紹,“深目”AI模盒可實(shí)現(xiàn)算法場景覆蓋超過90%、算法精度超過90%,使用成本降低90%,讓用戶能夠根據(jù)自身場景需求,訓(xùn)練出可實(shí)戰(zhàn)應(yīng)用的算法。
“能夠?qū)崿F(xiàn)上述三個(gè)90%數(shù)據(jù)的提升,離不開云天勵(lì)飛的核心能力——算法芯片化?!标悓幗榻B,“深目”AI模盒的算力基礎(chǔ),來源于去年云天勵(lì)飛推出的大模型訓(xùn)推芯片。該芯片支持大模型訓(xùn)練推理部署,已適配并可承載10億級(jí)SAM、百億級(jí)Llama2等大模型運(yùn)算,可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場景。此外,為了共同探索更多大模型低成本、高效率落地應(yīng)用路徑,云天勵(lì)飛與鵬城實(shí)驗(yàn)室、之江實(shí)驗(yàn)室、上海交通大學(xué)城市治理研究院等多家單位共同成立“深目2.0”生態(tài)聯(lián)盟,共同探索更多大模型落地應(yīng)用路徑。
構(gòu)建“軟硬結(jié)合”核心競爭力
報(bào)告顯示,2023年云天勵(lì)飛研發(fā)投入合計(jì)2.95億元,占營業(yè)收入58.27%。截至2024年3月,云天勵(lì)飛已授權(quán)專利700余項(xiàng)(含境外專利30項(xiàng)),其中發(fā)明專利500余項(xiàng),已登記的軟件著作權(quán)180余項(xiàng)。
持續(xù)高強(qiáng)度的研發(fā)投入,為云天勵(lì)飛構(gòu)建了“軟硬結(jié)合”的核心競爭力。陳寧介紹,公司擁有算法和芯片兩大核心技術(shù)平臺(tái),憑借“算法芯片化”的核心能力和“端云協(xié)同”的技術(shù)路線,在數(shù)字城市、人居生活等領(lǐng)域成功落地一系列標(biāo)桿式解決方案,為各行業(yè)帶來安全、智慧、便捷的AI體驗(yàn)。
據(jù)悉,在算法層面,經(jīng)過多年的技術(shù)研發(fā)與積累,云天勵(lì)飛構(gòu)建了人工智能算法平臺(tái),擁有大模型研發(fā)能力,并推出了“云天天書”大模型,打造服務(wù)于多場景的行業(yè)大模型,并且與華為昇騰合作推出了搭載“云天天書”大模型的“天舟”大模型訓(xùn)推一體機(jī)。在芯片層面,公司基于對(duì)人工智能算法技術(shù)特點(diǎn)及行業(yè)場景計(jì)算需求的理解,通過自定義指令集、處理器架構(gòu)及工具鏈的協(xié)同設(shè)計(jì),實(shí)現(xiàn)算法技術(shù)芯片化,構(gòu)建了神經(jīng)網(wǎng)絡(luò)處理器平臺(tái)。
推動(dòng)AI商業(yè)化落地
在陳寧看來,AI商業(yè)化將經(jīng)歷AI方案化、AI運(yùn)營化、AI產(chǎn)品化三個(gè)階段,而云天勵(lì)飛的業(yè)務(wù)布局也對(duì)應(yīng)了AI商業(yè)化的三個(gè)階段,涵蓋了AI方案、AI運(yùn)營和AI產(chǎn)品三大板塊。
在AI方案層面,云天勵(lì)飛已經(jīng)形成了成熟的城市級(jí)行業(yè)解決方案,包括安防、交通、城市治理和人居生活等領(lǐng)域,并在AI教育和低空經(jīng)濟(jì)等新興領(lǐng)域取得了突破。AI運(yùn)營層面,云天勵(lì)飛正致力于智能算力運(yùn)營、數(shù)據(jù)運(yùn)營和新能源運(yùn)營,以推動(dòng)其業(yè)務(wù)的多元化發(fā)展。而在AI產(chǎn)品層面,標(biāo)準(zhǔn)化智能硬件產(chǎn)品是云天勵(lì)飛的戰(zhàn)略重點(diǎn)。目前,云天勵(lì)飛正在通過端、邊、云三個(gè)不同的計(jì)算節(jié)點(diǎn)和產(chǎn)品形態(tài),推動(dòng)AI從方案化走向運(yùn)營化,最終實(shí)現(xiàn)智能硬件產(chǎn)品標(biāo)準(zhǔn)化。
除了內(nèi)生式研發(fā)創(chuàng)新外,隨著商業(yè)化落地需求的到來,云天勵(lì)飛還在同步探索外延式并購發(fā)展。今年3月22日,云天勵(lì)飛宣布收購智能穿戴方案設(shè)計(jì)頭部公司岍丞技術(shù),探索“大模型+智能可穿戴”深度融合。據(jù)悉,除了收購岍丞技術(shù)外,云天勵(lì)飛還投資了智慧互通、臻識(shí)科技、神州云海等在動(dòng)態(tài)停車、靜態(tài)停車、全息路口及清潔機(jī)器人等方向的龍頭企業(yè),并作為創(chuàng)始股東成員之一參股深圳國創(chuàng)具身智能機(jī)器人有限公司,提供AI芯片、大模型領(lǐng)域的技術(shù)支持。
“我們將繼續(xù)依托算法芯片化,圍繞多模態(tài)大模型和AI芯片技術(shù),通過商業(yè)創(chuàng)新、市場合作、投資并購等方式逐步構(gòu)建各項(xiàng)業(yè)務(wù)生態(tài),推動(dòng)人工智能技術(shù)在千行百業(yè)的實(shí)際落地?!标悓幈硎?。