(資料圖片)
第九屆數(shù)字中國建設(shè)峰會(huì)昨天迎來公眾開放日,現(xiàn)場體驗(yàn)區(qū)開放將持續(xù)至5月4日。詞元是大模型處理信息的最小單元,是今年AI領(lǐng)域里的熱詞。這兩天,在現(xiàn)場體驗(yàn)區(qū)記者發(fā)現(xiàn),業(yè)內(nèi)關(guān)于詞元的討論不斷,相關(guān)新的硬件和新的服務(wù)模式也紛紛亮相。
眼下,我國詞元調(diào)用量呈現(xiàn)指數(shù)級增長。專業(yè)人士告訴記者,這背后的關(guān)鍵驅(qū)動(dòng)來自AI的規(guī)模化落地,特別是智能體的大爆發(fā)。
騰訊公司副總裁韓開創(chuàng):詞元確實(shí)反映了智能經(jīng)濟(jì)的發(fā)展熱度,但是單就詞元發(fā)展而言,應(yīng)該有一個(gè)比較綜合的衡量因素。好比我們開車,不能只關(guān)注油耗,還要關(guān)注引擎的經(jīng)濟(jì)性和輸出的能力,大家其實(shí)是越來越關(guān)注詞元消耗的性價(jià)比,更關(guān)注如何降低詞元調(diào)用的成本。
算力越強(qiáng),詞元處理速度就越快,單位成本就越低。記者觀察到,新一代國產(chǎn)算力基礎(chǔ)設(shè)施在峰會(huì)上亮相。這樣一個(gè)“超節(jié)點(diǎn)”算力集群被直接搬到了現(xiàn)場。
除了升級硬件、提升算力,各種減少詞元消耗、降低成本的新服務(wù)也不斷出現(xiàn)。有企業(yè)把100多個(gè)主流大模型都放到一個(gè)服務(wù)平臺上,當(dāng)用戶提出需求后,平臺會(huì)自動(dòng)匹配最合適的模型來解決問題。
天翼云智算平臺事業(yè)部產(chǎn)品專家王曼:如果你需要做視頻,我們就給你選擇最適合做視頻的模型,如果你提出的是一個(gè)非常簡單的查天氣的問題,那就調(diào)用小模型解決。這樣就不會(huì)出現(xiàn)小問題也用高階模型來解決,降低了詞元的使用成本。
本屆峰會(huì)上,圍繞詞元經(jīng)濟(jì)延伸出的“人工智能工廠”新概念也受到關(guān)注,簡單來說就是像造汽車一樣造智能體。
浪潮云信息技術(shù)股份公司總經(jīng)理顏亮:通過流水線生產(chǎn)智能體,并持續(xù)優(yōu)化,能夠減少無效計(jì)算,更能大幅度降低詞元的消耗。
關(guān)鍵詞: 超節(jié)點(diǎn)算力集群亮相會(huì)場 詞元經(jīng)濟(jì)最新