“最近,我走進南山科技園,看到有送咖啡的機器人用算法來規(guī)劃路線。在前海的寫字樓里,我還看到有企業(yè)用AI的能力,幫大家處理跨語言溝通,讓本地企業(yè)都能變成‘全球通’。”4月22日,在字節(jié)跳動旗下的火山引擎2025 FORCE LINK AI創(chuàng)新巡展深圳站活動現(xiàn)場,火山引擎副總裁張鑫分享了自己最近在深圳的見聞。
2025年被視為AI Agent的元年,AI正在各行各業(yè)加速滲透,這也直接體現(xiàn)在了豆包大模型的調(diào)用量上。截至今年3月底,豆包大模型日均tokens調(diào)用量已超過12.7萬億,相比于一年前剛剛發(fā)布時增長了106倍。“模型層狂飆的背后,代表的是AI應(yīng)用層的快速落地。”張鑫說。
深圳作為一個產(chǎn)業(yè)高地,擁有無數(shù)的AI應(yīng)用落地場景。在火山引擎AI創(chuàng)新巡展深圳站,“AI應(yīng)用”成為最核心的關(guān)鍵詞。火山引擎發(fā)布了Agent Devops體系、AI數(shù)據(jù)湖服務(wù),幫助企業(yè)做好Agent開發(fā)和運維,詳細拆解如何為企業(yè)提供從底層算力到上層應(yīng)用的全棧AI服務(wù),同時還邀請了多家合作伙伴分享在AI應(yīng)用方面的實踐經(jīng)驗。
從底層算力到上層應(yīng)用,全棧式助力企業(yè)部署AI應(yīng)用
“雖然AI的前景是星辰大海,但今天我們更多還是在淺水區(qū)域探索,到深水區(qū)的航路上還有很多暗礁。”張鑫說,要駛?cè)肫髽I(yè)AI應(yīng)用生產(chǎn)落地的深水區(qū),還需要持續(xù)提升模型能力的上限,以及進行持續(xù)運營和全生命周期的管理。
在模型層方面,火山引擎為用戶提供了豆包大模型全模態(tài)模型家族。此外,近期豆包大模型迎來了一系列發(fā)布與更新。4月17日,火山引擎正式發(fā)布了豆包1.5·深度思考模型,這一模型效果好、延遲低,且支持多模態(tài),具備視覺推理能力。
“比如拍攝一張小票,模型可以準確理解小票上的內(nèi)容,與商品名稱進行匹配并進行準確的計算,實現(xiàn)視覺與文本的融合。”火山引擎大模型解決方案總監(jiān)馮書云表示,更好的效果、更低的延遲,再疊加視覺推理能力,更強的豆包1.5·深度思考模型能夠解決更復(fù)雜的問題,打開了更加廣泛的大模型應(yīng)用空間。
有了更強的模型后,要實現(xiàn)AI落地還需要一個強大的開發(fā)平臺。據(jù)了解,作為火山引擎的大模型服務(wù)平臺,火山方舟于2023年發(fā)布,在助力企業(yè)高效安全地應(yīng)用大模型以外,也是開發(fā)者的友好幫手。馮書云表示,方舟平臺提供了大量針對語音、視覺等模型的精調(diào)工具,通過豐富的插件生態(tài)和安全性的方案,打造更極致的開發(fā)者體驗。
除了模型層與平臺層,4月17日,火山引擎發(fā)布了AI云原生推理套件ServingKit,幫助企業(yè)實現(xiàn)從模型部署到推理應(yīng)用全鏈路的提效。據(jù)火山引擎基礎(chǔ)解決方案負責人王佳毅介紹,ServingKit整合了AI容器編排、AI網(wǎng)關(guān)、推理全鏈路觀測和AI加速套件的能力,支持在大規(guī)模GPU集群上運行推理工作負載,以更強的推理性能、更優(yōu)的推理成本、更廣泛的生態(tài)增強快速構(gòu)建生產(chǎn)可用的AI推理應(yīng)用。
此外,火山引擎還介紹了在企業(yè)多模態(tài)數(shù)據(jù)湖方面的實踐。火山引擎數(shù)智平臺產(chǎn)品總監(jiān)王彥輝表示,火山引擎提出了多模態(tài)數(shù)據(jù)湖解決方案,通過開放開源、高效應(yīng)用、兼容多種存儲格式,支持客戶進行高效的數(shù)據(jù)加工,實現(xiàn)一站式全鏈路的數(shù)據(jù)管理。火山引擎多模態(tài)數(shù)據(jù)湖覆蓋湖計算、湖存儲、湖管理、湖分析等功能場景,實現(xiàn)文本、圖像、音視頻等非結(jié)構(gòu)化數(shù)據(jù)資產(chǎn)的統(tǒng)一精細化管理,為模型預(yù)訓(xùn)練、后訓(xùn)練、AI應(yīng)用構(gòu)建與開發(fā)提供端到端的智能數(shù)據(jù)服務(wù)。
AI創(chuàng)新應(yīng)用,打造產(chǎn)品體驗及企業(yè)工作新范式
AI在各行各業(yè)應(yīng)用情況如何,怎樣進一步駛?cè)肫髽I(yè)AI應(yīng)用的深水區(qū)?活動現(xiàn)場,廣交數(shù)科、金山辦公、英特爾、順豐科技等火山引擎合作伙伴分享了在AI創(chuàng)新應(yīng)用的實踐經(jīng)驗。
今年三月底,廣州市公共交通集團有限公司舉行首批AI員工上崗履職發(fā)布會,這也是全國范圍內(nèi)首次將“硅基員工”批量納入企業(yè)正式員工體系。這批“硅基員工”由廣交數(shù)科與火山引擎聯(lián)合打造。廣交數(shù)科AI負責人常振廷表示,廣交數(shù)科借助火山引擎HiAgent平臺,進行全場景AI融合,覆蓋了日常工作中所涉及的黨務(wù)管理、合同審查、文旅客服、物業(yè)招租等各個領(lǐng)域。
AI辦公一直是大模型落地的先行場景。金山辦公助理總裁田然表示,在WPS Copilot的產(chǎn)品探索中,金山辦公以LUI(語言用戶界面)+GUI(圖形用戶界面)形態(tài)相結(jié)合的全新交互體驗,解決用戶在提示詞表達上的困難,提升用戶辦公和創(chuàng)作效率。“文檔是任何人與人交流中必備的高信息密度的中間載體,也是智能體最重要的能力之一。”田然說,未來在文檔讀取、生成、修改、分析等方面,WPS會持續(xù)對外輸出AI能力。
在物流行業(yè),順豐科技大模型負責人江生沛表示,順豐科技借助火山引擎強大的訓(xùn)練及推理加速能力,以更小的成本部署AI能力。順豐科技構(gòu)建的“豐語大模型”,已在順豐的市場營銷、客服、收派、國際關(guān)務(wù)等業(yè)務(wù)板塊的二十余個場景中的落地實踐應(yīng)用。
近日,搭載英特爾最新的第六代至強可擴展處理器的火山引擎第四代通用計算型實例g4il正式發(fā)售。活動現(xiàn)場,英特爾云與行業(yè)解決方案架構(gòu)師陳治文介紹了英特爾如何與火山引擎一起,共同構(gòu)建低成本高效率的大模型應(yīng)用開發(fā)云服務(wù),讓用戶僅需“一杯奶茶”的成本,即可在幾分鐘內(nèi)創(chuàng)建屬于自己的大模型應(yīng)用。
校對:楊舒欣