2024年，是大模型落地應(yīng)用落地元年，也是如今在大模型領(lǐng)域大放異彩的商湯科技成立的第10年。

7月5日，商湯發(fā)布日日新5.5大模型體系，其能力全方位升級(jí)，混合模態(tài)能力大幅提升，流式多模態(tài)交互能力對(duì)標(biāo)GPT-4o。

同時(shí)商湯大模型與行業(yè)結(jié)合，推出面向不同行業(yè)場(chǎng)景的大模型應(yīng)用。目前，商湯日日新大模型體系的已有超過(guò)3000家企業(yè)用戶(hù)，廣泛覆蓋互聯(lián)網(wǎng)、醫(yī)療、金融、編程等眾多垂直行業(yè)。

端側(cè)模型每臺(tái)設(shè)備9.9包年 讓每人都能用得起大模型

“要推動(dòng)人工智能超級(jí)時(shí)刻的到來(lái)，大模型需要具備更卓越的思維能力、更自然的交互能力以及更可控的生成能力。同時(shí)，唯有不斷深入垂直行業(yè)，大模型才能創(chuàng)造出全新應(yīng)用格局，最終助力‘人工智能+’步入黃金時(shí)代?！?月4日，商湯科技董事長(zhǎng)兼CEO徐立在2024世界人工智能大會(huì)現(xiàn)場(chǎng)如是說(shuō)。

一天后，商湯發(fā)布了日日新5.5大模型體系。具體來(lái)看，日日新5.5大模型體系包括6000億參數(shù)基礎(chǔ)模型日日新5.5，性能提升30%；流式多模態(tài)交互模型日日新5o，是國(guó)內(nèi)首個(gè)所見(jiàn)即所得模型，可進(jìn)行實(shí)時(shí)多模態(tài)交互和問(wèn)答；日日新5.5Lite也在端側(cè)模型進(jìn)行了升級(jí)。

商湯日日新大模型與行業(yè)結(jié)合，推出面向不同行業(yè)場(chǎng)景的大模型應(yīng)用。

在他看來(lái)，要讓每個(gè)人都能用得起大模型離不開(kāi)端側(cè)突破，“因?yàn)榻K端上的計(jì)算是分布式的，而不是集中化的”，徐立表示，如果所有的資源都聚焦在云端，會(huì)帶來(lái)推理成本的大幅度增長(zhǎng)，推理效率的下降，勢(shì)必會(huì)帶來(lái)服務(wù)的不流暢。用好端和云兩部分的計(jì)算機(jī)資源，才能成為一種全自然的交互模式。

對(duì)此，“日日新5.5”突破的一個(gè)重心是在端側(cè)上加大了模型的優(yōu)化，提升了10%的性能精度，除此之外，速度大規(guī)模的提升，成本大幅度的下降。首包延遲下降40%，推理效率提升了15%。“

值得注意的是，更新升級(jí)后的商湯商量端側(cè)大模型，每臺(tái)使用成本最低僅為每年9.9元。此外還推出端側(cè)模型矩陣，包括商量Mini寫(xiě)作助手、總結(jié)助手和百科助手等特化模型。

通過(guò)積極推動(dòng)端側(cè)大模型研發(fā)，商湯已支持在智能手機(jī)、平板電腦、VR一體機(jī)、車(chē)載電腦、智能臺(tái)燈等多種IoT設(shè)備部署應(yīng)用，以極致性?xún)r(jià)比、高可用性、超低門(mén)檻，加速大模型在端側(cè)的規(guī)模化落地，目前已有超過(guò)150位客戶(hù)啟動(dòng)商業(yè)對(duì)接。

“只有做真正讓大家用得起人工智能的大模型，AI才會(huì)進(jìn)入它的超級(jí)時(shí)刻。”徐立說(shuō)。

客戶(hù)3000+ 商湯日日新都覆蓋了哪些場(chǎng)景？

目前，商湯的AI能力已經(jīng)覆蓋到了從個(gè)人到B端、G端；從語(yǔ)言到繪圖、視頻；從辦公場(chǎng)景到金融醫(yī)療乃至城市級(jí)別的全場(chǎng)景，客戶(hù)超過(guò)了3000家。

商湯日日新大模型企業(yè)用戶(hù)超過(guò)3000家，覆蓋互聯(lián)網(wǎng)、金融、醫(yī)療、編程等眾多垂直行業(yè)。

其中，商湯的小浣熊家族是根據(jù)“日日新SenseNova”大模型打造的AI Native生產(chǎn)力系列工具，覆蓋軟件開(kāi)發(fā)、數(shù)據(jù)分析、編程教育等多個(gè)場(chǎng)景，旨在通過(guò)先進(jìn)的人工智能技術(shù)優(yōu)化和提升工作效率。家族現(xiàn)已推出代碼小浣熊和辦公小浣熊兩位成員，為十余萬(wàn)用戶(hù)提供數(shù)億次智能輔助服務(wù)。

日日新5.5大模型發(fā)布后，商湯小浣熊家族迎來(lái)多項(xiàng)更新，代碼小浣熊·個(gè)人升級(jí)版面世，響應(yīng)速度提升5倍，代碼精度提升10%，具備更強(qiáng)悍的模型能力、更豐富的插件功能和更完善的數(shù)據(jù)看板；“辦公小浣熊”全新發(fā)布網(wǎng)頁(yè)個(gè)人版&小程序版，讓用戶(hù)可以在小程序中直接插入并分析處理微信聊天中的文件，更高效、更便捷。

對(duì)于代碼小浣熊，徐立表示模型的優(yōu)化升級(jí)僅僅是第一步，還在產(chǎn)品端進(jìn)行了細(xì)致入微的打磨與調(diào)整，“鑒于用戶(hù)頻繁使用網(wǎng)頁(yè)版代碼工具的習(xí)慣，我們迅速響應(yīng)，在網(wǎng)頁(yè)版中及時(shí)上線了相應(yīng)功能，并允許用戶(hù)掛載私有化的知識(shí)庫(kù)，以滿(mǎn)足個(gè)人、團(tuán)隊(duì)及企業(yè)多樣化的需求。提升個(gè)人效率固然重要，但團(tuán)隊(duì)的協(xié)同效率更是我們關(guān)注的焦點(diǎn)。”

而商湯商量擬人大模型Pro版本自發(fā)布上線后，各行業(yè)客戶(hù)運(yùn)營(yíng)數(shù)據(jù)耀眼，日均使用時(shí)長(zhǎng)130分鐘，用戶(hù)次日留存率高達(dá)50%，人均對(duì)話輪數(shù)達(dá)90次，Pro版本可實(shí)現(xiàn)行業(yè)領(lǐng)先的角色對(duì)話、人設(shè)及劇情推動(dòng)能力，讓智能體更像栩栩如生的人。

從垂直行業(yè)來(lái)看，商湯大模型已經(jīng)落地到金融、農(nóng)業(yè)、文旅、醫(yī)療、自動(dòng)駕駛等垂直行業(yè)的具體場(chǎng)景中，讓大家體會(huì)了AI對(duì)生產(chǎn)生活方方面面的幫助。

其中，商湯對(duì)于金融場(chǎng)景推出金融智腦Agent全面賦能營(yíng)銷(xiāo)獲客、財(cái)富管理、合規(guī)風(fēng)控等工作，可實(shí)現(xiàn)對(duì)客戶(hù)需求的實(shí)時(shí)識(shí)別和實(shí)時(shí)響應(yīng)，同時(shí)大幅減低員工培訓(xùn)時(shí)長(zhǎng)，綜合提升效率超過(guò)100%，運(yùn)營(yíng)成本節(jié)省80%。

在農(nóng)業(yè)場(chǎng)景，可助力農(nóng)情分析效率提高5倍以上，農(nóng)資使用量降低20%，作物單產(chǎn)增加15%；在文旅場(chǎng)景，可將旅行規(guī)劃效率提升8倍，票務(wù)預(yù)定效率提升4.5倍，數(shù)據(jù)分析效率提升千倍。

在醫(yī)療場(chǎng)景，商湯醫(yī)療大模型“大醫(yī)”利用超300億token的高質(zhì)量醫(yī)學(xué)知識(shí)數(shù)據(jù)訓(xùn)練而成，具備領(lǐng)先的醫(yī)療問(wèn)答能力，可幫助患者在院內(nèi)實(shí)現(xiàn)全流程高效就醫(yī)，并在院外化身患者的“隨身AI智慧健康管家”，實(shí)現(xiàn)全周期個(gè)人健康管理。

當(dāng)患者感到身體不適時(shí)，可咨詢(xún)“大醫(yī)”輸入主訴癥狀，通過(guò)多輪智能問(wèn)答獲取初步分析結(jié)果后，再使用智能導(dǎo)診功能快速找到就診醫(yī)院的推薦就診科室，實(shí)現(xiàn)快速精準(zhǔn)就醫(yī)。到院后，患者可以利用排隊(duì)等候時(shí)間完成線上預(yù)問(wèn)診，借助“大醫(yī)”的智能問(wèn)答能力實(shí)現(xiàn)患者信息的高效采集，并生成預(yù)問(wèn)診報(bào)告，幫助醫(yī)生快速、精準(zhǔn)地了解患者病史，大幅提升問(wèn)診效率?；颊咴诰驮\期間往往需要開(kāi)展各類(lèi)檢驗(yàn)檢查，在獲取報(bào)告后，患者只需上傳至“大醫(yī)”，即可獲得詳細(xì)的指標(biāo)臨床意義解讀，并提示各類(lèi)健康風(fēng)險(xiǎn)，同時(shí)給出智能隨訪、復(fù)查建議，幫助用戶(hù)遠(yuǎn)離潛在風(fēng)險(xiǎn)。

在自動(dòng)駕駛場(chǎng)景，絕影自動(dòng)駕駛小巴是作為此次世界人工智能大會(huì)唯一承擔(dān)接駁任務(wù)的自動(dòng)駕駛巴士亮相本次展會(huì)。實(shí)際上，商湯絕影投入測(cè)試以及實(shí)際運(yùn)營(yíng)的自動(dòng)駕駛小巴，累計(jì)行駛總里程已超3百萬(wàn)公里，累計(jì)行駛里程穩(wěn)居行業(yè)頭部陣營(yíng)。

基于商湯科技多傳感器融合感知平臺(tái)、高精度定位技術(shù)、高可靠性的決策規(guī)劃控制方案、車(chē)載交互方案以及車(chē)路協(xié)同方案等核心能力，商湯絕影自動(dòng)駕駛小巴支持較廣的設(shè)計(jì)行駛區(qū)域，可自然舒適的執(zhí)行跟隨、變道、超車(chē)、無(wú)保護(hù)左轉(zhuǎn)等操作，可適應(yīng)于雨霧天氣等復(fù)雜環(huán)境。

最后，對(duì)于城市級(jí)別的AI應(yīng)用，商湯的能力也進(jìn)行了全面升級(jí)。商湯方舟多模態(tài)新智平臺(tái)，基于傳統(tǒng)的城市級(jí)AI視覺(jué)應(yīng)用，引入商湯領(lǐng)先的多模態(tài)大模型，在商湯方舟平臺(tái)的基礎(chǔ)上實(shí)現(xiàn)了三“需求即指令”、“對(duì)話即檢索”、“提示即提優(yōu)”三方面的全面升級(jí)。

目前，商湯助力國(guó)內(nèi)某一線城市12345工單的分類(lèi)分撥速度提升到10倍以上，并且統(tǒng)一分類(lèi)標(biāo)準(zhǔn)，1個(gè)月就完成超30萬(wàn)次訴求分撥，平均一天一萬(wàn)余次。方舟新智平臺(tái)可將單分撥員的1個(gè)月任務(wù)量縮短至1天完成，并且經(jīng)過(guò)二次復(fù)核準(zhǔn)確率可以達(dá)到90%以上，真正實(shí)現(xiàn)讓智能分撥的應(yīng)用實(shí)操有效，減輕政務(wù)工作壓力，提高效率。

十年磨一劍，商湯前瞻技術(shù)發(fā)展趨勢(shì)，以云、邊、端全面覆蓋的全棧大模型產(chǎn)品體系，源源不斷輸出AI“新質(zhì)生產(chǎn)力”，并持續(xù)拓展日日新行業(yè)生態(tài)，為千行賦能，讓百業(yè)“向新”。

文/羅亦丹 編輯 王進(jìn)雨 校對(duì) 付春愔