C114通信網(wǎng)  |  通信人家園

專題
2024/6/26 16:00

浩鯨科技鐘健松:大模型落地遠(yuǎn)不止最后“一公里”

C114通信網(wǎng)  焦焦

C114訊 6月26日消息(焦焦)ChatGPT橫空出世,掀起了AI行業(yè)的發(fā)展熱潮。大模型從嶄露頭角到現(xiàn)在的如日中天,全行業(yè)已然在AI的新時代中全速前進(jìn),大模型成為驅(qū)動創(chuàng)新的焦點之一。在AI帶來生產(chǎn)力革新與商業(yè)模式升級浪潮下,作為向科技公司轉(zhuǎn)型的領(lǐng)軍央企,運營商在AI領(lǐng)域不斷加碼布局,為通信產(chǎn)業(yè)邁入大模型時代積極領(lǐng)路,構(gòu)建數(shù)智生產(chǎn)力也被被賦予前所未有的重要使命。

在2024年MWC上海展上,作為運營商的重要合作伙伴,浩鯨科技圍繞“智能時代,構(gòu)建數(shù)智生產(chǎn)力”為主題,分享在大模型的驅(qū)動下,如何賦能運營商業(yè)務(wù)和運營管理快速實現(xiàn)深度智能化,并展示在加速智能化進(jìn)程中的技術(shù)突破和創(chuàng)新應(yīng)用,為運營商構(gòu)建從智能基礎(chǔ)設(shè)施、大模型平臺、到創(chuàng)新數(shù)智應(yīng)用落地的全方位支持,攜手運營商共筑智能化未來宏圖,加速數(shù)智躍升。

運營商數(shù)字化建設(shè)成果仍存挑戰(zhàn),亟待解決

在智能化浪潮下,運營商在推進(jìn)自身轉(zhuǎn)型的同時積極發(fā)力產(chǎn)業(yè)數(shù)字化建設(shè),據(jù)C114觀察,目前運營商數(shù)字化轉(zhuǎn)型取得顯著成效。在為用戶提供更快速、更穩(wěn)定的通信網(wǎng)絡(luò)連接的同時,推出更豐富的數(shù)字化服務(wù)和增值服務(wù),并通過數(shù)據(jù)驅(qū)動的運營,更加精準(zhǔn)地滿足最終用戶的個性化需求,提高數(shù)據(jù)資產(chǎn)的管理利用效率。

浩鯨科技中國CTO鐘健松在接受C114專訪時指出,運營商的數(shù)字化建設(shè)走過三十年,已取得卓越成效,成為推動國家數(shù)字經(jīng)濟建設(shè)的領(lǐng)頭羊。但以發(fā)展的視角審視當(dāng)前的數(shù)字化建設(shè)成果,依舊存在一些挑戰(zhàn),亟待智能化手段去解決。

1、生產(chǎn)要素已被大量累積,但價值發(fā)揮有限

鐘健松認(rèn)為,經(jīng)過數(shù)十年的的數(shù)字化發(fā)展與積累,運營商沉淀了海量的數(shù)據(jù),包括資源、網(wǎng)絡(luò)、服務(wù)、客戶、渠道等立體多維數(shù)據(jù)資產(chǎn),堪稱為“寶藏數(shù)據(jù)礦場”。基于這些數(shù)據(jù),運營商內(nèi)部構(gòu)建了諸多報表系統(tǒng)、數(shù)據(jù)分析系統(tǒng),但對數(shù)據(jù)的提取和分析仍存在諸多動態(tài)變化,導(dǎo)致當(dāng)前各下屬公司依然要配備大量取數(shù)人員,以響應(yīng)每月不同維度的看數(shù)要求。

此外,隨著中臺的建設(shè),運營商的重點已從功能建設(shè)逐漸轉(zhuǎn)向能力構(gòu)建,能力不斷累積和豐富,并逐步沉淀為企業(yè)的能力資產(chǎn)。盡管能力資產(chǎn)在助力數(shù)字化應(yīng)用建設(shè)過程中發(fā)揮了一定價值,但由于能力的可視化、非完全的集約、從能力到應(yīng)用的轉(zhuǎn)化難度等問題,制約了能力資產(chǎn)的價值發(fā)揮。

鐘健松表示,相比數(shù)據(jù)資產(chǎn)和能力資產(chǎn),企業(yè)的知識資產(chǎn)受重視程度不夠,少量的知識庫僅存儲了某些關(guān)于產(chǎn)品營銷方面的內(nèi)容,而更需要傳承的例如網(wǎng)絡(luò)運維、故障處理、施工操作、方案配置等方面的知識,要么作為規(guī)則被整合到系統(tǒng)中,缺乏迭代更新;要么沉淀在少數(shù)專家的頭腦中,難以復(fù)制和傳承。

2、生產(chǎn)效率盡管在不斷提高,但仍有很大提升空間

當(dāng)前,流程驅(qū)動已成為數(shù)字化系統(tǒng)的一個典型特征,但流程驅(qū)動有其受限之處。首先,流程為異步處理,非實時,可能會因為環(huán)節(jié)之間的來回回退導(dǎo)致處理時間拉長,而企業(yè)的生產(chǎn)運營則有大量需要實時解決問題的場景,比如涉及到多方參與的網(wǎng)絡(luò)疑難故障診斷分析,基于流程驅(qū)動的派單式的解決方式就不太適用。

其次,在新技術(shù)的推動下,自動化、智能化的述求在企業(yè)運營中越來越強烈,雖然通過規(guī)則、AI算法、RPA等的引入能夠解決不少問題,但目前采取“散點注智”的開發(fā)模式,派生出多種類型的規(guī)則引擎、推薦引擎、調(diào)度引擎等多個系統(tǒng),開發(fā)周期長、應(yīng)用面狹窄,管理分散,從而導(dǎo)致需求難以即時響應(yīng),自智成熟度等級難以產(chǎn)生質(zhì)的飛躍。

3、數(shù)字化系統(tǒng)林立,使用者陷入系統(tǒng)和功能的海洋

盡管在ITSP的規(guī)劃下,運營商數(shù)字化系統(tǒng)縱向集約橫向整合,系統(tǒng)數(shù)量已做了大幅收斂,但當(dāng)前系統(tǒng)規(guī)模依然龐大,不同崗位人員需要面對諸多系統(tǒng)以及功能模塊,在龐雜的系統(tǒng)中尋找對應(yīng)的功能,費時費力,以至于大量已開發(fā)出的功能模塊因不被認(rèn)知而使用率極低。

與此同時,為了應(yīng)對復(fù)雜場景,數(shù)字化系統(tǒng)往往配備繁瑣的使用界面,使用者需要在各種彈出的窗口、頁簽中切換,使用門檻高,工作負(fù)荷大。

大模型,助推運營商向理想藍(lán)圖平滑演進(jìn)

據(jù)C114了解,強大的通用智能能力,催生AI創(chuàng)新應(yīng)用多點開花。國內(nèi)外均積極、迅速地推進(jìn)大模型訓(xùn)練,千億參數(shù)模型層出不窮,大模型驅(qū)動的場景也在逐步落地,但大模型的價值發(fā)揮并不是想象中的一蹴而就。大模型應(yīng)用在落地過程需要多方參與,且對算力、平臺、算法的要求較高,因此盡管大模型的訓(xùn)練量不斷擴大,在不同行業(yè)不同領(lǐng)域也多有應(yīng)用,但應(yīng)用的發(fā)展水平與速度參差不齊,部分領(lǐng)域尚且很難將模型價值發(fā)揮實效,推動行業(yè)大模型“真正落地”的機遇與挑戰(zhàn)并存。

鐘健松認(rèn)為,整體而言,大模型依然處于成熟過程中,技術(shù)演進(jìn)日新月異,還需要克服其在行業(yè)實際應(yīng)用中的各類技術(shù)缺陷,比如幻覺、算力成本高、知識實時更新差等問題。如若貿(mào)然利用大模型重構(gòu)IT系統(tǒng)來替換現(xiàn)有IT,會因為反復(fù)折騰消耗巨大的人力物力,帶來的價值效果可能也不盡如人意。面對以上難點,需要選擇一條穩(wěn)步、平滑演進(jìn)的路線,通過先引入大模型增強現(xiàn)有數(shù)字化系統(tǒng)架構(gòu)和能力,再逐步升級替代到理想藍(lán)圖。

在這條演進(jìn)路線上,一方面需要從系統(tǒng)工程的角度來提升通用人工智能的準(zhǔn)確性、適應(yīng)性、創(chuàng)造性和效率,另一方面需要結(jié)合運營商數(shù)字化場景及當(dāng)期架構(gòu)模式,構(gòu)建出增強演進(jìn)的架構(gòu)體系。總體看來,整個增強體系可分為2+3+N+1來分層演進(jìn)。

“2”通過2個核心平臺的引入,增強企業(yè)IT整體架構(gòu)

MAAS平臺,將大模型能力更絲滑地嵌入到企業(yè)數(shù)字化系統(tǒng)中。未來的頭部企業(yè),很有可能采用1+N的大模型構(gòu)建方式,即在一個主力大模型的基礎(chǔ)上,還會根據(jù)不同場景需要,應(yīng)用N個各有擅長以及尺寸不同的其它模型。MAAS平臺將對接各類不同的大模型,以更安全和更高性價比的方式向上統(tǒng)一提供模型服務(wù)。同時為解決大模型生成幻覺問題和知識滯后性問題,引入RAG,將非參數(shù)化預(yù)料庫和參數(shù)模型結(jié)合,解決純參數(shù)化大模型的局限。并對原始RAG架構(gòu)優(yōu)化,通過增加意圖識別、問題改寫、查詢擴展、結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)動態(tài)路由、多路召回、降噪去重等工程化手段大幅提升實際場景下的知識服務(wù)能力。

mmRTC平臺,在原有頁面集成、流程集成、數(shù)據(jù)集成、企業(yè)集成架構(gòu)的基礎(chǔ)上,搭建多模態(tài)的實時通信交互平臺,實現(xiàn)人-人、人-智能體、人-智能體-人、多智能體等多種方式的即時協(xié)同,充分發(fā)揮智能體在感知、規(guī)劃、記憶、執(zhí)行等方面的能力,面對復(fù)雜場景,改變傳統(tǒng)異步派單的模式,在人腦和智腦的多維加持下,實現(xiàn)實時分析、精準(zhǔn)診斷、即時處理,推進(jìn)效率的大幅提升。該平臺與運營商的網(wǎng)絡(luò)故障診斷、裝維疑難問題處理、復(fù)雜方案營銷等場景非常適配。

3通過3個工廠的建設(shè),提升數(shù)字化生產(chǎn)效率

知識工廠:在知識工廠中訓(xùn)練兩類知識,一類是經(jīng)營領(lǐng)域的專業(yè)知識,包括前端營銷涉及的產(chǎn)品、渠道、客戶等以及后端運維涉及的的網(wǎng)絡(luò)、故障分析等;另一類是數(shù)字化領(lǐng)域的專業(yè)知識,包括IT系統(tǒng)數(shù)據(jù)模型、功能頁面、集成關(guān)系等。知識工廠提供高效工具幫助企業(yè)通過多種形式建立專屬知識庫,解決知識分散、信息損失等問題,實現(xiàn)知識可運營、可迭代優(yōu)化,基于知識標(biāo)簽,最終實現(xiàn)一問多答,更好的滿足跨地域、多產(chǎn)品、多客戶類型的豐富的經(jīng)營形態(tài)。

智能體工廠:未來Agent as a Service 或許將逐步取代目前IT架構(gòu)的微服務(wù)模式。在智能體工廠中,將整合目前已形成的海量插件,以低代碼的方式,通過工作流的可視化開發(fā)形態(tài),將模型、知識庫、提示詞、插件工具進(jìn)行鏈?zhǔn)秸希瑯?gòu)建出面向不同領(lǐng)域、解決不同場景問題的智能體。

數(shù)字應(yīng)用工廠:更高效更低門檻構(gòu)建數(shù)字化應(yīng)用是IT工作者的追求。可以預(yù)見,以大模型來驅(qū)動,識別需求意圖,搭載低代碼組裝式開發(fā),數(shù)字應(yīng)用生產(chǎn)效率將倍增。應(yīng)用開發(fā)的同時數(shù)字資產(chǎn)不斷豐富,又進(jìn)一步提升數(shù)字應(yīng)用的開發(fā)效率。運營商推進(jìn)政企市場,智能數(shù)字工廠將為其如虎添翼。

“N”通過N個場景的智慧化,推進(jìn)全面智能的落地

將大模型的理解、生成、邏輯、記憶四大能力結(jié)合運營商的場景,浩鯨科技已實現(xiàn)如下諸多大類智慧化應(yīng)用,全面大幅提升數(shù)字化智能水平。

生成類場景:包括營銷方案、禮包策劃、營銷海報等應(yīng)用;

診斷類場景:包括家寬綜調(diào)助手、資費爭議診斷等應(yīng)用;其中家寬綜調(diào)助手面向裝維和綜調(diào)人員,提供自然語言順暢交互、問題智能精準(zhǔn)診斷以及即時處理等智能化支撐;

助理類場景:包括CRM營業(yè)助手、資源助手等應(yīng)用;

分析類場景:推出chatBI分析助手,提供海量報表一問直達(dá)、智能按需問數(shù)、隨心深度探索數(shù)據(jù)等智能能力

稽核類場景:包括資費稽核、合同稽核等應(yīng)用;

問答類場景:基于統(tǒng)一框架快速高效搭建各類場景的問答機器人,基于浩鯨特有技術(shù)既保障答案的精準(zhǔn)度,又保證完整度,同時還支持一問多答的跨地域跨產(chǎn)品的特有場景應(yīng)用。

代碼類場景:通過代碼大模型幫助軟件工程師編碼時實現(xiàn)代碼理解、自動補全,提升軟件開發(fā)人員的編碼效率和代碼質(zhì)量。

“1”通過1個“無系統(tǒng)”的打造,實現(xiàn)嶄新的交互形態(tài)

“無系統(tǒng)”一方面將企業(yè)數(shù)字化系統(tǒng)的數(shù)據(jù)、功能界面、使用操作、業(yè)務(wù)知識等訓(xùn)練給大模型,另一方面構(gòu)建統(tǒng)一入口,在該入口以自然語言的方式調(diào)用功能模塊、完成功能模塊的操作(包括跨系統(tǒng)的鏈?zhǔn)讲僮鳎⒉榭礄?quán)限內(nèi)的數(shù)據(jù)(包括跨系統(tǒng)的整合數(shù)據(jù))等。

對于使用者而言,不再需要關(guān)注端到端的流程穿越具體在哪個系統(tǒng)和菜單定位,只需要表達(dá)自己的意圖,通過統(tǒng)一入口,由智能助手實現(xiàn)一步直達(dá)。此入口可掛載在現(xiàn)有任一數(shù)字化系統(tǒng)上,即時呼出,隨地調(diào)用。

運營商深入大模型應(yīng)用腹地,浩鯨科技將做大模型價值釋放者

從整個電信行業(yè)來看,2023年以來,三大運營商相繼推出自己的基礎(chǔ)大模型、行業(yè)大模型和大模型應(yīng)用工具,如今運營商更是深入大模型應(yīng)用腹地,不斷落子。

據(jù)C114了解,中國移動推出APP的AI智能助理“靈犀”,深度嵌入到最新升級的中國移動APP V10版本中,從用戶使用需求出發(fā),依托大模型的內(nèi)容生成能力改善用戶體驗。而中國電信,前不久一口氣發(fā)布了12個垂類行業(yè)大模型,加強在各個領(lǐng)域的深度應(yīng)用。中國聯(lián)通也發(fā)布了元景“1+1+M”大模型體系,更在5月進(jìn)一步發(fā)布中國聯(lián)通元景大模型MaaS平臺,為企業(yè)行業(yè)向MaaS服務(wù)。

總體來看,三大運營商對大模型,無論是反應(yīng)速度、研發(fā)深度,還是覆蓋廣度,都格外突出。對運營商而言,大模型提供了一個契機,讓運營商不僅僅作為通信網(wǎng)絡(luò)的基礎(chǔ)設(shè)施提供商,還可以整合自身在全國一體化算力網(wǎng)絡(luò)、云資源等技術(shù)方面和政企市場、消費者市場等客戶方面的多種優(yōu)勢,更深度地參與到產(chǎn)業(yè)智能化升級與數(shù)字化轉(zhuǎn)型中,重構(gòu)自身在數(shù)字化業(yè)務(wù)中的競爭優(yōu)勢。

正如采訪的最后,鐘健松表示,大模型企業(yè)落地遠(yuǎn)不止“一公里”, 涉及端到端全程各環(huán)節(jié)配套,包括算力資源、大模型切換、私域知識高效導(dǎo)入、智能體構(gòu)建、copilot與現(xiàn)有系統(tǒng)融合,以及每個層面特有的推進(jìn)方法。在智能時代,未來的IT系統(tǒng)將有著新的架構(gòu)、運營模式、研發(fā)范式以及交互形態(tài),而作為運營商的重要且長期合作伙伴,浩鯨科技不做大模型的生產(chǎn)者,但會基于自身對行業(yè)的深度理解,以及通過體系化的工程手段,致力做大模型真實價值釋放者和使能者,助力運營商全面推進(jìn)AI+戰(zhàn)略落地,加速AI融入百業(yè),加速數(shù)智新增長。

給作者點贊
0 VS 0
寫得不太好

版權(quán)說明:C114刊載的內(nèi)容,凡注明來源為“C114通信網(wǎng)”或“C114原創(chuàng)”皆屬C114版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載我方內(nèi)容的單位,也必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和本站來源。編譯類文章僅出于傳遞更多信息之目的,不代表證實其描述或贊同其觀點;翻譯質(zhì)量問題請指正。

熱門文章
    最新視頻
    為您推薦

      C114簡介 | 聯(lián)系我們 | 網(wǎng)站地圖 | 手機版

      Copyright©1999-2024 c114 All Rights Reserved | 滬ICP備12002291號

      C114 通信網(wǎng) 版權(quán)所有 舉報電話:021-54451141