C114訊 6月26日消息(焦焦)ChatGPT橫空出世,掀起了AI行業的發展熱潮。大模型從嶄露頭角到現在的如日中天,全行業已然在AI的新時代中全速前進,大模型成為驅動創新的焦點之一。在AI帶來生產力革新與商業模式升級浪潮下,作為向科技公司轉型的領軍央企,運營商在AI領域不斷加碼布局,為通信產業邁入大模型時代積極領路,構建數智生產力也被被賦予前所未有的重要使命。
在2024年MWC上海展上,作為運營商的重要合作伙伴,浩鯨科技圍繞“智能時代,構建數智生產力”為主題,分享在大模型的驅動下,如何賦能運營商業務和運營管理快速實現深度智能化,并展示在加速智能化進程中的技術突破和創新應用,為運營商構建從智能基礎設施、大模型平臺、到創新數智應用落地的全方位支持,攜手運營商共筑智能化未來宏圖,加速數智躍升。
運營商數字化建設成果仍存挑戰,亟待解決
在智能化浪潮下,運營商在推進自身轉型的同時積極發力產業數字化建設,據C114觀察,目前運營商數字化轉型取得顯著成效。在為用戶提供更快速、更穩定的通信網絡連接的同時,推出更豐富的數字化服務和增值服務,并通過數據驅動的運營,更加精準地滿足最終用戶的個性化需求,提高數據資產的管理利用效率。
浩鯨科技中國CTO鐘健松在接受C114專訪時指出,運營商的數字化建設走過三十年,已取得卓越成效,成為推動國家數字經濟建設的領頭羊。但以發展的視角審視當前的數字化建設成果,依舊存在一些挑戰,亟待智能化手段去解決。
1、生產要素已被大量累積,但價值發揮有限
鐘健松認為,經過數十年的的數字化發展與積累,運營商沉淀了海量的數據,包括資源、網絡、服務、客戶、渠道等立體多維數據資產,堪稱為“寶藏數據礦場”。基于這些數據,運營商內部構建了諸多報表系統、數據分析系統,但對數據的提取和分析仍存在諸多動態變化,導致當前各下屬公司依然要配備大量取數人員,以響應每月不同維度的看數要求。
此外,隨著中臺的建設,運營商的重點已從功能建設逐漸轉向能力構建,能力不斷累積和豐富,并逐步沉淀為企業的能力資產。盡管能力資產在助力數字化應用建設過程中發揮了一定價值,但由于能力的可視化、非完全的集約、從能力到應用的轉化難度等問題,制約了能力資產的價值發揮。
鐘健松表示,相比數據資產和能力資產,企業的知識資產受重視程度不夠,少量的知識庫僅存儲了某些關于產品營銷方面的內容,而更需要傳承的例如網絡運維、故障處理、施工操作、方案配置等方面的知識,要么作為規則被整合到系統中,缺乏迭代更新;要么沉淀在少數專家的頭腦中,難以復制和傳承。
2、生產效率盡管在不斷提高,但仍有很大提升空間
當前,流程驅動已成為數字化系統的一個典型特征,但流程驅動有其受限之處。首先,流程為異步處理,非實時,可能會因為環節之間的來回回退導致處理時間拉長,而企業的生產運營則有大量需要實時解決問題的場景,比如涉及到多方參與的網絡疑難故障診斷分析,基于流程驅動的派單式的解決方式就不太適用。
其次,在新技術的推動下,自動化、智能化的述求在企業運營中越來越強烈,雖然通過規則、AI算法、RPA等的引入能夠解決不少問題,但目前采取“散點注智”的開發模式,派生出多種類型的規則引擎、推薦引擎、調度引擎等多個系統,開發周期長、應用面狹窄,管理分散,從而導致需求難以即時響應,自智成熟度等級難以產生質的飛躍。
3、數字化系統林立,使用者陷入系統和功能的海洋
盡管在ITSP的規劃下,運營商數字化系統縱向集約橫向整合,系統數量已做了大幅收斂,但當前系統規模依然龐大,不同崗位人員需要面對諸多系統以及功能模塊,在龐雜的系統中尋找對應的功能,費時費力,以至于大量已開發出的功能模塊因不被認知而使用率極低。
與此同時,為了應對復雜場景,數字化系統往往配備繁瑣的使用界面,使用者需要在各種彈出的窗口、頁簽中切換,使用門檻高,工作負荷大。
大模型,助推運營商向理想藍圖平滑演進
據C114了解,強大的通用智能能力,催生AI創新應用多點開花。國內外均積極、迅速地推進大模型訓練,千億參數模型層出不窮,大模型驅動的場景也在逐步落地,但大模型的價值發揮并不是想象中的一蹴而就。大模型應用在落地過程需要多方參與,且對算力、平臺、算法的要求較高,因此盡管大模型的訓練量不斷擴大,在不同行業不同領域也多有應用,但應用的發展水平與速度參差不齊,部分領域尚且很難將模型價值發揮實效,推動行業大模型“真正落地”的機遇與挑戰并存。
鐘健松認為,整體而言,大模型依然處于成熟過程中,技術演進日新月異,還需要克服其在行業實際應用中的各類技術缺陷,比如幻覺、算力成本高、知識實時更新差等問題。如若貿然利用大模型重構IT系統來替換現有IT,會因為反復折騰消耗巨大的人力物力,帶來的價值效果可能也不盡如人意。面對以上難點,需要選擇一條穩步、平滑演進的路線,通過先引入大模型增強現有數字化系統架構和能力,再逐步升級替代到理想藍圖。
在這條演進路線上,一方面需要從系統工程的角度來提升通用人工智能的準確性、適應性、創造性和效率,另一方面需要結合運營商數字化場景及當期架構模式,構建出增強演進的架構體系。總體看來,整個增強體系可分為2+3+N+1來分層演進。
“2”通過2個核心平臺的引入,增強企業IT整體架構
MAAS平臺,將大模型能力更絲滑地嵌入到企業數字化系統中。未來的頭部企業,很有可能采用1+N的大模型構建方式,即在一個主力大模型的基礎上,還會根據不同場景需要,應用N個各有擅長以及尺寸不同的其它模型。MAAS平臺將對接各類不同的大模型,以更安全和更高性價比的方式向上統一提供模型服務。同時為解決大模型生成幻覺問題和知識滯后性問題,引入RAG,將非參數化預料庫和參數模型結合,解決純參數化大模型的局限。并對原始RAG架構優化,通過增加意圖識別、問題改寫、查詢擴展、結構化和非結構化數據動態路由、多路召回、降噪去重等工程化手段大幅提升實際場景下的知識服務能力。
mmRTC平臺,在原有頁面集成、流程集成、數據集成、企業集成架構的基礎上,搭建多模態的實時通信交互平臺,實現人-人、人-智能體、人-智能體-人、多智能體等多種方式的即時協同,充分發揮智能體在感知、規劃、記憶、執行等方面的能力,面對復雜場景,改變傳統異步派單的模式,在人腦和智腦的多維加持下,實現實時分析、精準診斷、即時處理,推進效率的大幅提升。該平臺與運營商的網絡故障診斷、裝維疑難問題處理、復雜方案營銷等場景非常適配。
“3”通過3個工廠的建設,提升數字化生產效率
知識工廠:在知識工廠中訓練兩類知識,一類是經營領域的專業知識,包括前端營銷涉及的產品、渠道、客戶等以及后端運維涉及的的網絡、故障分析等;另一類是數字化領域的專業知識,包括IT系統數據模型、功能頁面、集成關系等。知識工廠提供高效工具幫助企業通過多種形式建立專屬知識庫,解決知識分散、信息損失等問題,實現知識可運營、可迭代優化,基于知識標簽,最終實現一問多答,更好的滿足跨地域、多產品、多客戶類型的豐富的經營形態。
智能體工廠:未來Agent as a Service 或許將逐步取代目前IT架構的微服務模式。在智能體工廠中,將整合目前已形成的海量插件,以低代碼的方式,通過工作流的可視化開發形態,將模型、知識庫、提示詞、插件工具進行鏈式整合,構建出面向不同領域、解決不同場景問題的智能體。
數字應用工廠:更高效更低門檻構建數字化應用是IT工作者的追求。可以預見,以大模型來驅動,識別需求意圖,搭載低代碼組裝式開發,數字應用生產效率將倍增。應用開發的同時數字資產不斷豐富,又進一步提升數字應用的開發效率。運營商推進政企市場,智能數字工廠將為其如虎添翼。
“N”通過N個場景的智慧化,推進全面智能的落地
將大模型的理解、生成、邏輯、記憶四大能力結合運營商的場景,浩鯨科技已實現如下諸多大類智慧化應用,全面大幅提升數字化智能水平。
生成類場景:包括營銷方案、禮包策劃、營銷海報等應用;
診斷類場景:包括家寬綜調助手、資費爭議診斷等應用;其中家寬綜調助手面向裝維和綜調人員,提供自然語言順暢交互、問題智能精準診斷以及即時處理等智能化支撐;
助理類場景:包括CRM營業助手、資源助手等應用;
分析類場景:推出chatBI分析助手,提供海量報表一問直達、智能按需問數、隨心深度探索數據等智能能力
稽核類場景:包括資費稽核、合同稽核等應用;
問答類場景:基于統一框架快速高效搭建各類場景的問答機器人,基于浩鯨特有技術既保障答案的精準度,又保證完整度,同時還支持一問多答的跨地域跨產品的特有場景應用。
代碼類場景:通過代碼大模型幫助軟件工程師編碼時實現代碼理解、自動補全,提升軟件開發人員的編碼效率和代碼質量。
“1”通過1個“無系統”的打造,實現嶄新的交互形態
“無系統”一方面將企業數字化系統的數據、功能界面、使用操作、業務知識等訓練給大模型,另一方面構建統一入口,在該入口以自然語言的方式調用功能模塊、完成功能模塊的操作(包括跨系統的鏈式操作)、查看權限內的數據(包括跨系統的整合數據)等。
對于使用者而言,不再需要關注端到端的流程穿越具體在哪個系統和菜單定位,只需要表達自己的意圖,通過統一入口,由智能助手實現一步直達。此入口可掛載在現有任一數字化系統上,即時呼出,隨地調用。
運營商深入大模型應用腹地,浩鯨科技將做大模型價值釋放者
從整個電信行業來看,2023年以來,三大運營商相繼推出自己的基礎大模型、行業大模型和大模型應用工具,如今運營商更是深入大模型應用腹地,不斷落子。
據C114了解,中國移動推出APP的AI智能助理“靈犀”,深度嵌入到最新升級的中國移動APP V10版本中,從用戶使用需求出發,依托大模型的內容生成能力改善用戶體驗。而中國電信,前不久一口氣發布了12個垂類行業大模型,加強在各個領域的深度應用。中國聯通也發布了元景“1+1+M”大模型體系,更在5月進一步發布中國聯通元景大模型MaaS平臺,為企業行業向MaaS服務。
總體來看,三大運營商對大模型,無論是反應速度、研發深度,還是覆蓋廣度,都格外突出。對運營商而言,大模型提供了一個契機,讓運營商不僅僅作為通信網絡的基礎設施提供商,還可以整合自身在全國一體化算力網絡、云資源等技術方面和政企市場、消費者市場等客戶方面的多種優勢,更深度地參與到產業智能化升級與數字化轉型中,重構自身在數字化業務中的競爭優勢。
正如采訪的最后,鐘健松表示,大模型企業落地遠不止“一公里”, 涉及端到端全程各環節配套,包括算力資源、大模型切換、私域知識高效導入、智能體構建、copilot與現有系統融合,以及每個層面特有的推進方法。在智能時代,未來的IT系統將有著新的架構、運營模式、研發范式以及交互形態,而作為運營商的重要且長期合作伙伴,浩鯨科技不做大模型的生產者,但會基于自身對行業的深度理解,以及通過體系化的工程手段,致力做大模型真實價值釋放者和使能者,助力運營商全面推進AI+戰略落地,加速AI融入百業,加速數智新增長。