2025超算生態發展論壇,瓏京科技提出AI落地新范式
11月18日-20日,CDCE國際數據中心及云計算展在上海新國際博覽中心舉辦。

展會的精彩遠不止于展臺,更體現在精心策劃的同期論壇陣容。
其中2025超算生態發展論壇于11月19日舉行,上海超級計算中心主任李根國,分享了關于算力作為新質生產力底座的演講。

此次論壇,以"算力筑基,數智賦業"為主題,瓏京科技AI產品總監李偉也受邀參加。

在算力奔涌、大模型迭出的今天,AI到底如何真正“落地”?
關于這個問題,在2025超算生態發展論壇上,
瓏京科技AI產品總監李偉的觀點,點燃了論壇的氣氛,
即AI應用,才是這場技術變革真正實現商業價值的載體。

01
AI不再只是技術
而是“生產力”與“體驗”的雙輪驅動
演講現場,李偉把當前的AI應用劃分為兩大場景。
>> 生產力場景:
AI 提供效率價值,輔助人完成工作,為企業降本增效。比如自動生成文檔、輔助寫代碼、智能報表生成。
>> 泛娛樂場景:
AI 提供體驗價值,提升用戶與虛擬世界的交互體驗。比如與游戲NPC自然對話、情感陪伴型聊天機器人。
大模型的進化方向,正是AI Agent(智能體),一個能像人一樣規劃、反思、使用工具的程序。
而行業智能化的未來,正走在一條自動駕駛的路上。
02
從“暴力堆顯存”到“精細優化”
推理效率實現跨越
算力成本高、故障多、維護難,是很多企業在部署大模型時的共同痛點。
李偉指出,趨勢正在轉變:
>> 小模型替代大模型,不再依賴“暴力堆顯存”;
>> 模型框架與算子優化,顯著降低顯存需求;
>> 異構推理技術,實現計算資源的大幅削減。
瓏京信息科技,在推理優化上做了三件事:
多并發支持:從底層架構到資源調度,全方位提升吞吐性能;
推理延遲降低:通過核心算子優化,顯著降低端到端延遲;
KV Cache復用:支持更大并發,提升整體效率。
03
自研RAG體系
突破大模型的能力邊界
在現場,李偉一一列舉了傳統RAG的痛點,
知識解析不充分、分割不準確、查詢理解不到位、生成質量不可控......
瓏京科技的解決方案是基于純血國產昇騰/鯤鵬AI infra+自研RAG體系,
這不僅僅是技術升級,更是對可信生成的系統性保障。
04
以存鑄算
推理加速的“黑科技”
在算力與存儲的協同上,瓏京科技的李偉在現場交出了一組令人矚目的數據。
在30K+2K 10并發場景下,對比純算力設備的環境:
>> TTFT時延降低95%
>> TPS吞吐提升19倍
李偉表示,并發度越高,推理算力吞吐性能提升越明顯,這正是“以存鑄算”推理加速方案的價值所在。
在論壇現場,李偉將瓏京科技的落地路徑總結為三個階段:
>> 前期:降本增效,打造“標品”;
>> 中期:行為監測+內容審計,切入醫療、金融、軍隊、政企;
>> 后期:數據治理→ 數據資產→ 持續訂閱收入。
把算力封裝成“標品”,30分鐘完成昇騰一體機上架清單。
李偉認為,“標品越多,場景越多,硬件越多,成本越低——這是一個正向飛輪?!?/span>
05
玲瓏數智大模型應用平臺
讓企業讀懂大模型用好大模型
面向廣大企業對大模型“不了解、不會用、用不起”的痛點,玲瓏數智推出“玲瓏數智大模型應用平臺”。
幫助企業:
理解大模型是什么、能做什么;
快速搭建符合自身需求的智能應用;
實現降本增效、數據資產化與業務智能化升級。
平臺支持多種主流模型(如LLaMA、Qwen、DeepSeek等),具備多模態解析、語義分割、意圖理解、混合召回、思維鏈推理等核心能力,確保生成內容準確、可控、可溯源。
目前已成功落地多個典型場景:
1、某財政局“內容審核”系統,實現公文自動生成、語義理解與動態圖表插入;
2、某律所“合同審查”平臺,通過大模型識別條款、比對模板,輸出審核結果;
3、南京某水廠、陜西某部隊等單位,基于私有化部署實現高效數據治理與智能決策。
寫在最后,
李偉的演講引來現場的一片掌聲,這掌聲,不僅是為瓏京科技在AI Agent領域展現出的技術深度與商業清晰度,
更是為那句“山不向我走來,我便向山走去”所傳遞出的決心與行動力,
論壇結束后,許多與會者仍圍在李偉身邊,繼續探討著AI Agent在自己行業中的應用可能。
在算力、模型、算法喧囂的時代,很多人都在等待,等待技術更成熟、等待成本再降低、等待著下一個時刻。
而瓏京團隊選擇了一條更艱難,卻更堅實的路,主動走向那座名為“行業真需求”的群山。
對于瓏京而言,掌聲是認可,更是前行的號角,我們正在做的,就是把算力變成‘開箱即用’的標品,
讓AI不再高高在上,而是成為每個行業、每個崗位的“智能同事”,
“標品→場景→硬件→成本優化”的飛輪已經開始旋轉,加速駛向2026年的目標。
