2024年全國兩會召開在即。第十四屆全國政協委員、京東集團技術委員會主席、京東云事業部總裁曹鵬今年提交了多份提案，包括發展新質生產力需要自主研發和產業發展相輔相成，建立國產化先進算力和產業發展相輔相成的正循環等等。

無算力不AI。如今，超算中心、智算中心和數據中心正在為人工智能的蓬勃發展鋪設著堅實的計算基石。在此背景下，京東云基于多年研發大模型的能力積累和對行業需求的理解，打造從MaaS服務到智算中心，從硬件基礎設施到軟件系統協同的先進計算產品矩陣，正在為千行百業智能化發展筑起更強算力、更大存力、更加易用、更低門檻的數字技術底座。

“阿爾法”讓智算中心部署能耗降低

工信部數據顯示，截至2023年6月底，我國算力總規模達到197百億億次/秒，位居全球第二。IDC圈統計，我國目前已經建成智算中心不少于20座，全國已有30個城市正在建設或者提出建設智算中心。在智算中心遍地開花的今天，如何實現智算中心的綠色節能，降低單臺AI服務器功耗，成為行業關注的焦點。

基于多年算力基礎設施部署交付的最佳實踐，京東云在業內率先推出“阿爾法”智能算力模塊高功率密度解決方案，不僅滿足從20kW到100kW/柜的高密度算力部署需求，且制冷因子CLF達到驚人的0.07。對于渴望轉型而面臨硬件局限的傳統機房，“阿爾法”算力模塊同樣推出風冷型解決方案，45天快速交付，能耗降低30%，全年平均運行能效PUE制冷因子低至<0.1 。

另外，京東云液冷型智能算力模塊，還可全面兼容GPU、CPU服務器，PUE制冷因子可降低至0.1以內，并支持風冷、液冷系統一體化交付，預制模塊化部署，全面滿足算力密度20-100kW/柜數據中心部署需求。

軟硬件協同釋放算力最大能量

提升算力底座的效率，既要考慮GPU，也要考慮算力調度的軟件，軟硬協同才能最大化發揮智算底座的作用。比如，為了提高數字基礎設施運行效率，京東云云艦混合多云操作系統領先的離在線混部技術，將延遲不敏感的離線計算任務和延遲敏感的在線服務，部署到同一集群上運行，讓在線服務的空閑資源充分被離線計算任務所使用，通過離在線混部提升資源部署密度和CPU使用率， 降低服務器資源成本。京東云在2024年中央電視臺總臺春晚保障期間，基于離在線混部，CPU利用率可達60%，大幅降低資源成本，提高了服務器運行效率。

云艦的vGPU功能，則能夠提供一站式 GPU 算力池化能力，在不增加GPU服務器的基礎上，支持更多的智能化使用場景并發處理，GPU 利用率最高提升 70%，大幅降低大模型推理成本。

另外，京東云的大模型數據庫服務（Vearch）能夠支持百億級向量數據的高性能檢索，將檢索延時降低至毫秒級，可用性高達99.99%，在大模型預訓練場景下，推理成本可降低80%，進一步助推大模型的廣泛應用與創新。京東云海存儲系統，則憑借千萬IOPS讀寫性能和低于100微秒的時延，能夠有效減少算力等待時間，避免算力浪費，將智能算力發揮至極致，滿足大模型對存儲性能的嚴苛要求。

AI開發計算平臺讓大模型“觸手可及”

將大模型能力應用到產業領域，實現垂直行業的“智能涌現”，并非易事。高質量的行業知識作為稀缺要素，決定了大模型的“智商”。京東云言犀AI開發計算平臺具備豐富的行業知識庫，京東在零售、物流、健康、金融等行業多年積累的知識都沉淀在平臺上。作為連接底層算力和上層大模型開發的“橋梁”，京東云言犀AI開發計算平臺能夠無縫銜接起數據準備至模型部署的全流程環節，預置100多種優化工具，只需一鍵部署即可釋放90%的推理成本，極大地推動了AI研發效率與效能的雙輪驅動。

以京東健康自研大模型“京醫千詢”為例，通過京東云言犀AI開發計算平臺，京東健康科學家只需要不到一周時間，即可完成從數據準備、模型訓練、到模型部署的全流程；通過平臺模型加速工具優化，節約90%的推理成本。

京醫千詢大模型的應用場景包括診前病情收集、診中智能輔診、病歷生成等，其中診前病情收集可以減少患者的問診等待時間；診中智能輔診則能夠使醫生回復內容更加詳盡，并體現人文關懷，提升用戶問診體驗；病歷生成能夠自動總結患者病情與醫生診療建議，提升醫生的工作效率。

未來，京東云將持續致力于構建先進的智算底座，賦能智算中心建設，推動人工智能產業高質量發展，為我國數字化轉型和智能經濟崛起貢獻力量。