“京東言犀大模型 ‘源于產業、服務產業’，具有更高的產業屬性、更強的泛化能力和更多的安全保障。”7月18日，京東集團技術委員會主席、京東云事業部總裁曹鵬在2023中國互聯網大會開幕式演講時表示。
 就在幾天前，京東對外推出言犀大模型及言犀AI開發計算平臺。與通用大模型相比，這一參數達千億級“高效率、低成本、低門檻”的產業大模型，源于產業土壤，更懂產業訴求，致力于深入零售、物流、金融、健康、政務等知識密集型、任務型產業場景，解決真實產業問題。
言犀大模型瞄準產業價值
早在2017年，京東就旗幟鮮明地提出“技術！技術！技術！”戰略。京東認為，研發技術不應當只關注商業價值，更要承擔起產業和社會責任。對此，曹鵬詳細闡釋了京東的技術追求：成本、效率、體驗、可信、普惠、突破。
 成本、效率和體驗是從京東的經營理念傳承而來，也是零售的第一性原理。可信、普惠和突破則是技術服務于產業和社會的承諾。這些技術追求的內涵，在以大模型為代表的AI技術領域，能夠讓產業伙伴更放心和信賴地實用技術，幫助技術走出實驗室和公司圍墻，在產業場景發揮價值。
天然具有產業基因的京東，為產業大模型提供了“最佳試驗田”。言犀大模型源于產業、服務產業，在京東自有的健康、物流、零售等產業場景磨煉成熟后，將陸續對外開放服務，讓大模型的價值在產業場景真正落地。
基于此，曹鵬介紹了言犀大模型三步走戰略：現階段，基于京東集團核心產業數據，京東于7月13日推出言犀大模型與大模型計算開放平臺；今年內，應用于京東域內多項核心業務，通過模型精調提升專業域任務能力；在明年上半年，將面向京東域外重點產業場景全面開放大模型能力，向產業輸出可用、可控、可信、可負擔的定制化模型。這背后是言犀大模型對于算力、場景、產品的扎實實踐。
會上，曹鵬介紹了大模型和營銷的結合如何帶來全新的營銷模式：AI增長營銷平臺，是京東科技市場和平臺運營團隊，依托日常的金融營銷工作，結合大模型應用的探索。通過對營銷的理解，以及用戶運營經驗的持續積累，大模型解決了諸如關鍵性任務，動態適應性、用戶體驗等問題，大幅優化了營銷運營流程，降低運營人員的學習成本與操作成本，實現方案生產效率上百倍提高；將過去涉及產品/研發/算法/設計/分析師等5類以上職能才能完成的流程，壓縮至1人；同時，一個入口的全新交互模式，讓人機交互次數從2000次降低至少于50次，將操作效率提升了超過40倍。
數字基礎設施助推大模型服務千行百業
為了降低企業享受大模型技術紅利的門檻，京東把大模型的底層能力解耦出來，推出了言犀AI開發計算平臺，該平臺將于8月上線。
將大模型能力遷移到產業領域，實現垂直行業的“智能涌現”，并非易事。高質量的行業知識作為稀缺要素，決定了大模型的“智商”。言犀AI開發計算平臺沉淀了京東在零售、物流、健康、金融等行業多年積累的知識，通過算法工具集成到平臺，并部署了京東技術團隊開發出的100多種訓練和推理優化工具，結合低代碼應用平臺，為客戶提供從數據建設到模型應用的一站式服務。不到一周時間，用戶即可完成從數據準備、模型訓練到模型部署的全流程；之前需要10余人的科學家團隊工作，現在只需要1-2個算法人員；通過平臺模型加速工具優化，節約90%的推理成本。
為了應對大模型訓練對AI算力的迫切需求，最新升級的混合多云操作系統云艦，通過創新的異構計算池化技術，實現GPU/NPU資源成本下降50%，全面支持多云多芯多活，助力企業漸進式完成國產化替代；最新版存儲平臺云海，單集群每秒讀寫性能提升5倍，達到行業領先的千萬級，延遲時間低至百微秒，存算分離技術使成本降低30%。
傳統數據庫面對大模型訓練的圖片、音頻、視頻等非結構化數據，顯得捉襟見肘，此時，專門針對此類場景的向量數據庫應運而生。京東從2019年開始自主研發向量數據庫，目前，向量數據庫Vearch已經實現大規模落地實踐：平穩支撐京東百億級向量數據高性能檢索，延遲時長降低到毫秒級，降低60%存儲成本降低和80%推理成本。
大模型的難點，不僅在技術追趕，更在產業突破。京東云作為“更懂產業的云”，也將面向千行百業，以更智能的產業應用，助力數實融合，服務經濟社會高質量發展。