• <track id="6sua3"></track>

  • <menuitem id="6sua3"></menuitem>
  • <menuitem id="6sua3"></menuitem>

    <progress id="6sua3"><bdo id="6sua3"></bdo></progress>
    <samp id="6sua3"></samp>

        1. <samp id="6sua3"></samp>

            愛分析聯合京東云發布報告 解讀大模型時代金融行業三大存力需求

            2023-11-30 16:13:31     來源:中國科技新聞網

            大模型時代,算力日益成為數字經濟的新型生產力,作為算力的重要組成部分,存力的價值也日益凸顯。近日,愛分析聯合京東云發布《金融行業先進AI存力報告》。報告對金融機構布局大模型的存力需求做了深入剖析,報告提出,構建可用、可信、可控的先進存力,是金融行業落地大模型的必答題。


            大模型時代算力“木桶效應”下,存力重要性凸顯

            大模型落地過程中,算力、數據和算法是三大支撐要素。在算力建設方面,企業普遍將注意力投向價格高昂、技術供給上有卡脖子風險的GPU,相比以GPU為代表的計算力,存力的重要性往往被忽視,但事實上,大模型必須依托由高性能計算芯片、存儲和網絡共同構成的大規模算力集群。

            而算力集群存在“木桶效應”,如果存儲和網絡性能無法支撐大規模數據存儲、讀寫和傳輸,高性能計算芯片也無用武之地,最終影響大模型訓練效率。愛分析在報告中指出,大模型場景對于存力有著高吞吐、高IOPS、高帶寬、低延時的極致性能要求。

            首先,大模型訓練數據數量多且大,一方面,以文檔、圖片、音視頻等非結構化數據為主,文件數量在幾億到幾十億量級;另一方面,從純文本的TB級到多種數據類型的PB級,需要存儲系統支持高吞吐和大容量,同時支持多協議數據互通,讓數據能快速在各個環節流轉,避免數據等待產生算力閑置的情況。此外,大模型訓練存儲帶寬的要求比電商業務頂峰時段高出幾百甚至幾千倍,存儲性能的高低可能造成模型訓練周期數倍的差異。

            其次,大模型落地的成本問題是業界關注重點,千億級別參數,動輒以月來計算的訓練周期,對應到存儲環節意味著巨大的成本,往往高達百萬甚至千萬級,做大模型有非常強的降本需求。

            金融行業需要可用、可信、可控的AI先進存力

            報告指出,在重視大模型能力建設的背景下,金融機構必須構建起堅實的智能算力基礎設施,以支撐大模型的高效訓練和部署。具體到存力方面,金融機構對于AI先進存力的需求可以總結為三方面:可用、可信、可控。

            在可用方面,金融大模型場景對于存力有著高吞吐、高IOPS、高帶寬、低延時的極致性能要求。在同樣的GPU算力規模下,存儲性能的高低可能造成模型訓練周期數倍的差異,因此,存儲系統需要具備千萬級IOPS、GB級帶寬、微秒級延時的極致性能,以提升GPU資源利用率。

            在可信方面,先進存力需要滿足金融行業合規要求,一方面要求存儲產品100% 自研,核心技術完全自主可控;另一方面,要求破解國產硬件性能瓶頸,并與國產操作系統、數據庫、中間件、服務器、CPU、主板、網卡、SSD等實現兼容適配。

            在可控方面,金融機構在大容量、高性能存儲系統軟硬件本身的投入巨大,單次投入在數百萬至數千萬級別,因此,在滿足功能與性能要求的前提下,存儲系統需要能通過兼容和利舊低成本硬件、提升磁盤空間利用率等方式降低TCO。

            京東云云海新一代存儲平臺,加速金融機構大模型落地

            云海是京東云自研的分布式統一存儲平臺,從2012年開始啟動研發,經過十余年的發展,基于新一代存儲架構的京東云云海于2022年正式對外發布。

            面向金融機構大模型場景,京東云云海分布式存儲產品基于全自研的統一底座,具備高性能、強兼容性、低成本的優勢,能很好地滿足金融機構對于國產化和軟硬件解耦的需求。目前,京東云云海分布式存儲已服務數家頭部商業銀行和證券公司的大模型算力基礎設施建設。

            在性能方面,大模型訓練的并行文件存儲下,云海單文件系統支持千萬級IOPS,上千臺服務器同時并發訪問;在國產適配方面,云海是京東100% 自研產品,核心技術完全自主可控,與主流國產化平臺完成兼容互認。在成本方面,云海形成了低至1.1x副本的業內超低冗余的EC存儲,并在生產環境成熟使用,大幅提升磁盤空間利用率。

            在產業實踐方面,某國有大行基于云海構建存力底座,大幅提升了大模型訓練效率。在存儲方面,云海可以很好地滿足大模型訓練的海量數據存儲需求,此外,平臺采用統一分布式存儲的方式,有效解決了數據系統、AI平臺、大模型應用三者數據高效流動的問題,從而達到降本增效。

            報告在最后指出,面向未來,金融機構應當提升對存力建設的重視度,進行前瞻性的統籌規劃,做好存力與計算力、網絡的匹配,避免出現存力短板。云海作為京東云面向金融大模型落地構建的先進存力產品,將為金融機構數智基礎設施建設提供堅實支撐。



            科技新聞傳播、科技知識普及 - 中國科技新聞網
            關注微信公眾號(kjxw001)及微博(中國科技新聞網)
            微信公眾號
            微博

            免責聲明

            中國科技新聞網登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其描述。文章內容僅供參考,不構成投資建議。投資者據此操作,風險自擔。


            推薦閱讀
            已加載全部內容
            點擊加載更多
            www.97sese.com.