科華數據:與金融大模型激情共舞
在全球金融科技領域,中國金融機構正以驚人的速度崛起,不僅在大模型專利創新上占據領先地位,更在智能金融服務的實際應用中展現出強大的實力。
這一趨勢的背后,是算力需求的爆炸性增長,以及對高效、可靠、節能的數據中心基礎設施的迫切需求。
* 上述摘要由筆者通過「大模型」讀取本文智能生成。
近日,全球知名科技刊物《麻省理工技術評論》(MIT Technology Review)發布相關報告,“全球金融機構大模型領域專利創新排行榜”揭開面紗。在全球金融機構大模型專利創新領域,中國申請公開量達1909件,占比超75%。更令人欣喜的是,在這份榜單的TOP10,在全球頂尖的金融機構列表中,中國強勢占據8席,展現出泱泱大國在全球科技領域的熠煜之姿。
螞蟻集團、平安集團、工商銀行、建設銀行、中國銀行、馬上消費金融、微眾銀行、農業銀行……中國領先的金融機構于科技制高點布局的各類金融大模型,正如同浩瀚宇宙中點綴著的繁星,每一顆都閃爍著智慧的光芒。
同樣浩瀚的,是高速流轉于服務器之間的數據流量,更是全球秩序及格局博弈下中國科技自強不息的奮進力量。
01 千帆競渡,金融智算登上時代舞臺
據IDC數據,2023年下半年中國智算服務市場整體規模達114.1億元,同比增長85.8%;全年來看,這一數據可達194.2億元,同比增長72.5%。據預測,2022-2027年期間,我國智能算力規模的年均復合增長率將達到33.9%,遠高于通用算力16.6%的增速。
在金融行業,央行2022年1月發布的《金融科技發展規劃(2022-2025 年)》即明確提出,“要抓住全球人工智能發展新機遇,以人為本全面推進智能技術在金融領域深化應用”。
我們看到,圓融詼諧的機器人早已成為智慧網點的基本標配,西裝革履的數字員工在屏幕上對答如流,智能客服、智能辦公、智能研發、智能投研等多個業務場景上均有著大模型在金融業的合理探索及應用,金融機構的服務半徑得以迅速擴大。作為新質生產力的典型縮影,金融智算在金融科技的強催化下登上時代舞臺,正翩然起舞。
再來看看金融智算在一線的公開戰績。
據工商銀行2023年年報披露,其首個基于大模型的網點員工智能助手上線,提升網點效能,全年運營領域智能處理業務量3.2億筆,比上年增長14%;農業銀行ChatABC在智能問答場景已提供超過200萬次問答服務,在輔助編碼場景已編寫超過8萬行代碼投入生產應用;建設銀行智能客服工單生成每單平均節約客服工作時間15-20秒,可用率達82%,一致性達80%。
“方舟計劃”、倉頡、軒轅、天鏡……一個個上古神學中耳熟能詳的名字,身披大模型的“外衣”從遙遠的神話走到了現實,成為金融垂直領域數字化轉型的關鍵力量,推動探索虛擬現實與AIGC(人工智能)融合發展邁向新高度。
據不完全統計,現階段各大金融機構在大模型應用上的情況如下表,可以看出,頭部金融機構在大模型各場景上已有較多投入和應用,他們依托于自有數據加速訓練著適合自己的大模型。
同時,部分中等規模的金融機構,如城商行農商行等,也積極擁抱大模型,或采購GPU服務器部署開源大模型用于內部訓練,或依托于大模型公司的算力能力快速應用落地相關服務場景。
總而言之,金融行業在大模型上的研究和布局上奮力向前,不斷有金融機構加大投入力度。
02 應對“烤”驗,跨越AI時代的算力鴻溝
前文提到,IDC預測近年來我國智算規模的年均復合增長率將遠高于通算,與之相應的即是算力需求飛速增長與數據中心能耗急劇攀升沖突之下造成的“算力鴻溝”。
近日,華泰證券出具的一份研報引用了麥肯錫的數據——在AI大模型相關算力需求的快速增加推動下,以能耗衡量的全球服務器規模將從2024年的70GW增長至2030年的390GW,年均復合增長率高達33%。研報同時指出,隨著AI算力需求的持續增長,2030年全球數據中心用電量規模將達到約2.2萬億度電,是2022年的3.6倍。
這一說法在金融行業也得到驗證。
行業資深人士透露,過去10年,基于低負載及高冗余的特性,一貫以來將業務連續性視為“命根子”的金融數據中心的PUE普遍都大于1.5,“這意味著IT設備每消耗1度電,就有額外的0.5度電用于散熱等其他用途”。
而隨著百億級、千億級金融AI大模型的孵化,過往老舊機房確已難堪負荷,這一條“算力鴻溝”,在AI+金融的時代背景下顯得愈發淵深難測。
跨越這條鴻溝,一方面需應對全球氣候系統變暖趨勢下數據中心面臨的嚴峻“烤”驗,一方面需應對數據中心各部件、整機的高密功耗帶來的散熱剛需,共同推動金融智算基礎設施加快建設步伐。
現階段,我國數據中心的散熱方式仍以風冷為主,以高可靠、高安全著稱的金融數據中心尤是。我們需注意到,部分用戶采購風冷GPU服務器后,由于單臺設備功率高達6-10.5kW,因此在現有機房中,單機柜只能放置1~2臺GPU服務器。此方案可以暫時滿足GPU服務器的散熱需求,但是綜合來看,風冷散熱模式下,GPU處于較高運行溫度下,也會導致運行速度減緩、器件提前老化的情況,此時昂貴的GPU發揮不出其極致的算力,生產力打折,著實可惜。
03 可靠解耦,液冷助力釋放底層算力潛能
在算力激增及高密高熱的雙重推動下,液冷成為智算數據中心主流的溫控方式。據財信證券研報中引用的行業數據顯示,2025-2028年液冷技術的滲透率預計有望達到30%。
液冷,是一種采用液體來進行電子設備冷卻的散熱技術,可顯著提高數據中心的散熱效率。目前,液冷技術主要包括冷板式、浸沒式和噴淋式三種類型,并以前兩者為應用主流。
根據行業研報,以華東地區數據中心建設情況為例,基于一定的測算前提條件下,冷板式液冷方案的TCO甚至Capex已經低于風冷,浸沒式液冷方案的TCO也將在運行五年左右之后出現低于風冷方案的拐點。
囿于成本的緣故,現階段冷板式液冷相較浸沒式液冷而言,技術更為成熟、應用更為廣泛,在改造及建設成本,安全可靠性,后期運營維護方面均具備顯著優勢。按照服務器出貨量口徑統計,2023H1我國冷板式液冷服務器比例為90%左右,浸沒式液冷滲透率為10%。
過去幾年,算力設備廠商一站式整體交付算力設備+液冷基礎設施,優勢是交叉配合界面少、整體交付速度快、后期運維一家負責,但算力設備與液冷基礎設施強耦合后,劣勢也很明顯:
① 二期算力擴容時,較難兼容其他品牌的算力設備,甚至是無法兼容;
② 算力設備廠商集成的液冷基礎設施,在系統冗余性、在線維護性、服務能力上較難達到用戶需求;
③ 液冷基礎設施溢價高,成本甚至超過30萬元/柜,遠高于解耦型冷板式液冷。
如同所有居于供給側、在AI+金融市場鉆研鏖戰的科技廠商一般,科華數據也秉持著行業領先者的責任感,乘著這股浩蕩東風,推出「解耦型冷板式液冷數據中心解決方案」,致力于共同助力金融機構釋放算力潛能,為金融智算筑建堅實底座。
經過充分的市場調研和案例應用,科華數據冷板式液冷數據中心解決方案凝聚了「6大優勢」。
01 整體優化架構,服務器全解耦,可兼容多品牌算力設備,分期建設無憂
科華數據冷板式液冷解決方案,可解耦國內主流品牌液冷算力服務器,解耦點在液冷服務器側或液冷整機柜側,目前已交付多個項目,并安全穩定運行,實現了客戶對于液冷數據中心兼容解耦的部署架構。
02 高密智算液冷POD解決方案,整系統可靠驗證,現場高質量快速交付
基于豐富的項目經驗,實現了建設方案、系統架構、核心產品的標準化,并推出了一站式交付的液冷算力POD解決方案,既優化了方案論證、產品選型階段的復雜工作,又提升了產品質量、交付速度、確保系統穩定運行,維護管理更加簡便易用,運營效率得以大幅提升。
03 核心產品優異,CDU循環泵雙泵冗余,水泵、過濾器等不停機更換維護
作為液冷系統中的核心產品,科華數據液冷CDU采用N+1冗余架構設計,并可放置在精密空調間,確保一次側冷卻水不進入算力機房內。CDU內的循環水泵采用節能型變頻雙泵冗余設計,單臺水泵即可滿足100%散熱需求,水泵和過濾器均按滿足在線維護要求,實現不停機即可更換維護。
04 預制化生產制造,工程產品化,確保交付質量,又好又快
基于智能微模塊的豐富經驗,科華數據液冷系統將預制化底座、二次側管路系統、機柜(含manifold)、通道封閉、智能小母線、風補列間空調、液冷微模塊監測系統、一次側水力模塊等進行預制化設計生產,現場快速交付。
05 交付安全穩定,基于正向設計理念,通過BIM+CFD仿真模擬及液冷測試平臺嚴格驗證
項目正式進場后,科華基于BIM三維建模技術,實現1:1數字孿生,模擬每一個設備、每一段管路和閥門的位置,做到所設即所得,減少現場管路交叉干涉,確保交付質量和速度。通過CFD流體仿真技術,模擬管路流體路徑和機房內的氣流組織,不斷優化設備布局和設置參數,確保智算機房高質量運行。同時,每一套液冷系統出廠前,均會在科華液冷整系統測試平臺中進行測試,驗證可靠性和功能參數,確保方案質量和系統長期穩定運行。
06 項目經驗豐富,成功交付多個液冷數據中心項目,全生命周期服務值得用戶信賴
得益于高效散熱、節能減排、安全可靠等優勢,科華冷板式液冷案例覆蓋了通信、互聯網、高校、金融等多個行業用戶,如河北承德智算中心、中國移動蘇州數據中心、廈門大學嘉庚智算中心等。
科華數據冷板式液冷解決方案可囊括從通用算力服務器20kW/柜到智算算力服務器高密度50kW/柜,甚至科研場景的70~120kW/柜,為各行業高密度智算中心打造安全可靠、綠色低碳的液冷數據中心,賦能千行百業。在推動新技術發展的同時,科華數據也不斷優化整體服務流程,使每一次交付都得到客戶的高度認可。
如,于「通信行業長三角地區重要液冷數據中心項目」上,科華數據冷板式液冷解決方案助力項目運行指標大幅提升——
丨散熱能耗降低超50%
丨PUE降至1.2
丨節約空調電費超50%
丨提高服務器算力能力5%-10%
從通信,到金融,行業天然自帶壁壘又何妨,高可靠的產品技術是其互通的媒介。
當金融機構行至全面擁抱大模型、戰略布局AI算力的風口,技術先行者已在此處,等著共同攀越那崢嶸山崗。
結語:
人工智能先驅之一,穆斯塔法·蘇萊曼在其出版的《大浪將至》中提到,“技術是一種創新集群,即將到來的浪潮是像寒武紀大爆發一樣的進化爆發,將涌現出成千上萬種新應用,這些技術中的每一項都與其他技術相互交叉、相互加強、相互完善。”
AI賦能智算行業蓬勃發展,創新技術在金融行業的各類場景中不斷應用、驗證、迭代,算力基座也正朝著更可靠、更可用、更節能、更智慧的方向演進。
久經檢驗的金融數字化轉型合作伙伴——科華數據,正融合30余年電力電子核心技術及十數年數據中心建設運維經驗,深刻洞察金融應用側在新建及改造數據中心的能耗痛點,以更可靠、更解耦的液冷解決方案,助力更多金融機構實現更高的算力密度、節省更多的機柜空間,推動底層算力潛能的進一步釋放。