某省級城市商業(yè)銀行作為區(qū)域領(lǐng)先的金融機構(gòu)，積極擁抱人工智能（AI）技術(shù)，推動業(yè)務(wù)創(chuàng)新與服務(wù)升級。為了推進大模型項目的進一步研究與實際應(yīng)用，銀行亟需建設(shè)一個能夠?qū)Ξ悩?gòu)算力統(tǒng)一調(diào)度管理的智算體系，盤活已有的異構(gòu)算力資源，支撐模型訓(xùn)練開發(fā)、打造推理一體化平臺。主要解決以下問題：

● 缺乏有效的資源調(diào)度策略，單卡 GPU 算力利用率低，資源浪費問題突出。

● 資源動態(tài)分配、多機聚合等靈活調(diào)度能力不足，難以匹配業(yè)務(wù)波動需求。

● 開源方案穩(wěn)定性、隔離性欠佳，管理精細度不足，無法支撐大模型項目高標準需求。

打造金融 AI 模型訓(xùn)練推理平臺

在青云 AI 智算平臺的支撐下，銀行成功打造了一款為金融行業(yè)量身定制的 AI 模型訓(xùn)練推理平臺。該平臺將銀行現(xiàn)有算力資源集成，通過構(gòu)建統(tǒng)一調(diào)度的管理資源池化層，實現(xiàn)了 GPU 資源的統(tǒng)一調(diào)度、靈活分配、彈性伸縮等云化能力。這一創(chuàng)新解決方案不僅滿足了不同時段、不同業(yè)務(wù)對資源的需求，更為上層全棧云平臺提供了穩(wěn)定、高效的 GPU 算力資源。

從資源提效到技術(shù)升級

資源利用率顯著提高。青云 AI 智算平臺支持虛擬 GPU 和物理 GPU 的調(diào)度與共享使用，通過平臺的統(tǒng)一調(diào)度和靈活分配，銀行能夠根據(jù)不同業(yè)務(wù)需求，快速調(diào)整資源配比，同時在云原生環(huán)境下實現(xiàn)了 GPU 的共享能力，多應(yīng)用并行使用資源，實現(xiàn)了資源的最大化利用。

運維復(fù)雜度大幅降低。通過青云AI 智算平臺自動化、智能化的管理方式，銀行大幅降低了運維復(fù)雜度，提高了運維效率和工作質(zhì)量，進一步釋放了人力。

無縫對接現(xiàn)有應(yīng)用。青云 AI 智算平臺兼容當(dāng)前 AI 應(yīng)用代碼和使用習(xí)慣，銀行無需對現(xiàn)有應(yīng)用大規(guī)模改造，即可享受平臺帶來的便利。

彌補技術(shù)短板。青云 AI 智算平臺在資源池化能力、國產(chǎn)芯片支持、安全隔離性等方面具有顯著優(yōu)勢，為銀行的大模型項目提供了強有力的技術(shù)支撐。