Red Hat攜手AMD深化策略聯盟,強化AI推論與虛擬化部署選項

此篇文章報導了Red Hat與AMD宣布擴大其策略合作,兩家公司將結合Red Hat在開放原始碼軟體和AI平台的領導優勢,以及AMD在高效能運算架構上的技術深度,來為企業用戶提供更靈活且具效能優勢的AI與虛擬化解決方案。這項合作的目的是協助企業應對日益多樣化的混合雲架構及生成式AI部署需求,並加速企業在這些領域的數位轉型。

根據作者的描述,Red Hat的OpenShift AI解決方案將全面支援AMD Instinct GPU,讓企業可以在不需投入過多資源的情況下,利用高效能GPU進行AI工作負載的加速。這樣的架構不僅能提高處理速度,還能在混合雲架構中快速導入及部署生成式AI模型,極大地縮短部署時間並降低成本。

此外,Red Hat與AMD還成功展示了基於Red Hat Enterprise Linux AI的AI推論能力,並在微軟Azure ND MI300X v5平台上,搭載AMD Instinct MI300X GPU,進行小型與大型語言模型推論。文章指出,這一展示表明,在單一虛擬機器上佈署多個GPU可以有效降低跨虛擬機部署的複雜度與成本。

除了在AI推論方面的合作,Red Hat與AMD也進行了開源高效語言模型推論框架(vLLM)的合作,並積極參與上游社群協作。雙方透過最佳化Triton核心、增加FP8支援及核心函式庫的上游化,來提升模型推論效能,並強化多GPU環境下的集體通訊與負載調度性能。

另外,本文還提到,Red Hat將推出自家企業級vLLM發行版「Red Hat AI Inference Server」,並與AMD Instinct GPU進行深度整合。這使得企業能在驗證平台上部署開源AI模型,達到穩定性與高效能並存的效果。

在資料中心虛擬化方面,Red Hat OpenShift Virtualization也已經通過AMD EPYC處理器平台的驗證,支持將傳統虛擬機工作負載無縫整合到雲原生架構中。這樣的整合讓企業IT團隊可以在熟悉的環境中推動基礎設施現代化,並有效優化應用部署及資源配置效率。

最後文章強調,Red Hat未來將繼續擴大與AMD的技術合作,推動AI模型運算與推論環境的高效整合,加速企業邁向以AI為核心的混合雲運算時代,實現更具彈性與成本效益的轉型策略。這一合作預示著AI技術與混合雲架構將進一步成為企業數位轉型的關鍵推動力,並有望為全球企業帶來重大的商業價值與技術優勢。

閱讀完整文章: https://mashdigi.com/red-hat-and-amd-deepen-strategic-alliance-to-enhance-ai-inference-and-virtualization-deployment-options/

Related posts