在新聞服務 AMD 宣佈公司發布了新版本的ROCm 6.3開源軟體。該軟體配備了額外的高級工具,可簡化開發流程,並為 AI 和高效能運算 (HPC) 工作負載提供更好的效能和可擴展性。
請關注我們的頻道以獲取最新消息 Google News 在線或透過應用程式。
在 AMD ROCm 6.3 的主要功能中,該公司強調了以下幾點:
- SGLang 工具專門設計用於優化 AMD Instinct GPU 上最先進的生成模型的推理,例如大型語言模型和視覺語言模型。有了它,您在推斷大型語言模型時可以實現高達六倍的吞吐量
- 變壓器優化達到新水準。 FlashAttention-2 針對 ROCm 6.3 進行了最佳化,可將 Transformer 模型的訓練和推理速度加快 3 倍。因此,可以大幅縮短企業人工智慧系統的上市時間
- AMD Fortra 編譯器可簡化傳統 HPC 應用程式的 GPU 加速,並提供直接卸載、向後相容性和輕鬆集成,無需進行重大程式碼更改
- 一種新的多節點 FFT(計算離散傅立葉變換的快速演算法)。多節點 FFT 支援可在大型資料集上提供高效能 FFT 運算。這使得提高石油天然氣工業和科學研究等領域的決策效率和速度成為可能。
新版本軟體還擴展了電腦視覺庫。先進的視覺庫,包括 AV1 和 rocJPEG,使開發人員能夠創建先進的 人工智慧解決方案 適用於各種工作負載,例如視訊分析或資料集增強。該工具將在從大眾媒體和娛樂到自治系統的各個行業中發揮作用。
透過開源和持續開發來滿足開發人員的需求,AMD 不斷幫助企業更快地創新、更聰明地擴展並在競爭性行業中保持領先地位。
如果您對航空航天技術的文章和新聞感興趣,我們邀請您參加我們的新項目 AERONAUT。媒體.
另請閱讀: