微軟推出CUDA轉ROCm工具包,試圖挑戰英偉達在AI領域的主導地位快訊
導讀
能夠將NVIDIA CUDA模型轉換或轉譯為ROCm兼容代碼,而競爭對手AMD的ROCm等技術相對不夠成熟,為微軟日益增長的AI推理工作負載尋找更具成本效益的替代方案。
【TechWeb】長期以來,NVIDIA(英偉達)憑借其強大的CUDA生態系統在AI領域占據主導地位,而競爭對手AMD的ROCm等技術相對不夠成熟。然而,這一格局正迎來新的變革者微軟。據一位"高級別"微軟員工透露,公司已開發出一種"工具包",能夠將NVIDIA CUDA模型轉換或轉譯為ROCm兼容代碼,使其能在AMD的GPU上運行。
此舉旨在打破CUDA的"生態鎖定",為微軟日益增長的AI推理工作負載尋找更具成本效益的替代方案。微軟此番行動的核心驅動力在于,AI推理工作負載需求正在大幅增加,與昂貴的NVIDIA GPU相比,AMD的AI芯片在推理場景中具備更佳的性價比。通過軟件轉換,微軟可以利用AMD的硬件優勢來降低運營成本。
據推測,該工具包可能采用類似ZLUDA的運行時兼容層技術,在不修改源代碼的情況下,將CUDA API調用實時翻譯成ROCm指令。然而,由于ROCm相對"不成熟",部分CUDA代碼仍缺乏對應的映射,可能導致性能下降,這在大型數據中心環境中仍是一個挑戰。
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。
