Согласно последним сообщениям, корпорация Microsoft разработала новый инструментарий, который обеспечивает исполнение кода, написанного для платформы Nvidia CUDA, на графических процессорах от AMD. Эта инициатива направлена на уменьшение зависимости от лидирующей в сфере ИИ-вычислений системы Nvidia.
Microsoft осуществляет трансляцию кода CUDA в формат, совместимый с программной платформой AMD ROCm, что позволяет эффективнее использовать графические ускорители AMD, приобретенные в значительных объемах, для задач, связанных с искусственным интеллектом, в частности для инференса. Такой подход может привести к снижению затрат, так как оборудование AMD обычно более доступно.
Информация о новом программном обеспечении поступила от высокопоставленного представителя Microsoft, который сообщил о создании нескольких инструментов для конвертации моделей CUDA в ROCm, позволяя запускать их на ускорителях AMD, таких как Instinct MI300X. Технически, решение Microsoft, вероятно, использует подход, аналогичный проекту ZLUDA, который обеспечивает совместимость без необходимости полного переписывания кода. Тем не менее, платформа ROCm все еще считается менее зрелой, и некоторые элементы API Nvidia могут не иметь аналогов в ROCm, что может снизить производительность. На данный момент инструментарий находится в ограниченном внутреннем использовании.
tasani.ru