tasani.ruИсследователь и блогер Джефф Гирлинг получил от Apple для тестирования кластер из четырёх Mac Studio на базе чипа M3 Ultra. Основная задача — использование одного большого объёма памяти для работы с масштабными AI-моделями. Общая стоимость этого стенда с 1,5 ТБ «объединённой памяти» составляет около 40 000 долларов. Два нижних компьютера имеют по 512 ГБ RAM и 32 ядра, а верхние — по 256 ГБ. Для установки Гирлинг воспользовался мини-стойкой DeskPi, так как готовые решения для монтажа Mac Studio практически отсутствуют.
С сетевыми возможностями возникли трудности: несмотря на наличие высокоскоростного соединения через Thunderbolt, кабели плохо фиксируются, а коммутаторов нет. Это приводит к необходимости соединять каждый Mac с каждым, образуя запутанную сеть. После настройки кластера были проведены тесты. В результате бенчмарка HPL удалось достичь 3,7 терафлопса, что ожидаемо из-за различий в RAM.
Используя открытое ПО Exo 1.0 для тестирования RDMA, Гирлинг смог запускать модели, превышающие объем памяти одного компьютера. Кластер из четырёх Mac Studio с Exo продемонстрировал удвоенную скорость генерации по сравнению с аналогичным решением от Meta.