tasani.ruСтереотип о том, что процессоры не подходят для задач искусственного интеллекта, давно устарел. Хотя их производительность может быть ниже, в ситуациях, когда модель не помещается в видеопамять, процессор с 128 ГБ доступной оперативной памяти DDR5 становится незаменимым. Например, Ryzen 9 9950X способен обрабатывать модели с 123 миллиардами параметров. Хотя скорость работы будет колебаться в пределах 2-3 токенов в секунду, это все равно позволяет выполнять задачи. Для таких операций, как программирование или анализ документов, где нет необходимости постоянно следить за экраном, использование процессора оказывается вполне оправданным. Это открывает новые горизонты для применения в сфере ИИ, где ресурсы могут быть ограничены.
Помогите проекту, поделитесь с друзьями ;)