01
Главный ресурс — VRAM
Для локального inference объём видеопамяти часто важнее пиковой игровой производительности. Размер модели и способ квантования нужно определить до выбора видеокарты.
02
Память и накопители
Большие модели, кэш и датасеты быстро занимают пространство. Заранее заложите оперативную память и быстрый NVMe с запасом.
03
Длительная нагрузка
Рабочая станция для AI должна стабильно работать часами: важны охлаждение, питание, airflow и доступ к обслуживанию.