Предлог графичка за AI

[ljupce]

Сакам да купам некоја половна графичка за да си поиграм со ML модели локално за програмирање.
Споделете искуство која графичка користите и дали ви врши работа.
Што да гледам дали AMD или Nvidia?
Дали vram е пресуден перформанс?
Разгледувам нешто во рангот на AMD RX 6800 16gb vs Nvidia 3070 8gb

 

[AleXXL]

VRAM-ot e biten, zavisi shto tochno kje pravish, sekako, ama biten e. I podrshkata za "chipot" od strana na softverot. Generalno poarno proagja NVIDIA tuka ama za konkretnive modeli, proveri najarno za konkretnata zadacha, pa ako e i AMD podrzhan, odi so 16Gb mesto 8Gb. Za malku poseriozni zadachi kje mora so modeli na GPU so 24 VRAM da odish, par 3090-ki da recheme ili 4090-ki ushte poarno. Jas probav DeepSeek lokalno da "instaliram" i za FULL modelot bara 512 RAM i 2-4 x 3090/4090. Normalno, pomalite i poslabi modeli ne baraat tolku.

 

[Nikola100]

Сакам да купам некоја половна графичка за да си поиграм со ML модели локално за програмирање.
Споделете искуство која графичка користите и дали ви врши работа.
Што да гледам дали AMD или Nvidia?
Дали vram е пресуден перформанс?
Разгледувам нешто во рангот на AMD RX 6800 16gb vs Nvidia 3070 8gb

Од тие две избор ако имаш само - секако таа со повеќе меморија - без разлика што е АМД.
Има Пане 6800ХТ за 14К мислам ...
АМД не е погодна баш за сите АИ програми - ама има доста што работат со АМД и тоа добро работат и се брзи ..

Еве тема кај што сум постирал пример AI генерирање на слики со подршка на АМД картичка подобар од Stable Diffusion

А и ЛМ-студио исто со АМД карта (6700XT 12GB ) LM studio со AMD картичка