Локални LLM на Мacbook лаптопи?

[Skitcero]

Здраво,

Само што купив нов М2 Pro и сакам да си поиграм и да испробам локални LLM модели, дали некој има искуство со локални модели на макинтош машини? Предлог за модел?

 

[stefan_mkd]

Здраво,

Само што купив нов М2 Pro и сакам да си поиграм и да испробам локални LLM модели, дали некој има искуство со локални модели на макинтош машини? Предлог за модел?

Јас си играв со Мистрал 7б преку ЛЛама. Ништо конкретно немам што да ти споделам Работи, ама лично не се многу замарав