@MSGID: 2:6078/80.1354 6996e30f
@REPLY: 2:5020/570.182 caaa06cd
@PID: GED+LNX 1.1.5-b20240309
@CHRS: CP866 2
@TZUTC: 0300
@TID: hpt/lnx 1.9 2024-03-02

*** Ответ на сообщение из carbonArea (Карбонка не пустая).

Привет, Sergey!

18 фев 26 21:57, Sergey Kaluzhskiy -> Oleg Artemjev:
 SK>>> Хороним эру цифровой любви...
 OA>> А эту модельку себе на домашнее железо поставить никак нельзя?
 OA>> Хотя при нынешних ценах на ОЗУ маловероятно. Печально, что эти 22
 OA>> тыячи человек оказалось недостаточно чтобы поддержать развитие
 OA>> человечности в ИИ. :(

 SK> На домашнее железо встанет только намного тупее модель, что-нибудь
 SK> типа ламы 3 8b, разница с гпт4 будет очень сильно заметна
А что можно поставить имея терабайт не ссд диска и 16 гиг ОЗУ из LLMок?

llama, какую не помню, я как-то внутри Qubes ВМки гонял - очень медленно.
Но может оно приемлемо шуршит на bare metal?


С наилучшими пожеланиями, Oleg.

--- -Уютно у вас, а только странно. И солнца мало.
 * Origin: А мы народ трудящийся... (2:6078/80.1354)
SEEN-BY: 452/28 4500/1 5010/352 5015/46 5020/848
1042 4441 12000 5030/1081
SEEN-BY: 6055/7 6078/80
@PATH: 6078/80 5020/4441