@MSGID: 2:5015/519.1 6a15bc22
@REPLY: 2:6035/66.3 6a15b66b
@PID: GED+LNX 1.1.5-b20260304
@CHRS: CP866 2
@TZUTC: 0300
@TID: hpt/lnx 1.9 2024-03-02
Привет, Dmitriy!

26 май 26 18:03, Dmitriy Ignatov -> All:

 DI> Microsoft начала ограничивать сотрудникам доступ к
 DI> моделям Anthropic и отзывать корпоративные
 DI> лицензии на Claude Code из-за высоких расходов,
 DI> пишут СМИ. Похожие проблемы возникли и у Uber:
 DI> активное внедрение ИИ привело к перерасходу
 DI> бюджета уже в первые месяцы, а некоторые инженеры
 DI> тратили на модели тысячи долларов ежемесячно.

  Чтобы не тратить тысячи баксов на одного инженера, просто дайте
ему видеокарту, в конце-концов. Даже 8 гигов дешёвой лэптопной видюхи
(RTX 5060, например) хватает на вынос в VRAM служебных слоёв (attn и
прочее), а также K/V Cache на 131к токенов FP16.

С наилучшими пожеланиями, Egor.

--- -Да, да!.. Я вижу, вы поняли мой замысел.
 * Origin: Сено - великая вещь. (2:5015/519.1)
SEEN-BY: 50/701 452/28 460/58 463/68 4500/1
5001/100 5010/352 5015/42 46 120
SEEN-BY: 5015/255 519 5020/570 715 830 848 1042
4441 12000 5023/24 5030/49
SEEN-BY: 5030/115 722 1081 5031/71 5053/55 58
5080/102 6035/66 6078/80
@PATH: 5015/519 46 5020/4441