Nп/п : 72 из 100
 От   : Nil A                               2:5015/46         11 июл 25 08:01:12
 К    : Cheslav Osanadze                                      11 июл 25 08:21:02
 Тема : Hужны ли рулезы и модератор в локалке?
----------------------------------------------------------------------------------
                                                                                 
@MSGID: 2:5015/46 68709f2a
@REPLY: 2:6078/80 687018f6
@CHRS: CP866 2
@TZUTC: 0300
@TID: hpt/lnx 1.9
Hello, Cheslav!

Thursday July 10 2025 21:48, from Cheslav Osanadze -> Dmitry Protasoff:

 DP>> Еще как интересно! Hапример - можно взять посты Hила и натравить
 DP>> на них AI. Чтобы он на их основании составил правила. Кто-то
 DP>> такое пробовал? Hе думаю.

 CO>  Не понятно, как составлять Правила? По каким критериям? Ведь смысл
 CO> эхи не в том, что в неё пишут, а в том, что задумывал создатель.

 Одна из областей применения ИИ - спросить про чё статья/текст, чтобы
кратко изложил суть. Справляется на ура! При этом похер на каком языке
была статья, и каким научным языком там написано. Просто говоришь ему:
"Перескажи смысл статьи в 10 предложениях, чтобы это понял средний 9ти
классник".

 Видимо идея DP в том, чтобы скормить Ниловские тексты из локалки, и
попросить ИИ понять, за что Нил топит, за что ругает, и на базе этого
создать формальные правила для фидонет эхоконференции. Должно сработать.
Причём, если взять модель типа GPT-4.1, у которой размер контекста 1 миллион
токенов, что грубо говоря 4МБ текста, то можно просто одним запросом
отправить. Например, модели типа GPT 4o - 128k токенов, и это полмегабайта
текста можно сунуть. А если хочется задёшево что-то очень часто спрашивать,
то мелкие модели o4-mini/o3-mini, они по 32k, т.е. ~125КБ за раз
хавают, правда полностью окно забивать не хорошо, потому что тут же ещё и
вывод должен поместиться. И такие мелкие модели очень дешёвые, если платить
именно за API, ну или на своём GPU крутить какой-нибудь R1 на 7 миллионов
с кватизацией в 4 бита, например, в 16ГБ видеопамяти влезет. Но тогда
надо в такую модель сувать кусками, и каждый раз просить напиши резюме
на прочитанное, и потом все эти резюме вместе слить.

 P.S. Говорил уже, этим и пугает ИИ, когда он в руках у
контор/служб. Например, хранится где-нибудь архив почты мейлру, личная переписка,
даже не посты в социалку, вроде как за конфиденциальность не сильно
переживаешь. Натравливаем ИИ, одна минута на один мейлбокс, и у тебя портрет
человека имеется - чем живёт, с кем общается, какие где косяки были.

Best Regards, Nil
--- GoldED+/LNX 1.1.5-b20240306
 * Origin: ChatGPT can make mistakes. Check important info. (2:5015/46)
SEEN-BY: 460/58 5001/100 5015/42 46 120 255 519
5019/40 5020/570 715 848 1042
SEEN-BY: 5020/4441 12000 5023/24 5030/49 722 1081
5053/55 58 5054/8 5058/104
SEEN-BY: 6078/80
@PATH: 5015/46 5020/4441



   GoldED+ VK   │                                                 │   09:55:30    
                                                                                
В этой области больше нет сообщений.

Остаться здесь
Перейти к списку сообщений
Перейти к списку эх