Nп/п : 4 из 22
От : Nil A 2:5015/46 13 июн 24 17:54:14
К : Oleg Redut 13 июн 24 17:59:01
Тема : Буква H
----------------------------------------------------------------------------------
@MSGID: 2:5015/46 666b090d
@REPLY: 2:5000/111@fidonet 666a64ec
@CHRS: CP866 2
@TZUTC: 0300
@TID: hpt/lnx 1.9
Hello, Oleg!
Thursday June 13 2024 10:16, from Oleg Redut -> Dmitriy Orlov:
DO>> Скорее всего строят ботов типа Дениса Моско - и когда эти боты
DO>> сталкиваются с буковой H среди текста, они "теряют мысль", что
DO>> очень не нравится разработчикам - они ведь понимают что такая
DO>> проблема может
OR> Как разработчик ботов, скажу, что нормализовать текст с "лишними"
OR> буквами - не проблема. Один регехп.
Не думаю. Нельзя просто регекспом заменять английскую букву в
английских словах в русскую. Также нельзя заменять в каких-то может быть
названиях моделей чего-нибудь, где понятно что должно быть на самом деле.
Правильно заменять использую словарь. Тупо можно по unigram (по
одному слову), с дистанцией 1 или 2, но точнее можно по bigram или
3-gram, тогда наверняка. Ну и при этом надо русский язык разбирать на
лексемы или стемы, чтобы все эти корни, суффиксы, приставки, окончания..
Best Regards, Nil
--- GoldED+/LNX 1.1.5-b20240306
* Origin: FidoNet member since 1995 (2:5015/46)
SEEN-BY: 104/117 463/68 5001/100 5005/49 5015/46
255 5019/40 5020/400 715 830
SEEN-BY: 5020/848 1042 4441 12000 5030/49 115 1081
5049/3 5053/51 5061/133
SEEN-BY: 5068/45 5075/128
@PATH: 5015/46 5020/1042 4441