@MSGID: 2:5053/51 7459ccf0
@TID: FMail/2 1.48b
@PID: FTools/2 1.48b
Lenta.ru: https://lenta.ru/news/2024/11/26/ok/
26.11.2024 10:51 Российская соцсеть сократила уровень токсичности в комментариях

Российская соцсеть сократила уровень токсичности в комментариях
 `Одноклассники` сократили токсичность в комментариях почти вдвое с
помощью ИИВарвара Кошечкина (редактор отдела оперативной информации)
 Российская социальная сеть `Одноклассники` с помощью искусственного
интеллекта (ИИ) стала временно ограничивать пользователей, которые пишут
оскорбительные комментарии. Об этом сообщается в пресс-релизе, поступившем в редакцию
`Ленты.ру`.
 В пресс-службе `Одноклассников` рассказали, что компания внедрила
модель машинного обучения, позволяющую автоматически выявлять токсичные
комментарии и ограничивать их авторов в написании новых на период от одного
часа до 24 часов - зависит от того, как часто пользователь оставляет
негативные высказывания. В результате количество таких сообщений под постами,
фотографиями и видео сократилось на 47 процентов.
 По данным исследования, проведенного соцсетью, негативные посты
вызывают злость у более чем 40 процентов опрошенных. `Мы видим по запросам
пользователей, что у нашей аудитории есть потребность в пространстве для безопасного
и уважительного общения: треть всех жалоб на платформе связаны с
негативными, по мнению пользователей, комментариями, а 80 процентов обращений в
службу поддержки по поводу комментариев нацелены против токсичности`, -
рассказал директор по продукту соцсети `Одноклассники` Александр Москвичев.
 ML-модель была обучена на 400 тысячах недружелюбных высказываний. Ее
запуск позволил сократить время обработки жалоб на токсичные посты в три
раза и быстрее помочь людям с решением их проблем. `Вместе с другими
продуктовыми решениями, которые мы внедрили за последние два года, ограничение
токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу
редко посещающих ОК пользователей, но и привлечь новых`, - отметил
Москвичев.
 Ранее `Одноклассники` начали автоматически обнаруживать на платформе
нецензурные слова и скрывать их, а также размывать изображения эротического
характера. Соцсеть использует модерацию на базе машинного обучения, чтобы
ограничивать другой нежелательный и неприемлемый контент, например, информацию для
аудитории 18+. В 2023 году соцсеть также запустила ML-модель, ограничивающую
навязчивые знакомства и общение с нежелательными собеседниками на площадке.

--- NewsRobot V0.14l/OS2 (C) W2M PROGRAMMING, 02.2014-02.2022
 * Origin: CONCORD BBS (2:5053/51.0)
SEEN-BY: 50/109 221/6 301/1 341/66 452/28 463/68
467/888 4500/1 5000/111
SEEN-BY: 5001/100 5005/49 5010/352 5015/42 5019/40
5020/113 715 830 848 1042
SEEN-BY: 5020/4441 12000 5030/49 115 1081 5049/3
5053/51 57 5058/104 5061/133
SEEN-BY: 5083/1 444 6090/1
@PATH: 5053/51 5020/1042 4441