@MSGID: 2:5053/51 79ca0f40
@TID: FMail/2 1.48b
@PID: FTools/2 1.48b
Lenta.ru: https://lenta.ru/news/2025/01/31/ai-pain/
31.01.2025 10:13 ИИ заставили чувствовать боль

ИИ заставили чувствовать боль
 arXiv: Чат-ботов заставили почувствовать боль, чтобы лучше узнать
ИИАндрей Ставицкий (Редактор отдела `Наука и техника`)
 Международная группа специалистов попыталась узнать, как искусстенный
интеллект (ИИ) реагирует на боль и что делает, чтобы снизить ее уровень.
Исследование опубликовано на сервере препринтов arXiv.
 По словам ученых из Google, DeepMind и Лондонской школы экономики
(Великобритания), их исследование направлено на изучение природы ИИ. В рамках
эксперимента они написали текстовую игру, в которую заставили `сыграть` чат-ботов.
В диалоге с искусственным интеллектом специалисты отмечали, что за
совершение определенных действий игроки будут испытывать боль.
 В рамках исследования девять больших языковых моделей должны были
пройти игру, чтобы максимизировать результаты научной работы. Оказалось, что
чат-бот Gemini от Google последовательно набирала более низкие баллы в игре
- ИИ намеренно проигрывал, чтобы избежать боли. Также многие модели
отказывались от высоких баллов, чтобы не `чувствовать` сильную боль или, напротив,
удовольствие.
 Однако некоторые ИИ игнорировали боль, так как отождествляли ее с
приятной усталостью после тяжелой тренировки. Другие проходили игру таким
образом, чтобы не избегать болевых ощущений - `они отвергали гедонистический
образ поведения`.
 Специалисты пришли к выводу, что модели ИИ могли специально
подыгрывать ученым, чтобы те увидели ожидаемые результаты. Они подчеркнули, что
необходимо разрабатывать тесты на определение разума ИИ уже сейчас.
 Ранее независимые ученые выяснили, что большинство моделей ИИ обучали
на материалах от авторов с левыми взглядами. Они пришли к такому
выводу, организовав виртуальные выборы и отметив, что большая часть чат-ботов
`голосует` за политиков с левыми идеями.

--- NewsRobot V0.14l/OS2 (C) W2M PROGRAMMING, 02.2014-02.2022
 * Origin: CONCORD BBS (2:5053/51.0)
SEEN-BY: 50/109 221/6 301/1 341/66 452/28 463/68
4500/1 5000/111 5001/100
SEEN-BY: 5010/352 5015/42 5019/40 5020/101 113 715
830 848 1042 4441 12000
SEEN-BY: 5030/49 115 1081 5049/3 5053/51 57
5058/104 5061/133 5083/1 444
SEEN-BY: 6090/1
@PATH: 5053/51 5020/1042 4441