@MSGID: 2:5020/113.7777@fidonet.org 693d9715
@PID: GED+W32 1.1.5-021027
@CHRS: CP866 2
@TID: JustTosser/W32 1.1.1258-230703
Hello All!

https://www.securitylab.ru/news/567044.php
 Галлюцинации вместо фактов. Исследователей призвали не верить
нейросетям при работе с архивами
16:05 / 10 декабря, 2025

Чат-боты готовы выдумать любые данные, лишь бы не оставлять запрос без ответа.

 Автоматические системы, создающие текст с помощью искусственного
интеллекта, всё чаще используются в сфере исторических исследований, включая
работу с архивами. Однако Международный комитет Красного Креста (МККК)
предупредил об опасности использования подобных инструментов при обращении к
архивным источникам. В своём заявлении организация подчёркивает, что такие
генераторы, как ChatGPT, Gemini, Copilot и Bard, не обладают механизмами проверки
фактов и склонны к выдумке.

 Особую обеспокоенность вызывает то, что подобные системы всегда
создают ответ, даже если исторических данных по запросу нет. Их алгоритмы
заточены на генерацию правдоподобного текста, а не на проверку достоверности.
В результате появляются ссылки на якобы архивные документы с
вымышленными номерами, названиями и платформами, которые в реальности никогда не
существовали. Такие "галлюцинации" способны ввести в заблуждение даже опытных
исследователей.

 МККК обращает внимание, что если запрошенного архива не удаётся
найти, это вовсе не означает сокрытия информации. Причины могут быть
разными: от неполной или некорректной ссылки до хранения нужного документа в
других учреждениях. Также может оказаться, что такой документ никогда не
существовал, и его описание - продукт искусственного интеллекта, не подкреплённый
никакими реальными данными.

 Для получения достоверной информации о фондах МККК специалисты
рекомендуют использовать официальный онлайн-каталог. Через него можно изучить
существующие описи и обратиться напрямую к архивистам. Также надёжным источником
считаются академические публикации, в которых точно указаны архивные ссылки и
контекст, позволяющий проследить происхождение данных.

 Организация подчёркивает свою приверженность принципам открытости и
готова оказывать помощь в поиске проверенной информации. Однако использование
генеративных систем без дополнительных проверок вредит точности исследований и
может привести к искажению исторических данных.



Best regards, Boris

--- Ручка шариковая, цена 1.1.5-021027
 * Origin: из-под дpевней стены ослепительный чиж (2:5020/113.7777)
SEEN-BY: 46/49 50/12 452/28 166 460/58 1124 463/68
469/122 4500/1 5001/100
SEEN-BY: 5015/255 5019/40 5020/101 113 545 830 848
1477 2992 4441 12000
SEEN-BY: 5021/29 5022/128 5023/24 5025/3 75 5027/12
5030/1081 1900 1957 2404
SEEN-BY: 5035/85 5058/104 5059/37 5063/3 5066/18
5080/68 102 5085/13 5095/20
SEEN-BY: 6055/7 6078/80
@PATH: 5020/113 545 4441