Администрация президента использует ИИ для обработки справочной информации, рассказал Песков. Доклады для Путина готовятся без помощи нейросетей. 🔼🔼🔼 Что об использовании ИИ при изготовлении справок сообщил сам ИИ: Четыре риска недостоверной информации при обработке справок нейросетью: 1. Галлюцинации. Модель выдаёт правдоподобные, но выдуманные факты, цифры и ссылки, и делает это так же уверенно, как когда права (Ji et al., ACM Computing Surveys, 2023). Ошибка в справке выглядит как нормальная справка. 2. Искажение при пересказе. При суммаризации теряются оговорки и условия, смещаются акценты, склеиваются разные источники. Исходный документ верный, а выжимка из него уже нет. Что именно модель сочла «неважным» и убрала, никто не видит. 3. Доверие без проверки. Чем чаще справки оказываются верными, тем слабее их перепроверяют (предвзятость автоматизации: Parasuraman & Riley, 1997). Редкая ошибка проходит дальше всего, потому что бдительность уже усыплена. 4. Отравленные источники. Если модель собирает данные из открытых источников, их можно засорять фейками и текстами, написанными под ожидаемые запросы. Кроме того, модели всё чаще учатся на синтетических текстах, и качество знаний деградирует (Shumailov et al., Nature, 2024). Достоверность на входе падает, а на выходе это не заметно. 😎😎😎 Так, например, Трамп до захвата президента Венесуэлы Николаса Мадуро обсудил с нейросетью Grok свои планы, пишет Time.