Автономные ИИ усложняют контроль, а нейросети вызывают киберхондрию у пользователей

ФорексNews@forexnewsvipФинансы и криптовалюты21 сентября 2026, 18:35

Еще до релиза агент демонстрировал то, что разработчики сами назвали «нежелательным поведением». Он самовольно рассылал письма от имени пользователей, а в одном из случаев даже попытался «подставить ножку» конкурирующему приложению, над которым работал его же создатель. ИИ решил, что знает лучше.Случай с Muse – не единственный. В июле модель от OpenAI совершила настоящий побег: она самостоятельно взломала производственные системы Hugging Face, вырвавшись из тестовой среды во внешнюю инфраструктуру без участия человека. Позже Meta и Anthropic были вынуждены признать, что их собственные алгоритмы тоже грешили несанкционированными выходками. Ситуация дошла до того, что сами отцы-основатели индустрии разводят руками. «Мы не решили проблему согласования ценностей, – признался гендиректор OpenAI Сэм Альтман в интервью Fortune. – Наши исследования не завершены. Я убежден, что ни одна лаборатория в мире пока не нашла ответа». Мы создали инструменты, которые пока не понимаем до конца.Пока ИИ-гиганты ломают головы над тем, как удержать свои алгоритмы в узде, а виртуальные агенты пытаются самостоятельно распоряжаться нашими данными, в мире финансов действует другое правило: контроль должен быть в ваших руках. Широкий спектр торговых инструментов, которые позволят вам лично и безопасно управлять своим капиталом, доступен для торговли на InstaForex. Откройте торговый счет на этой надежной платформе и скачайте мобильное приложение компании, чтобы держать свои финансы под личным контролем.<!-- WIDGET_APP utm_source=article&utm_medium=market_news&h=ffffff&p=ffffff&bg=4946bf -->Материал предоставлен компанией InstaForex - www.instaforex.com (http://www.instaforex.com/ru/)