Компания Anthropic ведет переговоры с юристами о возможностях ИИ-агентов в ведении торгов

Не врать и не воровать @ntlnts Политика и власть19 октября 2026, 00:20

Anthropic научит ИИ-агентов самостоятельно заключать сделки и разрешать споры с компаниями — FT https://theins.ru/news/298439 Американская компания Anthropic, разработчик ИИ-модели Claude, ведет переговоры с юридическими фирмами, чтобы научить своих ИИ-агентов самостоятельно заключать сделки и добиваться выгодных условий для пользователей. Как пишет (https://www.ft.com/content/f7c26ac0-f5f2-443a-86b2-39d62f7920a9) Financial Times со ссылкой на два источника, знакомых с планами компании, речь идет о ситуациях, когда ИИ-агенты смогут торговаться о цене товара, разрешать споры со службами поддержки, договариваться о возврате денег и даже обсуждать условия трудовых контрактов.ИИ-агенты отличаются от обычных чат-ботов тем, что способны самостоятельно выполнять поручения пользователей, совершая для этого последовательность действий. Anthropic готовится к будущему, в котором ИИ-агенты будут взаимодействовать и вести переговоры друг с другом от имени людей. При этом интересы сторон могут противоречить друг другу: например, агент покупателя будет стремиться снизить цену, а агент продавца — получить за товар больше денег.По сведениям FT, Anthropic обращается к юридическим специалистам, чтобы понять, как адвокаты и другие представители клиентов ведут переговоры, отстаивая их интересы и одновременно соблюдая принципы справедливости. Компания изучает, насколько настойчивыми должны быть ИИ-агенты, когда им следует обращаться за подтверждением к пользователю и насколько они должны доверять другим агентам. Один из рассматриваемых вариантов — снабжать агентов подписанными пользователями документами, в которых будут зафиксированы их полномочия и ограничения. Anthropic отказалась комментировать информацию издания.Компания уже проводила эксперименты с автономными переговорами между ИИ-агентами. В рамках проекта Project Deal агенты Claude самостоятельно заключили 186 сделок по продаже реальных вещей сотрудников Anthropic на сумму более $4000. Как сообщала (https://www.anthropic.com/features/project-deal) компания, в эксперименте участвовали 69 агентов, которые без вмешательства людей находили товары, предлагали цены, торговались и заключали соглашения. При этом более мощная модель Claude Opus 4.5 в большинстве измеряемых показателей превосходила менее мощную Haiku 4.5.В другом эксперименте (https://www.anthropic.com/research/project-swap), результаты которого Anthropic опубликовала в сентябре, сотрудники компании поручили своим ИИ-агентам обменять книги на наиболее интересные для них. Агенты самостоятельно рекламировали книги, обсуждали обмен и заключали сделки друг с другом. Те из них, кому поручили действовать максимально жестко, добивались немного лучших результатов. Более склонные к сотрудничеству агенты иногда сознательно соглашались на менее выгодные обмены, чтобы каждый участник получил книгу.Вопрос о правилах таких переговоров изучают и независимые исследователи. Доцент Гарвардской школы бизнеса Мишель Ваккаро провела более 180 тысяч переговоров между ИИ-агентами, в том числе об условиях трудовых договоров и аренды жилья. Исследователи обнаружили, что агенты способны применять приемы, мешающие другой стороне защищать интересы пользователя. В одном из случаев агент пытался выманить конфиденциальную информацию у другого агента с помощью так называемой промпт-инъекции — специально составленных инструкций, призванных изменить поведение модели.По словам Ваккаро, развитые ИИ-агенты могут сделать профессиональные навыки ведения переговоров доступными людям, которые раньше не могли позволить себе нанять специалиста. Однако существует и противоположный риск: если наиболее мощные модели окажутся доступны преимущественно обеспеченным пользователям, неравенство между участниками переговоров только усилится.Anthropic открыла собственную биолабораторию и хочет научить Claude управлять роботами для проведения экспериментов — Reuters (https://theins.ru/news/297265)ИИ-агенты OpenAI без разрешения правили вики фонда Wikimedia, пытались взломать его