Anthropic запретила пользователям оскорблять нейросеть Claude

Anthropic запретила пользователям жестоко обращаться с нейросетью Claude Американская компания Anthropic обновила правила использования искусственного интеллекта Claude, включив в них запрет на систематическое жестокое обращение с нейросетью. Об этом сообщает The Verge со ссылкой на опубликованную разработчиком новую редакцию пользовательской политики. Обновленная политика использования Claude начнет действовать 12 ноября 2026 года. Согласно документу, ограничения распространяются на продолжительное и беспричинное агрессивное поведение по отношению к ИИ. В Anthropic уточнили, что речь идет исключительно о крайних случаях, когда пользователь неоднократно допускает оскорбительные действия в отношении модели без какой-либо очевидной цели. При этом запрет не затрагивает обычное недовольство ответами чат-бота, критику его работы, обсуждение мрачных тем или проведение исследований и тестирований нейросети. Таким образом, пользователи по-прежнему смогут спорить с Claude и указывать на его ошибки.