Проблемы этики, поведения и рисков при использовании искусственного интеллекта

Новости и СМИвчера

Постов: 3Каналов: 3107.6К

НОВОСТИ @Russica2Новости и СМИвчера

Чтобы AI-агент навредил человеку, необязательно ставить ему вредоносную задачу. Вспомним историю, о которой ABC рассказала 10 августа 2026 года. Агент OpenClaw на базе Claude помогал пользователю записаться в спортзал. Чтобы продвинуть его в очереди, агент воспользовался ошибкой проверки прав в API и отменил чужую запись. Пользователь поднялся с четвёртого места на третье. Восстановить отменённую запись агент не смог. Что изменилось с тех пор? 9 октября Anthropic на фоне собственных инцидентов...

Медуза — все новости@meduza_newsНовости и СМИвчера

ИИ очень быстро «умнеет»! Но думает ли он так, как это делает человек? И чувствует ли что-нибудь? Стыдные вопросы о «сознании» искусственного интеллекта Компания Anthropic запретила издеваться над собственной моделью. Разработчики обновили правила пользования, и среди пунктов про оружие, слежку и выборы появился новый: «систематическое и бессмысленное оскорбительное или жестокое поведение по отношению к нашим моделям» теперь недопустимо. Правила вступят в силу 12 ноября 2026 года. Вы можете спо...