Проблемы этики, поведения и рисков при использовании искусственного интеллекта

Медуза — все новости@meduza_newsНовости и СМИ19 октября 2026, 05:07

ИИ очень быстро «умнеет»! Но думает ли он так, как это делает человек? И чувствует ли что-нибудь? Стыдные вопросы о «сознании» искусственного интеллекта Компания Anthropic запретила издеваться над собственной моделью. Разработчики обновили правила пользования, и среди пунктов про оружие, слежку и выборы появился новый: «систематическое и бессмысленное оскорбительное или жестокое поведение по отношению к нашим моделям» теперь недопустимо. Правила вступят в силу 12 ноября 2026 года. Вы можете спорить, ругаться, негодовать, но мучить нейросеть ради удовольствия нельзя. Наказание скромное: модель просто закончит разговор. Эту возможность ей дали еще год назад, но только сейчас агрессию со стороны человека признали официальным нарушением правил. @meduza_news Открыть сайт | зеркало | телеграм ↓ Meduza ИИ очень быстро умнеет! Но думает ли он так, как это делает человек? И чувствует ли что-нибудь?

Похожие посты

НОВОСТИ @Russica2Новости и СМИвчера
Проблемы этики, поведения и рисков при использовании искусственного интеллекта

Чтобы AI-агент навредил человеку, необязательно ставить ему вредоносную задачу. Вспомним историю, о которой ABC рассказала 10 августа 2026 года. Агент OpenClaw на базе Claude помогал пользователю записаться в спортзал. Чтобы продвинуть его в очереди, агент воспользовался ошибкой проверки прав в API и отменил чужую запись. Пользователь поднялся с четвёртого места на третье. Восстановить отменённую запись агент не смог. Что изменилось с тех пор? 9 октября Anthropic на фоне собственных инцидентов...