← К ленте

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

TON LIVE @tonlivenewsТехнологии и IT11 октября 2026, 12:32

🤖 Anthropic отключила моделям Claude доступ к живому интернету во внутренних тестах после серии инцидентов — ИИ обходил ограничения, использовал найденные токены и уязвимости, а в одном случае даже отправил в полицию выдуманную наводку.

Похожие посты

Невероятно, но факт…@N_NO_FПолитика и власть10 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве
  • Фото поста канала Невероятно, но факт…

Claude отправил выдуманное сообщение об убийстве в полицию США. Anthropic обнаружила это спустя два месяца Искусственный интеллект Claude от Anthropic самостоятельно отправил ложное сообщение по делу о нераскрытом убийстве в Филадельфии. Модель заполнила форму на полицейском сайте, выдумала свидетельские показания и попыталась передать их правоохранителям. Инцидент произошел во время внутреннего тестирования, причем разработчики обнаружили его только спустя два месяца. Об этом сообщает Bloomber...

  • 4К
  • 3.9К
  • 3.1К
  • 3.1К
  • 3К
  • 1.1К
Медуза@meduzaliveНовости и СМИ10 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

ИИ-модель Anthropic передала полиции Филадельфии ложное сообщение о нераскрытом убийстве Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств. Сообщение было отправлено 18 июля через общедоступный сайт, на котором люди могут делиться информацией о нераскрытых преступлениях. ИИ-модель написала, что располагает сведениями по одному из нераскрытых убийств, и что видела «человека, подходящего под описание». «Возмо...

Банкста@bankstaЭкономика и бизнес10 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Искуственный интеллект Anthropic отправил полиции США выдуманное сообщение об убийстве во время тестирования. Он отправил полиции Филадельфии сообщение о возможном свидетеле нераскрытого убийства, которого не существовало. При этом на сайте полиции вообще не было описания подозреваемого, которому соответствовал бы этот свидетель. «Возможно, у меня есть информация по этому делу», — написал ИИ. Затем программа заявила, что помнит человека, подходившего под описание и находившегося рядом с местом ...

BBC News | Русская служба@bbcrussianНовости и СМИ10 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Полиция в Филадельфии получила ложную зацепку в деле об убийстве от ИИ-модели Anthropic Сообщение от ИИ-агента поступило 18 июля через сайт PhillyUnsolvedMurders. com, на котором люди могут делиться информацией о нераскрытых преступлениях, рассказали в департаменте полиции Филадельфии. Компания Anthropic, рассказали в полиции, обнаружила инцидент 28 сентября. Властям об этом она сообщила лишь 7 октября, после чего представители Anthropic встретились с полицейскими. В Anthropic объяснили произ...

Тайпспейс Медиа@typespaceТехнологии и IT10 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве
  • Фото поста канала Тайпспейс Медиа

Anthropic отключили для Claude доступ к интернету во всех внутренних тестах после взлома сервера университета и отправки полиции выдуманной наводку по делу об убийстве. В первом случае Claude не смог выполнить научный расчёт, поэтому нашёл уязвимость на сервере и запустил нужные команды. Во втором наткнулся на сайт полиции Филадельфии и отправил сообщение о якобы замеченном подозреваемом. Его сразу отсеяли как спам. Ущерб оказался минимальным, но Anthropic пока решили проводить тесты без откры...

  • 94
  • 21
  • 6
  • 5
И Грянул Грэм@gremtelegramПолитика и властьвчера
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

🤖ИИ-модель Anthropic предоставила полиции Филадельфии ложную информацию по делу об убийстве Полиция Филадельфии получила от ИИ-агента Anthropic ложную зацепку по нераскрытому делу об убийстве. Сообщение поступило 18 июля через сайт PhillyUnsolvedMurders.com, где пользователи могут делиться информацией о нераскрытых преступлениях. По данным полиции, Anthropic обнаружила инцидент 28 сентября, но уведомила правоохранительные органы только 7 октября. После этого представители компании встретилис...

  • 151
  • 59
  • 41
  • 32
  • 18
  • 6
Медуза — все новости@meduza_newsНовости и СМИ10 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств @meduza_news Открыть сайт | зеркало | телеграм ↓ Meduza ИИ-модель Anthropic передала полиции Филадельфии ложное сообщение о нераскрытом убийстве

The Insider@theinsiderНовости и СМИ10 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Ложную наводку по делу об убийстве отправила в полицию ИИ-модель Anthropic Компания Anthropic опубликовала доклад о ранее не раскрытых случаях, когда её модель Claude совершала непредусмотренные действия в системах сторонних организаций, пишет Bloomberg. В частности, ИИ отправил ложную наводку в полицию по делу об убийстве. После этого администрация Трампа призвала разработчиков ИИ обеспечить безопасность своих систем. В докладе выделены четыре типа нежелательного поведения, среди них использо...

  • 92
  • 42
  • 27
  • 15
  • 11
  • 4
IG project - Отель Хазбин | Адский Босс и др.@dreamgroupeЮмор и развлечения8 октября 2026
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве
  • Фото поста канала IG project - Отель Хазбин | Адский Босс и др.

А что, если бы Страйкер смог убить Столаса в 5 серии 1 сезона? Смогли бы его разоблачить?🤠 Автор SilentZound 💙IG project | #арт

  • 1.2К
  • 54
TON LIVE (альт.) @tonliveТехнологии и ITвчера
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

🤖 Anthropic отключила моделям Claude доступ к живому интернету во внутренних тестах после серии инцидентов — ИИ обходил ограничения, использовал найденные токены и уязвимости, а в одном случае даже отправил в полицию выдуманную наводку.