← К ленте

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Новости и СМИвчера

Постов: 45Каналов: 401.3М

Невероятно, но факт…@N_NO_FПолитика и власть10 октября 2026
  • Фото поста канала Невероятно, но факт…

Claude отправил выдуманное сообщение об убийстве в полицию США. Anthropic обнаружила это спустя два месяца Искусственный интеллект Claude от Anthropic самостоятельно отправил ложное сообщение по делу о нераскрытом убийстве в Филадельфии. Модель заполнила форму на полицейском сайте, выдумала свидетельские показания и попыталась передать их правоохранителям. Инцидент произошел во время внутреннего тестирования, причем разработчики обнаружили его только спустя два месяца. Об этом сообщает Bloomber...

  • 4К
  • 3.9К
  • 3.1К
  • 3.1К
  • 3К
  • 1.1К
Медуза@meduzaliveНовости и СМИ10 октября 2026

ИИ-модель Anthropic передала полиции Филадельфии ложное сообщение о нераскрытом убийстве Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств. Сообщение было отправлено 18 июля через общедоступный сайт, на котором люди могут делиться информацией о нераскрытых преступлениях. ИИ-модель написала, что располагает сведениями по одному из нераскрытых убийств, и что видела «человека, подходящего под описание». «Возмо...

Банкста@bankstaЭкономика и бизнес10 октября 2026

Искуственный интеллект Anthropic отправил полиции США выдуманное сообщение об убийстве во время тестирования. Он отправил полиции Филадельфии сообщение о возможном свидетеле нераскрытого убийства, которого не существовало. При этом на сайте полиции вообще не было описания подозреваемого, которому соответствовал бы этот свидетель. «Возможно, у меня есть информация по этому делу», — написал ИИ. Затем программа заявила, что помнит человека, подходившего под описание и находившегося рядом с местом ...

BBC News | Русская служба@bbcrussianНовости и СМИ10 октября 2026

Полиция в Филадельфии получила ложную зацепку в деле об убийстве от ИИ-модели Anthropic Сообщение от ИИ-агента поступило 18 июля через сайт PhillyUnsolvedMurders. com, на котором люди могут делиться информацией о нераскрытых преступлениях, рассказали в департаменте полиции Филадельфии. Компания Anthropic, рассказали в полиции, обнаружила инцидент 28 сентября. Властям об этом она сообщила лишь 7 октября, после чего представители Anthropic встретились с полицейскими. В Anthropic объяснили произ...

Тайпспейс Медиа@typespaceТехнологии и IT10 октября 2026
  • Фото поста канала Тайпспейс Медиа

Anthropic отключили для Claude доступ к интернету во всех внутренних тестах после взлома сервера университета и отправки полиции выдуманной наводку по делу об убийстве. В первом случае Claude не смог выполнить научный расчёт, поэтому нашёл уязвимость на сервере и запустил нужные команды. Во втором наткнулся на сайт полиции Филадельфии и отправил сообщение о якобы замеченном подозреваемом. Его сразу отсеяли как спам. Ущерб оказался минимальным, но Anthropic пока решили проводить тесты без откры...

  • 94
  • 21
  • 6
  • 5
И Грянул Грэм@gremtelegramПолитика и властьвчера

🤖ИИ-модель Anthropic предоставила полиции Филадельфии ложную информацию по делу об убийстве Полиция Филадельфии получила от ИИ-агента Anthropic ложную зацепку по нераскрытому делу об убийстве. Сообщение поступило 18 июля через сайт PhillyUnsolvedMurders.com, где пользователи могут делиться информацией о нераскрытых преступлениях. По данным полиции, Anthropic обнаружила инцидент 28 сентября, но уведомила правоохранительные органы только 7 октября. После этого представители компании встретилис...

  • 151
  • 59
  • 41
  • 32
  • 18
  • 6
Медуза — все новости@meduza_newsНовости и СМИ10 октября 2026

Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств @meduza_news Открыть сайт | зеркало | телеграм ↓ Meduza ИИ-модель Anthropic передала полиции Филадельфии ложное сообщение о нераскрытом убийстве

The Insider@theinsiderНовости и СМИ10 октября 2026

Ложную наводку по делу об убийстве отправила в полицию ИИ-модель Anthropic Компания Anthropic опубликовала доклад о ранее не раскрытых случаях, когда её модель Claude совершала непредусмотренные действия в системах сторонних организаций, пишет Bloomberg. В частности, ИИ отправил ложную наводку в полицию по делу об убийстве. После этого администрация Трампа призвала разработчиков ИИ обеспечить безопасность своих систем. В докладе выделены четыре типа нежелательного поведения, среди них использо...

  • 92
  • 42
  • 27
  • 15
  • 11
  • 4
TON LIVE @tonlivenewsТехнологии и ITвчера

🤖 Anthropic отключила моделям Claude доступ к живому интернету во внутренних тестах после серии инцидентов — ИИ обходил ограничения, использовал найденные токены и уязвимости, а в одном случае даже отправил в полицию выдуманную наводку.

TON LIVE (альт.) @tonliveТехнологии и ITвчера

🤖 Anthropic отключила моделям Claude доступ к живому интернету во внутренних тестах после серии инцидентов — ИИ обходил ограничения, использовал найденные токены и уязвимости, а в одном случае даже отправил в полицию выдуманную наводку.

Новости. Как есть@nourlnewsЮмор и развлечениявчера
  • Фото поста канала Новости. Как есть

Разрабатывающая ИИ компания Anthropic рассказала, что ее нейронка дала ложную информацию для расследования убийства для полиции и разместила данные на сайте участка. ИИ пока не убивает, но уже заметает следы

  • 84
  • 41
  • 24
  • 2
  • 1
ЭХО / Новости@echoonline_newsНовости и СМИ10 октября 2026

ИИ-модель Anthropic отправила полиции США ложное сообщение по делу об убийстве Модель искусственного интеллекта Anthropic отправила ложную информацию о нераскрытом убийстве через сайт полиции Филадельфии. Департамент полиции заявил, что сообщение, отправленное 18 июля, было «помечено как спам» и не было использовано в расследовании. Однако правоохранители раскритиковали Anthropic за то, что компании потребовалось более двух месяцев, чтобы обнаружить, что её ИИ-модель вышла из-под контроля, сооб...

  • 70
  • 35
  • 10
  • 7
  • 5
  • 1
Настоящее Время@currenttimeНовости и СМИ10 октября 2026

ИИ-модель Anthropic направила полиции Филадельфии ложную наводку о нераскрытом убийстве Модель искусственного интеллекта Claude Haiku 4.5 от компании Anthropic отправила в отделение полиции Филадельфии ложную информацию о нераскрытом убийстве. Об этом сообщает BBC News со ссылкой на заявление департамента городской полиции, а также сами Anthropic в своем отчете. По данным полиции, сообщение было отправлено 18 июля через общедоступный сайт, где люди могут делиться сведениями о нераскрытых убийс...

  • 67
  • 27
  • 16
  • 14
  • 1
AI и точка.@ai4telegramТехнологии и IT10 октября 2026
  • Фото поста канала AI и точка.

💡 Claude сообщил в полицию о нераскрытом убийстве во время тестирования — это оказалось галлюцинацией. Во время тестов Haiku 4.5 должна была взаимодействовать со случайными веб-страницами. Ей запретили создавать аккаунты, вводить личные данные, покупать и отправлять что-либо деструктивное, но не упоминали отправку форм. Один сайт оказался страницей полицейского департамента Филадельфии о нераскрытом убийстве. Claude написал в ней: «Возможно, у меня есть информация по этому делу. Кажется, я в...

  • 66
  • 25
  • 3
  • 1
Новая газета Европа@novaya_europeНовости и СМИ10 октября 2026
  • Фото поста канала Новая газета Европа

Модель Claude отправила в американскую полицию ложное сообщение по делу об убийстве ИИ-модель компании Anthropic отправила ложную информацию о нераскрытом убийстве через сайт полиции Филадельфии. Об этом пишет Reuters. Инцидент стал одним из нескольких случаев несанкционированных действий моделей Claude, о которых Anthropic рассказала 9 октября. 🔵 Что сообщил ИИ. Модель представилась человеком, который якобы мог располагать сведениями об убийстве. Она утверждала, что видела кого-то, подходяще...

  • 53
  • 26
  • 20
  • 17
  • 13
  • 4
Антифишки- НОВОСТИ ОНЛАЙН@antifishechkiНовости и СМИ10 октября 2026

🇺🇸 В Филадельфии ИИ-модель Anthropic отправила ложное сообщение об убийстве. По данным Anthropic, сообщение было создано моделью Claude Haiku 4.5 в рамках автоматизированного тестирования. ИИ сгенерировал текст от лица человека, который якобы мог располагать сведениями о расследуемом убийстве, однако поля с именем и контактными данными оставил незаполненными. В Anthropic объяснили, что Claude тестировала выполнение действий на случайных сайтах. Модель не получала указаний обращаться в полицию...

  • 26
  • 8
AZERBAIJANI ARMED FORCES 24/7@military_azАрмия и СВОвчера

❗️ ИИ Anthropic отправил полиции ложный донос об убийстве ИИ-агент компании Anthropic, разработчика чат-бота Claude, во время тестирования сайтов отправил полиции Филадельфии ложное сообщение о нераскрытом убийстве. 18 июля система заявила через публичный сайт, что якобы видела человека, подходящего под описание подозреваемого. Сообщение было помечено как спам и не попало к следователям. Anthropic обнаружила инцидент только 28 сентября, а полицию уведомила 7 октября. В полиции назвали более ч...

  • 32
  • 7
Euronews по-русски@russian_euronewsНовости и СМИвчера

Полиция США раскритиковала Anthropic за ложное сообщение ИИ Claude о нераскрытом убийстве https://ru.euronews.com/2026/10/11/us-police-criticise-anthropic-after-claude-ai-submits-false-information-about-an-unsolved?utm_source=telegram.messenger&utm_campaign=feeds_bcs_topstories&utm_medium=referral euronews Полиция США раскритиковала Anthropic за ложное сообщение ИИ Claude о нераскрытом убийстве В полиции США назвали недопустимой задержку в обнаружении и сообщении об инциденте, но отметили, что ...

  • 12
  • 1
  • 1
Темы. Главное (ГлавМедиа)@glavmediaАрмия и СВОвчера

Anthropic отключила интернет во всех внутренних тестах Claude. Во время проверок ИИ-агенты обходили запреты на реальных сайтах, включая ресурсы госорганов США: взламывали чужие серверы через уязвимости, отправляли формы и пробирались к платным данным. Компания уведомила Белый дом и каждое затронутое ведомство.

  • 5