ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Новости. Как есть @nourlnews Юмор и развлечения11 октября 2026, 12:03

Разрабатывающая ИИ компания Anthropic рассказала, что ее нейронка дала ложную информацию для расследования убийства для полиции и разместила данные на сайте участка. ИИ пока не убивает, но уже заметает следы

84
41
24
2
1

Похожие посты

Невероятно, но факт…@N_NO_F Политика и власть 10 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Claude отправил выдуманное сообщение об убийстве в полицию США. Anthropic обнаружила это спустя два месяца Искусственный интеллект Claude от Anthropic самостоятельно отправил ложное сообщение по делу о нераскрытом убийстве в Филадельфии. Модель заполнила форму на полицейском сайте, выдумала свидетельские показания и попыталась передать их правоохранителям. Инцидент произошел во время внутреннего тестирования, причем разработчики обнаружили его только спустя два месяца. Об этом сообщает Bloomber...

4К
3.9К
3.1К
3.1К
3К
1.1К

Медуза @meduzalive Новости и СМИ 10 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

ИИ-модель Anthropic передала полиции Филадельфии ложное сообщение о нераскрытом убийстве Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств. Сообщение было отправлено 18 июля через общедоступный сайт, на котором люди могут делиться информацией о нераскрытых преступлениях. ИИ-модель написала, что располагает сведениями по одному из нераскрытых убийств, и что видела «человека, подходящего под описание». «Возмо...

Банкста @banksta Экономика и бизнес 10 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Искуственный интеллект Anthropic отправил полиции США выдуманное сообщение об убийстве во время тестирования. Он отправил полиции Филадельфии сообщение о возможном свидетеле нераскрытого убийства, которого не существовало. При этом на сайте полиции вообще не было описания подозреваемого, которому соответствовал бы этот свидетель. «Возможно, у меня есть информация по этому делу», — написал ИИ. Затем программа заявила, что помнит человека, подходившего под описание и находившегося рядом с местом ...

BBC News | Русская служба @bbcrussian Новости и СМИ 10 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Полиция в Филадельфии получила ложную зацепку в деле об убийстве от ИИ-модели Anthropic Сообщение от ИИ-агента поступило 18 июля через сайт PhillyUnsolvedMurders. com, на котором люди могут делиться информацией о нераскрытых преступлениях, рассказали в департаменте полиции Филадельфии. Компания Anthropic, рассказали в полиции, обнаружила инцидент 28 сентября. Властям об этом она сообщила лишь 7 октября, после чего представители Anthropic встретились с полицейскими. В Anthropic объяснили произ...

Тайпспейс Медиа @typespace Технологии и IT 10 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Anthropic отключили для Claude доступ к интернету во всех внутренних тестах после взлома сервера университета и отправки полиции выдуманной наводку по делу об убийстве. В первом случае Claude не смог выполнить научный расчёт, поэтому нашёл уязвимость на сервере и запустил нужные команды. Во втором наткнулся на сайт полиции Филадельфии и отправил сообщение о якобы замеченном подозреваемом. Его сразу отсеяли как спам. Ущерб оказался минимальным, но Anthropic пока решили проводить тесты без откры...

94
21
6
5

И Грянул Грэм @gremtelegram Политика и власть вчера

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

🤖ИИ-модель Anthropic предоставила полиции Филадельфии ложную информацию по делу об убийстве Полиция Филадельфии получила от ИИ-агента Anthropic ложную зацепку по нераскрытому делу об убийстве. Сообщение поступило 18 июля через сайт PhillyUnsolvedMurders.com, где пользователи могут делиться информацией о нераскрытых преступлениях. По данным полиции, Anthropic обнаружила инцидент 28 сентября, но уведомила правоохранительные органы только 7 октября. После этого представители компании встретилис...

153
59
41
32
18
6

Медуза — все новости @meduza_news Новости и СМИ 10 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств @meduza_news Открыть сайт | зеркало | телеграм ↓ Meduza ИИ-модель Anthropic передала полиции Филадельфии ложное сообщение о нераскрытом убийстве

The Insider @theinsider Новости и СМИ 10 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

Ложную наводку по делу об убийстве отправила в полицию ИИ-модель Anthropic Компания Anthropic опубликовала доклад о ранее не раскрытых случаях, когда её модель Claude совершала непредусмотренные действия в системах сторонних организаций, пишет Bloomberg. В частности, ИИ отправил ложную наводку в полицию по делу об убийстве. После этого администрация Трампа призвала разработчиков ИИ обеспечить безопасность своих систем. В докладе выделены четыре типа нежелательного поведения, среди них использо...

93
42
27
15
11
4

IG project - Отель Хазбин | Адский Босс и др.@dreamgroupe Юмор и развлечения 8 октября 2026

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

А что, если бы Страйкер смог убить Столаса в 5 серии 1 сезона? Смогли бы его разоблачить?🤠 Автор SilentZound 💙IG project | #арт

1.2К
54

TON LIVE (альт.) @tonlive Технологии и IT вчера

ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве

🤖 Anthropic отключила моделям Claude доступ к живому интернету во внутренних тестах после серии инцидентов — ИИ обходил ограничения, использовал найденные токены и уязвимости, а в одном случае даже отправил в полицию выдуманную наводку.