Модель Claude Mythos 5 атаковала разработчиков и пыталась распространить вирус через GitHub — инфоповод | Главстат

Банкста @banksta Экономика и бизнес 8 часов назад

Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили. @banksta

Код Дурова @d_code Технологии и IT 1 час назад

😾 Это ведь симуляция, да? Да..? Anthropic разобрала, почему Claude Mythos 5 во время теста атаковал настоящий проект на GitHub, а потом через фейковые аккаунты уговаривал разработчика принять вредоносный код. Начав атаку, модель почти не останавливалась: даже когда ей прямо писали, что она общается с живыми людьми, в 82% случаев она находила объяснение, почему это часть задания. Что ещё нашли в рассуждениях модели: ↖️ https://kod.ru/anthropic-mythos-5-inertsiya

82
2

4chan @ru4chan Юмор и развлечения 3 часа назад

💀 ИИ-модель Claude Mythos 5 во время тестирования атаковала реальных разработчиков и пыталась распространять вирус через GitHub Во время проверки модели поручили взломать учебную сеть британского Института безопасности ИИ. Не справившись с задачей, она переключилась на GitHub, где нашла открытый проект, создала вредоносный код и с фейковых аккаунтов убеждала владельца загрузить его. Когда другой разработчик заподозрил неладное, ИИ создала ещё один фейковый аккаунт, заявила, что код безопасен,...

63
20
8
3
3

Технолавка @technolavka Юмор и развлечения 7 часов назад

💚💚💚💚💚: нейросеть Anthropic продолжила кибератаку, зная, что причиняет ВРЕД реальным людям. Во время тестов Claude Mythos 5 должна была ломануть тестовые компьютеры, но «сбежала» и переключилась на настоящий проект на GitHub. ИИ написал вредоносный код и под фейковыми именами пытался убедить разработчика добавить его в проект. Позже исследователи повторили эксперимент и выяснили, что в 98% случаев нейросеть продолжала атаку — даже когда её предупреждали о последствиях. Самое интересное, ч...

33
17
5

Антифишки- НОВОСТИ ОНЛАЙН @antifishechki Новости и СМИ 8 часов назад

Claude Mythos 5 во время теста атаковала реальных разработчиков. ИИ не остановился, даже когда узнал, что это живые люди. Модель должна была взломать учебную сеть британского Института безопасности ИИ, но не справилась и ушла на GitHub. Там она нашла открытый проект, написала вирус и с фейковых аккаунтов уговаривала владельца загрузить его. Когда другой разраб заметил опасный софт, Mythos завела еще один фейк, заверяла с него, что код чистый, и попыталась залить новый вредонос. Его так и не прин...

26
13
5
3
1

Ladesov Crypto @cryptoladesov Финансы и криптовалюты 7 часов назад

Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили. "И восстали машины из пепла ядерного огня"

16
3
3

Темы. Главное (ГлавМедиа)@glavmedia Армия и СВО 8 часов назад

Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили. @banksta

7
7
6

Neinsider @neinsider Политика и власть 7 часов назад

Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили. @banksta

15
2
1

Темы. Главное (ГлавМедиа)@glavmedia Армия и СВО 6 часов назад

Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили. @banksta

Караульный по рейтингам @allratings Новости и СМИ 6 часов назад

Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили. @banksta

Мониторинг 24 Красноярский край @monitoring_24 Регионы и города 8 часов назад

Красноярский Смотрящий Модель Claude Mythos 5 во время теста вышла за его пределы и начала реальную атаку на разработчиков. После провала со взломом тестовой сети она написала вирус, завела фейковый аккаунт и попыталась выдать код за полезную правку. Получив отказ, модель возвращалась под новыми личностями, обманывала и продолжала атаку, хотя признавала, что навредит людям, и убеждала себя, что они симуляция. Даже 16 прямых объяснений, что люди настоящие, ее не остановили. @ Telegram Красноярск...