← К ленте

Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

BBC News | Русская служба@bbcrussianНовости и СМИ30 сентября 2026, 10:58

Китайский разработчик искусственного интеллекта Moonshot проводит внутреннюю проверку после того, как исследователям из компании Mindgard, занимающейся тестированием безопасности ИИ-систем, удалось заставить две популярные модели Kimi предоставить информацию о создании биологического оружия и способах совершения убийств. В Mindgard Би-би-си сообщили, что еще в июле ее специалисты обнаружили возможность обходить ограничения безопасности в моделях Kimi K2.6 и K3 Swarm. Уязвимость была выявлена в ходе так называемого «джейлбрейкинга» — тестирования, при котором исследователи с помощью серии сложных инструкций пытаются заставить ИИ игнорировать установленные разработчиками ограничения. По словам представителей Mindgard, защитные механизмы должны были не позволить Kimi обсуждать потенциально опасные темы. 🔗 Подробнее читайте на нашем сайте. 🔗 Сайт без VPN | YouTube | Рассылка | Новое приложение BBC World Service BBC News Русская служба При проверке китайской модели ИИ на безопасность она рассказала исследователям, как создавать биологическое оружие Китайский разработчик искусственного интеллекта Moonshot проводит внутреннюю проверку после того, как исследователям из компании Mindgard, занимающейся тестированием безопасности ИИ-систем, удалось заставить две популярные модели Kimi предоставить информацию…

Похожие посты

Раньше всех. Ну почти@bbbreakingНовости и СМИвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

❗️Исследователям удалось убедить две ИИ-модели Kimi китайской компании Moonshot рассказать, как создать биологическое оружие и совершить убийство. После этого компания начала внутреннюю проверку, об этом рассказали «Би-би-си» эксперты компании Mindgard, проводившей тесты ИИ-агента. По словам экспертов Mindgard, в июле ИИ-модели Kimi K2.6 и K3 Swarm обошли установленные разработчиками ограничения безопасности. Это обнаружилось во время процесса, известного как «джейлбрейк» (jailbreaking, снятие ...

Банкста@bankstaЭкономика и бизнес11 часов назад
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

Китайский ИИ-стартап Moonshot AI начал проверку после того, как специалисты по безопасности обнаружили, что две его модели смогли обойти встроенные защитные барьеры и выдать инструкции по созданию биологического оружия и организации заказных убийств. Компания Mindgard, которая базируется в Великобритании и занимается тестированием систем искусственного интеллекта, в июле обнаружила, что две модели Moonshot – Kimi K2.6 и K3 Swarm – могут обходить предписанные меры предосторожности. @banksta

НМШ @nmshhubПроисшествиявчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия
  • Фото поста канала НМШ

⚡️ИИ-модели Kimi обошли защиту и рассказали, как создать биооружие и совершить убийство Исследователи Mindgard провели джейлбрейк двух моделей Moonshot – Kimi K2.6 и K3 Swarm. В июле они получили инструкции по биооружию и убийству. Компания начала внутреннюю проверку. 🤡 – п*здец ❌ НМШ

  • 451
  • 13
  • 12
  • 3
Китай - Николай Вавилов@shuohuaxiaЭкономика и бизнесвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

Исследователям удалось убедить две ИИ-модели Kimi китайской компании Moonshot рассказать, как создать биологическое оружие и совершить убийство. После этого компания начала внутреннюю проверку, об этом рассказали «Би-би-си» эксперты компании Mindgard, проводившей тесты ИИ-агента. По словам экспертов Mindgard, в июле ИИ-модели Kimi K2.6 и K3 Swarm обошли установленные разработчиками ограничения безопасности. Это обнаружилось во время процесса, известного как «джейлбрейк» (jailbreaking, снятие пр...

  • 97
  • 22
  • 13
  • 9
  • 7
  • 5
MountShow@mountshowПолитика и властьвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

❗️Исследователям удалось убедить две ИИ-модели Kimi китайской компании Moonshot рассказать, как создать биологическое оружие и совершить убийство. После этого компания начала внутреннюю проверку, об этом рассказали «Би-би-си» эксперты компании Mindgard, проводившей тесты ИИ-агента. По словам экспертов Mindgard, в июле ИИ-модели Kimi K2.6 и K3 Swarm обошли установленные разработчиками ограничения безопасности. Это обнаружилось во время процесса, известного как «джейлбрейк» (jailbreaking, снятие ...

  • 168
  • 40
  • 13
  • 5
  • 1
  • 1
Баграмян 26@bagramyan26Политика и властьвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

❗️Исследователи британской компании в сфере кибербезопасности ИИ «Mindgard» провели тестирование безопасности ИИ китайского разработчика «Moonshot», в результате которого удалось заставить две популярные модели «Kimi K2.6» и «Kimi K3 Swarm» предоставить инструкцию для создания биологического оружия и способы совершения убийств. Уязвимость была выявлена в ходе т.н. «джейлбрейкинга» — тестирования, при котором исследователи с помощью серии сложных инструкций пытаются заставить ИИ игнорировать уст...

  • 38
  • 13
  • 8
  • 4
ВестиFM+@vestifmplusНовости и СМИвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

О том, как нейросеть рассказала о способе производства биологического оружия и какие выводы из этого сделали эксперты, – в материале корреспондента «Вестей ФМ» Марии Глазуновой. https://dzen.ru/a/ar0Xb30dgGH4bAxQ Наш канал в MAX

  • 4
  • 2
Континенталист@cont_wsПолитика и властьвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

Эксперты Mindgard, тестировавшей ИИ-агента, рассказали «Би-би-си»: исследователи убедили две ИИ-модели Kimi китайской Moonshot рассказать, как создать биологическое оружие и совершить убийство. Компания начала внутреннюю проверку. В июле модели Kimi K2.6 и K3 Swarm обошли ограничения безопасности разработчиков в ходе «джейлбрейка», сообщили эксперты. Проверялось, игнорирует ли ИИ защиту от выдачи потенциально опасной информации; её удалось получить. #ИИ #технологии #безопасность Континенталист...

rbc@news_rbk_rbc_pbk_novostiНовости и СМИвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия

Модели Moonshot AI рассказали тестировщикам, как создать биологическое оружие и осуществить заказное убийство Читать 🏷Технологии и медиа, 30/09/2026 22:28⏱️ #искусственный_интеллект #Китай #убийство #тестирование

  • 1
RSS лента РБК@rbcrssНовости и СМИвчера
Компания Moonshot проводит проверку после того, как модели ИИ предоставили информацию о создании биологического оружия
  • Фото поста канала RSS лента РБК

Китайские ИИ-модели научились создавать биооружие и планировать покушения www.rbc.ru ИИ-алгоритмы китайской компании Moonshot в ходе проверки безопасности предоставили тестировщикам инструкции по разработке биологического оружия и подготовке покушений.