Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ

Несерьезный МИД@NE_MIDaЮмор и развлечения19 ноября 2026, 20:01

Плохие новости: медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ Нейросеть Moremi Bio (Гана) обошла свою защиту за несколько дней и сгенерировала 1020 опасных белков и 5000 молекул (часть похожа на рицин). Вещества не создавались, но формулы теоретически можно заказать у поставщиков синтетической ДНК. Глава компании призвал ООН создать рабочую группу по рискам биооружия с помощью ИИ. Ранее OpenAI, Anthropic и Google DeepMind просили власти США ввести обязательную проверку таких заказов. @NE_MIDa

  • 19
  • 5
  • 5
  • 1

Похожие посты

Кровавая барыня@bloodysxНовости и СМИвчера
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ
  • Фото поста канала Кровавая барыня

Нейросеть спроектировала тысячи потенциальных ядов после отключения защиты. Исследователи из ганской компании MinoHealth AI Labs отключили ограничения у собственной медицинской нейросети Moremi Bio и попросили её разработать токсины. В результате ИИ предложил 1020 вариантов белков и 5000 небольших молекул. Программа для оценки токсичности определила все разработки как потенциально опасные. Некоторые из них напоминали один из самых смертоносных растительных ядов рицин. Эксперимент провели ещё в...

Банкста@bankstaЭкономика и бизнесвчера
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ

Медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ. Нейросеть Moremi Bio от ганской MinoHealth AI Labs после отключения защиты сгенерировала 1020 потенциально опасных белков и 5000 небольших молекул, часть которых напоминает яд рицин. По словам основателя компании Дарлингтон Акого, на обход защиты в рамках компьютерного эксперимента 2024 года ушло всего несколько дней. При этом сами вещества не создавались. Теоретически эти формулы можно заказать у пос...