Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ

В карбюраторе конденсат 🇷🇺@carbdensatПолитика и власть20 ноября 2026, 03:40
  • Фото поста канала  В карбюраторе конденсат 🇷🇺

Медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ. Нейросеть Moremi Bio от ганской MinoHealth AI Labs после отключения защиты сгенерировала 1020 потенциально опасных белков и 5000 небольших молекул, часть которых напоминает яд рицин. По словам основателя компании Дарлингтон Акого, на обход защиты в рамках компьютерного эксперимента 2024 года ушло всего несколько дней. При этом сами вещества не создавались. Теоретически эти формулы можно заказать у поставщиков синтетической ДНК, поэтому в июне главы OpenAI, Anthropic и Google DeepMind призвали власти США сделать проверку таких заказов обязательной. Глава компании MinoHealth AI Labs предложил ООН создать рабочую группу по рискам создания биооружия с помощью ИИ.

Похожие посты

Кровавая барыня@bloodysxНовости и СМИвчера
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ
  • Фото поста канала Кровавая барыня

Нейросеть спроектировала тысячи потенциальных ядов после отключения защиты. Исследователи из ганской компании MinoHealth AI Labs отключили ограничения у собственной медицинской нейросети Moremi Bio и попросили её разработать токсины. В результате ИИ предложил 1020 вариантов белков и 5000 небольших молекул. Программа для оценки токсичности определила все разработки как потенциально опасные. Некоторые из них напоминали один из самых смертоносных растительных ядов рицин. Эксперимент провели ещё в...

Банкста@bankstaЭкономика и бизнесвчера
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ

Медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ. Нейросеть Moremi Bio от ганской MinoHealth AI Labs после отключения защиты сгенерировала 1020 потенциально опасных белков и 5000 небольших молекул, часть которых напоминает яд рицин. По словам основателя компании Дарлингтон Акого, на обход защиты в рамках компьютерного эксперимента 2024 года ушло всего несколько дней. При этом сами вещества не создавались. Теоретически эти формулы можно заказать у пос...

Несерьезный МИД@NE_MIDaЮмор и развлечениявчера
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ

Плохие новости: медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ Нейросеть Moremi Bio (Гана) обошла свою защиту за несколько дней и сгенерировала 1020 опасных белков и 5000 молекул (часть похожа на рицин). Вещества не создавались, но формулы теоретически можно заказать у поставщиков синтетической ДНК. Глава компании призвал ООН создать рабочую группу по рискам биооружия с помощью ИИ. Ранее OpenAI, Anthropic и Google DeepMind просили власти США ввест...

  • 20
  • 7
  • 5
  • 1