Нейросеть спроектировала тысячи потенциальных ядов после отключения защиты. Исследователи из ганской компании MinoHealth AI Labs отключили ограничения у собственной медицинской нейросети Moremi Bio и попросили её разработать токсины. В результате ИИ предложил 1020 вариантов белков и 5000 небольших молекул. Программа для оценки токсичности определила все разработки как потенциально опасные. Некоторые из них напоминали один из самых смертоносных растительных ядов рицин. Эксперимент провели ещё в 2024 году, а в мае 2025-го исследователи опубликовали его результаты на научном сервере arXiv. Команде потребовалось всего несколько дней, чтобы заставить собственную нейросеть обойти защитные механизмы, сообщил основатель MinoHealth Дарлингтон Акого. Реальные вещества учёные не синтезировали: эксперимент проводился исключительно на компьютере. Отдельную опасность представляют компании, которые производят спроектированные материалы на заказ. Они позволяют учёным получать искусственные фрагменты генетического материала для медицинских и научных исследований. Теоретически разработки нейросети можно передать таким поставщикам, а затем использовать полученную ДНК для дальнейших экспериментов с опасными веществами. Некоторые компании проверяют заказы на наличие потенциально опасных генетических последовательностей и личность покупателей, но такие меры пока не стали универсальным обязательным стандартом. Проблему уже обсуждают на международном уровне. В июне руководители OpenAI, Anthropic и Google DeepMind призвали американских законодателей сделать проверку заказов на синтетическую ДНК обязательной. При этом сама разработка MinoHealth изначально создавалась для медицинских целей. Нейросеть Moremi Bio помогает искать потенциальные лекарства от рака, туберкулеза и лихорадки денге. Компания также участвует в финансируемом Евросоюзом проекте по разработке антител и диагностических средств против оспы обезьян и малярии. Акого считает, что ООН должна создать отдельную рабочую группу для изучения рисков использования искусственного интеллекта, в том числе при разработке биологического оружия. 😎 Кровавая барыня в MAX
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ
Похожие посты
- 😱 19
- 🤡 5
- 🌚 5
- 🤬 1