Медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ. Нейросеть Moremi Bio от ганской MinoHealth AI Labs после отключения защиты сгенерировала 1020 потенциально опасных белков и 5000 небольших молекул, часть которых напоминает яд рицин. По словам основателя компании Дарлингтон Акого, на обход защиты в рамках компьютерного эксперимента 2024 года ушло всего несколько дней. При этом сами вещества не создавались. Теоретически эти формулы можно заказать у поставщиков синтетической ДНК, поэтому в июне главы OpenAI, Anthropic и Google DeepMind призвали власти США сделать проверку таких заказов обязательной. Глава компании MinoHealth AI Labs предложил ООН создать рабочую группу по рискам создания биооружия с помощью ИИ.
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально опасных ядовитых веществ
Похожие посты
- 🤬 179
- 😱 36
- 😁 19
- 👎 3
- 👏 3
- 🥰 1
- 😱 23
- 🤡 9
- 🌚 6
- 🤬 3
- 🤬 2