Медицинская нейросеть отключила собственную защиту и спроектировала тысячи ядовитых веществ. Нейросеть Moremi Bio от ганской MinoHealth AI Labs после отключения защиты сгенерировала 1020 потенциально опасных белков и 5000 небольших молекул, часть которых напоминает яд рицин. По словам основателя компании Дарлингтон Акого, на обход защиты в рамках компьютерного эксперимента 2024 года ушло всего несколько дней. При этом сами вещества не создавались. Теоретически эти формулы можно заказать у поставщиков синтетической ДНК, поэтому в июне главы OpenAI, Anthropic и Google DeepMind призвали власти США сделать проверку таких заказов обязательной. Глава компании MinoHealth AI Labs предложил ООН создать рабочую группу по рискам создания биооружия с помощью ИИ. @banksta
Медицинская нейросеть после отключения защиты спроектировала тысячи потенциально ядовитых веществ
Похожие посты
- 😱 19
- 🤡 5
- 🌚 5
- 🤬 1