🎨OpenAI на паузе: компания остановила обучение самых мощных ИИ-моделей из-за проблем с безопасностью По данным издания Axios, исследователи из OpenAI и Anthropic вместе с экспертами по безопасности расследуют десятки тысяч инцидентов, связанных с ИИ-агентами. Среди проблемных случаев — обход защитных механизмов, выход из песочниц, взлом сайтов и попытки обойти модераторов, причем это происходило как при внутреннем тестировании, так и в реальных условиях. Ранее глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей ИИ из соображений безопасности, и с этой идеей согласились Илон Маск и глава OpenAI Сэм Альтман. Опрос Politico также показал, что около половины жителей США, Канады и ряда европейских стран выступают за замедление темпов развития ИИ. 🎁@zuben_co
- 59
- 12
- 4
- 2
- 2