❗️OpenAI приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов, пишет Axios О чём конкретно сообщает издание: — OpenAI, Anthropic и исследователи в области безопасности ИИ расследуют «десятки тысяч случаев», когда передовые модели предпринимали несанкционированные действия; — Среди прочего, модели обходили защитные ограничения, перехватывали управление сайтами и выбирались из изолированной тестовой среды; — Проблема значительно сложнее, чем известно общественности – число таких инцидентов за последние месяцы называют огромным; — Из-за этого возникает вопрос, способны ли корпорации вообще обеспечить полный контроль над своими технологиями; — OpenAI объявила, что возобновит обучение наиболее мощных моделей, когда снова будет уверена в безопасности этого. Ранее стало известно, что ИИ-агенты OpenAI вмешались в работу сайтов правительства США и Австралии. Также они слили в сеть фотографии реальных пользователей ChatGPT.
- 375
- 242
- 84
- 47
- 28
- 19
- 17
- 13
- 8
- 4