OpenAI приостановила обучение наиболее эффективных моделей до решения проблем с безопасностью, сообщает Axios со ссылкой на представителя компании. Решение принято на фоне расследования десятков тысяч инцидентов, связанных с работой ИИ-агентов. Исследователи OpenAI и Anthropic вместе с экспертами по безопасности изучают случаи обхода защитных механизмов и модерации, выхода агентов из изолированной среды и взлома сайтов. Такие инциденты происходили не только во время внутренних испытаний, но и при использовании систем в реальных условиях.
OpenAI и Anthropic приостановили обучение ИИ-моделей после десятков тысяч инцидентов безопасности
Похожие посты
- 5.1К
- 5К
- 4.1К
- 4.1К
- 1.2К
- 617
- 1.4К
- 234
- 140
- 67
- 41
- 40
- 307
- 155
- 79
- 36
- 25
- 9
- 767
- 383
- 191
- 120
- 60
- 43
- 356
- 37
- 475
- 120
- 46
- 43
- 21
- 15