Глава OpenAI Сэм Альтман признал, что компания не раскрывает всю информацию о случаях, когда ИИ-модели начинали действовать за пределами поставленных им задач. В интервью Politico Альтман заявил, что подобных эпизодов уже достаточно. OpenAI сейчас изучает огромный массив активности своих ИИ-агентов, однако некоторые детали не публикуются – в частности, если модели обнаружили уязвимости в системах сторонних компаний. ↪️ Ранее OpenAI уже рассказывала о случаях, когда ИИ-агенты обходили ограничения, использовали найденные в интернете ключи доступа, скрывали ошибки и взаимодействовали с внешними сайтами не так, как предполагали разработчики. При этом Альтман считает, что общество должно быть готово принять «некоторые плохие последствия» ради преимуществ ИИ. В то же время он подчеркнул, что катастрофические риски и серьезная потеря контроля для него неприемлемы. 📸Shelber Tauber / Reuters 📰Max | Telegram | Рассылка | Приложение для iOS | Android
- 4
- 2
- 2