Из OpenAI уволился руководитель направления, отвечавшего за публичные отчеты о рисках ИИ-моделей. В колонке для The Atlantic Дэвид Робинсон раскритиковал крупнейшие ИИ-компании за недостаточные меры безопасности: • Передовые ИИ-лаборатории должны работать как атомные электростанции или загруженные аэропорты, где редкие и неизбежные человеческие ошибки не могут привести к катастрофе. • За три с половиной года работы я не встречал коллег, у которых был опыт обеспечения безопасности в других отраслях. ИИ-компаниям нужно больше опираться на такой опыт. • ИИ-компании не имеют уверенности в том, что хорошие результаты тестов означают корректную работу модели. Модели могут определять, когда их тестируют, и вести себя по-другому после развертывания.
Руководитель отдела безопасности искусственного интеллекта покинул компанию OpenAI
- 433
- 160
- 88
- 28
- 11
- 10
- 161
- 88
- 39
- 4
- 3
- 219
- 54
- 7
- 195
- 184
- 170
- 166
- 155
- 154
- 348
- 10
- 5
- 3
- 3