👀 Исследователь американской компании Anthropic уволился из-за опасений, что ИИ выйдет из-под контроля и уничтожит человечество — WSJ 27-летний британский исследователь Джейкоб Коксон решил покинуть индустрию искусственного интеллекта из-за опасений, что компания и ее конкуренты гонятся за созданием систем, которые они не смогут контролировать. По его словам, он не хочет участвовать в общеотраслевой гонке по созданию систем ИИ, способных к самосовершенствованию, опасаясь, что такие системы могут выйти из-под контроля и уничтожить человечество. Коксон отметил, что многие его коллеги по отрасли сейчас используют такие фразы, как "критический момент" и "эндшпиль" для описания траектории движения к самообучающимся моделям. "Мы движемся по пути реализации наиболее агрессивных из этих сценариев, где к концу следующего года ситуация уже может выйти из-под контроля", — сказал Коксон, добавив, что компромиссы в ущерб безопасности неизбежны, когда компании конкурируют друг с другом и с китайскими стартапами. Коксон рассказал, что ранее в этом году он ушел из OpenAI и перешел в Anthropic, так как она известна своими усилиями в области безопасности моделей. Но хотя он и посчитал подход Anthropic искренними, теперь он убежден: ни одна компания не способна безопасно разрабатывать ИИ, превосходящий человека в широком спектре задач, в отсутствие государственного вмешательства или скоординированного замедления всей отрасли. @dmytrogordon_official
- 455
- 99
- 70
- 38
- 21
- 15
- 9
- 8
- 5
- 3
- 1