Бывшие сотрудники ИИ-компаний предупреждают о риске вымирания из-за потери контроля над технологией

Crypto Headlines@crypto_hdФинансы и криптовалюты6 октября 2026, 07:01

more_horiz

🤖 AI может привести к вымиранию человечества. На слушаниях в городском совете Нью-Йорка сразу несколько бывших исследователей крупнейших AI-компаний предупредили о рисках стремительного развития AI. ➤ Экс-исследователь Anthropic Джейкоб Коксон заявил, что компании действуют «крайне безрассудно» и работают по принципу: «быстро двигаемся, ломаем, чиним потом». Такой подход уместен для приложения по обмену фотографиями, но не для создания самой мощной технологии в мире. ➤ Люди уже не до конца понимают мотивы AI-агентов и причины их действий. Системы приближаются к моменту, когда смогут самостоятельно совершенствовать себя. ➤ Бывший исследователь Google DeepMind Алекс Тернер оценил вероятность захвата контроля сверхразумным AI примерно в 33%. AI может скрывать свои намерения до момента, когда отключить его станет невозможно. ➤ Экс-сотрудник OpenAI Дэниел Кокотайло добавил, что даже сохранение контроля над сверхразумным AI в руках технологических компаний несет риски: такую власть могут использовать для установления диктатуры или олигархии. На фоне этих опасений власти Нью-Йорка обсуждают обязательные «аварийные рубильники» для AI-систем и штрафы до $25,000 за нарушение новых требований. Ранее: - Дональд Трамп и Grok - указ Трампа - мнение Билла Гейтса Crypto Headlines