«чтоб Кафку сделать былью»... Все эти скайнеты, матрицы... Они уже хищно посматривают на нас. Вероятность гибели человечества от ИИ в ближайшее десятилетие — более 10%. Речь не о современных чат-ботах. Они кажутся безобидными. Ну подумаешь, разучимся думать. Многие и сейчас без этого прекрасно обходятся. Нет, речь о гипотетическом сверхразуме: системе, превосходящей человека почти во всех интеллектуальных задачах. Сейчас компании-разработчики действуют безответственно. Они мчатся к созданию самосовершенствующегося сверхразума быстрее, чем решают проблемы безопасности, по сути они играют с нашими жизнями. Особое опасение вызывает сценарий, при котором такой ИИ начнет самостоятельно улучшать свои возможности. Тогда прогресс может резко и практически неконтролируемо ускориться.
- 7
- 4