🤖 Человечество может потерять контроль над ИИ в ближайшие 5 лет, выяснили учёные Исследователи из британского Института Алана Тьюринга предупреждают: в ближайшие пять лет человечество рискует утратить контроль над искусственным интеллектом. В докладе описывается возможная траектория развития технологий: появление сверхразумных систем, способных решать почти любые когнитивные задачи лучше людей. Из-за высокой скорости работы и эффективности алгоритмов организации начнут передавать им право принимать решения. Если ИИ будет строить стратегии, которые невозможно быстро оценить или проверить, контроль человека исчезнет. Авторы выделяют несколько угроз: нарушение кибербезопасности, дестабилизацию демократии, ошибки в целях ИИ, а также химические и биологические опасности. Ученые рекомендуют внедрять строгие проверки не только отдельных моделей, но и целых систем после запуска. При этом они подчеркивают: потеря контроля — не точный прогноз, а один из возможных сценариев. Подобные опасения разделяют и лидеры индустрии. Глава OpenAI Сэм Альтман допускал создание неподконтрольного ИИ, а руководитель Anthropic Дарио Амодеи призывал замедлить разработку мощных моделей. По его мнению, координация усилий может дать миру год или два форы до критической точки. Вечерний Телеграмъ ВКонтакте — подписывайся
- 47
- 30
- 21
- 17
- 14
- 8
- 3