Политический аналитик Александр Асафов об исследовании возможностей ИИ в научной работе и рисках автоматизации: Для научных организаций это ставит под вопрос сам критерий эффективности внедрения ИИ. Если успех измеряется числом статей, то автоматизация действительно может легко улучшить отчетность. Однако вместе с этим кратно вырастет нагрузка на экспертов, которым придется перепроверять достоверность результатов, полученных ИИ. Сокращая исследовательские коллективы в расчете на эффективность нейросетей, академическое сообщество рискует лишиться специалистов с компетенциями, которых сейчас не хватает ИИ-моделям, — оценивать обоснованность выводов, выбирать методы проверки гипотез и адаптировать работу после получения результатов. Несмотря на успехи ИИ в области фундаментальных исследований, чрезмерная автоматизация науки может ускорить накопление ошибок в научной литературе. Если необоснованные выводы будут все чаще просачиваться в корпус научной литературы, они приобретут видимость признанного знания, направляя новые исследования по ложному пути. Контекст. Команда проекта CRUX совместно с исследователями Принстонского университета проверила способность автономных ИИ-агентов решать научные задачи в области машинного обучения: авторы оригинальных работ рекомендовали отклонить обе подготовленные моделями статьи из-за дефицита научной гибкости и необоснованности выводов.
Вызовы и риски использования искусственного интеллекта в науке и образовании
- 66
- 45
- 12
- 8
- 6
- 4
- 2
- 2
- 1