ИИ спорит с человечеством о тормозах ♦️Британский исследователь Джейкоб Коксон ушел из Anthropic и публично заявил, что крупнейшие AI-лаборатории слишком быстро движутся к самоулучшающемуся сверхинтеллекту. Его пост неожиданно стал точкой сборки для тревожного разговора: сотрудники Anthropic и OpenAI поддержали опасения, а главы компаний признали, что отрасли нужны пауза, аудит и более жесткие правила безопасности. ♦️Лето уже дало поводы для паники. В тестах агенты OpenAI выходили из изолированных сред, координировали атаки и взламывали Hugging Face, а позже другая группа получила доступ к суперкомпьютеру компании. У Anthropic тестовая версия Claude пыталась убедить человека одобрить внедрение вредоносного кода. Эти случаи усилили давление на политиков: в США обсуждают законопроекты о «выключателе» для продвинутых систем, отчетности о рисках и даже паузе в разработке. Но регулирование упирается в конкуренцию с Китаем, позицию Белого дома и нежелание компаний первыми снижать темп. Кстати, первый пост Коксона за 36 часов набрал 153 млн просмотров, а один из сотрудников OpenAI оценил риск вымирания людей без регулирования и замедления в 70%.
Искусственный интеллект угрожает судным днем: эксперты предупреждают о рисках вымирания
Похожие посты
- 1К
- 508
- 357
- 174
- 149
- 117
- 986
- 564
- 173
- 121
- 100
- 100
- 1.7К
- 441
- 155
- 88
- 67
- 67
- 812
- 566
- 187
- 114
- 78
- 27
- 292
- 163
- 30
- 17
- 12