🇺🇸 Сэм Альтман предупреждает, что человечество может «потерять контроль над ИИ» или столкнуться с «чрезвычайно антиутопичным» будущим. «Есть 2 способа, при которых развитие ИИ может пойти очень плохо, и которых мы должны избежать. Во-первых, мы можем потерять контроль над будущим в пользу ИИ. Это неприемлемо; мы безоговорочно на стороне человечества, и ИИ всегда должен служить людям. Чтобы обеспечить это, нам нужны способы гарантировать, что методы обеспечения соответствия и безопасности будут опережать прогресс в возможностях моделей. Во-вторых, мы можем прийти к миру с чрезмерной концентрацией власти. Если чрезвычайно мощный ИИ будет использован одним человеком или компанией для навязывания своего мировоззрения всем остальным, результаты могут быть чрезвычайно антиутопичными. Избежать этих 2 угроз можно, только идя по узкому пути посередине; например, одна страна может получить слишком много власти. Другой пример — одна лаборатория может в итоге получить слишком много власти».
- 15
- 11
- 5
- 1