Пол Кристьяно (член совета директоров OpenAI, вчерашнее выступление) : "Для большинства людей в этой комнате наиболее вероятная причина их смерти — ИИ-катастрофа" «...если бы мы попытались развивать ИИ по самой быстрой траектории, если бы мы сказали, что просто собираемся создать его как можно быстрее и самым простым способом, то мы бы столкнулись с чем-то вроде подбрасывания монетки в вопросе захвата власти искусственным интеллектом. Я надеюсь, что вероятность этого гораздо ниже, потому что мы не собираемся развивать технологию самым стремительным путем. Но я думаю, что даже с учетом всех обстоятельств и реалистичных мер политики, риск остается исключительно высоким. Я считаю, что для большинства людей в этом зале наиболее вероятной причиной смерти станет инцидент с ИИ. Я думаю, что существует значительный риск даже в ближайшие 6–12 месяцев, верно? Мне кажется, что траектория развития этой области за последние три-шесть месяцев была крайне тревожной для тех, кто внимательно за ней следит. Думаю, мы увидели примерно то, что и ожидали бы увидеть незадолго до того, как произойдет что-то действительно плохое. Поэтому я говорю о периоде в ближайшие три года, и, хотя большая часть рисков лежит дальше, я думаю, что существует также существенный риск в самом ближайшем будущем. И к этому вопросу не стоит относиться как к абстрактной дискуссии. Это то, на что мы должны пытаться реагировать незамедлительно». ⏺Подпишись: МИГ в telegram |🇷🇺 МИГ МAX на парковке ⏺
- 5
- 3
- 3
- 3