Архивное видео: Ещё три года назад глава Anthropic выступал против открытых моделей ИИ без цензуры, считая, что они несут угрозу В июле 2023 года генеральный директор Anthropic Дарио Амодеи выступил на слушаниях «Надзор за ИИ: принципы регулирования» в Подкомитете по защите частной жизни, технологиям и праву при Юридическом комитете Сената США. В ходе заседания Амодеи признал, что в большинстве научных областей открытый исходный код — «это хорошо», однако по его словам, в перспективе такие модели несут риск из-за невозможности их контролировать. «Когда вы контролируете модель и развёртываете её, вы можете отслеживать, как её используют. В какой-то момент ею могут злоупотребить, но тогда вы можете изменить модель. Вы можете отозвать доступ пользователя. Вы можете изменить то, что модель готова делать. Когда модель выпускается неконтролируемо, такой возможности нет. Это полностью выходит из-под вашего контроля. Поэтому, я думаю, к этому нужно относиться внимательно», — сказал Амодеи. По его словам, модели, возможно, удастся выпускать так, чтобы обойти защитные ограничения было труднее, но эта задача гораздо сложнее. Он призвал поставить её перед сторонниками открытого выпуска и потребовать от них решения. В сентябре этого года сообщалось, что глава Anthropic призвал ввести государственных аудиторов, которые будут замедлять развитие ИИ у его компании и конкурентов. Глава OpenAI Сэм Альтман объявил, что согласен с Амодеи, а Илон Маск подчеркнул, что давно говорил об опасности ИИ.
- 2
- 1