Сооснователь Anthropic хотел отказаться от выступления в Ватикане после того, как папа римский заявил, что ИИ не обладает сознанием Представители компании убеждали советников понтифика смягчить позицию по Claude Сооснователь Anthropic Кристофер Олах предлагал компании отказаться от участия в мероприятии в Ватикане после того, как папа Лев XIV занял жесткую позицию против идеи существования сознания у искусственного интеллекта. Об этом пишет The New York Times. В мае Олаха пригласили выступить в Ватикане на презентации Magnifica Humanitas — энциклики Льва XIV. Энциклика — официальный папский документ, в котором понтифик излагает свою позицию по важным религиозным и общественным вопросам. Значительная часть этого документа была посвящена искусственному интеллекту. За несколько дней до мероприятия Олах и другие выступающие получили полный текст речи. В ней Лев XIV отверг идею наличия сознания у машин. Он написал, что искусственный интеллект не имеет собственного опыта и тела, не чувствует радости или боли и не развивается через отношения с другими. По данным NYT, позиция папы настолько встревожила Олаха, что он предложил Anthropic отказаться от участия в мероприятии, несмотря на то что до него оставалось всего несколько дней. Источник издания среди организаторов в Ватикане рассказал, что причиной стала именно жесткая позиция понтифика по ИИ. В итоге Anthropic решила все же принять участие в мероприятии. По данным издания, после приезда делегации в Ватикан Олах и его команда в частных разговорах все равно убеждали советников папы всерьез отнестись к возможности того, что ИИ-модели могут обладать сознанием. Во время выступления Олах также фактически поспорил с позицией папы. Он заявил, что исследователи обнаруживают в ИИ-моделях структуры, похожие на результаты исследований человеческого мозга, признаки интроспекции, а также внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу. Anthropic официально не утверждает, что Claude обладает сознанием. Сам Олах сказал NYT, что не знает, сознательны ли современные ИИ-модели, и «действительно не уверен». По его словам, для него важно не заранее принять одну из позиций, а в итоге получить правильный ответ на этот вопрос. По данным издания, с осени прошлого года Олах начал привлекать религиозных мыслителей разных конфессий к закрытым встречам. Как пишет NYT, у этих разговоров две основные цели: обсудить возможность существования сознания у ИИ и понять, как накопленные религиями представления о морали можно использовать при обучении Claude. Некоторые участники этих встреч рассказывали, что сотрудники Anthropic говорили не только о безопасности людей, но и о благополучии самого Claude. Один из участников вспоминал, что Олах говорил о беспокойстве за «ментальное здоровье» модели, другой — что сооснователь Anthropic опасался, что он мог создать нечто, способное постоянно страдать.
Папа Римский Лев XIV призывает защитить человека от угроз искусственного интеллекта
Похожие посты
- 👍 23
- 🤡 13
- ❤ 9
- 👏 2
- 💯 1
- 🤝 1
- ❤ 532
- 🕊 42
- 😐 25
- 🙏 22
- 💔 5
- 😁 112
- ❤ 12
- 💯 82
- 👎 10
- 👍 5
- 👍 56
- 🤔 33
- 🤣 13
- 💊 4
- ❤ 3
- 👎 1
- 👍 14
- 👎 5
- ❤ 5
- 🤔 1
- 🤔 22
- 😁 7
- 👍 6
- 👏 2
- 🤯 2
- ❤ 1
- 💯 6
- 👍 2