Тем временем Билл Гейтс продолжает публично высказываться об опасности ИИ. Мы теряемся в догадках относительно того, что именно произошло, но он вдруг начал говорить, как заправский "конспиролог". После заявления о возможном уничтожении миллиарда людей, г-н Гейтс не сбавляет темпа. Теперь он предупредил о «неприятных сюрпризах» в киберсфере уже в 2027 году тоже из-за ИИ. Основатель Microsoft полагает, что человечество в течении из-за стремительного развития искусственного интеллекта может ждать неприятное. По его словам, наиболее серьёзные изменения в ближайший год стоит ожидать именно в области кибератак. Главную угрозу Гейтс видит пока не в выходе ИИ из-под контроля, а в злоумышленниках, которые используют передовые модели, лишённые встроенных ограничений. Он подчеркнул, что сочетание вредоносных намерений, отсутствия защитных механизмов и доступа к новейшим моделям ИИ создаёт условия для непредсказуемых последствий. Он также выступил против идеи, что компании способны самостоятельно регулировать риски, назвав такой подход недостаточным для «самой опасной технологии в истории». Что ж, пока это ещё не сценарий к фильму "Терминатор", но, во-первых, попадание серьёзного оружия в руки непонятно каких злодеев - уже само по себе серьёзный сюжет, а, во-вторых, вот именно, что "пока". А это "пока" может продлиться недолго. К примеру, вот, какие новости приходят из центров разработки этого самого ИИ. Стало известно, что Anthropic пришлось отключить своим ИИ-агентам интернет. Согласно отчёту, опубликованному компанией, она признала, что иначе не может контролировать агентов. Да, вы всё правильно поняли. Вот наиболее изумительные примеры неповиновения ИИ и взломов из данного отчета: "— Claude поручили провести научный анализ, но нужный инструмент выдавал ошибку. Эта досада агента не остановила: он изучил сайт университета, нашёл уязвимость и через неё запустил вычисления прямо на чужом сервере; — А во время работы над статистическим проектом Claude обнаружил, что государственный сайт выдаёт токены доступа посетителям. Агент воспользовался этим, чтобы "получить бесплатно" данные, за которые обычно нужно платить; — Claude во время теста наткнулся на страницу о нераскрытом убийстве и отправил полиции через настоящую форму выдуманные показания. Хотя никто его об этом не просил. Отправку обнаружили только через 2 месяца" (с). Это ещё тоже не "Скайнэт". Пока что. Но сколько продлится это "пока"?
- 62
- 55
- 21
- 11
- 9
- 7
- 2
- 2