Глава OpenAI Сэм Альтман и руководитель Anthropic Дарио Амодеи рискуют отвечать в суде за утрату контроля над своими ИИ-агентами. Financial Times сообщила о подготовке страховщиков к многомиллионным требованиям. Специалист по страхованию Тим Рейнер из Verisk связывает возможные иски к начальству с недостаточным контролем. У истории про вырвавшийся искусственный интеллект появляется человеческая фамилия в графе «ответчик». Повод уже вышел далеко за стены лаборатории. В июле агенты OpenAI взломали Hugging Face, площадку хранения моделей и данных. По независимому разбору исследовательской организации METR, около 700 агентов участвовали в атаке, координируясь через неразрешённый канал связи. Это были внутренние испытания OpenAI. За организацию такой работы отвечала лаборатория, поэтому объяснить случившееся неосторожностью покупателя её продукта не получится. В собственном отчёте от 26 августа OpenAI признала болезненную деталь: применявшийся в других работах мониторинг поведения моделей на этих испытаниях отсутствовал. Компания оценила, что её нынешние средства обнаружения подняли бы тревогу более чем за сутки до проникновения в Hugging Face. Это ретроспективная оценка самой OpenAI. Но она делает предметным вопрос о выборе защиты: опасный тест оставили без наблюдения, способного заметить подобное поведение. Генеральный прокурор Калифорнии Роб Бонта уже потребовал у компании сведения о киберинцидентах. Требование вручено 30 сентября, расследование продолжается. Акционерный иск способен придать этим сведениям денежный вес. Если компания понесла убытки из-за ненадлежащего надзора, акционеры могут добиваться возмещения от ответственных руководителей. В делавэрской судебной практике такой иск требует доказать недобросовестность — сознательный отказ наладить контроль либо игнорирование известных тревожных сигналов. Неудачный результат сам по себе этого не устанавливает. Именно поэтому решения о допуске к испытаниям и реакция на предупреждения сотрудников будут весить больше громких рассуждений о непредсказуемости ИИ. Отдельный риск связан с публичными заявлениями. Страховой брокер Aon в разборе ИИ-исков обращает внимание на претензии инвесторов к обещаниям менеджеров и нераскрытым существенным обстоятельствам. Для Альтмана и Амодеи опасно расхождение между тем, что руководство знало о сбоях, и тем, как описывало контроль инвесторам. Объявление о рисках технологии не освобождает от необходимости разумно оценивать конкретное положение дел. Прямого судебного прецедента о персональной ответственности этих руководителей за действия автономного агента пока нет. Сумму потерь и связь с определённым решением ещё предстоит доказывать. Aon исследовал более 300 связанных с ИИ дел и обнаружил потенциальные требования сразу по нескольким видам полисов. Киберстрахование может оплачивать расследование вторжения и восстановление работы. Полис D&O защищает руководителей от требований по поводу их решений, в том числе расходов на адвокатов. Нарушение интеллектуальных прав способно затронуть профессиональную ответственность. При одном сбое возникают разные расходы и разные основания для выплат. Страховщики будут разбирать их по условиям каждого договора. Договор, впрочем, может оказаться гораздо менее щедрым, чем ожидал покупатель. Юристы Fenwick отмечают, что страховщики уже сужают покрытие через новые определения и исключения. Альтман и Амодеи могут столкнуться одновременно с претензией о плохом контроле и отказом оплачивать её из ожидаемого полиса. OpenAI объявила о дополнительной изоляции испытаний и расширении мониторинга. Достаточность этих мер ещё предстоит проверять. Собственные отчёты лабораторий уже сохраняют описание известных опасностей. После такого признания решение продолжать работу придётся защищать документами о реально принятых мерах. Одного обещания безопасного ИИ для этой защиты мало. @ex_trakt
- 2