Решение Anthropic внезапно отключить две из своих самых передовых моделей искусственного интеллекта всего через несколько дней после их запуска было беспрецедентным, особенно потому, что оно было принято в ответ на постановление правительства США, ограничивающее доступ только для американцев.
Но, согласно отчету Politico, Белый дом провел большую часть пятницы, пытаясь убедить Anthropic добровольно отказаться от своей недавно запущенной модели искусственного интеллекта Fable, поскольку официальные лица США опасались, что ее меры безопасности могут быть обойдены способами, создающими угрозу национальной безопасности.
В конечном итоге эта попытка провалилась, в результате чего администрация ввела экспортный контроль, который фактически отключил модели Fable 5 и Mythos 5 всего через несколько дней после их публичного выпуска.
1. Amazon выразил обеспокоенность
Anthropic выпустила новые модели, заверив их в том, что они безопасны и защищены надежными средствами защиты. Однако, согласно отчету, высокопоставленные представители администрации вскоре начали сомневаться в том, насколько сильна эта защита, как утверждает компания.
Опасения усилились в четверг, когда исполнительный директор Amazon Энди Ясси, как сообщается, отметил проблемы, связанные с обходом ограждений модели.
Amazon является крупным инвестором Anthropic и отвечает на просьбу администрации предоставить обратную связь, по словам человека, знакомого с дискуссиями, упомянутыми в отчете.
The Politico сообщила, что в течение 24 часов проблема достигла самых высоких уровней Белого дома.
Министр финансов США Скотт Бессент, кибер-директор Белого дома Шон Кернкросс, руководитель аппарата Белого дома Сьюзи Уайлс и другие высокопоставленные чиновники встретились, чтобы обсудить модель и определить реакцию администрации.
Также читайте | «Это грандиозно»: Anthropic отключает Mythos, модели Fable из-за запрета правительства США на доступ к иностранным ресурсам
После встречи официальные лица попытались связаться с исполнительным директором Anthropic Дарио Амодеи. По словам представителей администрации, упомянутых в отчете, первоначально им сказали, что он недоступен, потому что «посещал оздоровительный курс».
Anthropic решительно оспорила эту версию. Представитель компании заявил: «Это абсолютная ложь», добавлено в отчете.
Человек, близкий к Anthropic, рассказал Politico, что с Амодеем впервые связались около полудня, и он присоединился к обсуждению с высокопоставленными чиновниками администрации примерно через час и 15 минут. По словам этого человека, в период его отсутствия компания предлагала в качестве альтернативы других топ-менеджеров.
2. Три звонка и одно несогласие
После того как контакт был установлен, Амодей принял участие в трех телефонных разговорах с участием нескольких высокопоставленных чиновников администрации, в том числе Бессента, Кэрнкросса и министра торговли Говарда Лютника.
Сообщается, что в ходе этих разговоров Амодей утверждал, что опасения администрации вызваны непониманием вопроса.
Согласно отчету, генеральный директор Anthropic утверждал, что это отличается от более широкого «побега из тюрьмы», который позволит пользователям использовать систему без каких-либо ограничений безопасности Anthropic.
Также читайте | Что может означать отказ Клода от Fable 5 и долгая вражда Anthropic с правительством Трампа
Даже после того, как был введен экспортный контроль, Anthropic публично защищала свою технологию. В своем заявлении компания заявила, что «ни один тестировщик пока не смог найти универсальный метод взлома — метод, который может в очень широком смысле обойти защиту модели, разблокируя широкий спектр кибервозможностей».
Компания также признала, что устранение всех попыток джейлбрейка остается невозможным во всей индустрии искусственного интеллекта.
Anthropic далее утверждала, что ее меры защиты были весьма ограничительными, заявив, что ее системы «настолько сильны, что многие пользователи жаловались, что они слишком широки».
3. Белый дом остался при своём мнении
Однако администрацию эти объяснения не убедили.
По словам неназванного чиновника Белого дома, которого цитирует Politico, результаты, предоставленные Amazon, были проверены Агентством национальной безопасности, которое сочло, что имеется достаточно доказательств серьезной уязвимости.
Вскоре после окончания разговоров администрация Трампа приступила к осуществлению экспортного контроля, нацеленного на модели Fable 5 и Mythos 5.
«Экспортный контроль был последним средством после того, как они часами умоляли их поработать с нами», — сказал Politico высокопоставленный чиновник Белого дома. «Мы не хотели этого делать, но наши руки были связаны».
Позже в Anthropic сообщили, что приказ, изданный органами национальной безопасности, запрещает использование моделей иностранными гражданами. Компания добавила, что «конечным эффектом» было «внезапное отключение» систем для всех пользователей, чтобы соблюсти ограничения.
4. Финал «90 минут»
Один человек, знакомый с позицией компании, рассказал СМИ, что Anthropic никогда не получала реальной возможности сотрудничать до введения ограничений.
«Белый дом дал 90 минут на то, чтобы убрать модели, не указав подробностей о реальной угрозе», — сказал этот человек. «Никогда не было никаких просьб или просьб о том, чтобы они работали с нами, был только объявленный срок в 90 минут».
Это не первый случай, когда Anthropic и Белый дом идут в лоб: ранее в феврале министерство обороны США назвало Anthropic «риском цепочки поставок» после того, как компания ИИ отказалась от требований Пентагона снять защитные ограждения, ограничивающие использование ее технологий для автономного оружия и массового внутреннего наблюдения.
