Опасения Белого дома из-за возможного доступа связанной с Китаем группы к модели Mythos стали одной из причин экспортных ограничений для Anthropic. Об этом сообщает Semafor со ссылкой на источник.
Параллельно Business Insider и Axios назвали другим триггером сообщения об обходе защиты Fable 5. Сама Anthropic утверждает, что речь шла о «узком» и неуниверсальном способе, который не давал модели уникальных возможностей.
Согласно СМИ, администрацию Дональда Трампа насторожили подозрения в доступе к Mythos со стороны группы, связанной с Китаем. Журналисты не уточнили, о какой организации идет речь, как это произошло и откуда Белый дом узнал об эпизоде.
По данным The Verge, Белый дом публично не подтверждал эту версию. Представитель Anthropic заявил Semafor, что в переговорах с властями тема «китайского доступа» к Mythos не поднималась. Компания запрещает доступ к своим продуктам из КНР.
В Business Insider отметили, что 11 июня CEO Amazon Энди Джесси сообщил администрации президента о возможности обойти ограничения Fable 5. По словам собеседника издания, коропорация отвечала на запрос о проверке модели. Согласно Axios, министр торговли США Говард Латник направил главе Anthropic Дарио Амодеи письмо, по которому Fable 5 и Mythos 5 подпадали под экспортный контроль за пределами США и для всех иностранных лиц внутри страны.
Чиновники якобы пытались убедить Anthropic добровольно приостановить доступ к моделям, но компания не согласилась. Собеседник издания, близкий к стартапу, оспорил эту версию и заявил, что Белый дом дал стартапу 90 минут на отключение моделей без подробностей о характере угрозы.
13 июня советник главы Белого дома Дэвид Сакс написал в X, что администрация получила предупреждение о возможном обходе защит Fable 5 от партнера, которому доверяли и власти, и Anthropic.
Anthropic заявила, что письмо властей не содержало конкретных деталей о рисках для национальной безопасности. По версии компании, претензии касались способа обхода защиты Fable 5.
Стартап утверждает, что изучил демонстрацию этой техники. По его оценке, она позволяла найти «небольшое число ранее известных незначительных уязвимостей». В Anthropic добавили, что другие публично доступные модели способны выявлять те же проблемы без обхода защиты.
Компания также заявила, что перед запуском Fable 5 потратила «тысячи часов» на тестирование защит вместе с правительством США, британским Институтом безопасности ИИ, сторонними организациями и внутренними командами. По данным Anthropic, тестировщики пока не нашли универсальный способ массово обходить ограничения модели.
