Власти США вынудили Anthropic отозвать модели Fable 5 и Mythos 5 из-за проблем с безопасностью. Разбираемся, что это значит для разработчиков, рынка и будущего компании.
2 мин
В конце прошлой недели правительство США предписало компании Anthropic приостановить доступ к двум новейшим моделям искусственного интеллекта — Fable 5 и Mythos 5. Официальная причина заключается в угрозе национальной безопасности. Этот шаг стал одним из первых примеров столь жесткого прямого вмешательства государства в релизный цикл ведущей ИИ-лаборатории.
Поводом для блокировки послужило внутреннее исследование специалистов из Amazon. Они обнаружили эффективный способ обхода встроенных защитных механизмов (guardrails) в модели Fable 5. Подобные уязвимости позволяют пользователям заставить систему игнорировать базовые инструкции и генерировать потенциально опасный или запрещенный контент.
Однако реакция индустрии оказалась далека от однозначной поддержки действий правительства. Группа независимых исследователей в области кибербезопасности опубликовала открытое письмо, в котором назвала этот запрет опасным прецедентом, тормозящим развитие открытой науки. Представители Anthropic также подчеркнули, что подобные уязвимости (jailbreaks) не являются уникальными для их продуктов и в той или иной степени присутствуют во всех современных больших языковых моделях (LLM).
Это заставляет экспертов задуматься о скрытых мотивах. Существует мнение, что блокировка может быть связана не только с реальными техническими рисками, но и с текущей политической конъюнктурой и сложными отношениями между технологическими гигантами и администрацией Дональда Трампа.
Для разработчиков, которые интегрируют API Anthropic в свои корпоративные решения, этот инцидент служит тревожным сигналом. Зависимость от закрытых проприетарных моделей теперь несет в себе риск внезапного отключения по решению регулятора. Бизнесу придется пересматривать свои стратегии отказоустойчивости и, возможно, активнее внедрять резервные решения на базе моделей с открытым исходным кодом.
Интересно, что в финансовом плане этот скандал может парадоксальным образом пойти на пользу Anthropic. В преддверии потенциального первичного публичного размещения акций (IPO) статус компании, чьи технологии признаются регуляторами слишком мощными, может привлечь дополнительное внимание инвесторов. Это служит своеобразным подтверждением высокого уровня их разработок.
Параллельно с этим на рынке происходят и другие масштабные события. Джефф Безос делает ставку в 12 миллиардов долларов на стартап Prometheus, разрабатывающий физический искусственный интеллект и концепцию искусственного инженера. А поглощение платформы Cursor компанией SpaceX открывает новые детали стратегии развития xAI.
В ближайшие месяцы индустрия будет внимательно следить за тем, как разрешится ситуация с Anthropic. Время покажет, смогут ли регуляторы и разработчики выработать прозрачные и предсказуемые правила игры, или же технологический сектор ждет эпоха непредсказуемых блокировок.
Прямое вмешательство властей США в релиз моделей Anthropic создает новый прецедент регуляторного риска для разработчиков, но может повысить инвестиционную привлекательность компании.
Запрет со стороны правительства может сыграть на руку Anthropic перед IPO, так как внимание властей работает как доказательство невероятной мощности создаваемых ими технологий.
