Дарио Амодей предлагает новую модель регулирования ИИ по аналогии с авиацией
Глава Anthropic опубликовал программное эссе, в котором обосновывает необходимость перехода от добровольной прозрачности к жесткому государственному контролю над передовыми ИИ-моделями.
В своем новом эссе «Политика в эпоху экспоненциального роста ИИ» (датированном июнем 2026 года) генеральный директор Anthropic Дарио Амодей описывает критический разрыв между скоростью развития искусственного интеллекта и реакцией государственных институтов. Он сравнивает эту ситуацию с попыткой хоббитов заставить медлительного энта Древня быстро отреагировать на надвигающуюся угрозу.
Суть проблемы заключается в том, что законы масштабирования (scaling laws) продолжают работать. По словам Амодея, если эта тенденция сохранится, в ближайшие годы мы получим системы, которые можно описать как «страну гениев в одном дата-центре». При этом политика и законодательство двигаются крайне медленно, что создает опасный вакуум управления.
Исторически многие компании, включая саму Anthropic, выступали за политику прозрачности. В условиях, когда точная форма будущих рисков была неясна, требовать от разработчиков раскрытия информации о тестировании и инцидентах казалось наиболее разумным подходом. Это помогало избежать неэффективных законов, которые могли бы задушить инновации, не решив реальных проблем.
Однако ситуация изменилась. В эссе приводится пример модели уровня Claude Mythos Preview, которая продемонстрировала реальные угрозы для кибербезопасности, финансового сектора и критической инфраструктуры. Это доказало, что передовые модели (frontier models) стали инструментами глобального стратегического значения.
В ответ на эти вызовы Амодей предлагает радикально изменить подход к регулированию. Он считает, что ИИ теперь следует рассматривать не как обычное программное обеспечение, а как мощную технологию, сопоставимую с автомобилями, самолетами или фармацевтикой.
Ключевое предложение Anthropic — создание системы регулирования по образцу Федерального управления гражданской авиации США (FAA). Модели, превышающие определенный порог вычислительной мощности, должны проходить обязательное тестирование независимыми квалифицированными организациями.
Тестирование должно быть сфокусировано на четырех конкретных областях риска: кибербезопасность, биологическое оружие, потеря контроля над ИИ-системами и автоматизированные исследования, способные ускорить развитие предыдущих угроз.
Если независимая оценка выявит неприемлемые риски, правительство должно иметь полномочия заблокировать развертывание такой модели. При этом Амодей подчеркивает важность защиты от политического фаворитизма и произвольных решений.
Этот сдвиг в риторике означает, что индустрия начинает признавать недостаточность саморегулирования. Переход к модели предварительного лицензирования и жесткого аудита может существенно замедлить вывод новых продуктов на рынок, но, по мнению Амодея, это необходимая цена за общественную безопасность. Время покажет, насколько государственные институты готовы к внедрению столь сложных механизмов контроля в условиях непрерывной технологической гонки.
TL;DR
Главное
Глава Anthropic заявляет, что эпоха саморегулирования ИИ закончилась, и призывает к созданию государственного органа для обязательного аудита передовых моделей перед их выпуском.
Ключевые факты
- /Развитие ИИ требует перехода от законов о прозрачности к прямому регулированию.
- /Предлагается модель контроля по аналогии с авиационной безопасностью (FAA).
- /Обязательное тестирование должно охватывать 4 зоны риска: киберугрозы, биооружие, потерю контроля и авто-R&D.
- /Правительство должно получить право блокировать релиз опасных моделей.
Инсайт
Призыв к жесткому регулированию исходит от самих разработчиков передовых моделей, что свидетельствует о реальном, а не теоретическом уровне наблюдаемых ими угроз.
