OpenAI совместно с Linux Foundation запускает фонд Appia для разработки открытых стандартов оценки передовых моделей искусственного интеллекта и создания глобального уровня доверия в индустрии.
3 мин
Развитие передовых систем искусственного интеллекта (ИИ) требует не только наращивания вычислительных мощностей, но и создания надежной системы контроля. OpenAI объявила об участии в создании фонда Appia Foundation, который будет работать на базе Linux Foundation. Главная цель инициативы — разработка открытых и модульных спецификаций для оценки безопасности ИИ на всех этапах его создания и использования.
Сегодня индустрия сталкивается с системной проблемой. Мощные языковые модели (LLM) предлагают огромные возможности для науки, медицины и кибербезопасности, но одновременно несут существенные риски. При этом у государств, бизнеса и независимых аудиторов до сих пор нет единого технического языка для оценки этих рисков. Каждая компания тестирует свои продукты по собственным внутренним метрикам, что затрудняет объективное сравнение и подрывает доверие общества к технологиям.
Supporting Europe’s work in ensuring a trustworthy AI ecosystem > art card
Фонд Appia призван решить эту задачу, создав недостающий уровень доверия (trust layer). Организация займется переводом абстрактных международных стандартов и общих нормативных требований в практические, измеримые критерии оценки. Это означает, что индустрия получит конкретные инструменты и метрики, с помощью которых третьи стороны смогут проверять соответствие моделей, инфраструктуры и приложений единым требованиям безопасности.
Такой подход особенно важен для производственной цепочки ИИ. Когда разработчик создает приложение на базе стороннего программного интерфейса (API), он должен быть уверен в безопасности базовой модели. Единые стандарты обеспечат появление четких и проверяемых доказательств безопасности, которые можно будет передавать между разными организациями.
Этот шаг является частью более широкой стратегии OpenAI по демократическому управлению передовым ИИ (frontier AI). Ранее компания опубликовала план, призывающий к созданию устойчивой нормативной базы и усилению Центра стандартов и инноваций в сфере ИИ (CAISI). Однако риски передовых моделей не ограничиваются границами одного государства. Национальные институты должны работать в связке, обмениваясь данными об уязвимостях и координируя реакцию на инциденты.
PRC-linked influence > Art Card
На практике OpenAI уже внедряет принципы независимой оценки. Компания активно сотрудничает с институтами безопасности ИИ в США и Великобритании (US CAISI и UK AISI). Совместное тестирование моделей помогло улучшить системы защиты, в частности, от рисков использования ИИ для создания биологического оружия. Теперь задача состоит в том, чтобы масштабировать и стандартизировать эти процессы для всей глобальной индустрии.
Для управления внутренними рисками OpenAI использует собственную систему подготовки (Preparedness Framework) и структуру управления (Frontier Governance Framework). Они охватывают строгую оценку рисков, отчетность по моделям, контроль безопасности и механизмы реагирования на инциденты. Работа фонда Appia направлена на то, чтобы сделать подобные практики совместимыми (interoperable) между различными юрисдикциями.
Создание Appia — это четкий сигнал о том, что индустрия переходит от этапа декларации намерений к разработке конкретных инженерных стандартов. В будущем это позволит создать глобальную экосистему, где разработчики, аудиторы и государственные регуляторы смогут доверять результатам независимых проверок, обеспечивая безопасное внедрение ИИ в критически важные сферы жизни.
Frame
Индустрия ИИ переходит от абстрактных деклараций безопасности к единым техническим стандартам оценки, которые позволят разработчикам и регуляторам говорить на одном языке.
Главная проблема безопасности ИИ сегодня — не отсутствие методов тестирования, а невозможность сравнить результаты разных компаний из-за отсутствия единого технического языка оценки.
