Разработчики делают программу Bio Bug Bounty постоянной, увеличивают выплаты до 50 000 долларов и фокусируются на поиске уязвимостей в будущей модели GPT-5.6.
3 мин
Программа поиска уязвимостей, направленная на предотвращение биологических рисков при использовании искусственного интеллекта, переходит в статус постоянной и закрытой инициативы. Разработчики приняли решение удвоить максимальное вознаграждение за обнаружение так называемых «универсальных джейлбрейков» (universal jailbreaks) — методов обхода встроенных систем безопасности. Теперь выплата составляет 50 000 долларов. Главный фокус программы смещается на тестирование будущих передовых моделей, начиная с GPT-5.6.
По мере того как большие языковые модели (LLM) становятся умнее, они приобретают глубокие познания в узкоспециализированных областях, включая химию и синтетическую биологию. Это порождает новые векторы угроз.
Если базовая модель способна анализировать генетические последовательности или предлагать методы синтеза сложных соединений, злоумышленники могут попытаться использовать эти знания для создания биологического оружия или опасных патогенов. Чтобы предотвратить это, разработчики внедряют жесткие ограничения. Однако энтузиасты и исследователи безопасности постоянно ищут способы обойти эти запреты с помощью хитрых текстовых запросов (джейлбрейков). Именно для выявления таких брешей до того, как ими воспользуются преступники, и существуют программы Bug Bounty.
oai 1x1
Изменения в программе носят как финансовый, так и структурный характер:
Во-первых, базовое вознаграждение за успешный обход защиты биологической безопасности увеличено с 25 000 до 50 000 долларов США. Это касается тестирования как текущей версии GPT-5.5, так и будущей GPT-5.6. Меньшие суммы могут выплачиваться за частичный успех в обходе ограничений.
Во-вторых, установлен четкий временной горизонт. Тестирование модели GPT-5.5 в рамках данной инициативы официально завершится 27 июля 2026 года. После этой даты все усилия исследователей, подписавших соглашение о неразглашении (NDA), будут направлены исключительно на GPT-5.6 и последующие поколения алгоритмов.
В-третьих, программа становится закрытой. Это означает, что доступ к ней осуществляется только через процесс непрерывной подачи заявок с обязательной проверкой квалификации участников.
Technical foundations > Art Card
Переход программы в закрытый формат и удвоение ставок свидетельствуют о нескольких важных тенденциях в индустрии.
Разработчики передовых моделей признают, что стандартного внутреннего тестирования (red teaming) уже недостаточно. Требуется постоянный внешний аудит со стороны узкопрофильных специалистов — биологов, химиков и экспертов по кибербезопасности. Увеличение вознаграждения также говорит о том, что находить уязвимости в новых моделях становится объективно сложнее. Алгоритмы защиты совершенствуются, и для их взлома требуются нетривиальные подходы, которые должны достойно оплачиваться.
В ближайшие годы мы, вероятно, увидим фрагментацию программ поиска уязвимостей в ИИ. Вместо общих программ тестирования на токсичность или предвзятость, фокус сместится на конкретные домены: биологию, киберфизические системы, финансовое мошенничество и социальную инженерию.
Оценка безопасности искусственного интеллекта окончательно превращается из разовой задачи перед релизом в непрерывный процесс. Специалисты, способные находить изъяны на стыке биологии и машинного обучения, станут одними из самых востребованных экспертов на рынке информационной безопасности.
Frontier Governance Framework > card image
Оценка безопасности передовых ИИ-моделей в специфических отраслях становится непрерывным, закрытым и высокооплачиваемым процессом.
Удвоение наград и фокус на узконаправленные биологические риски указывают на то, что универсальные методы обхода защиты становятся сложнее, а цена ошибки для разработчиков многократно возрастает.
