Инициатива направлена на исследование непредсказуемого поведения автономных ИИ-агентов при их массовом взаимодействии в общих цифровых средах.
2 мин
Google DeepMind совместно с партнерами запустила новую грантовую программу с фондом до 10 миллионов долларов. Инициатива направлена на поддержку исследователей по всему миру, занимающихся проблемами безопасности многоагентных систем искусственного интеллекта (multi-agent AI systems). Это важный шаг, фиксирующий переход индустрии от оценки одиночных моделей к анализу целых экосистем.
В течение последнего десятилетия разработчики фокусировались на том, чтобы сделать отдельные ИИ-модели более способными и безопасными. Однако сейчас вектор развития меняется. В ближайшем будущем миллионы автономных агентов, созданных разными организациями, начнут взаимодействовать в общих цифровых пространствах. Они будут общаться, вести переговоры и совершать транзакции. До сих пор большинство проверок безопасности оценивали модели строго изолированно, что не отражает реалий завтрашнего дня.
Программа реализуется при поддержке Schmidt Sciences, Cooperative AI Foundation, агентства ARIA и Google.org. Финансирование будет направлено на четыре ключевые области. Первая — создание реалистичных песочниц (sandboxes) и испытательных стендов для симуляции виртуальных рынков и экосистем. Вторая — наука об агентных сетях, которая изучает, как возникают коллективные возможности и почему сети дают сбои.
A row of five translucent, colorful glass cubes arranged diagonally on a white surface, with a bright beam of white light passing directly through them.
Третье направление касается укрепления базовой инфраструктуры: стресс-тестирования протоколов идентификации и репутации для безопасного кроссплатформенного взаимодействия. Четвертая область посвящена разработке методов надзора и контроля за уже развернутыми популяциями агентов в реальном времени. Прием заявок от независимых и академических исследователей открыт до 8 августа 2026 года.
Когда большие группы ИИ-агентов начинают взаимодействовать, могут внезапно возникать новые, так называемые эмерджентные формы поведения. В настоящее время у исследователей нет надежных инструментов для прогнозирования и мониторинга таких переходов. Подобные взаимодействия способны спровоцировать непредсказуемые всплески экономической активности или создать принципиально новые угрозы кибербезопасности на системном уровне.
Переход к многоагентным системам неизбежен, и инициатива DeepMind показывает, что фокус безопасности смещается с архитектуры отдельной нейросети на социальную динамику машин. Ни одна лаборатория не способна решить эту проблему в одиночку. В ближайшие годы мы, вероятно, увидим формирование новых стандартов межплатформенного общения ИИ. Время покажет, насколько эффективными окажутся разрабатываемые механизмы контроля, но закладывать фундамент стабильности всей экосистемы необходимо уже сейчас.
Фокус безопасности ИИ смещается с тестирования одиночных моделей на контроль за непредсказуемым взаимодействием множества автономных агентов.
Главная угроза будущего кроется не в вычислительных мощностях отдельной модели, а в системных сбоях и эмерджентном поведении, которые возникают только при массовом общении программ между собой.
