Google DeepMind выделяет $10 млн на изучение безопасности многоагентных систем
Инициатива направлена на исследование непредсказуемого поведения автономных ИИ-агентов при их массовом взаимодействии в общих цифровых средах.
Google DeepMind совместно с партнерами запустила новую грантовую программу с фондом до 10 миллионов долларов. Инициатива направлена на поддержку исследователей по всему миру, занимающихся проблемами безопасности многоагентных систем искусственного интеллекта (multi-agent AI systems). Это важный шаг, фиксирующий переход индустрии от оценки одиночных моделей к анализу целых экосистем.
В течение последнего десятилетия разработчики фокусировались на том, чтобы сделать отдельные ИИ-модели более способными и безопасными. Однако сейчас вектор развития меняется. В ближайшем будущем миллионы автономных агентов, созданных разными организациями, начнут взаимодействовать в общих цифровых пространствах. Они будут общаться, вести переговоры и совершать транзакции. До сих пор большинство проверок безопасности оценивали модели строго изолированно, что не отражает реалий завтрашнего дня.
Программа реализуется при поддержке Schmidt Sciences, Cooperative AI Foundation, агентства ARIA и Google.org. Финансирование будет направлено на четыре ключевые области. Первая — создание реалистичных песочниц (sandboxes) и испытательных стендов для симуляции виртуальных рынков и экосистем. Вторая — наука об агентных сетях, которая изучает, как возникают коллективные возможности и почему сети дают сбои.
A row of five translucent, colorful glass cubes arranged diagonally on a white surface, with a bright beam of white light passing directly through them.
Третье направление касается укрепления базовой инфраструктуры: стресс-тестирования протоколов идентификации и репутации для безопасного кроссплатформенного взаимодействия. Четвертая область посвящена разработке методов надзора и контроля за уже развернутыми популяциями агентов в реальном времени. Прием заявок от независимых и академических исследователей открыт до 8 августа 2026 года.
Когда большие группы ИИ-агентов начинают взаимодействовать, могут внезапно возникать новые, так называемые эмерджентные формы поведения. В настоящее время у исследователей нет надежных инструментов для прогнозирования и мониторинга таких переходов. Подобные взаимодействия способны спровоцировать непредсказуемые всплески экономической активности или создать принципиально новые угрозы кибербезопасности на системном уровне.
Переход к многоагентным системам неизбежен, и инициатива DeepMind показывает, что фокус безопасности смещается с архитектуры отдельной нейросети на социальную динамику машин. Ни одна лаборатория не способна решить эту проблему в одиночку. В ближайшие годы мы, вероятно, увидим формирование новых стандартов межплатформенного общения ИИ. Время покажет, насколько эффективными окажутся разрабатываемые механизмы контроля, но закладывать фундамент стабильности всей экосистемы необходимо уже сейчас.
TL;DR
Главное
Фокус безопасности ИИ смещается с тестирования одиночных моделей на контроль за непредсказуемым взаимодействием множества автономных агентов.
Ключевые факты
- /Объем грантового фонда составляет до $10 млн.
- /Выделено 4 направления: песочницы, наука о сетях, инфраструктура и надзор.
- /Прием заявок продлится до 8 августа 2026 года.
Инсайт
Главная угроза будущего кроется не в вычислительных мощностях отдельной модели, а в системных сбоях и эмерджентном поведении, которые возникают только при массовом общении программ между собой.
