Безопасность биологического ИИ: анализ 1200 моделей показал дефицит защитных мер

Суть события

Исследовательская группа Epoch AI совместно с Sentinel Bio выпустила масштабный отчет, в котором проанализировала базу данных из 1196 моделей искусственного интеллекта, применяемых в биологии. Это модели, созданные или обновленные после сентября 2024 года. Главный вывод исследования вызывает тревогу у специалистов по биобезопасности: подавляющее большинство этих инструментов не имеют задокументированных оценок рисков или встроенных механизмов защиты.

Это важно, потому что биологический ИИ — это технология двойного назначения. Те же алгоритмы, что помогают разрабатывать новые лекарства, теоретически могут быть использованы для создания токсинов или модификации патогенов. Отсутствие культуры безопасности на ранних этапах развития отрасли может привести к серьезным уязвимостям в будущем.

Контекст

Биология становится одной из главных арен для применения ИИ. Если раньше мы говорили в основном о генерации текста или картинок, то теперь нейросети проектируют белки и молекулы. Две самые популярные категории в базе данных Epoch AI — это белковая инженерия (protein engineering) и дизайн малых биомолекул (small biomolecule design). Вместе они составляют почти половину всех изученных моделей.

Ранее в индустрии не было единого реестра, позволяющего оценить масштаб и характеристики таких разработок. Epoch AI собрали данные, используя автоматизированный поиск по научным статьям и препринтам, с последующей ручной проверкой наиболее значимых проектов.

Детали и цифры

Статистика, представленная в отчете, указывает на значительный разрыв между темпами разработки и внедрением стандартов безопасности:

• Низкий уровень оценки рисков: Только 2,5% всех моделей имеют задокументированную процедуру оценки рисков перед релизом. Лишь 2,3% сообщают о проведении тестов, связанных с безопасностью.