Проблема выбора между безопасностью кода и скоростью разработки постепенно решается. Компании начали активно использовать автоматический режим с ИИ-классификатором, который позволяет безопасно запускать автономные процессы.
Интересно, что автоматический контролер справляется с блокировкой опасных команд лучше, чем живые люди при ручном одобрении. В компании Gusto, например, около 10% сессий содержат блокировки от ИИ-классификатора. Это позволяет агентам работать в 9 раз дольше без прерываний на бесконечное согласование каждого шага.
Инженеры Nuro пошли дальше и превратили агентов в полноценную ночную смену. Они запускают длительные исследовательские задачи вечером, чтобы утром просто проверить готовые решения и улучшенные метрики кода. Идеальный сотрудник: не спит, не просит повышения и сам себя контролирует.