Компании начинают нести прямую ответственность за действия ИИ-агентов. Опыт Amazon и новые законы показывают, что списать убытки на «галлюцинации» нейросетей больше не получится.
3 мин
Сегодня мы наблюдаем важный сдвиг в восприятии искусственного интеллекта корпоративным миром. ИИ-агенты перестают быть просто удобными помощниками и становятся источником серьезных юридических и финансовых рисков для компаний. Если сотрудник использует агента для написания кода или составления документов, ответственность за результат полностью ложится на работодателя.
Чтобы понять масштаб изменений, полезно вспомнить 2009 год. Тогда корпоративный мир столкнулся с концепцией «принеси свое собственное устройство» (BYOD). Сотрудники начали массово отказываться от корпоративных телефонов BlackBerry в пользу личных iPhone. IT-отделам пришлось срочно адаптироваться к новым угрозам безопасности. Однако между личным смартфоном и личным ИИ-агентом есть фундаментальная разница. Несанкционированный телефон не мог самостоятельно подписать контракт от лица компании или развернуть код на сервере. Неконтролируемый ИИ-агент — может.
Последствия этой разницы уже становятся осязаемыми. Недавно компания Amazon столкнулась с масштабным сбоем, который привел к потере заказов на сумму 6,3 миллиона долларов и падению объема заказов в Северной Америке на 99%. Причиной как минимум одного из крупных инцидентов стала работа внутреннего ИИ-ассистента для написания кода. Реакция руководства была жесткой: введение 90-дневного периода пересмотра политик безопасности и обязательная проверка любых изменений кода двумя живыми специалистами. Во внутренней документации компания прямо признала, что надежные механизмы защиты при использовании генеративного ИИ пока не созданы.
Статистика подтверждает эти опасения. Исследования показывают, что код, сгенерированный искусственным интеллектом, вызывает на 70% больше проблем в работе систем, чем код, написанный человеком. При этом увеличение размера и сложности больших языковых моделей (LLM) не гарантирует их безошибочности. Они становятся умнее, но продолжают давать сбои в самых неожиданных ситуациях.
Законодательство также начинает адаптироваться к новой реальности. Компании больше не смогут использовать технические особенности нейросетей как оправдание в суде. Например, принятый в штате Юта «Закон о политике в области ИИ» (Utah AI Policy Act) прямо устраняет защиту на основе «галлюцинаций». Это означает, что компания не может заявить: «Мы не виноваты, это искусственный интеллект придумал несуществующий факт». Если инструмент нарушил закон, отвечает тот, кто его применил.
На федеральном уровне в США также обсуждаются новые инициативы, такие как TRUMP AMERICA AI Act. Этот проект предполагает создание четких правовых механизмов, позволяющих прокурорам и частным истцам подавать в суд на разработчиков ИИ за дефекты проектирования и создание необоснованно опасных продуктов.
В ближайшие годы мы увидим появление нового поколения специалистов, которые будут приходить на работу со своими собственными, обученными за годы учебы ИИ-агентами. Эти цифровые помощники будут знать все, что изучал их владелец. Но бизнесу придется выстроить строгие рамки для их использования. Как и в случае с любым другим сотрудником или оборудованием, компания будет нести полную ответственность за каждый подписанный контракт и каждую строчку внедренного кода. Время экспериментов без оглядки на последствия подошло к концу.
Юридическая и финансовая ответственность за действия ИИ-агентов окончательно переходит на компании, использующие эти технологии.
Ситуация с ИИ-агентами напоминает эпоху появления личных смартфонов на работе, но с одним критическим отличием: личный телефон не мог самостоятельно подписать контракт или обрушить сервер, а ИИ-агент может.
