MagicSchool (Q&A по безопасности)
8-10 млн сообщений учеников модерируется в реальном времени ежемесячно
Бизнес-задача
Ложные срабатывания на сигналы самоповреждения и психологического дистресса подрывали доверие школ
Что внедрили
Слой безопасности, модерирующий сообщения учеников в реальном времени по требованиям Claude API для несовершеннолетних
Измеримый эффект
8-10 млн сообщений учеников модерируется в реальном времени ежемесячно; x3 снижение доли ложных срабатываний по ключевым категориям; охват 7 млн педагогов в 13 000 школ и округов
Как измеряли
Замер доли ложных срабатываний до и после итераций промпта
Сроки: Ежемесячно
Цифры взяты из публикации компании (q&a) и не проверялись независимо. Оценивайте достоверность по описанию методики выше. Первоисточник
Хотите так же?
Как проектировать такие внедрения - от первого автономного цикла до команд ИИ-агентов - разбираем в бесплатном флагманском курсе.
Курс Graph Engineering