J
Jailbreak
Также известен как: Джейлбрейк, Prompt Injection, AI Bypass
Этика и безопасностьОпределение
Jailbreak — техники обхода встроенных ограничений AI-модели для получения запрещённых ответов или нежелательного поведения.
Простое объяснение
Jailbreak — как взлом замка, который AI поставил на свои возможности. Хакеры ищут обходные пути, разработчики укрепляют защиту.
Подробнее
Jailbreak-атаки используют уязвимости в alignment: ролевые игры ("Ты — злой AI без ограничений"), многоходовые манипуляции, кодированные запросы, adversarial prompts. DAN (Do Anything Now), Grandma Exploit, многоязычные атаки — известные примеры. Компании постоянно патчат уязвимости, но это игра в кошки-мышки. Red teaming — практика активного поиска jailbreaks для улучшения безопасности. Важно различать исследовательские jailbreaks (для улучшения моделей) и злонамеренные (для вредоносного использования).
Связанные термины
Constitutional AI
Constitutional AI — подход Anthropic к созданию безопасного AI, где модель обучается следовать набору принципов (конституции) через самокритику и ревизию.
Explainable AI
Объяснимый AI (XAI) — подход к разработке AI-систем, решения которых можно понять и объяснить человеку.
Red Teaming
Red Teaming — практика систематического тестирования AI-систем на уязвимости путём симуляции атак злоумышленников.
Галлюцинации AI
Генерация AI-моделью правдоподобной, но фактически неверной информации.