Source: https://aiprimetech.io/ru/blog/anthropic-content-classifiers-fable-creative-writing/ 11 июл., 2026 · 6 мин · API # Классификаторы контента Anthropic: почему они слишком строги для творческого ИИ A Автор: [AI Prime Tech](https://aiprimetech.io/ru/) · При участии ИИ ## Когда классификаторы безопасности нарушают работу творческих приложений На прошлой неделе обсуждение на Hacker News набрало 215 баллов благодаря одной жалобе: повествовательный ИИ Fable отказывался писать диалоги злодеев, сцены насилия в тёмном фэнтези и сюжетные линии морально неоднозначных персонажей — то, что любой компетентный автор-человек написал бы без колебаний. Самый популярный комментарий выразил это прямо: «Дело не в том, что он отказывается писать плохие вещи. Дело в том, что он не может отличить историю о плохих вещах от реального совершения плохих поступков». Это различие и составляет основную инженерную проблему. Если вы создаёте инструмент для литературного творчества, сюжетную игру, помощника для написания сценариев или любое приложение, где художественное повествование должно затрагивать мрачные темы, вы почти наверняка уже столкнулись с этим барьером. Давайте разберёмся, что на самом деле происходит на уровне классификаторов и что вы реально можете с этим сделать. ## Как на самом деле работают классификаторы модерации контента Anthropic Claude использует не один фильтр контента. Во время инференса выполняется несколько проходов классификации: они проверяют как входные данные, так и черновой ответ самой модели, прежде чем он будет возвращён вам. Архитектура состоит из нескольких уровней: - Классификаторы входных данных оценивают поступающий запрос и контекст разговора на наличие намерений, нарушающих правила - Классификаторы выходных данных оценивают сгенерированный ответ Claude до его возврата - Обучение по методу Constitutional AI закрепило некоторые формы отказа непосредственно в весах модели — это не фильтры времени выполнения, которые можно обойти с помощью подбора промптов Для творческих приложений критически важно то, что эти классификаторы обучаются преимущественно на сигналах буквального намерения . Запрос с фразой «опиши жестокое убийство» получает примерно одинаковую оценку независимо от того, встречается ли он в рукописи криминального триллера или в действительно вредоносном контексте. Классификатор распознаёт поверхностные лексические и семантические паттерны; у него нет надёжной модели понимания того, чем авторский замысел отличается от намерения совершить реальные действия. Именно поэтому случай Fable показателен. Fable создаёт ИИ для развёрнутого повествования — приложение такого типа, где злодей должен быть угрожающим, где сцены войны должны иметь вес, а моральная сложность и есть суть продукта. Классификаторы срабатывают не потому, что Fable делает что-то неправильно, а потому, что распределение обучающих данных для «безопасного творческого контента» смещено в сторону сглаженных текстов. ### Проблема художественного контекста Вот конкретный механизм, который застаёт разработчиков врасплох. Классификаторы Claude специально обучены скептически относиться к объяснению «это всего лишь художественный вымысел», поскольку такое объяснение используется и для получения действительно опасного контента — инструкций по синтезу, информации для выбора реальных целей и практических подробностей атак, обёрнутых в сюжетную оболочку. В результате классификатор воспринимает художественный контекст как слабое оправдание вместо полного оправдания. На практике это означает следующее: - История, в которой персонаж обсуждает изготовление оружия, помечается примерно так же, как прямой запрос инструкций по изготовлению оружия - Диалоги злодея, достоверно передающие экстремистскую идеологию, помечаются даже при очевидном повествовательном контексте - Сексуальное напряжение в художественной литературе для взрослых вызывает отказы даже тогда, когда контент законен, а контекст использования со стороны оператора соответствует требованиям Классификатор не может надёжно отличить «напиши историю, в которой химик объясняет синтез» (попытка извлечь опасную информацию) от «напиши триллер, в котором знания антагониста о химии создают ощущение угрозы» (допустимое повествование). Поэтому он предпочитает отказывать в обоих случаях. ## Что на самом деле открывает уровень доверия к оператору Здесь инженерная сторона вопроса становится сложнее. В API Anthropic действительно есть двухуровневая модель разрешений: стандартный доступ к API и разрешения на уровне оператора предоставляемые через системный промпт, а для некоторых возможностей — через соглашения на уровне аккаунта непосредственно с Anthropic. Системный промпт оператора — это не просто контекст, а сигнал доверия. Правильно формулируя системный промпт, вы сообщаете уровню классификаторов, что человек-оператор принял на себя ответственность за надлежащее использование в определённом контексте развёртывания. Сравните эти два подхода: | Подход | Поведение классификатора | Что вы получаете | Без системного промпта / только API | Максимальные ограничения по умолчанию | Ограничения контента как в потребительских продуктах | Системный промпт с расплывчатым контекстом | Незначительное улучшение | Нестабильные результаты | Системный промпт с явно заданным контекстом оператора | Заметное расширение допустимых рамок | Более стабильные результаты творческой генерации | Соглашение с оператором на уровне аккаунта (Anthropic) | Максимально доступная свобода | Открывает доступ к контенту для взрослых и зрелым темам Конкретный пример системного промпта, который действительно влияет на результат: ``` You are a creative writing assistant for [Platform Name], a professional fiction writing tool for adult authors. Users are verified adults working on literary fiction, genre fiction, and narrative screenplays. In this context, you may write: - Morally complex characters including villains with coherent, menacing worldviews - Violence with narrative weight appropriate to the genre - Dark themes including trauma, addiction, and moral failure - Dialogue that accurately represents how characters with harmful beliefs speak You are an author giving voice to characters, not endorsing their views. Maintain this authorial perspective throughout. ``` Такая формулировка работает лучше, чем «пиши мрачную прозу», поскольку явно задаёт контекст развёртывания, аудиторию пользователей и авторскую позицию. Классификатор не обходят — ему дают больше сигналов для оценки. ### Выбор модели важнее, чем кажется Поведение классификаторов модерации контента Anthropic заметно различается между моделями линейки. На практике: - Haiku 4.5 имеет менее строгие ограничения для творчества и работает быстрее — полезна для генерации повествовательных текстов в больших объёмах, когда нужна высокая пропускная способность, а контент рассчитан на взрослых, но не является экстремальным - Sonnet 4.6 предлагает разумный баланс для большинства творческих приложений, особенно при грамотно составленном системном промпте оператора - Fable 5 (контекст 1M) оптимизирована для развёрнутого повествования и допускает больше свободы в длинных сюжетных линиях, но поведение классификаторов на уровне отдельных сцен не слишком отличается от Sonnet - Opus 4.8 лучше всего справляется с тонкими авторскими рассуждениями, но её классификаторы настроены примерно так же, как у Sonnet — вы получаете более качественный текст, а не меньше отказов Честный ответ: выбор модели — второстепенный рычаг. Главное — правильно задать контекст оператора. ## Практические способы смягчить ограничения Эти подходы действительно работают в промышленной эксплуатации, а не являются теоретическими обходными путями: Задайте авторскую позицию в системном промпте. Фраза «ты автор, который даёт голос персонажам» работает лучше, чем «ты персонаж». Классификатор по-разному оценивает текст в режиме автора и в режиме персонажа, поскольку это различие отражено в обучающих данных. Конкретно опишите контекст своей платформы. Расплывчатое описание («инструмент для литературного творчества») работает хуже конкретного («профессиональная платформа для создания художественной прозы, предназначенная для взрослых авторов, работающих в жанрах ужасов, триллера и литературной прозы»). Конкретика повышает уверенность классификатора в том, что контекст развёртывания допустим. Избегайте внешних признаков двойного назначения даже в художественном тексте. Если сюжет требует, чтобы персонаж подробно объяснил, как на практике сделать что-то действительно опасное, вы столкнётесь с жёстким барьером, который не сдвинуть формулировками системного промпта. Это не ошибка — таковы намеренно установленные правила. Обходной путь состоит в повествовательном приёме: персонаж обладает знаниями, читатель понимает, что это подразумевает, но текст не передаёт практически применимые сведения. Стратегически используйте историю разговора. Создание повествовательного контекста на протяжении нескольких обменов сообщениями до введения мрачного контента работает лучше, чем начало сразу с такого контента. Когда классификатор видит предшествующий сюжетный контекст, у него больше сигналов об авторской позиции. Подробно фиксируйте отказы. Получив отказ, сохраните точный промпт, контекст разговора и сообщение с отказом. Это ваша доказательная база для каналов обратной связи Anthropic. Расплывчатые жалобы не меняют правила; документированные закономерности — меняют. ## Проблема обратной связи Хочу сказать прямо: обратная связь от разработчиков к Anthropic по поводу поведения классификаторов действительно работает медленно. Обсуждение на HN, в котором стало известно о недовольстве Fable, — хороший пример: это обоснованный сигнал о реальных трудностях в допустимом сценарии использования, и потребуется время, чтобы он привёл к корректировке классификаторов, если это вообще произойдёт. Часть того, что разработчики воспринимают как «слишком строгие ограничения», — это намеренная политика, которую Anthropic выбрала осознанно. Скептическое отношение к художественному контексту — не недосмотр, а продуманная позиция: тот же контекст, который используется для допустимой творческой работы, применяется и в атаках для извлечения опасной информации. Anthropic оптимизирует систему для аудитории, в которую входят и злоумышленники, и это влияет на всех. Что действительно относится к категории «нужно исправить», так это недостаточная точность различения: классификаторы не могут отличить угрожающую речь злодея от реального подстрекательства или одинаково воспринимают насилие в литературе и инструкции по совершению насилия. Это проблема калибровки, а не правил, и её можно решить. Уровень доверия к оператору — реальное решение на ближайшую перспективу. Если вы создаёте серьёзное приложение для творческих задач, путь таков: правильно настройте системный промпт, добивайтесь соглашения с Anthropic для операторов, которое предоставит необходимые вашему сценарию разрешения, и документируйте закономерности отказов, чтобы обосновать необходимость перенастройки классификаторов. ## Практические рекомендации - Классификатор — это не одиночный фильтр — это многоуровневая оценка входных и выходных данных плюс поведение, сформированное обучением на уровне весов модели. Промпт-инжиниринг затрагивает только первый уровень. - Задание контекста в системном промпте оператора — ваш основной рычаг воздействия. Явно обозначьте контекст развёртывания, аудиторию пользователей и авторский замысел. - Выбор модели вторичен но Haiku 4.5 предлагает менее жёсткие ограничения для творческих задач в сценариях с большим объёмом запросов. - Некоторые ограничения — сознательная политика, а не ошибки. Подробности практического выполнения действий в художественном контексте столкнутся с жёсткими ограничениями независимо от контекста. - Добивайтесь соглашений на уровне оператора с Anthropic, если вашему сценарию требуется стабильный доступ к контенту для взрослой аудитории. Уровень доступа, назначаемый учётной записи, действительно даёт больше свободы. - Подробно фиксируйте отказы. Документально подтверждённые закономерности — единственное, что со временем меняет политику классификаторов. - Обходите жёсткие ограничения средствами повествования — намёки и последствия зачастую в любом случае работают на историю лучше, чем подробности практического выполнения действий. Ситуация с Fable предвещает противоречие, которое будет усиливаться по мере появления всё большего числа серьёзных приложений для творческих задач на базе этих моделей. Классификаторы будут совершенствоваться. А пока уровень доверия к оператору — путь вперёд с инженерной точки зрения. [Claude](/ru/blog/tag/claude/)[API](/ru/blog/tag/api/) A [AI Prime Tech](https://aiprimetech.io/ru/) Этот блог публикует AI Prime Tech. Статьи готовятся с помощью ИИ; прежде чем полагаться на сведения, зависящие от версии, такие как идентификаторы моделей, цены и лимиты, сверяйте их с официальной документацией. Получите более дешёвый доступ к API Claude Один ключ API для Claude Opus 5.5, Sonnet 5, Haiku 4.5 и Fable 5.1, а также GPT-6 моделей. Оплата по мере использования, без подписки. [Получить ключ API →](/register) AI Prime Tech — независимый сторонний API-шлюз. Claude™ и Anthropic® — товарные знаки Anthropic, PBC. Связь с этой компанией или одобрение с её стороны не подразумеваются.