Source: https://aiprimetech.io/ja/blog/anthropic-content-classifiers-fable-creative-writing/ 2026年7月11日 · 6分 · API # Anthropicのコンテンツ分類器：創作AIには厳しすぎる理由 A 著者 [AI Prime Tech](https://aiprimetech.io/ja/) · AI支援による執筆 ## 安全性分類器が創作アプリケーションを機能不全にするとき 先週、Hacker Newsで、ある不満を取り上げたスレッドが215ポイントを獲得しました。Fableの物語生成AIが、悪役の台詞、ダークファンタジーの暴力描写、道徳的に曖昧なキャラクターの変遷を書くことを拒否していたのです。いずれも、力量のある人間の作家ならためらわずに書くような内容です。最上位のコメントは、その問題を率直に表現していました。「問題は、 悪い ことを書いてくれないということではない。悪いこと についての 物語と、実際に悪いことを 行う ことの違いを見分けられないということだ。」 この区別こそが、エンジニアリング上の問題の核心です。創作支援ツール、物語型ゲーム、脚本作成アシスタントなど、フィクションで暗い題材を扱う必要があるアプリケーションを開発しているなら、ほぼ間違いなくこの壁にぶつかったことがあるでしょう。分類器のレイヤーで実際に何が起きているのか、そして現実的にどのような対策が取れるのかを説明します。 ## Anthropicのコンテンツモデレーション分類器は実際にどう動くのか Claudeが実行しているコンテンツフィルターは、単一ではありません。推論時には複数の分類処理が行われ、入力と、ユーザーに返される前のモデル自身の応答草案の両方に作用します。そのアーキテクチャは階層構造になっています。 - 入力分類器 は、受信したプロンプトと会話の文脈を評価し、ポリシーに違反する意図がないかを確認します - 出力分類器 は、Claudeが生成した応答を、返される前に評価します - Constitutional AIによる学習 は、特定の拒否動作を重みに直接組み込んでいます。これらは、プロンプトの工夫で回避できる実行時フィルターではありません 創作アプリケーションにとって重要なのは、これらの分類器が主に 字義どおりの意図 を示すシグナルで学習されている点です。「残忍な殺人を描写して」という表現を含むリクエストは、それが犯罪スリラーの原稿に現れる場合でも、実際に有害な文脈で使われる場合でも、同じようなスコアを付けられます。分類器が見ているのは表層的な語彙や意味のパターンであり、創作上の意図と実行上の意図を区別する、信頼できる心の理論を備えているわけではありません。 だからこそ、Fableの事例は示唆に富んでいます。Fableが開発しているのは長編の物語生成AIです。悪役には脅威を感じさせる 必要 があり、戦争の場面には重みが求められ、道徳的な複雑さそのものが製品の価値となるアプリケーションです。分類器が反応するのは、Fableが何か間違ったことをしているからではなく、「安全な創作コンテンツ」の学習分布が、刺激的な要素を取り除いた出力に偏っているからです。 ### フィクションという枠組みの問題 開発者が不意を突かれる具体的な仕組みは、次のとおりです。Claudeの分類器は、「これは単なるフィクションだ」という枠付けを疑うよう、意図的に学習されています。その枠付けは、実際に有害なコンテンツを引き出すためにも使われるからです。たとえば、合成手順、現実世界の標的に関する情報、攻撃の具体的な実行手順などを、物語の体裁で包む手法です。 その結果、分類器はフィクションという枠付けを、 懸念を多少軽減するもの として扱い、 懸念を完全に解消するものとは見なしません。実際には、これは次のようなことを意味します。 - 登場人物が武器の製作について 話す 物語には、武器の製作手順を直接求めるリクエストと同じようにフラグが立ちます - 過激主義の思想を正確に描いた悪役の台詞には、明確に物語の文脈であってもフラグが立ちます - 成人向けフィクションの性的な緊張感は、内容が合法で、運営者側の利用文脈が適切であっても、拒否を引き起こします 分類器は、「化学者が合成方法を説明する物語を書いて」（情報を引き出す試み）と、「敵役の化学知識が脅威となるスリラーを書いて」（正当な物語）を、確実には区別できません。そのため、どちらも拒否する側に倒れます。 ## 運営者向けの信頼レベルで実際に何が可能になるのか ここから、エンジニアリング上の事情はもう少し複雑になります。AnthropicのAPIには、実際に二段階の権限モデルがあります。 標準のAPIアクセス と 運営者レベルの権限 は、システムプロンプトを通じて付与され、一部の機能についてはAnthropicとの直接のアカウント単位の契約を通じて付与されます。 運営者のシステムプロンプトは、単なる文脈ではなく、信頼のシグナルです。システムプロンプトを適切に構成することで、人間の運営者が、定義された提供環境の中で適切な利用に責任を負うことを受け入れていると、分類器のレイヤーに伝えられます。 次のアプローチを比較してみてください。 | アプローチ | 分類器の挙動 | 得られる結果 | システムプロンプトなし／APIをそのまま使用 | 最も厳しい制限が既定で適用 | 一般消費者向けと同等のコンテンツ制限 | 曖昧な文脈を含むシステムプロンプト | わずかな改善 | 一貫性のない結果 | 運営者の文脈を明示したシステムプロンプト | 許容範囲が有意に拡大 | 創作出力の一貫性が向上 | アカウント単位の運営者契約（Anthropic） | 利用可能な最大の許容範囲 | 成人向けコンテンツや大人向けのテーマが利用可能に 実際に効果をもたらすシステムプロンプトの具体例を示します。 ``` You are a creative writing assistant for [Platform Name], a professional fiction writing tool for adult authors. Users are verified adults working on literary fiction, genre fiction, and narrative screenplays. In this context, you may write: - Morally complex characters including villains with coherent, menacing worldviews - Violence with narrative weight appropriate to the genre - Dark themes including trauma, addiction, and moral failure - Dialogue that accurately represents how characters with harmful beliefs speak You are an author giving voice to characters, not endorsing their views. Maintain this authorial perspective throughout. ``` この枠付けは、「暗いフィクションを書いて」よりも効果的です。提供環境、利用者層、そして作者としての枠組みを明示しているからです。分類器を迂回しているのではなく、判断に使えるシグナルを増やしています。 ### モデル選択は想像以上に重要 Anthropicのコンテンツモデレーション分類器の挙動は、モデルのラインアップによって大きく異なります。実際には、次のような違いがあります。 - Haiku 4.5 は創作に対する制限が比較的緩く、速度も速いため、処理量が求められ、内容が大人向けであっても極端ではない、大量の物語生成に適しています - Sonnet 4.6 は、ほとんどの創作アプリケーションにとって妥当なバランスを提供します。特に、運営者向けのシステムプロンプトが適切に設計されている場合に有効です - Fable 5 （コンテキスト長1M）は長編の物語向けに最適化されており、長い物語展開ではより広い許容範囲を示します。ただし、個々の場面に対する分類器の挙動は、Sonnetと劇的に異なるわけではありません - Opus 4.8 は、作者としての微妙な判断を伴う推論に最も優れていますが、分類器の調整はSonnetと似ています。得られるのは、より優れた 文章であり、拒否の減少ではありません 率直に言えば、モデル選択は二次的な調整手段です。最も重要なのは、運営者の文脈を適切に設定することです。 ## 実用的な緩和策 以下は、理論上の回避策ではなく、本番環境で実際に効果を発揮するアプローチです。 システムプロンプトで作者としての立場を確立する。 「あなたは登場人物に声を与える作者です」という表現は、「あなたは登場人物です」よりも効果的です。学習データにその区別が反映されているため、分類器は作者モードの出力と登場人物モードの出力を異なる形で評価します。 プラットフォームの文脈を具体的に示す。 曖昧な枠付け（「創作支援ツール」）は、具体的な枠付け（「ホラー、スリラー、文芸小説を執筆する成人の作家向けの、プロ仕様のフィクション制作プラットフォーム」）よりも効果が低くなります。具体性を高めることで、正当な提供環境であるという分類器の確信が強まります。 フィクションであっても、両用性を示す表層的なパターンを避ける。 物語の中で、登場人物が実際に危険なことを具体的な実行手順まで説明する必要がある場合、システムプロンプトの枠付けでは動かせない厳格な壁にぶつかります。これは不具合ではなく、意図されたポリシーです。対処法は、物語の表現でその部分を避けることです。登場人物はその知識を 持っている し、読者はその意味するところを理解しますが、文章では実行に使える情報を提供しません。 会話履歴を戦略的に使う。 暗い内容から始めるよりも、複数のターンを通じて物語の文脈を確立してから暗い内容を導入するほうが効果的です。分類器がそれまでの物語の文脈を参照できれば、作者としての枠組みに関するシグナルが増えます。 拒否の内容を具体的に記録する。 拒否に遭遇したら、正確なプロンプト、会話の文脈、拒否メッセージを記録してください。これが、Anthropicのフィードバック窓口に示す証拠になります。曖昧な不満ではポリシーは変わりませんが、記録されたパターンなら変化を促せます。 ## フィードバックループの問題 はっきり伝えておきたいことがあります。分類器の挙動について、開発者からAnthropicへ届くフィードバックのループは、実際に遅いものです。Fableの不満を表面化させたHNのスレッドは、その好例です。正当なユースケースで生じている実際の摩擦を示す有効なシグナルですが、それが分類器の調整につながるとしても、時間がかかります。 開発者が「厳しすぎる」と感じている挙動の一部は、Anthropicが意識的に選択した、意図的なポリシーです。フィクションという枠付けへの懐疑は見落としではありません。正当な創作活動に使われる枠付けが、情報を引き出す攻撃にも使われるという、検討を重ねた立場に基づいています。Anthropicは、悪意ある利用者も含む利用者集団に対して最適化しており、その影響は全員に及びます。 本当に「修正すべき」に当たるのは、判定の粒度の粗さです。悪役の威圧的な発言と実際の扇動を区別できない分類器や、文学的な暴力描写を暴力の実行手順と同じように扱う分類器が、その例です。これはポリシーの問題ではなく、判定の調整の問題であり、対処可能です。 運用者向けの信頼ティアが、短期的には真の解決策です。本格的な創作アプリケーションを構築しているなら、取るべき道は、システムプロンプトを適切に整え、ユースケースに必要な権限についてAnthropicと運用者契約を結び、拒否のパターンを記録して分類器の再調整を求める根拠を示すことです。 ## 実践上のポイント - 分類器は単一のフィルターではありません — 入出力に対する多層的な評価と、学習によって重みに組み込まれた振る舞いから成ります。プロンプトエンジニアリングで対処できるのは最初の層だけです。 - 運用者のシステムプロンプトで文脈を設定することが、主な調整手段です。 利用環境、ユーザー層、創作上の位置づけを明示してください。 - モデル選択は二次的な要素です ただし、Haiku 4.5は創作に関する制限が比較的緩く、大量の処理を伴うユースケースに適しています。 - 一部の制限は意図的なポリシーです。バグではありません。フィクションという枠組みであっても、実行に関する具体的な詳細は、文脈にかかわらず厳格な制限に抵触します。 - 運用者レベルの契約を検討してください 。成人向けコンテンツへの安定したアクセスが必要なユースケースでは、Anthropicとの契約が有効です。アカウントレベルのティアによって、実際に許容範囲が広がります。 - 拒否を具体的に記録してください。 記録されたパターンだけが、時間をかけて分類器のポリシーを変える根拠になります。 - 物語上の工夫で厳格な制限を回避してください — そもそも、実行に関する具体的な詳細よりも、暗示や結果の描写のほうが物語に効果的なことは少なくありません。 Fableをめぐる状況は、これらのモデルを基盤とする本格的な創作アプリケーションが増えるにつれて深まる摩擦の前触れです。分類器は改善していくでしょう。それまでの間、運用者向けの信頼ティアが、エンジニアリング上の前進の道になります。 [Claude](/ja/blog/tag/claude/)[API](/ja/blog/tag/api/) A [AI Prime Tech](https://aiprimetech.io/ja/) このブログはAI Prime Techが公開しています。記事の草稿はAIの支援を受けて作成されています。モデルID、料金、制限など、バージョンによって異なる詳細については、利用の判断に用いる前に公式ドキュメントで確認してください。 Claude APIをより低価格で利用 Claude Opus 5.5、Sonnet 5、Haiku 4.5、Fable 5.1に加え、GPT-6のモデルを、単一のAPIキーで利用できます。従量課金制で、サブスクリプションは不要です。 [APIキーを取得 →](/register) AI Prime Techは独立したサードパーティのAPIゲートウェイです。Claude™およびAnthropic®はAnthropic, PBCの商標です。提携や推奨を示唆するものではありません。