Azure認定資格 WEB問題集＆徹底解説

会員登録/ログイン

正解

A. ユーザーからの入力プロンプトとモデルの応答の両方を対象に、暴力的表現やヘイトスピーチなど有害なカテゴリのコンテンツを検出してブロックする機能

Foundry Models（Azure OpenAI のモデルを含む）には、文字起こしモデルを除き既定の安全ポリシー（DefaultV2）が自動で適用されます。
その中核であるコンテンツフィルターは、ヘイトと公平性・性的・暴力・自傷行為の 4 つの害カテゴリについて、ユーザーのプロンプト（入力）とモデルの応答（出力）の両方を分類モデルにかけ、重大度が「中」以上のものをブロックします。

このほか既定では、プロンプト側でジェイルブレイク（ユーザープロンプト攻撃）の検出、応答側で保護された素材（既知の文章やコード）の検出も有効です。選択肢の記述は、この既定の仕組みの中核を正しく表しています。

B. モデルが生成した文章に含まれる著作権侵害の疑いがある表現を検出し、自動的に匿名の要約へ置き換える機能

「著作権」に関係する機能として、保護された素材（protected material）の検出は実在し、既定でも応答側に適用されます。
しかしこれは、歌詞や記事などの既知の文章や公開されたコードと一致する出力を検出してブロックしたり注釈を付けたりする機能であり、匿名の要約へ書き換えて出力し直す機能はありません。

コンテンツフィルターの動作は「判定して止める（または印を付ける）」であって、「内容を加工して差し替える」ではない点が誤りです。

C. モデルの応答に含まれる事実誤りの疑いを検出し、ユーザーへ警告メッセージのみを表示する機能

コンテンツフィルターが判定するのは、有害性（害のカテゴリと重大度）や攻撃・保護された素材であり、応答の内容が事実として正しいかどうかは判定しません。
事実誤り（ハルシネーション）への対策は、RAG で根拠データを与える、応答が根拠データに基づいているかを評価する（groundedness の評価）など、別の仕組みで行います。

「安全ポリシーなら何でも検査してくれる」と考えると選んでしまう誤答です。

D. ユーザーからの入力プロンプトだけを対象に有害なカテゴリのコンテンツを検出してブロックし、モデルの応答はアプリケーション側で別途検査することを前提とする機能

「入力プロンプトだけを対象」とする点が誤りです。既定の安全ポリシーでは、4 つの害カテゴリのフィルターはプロンプトと応答の両方を評価します。
モデルは無害に見える質問からでも有害な文章を生成し得るため、出力側もサービス側で検査するのが既定の設計で、アプリケーション側の検査を前提にしてはいません。

なお、ジェイルブレイク検出のように入力側だけに掛かる項目もあるため、それと混同させる狙いの選択肢です。

正解への思考ルート

問題文から要件を抽出し、選択肢の適否を判断するのがポイントです。

要件	判断ポイント
コンテンツフィルターが判定する対象	判定するのは有害なカテゴリと重大度。応答が事実として正しいかどうかは判定対象外 →選択肢（C）を消す
フィルターが有害なコンテンツを見つけたときの動作	動作はブロック（または注釈）。内容を要約に書き換えて出し直すことはしない →選択肢（B）を消す
入力と出力のどちらを検査するか	4 つの害カテゴリはプロンプトと応答の両方を評価する。入力だけでは、無害な質問から生じた有害な応答を止められない →選択肢（D）を消す
既定の安全ポリシー（DefaultV2）の中核	ヘイトと公平性・性的・暴力・自傷行為を「中」以上でブロックし、入力と応答の両方が対象 →選択肢（A）が正解

ひっかけポイント

• 選択肢 D は「入力の有害コンテンツをブロックする」までは正しいため、半分正しい記述に引っかかりやすい。誤りは「だけ」「別途検査することを前提」という限定。ジェイルブレイク検出はプロンプト側のみだが、害カテゴリのフィルターは両側に掛かる
• 選択肢 B は保護された素材の検出という実在機能を下敷きにした誤答。既定でも応答に適用されるが、動作は検出してブロック／注釈で、要約への自動置換はしない
• 選択肢 C の「事実誤り」はコンテンツフィルターの守備範囲外。安全（有害かどうか）と正確さ（事実かどうか）は別の問題として扱われる
• ブロックの返り方も入力と出力で異なる。入力がブロックされるとエラー応答、出力がブロックされると finish_reason が content_filter の応答が返る。どちらの方向にもフィルターが働く証拠として覚えておく

出題バリエーション

同じ知識が本番では条件を変えて出題されます。

問題文がこう変わったら	正解はこう変わる
「既定より厳しく（重大度の低いものも）ブロックしたい／独自の禁止語を止めたい」	ガードレール（コンテンツフィルター）のしきい値を調整したカスタム構成やブロックリストの追加が正解に。
「プロンプトにモデルの指示を無視させる攻撃が含まれていないか検出したい」	プロンプトシールド（ユーザープロンプト攻撃の検出）が正解。既定で入力側に有効。
「RAG で取り込む外部文書に埋め込まれた攻撃も検出したい」	ドキュメント攻撃の検出が正解。既定ではオフなので有効化が必要。
「応答が参照データに基づいているか確かめたい」	コンテンツフィルターではなく、根拠性（groundedness）の評価など別の仕組みが正解軸に。
「音声の文字起こしモデルをデプロイした場合も同じ既定ポリシーが掛かるか」	文字起こしモデルは既定の安全ポリシーの対象外（別の安全構成）という例外が問われ得る。

関連サービスの解説

Azure OpenAI Service

リファレンス

この問題を解くために必要な知識を扱う公式ドキュメントです。

知識項目	公式ドキュメント
既定の安全ポリシー（DefaultV2）の対象カテゴリと入力・出力の適用範囲	Microsoft Foundry の既定の安全ポリシー