AWS認定資格 WEB問題集&徹底解説

生成AIデベロッパー-プロフェッショナル

正解 B,C問題
分野3:AI の安全性、セキュリティ、ガバナンス タスクステートメント3.1:入力・出力の安全性制御の実装
合格に向けて、もっと深く学習する
豊富な問題と詳細なAWSサービス解説を、24時間無料でお試しいただけます
プレミアム会員機能を無料で試す ❯
問題文と選択肢
ある人事コンサルティング会社は、顧客企業の就業規則PDFから休暇条項(有給休暇、忌引休暇などの種別・付与日数・取得条件)を抽出する社内アシスタントを、Amazon Bedrockを用いて提供している。運用開始後、実際には就業規則に記載されていない休暇条項をモデルが生成してしまう事例が複数報告された。

GenAI開発者として、生成される休暇条項の正確性を検証し、このハルシネーションを低減するために実装すべき対応策はどれか。(2つ選択)
  • Amazon Bedrock Guardrailsの「機密情報」フィルタを設定し、休暇条項の説明に含まれる従業員の氏名や部署名をマスキングする
  • 抽出された休暇条項の文と就業規則原文との間で埋め込みベースの意味的類似度スコアを算出する後処理ワークフローを実装し、一定のしきい値を下回った結果は破棄またはレビューへ回す
  • 期待される休暇条項の項目(休暇種別、付与日数、取得条件など)を表すJSONスキーマをモデルへの指示に含め、自由記述ではなく構造化された出力のみを許可する
  • Amazon SageMaker JumpStartを使って社内の就業規則データセットでモデルを追加学習し、休暇条項の抽出に特化したファインチューニング済みモデルへ切り替える
  • Amazon CloudWatchでモデル呼び出しのレイテンシとトークン数を監視し、しきい値を超えた呼び出しを異常として検知する
解説 頻出度★★★★
この問題は、「原文に無い休暇条項が生成される × 正確性を検証したい × ハルシネーションを低減したい」という要件で、原文との突き合わせによる検証(意味的類似度スコアリング)出力の自由度を絞る構造化出力の強制という補完関係にある 2 施策を選べるかがポイント

A. Amazon Bedrock Guardrailsの「機密情報」フィルタを設定し、休暇条項の説明に含まれる従業員の氏名や部署名をマスキングする

Amazon Bedrock Guardrails の機密情報フィルタは、氏名や部署名などのPII を検出してマスキングするプライバシー保護の機能です。
個人情報が出力されるかどうかと、就業規則に書かれていない休暇条項が捏造されるかどうかは無関係で、マスキングをかけても存在しない条項はそのまま出力され続けます。要件である「正確性の検証」にも「ハルシネーションの低減」にも寄与しません。

正解

B. 抽出された休暇条項の文と就業規則原文との間で埋め込みベースの意味的類似度スコアを算出する後処理ワークフローを実装し、一定のしきい値を下回った結果は破棄またはレビューへ回す

抽出された休暇条項の文と就業規則原文との意味的類似度を埋め込みで算出し、しきい値を下回った結果を破棄またはレビューへ回す後処理は、まさに「生成結果が原資料に根拠を持つか」を検証するグラウンディングの実装です。
原文に対応する記述が無い条項は類似度が低く出るため、捏造された条項を利用者に届く前に止められます
しきい値の調整で「破棄」と「人によるレビュー」を切り分けられ、人事という誤りの許されない領域で Human-in-the-loop を組み込める点でも要件に合致する正解です。

正解

C. 期待される休暇条項の項目(休暇種別、付与日数、取得条件など)を表すJSONスキーマをモデルへの指示に含め、自由記述ではなく構造化された出力のみを許可する

期待する項目(休暇種別・付与日数・取得条件)を JSON スキーマとして指示に含め、自由記述ではなく構造化された出力のみを許可すると、モデルが説明文を膨らませる過程で条項を創作する余地そのものが狭まります。
Amazon Bedrock の構造化出力では、スキーマに準拠した解析可能な出力が保証されるため、項目単位での機械的な検証(必須項目の欠落・型・値域のチェック)を後段に組み込めるようになります。
AWS もハルシネーション低減策として「JSON Schema による構造化出力の強制」を挙げており、選択肢 B の検証と組み合わせることで「生成を縛る」+「結果を検証する」の多層防御になる正解です。

D. Amazon SageMaker JumpStartを使って社内の就業規則データセットでモデルを追加学習し、休暇条項の抽出に特化したファインチューニング済みモデルへ切り替える

ファインチューニングはモデルの出力傾向を寄せるだけで、ハルシネーションを無くす保証はありません。本サービスは顧客企業ごとに異なる就業規則 PDF を都度読み取るため、社内データで追加学習しても目の前の PDF に書かれていない条項の捏造は防げません(必要なのは学習ではなく原文へのグラウンディング)。
加えて学習データの整備・モデルのホスティングと再学習という運用負荷が重く、要件の「正確性の検証」にはまったく答えていません。

E. Amazon CloudWatchでモデル呼び出しのレイテンシとトークン数を監視し、しきい値を超えた呼び出しを異常として検知する

Amazon CloudWatch によるレイテンシーとトークン数の監視は、性能・コスト面の運用監視であって出力内容の正しさを見る仕組みではありません。
捏造された休暇条項は正常な応答時間・妥当なトークン数で返ってくるため、この監視ではまったく検知できません。ハルシネーション率を追うのであれば、ゴールデンデータセットや検証結果のスコアを指標として送信する設計が別途必要です。

これだけ覚える(記憶フック)
ハルシネーション対策は「原文と突き合わせて検証」+「出力形式を縛る」。PII マスキングも監視も再学習も的外れ。
正解への思考ルート 問題文から要件を抽出し、選択肢の適否を判断するのがポイントです。
要件 判断ポイント
就業規則に記載されていない休暇条項をモデルが生成してしまう 原因は出力が原文に接地していないこと。原文との突き合わせで検証する仕組みが要る
→選択肢(B)が正解
生成される内容の「正確性を検証」したい 意味的類似度スコアとしきい値で破棄/レビュー行きを機械的に振り分ける後処理が定石
→選択肢(B)が正解
ハルシネーションそのものを「低減」したい JSON スキーマで出力を構造化し、自由記述で創作する余地を削る
→選択肢(C)が正解
顧客企業ごとに異なる就業規則 PDF を読み取る用途 社内データでの追加学習では目の前の PDF に無い条項の捏造は防げない
→選択肢(D)を消す
対策として的外れなもの(プライバシー保護・性能監視) PII マスキングは個人情報の保護、レイテンシー/トークン監視は性能・コストの話で、いずれも出力の事実性とは無関係
→選択肢(A・E)を消す
ひっかけポイント
  • 選択肢 A の Guardrails は「Amazon Bedrock の安全性機能」なので正解に見えるが、機密情報フィルタは PII のマスキング。ハルシネーション対策として Guardrails を挙げるなら根拠づけ(コンテキストグラウンディング)の機能であって、機密情報フィルタではない
  • 選択肢 D のファインチューニングは「専用モデルにすれば精度が上がる」という思い込みを突く。顧客ごとに文書が変わる抽出タスクでは、学習ではなく原文へのグラウンディングが解
  • 選択肢 E は「CloudWatch で監視」という運用の定番文言で選ばせにくる。捏造された条項は正常なレイテンシー・トークン数で返るため検知できない
  • 選択肢 C の構造化出力は単独では事実性を保証しない。「創作の余地を狭める」B と「結果を検証する」の 2 段構えで初めて要件を満たすという、複数応答問題特有の補完関係に気づけるかが分かれ目
出題バリエーション 同じ知識が本番では条件を変えて出題されます。
問題文がこう変わったら 正解はこう変わる
Amazon Bedrock のマネージド機能だけでハルシネーションを抑えたい」 Guardrails のコンテキストグラウンディングチェック(根拠性・関連性スコアでブロック)が正解軸に。
「そもそも参照する就業規則を確実に読ませたい Amazon Bedrock Knowledge Bases による RAG グラウンディングと出典の提示が正解軸に。
「ハルシネーションの発生率を継続的に可視化したい」 ゴールデンデータセットによる定期評価+Amazon CloudWatch のカスタムメトリクスが正解軸に。
「誤りが許されないので人の確認を必ず挟みたい AWS Step Functions と Amazon A2I による Human-in-the-loop の承認ワークフローが正解軸に。
関連サービスの解説 Amazon Bedrock
Amazon SageMaker
リファレンス この問題を解くために必要な知識を扱う公式ドキュメントです。
知識項目 公式ドキュメント
JSON Schema による構造化出力の強制(スキーマ準拠の保証) モデルから検証済みの JSON 結果を取得する - Amazon Bedrock
+ 質問 / コメント
解答・解説に疑問がある場合や、よりよい解説がある場合など、お気軽にコメントください。ただし、短文コメントは表示されません。また、中傷などコメントの内容によっては、会員機能を停止させて頂きます。教え学び合える場になれば嬉しいです。(コメント投稿にはログインが必要です)
正答率 0%
No.9 解説
ある人事コンサルティング会社は、顧客企業の就業規則PDFから休暇条項(有給休暇、忌引休暇などの種別・付与日数・取得条件)を抽出する社内アシスタントを、Amazon Bedrockを用いて提供している。運用開始後、実際には就業規則に記載されていない休暇条項をモデルが生成してしまう事例が複数報告された。

GenAI開発者として、生成される休暇条項の正確性を検証し、このハルシネーションを低減するために実装すべき対応策はどれか。(2つ選択)
  • Amazon Bedrock Guardrailsの「機密情報」フィルタを設定し、休暇条項の説明に含まれる従業員の氏名や部署名をマスキングする
  • 抽出された休暇条項の文と就業規則原文との間で埋め込みベースの意味的類似度スコアを算出する後処理ワークフローを実装し、一定のしきい値を下回った結果は破棄またはレビューへ回す
  • 期待される休暇条項の項目(休暇種別、付与日数、取得条件など)を表すJSONスキーマをモデルへの指示に含め、自由記述ではなく構造化された出力のみを許可する
  • Amazon SageMaker JumpStartを使って社内の就業規則データセットでモデルを追加学習し、休暇条項の抽出に特化したファインチューニング済みモデルへ切り替える
  • Amazon CloudWatchでモデル呼び出しのレイテンシとトークン数を監視し、しきい値を超えた呼び出しを異常として検知する

(会員限定)当問題の評価をお願いします。改善に活用します。