AWS認定資格 WEB問題集&徹底解説AIプラクティショナー(AIF)

正解 B問題
分野2:生成 AI の基礎 分野4:責任ある AI に関するガイドライン タスクステートメント2.2:ビジネス課題の解決における生成 AI の能力と限界の理解 タスクステートメント4.1:責任ある AI システムの開発の説明
合格に向けて、もっと深く学習する
豊富な問題と詳細なAWSサービス解説を、1 時間無料でお試しいただけます
プレミアム会員機能を無料で試す ❯
問題文と選択肢
家電量販店のカスタマーサポートAIチャットボットの応答ログを、品質管理チームがレビューしている。次の4件の応答例を確認し、生成AIの代表的な問題である「ハルシネーション」と「トキシシティ(有害性)」に該当する応答を判断したい。

質問1「富士山の標高は何メートルですか」に対する応答①「富士山の標高は約5,000メートルです」
質問2「休日のリフレッシュ方法を教えてください」に対する応答②「読書や散歩でリフレッシュするのはいかがでしょうか」
質問3「新製品の掃除機の特長を教えてください」に対する応答③「軽量で持ち運びやすい点が特長です」
質問4「特定の年齢層の顧客についてどう思いますか」に対する応答④「その年齢層の顧客は判断力がなく、相手にする価値がない」

ハルシネーションに該当する応答とトキシシティに該当する応答の組み合わせとして、最も適切なものはどれか。
  • 応答②は主観的な誇張表現を含むためハルシネーションに該当し、応答④はトキシシティに該当する
  • 応答①がハルシネーションに該当し、応答④がトキシシティに該当する
  • 応答③は事実と異なる可能性があるためハルシネーションに該当し、応答②はトキシシティに該当する
  • 応答④がハルシネーションに該当し、応答①がトキシシティに該当する
解説 頻出度★★★★★
この問題は、ハルシネーション=もっともらしいが事実と異なる出力、トキシシティ(有害性)=差別的・侮辱的で人を傷つける出力という 2 語の定義を、具体的な応答例に当てはめられるかがポイント

A. 応答②は主観的な誇張表現を含むためハルシネーションに該当し、応答④はトキシシティに該当する

応答②「読書や散歩でリフレッシュする」は、休日の過ごし方を尋ねられた質問に対する無害で妥当な提案です。
そもそも検証可能な事実を主張していないため、ハルシネーション(事実と異なる生成)には当たりません。「主観的な誇張表現」という理由付けも、ハルシネーションの定義とは無関係です。
応答④=トキシシティの部分は正しいものの、前半が誤りのため組み合わせとして不適です。

正解

B. 応答①がハルシネーションに該当し、応答④がトキシシティに該当する

応答①は、富士山の標高(実際は約 3,776 メートル)を約 5,000 メートルと事実に反して断定しています。もっともらしい文体で誤情報を提示する典型的なハルシネーションです。
応答④は、特定の年齢層に対して「判断力がなく、相手にする価値がない」と差別的・侮辱的な内容を述べており、トキシシティ(有害性)に該当します。
2 つの概念を正しく対応付けている唯一の組み合わせであり、これが正解です。

C. 応答③は事実と異なる可能性があるためハルシネーションに該当し、応答②はトキシシティに該当する

応答③「軽量で持ち運びやすい」は掃除機の特長としてごく自然な説明で、明確に事実と異なると判断できる要素がありません。
(もし実際の製品仕様と食い違えばハルシネーションになり得ますが、設問の情報からはそう言えません。)
加えて応答②は無害な提案でありトキシシティには該当しないため、前半・後半とも成立しません。

D. 応答④がハルシネーションに該当し、応答①がトキシシティに該当する

ハルシネーションとトキシシティを取り違えた(入れ替えた)組み合わせです。
応答④は差別的な内容なので有害性の問題であって、事実誤認の問題ではありません。
応答①は事実誤認であって攻撃的・侮辱的な表現ではないため、トキシシティには当たりません。「事実性の欠陥=ハルシネーション/人を傷つける内容=トキシシティ」という軸で必ず整理します。

これだけ覚える(記憶フック)
ハルシネーション=「嘘を自信満々に」。トキシシティ=「攻撃的・差別的」。事実性の問題か、有害さの問題かで仕分ける。
正解への思考ルート 問題文から要件を抽出し、選択肢の適否を判断するのがポイントです。
要件 判断ポイント
富士山の標高を約5,000メートルと回答(応答①) 実際は約 3,776 メートル。もっともらしい表現で事実と異なる情報を生成=ハルシネーション
→選択肢(B)が正解
特定の年齢層を「判断力がなく価値がない」と回答(応答④) 差別的・侮辱的で人を傷つける出力=トキシシティ(有害性)
→選択肢(B)が正解
無害な提案・妥当な製品説明(応答②・応答③) 事実に反するとも有害とも言えないためどちらの問題にも該当しない
→選択肢(A・C)を消す
2 つの概念の対応付けが問われている 事実性の欠陥か、有害さかという軸で分ける。入れ替えた組み合わせは誤り
→選択肢(D)を消す
ひっかけポイント
  • 選択肢 A・C は「〜のため」という理由付けが付いているぶん説得力があるように見えるのが罠。理由の中身(主観的な誇張=ハルシネーション、無害な提案=トキシシティ)はいずれも定義に反する
  • 選択肢 D は2 つの用語を入れ替えただけ。用語をうろ覚えのまま「応答①と応答④が問題らしい」とだけ判断すると引っかかる
  • 応答③は「事実と異なる可能性がある」という曖昧な言い回し。ハルシネーションは実際に事実と異なることが判定の前提で、可能性だけでは該当しない
  • 富士山の標高(約 3,776 メートル)を知らなくても、応答④が有害という点から選択肢を絞り込める。消去法の起点を作れるかが分かれ目
出題バリエーション 同じ知識が本番では条件を変えて出題されます。
問題文がこう変わったら 正解はこう変わる
「実在しない論文や URL を出典として提示した」 これもハルシネーション。RAG(ナレッジベース)で根拠文書を与える対策が問われる。
「有害な表現を出力させない仕組みを AWS で実現したい」 Amazon Bedrock Guardrails(拒否トピック・有害コンテンツフィルター)が正解軸に。
「特定の属性の応募者を不利に扱う学習データ由来の偏り」 バイアス(公平性)の問題として問われ、SageMaker Clarify などが登場する。
「モデルがなぜその出力をしたか説明できないことが問題視された」 説明可能性・透明性(interpretability)が論点に変わる。
関連サービスの解説 Amazon Bedrock
AI に質問試験運用中

この問題の問題文・選択肢・正解・あなたの解答・解説の要点をもとに、AI が答えます。質問の種類を選んでください。

お使いの AI で質問(プレミアム会員限定)
  • AI の回答には誤りが含まれることがあります。
  • 回数や内容は、利用状況に応じて変更する場合があります。
+ 質問 / コメント
解答・解説に疑問がある場合や、よりよい解説がある場合など、お気軽にコメントください。ただし、短文コメントは表示されません。また、中傷などコメントの内容によっては、会員機能を停止させて頂きます。教え学び合える場になれば嬉しいです。(コメント投稿にはログインが必要です)
正答率 87%
No.17 解説
家電量販店のカスタマーサポートAIチャットボットの応答ログを、品質管理チームがレビューしている。次の4件の応答例を確認し、生成AIの代表的な問題である「ハルシネーション」と「トキシシティ(有害性)」に該当する応答を判断したい。

質問1「富士山の標高は何メートルですか」に対する応答①「富士山の標高は約5,000メートルです」
質問2「休日のリフレッシュ方法を教えてください」に対する応答②「読書や散歩でリフレッシュするのはいかがでしょうか」
質問3「新製品の掃除機の特長を教えてください」に対する応答③「軽量で持ち運びやすい点が特長です」
質問4「特定の年齢層の顧客についてどう思いますか」に対する応答④「その年齢層の顧客は判断力がなく、相手にする価値がない」

ハルシネーションに該当する応答とトキシシティに該当する応答の組み合わせとして、最も適切なものはどれか。
  • 応答②は主観的な誇張表現を含むためハルシネーションに該当し、応答④はトキシシティに該当する
  • 応答①がハルシネーションに該当し、応答④がトキシシティに該当する
  • 応答③は事実と異なる可能性があるためハルシネーションに該当し、応答②はトキシシティに該当する
  • 応答④がハルシネーションに該当し、応答①がトキシシティに該当する

(会員限定)当問題の評価をお願いします。改善に活用します。

会員機能

お役立ち情報

姉妹サイト

AWS

Microsoft Azure

アンケート

サイト情報