AWS認定資格 WEB問題集&徹底解説

AIプラクティショナー

正解 B問題
要復習(もう一度解きたい問題) 1 2 3 4
合格に向けて、もっと深く学習する
豊富な問題と詳細なAWSサービス解説を、24時間無料でお試しいただけます
プレミアム会員機能を無料で試す ❯
問題文と選択肢
企業がAmazon Bedrockを使用しており、モデルの出力で次の単語に考慮される最も可能性の高い候補の数を調整したいと考えています。このユースケースに対して、以下の推論パラメータのうちどれを推奨しますか?
  • 停止シーケンス(Stop sequences)
  • Top K(トップ K)
  • 温度(Temperature)
  • Top P(トップ P)
解説 頻出度★★★★★
この問題は、「次のトークンの候補の“数”を明示的に制限する」という一点で、Top K と Top P / 温度 / 停止シーケンスを区別できるかがポイント

A. 停止シーケンス(Stop sequences)

停止シーケンス(Stop sequences)は、モデルが生成を止める文字列を指定するパラメータ。指定した文字列が生成された時点で、それ以降のトークン生成が打ち切られる。
制御しているのは出力の終わり方(長さ)であって、次のトークンの候補数ではないため要件に合わない。

正解

B. Top K(トップ K)

Top K は、モデルが次のトークンとして検討する最も可能性の高い候補の「数」を指定するパラメータ。公式ドキュメントでも「モデルが次のトークンについて検討する最も可能性の高い候補の数」と定義されている。
例えば Top K = 50 なら、確率上位 50 個のトークンだけが選択対象になる。値を小さくすれば出力は予測可能に、大きくすれば多様になる。
「候補の数を調整したい」という要件そのものを表しており、これが正解。

C. 温度(Temperature)

温度(Temperature)は、次のトークンの確率分布の形状を変えるパラメータ。低くすると確率の高いトークンに偏った決定論的な出力に、高くすると確率の低いトークンも選ばれやすいランダムな出力になる。
ランダム性の度合いは変わるが、候補の個数を明示的に絞り込むわけではないため、この要件には不適。

D. Top P(トップ P)

Top P(Nucleus sampling)は、候補を累積確率のパーセンテージで絞り込むパラメータ。Top P = 0.8 なら、確率の高い順に足していって累積 80% に収まるトークン群が選択対象になる。
結果として候補数は変動し、「候補の数」を直接指定するものではない。数を指定したいなら Top K を使う。

これだけ覚える(記憶フック)
Top K は「候補の個数」、Top P は「候補の累積確率(%)」、温度は「確率分布の尖り具合」。
正解への思考ルート 問題文から要件を抽出し、選択肢の適否を判断するのがポイントです。
要件 判断ポイント
Amazon Bedrock の推論パラメータを選ぶ 推論パラメータは「ランダム性と多様性」(温度・Top P・Top K)「長さ」(停止シーケンス等)に大別される
→選択肢(A)を消す
次の単語(トークン)の候補を制御したい 生成を止める文字列を指定する停止シーケンスは長さの制御であり、候補の制御ではない
→選択肢(A)を消す
「最も可能性の高い候補の“数”」を調整 個数を直接指定できるのは Top K だけ。Top K = 50 なら上位 50 トークンが候補
→選択肢(B)が正解
候補の“数”であって“割合”や“ランダム性”ではない Top P は累積確率(%)温度は確率分布の形状を変えるもので、候補数の直接指定ではない
→選択肢(C・D)を消す
ひっかけポイント
  • Top K と Top P は名前も役割も似ているが、K は「個数」、P は「累積確率(%)」。問題文の「候補の数」という語が Top K を指す決定打
  • 「出力の多様性を調整する」だけの問題文なら温度・Top P・Top K のどれもが候補になり得る。「数」という限定語を読み落とすと選べなくなる
  • 温度は「ランダム性」を語るときの定番パラメータなので反射的に選びがちだが、温度は候補を切り捨てるのではなく確率を歪める
  • 停止シーケンスは唯一「生成の停止(長さ)」を扱うパラメータ。ランダム性・多様性のグループに属さないことを押さえれば即座に消せる
出題バリエーション 同じ知識が本番では条件を変えて出題されます。
問題文がこう変わったら 正解はこう変わる
「累積確率で上位 X% のトークンだけを候補にしたい」 Top P が正解に変わる。
「出力をできるだけ決定論的(毎回同じ)にしたい」 温度を低く(0 に近く)設定するのが正解軸に。
「モデルが特定の文字列を出したらそこで生成を打ち切りたい 停止シーケンスが正解に変わる。
「出力の最大トークン数を制限してコストを抑えたい」 最大トークン数(maxTokens / 応答の長さ)が正解軸に。
関連サービスの解説 Amazon Bedrock
リファレンス この問題を解くために必要な知識を扱う公式ドキュメントです。
知識項目 公式ドキュメント
Bedrock の推論パラメータ(Top K / Top P / 温度 / 停止シーケンス) 推論パラメータでレスポンスの生成に影響を与える - Amazon Bedrock
+ 質問 / コメント
解答・解説に疑問がある場合や、よりよい解説がある場合など、お気軽にコメントください。ただし、短文コメントは表示されません。また、中傷などコメントの内容によっては、会員機能を停止させて頂きます。教え学び合える場になれば嬉しいです。(コメント投稿にはログインが必要です)
正答率 70%
No.16 解説
企業がAmazon Bedrockを使用しており、モデルの出力で次の単語に考慮される最も可能性の高い候補の数を調整したいと考えています。このユースケースに対して、以下の推論パラメータのうちどれを推奨しますか?
  • 停止シーケンス(Stop sequences)
  • Top K(トップ K)
  • 温度(Temperature)
  • Top P(トップ P)

(会員限定)当問題の評価をお願いします。改善に活用します。