AWS認定資格 WEB問題集&徹底解説

機械学習エンジニア–アソシエイト

正解 C問題
分野4:ML ソリューションのモニタリング、保守、セキュリティ タスクステートメント4.1:モデル推論のモニタリング
合格に向けて、もっと深く学習する
豊富な問題と詳細なAWSサービス解説を、24時間無料でお試しいただけます
プレミアム会員機能を無料で試す ❯
問題文と選択肢
ある企業は、顧客の行動予測を行う機械学習モデルをAmazon SageMakerで本番運用しています。運用開始から数ヶ月が経過し、モデルの予測パフォーマンス維持が重要な課題となっています。特に、モデルの訓練時に使用したデータセットと、現在推論に用いられている入力データセットの統計的特性に乖離が生じていないかを継続的に把握したいと考えています。この状況で、データサイエンティストがまず監視すべき最も適切なドリフトタイプは何ですか。
  • 特徴量属性ドリフト
  • モデルパフォーマンスドリフト
  • データ分布ドリフト
  • 公平性ドリフト
解説 頻出度★★★★
この問題は、「訓練データと推論入力データの統計的特性の乖離を継続監視したい」という要件から、SageMaker Model Monitor が扱う 4 種類のドリフトのうちデータ分布ドリフト(データ品質モニタリング)を選べるかがポイント

A. 特徴量属性ドリフト

特徴量属性ドリフト(Feature Attribution Drift)は、SHAP 値などで測る各特徴量がモデル出力に与える寄与度(重要度)の変化を捉えるものです。SageMaker Clarify と連携した監視項目で、「どの特徴が効いているか」の変化を見ます。

設問が求めているのは「訓練データと推論入力データの統計的特性の乖離」であり、モデルの説明可能性ではありません。入力データそのものの分布変化を見る指標ではないため、まず監視すべき対象としては不適です。

B. モデルパフォーマンスドリフト

モデルパフォーマンスドリフト(モデル品質の劣化)は、精度・F1 スコア・MAE といった予測結果と正解ラベルを突き合わせて算出する指標の低下を指します。

これを測るには推論後に正解ラベル(グラウンドトゥルース)が揃うまで待つ必要があり、結果が分かるのは常に後追いです。設問は「入力データの統計的特性の乖離」を継続把握したいと明言しているため、正解ラベルを要しないデータ分布の監視が先に来ます。

正解

C. データ分布ドリフト

データ分布ドリフト(データドリフト/SageMaker Model Monitor のデータ品質モニタリング)は、訓練時のベースライン統計と、本番の推論入力データの統計量・制約を比較して乖離を検出する仕組みです。設問の「訓練時のデータセットと現在の入力データの統計的特性に乖離が生じていないか」という要件にそのまま一致します。

入力の分布ずれは精度低下の先行指標であり、正解ラベルが手に入らない段階でも検知できる点が実務上の利点です。まず監視すべきドリフトとして最も適切であり、これが正解です。

D. 公平性ドリフト

公平性ドリフト(バイアスドリフト)は、年齢や性別といったセンシティブな属性グループ間で予測結果に偏りが生じていないかを監視するもので、SageMaker Clarify のバイアスメトリクスを用います。

倫理・コンプライアンス上は重要な観点ですが、設問が問うのは入力データ全体の統計的特性の乖離であり、特定属性への差別的な予測の変化ではありません。監視の目的がずれています。

これだけ覚える(記憶フック)
「入力データの統計が学習時とズレた」=データドリフト。精度低下(モデル品質)より先に出る先行指標。
正解への思考ルート 問題文から要件を抽出し、選択肢の適否を判断するのがポイントです。
要件 判断ポイント
訓練時のデータセットと現在の推論入力データを比較したい 比較対象が入力データの統計量そのもの。ベースライン(訓練データ)との差分を見る監視が該当する
→選択肢(C)が正解
「統計的特性の乖離」を継続的に把握したい 精度・F1 などの予測結果の指標ではない。正解ラベルを必要としない監視である点が決め手
→選択肢(B)を消す
特徴量の「重要度」や「寄与度」への言及がない 特徴量属性ドリフトはモデル出力への寄与度の変化を見るもので、入力分布の監視とは別物
→選択肢(A)を消す
特定の属性グループ・差別的予測への言及がない 公平性(バイアス)ドリフトはセンシティブ属性に対する偏りの監視。設問の要件に含まれない
→選択肢(D)を消す
まず監視すべき「最も適切な」ドリフトタイプを 1 つ選ぶ 4 種類(データ品質/モデル品質/バイアス/特徴量属性)のうち、要件の文言に直接対応するものを選ぶ
→選択肢(C)が正解
ひっかけポイント
  • 「モデルの予測パフォーマンス維持が重要な課題」という前段に引っ張られて選択肢 B を選ばせるのが罠。目的はパフォーマンス維持だが、監視対象として名指しされているのは「入力データの統計的特性」
  • モデルパフォーマンスドリフトの監視は正解ラベル(グラウンドトゥルース)が必要で後追いになる。ラベル入手前に異変を掴めるのがデータドリフト監視
  • 「特徴量属性ドリフト」は名前に「特徴量」が入るため入力データの話に見えるが、実際は各特徴量の寄与度の変化を測る Clarify 系の指標
  • SageMaker Model Monitor はデータ品質・モデル品質・バイアスドリフト・特徴量属性ドリフトの 4 種類。この 4 分類を覚えていれば、要件文からどれかを一意に選べる
出題バリエーション 同じ知識が本番では条件を変えて出題されます。
問題文がこう変わったら 正解はこう変わる
「推論結果と正解ラベルを突き合わせて精度低下を検知したい」 モデル品質モニタリング(モデルパフォーマンスドリフト)が正解軸に。Ground Truth の取り込みが必要。
「特定の年齢層・性別グループへの予測の偏りが時間とともに拡大していないか監視したい」 バイアスドリフト監視(SageMaker Clarify 連携)が正解軸に。
「モデルの予測に対する各特徴量の寄与度が学習時から変化していないか見たい」 特徴量属性ドリフト監視(SHAP ベース)が正解軸に。
「データドリフトを検知する仕組みをどう構築するかを問われる」 データキャプチャの有効化 → 訓練データからベースライン作成 → 監視スケジュール設定の手順が正解軸に。
関連サービスの解説 Amazon SageMaker
リファレンス この問題を解くために必要な知識を扱う公式ドキュメントです。
知識項目 公式ドキュメント
SageMaker Model Monitor が監視する 4 種類のドリフト Amazon SageMaker Model Monitor を使用したデータとモデルの品質モニタリング - Amazon SageMaker AI
+ 質問 / コメント
解答・解説に疑問がある場合や、よりよい解説がある場合など、お気軽にコメントください。ただし、短文コメントは表示されません。また、中傷などコメントの内容によっては、会員機能を停止させて頂きます。教え学び合える場になれば嬉しいです。(コメント投稿にはログインが必要です)
正答率 60%
No.2 解説
ある企業は、顧客の行動予測を行う機械学習モデルをAmazon SageMakerで本番運用しています。運用開始から数ヶ月が経過し、モデルの予測パフォーマンス維持が重要な課題となっています。特に、モデルの訓練時に使用したデータセットと、現在推論に用いられている入力データセットの統計的特性に乖離が生じていないかを継続的に把握したいと考えています。この状況で、データサイエンティストがまず監視すべき最も適切なドリフトタイプは何ですか。
  • 特徴量属性ドリフト
  • モデルパフォーマンスドリフト
  • データ分布ドリフト
  • 公平性ドリフト

(会員限定)当問題の評価をお願いします。改善に活用します。