AWS認定資格 WEB問題集&徹底解説
データエンジニア-アソシエイト
問題文と選択肢
追加コストを抑えつつクローラーの実行時間を短縮するには、どうすればよいですか。
- Glue クローラーの Scanning rate パラメータを引き上げて、スキャン処理を高速化する
- 30 日より古いログファイルにライフサイクルルールを適用して S3 Glacier Flexible Retrieval に移行し、クローラーがアクセスするデータ量を減らす
- ログファイルを複数の小さいファイルに分割し、1 ファイルあたりの読み取り時間を短縮する
- Glue クローラーに除外パターンを設定し、30 日より古いログファイルのパスをクロール対象から除外する
A. Glue クローラーの Scanning rate パラメータを引き上げて、スキャン処理を高速化する
Scanning rate(スキャンレート)は、Amazon DynamoDB をデータソースにするクローラーで、テーブルの読み取りキャパシティのうちどれだけを使うかを指定するパラメータです。
本問のデータソースは Amazon S3 であり、そもそもこのパラメータは適用されません。仮に類似の設定があったとしても、スキャンする対象データ量そのものは減らないため、根本的な解決になりません。
「速度パラメータを上げれば速くなる」という直感を突いた誤答です。
B. 30 日より古いログファイルにライフサイクルルールを適用して S3 Glacier Flexible Retrieval に移行し、クローラーがアクセスするデータ量を減らす
ライフサイクルルールで古いログを Amazon S3 Glacier Flexible Retrieval へ移す方法は、ストレージ料金の最適化としては妥当です。しかしストレージクラスの移行そのものにリクエスト料金が発生し、ログファイルが大量にあるほど(オブジェクト単位で課金されるため)コストがかさみます。
また最低保存期間(90 日)の課金や、後から参照したくなった場合の復元作業といった副作用もあり、「追加コストを抑えつつ」という判断軸から外れます。
クロール時間を短縮したいだけなら、データを動かさずに対象から外す方が確実で安上がりです。
C. ログファイルを複数の小さいファイルに分割し、1 ファイルあたりの読み取り時間を短縮する
ファイルを小さく分割すると、S3 上のオブジェクト数が増えてクローラーの走査対象が増えるため、実行時間はむしろ悪化します。1 ファイルあたりの読み取りは軽くなっても、リストと読み取りの往復回数が増えるからです。
小さなファイルが大量にある状態は Athena のクエリ性能にも悪影響を与えるため、データレイクでは逆に小さなファイルをまとめる(コンパクション)のが定石です。
直感に反する方向の最適化を選ばせる誤答です。
D. Glue クローラーに除外パターンを設定し、30 日より古いログファイルのパスをクロール対象から除外する
AWS Glue クローラーには、クロール対象から特定のパスを外す除外パターン(glob 形式)を設定できます。30 日より古いログのパスを除外すれば、クローラーが走査するオブジェクト数が直接減り、実行時間が短縮されます。
データを移動・変換する必要がないため追加コストはゼロで、除外したファイルも S3 にそのまま残るので、必要になれば設定を戻すだけで再びクロールできます。
「分析に使わないデータはそもそもクロールしない」という、要件に最も素直に応える方法です。
クローラーが遅い=見せているデータが多すぎる。速くする前に、除外パターンで「見せない」。
正解への思考ルート
問題文から要件を抽出し、選択肢の適否を判断するのがポイントです。| 要件 | 判断ポイント |
|---|---|
| クローラーの実行時間が長い(スキーマ検出が終わらない) | 実行時間は走査するオブジェクト数にほぼ比例する。まず対象を減らせないかを考える →選択肢(D)が正解・選択肢(C)を消す |
| 分析対象は直近 30 日以内のログのみ | 使わないデータはクロール対象から除外すればよい。データそのものを動かす必要はない →選択肢(D)が正解 |
| 追加コストを抑えたい | ストレージクラスの移行は移行リクエスト料金が発生する。除外パターンの設定は無料 →選択肢(B)を消す |
| データソースは Amazon S3 | Scanning rate はDynamoDB をソースにするクローラー向けのパラメータで S3 には無関係 →選択肢(A)を消す |
ひっかけポイント
- 「Scanning rate を引き上げる」は速度チューニングらしく見えるが、DynamoDB ソース専用のパラメータ。S3 のクロールには存在しない
- ファイル分割は「1 ファイルが軽くなる=速くなる」と錯覚しやすいが、スモールファイル問題でクローラーも Athena も遅くなる
- Glacier への移行はストレージ料金は下がるがリクエスト料金は増える。「追加コストを抑えつつ」という判断軸に引っかける選択肢
- 除外パターンはデータを消さない。「古いログを削除する」選択肢と混同せず、カタログに載せる範囲を絞るだけだと理解する
出題バリエーション
同じ知識が本番では条件を変えて出題されます。| 問題文がこう変わったら | 正解はこう変わる |
|---|---|
| 「毎日クローラーを再実行しており、新しく追加された分だけを素早く反映したい」 | 増分クロール(クロール新規フォルダーのみ)の設定が正解軸に。 |
| 「古いログはもう保存する必要すらないためコストを下げたい」 | S3 ライフサイクルによる失効(削除)やアーカイブが正解に浮上する。 |
| 「日付ごとのフォルダ構成で Athena のスキャン量を減らしたい」 | パーティション(および Partition Projection)の設計が正解軸に。 |
| 「スキーマが安定しており、そもそもクローラーを使いたくない」 | Glue Data Catalog へ手動でテーブル定義する、または Athena の DDL で作成する方法が正解に。 |
| 「小さなログファイルが大量にありクエリ性能が落ちている」 | ファイルのコンパクションと列指向フォーマット(Parquet)への変換が正解軸に。 |
追加コストを抑えつつクローラーの実行時間を短縮するには、どうすればよいですか。
- Glue クローラーの Scanning rate パラメータを引き上げて、スキャン処理を高速化する
- 30 日より古いログファイルにライフサイクルルールを適用して S3 Glacier Flexible Retrieval に移行し、クローラーがアクセスするデータ量を減らす
- ログファイルを複数の小さいファイルに分割し、1 ファイルあたりの読み取り時間を短縮する
- Glue クローラーに除外パターンを設定し、30 日より古いログファイルのパスをクロール対象から除外する
次の問題前の問題
会員機能
お役立ち情報
- プレミアム会員のご紹介
- 「徹底解説」のご紹介
- 「模擬試験」のご紹介
- 収録問題と試験ガイドの対応
- 会員機能のご紹介
- おすすめの勉強方法
- AWSサービスの解説
- AWS認定資格の種類・対象者・受験料・合格ライン
- スマホのホーム画面に登録する方法
姉妹サイト
- CLF:AWS 認定クラウドプラクティショナー
- SAA:AWS 認定ソリューションアーキテクト-アソシエイト
- AIF:AWS 認定AIプラクティショナー
- SOA:AWS 認定CloudOpsエンジニア-アソシエイト
- DVA:AWS 認定デベロッパー-アソシエイト
- DEA:AWS 認定データエンジニア-アソシエイト
- MLA:AWS 認定機械学習エンジニア-アソシエイト
- SAP:AWS 認定ソリューションアーキテクト-プロフェッショナル
- DOP:AWS 認定DevOpsエンジニア-プロフェッショナル
- AIP:AWS 認定生成AIデベロッパー-プロフェッショナル
- SCS:AWS 認定セキュリティ-専門知識
- AZ-900:Microsoft Azure Fundamentals
- AI-900:Microsoft Azure AI Fundamentals