Gluon Trainノートブックのメモリ使用量は、主にデータセットのサイズ(レコード数(行)とカラム数)によって影響を受けます。
トレーニング用のインスタンスを選択する際、ユーザーはこれらの次元を考慮し、適切なメモリサイズを割り当てる必要があります。
さまざまなデータセットに対するメモリサイズの要件をユーザーが把握しやすくするため、このページでは、特定のデータセット内のレコード数とカラム数に対応するサンプルメモリ使用量を参考として提供します。
- 入力データセット: Criteo 1TB Dataset (https://ailab.criteo.com/download-criteo-1tb-click-logs-dataset/)
- 問題タイプ: 分類
- 制限時間: 6 * 60 * 60秒 ( = 6時間)
1億レコードを含むような大きなテーブルを入力として指定すると、メモリ不足エラーが発生する可能性があります。このような場合、Gluon Trainノートブック内の_sampling_threshold_パラメータを設定することを推奨します。
Treasure Data AutoMLはデフォルトで_sampling_threshold_に10Mを使用しており、通常はそれで十分です。トレーニングにデータセット全体を使用する必要はないかもしれません。
| レコード数(百万) | カラム数 | メモリ使用量(GiB) |
|---|---|---|
| 1 | 39 | 27.7 |
| 10 | 39 | 122.3 |
| 20 | 39 | 135.3 |
| 30 | 39 | 199.8 |
| 40 | 39 | 266.5 |
| 50 | 39 | 338.3 |
| レコード数(百万) | カラム数 | メモリ使用量(GiB) |
|---|---|---|
| 50 | 20 | 206 |
| 50 | 39 | 338.3 |