レート制限

専用クラウドのデフォルトのレート制限と変更をリクエストする方法

W&B 専用クラウドでは、インスタンスの安定性を維持するためにレート制限を設けています。トレーニングを拡大する場合や、より高いスループットが必要な場合は、W&B が制限を調整できます。このページでは、お使いの専用クラウドインスタンスに適用されるデフォルトの制限と、ワークロードでより多くの容量が必要な場合に引き上げをリクエストする方法を説明します。

​

デフォルトの制限と通知

次のセクションでは、デフォルトのレート制限を一覧表示し、制限を超えたときに W&B SDK がどのように動作するかを説明します。

以下のデフォルト制限は、プラットフォームの安定性を維持するためのものです。

Limit	Default	Scope
Filestream の 1 秒あたりのリクエスト数	500	プロジェクト
Filestream の 1 秒あたりの取り込み量	120 MB	プロジェクト
Filestream の 1 秒あたりのリクエスト数	2	run
run 作成の 1 秒あたりのリクエスト数	80	プロジェクト

制限を超えると、W&B SDK は HTTP レスポンス 429 を返し、SDK のログに HTTP 429: rate limit exceeded というメッセージが表示されます。SDK がどのように応答するかは、どの制限を超えたかによって異なります。

• Filestream のレート制限によって logging がクラッシュしたり失敗したりすることはありません。SDK が filestream リクエストに対して 429 レスポンスを受け取ると、レート制限されたそのリクエストをそのまま一定時間待機して再試行し、その間に後続の更新が蓄積されます。

• run 作成のレート制限に達すると、それ以上トレーニングを続行できなくなります。

HTTP 429: rate limit exceeded

W&B は、一般的な本番ワークロード向けにこれらのデフォルト値を推奨しています。レート制限を設定するを参照してください。ワークロードが継続的にこれらの制限を超える場合は、上限の引き上げを依頼するため、W&B サポート または担当の Account Solutions Engineer (AISE) にお問い合わせください。W&B が適切な調整範囲を判断できるよう、実験環境と利用パターンの詳細をお知らせください。