System Design入門 設計判断を数字とコードで確かめる
次に詰まる所
この回でやること
いまの構成で次に限界が来る場所を、負荷と上限の数字から読み取ります。
- 読む 約 7 分
- 最後にクイズ 1 問
余裕を倍率で見る
次に詰まる部品を説明するには、いまの負荷と上限を組にします。残っている数ではなく、いまの何倍まで耐えられるかを比べます。
余裕の倍率は、上限を現在の負荷で割った値です。保存先の接続とアプリの件数のように単位が違っても、倍率にすれば同じ尺度で比べられます。
接続の本数と毎秒の要求件数は、そのまま比較できません。倍率が小さい部品ほど、同じ割合で負荷が増えたとき先に上限へ届きます。
ただし、全ての負荷が同じ割合で伸びることが前提です。通知だけ増える変更なら、利用者数の倍率を全ての部品へ掛ける前に、どの負荷が増えるかを確認します。
予約サービスで解いてみる
DAU 3万、1人6回で平均約2 QPS、ピーク係数50で100 QPSを想定します。1台40件毎秒のアプリを3台置くと、合計の上限は120 QPSです。
月5万円の予算内で次の手を決めるため、ピーク時の測定値を並べます。保存先とキューの上限は、この説明用に置いた仮の値です。
| 部品 | 現在の負荷 | 上限 | 余裕の倍率 |
|---|---|---|---|
| アプリ | 100 QPS | 120 QPS | 1.2倍 |
| 保存先 | 接続50本 | 接続100本 | 2倍 |
| キュー | 滞留150件 | 滞留900件 | 6倍 |
倍率は120÷100=1.2、100÷50=2、900÷150=6です。負荷が一様に1.5倍になると、アプリは150 QPSで上限を超え、接続75本と滞留225件は上限内です。
小数を切り捨てると、1.2倍と1.9倍を同じ1倍として扱ってしまいます。余裕の比較では小数も残し、上限と等しい状態には余裕が無いことも区別します。
直すと次の限界が現れる
アプリだけを6台へ増やせば、上限は240 QPSで余裕は2.4倍になります。ほかの負荷と上限が変わらないと仮定すれば、次は余裕2倍の保存先が先に詰まります。
揃えても、負荷がその倍率を超えれば詰まります。増設後は接続数も変わり得るので、仮定だけで終えず、ピーク時の測定をやり直します。
あえて入口の受け付ける量を低くし、保存先が限界へ届く前に断る方法もあります。全てを同じ上限にせず、先に止める場所と見る数字を決めるためです。
キューの滞留は処理時間によっても増えるので、件数と待ち時間を併せて見ます。数字から次の部品を挙げ、予算内の対策を選び、対策後に再測定するところまでを決定に残します。