System Design入門 設計判断を数字とコードで確かめる
キュー
この回でやること
出す側と取る側を分け、キューが溢れたときの扱いを考えます。
- 読む 約 7 分
- 最後にクイズ 1 問
出す側と取る側を切り離す
予約が成立したら、確認メールをあとで送ります。送信待ちの仕事を置く入れ物がキューで、予約の処理が仕事を入れ、送信の処理が取り出します。
出す側はメール送信の終了まで待たず、仕事が受け付けられたら次へ進めます。取る側は自分の処理できる速さで取り出すので、一時的な混雑を待ち行列として受け止められます。
仕事を並べる点は同じです。別の処理が使うキューでは、受け付けた仕事を失わない保存方法や、取り出して失敗した仕事をどう戻すかも決めます。
さらに、この予約サービスではキューに上限を設けます。取る側が止まっても入れ続けると、保存場所を使い切り、予約の処理まで止めるおそれがあるからです。
溢れたら中身に合わせて扱う
上限に達したら、確認メールの新しい仕事を断り、呼び出し側へ知らせます。入っていないのに受け付けたと返すと、送られるはずのメールが消えてしまいます。
断った件数と、入ってから取り出すまでの時間を見ます。件数の増加が止まっていても、長く待つ仕事があれば、メールの到着は遅れています。
確認メールは古い予約にも必要です。どれも捨ててはいけないので、満杯なら断った仕事の情報を呼び出し側に残し、あとで送り直せるようにします。
最新の値だけに意味がある情報なら、古いものを捨てる案もあります。確認メールに同じ扱いを使うと、先に予約した利用者の分だけ届かなくなります。
予約サービスで解いてみる
DAUが3万人、1人が1日6回アクセスするサービスの平均は約2 QPSです。ピーク係数50なら毎秒100件ですが、空席を見る要求も含むので、すべてがメールの仕事になるわけではありません。
ここでは混雑の10秒間に限り、毎秒100件すべてが予約となり、各予約からメールの仕事が出ると仮定します。キューは空で始まり、送信側は1台で毎秒40件を処理します。
残る件数は、入った件数から取り出した件数を引いて求めます。10秒で1000件入り、400件を取り出すので、600件が残ります。
| 見る量 | 計算 | 結果 |
|---|---|---|
| 入った仕事 | 100 × 10 | 1000件 |
| 取り出した仕事 | 40 × 10 | 400件 |
| 残った仕事 | 1000 − 400 | 600件 |
上限を1000件とすると、同じ速さが続き、待ち行列がさらに400件増えると満杯になります。毎秒60件ずつ増えるため、上限は混雑を永遠に受け止める仕組みにはなりません。
月5万円の予算で送信側を増やせるか、混雑が何秒続くかを確かめます。キューを大きくするだけでは送信は速くならないので、満杯時の通知と送り直す手順も必要です。