System Design入門 設計判断を数字とコードで確かめる
つくる 制限の選択
この回でやること
予約APIの条件を比べ、4つの制限方式から選ぶ理由を読み解きます。
- 読む 約 7 分
- 最後にクイズ 1 問
守る条件から方式を選ぶ
この章で見た制限方式には、いつでも優れているという順位はありません。席の予約サービスでも、空席を読む入口と決済へ送る出口では、守る条件が違います。
選ぶときは、譲れない条件から先に見ます。今回は4つの方式を比べて、利用者の希望と下流の上限が同時にある場面の選択を説明します。
同時に満たせない条件があります。下流が一定の速さしか受けられないのに、届いた要求を全部すぐ通すと、下流が処理できず予約が止まります。
この場合は下流の上限を先に守り、突発は待たせるか断ります。体験を優先するためにも、予約そのものを止めない条件から見ます。
譲れない順に比べる
まず、下流へ一定の間隔で送る必要があるかを確かめます。必要ならリーキーバケットでためて送り、待ち行列の容量も決めます。
その制約がなければ、画面を開いた瞬間の数回をまとめて通したいかを見ます。必要ならトークンバケットで札をため、許す突発の件数を決めます。
ただし、短時間の突発を許す条件と、直近の窓の上限が衝突する場合は、先に優先する条件を決めます。直近のどの区間でも回数を厳密に守りたいなら、スライド窓を選びます。
境目の集中まで許せるなら、固定窓が候補です。比較の軸は、一定に送ること、突発を通すこと、直近の回数を守ることです。
| 守りたい条件 | 候補 |
|---|---|
| 下流への送信間隔を一定にする | リーキーバケット |
| たまった枠で突発を通す | トークンバケット |
| 直近の窓の回数を守る | スライド窓 |
| 時計の区間ごとの目安を守る | 固定窓 |
境目で2倍通っても困らない使い方なら選べます。保存する状態は少なく済みますが、複数台で同じ上限を守るための共有カウンタは必要です。
予約サービスで解いてみる
DAU 3万人、1人1日6回なら平均は約2 QPSです。ピーク係数50で約100 QPS、1台が毎秒40件なら3台の処理能力は毎秒120件になります。
月5万円の予算内で3台を用意できても、外の決済サービスは毎秒8件までとします。空席の表示はすぐ返したくても、決済の出口には別の制限が必要です。
決済要求が24件まとめて来て、3秒の送信待ちを許せる例を考えます。空の行列に24件を受け、到着の0.125秒後から同じ間隔で送ると、24÷8=3秒で全部を送れます。
この出口にはリーキーバケットを選びます。トークンバケットで24件をまとめて通すと、下流が受けられる速さを超えます。固定窓やスライド窓で回数を数えるだけでも、送信間隔はそろいません。
空席を読む入口には、下流が突発に耐えられるならトークンバケットを置けます。置き場所を分ければ、読みの体験を守りながら決済の上限も守れます。